Fractile؛ بررسی در Quasa: تراشه‌های نسل بعدی برای استنتاج هوش مصنوعی

#Quasa #QUA #fractile

Fractile شرکتی بریتانیایی در حوزهٔ فناوری‌های پیشرفته است که پردازنده‌های تخصصی برای افزایش چشمگیر سرعت استنتاج مدل‌های پیشرو می‌سازد. نوآوری اصلی این شرکت، درهم‌تنیدن فیزیکی حافظه و بخش محاسبات روی یک قطعهٔ سیلیکونی است — معماری‌ای که بر جدایی سنتی حافظه و پردازش غلبه می‌کند؛ جدایی‌ای که در حال حاضر هم سرعت و هم هزینهٔ استنتاج مدل‌های زبانی بزرگ را محدود می‌کند.

Fractile با اتخاذ رویکردی جامع در تمام لایه‌ها (از طراحی در سطح ترانزیستور تا نرم‌افزار استنتاج ابری)، قصد دارد تأخیر کم و توان عملیاتی بالا را هم‌زمان فراهم کند. این شرکت ادعا می‌کند پردازنده‌هایش می‌توانند پیشرفته‌ترین مدل‌ها را تا 25× سریع‌تر و با تقریباً 1/10 هزینهٔ راهکارهای موجود اجرا کنند و در عین حال، با کارایی بالا هزاران توکن در ثانیه را به هزاران کاربر هم‌زمان ارائه دهند.

انتظار می‌رود این بهبود عملکرد نه‌تنها استقرارهای فعلی را بهینه کند، بلکه امکانات تازه‌ای را نیز فراهم سازد: پنجره‌های زمینهٔ به‌مراتب طولانی‌تر و وظایف خودمختار پیچیده (مانند پژوهش یا توسعهٔ نرم‌افزار در مقیاس بزرگ) که امروزه به روزها تلاش انسانی نیاز دارند، ممکن است در چند دقیقه انجام شوند.

Fractile مبلغ $220 million از سرمایه‌گذارانی از جمله Accel، Factorial Funds و Founders Fund متعلق به پیتر تیل جذب کرده است. اعضای تیم در بریستول و لندن فعالیت می‌کنند و تخصص عمیقی در سخت‌افزار، نرم‌افزار و سامانه‌های هوش مصنوعی را گرد هم آورده‌اند.

Fractile برای آزمایشگاه‌های هوش مصنوعی، ارائه‌دهندگان خدمات ابری و شرکت‌هایی ایدئال است که به استنتاجی به‌مراتب سریع‌تر و مقرون‌به‌صرفه‌تر برای مدل‌های پیشرو در مقیاس بزرگ نیاز دارند.

نکات برجسته

• معماری نوآورانه با درهم‌تنیدن حافظه و بخش محاسبات.
• ادعای استنتاج تا 25× سریع‌تر با ~1/10 هزینه.
• طراحی‌شده برای تأخیر کم و توان عملیاتی بالا به‌صورت هم‌زمان.
• توسعه در تمام لایه‌ها از سیلیکون تا نرم‌افزار.
• پشتوانهٔ مالی قوی و تیم فنی باتجربه.

• ملاحظات احتمالی

• سخت‌افزار همچنان در حال توسعه است (انتظار می‌رود تراشه‌های تجاری بعداً عرضه شوند).
• ارقام فعلی عملکرد بر نتایج داخلی و شبیه‌سازی‌ها مبتنی هستند.
• بیشترین کاربرد را برای سازمان‌هایی دارد که برای زیرساخت استنتاج در مقیاس بزرگ برنامه‌ریزی می‌کنند.

ارزیابی کلی: 4.6/5 ستاره

Fractile در حال پرداختن به یکی از حیاتی‌ترین گلوگاه‌های هوش مصنوعی مدرن است — هزینهٔ بالا و سرعت محدود استنتاج مدل‌های پیشرو. این شرکت با بازطراحی رابطهٔ حافظه و بخش محاسبات در سطح سیلیکون، این ظرفیت را دارد که جنبه‌های اقتصادی اجرای مدل‌های پیشرفتهٔ هوش مصنوعی را به‌طور معناداری تغییر دهد.

شما هم با ثبت بررسی در Quasa.io پاداش QUA بگیرید!

شروع کنید: https://quasa.io/projects/fractile