Fractile рецензија на Quasa: Чипови нове генерације за извршавање ВИ модела

#Quasa #QUA #fractile

Fractile је компанија из Уједињеног Краљевства која развија напредне технологије и израђује специјализоване процесоре осмишљене да радикално убрзају извршавање најнапреднијих модела. Њихова кључна иновација је физичко преплитање меморије и рачунарских компоненти на истом силицијуму — архитектура која превазилази традиционалну раздвојеност меморије и обраде, која тренутно ограничава брзину и повећава трошкове извршавања великих језичких модела.

Приступом који обухвата цео технолошки стек (од пројектовања на нивоу транзистора до софтвера за извршавање модела у облаку), Fractile тежи да истовремено обезбеди ниску латенцију и високу пропусност. Компанија тврди да њени процесори могу да извршавају најнапредније моделе до 25× брже и уз приближно 1/10th трошкова постојећих решења, истовремено ефикасно испоручујући хиљаде токена у секунди хиљадама истовремених корисника.

Очекује се да ово побољшање перформанси неће само оптимизовати постојеће примене већ и отворити нове могућности: знатно дуже контекстне прозоре и сложене аутономне задатке (попут истраживања или развоја софтвера великих размера), који данас захтевају дане људског рада, а потенцијално би могли да се сведу на минуте.

Fractile је прикупио $220 милиона од инвеститора међу којима су Accel, Factorial Funds и Founders Fund Питера Тила. Тим ради у Бристолу и Лондону и обједињује дубоко стручно знање из области хардвера, софтвера и система вештачке интелигенције.

Fractile је идеалан за лабораторије за вештачку интелигенцију, пружаоце услуга у облаку и предузећа којима је потребно драстично брже и економичније извршавање најнапреднијих модела у великом обиму.

Најважније одлике

• Иновативна архитектура са испреплетеним меморијским и рачунарским компонентама.
• Према тврдњама, до 25× брже извршавање модела уз ~1/10th трошкова.
• Осмишљено да истовремено обезбеди ниску латенцију и високу пропусност.
• Развој целог технолошког стека од силицијума до софтвера.
• Значајна финансијска подршка и искусан технички тим.

• Могућа питања за разматрање

• Хардвер је још у развоју (комерцијални чипови очекују се касније).
• Тренутни подаци о перформансама заснивају се на интерним резултатима и симулацијама.
• Најрелевантније за организације које планирају инфраструктуру за извршавање модела у великом обиму.

Укупна оцена: 4.6/5 звездица

Fractile решава једно од најкритичнијих уских грла савремене вештачке интелигенције — високе трошкове и ограничену брзину извршавања најнапреднијих модела. Преобликовањем односа између меморије и рачунарских компоненти на нивоу силицијума, компанија има потенцијал да значајно промени економику покретања напредних модела вештачке интелигенције.

И ви зарадите QUA награду објављивањем рецензије на Quasa.io!

Почните: https://quasa.io/projects/fractile