Fractile op Quasa bewäert: KI-Inferenzchips vun der nächster Generatioun

#Quasa #QUA #fractile

Fractile ass eng Deep-Tech-Entreprise mat Sëtz a Groussbritannien, déi spezialiséiert Prozessoren entwéckelt, fir d'Inferenz vun de fortgeschrattste Modeller radikal ze beschleunegen. Hir wichtegst Innovatioun besteet doran, Späicher a Rechenunitéite physesch um selwechte Silizium mateneen ze verschachtelen — eng Architektur, déi déi traditionell Trennung tëscht Späicher a Veraarbechtung iwwerwannt, déi aktuell souwuel d'Geschwindegkeet wéi och d'Käschte vun der Inferenz vu grousse Sproochmodeller limitéiert.

Mat enger Approche, déi de ganze System ëmfaasst (vum Design um Transistorniveau bis zur Software fir d'Inferenz an der Cloud), wëll Fractile gläichzäiteg eng niddreg Latenz an en héijen Duerchsaz erreechen. D'Entreprise behaapt, datt hir Prozessoren déi fortgeschrattste Modeller bis zu 25× méi séier a fir ongeféier 1/10th vun de Käschte vun existente Léisunge bedreiwe kënnen, wärend se Dausende vu gläichzäitege Benotzer effizient mat Dausenden Tokens pro Sekonn versuergen.

Dës Leeschtungsverbesserung soll net nëmmen déi aktuell Asätz optiméieren, mee och nei Méiglechkeeten opmaachen: däitlech méi laang Kontextfënsteren a komplex autonom Aufgaben (wéi Fuerschung oder Softwareentwécklung a groussem Moossstaf), déi haut Deeg vu mënschlecher Aarbecht erfuerderen, kéinte méiglecherweis op Minutte verkierzt ginn.

Fractile huet $220 million vun Investisseure kritt, dorënner Accel, Factorial Funds an de Founders Fund vum Peter Thiel. D'Ekipp schafft zu Bristol a London a vereent déifgräifend Fachkenntnesser an Hardware, Software a KI-Systemer.

Fractile ass ideal fir KI-Laboratoiren, Cloud-Ubidder an Entreprisen, déi eng däitlech méi séier a méi käschteneffizient Inferenz fir déi fortgeschrattste Modeller a groussem Moossstaf brauchen.

Héichpunkten

• Innovativ Architektur matenee verschachtelte Späicher a Rechenunitéiten.
• Laut eegenen Aussoe bis zu 25× méi séier Inferenz fir ~1/10th vun de Käschten.
• Fir eng gläichzäiteg niddreg Latenz an en héijen Duerchsaz entwéckelt.
• Entwécklung vum ganze System vum Silizium bis zur Software.
• Staark Finanzéierung an eng erfueren technesch Ekipp.

• Méiglech Aspekter fir ze berücksichtegen

• D'Hardware ass nach an der Entwécklung (kommerziell Chips gi méi spéit erwaart).
• Déi aktuell Leeschtungszuelen baséieren op interne Resultater a Simulatiounen.
• Besonnesch relevant fir Organisatiounen, déi eng Inferenzinfrastruktur a groussem Moossstaf plangen.

Gesamtbewäertung: 4.6/5 Stären

Fractile geet ee vun de kriteschsten Enkpäss an der moderner KI un — déi héich Käschten an déi limitéiert Geschwindegkeet vun der Inferenz vun de fortgeschrattste Modeller. Andeems d'Entreprise d'Zesummespill tëscht Späicher a Rechenunitéiten um Siliziumniveau nei entwéckelt, huet si d'Potenzial, d'Wirtschaftlechkeet vum Betrib vu fortgeschrattene KI-Modeller wesentlech ze veränneren.

Verdéng och eng QUA-Belounung, andeems s du eng Bewäertung op Quasa.io ofgëss!

Lee lass: https://quasa.io/projects/fractile