Fractile-resensie op Quasa: Volgendegenerasie-skyfies vir KI-inferensie

#Quasa #QUA #fractile

Fractile is ʼn dieptegnologiemaatskappy in die Verenigde Koninkryk wat gespesialiseerde verwerkers bou wat ontwerp is om inferensie met grensverskuiwende modelle radikaal te versnel. Hul kerninnovasie is die fisiese vervlegting van geheue en verwerking op dieselfde silikon — ʼn argitektuur wat die tradisionele skeiding tussen geheue en verwerking oorkom wat tans sowel die spoed as die koste van inferensie met groot taalmodelle beperk.

Deur ʼn benadering te volg wat die volle tegnologiestapel dek (van ontwerp op transistorvlak tot sagteware vir inferensie in die wolk), beoog Fractile om lae latensie en hoë deurset gelyktydig te lewer. Die maatskappy beweer dat sy verwerkers die mees gevorderde modelle tot 25× vinniger en teen ongeveer 1/10th van die koste van bestaande oplossings kan laat werk, terwyl dit duisende tekseenhede per sekonde doeltreffend aan duisende gelyktydige gebruikers lewer.

Hierdie prestasieverbetering sal na verwagting nie net huidige ontplooiings optimaliseer nie, maar ook nuwe moontlikhede ontsluit: aansienlik langer konteksvensters en komplekse outonome take (soos navorsing of grootskaalse sagtewareontwikkeling) wat vandag dae se menslike inspanning verg, kan moontlik tot minute verkort word.

Fractile het $220 miljoen ingesamel van beleggers, waaronder Accel, Factorial Funds en Peter Thiel se Founders Fund. Die span werk in Bristol en Londen en kombineer diepgaande kundigheid in hardeware, sagteware en KI-stelsels.

Fractile is ideaal vir KI-laboratoriums, wolkdiensverskaffers en ondernemings wat veel vinniger en meer kostedoeltreffende inferensie met grensverskuiwende modelle op groot skaal benodig.

Hoogtepunte

• Innoverende argitektuur met vervlegte geheue en verwerking.
• Na bewering tot 25× vinniger inferensie teen ~1/10th van die koste.
• Ontwerp vir gelyktydige lae latensie en hoë deurset.
• Ontwikkeling oor die volle tegnologiestapel van silikon tot sagteware.
• Sterk befondsing en ʼn ervare tegniese span.

• Moontlike oorwegings

• Hardeware is nog in ontwikkeling (kommersiële skyfies word later verwag).
• Huidige prestasiesyfers is op interne resultate en simulasies gegrond.
• Die mees relevante vir organisasies wat grootskaalse inferensie-infrastruktuur beplan.

Algehele oordeel: 4.6/5 sterre

Fractile pak een van die kritiekste knelpunte in moderne KI aan — die hoë koste en beperkte spoed van inferensie met grensverskuiwende modelle. Deur die verhouding tussen geheue en verwerking op silikonvlak te herontwerp, het die maatskappy die potensiaal om die ekonomiese grondslag van die gebruik van gevorderde KI-modelle wesenlik te verander.

Verdien ook ʼn QUA-beloning deur ʼn resensie op Quasa.io te skryf!

Begin hier: https://quasa.io/projects/fractile