Fractile-bemutató a Quasán: új generációs AI-inferenciachipek

#Quasa #QUA #fractile

Fractile egy egyesült királyságbeli, mélytechnológiával foglalkozó vállalat, amely a legfejlettebb modellek inferenciájának radikális felgyorsítására tervezett speciális processzorokat fejleszt. Legfontosabb innovációjuk a memória és a számítási egységek fizikai összefonása ugyanazon a szilíciumlapkán — ez az architektúra áthidalja a memória és a feldolgozás hagyományos elkülönítését, amely jelenleg korlátozza a nagy nyelvi modellek inferenciájának sebességét és költséghatékonyságát.

A tranzisztorszintű tervezéstől a felhőalapú inferenciaszoftverekig terjedő, teljes technológiai vertikumot átfogó megközelítésével a Fractile egyszerre kíván alacsony késleltetést és nagy áteresztőképességet biztosítani. A vállalat állítása szerint processzorai a legfejlettebb modelleket akár 25× gyorsabban és a meglévő megoldások költségének megközelítőleg 1/10-éért képesek futtatni, miközben több ezer egyidejű felhasználót szolgálnak ki hatékonyan, másodpercenként több ezer tokennel.

Ez a teljesítményjavulás várhatóan nemcsak a jelenlegi rendszerek működését optimalizálja, hanem új lehetőségeket is megnyit: jelentősen hosszabb kontextusablakokat tesz lehetővé, és az olyan összetett autonóm feladatok, mint a kutatás vagy a nagyszabású szoftverfejlesztés, amelyek ma többnapos emberi munkát igényelnek, akár percek alatt elvégezhetővé válhatnak.

A Fractile $220 million összegű tőkét vont be olyan befektetőktől, mint az Accel, a Factorial Funds és Peter Thiel Founders Fund nevű alapja. A Bristolban és Londonban dolgozó csapat mélyreható hardveres, szoftveres és AI-rendszerekkel kapcsolatos szakértelmet egyesít.

A Fractile ideális olyan AI-laboratóriumok, felhőszolgáltatók és nagyvállalatok számára, amelyeknek a legfejlettebb modellek nagyléptékű inferenciájához drámaian gyorsabb és költséghatékonyabb megoldásra van szükségük.

Főbb jellemzők

• Innovatív architektúra összefonódó memóriával és számítási egységekkel.
• Állításuk szerint akár 25× gyorsabb inferencia ~1/10 költséggel.
• Alacsony késleltetés és nagy áteresztőképesség egyidejű biztosítására tervezve.
• A teljes technológiai vertikumot átfogó fejlesztés a szilíciumlapkától a szoftverig.
• Jelentős finanszírozás és tapasztalt műszaki csapat.

• Lehetséges mérlegelési szempontok

• A hardver még fejlesztés alatt áll (a kereskedelmi forgalomba kerülő chipek később várhatók).
• A jelenlegi teljesítményadatok belső eredményeken és szimulációkon alapulnak.
• Leginkább olyan szervezetek számára releváns, amelyek nagyléptékű inferenciainfrastruktúrát terveznek.

Összesített értékelés: 4.6/5 csillag

A Fractile a modern AI egyik legkritikusabb szűk keresztmetszetére kínál megoldást — a legfejlettebb modellek inferenciájának magas költségére és korlátozott sebességére. A memória és a számítási egységek kapcsolatának szilíciumszintű újratervezésével a vállalat érdemben megváltoztathatja a fejlett AI-modellek futtatásának gazdaságosságát.

Szerezz te is QUA-jutalmat a Quasa.io oldalon írt értékeléseddel!

Kezdd itt: https://quasa.io/projects/fractile