Fractile aztergai Quasa-n: hurrengo belaunaldiko AI inferentziarako txipak

#Quasa #QUA #fractile

Fractile Erresuma Batuan egoitza duen teknologia sakoneko enpresa bat da, eta eredu aurreratuenen inferentzia errotik bizkortzeko diseinatutako prozesadore espezializatuak garatzen ditu. Haren berrikuntza nagusia memoria eta konputazioa silizio berean fisikoki tartekatzea da — arkitektura horrek memoriaren eta prozesamenduaren arteko ohiko bereizketa gainditzen du, gaur egun hizkuntza-eredu handien inferentziaren abiadura zein kostua mugatzen dituena.

Pila osoa hartzen duen ikuspegi baten bidez (transistore-mailako diseinutik hodeiko inferentzia-softwareraino), Fractile-k latentzia txikia eta prozesatze-ahalmen handia aldi berean eskaintzea du helburu. Enpresaren arabera, haren prozesadoreek eredu aurreratuenak 25× bizkorrago exekuta ditzakete, kostua egungo soluzioenaren 1/10th ingurukoa izanik; aldi berean, milaka token segundoko modu eraginkorrean zerbitza diezazkiekete aldi berean konektatutako milaka erabiltzaileri.

Errendimendu-hobekuntza horrek egungo inplementazioak optimizatzeaz gain, aukera berriak ere zabalduko dituela espero da: testuinguru-leiho nabarmen luzeagoak eta zeregin autonomo konplexuak (hala nola ikerketa edo eskala handiko software-garapena); gaur egun gizakien hainbat egunetako lana eskatzen duten zeregin horiek minututan egin ahal izango lirateke.

Fractile-k $220 million bildu ditu hainbat inbertitzailerengandik, besteak beste, Accel, Factorial Funds eta Peter Thiel-en Founders Fund funtsarengandik. Taldeak Bristolen eta Londresen egiten du lan, eta hardwarean, softwarean eta AI sistemetan eskarmentu sakona uztartzen du.

Fractile aproposa da eredu aurreratuenak eskala handian erabiltzeko inferentzia askoz bizkorragoa eta kostu aldetik eraginkorragoa behar duten AI laborategientzat, hodeiko zerbitzuen hornitzaileentzat eta enpresentzat.

Alderdi aipagarriak

• Arkitektura berritzailea, memoria eta konputazioa tartekatuta dituena.
• Enpresaren arabera, inferentzia 25× bizkorragoa, kostua ~1/10th izanik.
• Latentzia txikia eta prozesatze-ahalmen handia aldi berean eskaintzeko diseinatua.
• Pila osoaren garapena, siliziotik softwareraino.
• Finantzaketa sendoa eta eskarmentu handiko talde teknikoa.

• Kontuan hartzeko alderdiak

• Hardwarea garapen-fasean dago oraindik (txip komertzialak geroago iristea espero da).
• Egungo errendimendu-datuak barneko emaitzetan eta simulazioetan oinarritzen dira.
• Bereziki garrantzitsua da eskala handiko inferentzia-azpiegiturak planifikatzen ari diren erakundeentzat.

Balorazio orokorra: 4.6/5 izar

Fractile egungo AIaren oztopo larrienetako bati heltzen ari zaio — eredu aurreratuenen inferentziaren kostu handiari eta abiadura mugatuari. Memoriaren eta konputazioaren arteko harremana silizio-mailan birdiseinatuz, enpresak AI eredu aurreratuak exekutatzearen alderdi ekonomikoak nabarmen aldatzeko ahalmena du.

Irabazi QUA saria zuk ere Quasa.io-n iritzia emanez!

Hasi: https://quasa.io/projects/fractile