Fractile apskats Quasa: nākamās paaudzes mākslīgā intelekta inferences mikroshēmas

#Quasa #QUA #fractile

Fractile ir Apvienotajā Karalistē bāzēts dziļo tehnoloģiju uzņēmums, kas izstrādā specializētus procesorus, lai būtiski paātrinātu vismodernāko modeļu inferenci. Uzņēmuma galvenā inovācija ir atmiņas un skaitļošanas elementu fiziska izkārtošana pamīšus vienā silīcija mikroshēmā — arhitektūra, kas pārvar tradicionālo atmiņas un datu apstrādes nošķīrumu, kurš pašlaik ierobežo lielo valodas modeļu inferences ātrumu un sadārdzina to.

Izmantojot pilna tehnoloģiju steka pieeju (no tranzistoru līmeņa projektēšanas līdz mākoņvides inferences programmatūrai), Fractile cenšas vienlaikus nodrošināt gan mazu aizturi, gan augstu caurlaidspēju. Uzņēmums apgalvo, ka tā procesori spēj darbināt vismodernākos modeļus līdz pat 25× ātrāk un par aptuveni 1/10th no esošo risinājumu izmaksām, vienlaikus efektīvi nodrošinot tūkstošiem tokenu sekundē tūkstošiem vienlaicīgu lietotāju.

Paredzams, ka šis veiktspējas uzlabojums ne tikai optimizēs pašreizējos risinājumus, bet arī pavērs jaunas iespējas: ievērojami garākus konteksta logus un sarežģītu autonomu uzdevumu (piemēram, pētniecības vai liela mēroga programmatūras izstrādes) izpildi, kas šodien prasa vairākas cilvēka darba dienas, potenciāli varētu saīsināt līdz dažām minūtēm.

Fractile ir piesaistījis finansējumu $220 million apmērā no investoriem, tostarp Accel, Factorial Funds un Pītera Tīla fonda Founders Fund. Komanda strādā Bristolē un Londonā un apvieno padziļinātas zināšanas aparatūras, programmatūras un mākslīgā intelekta sistēmu jomā.

Fractile ir ideāli piemērots mākslīgā intelekta laboratorijām, mākoņpakalpojumu sniedzējiem un uzņēmumiem, kuriem nepieciešama ievērojami ātrāka un izmaksu ziņā efektīvāka vismodernāko modeļu inference lielā mērogā.

Galvenās priekšrocības

• Inovatīva arhitektūra ar pamīšus izkārtotiem atmiņas un skaitļošanas elementiem.
• Saskaņā ar uzņēmuma apgalvojumiem līdz pat 25× ātrāka inference par ~1/10th no izmaksām.
• Izstrādāts, lai vienlaikus nodrošinātu mazu aizturi un augstu caurlaidspēju.
• Pilna tehnoloģiju steka izstrāde no silīcija mikroshēmām līdz programmatūrai.
• Ievērojams finansējums un pieredzējusi tehniskā komanda.

• Iespējamie apsvērumi

• Aparatūra vēl tiek izstrādāta (komerciālās mikroshēmas gaidāmas vēlāk).
• Pašreizējie veiktspējas rādītāji ir balstīti uz iekšējiem rezultātiem un simulācijām.
• Visvairāk piemērots organizācijām, kas plāno liela mēroga inferences infrastruktūru.

Kopējais vērtējums: 4.6/5 zvaigznes

Fractile risina vienu no būtiskākajiem mūsdienu mākslīgā intelekta šķēršļiem — vismodernāko modeļu inferences augstās izmaksas un ierobežoto ātrumu. Pārveidojot atmiņas un skaitļošanas mijiedarbību silīcija līmenī, uzņēmumam ir potenciāls būtiski mainīt progresīvu mākslīgā intelekta modeļu darbināšanas ekonomiku.

Arī tu vari nopelnīt QUA atlīdzību, publicējot atsauksmes Quasa.io!

Sāc šeit: https://quasa.io/projects/fractile