Fractile në Quasa: Vlerësim i çipave të gjeneratës së re për inferencën e AI

#Quasa #QUA #fractile

Fractile është një kompani e teknologjisë së avancuar me seli në Mbretërinë e Bashkuar, e cila po ndërton procesorë të specializuar të projektuar për të përshpejtuar rrënjësisht inferencën e modeleve më të avancuara. Risia e saj kryesore është ndërthurja fizike e memories dhe përpunimit në të njëjtin çip silikoni — një arkitekturë që kapërcen ndarjen tradicionale midis memories dhe përpunimit, e cila aktualisht kufizon si shpejtësinë, ashtu edhe efikasitetin e kostos së inferencës së modeleve të mëdha gjuhësore.

Duke ndjekur një qasje që përfshin të gjitha shtresat teknologjike (nga projektimi në nivel tranzistori deri te softueri për inferencë në renë kompjuterike), Fractile synon të ofrojë njëkohësisht vonesë të ulët dhe kapacitet të lartë përpunimi. Kompania pretendon se procesorët e saj mund të ekzekutojnë modelet më të avancuara deri në 25× më shpejt dhe me afërsisht 1/10 e kostos së zgjidhjeve ekzistuese, duke u shërbyer me efikasitet mijëra tokenë në sekondë mijëra përdoruesve të njëkohshëm.

Ky përmirësim i performancës pritet jo vetëm të optimizojë sistemet që përdoren aktualisht, por edhe të hapë mundësi të reja: dritare konteksti dukshëm më të gjata dhe detyra komplekse autonome (si kërkimi ose zhvillimi i softuerit në shkallë të gjerë), të cilat sot kërkojnë ditë të tëra pune njerëzore, mund të përfundohen potencialisht brenda pak minutash.

Fractile ka siguruar $220 milionë nga investitorë, përfshirë Accel, Factorial Funds dhe Founders Fund të Peter Thiel. Ekipi punon në Bristol dhe Londër dhe ndërthur ekspertizë të thellë në harduer, softuer dhe sisteme AI.

Fractile është ideal për laboratorët e AI, ofruesit e shërbimeve në renë kompjuterike dhe ndërmarrjet që kanë nevojë për inferencë shumë më të shpejtë dhe më efikase nga ana e kostos për modelet më të avancuara në shkallë të gjerë.

Pikat kryesore

• Arkitekturë novatore me memorie dhe përpunim të ndërthurur.
• Pretendohet inferencë deri në 25× më e shpejtë me ~1/10 e kostos.
• Projektuar për vonesë të ulët dhe kapacitet të lartë përpunimi njëkohësisht.
• Zhvillim në të gjitha shtresat teknologjike, nga silikoni te softueri.
• Financim i fuqishëm dhe ekip teknik me përvojë.

• Aspekte të mundshme për t’u marrë parasysh

• Hardueri është ende në zhvillim (çipat komercialë priten më vonë).
• Shifrat aktuale të performancës bazohen në rezultate të brendshme dhe simulime.
• Më i përshtatshëm për organizatat që planifikojnë infrastrukturë për inferencë në shkallë të gjerë.

Vlerësimi i përgjithshëm: 4.6/5 yje

Fractile po trajton një nga pengesat më kritike në AI moderne — koston e lartë dhe shpejtësinë e kufizuar të inferencës së modeleve më të avancuara. Duke riprojektuar marrëdhënien midis memories dhe përpunimit në nivel silikoni, kompania ka potencialin të ndryshojë ndjeshëm aspektin ekonomik të ekzekutimit të modeleve të avancuara të AI.

Fitoni edhe ju një shpërblim në QUA duke shkruar një vlerësim në Quasa.io!

Filloni: https://quasa.io/projects/fractile