Subquadratic e Sekasekiwa mo Quasa: LLM ya Ntlha e e Golang ka Selekanyo se se Kwa Tlase ga sa Sekwere

#Quasa #QUA #subquadratic

Subquadratic ke khamphani ya dipatlisiso le mafaratlhatlha tsa AI e e kwa pele mo go tlhameng thekenoloji, e e agang setlhopha se sesha sa dimotlele tse dikgolo tsa puo. Motlolo wa yone o o eteletseng pele, SubQ, ke LLM ya ntlha e e agilweng ka thulaganyo ya kelotlhoko e e sa kitlanang, e kgolo ya yone e leng kwa tlase ga ya sekwere ka botlalo. Go farologana le di-Transformer tsa tlwaelo tse ditlhokego tsa tsone di golang ka sekwere sa boleele jwa tshedimosetso e di e sekasekang ($O(n^2)$), ditlhokego tsa SubQ di gola ka selekanyo se se tlhamaletseng ($O(n)$), go dira gore go akanya ka di-token tse di dimilione di le mmalwa go kgonege ka tsela e e mosola le e e sa senyeng metswedi.

SubQ e diretswe ka tlhamalalo ditiro tse di tlhokang go sekaseka tshedimosetso e telele. E kgona go sekaseka mabolokelo otlhe a khoutu, direkoto tse ditelele tsa ditiro tsa di-agent, dikopo tsa go tsenya diphetogo tsa khoutu tsa dikgwedi di le mmalwa, le maemo a a bolokwang a sa nyelele, tsotlhe mo taelong e le nngwe ntle le go fokotsega ga boleng. Gone jaanong motlolo o tshegetsa selekanyo sa tshedimosetso e e ka tsenngwang se se fitlhang go 12 million tokens mme o dira sentle mo ditekanyetsong tsa go batla tshedimosetso mo diteng tse ditelele le tsa go akanya ka kakaretso. Mo go 1 million tokens, SubQ e tlhoka bokgoni jo bonnye thata jwa khomphiutha (go bolelwa gore e tlhoka jo bo kwa tlase ka makgetlo a le 64.5× go na le kelotlhoko e e kitlaneng) mme e dira ka bonako jo bo kwa godimo thata go feta mekgwa e e tlwaelegileng ya kelotlhoko.

Khamphani e tsepamisitse mogopolo mo molaomotheong wa gore “go dirisa metswedi sentle ke botlhale.” Ka go rarabolola sekgoreletsi sa kgolo ya sekwere mo seemong sa thulaganyo ya motlolo, Subquadratic e ikaeletse go kgontsha kokomana e ntšhwa ya di-agent tsa AI tse ruri di ka dirang ka tshedimosetso e ntsi go na le go ikaega ka go e kgaoganya ka dikarolo, go e sobokanya, kgotsa maano a go batla tshedimosetso a go leka go fenya dithibelo.

Subquadratic e siametse batlhami ba disofotewere, di-agent tsa go kwala khoutu, ditlhopha tsa dikgwebo, le babatlisisi ba ba tlhokang go akanya mo go ikanyegang ka tshedimosetso e telele — segolobogolo mo tshekatshekong ya khoutu yotlhe, di-agent tse di dirang ka lobaka lo loleele, le ditiro tse di raraaneng tse di akaretsang ditokomane di le dintsi.

Dintlha tse di Tlhomologileng

• Thulaganyo ya ntlha ya LLM e kgolo ya yone e leng kwa tlase ga ya sekwere ka botlalo (e gola ka selekanyo se se tlhamaletseng).
• Tshedimosetso ya di-token tse di dimilione di le mmalwa (go fitlha go 12M tokens).
• Bokgoni jo bo maatla jwa go batla tshedimosetso mo diteng tse ditelele ka tiriso e e kwa godimo ya metswedi ka botswerere.
• E diretswe mabolokelo a khoutu a a feletseng le maemo a agent a a bolokwang a sa nyelele.
• API e e tsamaisanang le OpenAI le go golaganngwa le di-agent tsa go kwala khoutu.

• Dintlha tse di ka Tlhokang go Elwa Tlhoko

• E re ka e le motlolo wa dipatlisiso o o kwa pele mo go tlhameng thekenoloji, tikologo ya yone e e pharaletseng ya didiriswa le mefuta ya yone ya bogolo jo bo farologaneng di sa ntse di gola.
• E siametse thata ditiro tse di tlhokang tshedimosetso e telele go feta metlotlo ya kakaretso ya ditaelo tse dikhutshwane.

Katlholo ka Kakaretso: Dinaledi di le 4.7/5

Subquadratic e samagane le nngwe ya dithibelo tse di botlhokwa thata tsa di-LLM tsa gone jaanong — ditshenyegelo tsa kelotlhoko tse di golang ka sekwere. Ka go kgontsha go akanya mo go mosola ka di-token tse di dimilione di le mmalwa ka bokgoni jo bonnye thata jwa khomphiutha, SubQ e emela kgatelopele e e nang le bokao mo thulaganyong ya di-agent le di-app tse di dirisang tshedimosetso e telele.

Le wena iponele tuelo ya QUA ka go sekaseka mo Quasa.io!

Simolola: https://quasa.io/projects/subquadratic