Subquadratic: Vlerësim në Quasa për LLM-në e parë nënkuadratike

#Quasa #QUA #subquadratic

Subquadratic është një kompani kërkimore dhe infrastrukturore në fushën e AI-së së avancuar, e cila po ndërton një klasë të re modelesh të mëdha gjuhësore. Modeli i saj kryesor, SubQ, është LLM-ja e parë e ndërtuar mbi një arkitekturë plotësisht nënkuadratike të vëmendjes së rralluar. Ndryshe nga modelet tradicionale Transformer, ku kërkesat llogaritëse rriten në mënyrë kuadratike me gjatësinë e kontekstit ($O(n^2)$), te SubQ ato rriten në mënyrë lineare ($O(n)$), duke e bërë arsyetimin me shumë milionë tokenë praktik dhe efikas.

SubQ është projektuar posaçërisht për detyra me kontekst të gjatë. Ai mund të përpunojë depo të tëra kodi, historikë të gjatë agjentësh, kërkesa për bashkim kodi të grumbulluara gjatë muajve dhe gjendje të ruajtura në mënyrë të vazhdueshme, në një udhëzim të vetëm, pa ulje të cilësisë. Modeli aktualisht mbështet dritare konteksti deri në 12 milionë tokenë dhe ofron performancë të lartë në testet krahasuese si për gjetjen e informacionit në kontekste të gjata, ashtu edhe për arsyetimin e përgjithshëm. Me 1 milion tokenë, SubQ kërkon shumë më pak burime llogaritëse (sipas pretendimeve, 64.5× më pak se vëmendja e dendur) dhe funksionon dukshëm më shpejt se mekanizmat standardë të vëmendjes.

Kompania përqendrohet te parimi se “efikasiteti është inteligjencë.” Duke zgjidhur pengesën kuadratike në nivelin e arkitekturës, Subquadratic synon të mundësojë një brez të ri agjentësh të AI-së që mund të punojnë vërtet me sasi të mëdha konteksti, në vend që të mbështeten te ndarja në pjesë, përmbledhja apo zgjidhjet anësore për gjetjen e informacionit.

Subquadratic është ideal për zhvilluesit, agjentët e programimit, ekipet e ndërmarrjeve dhe kërkuesit që kanë nevojë për arsyetim të besueshëm me kontekst të gjatë — veçanërisht për analizën e të gjithë bazës së kodit, agjentët që punojnë për periudha të gjata dhe detyrat komplekse me shumë dokumente.

Veçoritë kryesore

• Arkitektura e parë plotësisht nënkuadratike e një LLM-je (me rritje lineare të kërkesave llogaritëse).
• Kontekst me shumë milionë tokenë (deri në 12M tokenë).
• Aftësi e lartë për gjetjen e informacionit në kontekste të gjata me efikasitet të lartë.
• Projektuar për depo të plota kodi dhe ruajtjen e vazhdueshme të gjendjes së agjentit.
• API e përputhshme me OpenAI dhe integrime me agjentë programimi.

• Aspekte të mundshme për t'u marrë parasysh

• Si model kërkimor i avancuar, ekosistemi më i gjerë dhe variantet me madhësi të ndryshme janë ende në zgjerim.
• Më i përshtatshëm për raste përdorimi me kontekst të gjatë sesa për biseda të përgjithshme me udhëzime të shkurtra.

Vlerësimi përfundimtar: 4.7/5 yje

Subquadratic po trajton një nga kufizimet më të rëndësishme të LLM-ve aktuale — koston kuadratike të vëmendjes. Duke ofruar arsyetim praktik me shumë milionë tokenë me shumë më pak burime llogaritëse, SubQ përfaqëson një hap të rëndësishëm përpara në arkitekturë për agjentët dhe aplikacionet me kontekst të gjatë.

Fitoni edhe ju një shpërblim në QUA duke dhënë një vlerësim në Quasa.io!

Filloni: https://quasa.io/projects/subquadratic