Subquadratic-anmeldelse på Quasa: Den første subkvadratiske LLM-en

#Quasa #QUA #subquadratic

Subquadratic er et selskap i front innen AI-forskning og infrastruktur som utvikler en ny klasse av store språkmodeller. Flaggskipmodellen deres, SubQ, er den første LLM-en bygget på en fullt subkvadratisk arkitektur med glissen oppmerksomhet. I motsetning til tradisjonelle Transformers, som skalerer kvadratisk med kontekstlengden ($O(n^2)$), skalerer SubQ lineært ($O(n)$), noe som gjør resonnering over flere millioner tokens praktisk og effektivt.

SubQ er utviklet spesielt for oppgaver med lang kontekst. Den kan behandle hele kodearkiver, lange agenthistorikker, flere måneder med pull requests og vedvarende tilstander i én enkelt ledetekst uten kvalitetstap. Modellen støtter for øyeblikket kontekstvinduer på opptil 12 millioner tokens og leverer sterke resultater i sammenligningstester for både gjenfinning i lang kontekst og generell resonnering. Ved 1 million tokens krever SubQ dramatisk mindre beregningsressurser (angivelig 64.5× mindre enn tett oppmerksomhet) og kjører betydelig raskere enn standard oppmerksomhetsmekanismer.

Selskapet fokuserer på prinsippet om at “effektivitet er intelligens.” Ved å løse den kvadratiske flaskehalsen på arkitekturnivå har Subquadratic som mål å muliggjøre en ny generasjon AI-agenter som virkelig kan arbeide med store mengder kontekst, i stedet for å basere seg på oppdeling, oppsummering eller gjenfinningstriks.

Subquadratic er ideell for utviklere, kodeagenter, bedriftsteam og forskere som trenger pålitelig resonnering over lang kontekst — spesielt til analyse av hele kodebaser, langvarige agentkjøringer og komplekse oppgaver som omfatter flere dokumenter.

Høydepunkter

• Den første fullt subkvadratiske LLM-arkitekturen (med lineær skalering).
• Kontekst på flere millioner tokens (opptil 12M tokens).
• Sterk gjenfinning i lang kontekst med høy effektivitet.
• Utviklet for hele kodearkiver og vedvarende agenttilstand.
• OpenAI-kompatibelt API og integrasjoner med kodeagenter.

• Mulige hensyn

• Som forskningsmodell i front er modellen fortsatt under utvikling når det gjelder et bredere økosystem og varianter i ulike størrelser.
• Best egnet for bruksområder med lang kontekst fremfor generell chat med korte ledetekster.

Samlet vurdering: 4.7/5 stjerner

Subquadratic tar tak i en av de viktigste begrensningene ved dagens LLM-er — den kvadratiske kostnaden ved oppmerksomhet. Ved å levere praktisk resonnering over flere millioner tokens med langt mindre bruk av beregningsressurser representerer SubQ et betydelig arkitektonisk fremskritt for agenter og applikasjoner med lang kontekst.

Få QUA i belønning ved å skrive anmeldelser på Quasa.io du også!

Kom i gang: https://quasa.io/projects/subquadratic