Subquadratic – recension på Quasa: Den första subkvadratiska LLM:en

#Quasa #QUA #subquadratic

Subquadratic är ett företag inom banbrytande AI-forskning och infrastruktur som utvecklar en ny klass av stora språkmodeller. Deras flaggskeppsmodell, SubQ, är den första LLM:en som bygger på en helt subkvadratisk arkitektur med gles uppmärksamhet. Till skillnad från traditionella Transformers, som skalar kvadratiskt med kontextlängden ($O(n^2)$), skalar SubQ linjärt ($O(n)$), vilket gör resonemang över flera miljoner tokens praktiskt genomförbara och effektiva.

SubQ är särskilt utformad för uppgifter med lång kontext. Den kan bearbeta hela kodarkiv, långa agenthistoriker, flera månaders pull requests och beständiga tillstånd i en enda prompt utan kvalitetsförsämring. Modellen stöder för närvarande kontextfönster på upp till 12 miljoner tokens och presterar starkt i tester av både informationshämtning ur lång kontext och generell resonemangsförmåga. Vid 1 miljon tokens kräver SubQ dramatiskt mindre beräkningsresurser (enligt uppgift 64.5× mindre än tät uppmärksamhet) och körs betydligt snabbare än vanliga uppmärksamhetsmekanismer.

Företaget fokuserar på principen att “effektivitet är intelligens.” Genom att lösa den kvadratiska flaskhalsen på arkitekturnivå strävar Subquadratic efter att möjliggöra en ny generation AI-agenter som verkligen kan arbeta med stora mängder kontext i stället för att förlita sig på uppdelning i mindre delar, sammanfattning eller nödlösningar för informationshämtning.

Subquadratic är idealiskt för utvecklare, kodningsagenter, företagsteam och forskare som behöver tillförlitliga resonemang över lång kontext — särskilt för analys av hela kodbaser, långvarigt körande agenter och komplexa uppgifter som omfattar flera dokument.

Höjdpunkter

• Den första helt subkvadratiska LLM-arkitekturen (med linjär skalning).
• Kontext på flera miljoner tokens (upp till 12M tokens).
• Stark förmåga att hämta information ur lång kontext med hög effektivitet.
• Utformad för hela kodarkiv och beständiga agenttillstånd.
• OpenAI-kompatibelt API och integrationer med kodningsagenter.

• Saker att tänka på

• Som banbrytande forskningsmodell har den ett bredare ekosystem och storleksvarianter som fortfarande är under utveckling.
• Passar bäst för användningsfall med lång kontext snarare än allmän chatt med korta promptar.

Samlat omdöme: 4.7/5 stjärnor

Subquadratic tar sig an en av de viktigaste begränsningarna hos dagens LLM:er — den kvadratiska kostnaden för uppmärksamhet. Genom att möjliggöra praktiskt användbara resonemang över flera miljoner tokens med betydligt mindre beräkningsresurser innebär SubQ ett betydelsefullt arkitektoniskt steg framåt för agenter och tillämpningar med lång kontext.

Få en belöning i QUA genom att också skriva recensioner på Quasa.io!

Kom igång: https://quasa.io/projects/subquadratic