Subquadratic – recenze na Quasa: První subkvadratický LLM

#Quasa #QUA #subquadratic

Subquadratic je společnost zaměřená na špičkový výzkum a infrastrukturu v oblasti AI, která vyvíjí novou třídu velkých jazykových modelů. Její vlajkový model SubQ je první LLM postavený na plně subkvadratické architektuře s řídkou pozorností. Na rozdíl od tradičních Transformerů, jejichž výpočetní náročnost roste kvadraticky s délkou kontextu ($O(n^2)$), roste náročnost SubQ lineárně ($O(n)$), díky čemuž je usuzování nad mnoha miliony tokenů praktické a efektivní.

SubQ je navržen speciálně pro úlohy s dlouhým kontextem. Dokáže v jediném promptu zpracovat celé repozitáře kódu, dlouhé historie agentů, měsíce žádostí o začlenění změn a trvalé stavy bez zhoršení kvality. Model v současnosti podporuje kontextová okna o velikosti až 12 milionů tokenů a dosahuje velmi dobrých výsledků jak v benchmarcích vyhledávání v dlouhém kontextu, tak v benchmarcích obecného usuzování. Při 1 milionu tokenů vyžaduje SubQ výrazně méně výpočetních prostředků (podle uváděných údajů 64.5× méně než hustá pozornost) a běží podstatně rychleji než standardní mechanismy pozornosti.

Společnost se řídí zásadou, že “efektivita je inteligence.” Řešením kvadratického omezení na úrovni architektury chce Subquadratic umožnit vznik nové generace AI agentů, kteří dokážou skutečně pracovat s velkým množstvím kontextu, místo aby se spoléhali na dělení na části, shrnování nebo triky při vyhledávání.

Subquadratic je ideální pro vývojáře, programovací agenty, podnikové týmy a výzkumníky, kteří potřebují spolehlivé usuzování nad dlouhým kontextem — zejména pro analýzu celé kódové základny, dlouhodobě běžící agenty a složité úlohy zahrnující více dokumentů.

Hlavní přednosti

• První plně subkvadratická architektura LLM s lineárním škálováním.
• Kontext o velikosti mnoha milionů tokenů (až 12M tokenů).
• Velmi dobré vyhledávání v dlouhém kontextu s vysokou efektivitou.
• Navrženo pro celé repozitáře a trvalý stav agenta.
• API kompatibilní s OpenAI a integrace s programovacími agenty.

• Co je třeba zvážit

• Jde o model na špičce výzkumu, jehož širší ekosystém i nabídka velikostních variant se stále rozšiřují.
• Nejlépe se hodí pro použití s dlouhým kontextem spíše než pro běžný chat s krátkými prompty.

Celkové hodnocení: 4.7/5 hvězdiček

Subquadratic řeší jedno z nejvýznamnějších omezení současných LLM — kvadratickou výpočetní náročnost pozornosti. Tím, že umožňuje praktické usuzování nad mnoha miliony tokenů s mnohem nižšími výpočetními nároky, představuje SubQ významný pokrok v architektuře pro agenty a aplikace s dlouhým kontextem.

Získejte i vy odměnu v QUA za napsání recenze na Quasa.io!

Začněte: https://quasa.io/projects/subquadratic