Subquadratic рецензија на Quasa: први субквадратни LLM

#Quasa #QUA #subquadratic

Subquadratic је компанија за истраживање и инфраструктуру у области најнапредније вештачке интелигенције која развија нову класу великих језичких модела. Њихов водећи модел, SubQ, први је LLM заснован на потпуно субквадратној архитектури ретке пажње. За разлику од традиционалних трансформера, код којих захтеви расту квадратно са дужином контекста ($O(n^2)$), код модела SubQ расту линеарно ($O(n)$), што закључивање над више милиона токена чини практичним и ефикасним.

SubQ је осмишљен посебно за задатке са дугим контекстом. Може да обради читава спремишта кода, дуге историје рада агената, вишемесечне захтеве за спајање кода и трајна стања у једном упиту без пада квалитета. Модел тренутно подржава контекстне прозоре до 12 милиона токена и постиже одличне резултате како на референтним тестовима проналажења информација у дугом контексту тако и на тестовима општег закључивања. При 1 милион токена, SubQ захтева драстично мање рачунарских ресурса (према тврдњама, 64.5× мање него густа пажња) и ради знатно брже од стандардних механизама пажње.

Компанија се усредсређује на начело да је “ефикасност интелигенција.” Решавањем квадратног уског грла на нивоу архитектуре, Subquadratic настоји да омогући нову генерацију агената вештачке интелигенције који заиста могу да раде са великим количинама контекста уместо да се ослањају на поделу на делове, сажимање или импровизована решења за проналажење информација.

Subquadratic је идеалан за програмере, агенте за програмирање, тимове у предузећима и истраживаче којима је потребно поуздано закључивање над дугим контекстом — посебно за анализу целокупне базе кода, агенте који раде током дужег периода и сложене задатке са више докумената.

Кључне предности

• Прва потпуно субквадратна LLM архитектура (са линеарним скалирањем).
• Контекст од више милиона токена (до 12M токена).
• Одлично проналажење информација у дугом контексту уз високу ефикасност.
• Осмишљен за цела спремишта и трајно стање агента.
• API компатибилан са OpenAI и интеграције са агентима за програмирање.

• Могуће напомене за разматрање

• Као најнапреднији истраживачки модел, његов шири екосистем и варијанте различитих величина и даље се развијају.
• Најпогоднији је за примене са дугим контекстом, пре него за опште ћаскање са кратким упитима.

Укупна оцена: 4.7/5 звездица

Subquadratic се бави једним од најважнијих ограничења садашњих великих језичких модела — квадратним растом трошкова механизма пажње. Омогућавајући практично закључивање над више милиона токена уз далеко мање рачунарских ресурса, SubQ представља значајан архитектонски искорак за агенте и апликације са дугим контекстом.

Зарадите QUA награду тако што ћете и ви написати рецензију на Quasa.io!

Почните: https://quasa.io/projects/subquadratic