Subquadratic am Test op Quasa: Den éischte subquadratesche LLM

#Quasa #QUA #subquadratic

Subquadratic ass eng Firma un der Spëtzt vun der KI-Fuerschung an -Infrastruktur, déi eng nei Klass vu grousse Sproochmodeller entwéckelt. Hire Flaggschëffmodell, SubQ, ass den éischten LLM, deen op enger vollstänneg subquadratescher Architektur mat dënn besater Opmierksamkeet baséiert. Am Géigesaz zu traditionellen Transformers, bei deenen de Rechenopwand quadratesch mat der Kontextlängt wiisst ($O(n^2)$), wiisst e bei SubQ linear ($O(n)$), wat logescht Denke mat ville Milliounen Token praktesch an effizient mécht.

SubQ ass speziell fir Aufgabe mat laangem Kontext entwéckelt. De Modell ka ganz Code-Repositorien, laang Verleef vun Agenten, Pull Requests aus e puer Méint a bestänneg Zoustänn an engem eenzege Prompt verschaffen, ouni datt d'Qualitéit ofhëlt. De Modell ënnerstëtzt aktuell Kontextfënstere vu bis zu 12 Milliounen Token a liwwert staark Resultater souwuel bei Benchmarks fir d'Erëmfanne vun Informatiounen a laangem Kontext wéi och fir allgemengt logescht Denken. Bei 1 Millioun Token brauch SubQ däitlech manner Recheleeschtung (den Aussoen no 64.5× manner wéi bei dicht besater Opmierksamkeet) a leeft däitlech méi séier wéi Standardmechanisme fir Opmierksamkeet.

D'Firma konzentréiert sech op de Prinzip, datt “Effizienz Intelligenz ass.” Andeems Subquadratic de quadrateschen Engpass um Niveau vun der Architektur léist, wëllt d'Firma eng nei Generatioun vu KI-Agenten erméiglechen, déi wierklech mat grousse Quantitéite vu Kontext schaffe kënnen, amplaz sech op d'Opdeelen a Stécker, Zesummefaassungen oder Noutléisunge fir d'Erëmfanne vun Informatiounen ze verloossen.

Subquadratic ass ideal fir Entwéckler, Programméieragenten, Ekippen an Entreprisen a Fuerscher, déi zouverlässegt logescht Denke mat laangem Kontext brauchen — besonnesch fir d'Analys vu ganze Codebasen, Agente mat laanger Lafzäit a komplex Aufgaben iwwer méi Dokumenter ewech.

Héichpunkten

• Éischt vollstänneg subquadratesch LLM-Architektur (mat linearem Wuesstem vum Rechenopwand).
• Kontext mat ville Milliounen Token (bis zu 12M tokens).
• Staarkt Erëmfanne vun Informatiounen a laangem Kontext mat héijer Effizienz.
• Fir ganz Repositorien entwéckelt a fir e bestännegen Zoustand vun Agenten.
• OpenAI-kompatibel API an Integratioune fir Programméieragenten.

• Méiglech Aspekter fir ze berücksichtegen

• Als Fuerschungsmodell un der Spëtzt vun der Entwécklung ginn de méi breeden Ekosystem an d'Variante mat ënnerschiddleche Gréisste weider ausgebaut.
• Am beschte fir Uwendunge mat laangem Kontext gëeegent, éischter wéi fir allgemeng Chatgespréicher mat kuerze Prompts.

Gesamtbewäertung: 4.7/5 Stären

Subquadratic geet eng vun de wichtegsten Aschränkunge vun aktuellen LLMe un — déi quadratesch Käschte vun der Opmierksamkeet. Andeems SubQ praktescht logescht Denke mat ville Milliounen Token bei däitlech manner Rechenopwand erméiglecht, stellt de Modell e bedeitende Fortschrëtt an der Architektur fir Agenten an Uwendunge mat laangem Kontext duer.

Verdéngt och eng Belounung a QUA, andeems Dir op Quasa.io eng Bewäertung ofgitt!

Fänkt un: https://quasa.io/projects/subquadratic