Subquadratic: Adolygiad ar Quasa o'r LLM Isgwadratig Cyntaf

#Quasa #QUA #subquadratic

Subquadratic yw cwmni ymchwil a seilwaith AI sy'n gwthio ffiniau'r maes ac yn adeiladu dosbarth newydd o fodelau iaith mawr. Eu prif fodel, SubQ, yw'r LLM cyntaf sydd wedi'i adeiladu ar bensaernïaeth sylw gwasgarog gwbl isgwadratig. Yn wahanol i Transformers traddodiadol sy'n graddio'n gwadratig wrth i hyd y cyd-destun gynyddu ($O(n^2)$), mae SubQ yn graddio'n llinol ($O(n)$), gan wneud rhesymu dros filiynau lawer o docynnau yn ymarferol ac yn effeithlon.

Mae SubQ wedi'i gynllunio'n benodol ar gyfer tasgau sy'n defnyddio cyd-destun hir. Gall brosesu storfeydd cod cyfan, hanesion hir asiantau, gwerth misoedd o geisiadau tynnu, a chyflyrau parhaus mewn un anogiad heb i'r ansawdd ddirywio. Ar hyn o bryd, mae'r model yn cefnogi ffenestri cyd-destun o hyd at 12 miliwn o docynnau ac yn perfformio'n gryf ar feincnodau adalw o gyd-destun hir a meincnodau rhesymu cyffredinol. Gyda 1 miliwn o docynnau, mae angen llawer iawn llai o gyfrifiannu ar SubQ (64.5× yn llai na sylw dwys, yn ôl yr honiad) ac mae'n rhedeg yn sylweddol gyflymach na mecanweithiau sylw safonol.

Mae'r cwmni'n canolbwyntio ar yr egwyddor mai “effeithlonrwydd yw deallusrwydd.” Drwy ddatrys y dagfa gwadratig ar lefel y bensaernïaeth, nod Subquadratic yw galluogi cenhedlaeth newydd o asiantau AI sy'n gallu gweithio go iawn gyda llawer iawn o gyd-destun yn hytrach na dibynnu ar rannu'n ddarnau, crynhoi, neu driciau adalw.

Mae Subquadratic yn ddelfrydol i ddatblygwyr, asiantau codio, timau menter ac ymchwilwyr sydd angen rhesymu dibynadwy dros gyd-destun hir — yn enwedig ar gyfer dadansoddi cronfeydd cod cyfan, asiantau sy'n rhedeg am gyfnodau hir, a thasgau cymhleth sy'n cynnwys sawl dogfen.

Uchafbwyntiau

• Y bensaernïaeth LLM gwbl isgwadratig gyntaf (sy'n graddio'n llinol).
• Cyd-destun o filiynau lawer o docynnau (hyd at 12M o docynnau).
• Gallu adalw cryf o gyd-destun hir gydag effeithlonrwydd uchel.
• Wedi'i gynllunio ar gyfer storfeydd cyfan a chyflwr parhaus asiantau.
• API sy'n gydnaws ag OpenAI ac integreiddiadau ag asiantau codio.

• Pwyntiau Posibl i'w Hystyried

• Gan ei fod yn fodel ymchwil sy'n gwthio ffiniau'r maes, mae'r ecosystem ehangach a'r ystod o amrywiadau maint yn dal i ehangu.
• Mae'n fwyaf addas ar gyfer defnyddiau sy'n gofyn am gyd-destun hir yn hytrach na sgwrsio cyffredinol ag anogiadau byr.

Dyfarniad Cyffredinol: 4.7/5 seren

Mae Subquadratic yn mynd i'r afael ag un o gyfyngiadau pwysicaf LLMs cyfredol — cost gwadratig sylw. Drwy alluogi rhesymu ymarferol dros filiynau lawer o docynnau gyda llawer iawn llai o gyfrifiannu, mae SubQ yn gam sylweddol ymlaen o ran pensaernïaeth ar gyfer asiantau a chymwysiadau sy'n defnyddio cyd-destun hir.

Enillwch wobr QUA drwy ysgrifennu adolygiad ar Quasa.io hefyd!

Dechreuwch: https://quasa.io/projects/subquadratic