Subquadratic Yatathminiwa kwenye Quasa: LLM ya Kwanza Yenye Ukuaji wa Chini ya Mraba

#Quasa #QUA #subquadratic

Subquadratic ni kampuni inayofanya utafiti wa hali ya juu wa AI na kujenga miundombinu yake, huku ikiunda kundi jipya la modeli kubwa za lugha. Modeli yao kuu, SubQ, ndiyo LLM ya kwanza iliyojengwa kwa usanifu wa uzingatiaji wa sehemu chache wenye ukuaji wa chini ya mraba katika mfumo mzima. Tofauti na Transformers za kawaida ambazo mahitaji yake huongezeka kwa kiwango cha mraba kadiri urefu wa muktadha unavyoongezeka ($O(n^2)$), mahitaji ya SubQ huongezeka kwa uwiano wa moja kwa moja ($O(n)$), hivyo kufanya utoaji wa hoja kwa kutumia mamilioni ya tokens uwezekane kwa ufanisi katika matumizi halisi.

SubQ imeundwa mahususi kwa kazi zinazohitaji muktadha mrefu. Inaweza kuchakata hazina nzima za msimbo, historia ndefu za mawakala, maombi ya kuunganisha mabadiliko ya msimbo ya miezi kadhaa, na hali zinazohifadhiwa kwa muda mrefu katika ingizo moja bila kushuka kwa ubora. Kwa sasa modeli hii inaruhusu madirisha ya muktadha ya hadi milioni 12 za tokens na inaonyesha utendaji mzuri katika vipimo vya urejeshaji wa taarifa kutoka kwenye muktadha mrefu na vya utoaji wa hoja kwa ujumla. Kwa milioni 1 ya tokens, SubQ inahitaji rasilimali chache sana za ukokotoaji (inadaiwa kuhitaji mara 64.5× chache kuliko uzingatiaji unaohusisha vipengele vyote) na hufanya kazi kwa kasi kubwa zaidi kuliko mifumo ya kawaida ya uzingatiaji.

Kampuni inazingatia kanuni kwamba “ufanisi ni akili.” Kwa kuondoa kikwazo cha ukuaji wa gharama kwa kiwango cha mraba katika usanifu wenyewe, Subquadratic inalenga kuwezesha kizazi kipya cha mawakala wa AI wanaoweza kufanya kazi kikamilifu na kiasi kikubwa cha muktadha badala ya kutegemea kuugawa katika vipande, kuufupisha, au kutumia mbinu za mkato za urejeshaji wa taarifa.

Subquadratic inafaa sana kwa wasanidi programu, mawakala wa kuandika msimbo, timu za makampuni, na watafiti wanaohitaji utoaji wa hoja wa kuaminika kwa kutumia muktadha mrefu — hasa kwa uchanganuzi wa msimbo mzima wa mradi, mawakala wanaofanya kazi kwa muda mrefu, na kazi changamano zinazohusisha nyaraka nyingi.

Mambo Muhimu

• Usanifu wa kwanza wa LLM wenye ukuaji wa chini ya mraba katika mfumo mzima (ukuaji wa uwiano wa moja kwa moja).
• Muktadha wa mamilioni ya tokens (hadi 12M tokens).
• Uwezo mkubwa wa kurejesha taarifa kutoka kwenye muktadha mrefu kwa ufanisi wa hali ya juu.
• Imeundwa kwa ajili ya hazina nzima za msimbo na hali ya wakala inayohifadhiwa kwa muda mrefu.
• API inayooana na OpenAI na miunganisho na mawakala wa kuandika msimbo.

• Mambo Yanayoweza Kuhitaji Kuzingatiwa

• Kwa kuwa ni modeli ya utafiti wa hali ya juu, mfumo mpana wa zana na huduma zinazoiunga mkono pamoja na matoleo ya ukubwa tofauti bado vinaendelea kupanuka.
• Inafaa zaidi kwa matumizi yanayohitaji muktadha mrefu kuliko mazungumzo ya kawaida yenye maingizo mafupi.

Tathmini ya Jumla: Nyota 4.7/5

Subquadratic inashughulikia mojawapo ya vikwazo muhimu zaidi vya LLM za sasa — gharama ya uzingatiaji inayokua kwa kiwango cha mraba. Kwa kuwezesha utoaji wa hoja kwa kutumia mamilioni ya tokens katika matumizi halisi huku ikitumia rasilimali chache zaidi za ukokotoaji, SubQ inawakilisha hatua muhimu ya maendeleo ya usanifu kwa mawakala na programu zinazotumia muktadha mrefu.

Jipatie zawadi ya QUA kwa kuandika tathmini kwenye Quasa.io pia!

Anza: https://quasa.io/projects/subquadratic