PrismML: Tathmini ya Mustakabali wa Modeli Kubwa za Lugha Zinazoendeshwa Kwenye Vifaa

#Quasa #QUA #prismml

PrismML ni kampuni ya utafiti wa AI yenye makao nchini Marekani (yenye mizizi imara katika Caltech) inayolenga changamoto muhimu: jinsi ya kuongeza uwezo wa akili katika modeli bila kuongeza ukubwa au uchangamano wake. Suluhisho lao ni modeli zenye msongamano mkubwa sana na zilizobanwa kwa kiwango kikubwa, zinazotoa utendaji mzuri huku zikitumia kumbukumbu, nishati na rasilimali za ukokotoaji kwa kiasi kidogo sana.

Bidhaa yao kuu, Bonsai 27B, ni modeli yenye vigezo bilioni 27 inayopatikana katika matoleo ya 1-bit (3.9 GB pekee) na mfumo wa thamani tatu (5.9 GB). Hii inawezesha modeli ya ukubwa huu kuendeshwa moja kwa moja kwenye simu mahiri na kompyuta mpakato — jambo ambalo hapo awali halikuwezekana kwa modeli za kawaida zinazotumia usahihi kamili. PrismML inadai kuwa toleo la 1-bit linatumia kumbukumbu pungufu kwa 14×, linafanya kazi kwa kasi zaidi kwa 8×, na linatumia nishati pungufu kwa 5× ikilinganishwa na modeli za kawaida za 16-bit, huku likiendelea kuwezesha utoaji wa hoja wa hatua nyingi, uitaji wa zana, mitiririko ya kazi ya mawakala wa AI, na uelewa wa aina mbalimbali za taarifa.

Falsafa kuu ya kampuni ni “msongamano wa uwezo wa akili” — kuongeza uwezo wa akili wenye manufaa kwa kila biti badala ya kuongeza tu idadi ya vigezo. Mbinu hii inalenga kutatua matatizo mawili makubwa kwa wakati mmoja: modeli kubwa ambazo haziwezi kutoshea kwenye vifaa binafsi, na mahitaji ya nishati yasiyo endelevu ya vituo vikubwa sana vya data.

PrismML inawafaa wasanidi programu, watengenezaji wa vifaa, watafiti, na kampuni zinazotaka AI yenye uwezo mkubwa inayoendeshwa moja kwa moja kwenye vifaa vyao, yenye ulinzi thabiti wa faragha, muda mfupi wa kusubiri majibu, na ufanisi mkubwa wa matumizi ya nishati.

Mambo Muhimu

• Ubanaji wa kiwango cha kimataifa wa 1-bit na mfumo wa thamani tatu (familia ya Bonsai).
• Bonsai 27B inaendeshwa kwenye simu kwa ~4 GB pekee.
• Maboresho makubwa katika matumizi ya kumbukumbu, kasi, na ufanisi wa matumizi ya nishati.
• Inawezesha utoaji wa hoja, matumizi ya zana, na uchakataji wa aina mbalimbali za taarifa moja kwa moja kwenye kifaa.
• Msingi imara wa utafiti kutoka Caltech.

Mambo ya Kuzingatia

• Kwa kuwa ni teknolojia mpya kwa kiasi fulani, usaidizi katika mfumo wake wa teknolojia na zana za kurekebisha modeli kwa mafunzo maalumu bado vinaendelea kupanuka.
• Kwa sasa, matokeo bora zaidi yanaonekana kwenye simu na kompyuta mpakato za kisasa zenye uwezo wa juu.

Tathmini ya Jumla: Nyota 4.6/5

PrismML inapanua mojawapo ya mipaka muhimu zaidi katika AI hivi sasa — kuwezesha matumizi halisi ya modeli kubwa kwenye vifaa vya kila siku. Kwa kuzingatia msongamano wa uwezo wa akili badala ya ukubwa pekee, kampuni inasaidia kuhamisha AI yenye uwezo mkubwa kutoka kwenye wingu hadi kwenye vifaa vya watumiaji kwa namna yenye manufaa.

Pata zawadi ya QUA kwa kutoa tathmini kwenye Quasa.io pia!

Anza: https://quasa.io/projects/prismml