PrismML apskats: lielo valodas modeļu nākotne ierīcēs

#Quasa #QUA #prismml

PrismML ir ASV bāzēts mākslīgā intelekta pētniecības uzņēmums (ar ciešām saknēm Caltech), kas pievēršas būtiskam izaicinājumam: kā daudzkārt palielināt modeļu intelektu, nepalielinot to izmēru vai sarežģītību. Uzņēmuma risinājums ir īpaši blīvi, ievērojami saspiesti modeļi, kas nodrošina augstu veiktspēju, vienlaikus patērējot krasi mazāk atmiņas, enerģijas un skaitļošanas resursu.

Uzņēmuma vadošais produkts Bonsai 27B ir modelis ar 27 miljardiem parametru, kas pieejams 1-bit (tikai 3.9 GB) un ternārajā (5.9 GB) versijā. Tas ļauj šāda mēroga modeli darbināt tieši viedtālruņos un klēpjdatoros — kas iepriekš nebija iespējams ar standarta pilnas precizitātes modeļiem. PrismML apgalvo, ka 1-bit versija izmanto 14× mazāk atmiņas, darbojas 8× ātrāk un patērē 5× mazāk enerģijas nekā tradicionālie 16-bit modeļi, vienlaikus joprojām atbalstot vairāku soļu spriešanu, rīku izsaukšanu, aģentu darbplūsmas un multimodālu izpratni.

Uzņēmuma pamatfilozofija ir “intelekta blīvums” — maksimāli palielināt lietderīgo intelektu uz vienu bitu, nevis vienkārši palielināt parametru skaitu. Šīs pieejas mērķis ir vienlaikus atrisināt divas būtiskas problēmas: lielus modeļus, kas neietilpst personiskajās ierīcēs, un milzīgu datu centru neilgtspējīgo enerģijas patēriņu.

PrismML ir ideāli piemērots izstrādātājiem, aparatūras ražotājiem, pētniekiem un uzņēmumiem, kas vēlas lokāli darbināt jaudīgu mākslīgo intelektu, nodrošinot augstu privātuma aizsardzību, mazu aizturi un augstu energoefektivitāti.

Galvenās priekšrocības

• Pasaules līmeņa 1-bit un ternārā saspiešana (Bonsai saime).
• Bonsai 27B darbojas tālruņos, aizņemot tikai ~4 GB.
• Būtiski uzlabojumi atmiņas izmantojumā, ātrumā un energoefektivitātē.
• Atbalsta spriešanu, rīku izmantošanu un multimodālas iespējas pašā ierīcē.
• Spēcīgs pētnieciskais pamats no Caltech.

Iespējamie apsvērumi

• Tā kā šī tehnoloģija ir salīdzinoši jauna, ekosistēmas atbalsts un precīzās pielāgošanas rīki vēl turpina attīstīties.
• Pašlaik labākie rezultāti tiek sasniegti ar modernu augstākās klases mobilo ierīču un klēpjdatoru aparatūru.

Kopējais vērtējums: 4.6/5 zvaigznes

PrismML pašlaik paplašina iespēju robežas vienā no svarīgākajiem mākslīgā intelekta attīstības virzieniem — padarot lielos modeļus praktiski izmantojamus ikdienas ierīcēs. Koncentrējoties uz intelekta blīvumu, nevis tikai izmēru, uzņēmums būtiski palīdz pārcelt jaudīgu mākslīgo intelektu no mākoņa uz gala ierīcēm.

Arī jūs varat nopelnīt QUA atlīdzību, publicējot atsauksmes vietnē Quasa.io!

Sāciet šeit: https://quasa.io/projects/prismml