PrismML í umfjöllun: Framtíð stórra mállíkana sem keyra á tækjunum sjálfum

#Quasa #QUA #prismml

PrismML er bandarískt rannsóknarfyrirtæki á sviði gervigreindar (með sterkar rætur í Caltech) sem einbeitir sér að brýnni áskorun: hvernig megi margfalda greind líkana án þess að auka stærð þeirra eða flækjustig. Lausn fyrirtækisins felst í afar þéttum og mjög þjöppuðum líkönum sem skila öflugri frammistöðu en nota umtalsvert minna minni, orku og reikniafl.

Flaggskip fyrirtækisins, Bonsai 27B, er líkan með 27 milljarða stika sem er fáanlegt í 1-bita útgáfu (aðeins 3.9 GB) og þríundarútgáfu (5.9 GB). Þetta gerir kleift að keyra líkan af þessari stærð beint á snjallsímum og fartölvum — nokkuð sem áður var ómögulegt með hefðbundnum líkönum með fullri talnanákvæmni. PrismML fullyrðir að 1-bita útgáfan noti 14× minna minni, keyri 8× hraðar og noti 5× minni orku en hefðbundin 16-bita líkön, en styðji samt rökhugsun í mörgum skrefum, verkfæraköll, verkferla með sjálfstæðum hugbúnaðarfulltrúum og skilning á mörgum gagnamiðlum.

Kjarninn í hugmyndafræði fyrirtækisins er “greindarþéttleiki” — að hámarka gagnlega greind á hvern bita fremur en að fjölga einfaldlega stikum. Þessari nálgun er ætlað að leysa tvö stór vandamál í senn: stór líkön sem komast ekki fyrir á einkatækjum og ósjálfbæra orkuþörf risastórra gagnavera.

PrismML hentar sérlega vel forriturum, vélbúnaðarframleiðendum, rannsakendum og fyrirtækjum sem vilja keyra öfluga gervigreind á eigin tækjum með öflugri persónuvernd, lítilli svörunartöf og mikilli orkunýtni.

Helstu kostir

• 1-bita þjöppun og þríundarþjöppun á heimsmælikvarða (Bonsai-líkanafjölskyldan).
• Bonsai 27B keyrir á símum með aðeins ~4 GB.
• Verulegar framfarir í minnisnýtingu, hraða og orkunýtni.
• Styður rökhugsun, verkfæranotkun og vinnslu margra gagnamiðla á tækinu sjálfu.
• Traustur rannsóknagrunnur frá Caltech.

Atriði sem gæti þurft að hafa í huga

• Þar sem tæknin er tiltölulega ný er stuðningur í hugbúnaðarumhverfinu og úrval verkfæra til fínstillingar enn að aukast.
• Bestur árangur næst sem stendur á nýlegum og öflugum snjallsímum og fartölvum.

Heildarmat: 4.6/5 stjörnur

PrismML er um þessar mundir að færa fram mörk á einu mikilvægasta sviði gervigreindar — að gera stór líkön hagnýt á hversdagstækjum. Með því að einbeita sér að greindarþéttleika í stað stærðar einnar og sér stuðlar fyrirtækið að því að færa öfluga gervigreind úr skýinu út á jaðartæki með markverðum hætti.

Fáðu líka QUA að launum fyrir að skrifa umsögn á Quasa.io!

Byrjaðu hér: https://quasa.io/projects/prismml