PrismML në shqyrtim: E ardhmja e modeleve të mëdha gjuhësore që funksionojnë në pajisje

#Quasa #QUA #prismml

PrismML është një kompani kërkimore në fushën e AI me seli në SHBA (me rrënjë të forta në Caltech), e përqendruar në një sfidë thelbësore: si të shumëfishohet inteligjenca e modeleve pa rritur madhësinë ose kompleksitetin e tyre. Zgjidhja e saj janë modele jashtëzakonisht të dendura dhe shumë të kompresuara, që ofrojnë performancë të lartë duke përdorur shumë më pak memorie, energji dhe burime llogaritëse.

Produkti i saj kryesor, Bonsai 27B, është një model me 27 miliardë parametra, i disponueshëm në versione 1-bit (vetëm 3.9 GB) dhe me tre vlera (5.9 GB). Kjo i mundëson një modeli të kësaj përmase të funksionojë drejtpërdrejt në telefona inteligjentë dhe laptopë — diçka që më parë ishte e pamundur me modelet standarde me saktësi të plotë. PrismML pretendon se versioni 1-bit përdor 14× më pak memorie, funksionon 8× më shpejt dhe konsumon 5× më pak energji krahasuar me modelet tradicionale 16-bit, duke mbështetur njëkohësisht arsyetimin me shumë hapa, thirrjen e mjeteve, rrjedhat e punës me agjentë dhe të kuptuarit multimodal.

Filozofia bazë e kompanisë është “dendësia e inteligjencës” — maksimizimi i inteligjencës së dobishme për bit, në vend të rritjes së thjeshtë të numrit të parametrave. Kjo qasje synon të zgjidhë njëherësh dy probleme madhore: modelet e mëdha që nuk mund të vendosen në pajisje personale dhe kërkesat e paqëndrueshme për energji të qendrave gjigante të të dhënave.

PrismML është ideal për zhvilluesit, prodhuesit e pajisjeve, studiuesit dhe kompanitë që duan AI të fuqishme që funksionon lokalisht, me mbrojtje të fortë të privatësisë, vonesë të ulët dhe efikasitet të lartë energjetik.

Pikat kryesore

• Kompresim i nivelit botëror 1-bit dhe me tre vlera (familja Bonsai).
• Bonsai 27B funksionon në telefona me vetëm ~4 GB.
• Përmirësime të ndjeshme në përdorimin e memories, shpejtësi dhe efikasitet energjetik.
• Mbështet arsyetimin, përdorimin e mjeteve dhe aftësitë multimodale drejtpërdrejt në pajisje.
• Bazë e fortë kërkimore nga Caltech.

Aspekte për t’u marrë parasysh

• Duke qenë një teknologji relativisht e re, mbështetja nga ekosistemi dhe mjetet për përshtatjen e imët të modeleve janë ende në zgjerim.
• Rezultatet më të mira aktualisht shihen në pajisje moderne të kategorisë së lartë, si telefona celularë dhe laptopë.

Vlerësimi i përgjithshëm: 4.6/5 yje

PrismML po çon përpara një nga drejtimet më të rëndësishme të zhvillimit të AI aktualisht — duke i bërë modelet e mëdha praktike për pajisjet e përditshme. Duke u përqendruar te dendësia e inteligjencës në vend të madhësisë në vetvete, kompania po ndihmon që AI e fuqishme të zhvendoset nga infrastruktura cloud drejt pajisjeve fundore në mënyrë domethënëse.

Fitoni shpërblim në QUA duke dhënë edhe ju vlerësime në Quasa.io!

Filloni: https://quasa.io/projects/prismml