PrismML-ի ակնարկ․ սարքի վրա աշխատող մեծ լեզվական մոդելների ապագան

#Quasa #QUA #prismml

PrismML-ը ԱՄՆ-ում գործող արհեստական բանականության հետազոտական ընկերություն է (որն ամուր արմատներ ունի Caltech-ում) և կենտրոնացած է կարևոր մարտահրավերի վրա՝ ինչպես բազմապատկել մոդելների բանականությունը՝ առանց դրանց չափը կամ բարդությունը մեծացնելու։ Նրանց լուծումը գերխիտ, բարձր աստիճանի սեղմված մոդելներն են, որոնք ապահովում են բարձր արդյունավետություն՝ միաժամանակ օգտագործելով զգալիորեն պակաս հիշողություն, էներգիա և հաշվողական ռեսուրսներ։

Նրանց առաջատար արտադրանքը՝ Bonsai 27B-ը, 27 միլիարդ պարամետրով մոդել է, որը հասանելի է 1-bit (ընդամենը 3.9 GB) և եռարժեք (5.9 GB) տարբերակներով։ Սա թույլ է տալիս այս մասշտաբի մոդելն աշխատեցնել անմիջապես սմարթֆոնների և նոութբուքերի վրա — մի բան, որը նախկինում անհնար էր ստանդարտ լրիվ ճշգրտությամբ մոդելների դեպքում։ PrismML-ը պնդում է, որ 1-bit տարբերակն օգտագործում է 14× պակաս հիշողություն, աշխատում է 8× ավելի արագ և սպառում է 5× պակաս էներգիա՝ համեմատած ավանդական 16-bit մոդելների հետ՝ միաժամանակ պահպանելով բազմաքայլ դատողության, գործիքների կանչի, գործակալային աշխատանքային գործընթացների և բազմամոդալ ընկալման աջակցությունը։

Ընկերության հիմնական փիլիսոփայությունը “բանականության խտությունն” է — յուրաքանչյուր բիթին բաժին ընկնող օգտակար բանականությունը առավելագույնի հասցնելը՝ պարզապես պարամետրերի քանակն ավելացնելու փոխարեն։ Այս մոտեցումը նպատակ ունի միաժամանակ լուծել երկու խոշոր խնդիր՝ մեծ մոդելները, որոնք չեն տեղավորվում անձնական սարքերում, և հսկայական տվյալների կենտրոնների էներգիայի անկայուն պահանջարկը։

PrismML-ը իդեալական է ծրագրավորողների, սարքավորումներ արտադրողների, հետազոտողների և ընկերությունների համար, որոնք ցանկանում են հզոր արհեստական բանականությունն աշխատեցնել տեղային եղանակով՝ գաղտնիության բարձր մակարդակով, փոքր ուշացմամբ և բարձր էներգաարդյունավետությամբ։

Առանձնահատկություններ

• Համաշխարհային մակարդակի 1-bit և եռարժեք սեղմում (Bonsai ընտանիք)։
• Bonsai 27B-ն աշխատում է հեռախոսների վրա՝ ընդամենը ~4 GB ծավալով։
• Զգալի բարելավումներ հիշողության օգտագործման, արագության և էներգաարդյունավետության առումով։
• Աջակցում է դատողությանը, գործիքների օգտագործմանը և բազմամոդալ հնարավորություններին՝ անմիջապես սարքի վրա։
• Ամուր հետազոտական հիմք՝ Caltech-ից։

Հաշվի առնելու հնարավոր հանգամանքներ

• Քանի որ տեխնոլոգիան համեմատաբար նոր է, էկոհամակարգի աջակցությունն ու նուրբ կարգաբերման գործիքները դեռ ընդլայնվում են։
• Ներկայում լավագույն արդյունքները գրանցվում են ժամանակակից բարձրակարգ բջջային սարքերի և նոութբուքերի սարքավորումների վրա։

Ընդհանուր գնահատական՝ 4.6/5 աստղ

PrismML-ն այժմ առաջ է մղում արհեստական բանականության կարևորագույն ուղղություններից մեկը — մեծ մոդելների գործնական կիրառումը առօրյա սարքերում։ Կենտրոնանալով բանականության խտության, այլ ոչ թե պարզապես չափի վրա՝ ընկերությունը էականորեն նպաստում է հզոր արհեստական բանականությունն ամպից դեպի վերջնական սարքեր տեղափոխելուն։

Դուք նույնպես վաստակեք QUA պարգև՝ ակնարկ հրապարակելով Quasa.io-ում։

Սկսեք այստեղից․ https://quasa.io/projects/prismml