PrismML icmalı: Cihazda işləyən böyük dil modellərinin gələcəyi

#Quasa #QUA #prismml

PrismML ABŞ-da yerləşən, Caltech ilə güclü elmi köklərə malik süni intellekt tədqiqat şirkətidir və mühüm bir problemin həllinə diqqət yetirir: modellərin ölçüsünü və ya mürəkkəbliyini artırmadan onların intellektini necə dəfələrlə artırmaq olar. Şirkətin həlli xeyli az yaddaş, enerji və hesablama resursundan istifadə etməklə yüksək performans göstərən, son dərəcə sıx və yüksək dərəcədə sıxılmış modellərdir.

Şirkətin əsas məhsulu olan Bonsai 27B, 1-bit (cəmi 3.9 GB) və üçqiymətli (5.9 GB) versiyalarda mövcud olan 27 milyard parametrli modeldir. Bu, belə miqyaslı modelin birbaşa smartfonlarda və noutbuklarda işləməsinə imkan verir — standart tam dəqiqlikli modellərlə əvvəllər bu mümkün deyildi. PrismML bildirir ki, ənənəvi 16-bit modellərlə müqayisədə 1-bit versiya 14× az yaddaş istifadə edir, 8× daha sürətli işləyir və 5× az enerji sərf edir, eyni zamanda çoxmərhələli məntiqi düşünməni, alət çağırışlarını, agent əsaslı iş proseslərini və multimodal anlamanı dəstəkləyir.

Şirkətin əsas fəlsəfəsi “intellekt sıxlığı” anlayışıdır — sadəcə parametrlərin sayını artırmaq əvəzinə, hər bitə düşən faydalı intellekti maksimuma çatdırmaq. Bu yanaşma iki böyük problemi eyni vaxtda həll etməyi hədəfləyir: fərdi cihazlara sığmayan böyük modellər və nəhəng məlumat mərkəzlərinin davamlı şəkildə qarşılana bilməyən enerji tələbatı.

PrismML güclü məxfilik, aşağı gecikmə və yüksək enerji səmərəliliyi ilə yerli olaraq işləyən güclü süni intellekt istəyən proqram tərtibatçıları, avadanlıq istehsalçıları, tədqiqatçılar və şirkətlər üçün idealdır.

Əsas məqamlar

• Dünya səviyyəli 1-bit və üçqiymətli sıxılma (Bonsai ailəsi).
• Bonsai 27B telefonlarda işləyir və cəmi ~4 GB tələb edir.
• Əhəmiyyətli irəliləyişlər yaddaşdan istifadədə, sürətdə və enerji səmərəliliyində.
• Cihazda məntiqi düşünməni, alətlərdən istifadəni və multimodal imkanları dəstəkləyir.
• Caltech-dən gələn güclü tədqiqat təməli.

Nəzərə alınmalı mümkün məqamlar

• Nisbətən yeni texnologiya olduğuna görə ekosistem dəstəyi və incə tənzimləmə alətləri hələ də genişlənir.
• Hazırda ən yaxşı nəticələr müasir, yüksək səviyyəli mobil cihaz və noutbuk avadanlığında əldə edilir.

Ümumi qiymət: 4.6/5 ulduz

PrismML hazırda süni intellektin ən mühüm inkişaf istiqamətlərindən birini irəli aparır — böyük modelləri gündəlik cihazlarda praktik istifadəyə yararlı edir. Şirkət sadəcə ölçüyə deyil, intellekt sıxlığına diqqət yetirməklə güclü süni intellektin buluddan son cihazlara keçməsinə əhəmiyyətli töhfə verir.

Siz də Quasa.io-da rəy yazaraq QUA mükafatı qazanın!

Başlayın: https://quasa.io/projects/prismml