PrismML: Ulasan Masa Depan Model Bahasa Besar di Perangkat

#Quasa #QUA #prismml

PrismML adalah perusahaan riset AI yang berbasis di Amerika Serikat (dengan akar yang kuat di Caltech) yang berfokus pada tantangan penting: cara melipatgandakan kecerdasan model tanpa meningkatkan ukuran atau kompleksitasnya. Solusi mereka adalah model yang sangat padat dan sangat terkompresi yang memberikan kinerja tinggi dengan penggunaan memori, energi, dan sumber daya komputasi yang jauh lebih sedikit.

Produk unggulan mereka, Bonsai 27B, adalah model dengan 27 miliar parameter yang tersedia dalam versi 1-bit (hanya 3.9 GB) dan terner (5.9 GB). Hal ini memungkinkan model berskala tersebut berjalan langsung di ponsel pintar dan laptop — sesuatu yang sebelumnya mustahil dilakukan dengan model standar berpresisi penuh. PrismML mengklaim versi 1-bit menggunakan memori 14× lebih sedikit, berjalan 8× lebih cepat, dan mengonsumsi energi 5× lebih sedikit dibandingkan model 16-bit tradisional, sekaligus tetap mendukung penalaran bertahap, pemanggilan alat, alur kerja berbasis agen, dan pemahaman multimodal.

Filosofi inti perusahaan ini adalah “kepadatan kecerdasan” — memaksimalkan kecerdasan yang berguna per bit alih-alih sekadar meningkatkan jumlah parameter. Pendekatan ini bertujuan mengatasi dua masalah besar sekaligus: model besar yang tidak muat di perangkat pribadi, dan kebutuhan energi pusat data berskala masif yang tidak berkelanjutan.

PrismML ideal bagi pengembang, produsen perangkat keras, peneliti, dan perusahaan yang menginginkan AI canggih yang berjalan secara lokal dengan perlindungan privasi yang kuat, latensi rendah, dan efisiensi energi tinggi.

Keunggulan

• Kompresi 1-bit dan terner kelas dunia (keluarga Bonsai).
• Bonsai 27B berjalan di ponsel dengan ukuran hanya ~4 GB.
• Peningkatan signifikan dalam efisiensi memori, kecepatan, dan efisiensi energi.
• Mendukung penalaran, penggunaan alat, dan kemampuan multimodal di perangkat.
• Landasan riset yang kuat dari Caltech.

Hal yang Perlu Dipertimbangkan

• Sebagai teknologi yang relatif baru, dukungan ekosistem dan alat penyetelan model masih terus berkembang.
• Hasil terbaik saat ini terlihat pada perangkat keras ponsel dan laptop modern kelas atas.

Penilaian Keseluruhan: 4.6/5 bintang

PrismML sedang mendorong salah satu batas terpenting dalam AI saat ini — membuat model besar praktis digunakan di perangkat sehari-hari. Dengan berfokus pada kepadatan kecerdasan alih-alih sekadar ukuran, perusahaan ini membantu memindahkan AI canggih dari cloud ke perangkat di tepi jaringan secara bermakna.

Dapatkan juga imbalan QUA dengan memberikan ulasan di Quasa.io!

Mulai: https://quasa.io/projects/prismml