PrismML à l’essai : l’avenir des grands modèles de langage sur appareil

#Quasa #QUA #prismml

PrismML est une entreprise de recherche en IA basée aux États-Unis (fortement ancrée dans les travaux de Caltech) qui se concentre sur un défi crucial : comment multiplier l’intelligence des modèles sans augmenter leur taille ni leur complexité. Sa solution repose sur des modèles ultradenses et fortement compressés qui offrent de solides performances tout en utilisant considérablement moins de mémoire, d’énergie et de ressources de calcul.

Son produit phare, Bonsai 27B, est un modèle de 27 milliards de paramètres disponible en versions 1-bit (seulement 3.9 GB) et ternaire (5.9 GB). Cela permet à un modèle de cette envergure de fonctionner directement sur des smartphones et des ordinateurs portables — ce qui était auparavant impossible avec des modèles standard à pleine précision. PrismML affirme que la version 1-bit utilise 14× moins de mémoire, fonctionne 8× plus vite et consomme 5× moins d’énergie que les modèles traditionnels 16-bit, tout en prenant en charge le raisonnement en plusieurs étapes, l’appel d’outils, les flux de travail agentiques et la compréhension multimodale.

La philosophie fondamentale de l’entreprise est la “densité d’intelligence” — maximiser l’intelligence utile par bit plutôt que simplement augmenter le nombre de paramètres. Cette approche vise à résoudre simultanément deux problèmes majeurs : les grands modèles qui ne tiennent pas sur les appareils personnels et les besoins énergétiques insoutenables des immenses centres de données.

PrismML est idéal pour les développeurs, les fabricants de matériel, les chercheurs et les entreprises qui souhaitent faire fonctionner une IA puissante en local, avec un niveau élevé de confidentialité, une faible latence et une grande efficacité énergétique.

Points forts

• Compression 1-bit et ternaire de tout premier plan (famille Bonsai).
• Bonsai 27B fonctionne sur les téléphones avec seulement ~4 GB.
• Gains significatifs en matière de mémoire, de vitesse et d’efficacité énergétique.
• Prise en charge du raisonnement, de l’utilisation d’outils et des capacités multimodales sur l’appareil.
• Solides bases de recherche issues de Caltech.

Points à prendre en compte

• La technologie étant relativement nouvelle, sa prise en charge par l’écosystème et les outils d’ajustement fin continuent de se développer.
• Les meilleurs résultats sont actuellement obtenus sur des appareils mobiles et des ordinateurs portables modernes haut de gamme.

Verdict global : 4.6/5 étoiles

PrismML repousse actuellement l’une des frontières les plus importantes de l’IA — rendre les grands modèles utilisables sur les appareils du quotidien. En se concentrant sur la densité d’intelligence plutôt que sur la taille brute, l’entreprise contribue concrètement à faire passer une IA puissante du cloud aux appareils locaux.

Gagnez vous aussi une récompense en QUA en publiant un avis sur Quasa.io !

Pour commencer : https://quasa.io/projects/prismml