Fractile sur Quasa : des puces d’inférence IA de nouvelle génération à l’essai

#Quasa #QUA #fractile

Fractile est une entreprise britannique de haute technologie qui développe des processeurs spécialisés conçus pour accélérer radicalement l’inférence des modèles de pointe. Son innovation majeure consiste à entrelacer physiquement la mémoire et le calcul sur une même puce de silicium — une architecture qui surmonte la séparation traditionnelle entre la mémoire et le traitement, laquelle limite actuellement la vitesse et augmente le coût de l’inférence des grands modèles de langage.

En adoptant une approche couvrant toute la chaîne technologique (de la conception au niveau des transistors aux logiciels d’inférence dans le cloud), Fractile vise à offrir simultanément une faible latence et un débit élevé. L’entreprise affirme que ses processeurs peuvent exécuter les modèles les plus avancés jusqu’à 25× plus vite et pour environ 1/10 du coût des solutions existantes, tout en fournissant efficacement des milliers de tokens par seconde à des milliers d’utilisateurs simultanés.

Cette amélioration des performances devrait non seulement optimiser les déploiements actuels, mais aussi ouvrir de nouvelles possibilités : des fenêtres de contexte nettement plus longues et des tâches autonomes complexes (comme la recherche ou le développement logiciel à grande échelle) qui nécessitent aujourd’hui des jours de travail humain pourraient potentiellement être réalisées en quelques minutes.

Fractile a levé $220 million auprès d’investisseurs, dont Accel, Factorial Funds et Founders Fund de Peter Thiel. L’équipe, répartie entre Bristol et Londres, réunit une expertise approfondie en matériel, en logiciels et en systèmes d’IA.

Fractile convient parfaitement aux laboratoires d’IA, aux fournisseurs de cloud et aux entreprises qui ont besoin d’une inférence considérablement plus rapide et plus économique pour les modèles de pointe à grande échelle.

Points forts

• Architecture innovante entrelaçant mémoire et calcul.
• Inférence annoncée comme jusqu’à 25× plus rapide pour ~1/10 du coût.
• Conçu pour offrir simultanément une faible latence et un débit élevé.
• Développement couvrant toute la chaîne technologique, du silicium aux logiciels.
• Financement solide et équipe technique expérimentée.

• Points à prendre en compte

• Le matériel est encore en cours de développement (la commercialisation des puces est prévue ultérieurement).
• Les chiffres de performance actuels reposent sur des résultats internes et des simulations.
• Particulièrement pertinent pour les organisations qui prévoient une infrastructure d’inférence à grande échelle.

Verdict global : 4.6/5 étoiles

Fractile s’attaque à l’un des principaux goulets d’étranglement de l’IA moderne — le coût élevé et la vitesse limitée de l’inférence des modèles de pointe. En repensant la relation entre la mémoire et le calcul au niveau du silicium, l’entreprise pourrait transformer sensiblement l’économie de l’exécution des modèles d’IA avancés.

Gagnez vous aussi une récompense en QUA en publiant un avis sur Quasa.io !

Commencez ici : https://quasa.io/projects/fractile