Fractile im Test auf Quasa: KI-Inferenzchips der nächsten Generation

#Quasa #QUA #fractile

Fractile ist ein im Vereinigten Königreich ansässiges Deep-Tech-Unternehmen, das spezialisierte Prozessoren entwickelt, um die Inferenz modernster KI-Modelle grundlegend zu beschleunigen. Seine zentrale Innovation ist die physische Verzahnung von Speicher und Recheneinheiten auf demselben Siliziumchip — eine Architektur, die die herkömmliche Trennung zwischen Speicher und Verarbeitung überwindet, die derzeit sowohl die Geschwindigkeit als auch die Kosten der Inferenz großer Sprachmodelle begrenzt.

Mit einem ganzheitlichen Ansatz über alle Technologieebenen hinweg (vom Design auf Transistorebene bis zur Software für die Inferenz in der Cloud) will Fractile gleichzeitig niedrige Latenz und hohen Durchsatz ermöglichen. Nach Angaben des Unternehmens können seine Prozessoren die fortschrittlichsten Modelle bis zu 25× schneller und zu etwa 1/10th der Kosten bestehender Lösungen ausführen und dabei effizient Tausende von Tokens pro Sekunde für Tausende gleichzeitiger Nutzer bereitstellen.

Diese Leistungssteigerung soll nicht nur bestehende Anwendungen optimieren, sondern auch neue Möglichkeiten eröffnen: deutlich längere Kontextfenster und komplexe autonome Aufgaben (wie Forschung oder umfangreiche Softwareentwicklung), die heute Tage menschlicher Arbeit erfordern und möglicherweise auf wenige Minuten verkürzt werden könnten.

Fractile hat $220 million von Investoren wie Accel, Factorial Funds und Peter Thiels Founders Fund eingeworben. Das Team arbeitet in Bristol und London und vereint fundiertes Fachwissen in den Bereichen Hardware, Software und KI-Systeme.

Fractile ist ideal für KI-Labore, Cloud-Anbieter und Unternehmen, die eine erheblich schnellere und kosteneffizientere Inferenz für modernste Modelle im großen Maßstab benötigen.

Highlights

• Innovative Architektur mit verzahnten Speicher- und Recheneinheiten.
• Laut eigenen Angaben bis zu 25× schnellere Inferenz zu ~1/10th der Kosten.
• Für gleichzeitig niedrige Latenz und hohen Durchsatz ausgelegt.
• Entwicklung über alle Technologieebenen hinweg vom Silizium bis zur Software.
• Solide Finanzierung und erfahrenes Technikteam.

• Mögliche Einschränkungen

• Die Hardware befindet sich noch in der Entwicklung (kommerziell verfügbare Chips werden erst später erwartet).
• Die aktuellen Leistungsangaben basieren auf internen Ergebnissen und Simulationen.
• Besonders relevant für Organisationen, die eine umfangreiche Inferenzinfrastruktur planen.

Gesamturteil: 4.6/5 Sterne

Fractile widmet sich einem der kritischsten Engpässe moderner KI — den hohen Kosten und der begrenzten Geschwindigkeit der Inferenz modernster Modelle. Indem das Unternehmen das Zusammenspiel von Speicher und Recheneinheiten auf Siliziumebene neu gestaltet, hat es das Potenzial, die Wirtschaftlichkeit des Betriebs fortschrittlicher KI-Modelle wesentlich zu verändern.

Verdiene auch du eine QUA-Belohnung, indem du eine Bewertung auf Quasa.io abgibst!

Jetzt loslegen: https://quasa.io/projects/fractile