Fractile Quasa İncelemesi: Yeni Nesil AI Çıkarım Çipleri

#Quasa #QUA #fractile

Fractile, en gelişmiş modellerin çıkarımını kökten hızlandırmak üzere tasarlanmış özel işlemciler geliştiren, Birleşik Krallık merkezli bir derin teknoloji şirketidir. Şirketin temel yeniliği, bellek ve hesaplama birimlerini aynı silikon üzerinde fiziksel olarak iç içe yerleştirmesidir — bu mimari, büyük dil modellerinin çıkarımında şu anda hem hızı hem de maliyeti sınırlayan, bellek ile işleme arasındaki geleneksel ayrımı ortadan kaldırır.

Fractile, transistör düzeyindeki tasarımdan bulut çıkarım yazılımına kadar tüm katmanları kapsayan bir yaklaşım benimseyerek düşük gecikme ve yüksek işlem hacmini aynı anda sunmayı hedefliyor. Şirket, işlemcilerinin en gelişmiş modelleri mevcut çözümlere göre 25× daha hızlı ve yaklaşık 1/10 maliyetle çalıştırabildiğini, aynı zamanda eşzamanlı binlerce kullanıcıya saniyede binlerce token'ı verimli bir şekilde sunabildiğini iddia ediyor.

Bu performans artışının yalnızca mevcut kullanımları optimize etmekle kalmayıp yeni olanakların da önünü açması bekleniyor: çok daha uzun bağlam pencereleri ve bugün günlerce insan emeği gerektiren karmaşık otonom görevler (araştırma veya büyük ölçekli yazılım geliştirme gibi), potansiyel olarak dakikalar içinde tamamlanabilir.

Fractile, aralarında Accel, Factorial Funds ve Peter Thiel'ın Founders Fund'ının da bulunduğu yatırımcılardan $220 million yatırım aldı. Bristol ve Londra'da çalışan ekip, donanım, yazılım ve AI sistemleri alanlarında derin uzmanlığı bir araya getiriyor.

Fractile, en gelişmiş modeller için büyük ölçekte çok daha hızlı ve uygun maliyetli çıkarıma ihtiyaç duyan AI laboratuvarları, bulut sağlayıcıları ve işletmeler için idealdir.

Öne Çıkanlar

• Bellek ve hesaplama birimlerinin iç içe yerleştirildiği yenilikçi mimari.
• ~1/10 maliyetle 25× daha hızlı olduğu iddia edilen çıkarım.
• Düşük gecikmeyi ve yüksek işlem hacmini aynı anda sağlamak üzere tasarlanmıştır.
• Silikondan yazılıma tüm katmanları kapsayan geliştirme.
• Güçlü finansman ve deneyimli teknik ekip.

• Dikkate Alınması Gereken Olası Noktalar

• Donanım hâlâ geliştirme aşamasında (ticari çiplerin daha sonra piyasaya çıkması bekleniyor).
• Mevcut performans verileri, şirket içi sonuçlara ve simülasyonlara dayanıyor.
• Büyük ölçekli çıkarım altyapısı planlayan kuruluşlar için özellikle uygun.

Genel Değerlendirme: 4.6/5 yıldız

Fractile, modern AI alanındaki en kritik darboğazlardan birini ele alıyor — en gelişmiş modellerin çıkarımındaki yüksek maliyet ve sınırlı hız. Şirket, bellek ve hesaplama arasındaki ilişkiyi silikon düzeyinde yeniden tasarlayarak gelişmiş AI modellerini çalıştırmanın maliyet yapısını önemli ölçüde değiştirme potansiyeline sahip.

Siz de Quasa.io'da inceleme yazarak QUA ödülü kazanın!

Başlayın: https://quasa.io/projects/fractile