Fractile di Quasa: Ulasan Chip Inferensi AI Generasi Berikutnya

#Quasa #QUA #fractile

Fractile adalah perusahaan teknologi mendalam yang berbasis di Inggris dan mengembangkan prosesor khusus yang dirancang untuk mempercepat inferensi model AI terdepan secara radikal. Inovasi utama mereka adalah menyusun memori dan komputasi secara berselang-seling pada silikon yang sama — sebuah arsitektur yang mengatasi pemisahan tradisional antara memori dan pemrosesan yang saat ini membatasi kecepatan sekaligus efisiensi biaya inferensi model bahasa besar.

Dengan pendekatan yang mencakup seluruh lapisan teknologi (dari desain tingkat transistor hingga perangkat lunak inferensi cloud), Fractile bertujuan menghadirkan latensi rendah sekaligus throughput tinggi. Perusahaan ini mengklaim prosesornya dapat menjalankan model tercanggih hingga 25× lebih cepat dengan biaya sekitar 1/10th dari solusi yang ada, sekaligus secara efisien melayani ribuan token per detik untuk ribuan pengguna secara bersamaan.

Peningkatan kinerja ini diharapkan tidak hanya mengoptimalkan penerapan saat ini, tetapi juga membuka kemungkinan baru: jendela konteks yang jauh lebih panjang dan tugas otonom yang kompleks (seperti penelitian atau pengembangan perangkat lunak berskala besar) yang saat ini membutuhkan upaya manusia selama berhari-hari berpotensi diselesaikan dalam hitungan menit.

Fractile telah menghimpun pendanaan sebesar $220 million dari para investor, termasuk Accel, Factorial Funds, dan Founders Fund milik Peter Thiel. Timnya bekerja di Bristol dan London serta memadukan keahlian mendalam dalam perangkat keras, perangkat lunak, dan sistem AI.

Fractile ideal bagi laboratorium AI, penyedia cloud, dan perusahaan yang membutuhkan inferensi model AI terdepan dalam skala besar dengan kecepatan yang jauh lebih tinggi dan biaya yang lebih efisien.

Keunggulan Utama

• Arsitektur inovatif dengan memori dan komputasi yang disusun berselang-seling.
• Inferensi diklaim hingga 25× lebih cepat dengan biaya ~1/10th.
• Dirancang untuk menghadirkan latensi rendah sekaligus throughput tinggi.
• Pengembangan seluruh lapisan teknologi dari silikon hingga perangkat lunak.
• Pendanaan yang kuat dan tim teknis berpengalaman.

• Hal yang Perlu Dipertimbangkan

• Perangkat keras masih dalam pengembangan (chip komersial diperkirakan hadir di kemudian hari).
• Angka kinerja saat ini didasarkan pada hasil internal dan simulasi.
• Paling relevan bagi organisasi yang merencanakan infrastruktur inferensi berskala besar.

Penilaian Keseluruhan: 4.6/5 bintang

Fractile berupaya mengatasi salah satu hambatan paling krusial dalam AI modern — tingginya biaya dan terbatasnya kecepatan inferensi model AI terdepan. Dengan merancang ulang hubungan antara memori dan komputasi pada tingkat silikon, perusahaan ini berpotensi mengubah secara signifikan aspek ekonomi pengoperasian model AI canggih.

Dapatkan juga imbalan QUA dengan memberikan ulasan di Quasa.io!

Mulai: https://quasa.io/projects/fractile