Fractile รีวิวบน Quasa: ชิปประมวลผลการอนุมาน AI ยุคใหม่

#Quasa #QUA #fractile

Fractile เป็นบริษัทเทคโนโลยีเชิงลึกในสหราชอาณาจักรที่กำลังพัฒนาหน่วยประมวลผลเฉพาะทางซึ่งออกแบบมาเพื่อเร่งการอนุมานของโมเดลระดับแนวหน้าให้เร็วขึ้นอย่างก้าวกระโดด นวัตกรรมสำคัญของบริษัทคือการจัดวางหน่วยความจำและส่วนประมวลผลให้สลับแทรกกันทางกายภาพบนซิลิคอนเดียวกัน — เป็นสถาปัตยกรรมที่ก้าวข้ามการแยกหน่วยความจำออกจากส่วนประมวลผลแบบดั้งเดิม ซึ่งปัจจุบันเป็นข้อจำกัดทั้งด้านความเร็วและต้นทุนของการอนุมานด้วยโมเดลภาษาขนาดใหญ่

ด้วยแนวทางการพัฒนาแบบครบทุกชั้นระบบ (ตั้งแต่การออกแบบระดับทรานซิสเตอร์ไปจนถึงซอฟต์แวร์อนุมานบนคลาวด์) Fractile ตั้งเป้าที่จะให้ทั้งความหน่วงต่ำและปริมาณงานประมวลผลสูงพร้อมกัน บริษัทอ้างว่าหน่วยประมวลผลของตนสามารถรันโมเดลที่ล้ำหน้าที่สุดได้เร็วขึ้นสูงสุด 25× โดยมีต้นทุนประมาณ 1/10th ของโซลูชันที่มีอยู่ พร้อมรองรับการส่งโทเคนหลายพันโทเคนต่อวินาทีให้แก่ผู้ใช้หลายพันรายที่ใช้งานพร้อมกันได้อย่างมีประสิทธิภาพ

การเพิ่มประสิทธิภาพนี้คาดว่าจะไม่เพียงช่วยให้การใช้งานที่มีอยู่ในปัจจุบันมีประสิทธิภาพยิ่งขึ้น แต่ยังเปิดโอกาสใหม่ ๆ ด้วย ได้แก่ ช่วงบริบทที่ยาวขึ้นอย่างมากและงานอัตโนมัติที่ซับซ้อน (เช่น การวิจัยหรือการพัฒนาซอฟต์แวร์ขนาดใหญ่) ซึ่งปัจจุบันต้องอาศัยแรงงานมนุษย์หลายวัน อาจลดเวลาลงเหลือเพียงไม่กี่นาทีได้

Fractile ระดมทุนได้ $220 million จากนักลงทุนซึ่งรวมถึง Accel, Factorial Funds และ Founders Fund ของ Peter Thiel ทีมงานปฏิบัติงานในบริสตอลและลอนดอน โดยผสานความเชี่ยวชาญเชิงลึกด้านฮาร์ดแวร์ ซอฟต์แวร์ และระบบ AI

Fractile เหมาะสำหรับห้องปฏิบัติการ AI ผู้ให้บริการคลาวด์ และองค์กรที่ต้องการการอนุมานสำหรับโมเดลระดับแนวหน้าในวงกว้างที่รวดเร็วและคุ้มค่ากว่าเดิมอย่างมาก

จุดเด่น

• สถาปัตยกรรมเชิงนวัตกรรมที่จัดวางหน่วยความจำและส่วนประมวลผลให้สลับแทรกกัน
• อ้างว่าอนุมานได้เร็วขึ้นสูงสุด 25× โดยมีต้นทุน ~1/10th ของเดิม
• ออกแบบมาให้มีความหน่วงต่ำและปริมาณงานประมวลผลสูงพร้อมกัน
• พัฒนาแบบครบทุกชั้นระบบตั้งแต่ซิลิคอนไปจนถึงซอฟต์แวร์
• เงินทุนสนับสนุนแข็งแกร่งและทีมเทคนิคที่มีประสบการณ์

• ประเด็นที่อาจต้องพิจารณา

• ฮาร์ดแวร์ยังอยู่ระหว่างการพัฒนา (คาดว่าชิปเชิงพาณิชย์จะออกมาในภายหลัง)
• ตัวเลขประสิทธิภาพในปัจจุบันอ้างอิงจากผลทดสอบภายในและการจำลอง
• เหมาะสมที่สุดสำหรับองค์กรที่กำลังวางแผนโครงสร้างพื้นฐานสำหรับการอนุมานขนาดใหญ่

ผลประเมินโดยรวม: 4.6/5 ดาว

Fractile กำลังแก้ไขหนึ่งในปัญหาคอขวดที่สำคัญที่สุดของ AI สมัยใหม่ — ต้นทุนที่สูงและความเร็วที่จำกัดของการอนุมานด้วยโมเดลระดับแนวหน้า ด้วยการออกแบบความสัมพันธ์ระหว่างหน่วยความจำและส่วนประมวลผลใหม่ในระดับซิลิคอน บริษัทจึงมีศักยภาพที่จะเปลี่ยนแปลงความคุ้มค่าทางเศรษฐศาสตร์ของการรันโมเดล AI ขั้นสูงได้อย่างมีนัยสำคัญ

รับรางวัล QUA ด้วยการเขียนรีวิวบน Quasa.io ได้เช่นกัน!

เริ่มต้นใช้งาน: https://quasa.io/projects/fractile