Fractile בסקירה ב-Quasa: שבבי הסקה ל-AI מהדור הבא

#Quasa #QUA #fractile

Fractile היא חברת טכנולוגיה עמוקה שבסיסה בבריטניה, המפתחת מעבדים ייעודיים שנועדו להאיץ באופן דרמטי הסקה במודלים המתקדמים ביותר. החידוש המרכזי שלה הוא שילוב פיזי של זיכרון ויחידות חישוב באותו שבב סיליקון — ארכיטקטורה שמתגברת על ההפרדה המסורתית בין זיכרון לעיבוד, המגבילה כיום הן את המהירות והן את יעילות העלות של הסקה במודלי שפה גדולים.

באמצעות גישה המקיפה את כל שכבות המערכת (מתכנון ברמת הטרנזיסטור ועד תוכנת הסקה בענן), Fractile שואפת לספק בו-זמנית השהיה נמוכה ותפוקה גבוהה. החברה טוענת שהמעבדים שלה יכולים להריץ את המודלים המתקדמים ביותר במהירות גבוהה עד פי 25× ובעלות של כ-1/10th מעלות הפתרונות הקיימים, תוך אספקה יעילה של אלפי טוקנים בשנייה לאלפי משתמשים במקביל.

השיפור הזה בביצועים צפוי לא רק לייעל פריסות קיימות, אלא גם לפתוח אפשרויות חדשות: חלונות הקשר ארוכים משמעותית ומשימות אוטונומיות מורכבות (כגון מחקר או פיתוח תוכנה בקנה מידה גדול), שכיום דורשות ימים של עבודה אנושית, עשויים להתאפשר בתוך דקות.

Fractile גייסה $220 million ממשקיעים ובהם Accel, Factorial Funds ו-Founders Fund של Peter Thiel. הצוות פועל בבריסטול ובלונדון ומשלב מומחיות מעמיקה בחומרה, בתוכנה ובמערכות AI.

Fractile מתאימה במיוחד למעבדות AI, לספקיות ענן ולארגונים הזקוקים להסקה מהירה משמעותית וחסכונית יותר עבור המודלים המתקדמים ביותר בקנה מידה גדול.

נקודות עיקריות

• ארכיטקטורה חדשנית המשלבת זיכרון ויחידות חישוב.
• לטענת החברה, הסקה מהירה עד פי 25× בעלות של ~1/10th מהעלות.
• תכנון המאפשר השהיה נמוכה ותפוקה גבוהה בו-זמנית.
• פיתוח של כל שכבות המערכת, מהסיליקון ועד התוכנה.
• מימון משמעותי וצוות טכני מנוסה.

• שיקולים אפשריים

• החומרה עדיין בפיתוח (שבבים מסחריים צפויים בהמשך).
• נתוני הביצועים הנוכחיים מבוססים על תוצאות פנימיות וסימולציות.
• רלוונטית במיוחד לארגונים המתכננים תשתית הסקה בקנה מידה גדול.

הערכה כוללת: 4.6/5 כוכבים

Fractile מתמודדת עם אחד מצווארי הבקבוק הקריטיים ביותר ב-AI המודרני — העלות הגבוהה והמהירות המוגבלת של הסקה במודלים המתקדמים ביותר. באמצעות תכנון מחדש של הקשר בין זיכרון לחישוב ברמת הסיליקון, לחברה יש פוטנציאל לשנות באופן משמעותי את הכדאיות הכלכלית של הפעלת מודלי AI מתקדמים.

כתבו גם אתם ביקורת ב-Quasa.io וקבלו תגמול ב-QUA!

מתחילים כאן: https://quasa.io/projects/fractile