Fractile: Αξιολόγηση στο Quasa — Τσιπ επόμενης γενιάς για εκτέλεση μοντέλων AI

#Quasa #QUA #fractile

Fractile είναι μια εταιρεία τεχνολογίας αιχμής με έδρα το Ηνωμένο Βασίλειο, η οποία αναπτύσσει εξειδικευμένους επεξεργαστές σχεδιασμένους για να επιταχύνουν ριζικά την εκτέλεση των πλέον προηγμένων μοντέλων. Η βασική της καινοτομία είναι η φυσική εναλλασσόμενη διάταξη μνήμης και υπολογιστικών μονάδων στο ίδιο πυρίτιο — μια αρχιτεκτονική που ξεπερνά τον παραδοσιακό διαχωρισμό μεταξύ μνήμης και επεξεργασίας, ο οποίος σήμερα περιορίζει την ταχύτητα και αυξάνει το κόστος εκτέλεσης των μεγάλων γλωσσικών μοντέλων.

Ακολουθώντας μια προσέγγιση που καλύπτει ολόκληρη την τεχνολογική στοίβα (από τον σχεδιασμό σε επίπεδο τρανζίστορ έως το λογισμικό εκτέλεσης μοντέλων στο υπολογιστικό νέφος), η Fractile στοχεύει να προσφέρει ταυτόχρονα χαμηλή καθυστέρηση και υψηλή διεκπεραιωτική ικανότητα. Η εταιρεία ισχυρίζεται ότι οι επεξεργαστές της μπορούν να εκτελούν τα πιο προηγμένα μοντέλα έως και 25× ταχύτερα και με περίπου 1/10th του κόστους των υφιστάμενων λύσεων, παρέχοντας παράλληλα αποδοτικά χιλιάδες tokens ανά δευτερόλεπτο σε χιλιάδες ταυτόχρονους χρήστες.

Αυτή η βελτίωση των επιδόσεων αναμένεται όχι μόνο να βελτιστοποιήσει τις τρέχουσες υλοποιήσεις, αλλά και να ανοίξει νέες δυνατότητες: σημαντικά μεγαλύτερα παράθυρα συμφραζομένων και σύνθετες αυτόνομες εργασίες (όπως η έρευνα ή η ανάπτυξη λογισμικού μεγάλης κλίμακας), που σήμερα απαιτούν ημέρες ανθρώπινης προσπάθειας, θα μπορούσαν ενδεχομένως να ολοκληρώνονται μέσα σε λίγα λεπτά.

Η Fractile έχει αντλήσει $220 million από επενδυτές, μεταξύ των οποίων οι Accel, Factorial Funds και Founders Fund του Peter Thiel. Η ομάδα εργάζεται στο Μπρίστολ και στο Λονδίνο και συνδυάζει βαθιά τεχνογνωσία στο υλικό, στο λογισμικό και στα συστήματα AI.

Η Fractile είναι ιδανική για εργαστήρια AI, παρόχους υπολογιστικού νέφους και επιχειρήσεις που χρειάζονται δραστικά ταχύτερη και οικονομικά αποδοτικότερη εκτέλεση των πλέον προηγμένων μοντέλων σε μεγάλη κλίμακα.

Κύρια σημεία

• Καινοτόμος αρχιτεκτονική με εναλλασσόμενη διάταξη μνήμης και υπολογιστικών μονάδων.
• Έως και 25× ταχύτερη εκτέλεση μοντέλων, σύμφωνα με την εταιρεία, με ~1/10th του κόστους.
• Σχεδιασμένη για ταυτόχρονη επίτευξη χαμηλής καθυστέρησης και υψηλής διεκπεραιωτικής ικανότητας.
• Ανάπτυξη ολόκληρης της τεχνολογικής στοίβας, από το πυρίτιο έως το λογισμικό.
• Ισχυρή χρηματοδότηση και έμπειρη τεχνική ομάδα.

• Πιθανά σημεία προβληματισμού

• Το υλικό βρίσκεται ακόμη υπό ανάπτυξη (τα εμπορικά τσιπ αναμένονται αργότερα).
• Τα τρέχοντα στοιχεία επιδόσεων βασίζονται σε εσωτερικά αποτελέσματα και προσομοιώσεις.
• Αφορά κυρίως οργανισμούς που σχεδιάζουν υποδομές εκτέλεσης μοντέλων μεγάλης κλίμακας.

Συνολική αξιολόγηση: 4.6/5 αστέρια

Η Fractile αντιμετωπίζει ένα από τα πιο κρίσιμα σημεία συμφόρησης στη σύγχρονη AI — το υψηλό κόστος και την περιορισμένη ταχύτητα εκτέλεσης των πλέον προηγμένων μοντέλων. Επανασχεδιάζοντας τη σχέση μεταξύ μνήμης και υπολογιστικών μονάδων σε επίπεδο πυριτίου, η εταιρεία έχει τη δυνατότητα να αλλάξει ουσιαστικά τα οικονομικά δεδομένα της εκτέλεσης προηγμένων μοντέλων AI.

Κερδίστε κι εσείς ανταμοιβή σε QUA γράφοντας μια αξιολόγηση στο Quasa.io!

Ξεκινήστε: https://quasa.io/projects/fractile