PrismML: Αξιολόγηση — Το μέλλον των μεγάλων γλωσσικών μοντέλων που εκτελούνται στη συσκευή

#Quasa #QUA #prismml

Η PrismML είναι μια εταιρεία έρευνας τεχνητής νοημοσύνης με έδρα τις ΗΠΑ (με ισχυρές ρίζες στο Caltech) που εστιάζει σε μια κρίσιμη πρόκληση: πώς να πολλαπλασιάσει τη νοημοσύνη των μοντέλων χωρίς να αυξήσει το μέγεθος ή την πολυπλοκότητά τους. Η λύση της είναι μοντέλα εξαιρετικά υψηλής πυκνότητας και συμπίεσης που προσφέρουν υψηλές επιδόσεις, χρησιμοποιώντας δραστικά λιγότερη μνήμη, ενέργεια και υπολογιστική ισχύ.

Το κορυφαίο προϊόν της, το Bonsai 27B, είναι ένα μοντέλο με 27 δισεκατομμύρια παραμέτρους, διαθέσιμο σε εκδόσεις 1-bit (μόλις 3.9 GB) και τριαδικής αναπαράστασης (5.9 GB). Αυτό επιτρέπει σε ένα μοντέλο τέτοιας κλίμακας να εκτελείται απευθείας σε έξυπνα κινητά και φορητούς υπολογιστές — κάτι που προηγουμένως ήταν αδύνατο με τα συνήθη μοντέλα πλήρους ακρίβειας. Η PrismML υποστηρίζει ότι η έκδοση 1-bit χρησιμοποιεί 14× λιγότερη μνήμη, εκτελείται 8× ταχύτερα και καταναλώνει 5× λιγότερη ενέργεια σε σύγκριση με τα παραδοσιακά μοντέλα 16-bit, ενώ εξακολουθεί να υποστηρίζει συλλογιστική πολλαπλών βημάτων, κλήσεις εργαλείων, ροές εργασίας με αυτόνομους πράκτορες και πολυτροπική κατανόηση.

Η βασική φιλοσοφία της εταιρείας είναι η “πυκνότητα νοημοσύνης” — η μεγιστοποίηση της χρήσιμης νοημοσύνης ανά bit αντί για την απλή αύξηση του αριθμού των παραμέτρων. Αυτή η προσέγγιση στοχεύει στην ταυτόχρονη επίλυση δύο μεγάλων προβλημάτων: των μεγάλων μοντέλων που δεν χωρούν σε προσωπικές συσκευές και των μη βιώσιμων ενεργειακών απαιτήσεων των τεράστιων κέντρων δεδομένων.

Η PrismML είναι ιδανική για προγραμματιστές, κατασκευαστές υλικού, ερευνητές και εταιρείες που θέλουν ισχυρή τεχνητή νοημοσύνη που εκτελείται τοπικά, με ισχυρή προστασία της ιδιωτικότητας, χαμηλή καθυστέρηση και υψηλή ενεργειακή απόδοση.

Κύρια χαρακτηριστικά

• Συμπίεση 1-bit και τριαδικής αναπαράστασης παγκόσμιας κλάσης (οικογένεια Bonsai).
• Το Bonsai 27B εκτελείται σε κινητά με μόλις ~4 GB.
• Σημαντικά οφέλη στη χρήση μνήμης, την ταχύτητα και την ενεργειακή απόδοση.
• Υποστηρίζει συλλογιστική, χρήση εργαλείων και πολυτροπικές δυνατότητες απευθείας στη συσκευή.
• Ισχυρό ερευνητικό υπόβαθρο από το Caltech.

Σημεία που ενδέχεται να χρειάζονται προσοχή

• Καθώς πρόκειται για σχετικά νέα τεχνολογία, η υποστήριξη από το οικοσύστημα και τα εργαλεία περαιτέρω εκπαίδευσης εξακολουθούν να αναπτύσσονται.
• Τα καλύτερα αποτελέσματα παρατηρούνται επί του παρόντος σε σύγχρονα κινητά και φορητούς υπολογιστές με υλικό υψηλών προδιαγραφών.

Συνολική αξιολόγηση: 4.6/5 αστέρια

Η PrismML προωθεί ένα από τα σημαντικότερα μέτωπα της τεχνητής νοημοσύνης αυτή τη στιγμή — καθιστώντας πρακτική τη χρήση μεγάλων μοντέλων σε καθημερινές συσκευές. Εστιάζοντας στην πυκνότητα νοημοσύνης αντί για το μέγεθος καθαυτό, η εταιρεία συμβάλλει ουσιαστικά στη μεταφορά ισχυρής τεχνητής νοημοσύνης από το νέφος στις συσκευές στο άκρο του δικτύου.

Κερδίστε ανταμοιβή σε QUA γράφοντας κι εσείς μια αξιολόγηση στο Quasa.io!

Ξεκινήστε: https://quasa.io/projects/prismml