PrismML: بررسی آیندهٔ مدل‌های زبانی بزرگ روی دستگاه

#Quasa #QUA #prismml

PrismML یک شرکت پژوهشی هوش مصنوعی مستقر در ایالات متحده است (با ریشه‌های قوی در Caltech) که بر چالشی اساسی تمرکز دارد: چگونه می‌توان هوشمندی مدل‌ها را بدون افزایش اندازه یا پیچیدگی آن‌ها چند برابر کرد. راهکار این شرکت، مدل‌هایی با تراکم بسیار بالا و فشرده‌سازی شدید است که ضمن مصرف بسیار کمتر حافظه، انرژی و منابع محاسباتی، عملکرد قدرتمندی ارائه می‌دهند.

محصول پرچم‌دار این شرکت، Bonsai 27B، مدلی با 27 میلیارد پارامتر است که در نسخه‌های 1 بیتی (فقط 3.9 GB) و سه‌مقداری (5.9 GB) عرضه می‌شود. این ویژگی به مدلی در این مقیاس امکان می‌دهد مستقیماً روی گوشی‌های هوشمند و لپ‌تاپ‌ها اجرا شود — کاری که پیش‌تر با مدل‌های استاندارد با دقت کامل امکان‌پذیر نبود. PrismML ادعا می‌کند که نسخهٔ 1 بیتی در مقایسه با مدل‌های سنتی 16 بیتی، از حافظه‌ای 14× کمتر استفاده می‌کند، 8× سریع‌تر اجرا می‌شود و 5× انرژی کمتری مصرف می‌کند، و در عین حال همچنان از استدلال چندمرحله‌ای، فراخوانی ابزار، گردش‌کارهای عامل‌محور و درک چندوجهی پشتیبانی می‌کند.

فلسفهٔ محوری این شرکت “تراکم هوشمندی” است — به حداکثر رساندن هوشمندی مفید به‌ازای هر بیت، به‌جای صرفاً افزایش تعداد پارامترها. هدف این رویکرد، حل هم‌زمان دو مشکل عمده است: مدل‌های بزرگی که در دستگاه‌های شخصی جا نمی‌گیرند و نیاز ناپایدار مراکز دادهٔ عظیم به انرژی.

PrismML برای توسعه‌دهندگان، تولیدکنندگان سخت‌افزار، پژوهشگران و شرکت‌هایی ایدئال است که می‌خواهند هوش مصنوعی قدرتمند به‌صورت محلی، با حفظ حریم خصوصی در سطح بالا، تأخیر کم و بهره‌وری بالای انرژی اجرا شود.

نکات برجسته

• فشرده‌سازی 1 بیتی و سه‌مقداری در سطح جهانی (خانوادهٔ Bonsai).
• Bonsai 27B روی گوشی‌ها اجرا می‌شود و تنها به ~4 GB نیاز دارد.
• بهبودهای چشمگیر در مصرف حافظه، سرعت و بهره‌وری انرژی.
• پشتیبانی از استدلال، استفاده از ابزار و قابلیت‌های چندوجهی روی دستگاه.
• پشتوانهٔ پژوهشی قوی از Caltech.

ملاحظات احتمالی

• از آنجا که این فناوری نسبتاً جدید است، پشتیبانی اکوسیستم و ابزارهای تنظیم دقیق آن همچنان در حال گسترش هستند.
• در حال حاضر، بهترین نتایج روی سخت‌افزارهای مدرن و رده‌بالای گوشی‌ها و لپ‌تاپ‌ها مشاهده می‌شود.

ارزیابی کلی: 4.6/5 ستاره

PrismML در حال حاضر یکی از مهم‌ترین مرزهای هوش مصنوعی را پیش می‌برد — کاربردی کردن مدل‌های بزرگ روی دستگاه‌های روزمره. این شرکت با تمرکز بر تراکم هوشمندی به‌جای اندازهٔ صرف، به انتقال مؤثر هوش مصنوعی قدرتمند از فضای ابری به لبهٔ شبکه کمک می‌کند.

شما هم با ثبت نقد و بررسی در Quasa.io پاداش QUA دریافت کنید!

شروع کنید: https://quasa.io/projects/prismml