Subquadratic کا Quasa پر جائزہ: مربعی سے کم پیچیدگی والا پہلا LLM

#Quasa #QUA #subquadratic

Subquadratic، AI کی جدید ترین تحقیق اور بنیادی ڈھانچے کی ایک کمپنی ہے جو بڑے لسانی ماڈلز کی ایک نئی قسم تیار کر رہی ہے۔ اس کا نمایاں ترین ماڈل، SubQ، پہلا LLM ہے جو مکمل طور پر مربعی سے کم پیچیدگی والے کم کثافت کی توجہ کے طرزِ تعمیر پر بنایا گیا ہے۔ روایتی ٹرانسفارمرز کے برعکس، جن کی حسابی ضروریات سیاق کی طوالت کے ساتھ مربعی شرح سے بڑھتی ہیں ($O(n^2)$)، SubQ کی حسابی ضروریات خطی شرح سے بڑھتی ہیں ($O(n)$)، جس سے کئی ملین ٹوکنز پر استدلال عملی اور مؤثر بن جاتا ہے۔

SubQ کو خاص طور پر طویل سیاق والے کاموں کے لیے تیار کیا گیا ہے۔ یہ معیار میں کمی کے بغیر ایک ہی پرامپٹ میں کوڈ کے مکمل ذخیروں، ایجنٹس کی طویل سابقہ سرگرمیوں، کئی ماہ کی پُل ریکویسٹس اور برقرار رہنے والی حالتوں پر کارروائی کر سکتا ہے۔ یہ ماڈل فی الحال 12 ملین ٹوکنز تک کی سیاقی گنجائش فراہم کرتا ہے اور طویل سیاق سے معلومات کی بازیافت اور عمومی استدلال، دونوں کی معیاری آزمائشوں میں مضبوط کارکردگی دکھاتا ہے۔ 1 ملین ٹوکنز پر SubQ کو نمایاں طور پر کم حسابی وسائل درکار ہوتے ہیں (دعویٰ ہے کہ کثیف توجہ کے مقابلے میں 64.5× کم) اور یہ توجہ کے معیاری طریقۂ کار سے کہیں زیادہ تیزی سے چلتا ہے۔

کمپنی اس اصول پر توجہ مرکوز کرتی ہے کہ “کارکردگی ہی ذہانت ہے۔” طرزِ تعمیر کی سطح پر مربعی پیچیدگی کی رکاوٹ کو حل کر کے، Subquadratic کا مقصد AI ایجنٹس کی ایک نئی نسل کو ممکن بنانا ہے جو سیاق کو ٹکڑوں میں بانٹنے، خلاصہ بنانے یا معلومات کی بازیافت کے عارضی طریقوں پر انحصار کرنے کے بجائے واقعی بڑی مقدار میں سیاق کے ساتھ کام کر سکے۔

Subquadratic ان ڈویلپرز، کوڈنگ ایجنٹس، ادارہ جاتی ٹیموں اور محققین کے لیے مثالی ہے جنہیں طویل سیاق پر قابلِ اعتماد استدلال کی ضرورت ہوتی ہے — خاص طور پر مکمل کوڈ کے تجزیے، طویل مدت تک چلنے والے ایجنٹس اور متعدد دستاویزات پر مشتمل پیچیدہ کاموں کے لیے۔

نمایاں خصوصیات

• مکمل طور پر مربعی سے کم پیچیدگی والا (خطی شرح سے بڑھنے والا) پہلا LLM طرزِ تعمیر۔
• کئی ملین ٹوکنز پر مشتمل سیاق (12M ٹوکنز تک)۔
• طویل سیاق سے معلومات کی مضبوط بازیافت، وسائل کے انتہائی مؤثر استعمال کے ساتھ۔
• مکمل ذخیروں اور ایجنٹ کی برقرار رہنے والی حالت کے لیے تیار کردہ۔
• OpenAI سے ہم آہنگ API اور کوڈنگ ایجنٹس کے ساتھ انضمام۔

• قابلِ غور ممکنہ پہلو

• جدید ترین تحقیق پر مبنی ماڈل ہونے کے باعث، اس کا وسیع تر ماحولیاتی نظام اور مختلف حجم کی اقسام ابھی توسیع کے مراحل میں ہیں۔
• یہ عمومی مختصر پرامپٹ والی گفتگو کے مقابلے میں طویل سیاق والے استعمالات کے لیے زیادہ موزوں ہے۔

مجموعی رائے: 4.7/5 ستارے

Subquadratic موجودہ LLMs کی اہم ترین حدود میں سے ایک — توجہ کی مربعی لاگت — کو حل کرنے پر کام کر رہی ہے۔ کہیں کم حسابی وسائل کے ساتھ کئی ملین ٹوکنز پر عملی استدلال فراہم کر کے، SubQ ایجنٹس اور طویل سیاق والی ایپلی کیشنز کے لیے طرزِ تعمیر میں ایک بامعنی پیش رفت کی نمائندگی کرتا ہے۔

آپ بھی Quasa.io پر جائزہ لکھ کر QUA انعام حاصل کریں!

آغاز کریں: https://quasa.io/projects/subquadratic