RAG یا لمبا سیاق؟ ہر دستاویز پرامپٹ میں ڈالنا ہمیشہ بہتر نہیں

طویل دستاویزات سے سوال جواب میں ہر بار پوری فائل پرامپٹ میں ڈالنا بہتر انتخاب نہیں۔ اگر جواب ایک محدود عبارت میں ہے تو بازیافت کے ذریعے وہ عبارت دینا موزوں نقطۂ آغاز ہے۔ اگر جواب مختلف حصوں کو ملا کر بنتا ہے تو مکمل طویل سیاق، یا پہلے متعلقہ دستاویزات چن کر ان کا وسیع متن دینے والا مخلوط راستہ، زیادہ مناسب ہو سکتا ہے۔

فیصلہ صرف اس بات سے نہیں ہوتا کہ دستاویز ماڈل کی سیاقی حد میں سما جائے گی۔ سوال کی نوعیت، شواہد کی جگہ، متن کی ساخت، ماڈل کی صلاحیت اور ہر درخواست کا خرچ بھی دیکھنا پڑتا ہے۔ ایک ہی علمی معاون میں مختصر حقیقت ڈھونڈنے اور کئی دستاویزات کا تقابل کرنے والے سوال آ سکتے ہیں؛ دونوں کو یکساں متن دینا لازمی نہیں۔

جواب ایک جگہ ہے یا کئی جگہ؟

کسی مقالے کی تعریف، معاہدے کی ایک شق یا مالی بیان کی مخصوص قدر پوچھنے پر مطلوبہ ثبوت عموماً محدود مقام پر ہوتا ہے۔ RAG سوال سے متعلق عبارت تلاش کرکے ماڈل کو دیتا ہے، اس لیے اسے پوری دستاویز پڑھانے کی ضرورت کم ہو سکتی ہے۔ اس کے برعکس دو شقوں کا فرق یا مختلف ادوار کا تقابل تبھی درست ہوگا جب جواب کے تمام متعلقہ حصے سامنے ہوں۔

LaRA کی آزمائش میں ۲،۳۲۶ سوال جواب کی مثالیں، چار عملی سوالی اقسام اور قدرتی طویل متن کی تین اقسام شامل تھیں؛ اس کے نتائج میں بہتر راستہ سوال کی قسم، ماڈل کی صلاحیت، سیاق کی طوالت اور واپس لائے گئے حصوں کے مطابق بدلا۔ اس تحقیق میں ناول، تحقیقی مقالے اور مالی بیانات شامل تھے، جبکہ سوالات میں معلومات ڈھونڈنا، استدلال، تقابل اور بے بنیاد دعوے کی شناخت شامل تھی۔ یہ فرق بتاتا ہے کہ ایک طریقے کی مجموعی کارکردگی سے ہر قسم کے سوال کا فیصلہ نہیں کیا جا سکتا۔

دستاویز کی ترتیب انتخاب پر اثر ڈالتی ہے۔ واضح عنوان کے تحت موجود جواب تلاش کرنا نسبتاً آسان ہو سکتا ہے، مگر شرط اگر شق سے الگ لکھی ہو تو مختصر اقتباس ادھورا پڑے گا۔ اسی طرح متعلقہ متن ماڈل کے سامنے ہونا کافی نہیں: لمبے سیاق سے درست ربط قائم کرنا بھی ضروری ہے۔ اس لیے قابل اعتماد جواب کا سوال دو حصوں میں بٹتا ہے: ضروری عبارت پہنچی یا نہیں، اور ماڈل نے اسے درست استعمال کیا یا نہیں۔

محدود تلاش میں بازیافت کا فائدہ

بار بار بدلتے سوالات کے ساتھ بڑے دستاویزی ذخیرے کو استعمال کرنا ہو تو متعلقہ حصے واپس لانا پورا ذخیرہ ہر درخواست میں بھیجنے سے زیادہ قابل انتظام ہو سکتا ہے۔ مثال کے طور پر، اگر سوال ایک خاص پالیسی کی ایک شرط پوچھتا ہے تو جواب دینے کے لیے اسی شرط اور اس کے قریبی استثنا کی عبارت کافی ہو سکتی ہے۔ یہ ایک مشروط مثال ہے: حقیقی نظام میں حصہ کہاں سے شروع اور ختم ہوتا ہے، اسی سے جواب کی مکملیت بدل سکتی ہے۔

بازیافت کی ناکامی خاموش بھی ہو سکتی ہے۔ تلاش ایک بظاہر متعلقہ پیراگراف دے سکتی ہے لیکن وہ جدول کی سرخی، اگلے صفحے کی شرط یا درست نسخہ چھوڑ سکتی ہے۔ پھر ماڈل کی رواں زبان اصل کمی چھپا دیتی ہے۔ دستاویز کو حصوں میں تقسیم کرتے وقت عنوان، ذیلی عنوان اور ملحقہ عبارت کا تعلق محفوظ رکھنا اسی وجہ سے اہم ہے؛ محض لفظی مماثلت جواب کے لیے کافی ثبوت نہیں۔

ایسے سوالات میں مکمل سیاق پھر بھی موزوں ہو سکتا ہے، خاص طور پر جب متن مختصر ہو اور ماڈل اسے مؤثر انداز سے استعمال کرتا ہو۔ بازیافت کو ابتدائی انتخاب سمجھنا بہتر ہے، لازمی فاتح نہیں۔ اس کی افادیت تب بنتی ہے جب درست حصہ ملنے کے ساتھ جواب میں متعلقہ شرط بھی برقرار رہے۔

بکھرے شواہد میں وسیع سیاق کیوں اہم ہے

تقابلی سوال میں ایک درست اقتباس بھی ناکافی ہو سکتا ہے۔ اگر دو مالی ادوار کی تبدیلی پوچھنے پر تلاش صرف نئے دور کی قدر لائے تو ماڈل کے پاس مکمل حساب یا وضاحت کی بنیاد نہیں ہوگی۔ متعلقہ دستاویزات پہلے منتخب کرکے ان کے وسیع حصے دینا ایک درمیانی راستہ ہے: تلاش ذخیرے کو محدود کرتی ہے، جبکہ طویل سیاق منتخب مواد کے باہمی تعلق کو سامنے رکھتا ہے۔

Loong کی کثیر دستاویزی آزمائش میں ہر دستاویز جواب کے لیے متعلق تھی، کسی ایک کو چھوڑنے سے جواب ناکام ہو سکتا تھا، اور آزمودہ بازیافتی طریقوں کی کارکردگی کمزور رہی۔ اس نتیجے کی حد بھی اسی ترتیب میں ہے: وہ ایسے سوالات کا امتحان تھا جن کے لازمی شواہد کئی دستاویزات میں پھیلے تھے۔ ایک مقام سے حقیقت ڈھونڈنے والے عام سوال پر اسے منتقل نہیں کیا جا سکتا۔

متعدد شواہد کے لیے زیادہ اقتباسات واپس لانا ممکن ہے، مگر اس سے غیر متعلقہ متن اور ٹوکن خرچ بھی بڑھتے ہیں۔ وسیع سیاق بھی خودکار ضمانت نہیں دیتا، کیونکہ ماڈل کو مختلف مقامات کے اعداد یا شرائط درست طور پر ملانا ہوتے ہیں۔ اصل انتخاب یہ ہے کہ ضروری شواہد کس کم سے کم مگر مکمل متن میں اکٹھے پیش کیے جا سکتے ہیں۔

مجموعی خلاصہ، محدود سوال سے مختلف ہے

پوری دستاویز کا متوازن خلاصہ بناتے وقت پہلے سے معلوم نہیں ہوتا کہ اہم بات کس پیراگراف میں ہے۔ صرف سوال سے قریب ترین اقتباسات چننے پر کم نمایاں استثنا، اختلافی مؤقف یا آخری حصے کا فیصلہ رہ سکتا ہے۔ قابل انتظام طوالت کی ایک دستاویز کے لیے مکمل سیاق اسی وجہ سے معقول ابتدائی راستہ ہے: خلاصے کا موضوع خود پوری دستاویز ہے۔

بہت بڑے مجموعے میں پہلے منتخب دستاویزات یا ان کے حصوں کا خلاصہ بنا کر پھر انہیں یکجا کیا جا سکتا ہے۔ اس مخلوط ترتیب کا فائدہ یہ ہے کہ ایک درخواست میں پورا مجموعہ دینے کی ضرورت نہیں رہتی؛ اس کی کمزوری یہ ہے کہ ابتدائی خلاصے سے چھوٹی ہوئی بات آخری جواب میں خودبخود واپس نہیں آئے گی۔ جہاں عددی شرط یا استثنا فیصلہ بدلتا ہو، وہاں متعلقہ اصل عبارت کو آخری مرحلے تک ساتھ رکھنا زیادہ محفوظ ترتیب ہے۔

خلاصے اور مختصر سوال جواب کا معیار بھی ایک جیسا نہیں۔ کسی مخصوص قدر کا درست نکل آنا اس بات کا ثبوت نہیں کہ پورے متن کے اہم موضوعات مناسب تناسب سے پیش ہوئے ہیں۔ خلاصے کے انتخاب میں مواد کی کوریج اور مختلف حصوں کے تعلق کو وہی اہمیت ملنی چاہیے جو مختصر سوال میں درست اقتباس کو ملتی ہے۔

خرچ، تازگی اور مخلوط راستہ

پوری دستاویز ہر درخواست میں بھیجنے سے داخل ہونے والے ٹوکن بڑھتے ہیں؛ بازیافت متن کو محدود کر سکتی ہے، مگر اشاریہ بنانا، اسے تازہ رکھنا اور تلاش چلانا بھی وسائل لیتا ہے۔ طویل سیاق اور بازیافت کے تقابلی مطالعے میں آزمودہ ڈیٹا مجموعوں پر کافی وسائل کے ساتھ مکمل سیاق نے اوسط معیار میں برتری دکھائی، جبکہ RAG کم خرچ رہا؛ اسی مطالعے کا Self-Route طریقہ پہلے بازیافت شدہ متن سے جواب دینے اور ضرورت پڑنے پر مکمل سیاق استعمال کرنے سے اس کے قریب معیار پر کم حسابی خرچ تک پہنچا۔ یہ شائع شدہ آزمائش کا نتیجہ ہے، ہر نئے ماڈل یا ذخیرے کے لیے طے شدہ بچت نہیں۔

مسلسل تازہ ہونے والے ذخیرے میں RAG نئی دستاویز تلاش کے لیے دستیاب کرا سکتا ہے، بشرطیکہ اشاریہ بروقت بدلے اور پرانے نسخے ہٹیں۔ مکمل سیاق بھی تازہ جواب دے سکتا ہے، اگر ہر درخواست میں درست موجودہ نسخہ فراہم کیا جائے۔ یہاں فرق صرف معماری کے نام کا نہیں، مواد کے درست نسخے کو سوال تک پہنچانے کے عمل کا ہے۔

انتخاب کا مختصر نقشہ یوں بنتا ہے: ایک مقام سے جواب ملے تو بازیافت سے آغاز کریں؛ کئی مقامات کے شواہد درکار ہوں تو مکمل یا منتخب وسیع سیاق کو ترجیح دیں؛ مجموعی خلاصے میں متن کی کوریج محفوظ رکھیں؛ اور بدلتے ذخیرے میں تازہ نسخے تک رسائی کو بنیادی شرط بنائیں۔ مخلوط راستہ تب معنی خیز ہے جب کچھ سوال مختصر اقتباس سے حل ہوں اور باقی کو وسیع متن درکار ہو۔ اس تقسیم کو اپنے سوالات، ماڈل اور ٹوکن بجٹ کے مطابق رکھنا کسی ایک طریقے کو ہر دستاویز پر مسلط کرنے سے زیادہ معقول انتخاب ہے۔

یہ بھی پڑھیں:

• Riverside یا Descript: بہتر ریکارڈنگ اور تیز تدوین ایک ہی فاتح نہیں دیتے
• AI bubble ایک ہی منڈی نہیں، تحقیق نے کمپنیوں کے درمیان فرق دکھا دیا
• Google Pics آگیا—تصویر میں متن بدلے گا، مگر ہر Workspace plan میں نہیں