التخزين المؤقت للأوامر يخفض الكلفة، لكن المحتوى المتغير يمحو المكسب

لخفض كلفة وكيل الذكاء الاصطناعي وزمن بدء استجابته، اجعل التعليمات وتعريفات الأدوات والمراجع المشتركة مقدمة ثابتة، ثم ضع سؤال المستخدم ونتائج الأدوات الجديدة بعدها. تشرح وثائق OpenAI للتخزين المؤقت أن الاستفادة مشروطة بتطابق بداية الطلب، وأن بعض النماذج تتيح تعيين حد صريح ينهي الكتابة قبل المحتوى سريع التغير.

اختر الحد عند نهاية الجزء الذي يُعاد استخدامه فعلاً خلال عمر النسخة المخزنة، لا عند نهاية أطول سياق يمكنك إرساله. ثم قارن رموز الكتابة والقراءة والكلفة لكل مهمة مكتملة وزمن أول رمز؛ ارتفاع عدد الطلبات لا يكفي إذا كان كل طلب يبدأ بمقدمة مختلفة.

ثبّت المقدمة واترك التغير في الذيل

تبدأ البنية المشتركة بالتعليمات التي تضبط دور الوكيل، وصيغة الإخراج المتكررة، وتعريفات الأدوات اللازمة لكل مهمة من النوع نفسه. يأتي بعدها ما يخص الطلب: هوية المستخدم إن كانت لازمة، والسؤال، والتاريخ، والمقاطع المسترجعة من نظام الاسترجاع المعزز، ونتيجة البحث أو استدعاء الأداة. أي حقل متغير داخل المقدمة يقطع التطابق عند موضعه، ولو عادت الفقرات اللاحقة إلى النص نفسه.

احرص على ثبات ترتيب الأدوات وأسمائها ومخططات مدخلاتها بين الطلبات المتشابهة؛ فالتغيير في تعريف الأداة قد يغير بداية السياق المعالج. وإذا كانت التعليمات تختلف بحسب نوع المهمة، أنشئ مقدمة مستقلة لكل نوع بدلاً من إدخال شرط أو وصف متغير في وسط مقدمة واحدة. هذا التقسيم يجعل ما تتوقع إعادة استخدامه واضحاً، ويسمح بمقارنة كل مجموعة عمل على حدة.

للتاريخ داخل الجلسة عمر مختلف عن النتائج الجديدة. الرسائل ونتائج الأدوات السابقة التي تبقى كما هي يمكن إعادة استخدامها في دور لاحق إذا أُلحق الدور الجديد بنهايتها؛ أما إعادة صياغتها أو تلخيصها فتغيّر المقدمة. لذلك ضع نتائج الأدوات المتجددة بعد الجزء المشترك بين الجلسات، لكن لا تفترض أن كل نتيجة أداة قديمة عديمة الفائدة للتخزين داخل الجلسة نفسها.

اربط حد التخزين بالعمر ومعدل إعادة الاستخدام

الحد المناسب هو نهاية أطول مقدمة متطابقة يُحتمل أن تتكرر قبل انتهاء صلاحية نسختها. في الواجهات التي تسمح بحد صريح، يمكن إنهاء الكتابة بعد التعليمات والمرجع المستقر وترك سؤال المستخدم والنتائج الطارئة خارجها. في الواجهات ذات الحدود التلقائية، يبقى ترتيب المحتوى مهماً، لكن موضع الإصابة قد لا يطابق نهاية الفقرة التي اخترتها ذهنياً.

قبل إطالة المقدمة، افحص الحد الأدنى للأهلية في النموذج وإعدادات الطلب. إضافة أمثلة أو مراجع نافعة وثابتة قد تجعل الجزء المشترك قابلاً للتخزين، لكن الحشو الذي لا تحتاجه المهمة يزيد الرموز في كل استدعاء. وإذا تباعدت الطلبات حتى تنتهي النسخة المخزنة، تتحول القراءة التي توقعتها إلى كتابة جديدة؛ لذا احسب مرات التكرار داخل نافذة البقاء، لا من إجمالي الحركة الشهرية.

في تقييم لوكلاء بحث يستخدمون الأدوات شمل أكثر من 500 جلسة، تراوح خفض كلفة الواجهة البرمجية بين 41% و80% وتحسن زمن أول رمز بين 13% و31% عبر مزودين مختلفين. ارتبط استبعاد نتائج الأدوات المتغيرة واختيار مواضع التخزين بعناية بفائدة أكثر اتساقاً، فيما قد يزيد تخزين السياق الكامل بسذاجة زمن التأخير. هذه نتائج عبء الاختبار وإعداداته، وليست نسبة توفير يمكن نقلها مباشرة إلى كل وكيل.

احسب نقطة التعادل قبل توسيع الجزء المحفوظ

يمكن بناء حاسبة صغيرة لأي مقدمة ثابتة. سمِّ طولها بالرموز S، وعدد الكتابات M، وعدد القراءات المصابة H، وسعر رمز الإدخال العادي U، وسعر كتابته في التخزين W، وسعر قراءته R. عند ثبات طول المقدمة، تكون كلفتها مع التخزين S × (M × W + H × R)، مقابل S × (M + H) × U إذا عولجت المقدمة بالسعر العادي في كل مرة.

إذا كانت الكتابة أغلى من الإدخال العادي والقراءة أرخص منه، تتحقق نقطة التعادل حين تتجاوز نسبة الإصابات H ÷ (M + H) القيمة (W − U) ÷ (W − R). هذه النسبة تخص الجزء المرشح للتخزين وحده؛ وهي لا تعني أن فاتورة المهمة كلها ستنخفض بالمقدار نفسه. عندما تتفاوت أطوال المقدمات، استبدل عدد الطلبات بمجموع رموز الكتابة والقراءة الفعلية حتى لا تخفي المتوسطات سلسلة من الكتابات الطويلة قليلة الاستعمال.

مثال افتراضي مبسط: إذا كانت كتابة الرمز تساوي ضعف سعره العادي، وكانت قراءته تساوي عُشر ذلك السعر، تحتاج المقدمة إلى إصابات تتجاوز نحو 53% من مرات إرسالها كي تتعادل كلفتها. لا تصلح هذه الأسعار المفترضة للمحاسبة الفعلية؛ ضع أسعار نموذجك في الحاسبة، وأدخل رموز الذيل غير المخزنة والإخراج واستدعاءات الأدوات عند حساب كلفة المهمة المكتملة.

قارن ثلاثة ترتيبات على مهام متكافئة

اختبر البنية الحالية إلى جانب بديلين على عينة تمثل جلسات الوكيل القصيرة والطويلة، وطلبات متقاربة زمنياً وأخرى متباعدة. ثبّت النموذج والأدوات وإعدادات التوليد قدر الإمكان، واستخدم نتائج أدوات مسجلة عند إعادة التشغيل أو وزّع حركة حية متكافئة بين الأذرع. بذلك تعكس الفروق ترتيب السياق أكثر مما تعكس تغير الأسئلة أو نتائج البحث.

1. الوضع الحالي: احتفظ بترتيب الرسائل المعتاد وسجل الإصابات والكتابات والكلفة والزمن، بما في ذلك أي تخزين تلقائي قائم.
2. مقدمة مشتركة محددة: انقل التعليمات وتعريفات الأدوات المستقرة إلى البداية، واترك مدخلات المستخدم ونتائج الأدوات الجديدة بعدها، وحدد نهاية الجزء المشترك إن كانت الواجهة تسمح.
3. سياق أوسع: اسمح بتخزين تاريخ الجلسة ونتائج الأدوات السابقة حيث تدعم الواجهة ذلك، ثم احسب إن كانت القراءات الإضافية تعوض الكتابات الجديدة.

احسب النتيجة لكل مهمة مكتملة، لا لكل استدعاء منفرد. قد يقل سعر طلب بينما يزيد عدد طلبات الوكيل أو يطول إخراجه، وقد يبدو تخزين السياق الواسع ناجحاً في جلسة متصلة ويخسر في جلسات متباعدة. راقب أيضاً اكتمال المهمة وجودة الإجابة؛ فالتوفير الذي يتطلب إعادة المحاولة لا يظهر في سعر الرموز الأول.

اقرأ الإصابة إلى جانب الكتابة وزمن أول رمز

اعرض في لوحة القياس رموز القراءة من التخزين ورموز الكتابة والرموز العادية، ثم احسب نسبة الرموز المصابة داخل المقدمة المؤهلة ونسبتها من إجمالي الإدخال. النسبة الأولى تكشف جودة إعادة الاستخدام، والثانية تبين وزنها في الفاتورة. أضف تكلفة المهمة المكتملة ووسيط زمن أول رمز وتوزيعه بحسب النموذج ونوع المهمة، حتى لا تخفي المهام السريعة ذيلاً بطيئاً مكلفاً.

تتيح أداة تشخيص التخزين في Responses API، للنماذج المدعومة من GPT-5.6 فصاعداً، مقارنة الطلب باستجابة سابقة مؤهلة لتحديد اختلاف النموذج أو الأدوات أو الإعدادات أو بداية المدخلات. ويظهر حقل cached_tokens حجم إعادة الاستخدام الفعلي. تفيد هذه التشخيصات في فحص طلبات بعينها، فيما تكشف لوحة القياس نمط الاستخدام عبر الجلسات.

إذا ارتفعت القراءة ومعها الكتابة، افصل المقدمات بحسب المهمة وراجع موضع الحد قبل زيادة حجم الجزء المحفوظ. وإذا انخفضت كلفة الإدخال بينما ظل زمن أول رمز أو كلفة المهمة ثابتين، فربما يهيمن الذيل المتغير أو استدعاء الأدوات أو الإخراج على النتيجة. معيار التعميم هو تحسن الكلفة والزمن على حركة مماثلة لحركة الوكيل الفعلية، مع بقاء جودة المهمة مستقرة.

اقرأ أيضًا:

• Claude Haiku 5.5 يخفض الكلفة 75%، لكن المهام المعقدة تبقى لـSonnet
• Claude Opus 5.5 يخفض الكلفة 40%، لكن المقارنة ما زالت من Anthropic
• خفض فاتورة Gemini API: متى يوفّر التخزين المؤقت ومتى لا؟