انشر نموذج Hugging Face بلا فاتورة خمول: التأخير هو الثمن

لنشر نموذجك عبر Hugging Face Inference Endpoints، جهّز حسابك للدفع، واختر النموذج والعتاد، ثم أنشئ نقطة استدلال واختبرها برمز وصول. يوضح دليل البدء السريع من Hugging Face أن النقطة تتطلب المصادقة افتراضياً، وأن عنوان API يظهر بعد التهيئة التي تستغرق عادةً ثلاثاً إلى خمس دقائق. بذلك تحصل على مسار لاستدعاء النموذج من تطبيقك، مع إبقاء الرمز بعيداً عن مستخدمي الواجهة العامة.

إذا كانت الطلبات متقطعة، فعّل التوسع إلى الصفر واجعل الحد الأدنى للنسخ صفراً. يحدد دليل التوسع التلقائي مهلة خمول افتراضية قدرها ساعة، ويوضح أن الوكيل قد يعيد الرمز 503 أثناء تهيئة نسخة جديدة بعد وصول طلب إلى نقطة متوقفة. تتوقف كلفة حوسبة النسخ حين يبلغ عددها الصفر، لكن أول طلب تالٍ يتحمل البدء البارد؛ لذلك يعتمد هذا الخيار على مقدار الانتظار الذي يقبله تطبيقك.

اختر النموذج والعتاد قبل إنشاء النقطة

ابدأ بتحديد مستودع النموذج الذي تريد خدمته، سواء اخترت إعداداً جاهزاً من كتالوج الخدمة أم احتجت إلى ضبط الإعدادات بنفسك. راجع مهمة النموذج، والمدخلات التي يقبلها، وشكل النتيجة التي سيعيدها. إذا كنت تنشر نموذج فريقك، فتحقق أيضاً من المستودع والمراجعة المقصودة؛ فاختبار نسخة ثم تشغيل أوزان مختلفة في الإنتاج يجعل نتيجة الاختبار أقل فائدة.

اختر مزود الحوسبة والمنطقة ونوع النسخة وفق متطلبات الذاكرة والحمل المتوقع، ثم ابدأ بعتاد يناسب النموذج فعلاً. النسخة الأكبر ترفع سعر وقت التشغيل، بينما زيادة العدد الأقصى للنسخ تعالج ارتفاع الطلبات بإضافة نسخ أخرى؛ وهما قراران مختلفان في الفاتورة وفي الأداء. راقب زمن الاستجابة واستهلاك الموارد تحت حمل مماثل لاستخدامك قبل زيادة أي منهما. وقد لا يتاح كل نوع عتاد في كل منطقة أو ضمن حصة حسابك، لذا احسم الاختيار من الخيارات المعروضة عند الإنشاء.

أنشئ النقطة واختبر المصادقة

1. أكمل إعداد الدفع في حساب Hugging Face، ثم افتح Inference Endpoints وحدد النموذج واسم النقطة وإعدادات الحوسبة. راجع السعر المعروض لنوع النسخة قبل إنشاء النقطة، وحدد الحساب أو المؤسسة التي ستملك النشر إذا كان العمل ضمن فريق.
2. أبقِ الوصول مقيداً بالرمز إذا كانت النقطة مخصصة لتطبيقك. بعد اكتمال التهيئة، خذ عنوان API من صفحة Overview وأرسل طلباً عبر Playground بمدخلات تشبه ما سيرسله التطبيق. افحص النتيجة وصيغة الاستجابة، لا حالة تشغيل النقطة وحدها.
3. استدعِ العنوان من تطبيقك برمز وصول مخوّل، ثم اختبر طلباً صحيحاً وآخر يفشل بسبب المصادقة أو المدخلات. احتفظ بالرمز في جهة الخادم أو في نظام أسرار؛ فإظهاره في واجهة المستخدم يتيح نسخه واستعماله خارج تطبيقك.

خصوصية الوصول بالرمز تعالج من يستطيع استدعاء النقطة، لكنها لا تعني وحدها أن عنوانها معزول عن الإنترنت. إذا كان مشروعك يحتاج اتصالاً شبكياً خاصاً، فافصل هذا الشرط عن إعداد المصادقة عند اختيار الشبكة. كذلك تحقق من صلاحية الرمز الذي ستستخدمه الخدمة نفسها، بدلاً من الاكتفاء بنجاح الطلب من حساب المطور داخل Playground.

اضبط الخمول على أساس أول طلب بعده

يعني التوسع إلى الصفر أن النسخ العاملة تتوقف بعد مدة بلا طلبات. عند وصول طلب جديد، يحتاج النظام إلى تهيئة نسخة وتحميل النموذج قبل خدمته؛ وقد تستغرق العودة دقائق بحسب النموذج. يستطيع العميل إرسال الترويسة X-Scale-Up-Timeout ليحتفظ الوكيل بالطلب حتى تجهز النسخة أو تنتهي المهلة المحددة، لكنها تغيّر طريقة انتظار الطلب ولا تختصر زمن تحميل النموذج.

اضبط الحد الأدنى على صفر فقط عندما يكون انتظار أول استجابة مقبولاً، وحدد عدداً أقصى للنسخ يلائم الحمل والميزانية. اختبر دورة كاملة: دع النقطة تصل إلى الصفر، ثم أرسل طلباً من التطبيق نفسه وقِس زمن الاستجابة وما يفعله العميل عند رد 503 أو انتهاء مهلة الانتظار. اختبار الطلب بينما النسخة دافئة لا يكشف أثر البدء البارد. وإذا كان الطلب الأول لا يستطيع الانتظار، فأبقِ نسخة جاهزة خلال فترة الخدمة.

عندما تكون ساعات الاستخدام متوقعة، يمكن لجدول التوسع اليومي إبقاء حد أدنى من النسخ خلال ساعات الذروة والسماح بالصفر خارجها. هذه التسوية تقلل مرات الاستيقاظ حين يُرجح وصول المستخدمين، لكنها تضيف وقت تشغيل مدفوعاً طوال فترة الجاهزية. احسب ذلك الوقت مع مهلة الخمول التي تسبق توقف النسخة، لا ساعات تنفيذ الطلبات وحدها.

احسب كلفة النسخ، لا عدد الطلبات

يضع جدول تسعير Inference Endpoints نسخة AWS من نوع intel-spr x2 عند 0.067 دولار للساعة، ونسخة AWS ذات معالج NVIDIA L4 واحد عند 0.80 دولار للساعة؛ ويستخدم المثال الشهري في الصفحة 0.064 دولار للنسخة الأولى رغم أن صف العتاد ومثال الساعة يوردان 0.067، لذا تعتمد الحسابات التالية سعر الصف. الأسعار معروضة بالساعة، لكن الاحتساب يتم بالدقيقة، ويشمل وقت تهيئة النسخ وتشغيلها.

في مثال افتراضي لشهر من 30 يوماً، تبقى النسخة الجاهزة طوال الشهر قيد التشغيل 720 ساعة. على عتاد intel-spr x2، تساوي كلفة نسخة واحدة نحو 48.24 دولار؛ وإذا جمع تشغيلها المدفوع 60 ساعة فقط بعد استخدام التوسع إلى الصفر، تصبح نحو 4.02 دولارات. وعلى عتاد L4، تقابل الحالتين نحو 576 دولاراً و48 دولاراً. هذه مقارنة لوقت نسخة واحدة، وليست تقديراً ثابتاً لفاتورة أي نموذج.

احسب وقت الفوترة بجمع دقائق تهيئة كل نسخة وتشغيلها، بما في ذلك الفترة بين آخر طلب والوصول إلى الصفر. وإذا رفع التوسع عدد النسخ تحت الحمل، فأضف وقت كل نسخة إضافية إلى المجموع. انخفاض عدد الطلبات وحده لا يكفي لتوقع الوفر: قد تبقى نسخة تعمل طوال اليوم إذا وصلتها طلبات متباعدة بفواصل أقصر من مهلة الخمول. أما حين توجد فترات سكون طويلة، فيوفر الصفر وقت حوسبة على حساب انتظار الاستيقاظ.

متى تُبقي نسخة جاهزة؟

يناسب التوسع إلى الصفر بيئات التطوير والمهام المتباعدة والتطبيقات التي تستطيع إظهار انتظار واضح عند أول طلب. في خدمة تتطلب استجابة سريعة على مدار فترة عمل محددة، قد يكون جدول يحتفظ بنسخة جاهزة خلالها أنسب من إيقاظ النموذج عند كل عودة للحركة. احسم القرار بقياس زمن أول طلب بعد السكون، ثم قارن أثره على المستخدم بكلفة الدقائق التي ستدفعها لإبقاء النسخة جاهزة.

اقرأ أيضًا:

• تشغيل نموذج Hugging Face محلياً: ابدأ بـpipeline في أسطر قليلة
• اختراق Hugging Face: وكلاء OpenAI تجاوزوا العزل بلا أمر بشري
• اختراق Hugging Face: وكلاء OpenAI تجاوزوا العزل قبل اكتشافهم