Portkey – बहु-मॉडल ऐप्स के लिए AI गेटवे और LLMOps कंट्रोल प्लेन | Quasa.io

#Quasa #QUA #Portkey

Portkey एक AI गेटवे और LLMOps कंट्रोल प्लेन है जो आपके ऐप और आपके द्वारा कॉल किए जाने वाले मॉडलों के बीच स्थित होता है। एक OpenAI-संगत API 1,600+ मॉडल और 40+ प्रदाताओं में ट्रैफ़िक को रूट करता है, जिसमें फ़ॉलबैक, लोड संतुलन, पुनः प्रयास, कैशिंग, लॉग, ट्रेस, लागत ट्रैकिंग, गार्डrails, प्रॉम्प्ट प्रबंधन और एक MCP गेटवे शामिल हैं। कोर गेटवे MIT ओपन सोर्स है; होस्टेड उत्पाद में ऑब्ज़र्वएबिलिटी और गवर्नेंस जुड़ते हैं। वाणिज्यिक मार्ग अब Palo Alto Networks / Prisma AIRS से जुड़ा हुआ है। कोर टूल: यूनिवर्सल API, रूटिंग और फ़ैलओवर, सिंपल + सिमेंटिक कैश, ऑब्ज़र्वएबिलिटी (लॉग/ट्रेस/लागत), गार्डrails और PII रिdaction, प्रॉम्प्ट स्टूडियो, वर्चुअल कीज़/बजट, MCP गेटवे। मूल्य निर्धारण: Developer निःशुल्क (10k लॉग/माह, 3-दिन का प्रतिधारण)। Production $49/माह (100k लॉग, प्रति अतिरिक्त 100k पर +$9)। Enterprise कस्टम (VPC, SSO, SOC2/HIPAA)। OSS सेल्फ-होस्ट मुफ्त सॉफ्टवेयर प्लस आपका बुनियादी ढांचा है।

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛𝗦
• एक बहुत विस्तृत मॉडल कैटलॉग में एक API
• उत्पादन नियंत्रण: फ़ॉलबैक, कैश, बजट, गार्डrails
• गहन अनुरोध ऑब्ज़र्वएबिलिटी
• निःशुल्क टियर + MIT ओपन-सोर्स गेटवे
• Prisma AIRS के माध्यम से Enterprise पथ  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
बहु-मॉडल LLM ऐप या एजेंट चलाने वाली टीमें जिन्हें प्रत्येक प्रदाता को अलग से जोड़े बिना विश्वसनीयता, लागत नियंत्रण और शासन की आवश्यकता होती है।

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• ड्रॉप-इन OpenAI-संगत एकीकरण
• सिमेंटिक कैशिंग टोकन खर्च को कम कर सकती है
• प्रॉम्प्ट संस्करण + प्लेग्राउंड
• 3,000+ GenAI टीमों का दावा  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• भुगतान किया गया मूल्य मुख्य रूप से लॉग/प्रतिधारण और शासन है, कच्चा थ्रूपुट नहीं
• मुफ्त लॉग 10k पर रुक जाते हैं (अनुरोध अभी भी चलते हैं)
• अधिग्रहण दीर्घकालिक रोडमैप को बदलता है
• OpenRouter जैसा मॉडल मार्केटप्लेस नहीं है  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 स्टार। यदि आप पहले से ही अपनी खुद की कुंजियाँ लाते हैं और रूटिंग के साथ-साथ ऑब्ज़र्वएबिलिटी की आवश्यकता है, तो मजबूत उत्पादन गेटवे। मुफ्त टियर पर शुरू करें, फिर केवल तभी $49 पर जाएं जब आपको लंबे लॉग, सिमेंटिक कैश और RBAC की आवश्यकता हो। Quasa.io पर समीक्षा करके 1 QUA पुरस्कार भी अर्जित करें!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/portkey