Portkey – AI-gateway og LLMOps-kontrolplan til apps med flere modeller | Quasa.io
#Quasa #QUA #Portkey
Portkey er en AI-gateway og et LLMOps-kontrolplan, der ligger mellem din app og de modeller, du kalder. Én OpenAI-kompatibel API dirigerer trafik på tværs af 1,600+ modeller og 40+ udbydere med fallback, belastningsfordeling, genforsøg, caching, logfiler, spor, omkostningssporing, sikkerhedsregler, promptstyring og en MCP-gateway. Kernegatewayen er open source under MIT-licensen; det hostede produkt tilføjer observabilitet og styring. Den kommercielle vej er nu knyttet til Palo Alto Networks / Prisma AIRS. Centrale værktøjer: Universal API, routing & failover, simpel + semantisk cache, observabilitet (logfiler/spor/omkostninger), sikkerhedsregler & maskering af personoplysninger, promptstudie, virtuelle nøgler/budgetter, MCP-gateway. Priser: Developer gratis (10k logfiler/mo, 3 dages opbevaring). Production $49/mo (100k logfiler, +$9 pr. ekstra 100k). Enterprise efter aftale (VPC, SSO, SOC2/HIPAA). OSS på egen hosting er gratis software plus din infrastruktur.
CENTRALE STYRKER
• Én API på tværs af et meget bredt modelkatalog
• Kontrolfunktioner til produktion: fallback, cache, budgetter, sikkerhedsregler
• Dybdegående observabilitet for forespørgsler
• Gratisniveau + open source-gateway under MIT-licensen
• Mulighed for virksomhedsløsninger via Prisma AIRS
IDEEL TIL
Teams, der driver LLM-apps med flere modeller eller agenter og har brug for pålidelighed, omkostningskontrol og styring uden at integrere hver udbyder separat.
HØJDEPUNKTER
• OpenAI-kompatibel integration, der kan sættes direkte ind
• Semantisk caching kan reducere tokenomkostningerne
• Versionsstyring af prompts + testmiljø
• Angiver at blive brugt af 3,000+ GenAI-teams
POTENTIELLE FORBEHOLD
• Værdien af betalingsløsningen ligger primært i logfiler/opbevaring og styring, ikke i ren behandlingskapacitet
• Gratis logning stopper ved 10k (forespørgsler fortsætter med at blive behandlet)
• Opkøbet ændrer den langsigtede udviklingsplan
• Er ikke en modelmarkedsplads som OpenRouter
SAMLET VURDERING
4.4/5 stjerner. En stærk gateway til produktion, hvis du allerede bruger dine egne nøgler og har brug for routing samt observabilitet. Start på gratisniveauet, og skift først til $49, når du har brug for længere opbevaring af logfiler, semantisk cache og RBAC. Optjen også en belønning på 1 QUA ved at skrive en anmeldelse på Quasa.io!
KOM I GANG: https://quasa.io/projects/portkey























