Helicone – LLM Observability-Stack & KI-Gateway | Quasa.io

#Quasa #QUA #Helicone

Helicone ist ein LLM-Observability-Stack und ein KI-Gateway: Protokollierung von Anfragen, Traces, Kosten, Prompts und Sessions; Caching, Rate-Limiting und Fallbacks über verschiedene Anbieter hinweg. Offizielle Preise: Hobby – kostenlos, 10.000 Anfragen/Monat, 1 GB, 1 Sitzplatz, 7 Tage Aufbewahrung. Pro – 79 $/Monat nach einer 7-tägigen Testversion – unbegrenzte Sitzplätze, Benachrichtigungen, Berichte, HQL, 10.000 frei, danach verbrauchsabhängig, 1 Monat Aufbewahrung. Team – 799 $/Monat – 5 Organisationen, SOC 2 / HIPAA, Slack-Kanal, 3 Monate Aufbewahrung. Enterprise – auf Anfrage (SSO, On-Premise, unbegrenzte Aufbewahrung). Start-ups unter zwei Jahren und mit weniger als 5 Million US-Dollar Finanzierung erhalten im ersten Jahr 50 % Rabatt; Studierende können den Dienst kostenlos nutzen. Es ist kein Budgetlimit und kein LangSmith. Bleiben Sie bei Hobby, bis 10.000 Anfragen nicht mehr ausreichen. Kaufen Sie Pro, wenn Sie Benachrichtigungen benötigen. Kaufen Sie Team erst, wenn Compliance im Vertrag verankert ist.

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛𝗦
• Einzeilige Proxy-Einrichtung
• Anfrage-, Kosten- und Latenz-Traces
• Gateway mit Caching und Fallbacks
• Echter kostenloser Hobby-Tarif
• Open-Source- / Self-Hosting-Option  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
Teams, die LLM-Anwendungen für die Produktion bereitstellen und sehen müssen, welche Aufrufe fehlschlagen und was sie kosten.

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• YC-unterstützt; Partnerschaft mit Mintlify
• HQL für abfragbare Protokolle
• Nutzungskalkulator auf der Preisseite
• Start-up- und Studentenrabatte
• Cloud oder Docker  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• Aufbewahrung im Hobby-Tarif beträgt nur 7 Tage
• Kostenpflichtige Tarife berechnen die Nutzung zusätzlich zur Grundgebühr
• Team springt auf 799 $
• Observability ist keine Budgetkontrolle
• Gateway ist schlanker als ein voller Router wie Portkey  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 Sterne. Protokollieren Sie zuerst 10K im Hobby-Tarif. Upgrade auf Pro, wenn Benachrichtigungen und ein Monat Historie wichtig werden. Überspringen Sie Team, bis die Rechtsabteilung nach SOC 2 fragt. Verdienen Sie außerdem eine 1-QUA-Belohnung für eine Bewertung auf Quasa.io!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/helicone