Helicone – Stack di osservabilità LLM e gateway AI | Quasa.io

#Quasa #QUA #Helicone

Helicone è uno stack di osservabilità LLM con un gateway AI: registra richieste, tracce, costi, prompt e sessioni; gestisce la cache, limita la frequenza delle richieste e passa a provider alternativi in caso di errore. Prezzi ufficiali: Hobby—gratuito, 10,000 richieste/mese, 1 GB, 1 utente, conservazione per 7 giorni. Pro—$79/month dopo una prova di 7 giorni—utenti illimitati, avvisi, report, HQL, 10K richieste gratuite, poi tariffazione a consumo, conservazione per 1 mese. Team—$799/month—5 organizzazioni, SOC 2 / HIPAA, canale Slack, conservazione per 3 mesi. Enterprise—su preventivo (SSO, installazione in sede, conservazione illimitata). Le startup con meno di due anni e $5M di finanziamenti ottengono il 50% di sconto sul primo anno; per gli studenti può essere gratuito. Non è un limite di spesa e non è LangSmith. Resta su Hobby finché non superi le 10K richieste. Acquista Pro quando ti servono gli avvisi. Acquista Team solo quando la conformità è prevista dal contratto.

𝗣𝗨𝗡𝗧𝗜 𝗗𝗜 𝗙𝗢𝗥𝗭𝗔
• Configurazione del proxy con una sola riga
• Tracce di richieste, costi e latenza
• Gateway con cache e passaggio a provider alternativi in caso di errore
• Piano Hobby davvero gratuito
• Opzione open source / con hosting autonomo  

𝗜𝗗𝗘𝗔𝗟𝗘 𝗣𝗘𝗥
Team che rilasciano applicazioni LLM in produzione e hanno bisogno di vedere quali chiamate falliscono e quanto costano.

𝗔𝗦𝗣𝗘𝗧𝗧𝗜 𝗦𝗔𝗟𝗜𝗘𝗡𝗧𝗜
• Sostenuto da YC; è entrato a far parte di Mintlify
• HQL per interrogare i log
• Calcolatore dei consumi nella pagina dei prezzi
• Sconti per startup e studenti
• Cloud o Docker  

𝗣𝗢𝗧𝗘𝗡𝗭𝗜𝗔𝗟𝗜 𝗔𝗦𝗣𝗘𝗧𝗧𝗜 𝗗𝗔 𝗩𝗔𝗟𝗨𝗧𝗔𝗥𝗘
• La conservazione su Hobby è di soli 7 giorni
• I piani a pagamento aggiungono i costi di utilizzo alla tariffa per utente
• Con Team il prezzo sale a $799
• L'osservabilità non blocca la spesa al raggiungimento del budget
• Il gateway è più leggero di un router completo come Portkey  

𝗩𝗘𝗥𝗗𝗘𝗧𝗧𝗢 𝗖𝗢𝗠𝗣𝗟𝗘𝗦𝗦𝗜𝗩𝗢
4.4/5 stelle. Registra prima 10K richieste su Hobby. Passa a Pro quando gli avvisi e un mese di cronologia diventano importanti. Evita Team finché l'ufficio legale non richiede SOC 2. Ottieni anche una ricompensa di 1 QUA lasciando una recensione su Quasa.io!

𝗜𝗡𝗜𝗭𝗜𝗔: https://quasa.io/projects/helicone