Helicone – Stack sa Pagsubaybay sa LLM at AI Gateway | Quasa.io

#Quasa #QUA #Helicone

Ang Helicone ay isang stack sa pagsubaybay sa LLM na may AI gateway: magtala ng mga request, trace, gastos, prompt, at session; gumamit ng cache, magtakda ng limitasyon sa dalas ng request, at lumipat sa ibang provider kapag pumalya ang una. Opisyal na pagpepresyo: Hobby—libre, 10,000 request/buwan, 1 GB, 1 puwesto ng user, 7 araw na pagpapanatili ng datos. Pro—$79/buwan pagkatapos ng 7 araw na pagsubok—walang limitasyong puwesto ng user, mga alerto, ulat, HQL, libreng unang 10K at pagkatapos ay singil batay sa paggamit, 1 buwang pagpapanatili ng datos. Team—$799/buwan—5 organisasyon, SOC 2 / HIPAA, channel sa Slack, 3 buwang pagpapanatili ng datos. Enterprise—presyo ayon sa alok (SSO, pagho-host sa sariling imprastraktura, permanenteng pagpapanatili ng datos). Ang mga startup na wala pang dalawang taon at wala pang $5M na pondo ay makakakuha ng 50% diskuwento sa unang taon; maaaring libre para sa mga estudyante. Hindi ito limitasyon sa paggastos at hindi rin ito LangSmith. Manatili sa Hobby hanggang lumampas sa 10K ang mga request. Kumuha ng Pro kapag kailangan mo ng mga alerto. Kumuha lang ng Team kapag nakasaad sa kontrata ang pagsunod sa mga pamantayan.

MGA PANGUNAHING KALAKASAN
• Pag-setup ng proxy sa isang linya
• Mga trace ng request, gastos, at tagal ng pagtugon
• Gateway na may cache at mga alternatibo kapag may pumalya
• Talagang libreng antas na Hobby
• Open-source / opsyong i-host sa sarili  

ANGKOP PARA SA
Mga team na naglalabas ng mga LLM app para sa aktuwal na paggamit at kailangang makita kung aling mga tawag ang pumapalya at magkano ang gastos ng mga ito.

MGA TAMPOK
• Suportado ng YC; sumali sa Mintlify
• HQL para sa mga log na maaaring i-query
• Kalkulador ng paggamit sa pahina ng pagpepresyo
• Mga diskuwento para sa mga startup at estudyante
• Cloud o Docker  

MGA DAPAT ISAALANG-ALANG
• 7 araw lang ang pagpapanatili ng datos sa Hobby
• May dagdag na singil sa paggamit bukod sa bayad sa puwesto ng user sa mga bayad na plano
• Tumataas sa $799 ang presyo ng Team
• Hindi nakakandado ang badyet sa pamamagitan ng pagsubaybay
• Mas limitado ang gateway kaysa sa isang ganap na router tulad ng Portkey  

PANGKALAHATANG HATOL
4.4/5 bituin. Magtala muna ng 10K sa Hobby. Mag-upgrade sa Pro kapag mahalaga na ang mga alerto at isang buwang kasaysayan. Huwag munang kumuha ng Team hangga't hindi hinihingi ng departamentong legal ang SOC 2. Makakuha rin ng gantimpalang 1 QUA sa pamamagitan ng pagsulat ng pagsusuri sa Quasa.io!

MAGSIMULA: https://quasa.io/projects/helicone