Helicone – LLM可観測性スタックとAIゲートウェイ | Quasa.io

#Quasa #QUA #Helicone

Heliconeは、LLM可観測性スタックとAIゲートウェイを組み合わせたものです。リクエスト、トレース、コスト、プロンプト、セッションを記録し、キャッシュ、レート制限、プロバイダー間のフォールバックを利用できます。公式料金：Hobby—無料、月間10,000リクエスト、1 GB、1シート、保存期間7日間。Pro—7日間のトライアル後は$79/month—シート数無制限、アラート、レポート、HQL、最初の10Kは無料で以降は従量課金、保存期間1か月。Team—$799/month—5組織、SOC 2 / HIPAA、Slackチャンネル、保存期間3か月。Enterprise—要見積もり（SSO、オンプレミス、無期限保存）。設立から2年未満で資金調達額が$5M未満のスタートアップは初年度50%割引。学生は無料で利用できる場合があります。支出の上限を設定するものではなく、LangSmithでもありません。リクエスト数が10Kを超えるまではHobbyを使い続けましょう。アラートが必要になったらProを購入しましょう。Teamを購入するのは、契約でコンプライアンス対応が求められる場合だけにしましょう。

主な強み
• 1行でプロキシを設定
• リクエスト、コスト、レイテンシーのトレース
• キャッシュとフォールバックを備えたゲートウェイ
• 本当に無料で使えるHobbyプラン
• オープンソース / セルフホストの選択肢  

こんなチームに最適
本番環境でLLMアプリを提供しており、どの呼び出しが失敗し、いくらかかっているかを把握する必要があるチーム。

注目ポイント
• YCの支援を受け、Mintlifyに参画
• HQLでログをクエリ可能
• 料金ページに利用料金計算ツールを用意
• スタートアップ割引と学生割引
• クラウドまたはDocker  

検討時の注意点
• Hobbyの保存期間はわずか7日間
• 有料プランではシート料金に加えて利用量に応じた料金が発生
• Teamでは料金が$799に跳ね上がる
• 可観測性は予算超過を防ぐ仕組みではない
• ゲートウェイはPortkeyのような本格的なルーターよりも簡易的  

総合評価
星4.4/5。まずはHobbyで10Kを記録しましょう。アラートと1か月分の履歴が重要になったらProにアップグレードしましょう。法務部門からSOC 2を求められるまではTeamを見送りましょう。Quasa.ioでもレビューを投稿して、1 QUAの報酬を獲得しましょう！

利用を始める： https://quasa.io/projects/helicone