Helicone – Платформа за надзор LLM апликација и AI мрежни пролаз | Quasa.io

#Quasa #QUA #Helicone

Helicone је платформа за надзор LLM апликација и AI мрежни пролаз: бележите захтеве, трагове извршавања, трошкове, упите и сесије; кеширајте, ограничавајте учесталост захтева и прелазите на резервне пружаоце услуга. Званичне цене: Hobby—бесплатно, 10,000 захтева месечно, 1 GB, 1 корисничко место, чување података 7 дана. Pro—$79 месечно након пробног периода од 7 дана—неограничен број корисничких места, упозорења, извештаји, HQL, првих 10K бесплатно, затим наплата према коришћењу, чување података 1 месец. Team—$799 месечно—5 организација, SOC 2 / HIPAA, Slack канал, чување података 3 месеца. Enterprise—цена на упит (SSO, инсталација у сопственој инфраструктури, трајно чување података). Стартапи млађи од две године са $5M финансирања добијају 50% попуста за прву годину; студентима може бити бесплатно. Ово није ограничење потрошње и није LangSmith. Останите на пакету Hobby док не премашите 10K захтева. Купите Pro када вам затребају упозорења. Купите Team само када је усклађеност са прописима уговорна обавеза.

ГЛАВНЕ ПРЕДНОСТИ
• Подешавање проксија у једној линији
• Трагови захтева, трошкова и кашњења
• Мрежни пролаз са кешом и резервним опцијама
• Заиста бесплатан пакет Hobby
• Отворени изворни код / могућност самосталног хостовања  

ИДЕАЛНО ЗА
Тимове који испоручују LLM апликације за продукционо окружење и треба да виде који позиви не успевају и колико коштају.

ИЗДВАЈАМО
• Уз подршку YC; придружио се компанији Mintlify
• HQL за претраживање евиденција упитима
• Калкулатор коришћења на страници са ценама
• Попусти за стартапе и студенте
• Облак или Docker  

НА ШТА ТРЕБА ОБРАТИТИ ПАЖЊУ
• Hobby чува податке само 7 дана
• Плаћени пакети наплаћују коришћење поред накнаде за корисничко место
• Цена пакета Team скаче на $799
• Надзор не ограничава буџет
• Мрежни пролаз има мање могућности од потпуног рутера као што је Portkey  

УКУПНА ОЦЕНА
4.4/5 звездица. Прво забележите 10K захтева на пакету Hobby. Пређите на Pro када вам буду важни упозорења и месец дана историје. Прескочите Team док правна служба не затражи SOC 2. Зарадите и награду од 1 QUA писањем рецензије на Quasa.io!

ПОЧНИТЕ: https://quasa.io/projects/helicone