Langfuse или LangSmith: бесплатниот self-hosting носи сопствена оперативна сметка

Langfuse е разумен избор за тим што сака сам да ги чува податоците и има капацитет да одржува инфраструктура. Неговите основни функции за следење, евалуации и управување со промптови се достапни за бесплатно самостојно хостирање под MIT-лиценца, според ценовникот за самостојно хостирање. Бесплатната лиценца ја отстранува софтверската претплата, но серверите, складирањето и инженерската работа остануваат трошок на тимот.

LangSmith е посилна почетна опција за тим што главно гради со LangGraph и сака управувана услуга. Тој наплаќа кориснички места и употреба, но го отстранува од тимот секојдневното одржување на платформата за следење. За тим со повеќе програмски рамки, изборот останува отворен: двете платформи прифаќаат следење и надвор од својот најблизок екосистем. Пресметката затоа мора да ги опфати задржувањето на податоците, обемот на traces и времето за одржување.

Местата се само почеток на месечната цена

Официјалниот ценовник на LangSmith наведува цена за Plus од 39 американски долари по место месечно, 10.000 вклучени основни traces месечно за планот, задржување од 14 дена за основните и 180 дена за продолжените traces, за кои се плаќа дополнително. По вклучениот обем се наплаќа употребата. Самостојна и хибридна поставеност се наведени под Enterprise, со цена по договор.

Квотата за основни traces е месечен обем на планот, а не износ што треба да се множи со секое место. Еден trace претставува извршување на апликацијата и може да содржи повеќе чекори, па бројот на повици кон моделот не е секогаш ист со бројот на traces. При евалуации важно е и кои записи треба да останат достапни подолго: продолженото задржување додава трошок дури и кога вкупниот број извршувања е во вклучениот обем.

Кај Langfuse OSS нема надомест за софтверската лиценца или наплата по корисничко место. Споредливата месечна сметка е збир од пресметувачки ресурси, складирање, резервни копии, мрежен сообраќај и инженерски часови помножени со внатрешниот трошок за час. Ако на тимот му требаат комерцијални функции или договорена поддршка, и таа понуда влегува во збирот. Без процена на часовите, бесплатната лиценца лесно изгледа поевтина отколку што е во работењето.

Што значи тимот сам да ја одржува платформата

Самостојното хостирање на Langfuse опфаќа повеќе компоненти од самата апликација. Независната споредба на DataCamp ја опишува поставеноста со ClickHouse, PostgreSQL, Redis и складиште компатибилно со S3. За продукциска употреба тимот треба да планира капацитет, надградби, резервни копии и враќање по дефект за компонентите што ги управува.

Оперативната работа има сопствен ритам: надградбата на апликацијата може да бара проверка на компатибилноста со базите и клиентските библиотеки, а резервната копија има вредност само ако може да се врати. Ако внесувањето traces застане, некој мора да го открие прекинот и да процени кои записи недостигаат. За мал развоен тим, тие часови може да бидат поголем трошок од месечната сметка за самите ресурси, но износот зависи од постојната инфраструктура и од тоа кој ја одржува.

Потребниот простор исто така не се добива само со броење извршувања. Во проценката влегуваат големината на записите, бројот на чекори во агентските извршувања, приложените податоци, избраниот рок на чување и просторот за копии. Иста месечна бројка на traces може да произведе различен обем податоци кога едната апликација бележи краток одговор, а другата и повици кон алатки, посредни резултати и повратни оценки. Тоа е причина трошокот за складирање да се моделира од сопствените записи на тимот, а не од цена по место.

Задржувањето ја менува и цената и одговорноста

Кај самостојно хостираниот Langfuse, податоците за настаните стандардно се чуваат без временско ограничување ако нема поставена политика. Документацијата за задржување на Langfuse наведува дека автоматската политика по проект во самостојна поставеност е функција на Enterprise Edition. Тим што користи OSS затоа треба да го вклучи растот на складиштето во буџетот и, ако му треба рок за бришење, да испланира сопствен процес што ги опфаќа и резервните копии.

Кај LangSmith, подолгото чување се пресметува според уделот на traces што се префрлаат во продолжено задржување, а не само според вкупниот месечен број. Запис со повратна информација или резултат од евалуација може да има вредност подолго од запис потребен само за краткорочно откривање грешка. За европски тим што бележи кориснички влезови и излези, местото на обработка, дозволите за пристап и правилата за бришење се посебни услови при изборот на поставеност; сопственото хостирање само по себе не ја завршува таа работа.

OpenTelemetry отвора избор, но LangGraph останува посебен случај

LangSmith може да прима traces и од апликации што не користат LangChain. Неговата документација за OpenTelemetry опишува стандарден клиент за такви апликации и вградена интеграција за LangChain и LangGraph. Тоа му дозволува на тим со повеќе програмски рамки да го разгледува LangSmith без да го префрла целиот код во LangChain. За LangGraph тимот, вграденото следење го намалува почетниот напор за инструментација.

Преносливоста на traces не значи дека целата работа во платформата се пренесува на ист начин. Збирките за евалуација, оценките, верзиите на промптовите и врските со агентските извршувања треба одделно да се разгледаат при можен премин. Токму тука се разликуваат тимовите: оној што веќе работи со LangGraph може повеќе да добие од поблиската интеграција на LangSmith, додека тим со неколку рамки може повеќе да вреднува единствена поставеност под сопствена контрола.

Како изгледа пресметката за различни тимови

• Мал тим со три места. Во условен пример, фиксниот дел за LangSmith Plus е 117 долари месечно, пред дополнителната употреба. Langfuse OSS може да биде поевтин ако тимот веќе одржува соодветна инфраструктура; ако треба допрва да ја изгради, во споредбата влегуваат и часовите за поставување и одржување.
• LangGraph тим со пет места. Условниот фиксен дел за Plus е 195 долари месечно. На таа сума се додава наплатливата употреба, а на другата страна стојат инфраструктурниот трошок и инженерското време за Langfuse. Поблиската интеграција со LangGraph е релевантна вредност ако го намалува времето за инструментација и откривање грешки.
• Тим со повеќе програмски рамки и четири места. Условниот фиксен дел за Plus е 156 долари месечно. Поддршката за OpenTelemetry го остава LangSmith во изборот; Langfuse добива тежина ако сопственото хостирање и контролата врз податоците се приоритет. Кај овој тим најмногу значат напорот за поврзување на различните апликации и количината податоци што навистина ќе се чува.

За конечна споредба, тимот треба да стави во ист месечен модел места, наплатливи traces и продолжено задржување за LangSmith, наспроти ресурси, складирање, копии и инженерски часови за Langfuse. Резултатот зависи од обемот и од веќе постојните оперативни способности: истата бесплатна лиценца има различна цена за тим со подготвена инфраструктура и за тим што мора да ја воспостави од почеток.

Прочитајте и:

• Matomo или GA4: сопственоста на податоците носи скриена админ-работа
• Leonardo AI или Midjourney: бесплатниот план менува повеќе од цената
• Видеото носи внимание, аудиото доверба: подкаст-метриките не се споредливи