Langfuse või LangSmith: tasuta majutuse tegelik kulu

Langfuse sobib meeskonnale, kes tahab jälgimisandmeid ise majutada ja suudab andmebaase käitada: omamajutuse hinnakiri lubab MIT-litsentsiga põhiversiooni kasutada litsentsitasuta, kuid tasulise Enterprise’i hind lisandub ClickHouse’i kommertsplaanile. Ka tasuta põhiversioon vajab ClickHouse’i jaoks taristut ja inimest, kes selle töös hoiab.

LangSmith sobib meeskonnale, kes eelistab hallatud teenust ning saab kulusid arvestada kasutajate ja jälgede järgi. LangSmithi hinnakiri määrab Plusi hinnaks 39 dollarit kasutaja kohta kuus, sisaldab 10 000 baasjälge kuus ning arvestab lisakasutust LSU-des; baasjälgede säilitus on 14 ja pikendatud jälgedel 180 päeva. Nende kahe teenuse kogukulu võrdlemiseks on vaja teada jälgede arvu, jäljes olevate sammude hulka, hindamiste sagedust ja seda, kui kaua andmeid tarvis läheb.

Miks sama jälgede arv annab erineva arve?

Langfuse’i pilves on arvestuse alus salvestatud kirjete arv. Arvestusühikute kirjeldus annab valemi: ühikud = jäljed + vaatlused + skoorid. Üks kasutaja päring võib seega sisaldada üht jälge, mitut mudeli- või tööriistakutse vaatlust ja hindamisel lisanduvat skoori. Ka Langfuse’i enda hindamis- või katsefunktsioonidega loodud kirjed lähevad pilves ühikute hulka.

LangSmithis tähistab jälg üht rakenduse käivitust, mille sees võib olla mitu sammu. Avalik hinnakiri annab plaaniga kaasneva baasjälgede mahu ja LSU hinna, kuid ei avalda üht püsivat hinda tuhande täiendava jälje kohta. Seetõttu oleks eksitav jagada Langfuse’i ühikute hind LangSmithi jälgede hinnaga: ühel pool kasvab arve ka jäljes olevate vaatluste ja skooridega, teisel pool tuleb lisaks kohatasule hinnata kasutuspõhist kulu.

Kolm tinglikku kuukoormust

Langfuse’i pilvehinnakirjas sisaldab tasuta Hobby 50 000 ühikut, kuni kaht kasutajat ja 30 päeva andmetele ligipääsu; 29-dollarine Core sisaldab 100 000 ühikut, piiramatult kasutajaid ja 90 päeva ligipääsu. Core’i lisakasutus maksab esimese miljoni ühikuni 8 dollarit ning järgmises astmes 7 dollarit iga 100 000 ühiku kohta. Järgnevad profiilid on arvutusnäited, mitte mõõdetud kliendikasutus. Kõigis eeldatakse, et üks jälg vastab ühele rakenduse käivitusele.

Väike katse. Üks kasutaja teeb kuus 5000 jälge; igas jäljes on keskmiselt kaks vaatlust ja skoore ei lisata. Langfuse’i maht on 5000 × (1 + 2) = 15 000 ühikut, mis mahub Hobby sisse. LangSmithi Developer sisaldab ühele kasutajale 5000 baasjälge, nii et ka seal ei teki selles näites jälgimise kohatasu. Kui jälgi on vaja pikemalt säilitada, tasuta mahu võrdlusest enam ei piisa.
Kasvav rakendus. Kolm kasutajat teevad kuus 50 000 jälge; igas on keskmiselt kolm vaatlust ning skoor lisatakse igale viiendale jäljele. Langfuse’i maht on 50 000 × (1 + 3 + 0,2) = 210 000 ühikut. Core’i näidisarve on 29 + 110 000 ÷ 100 000 × 8 = 37,80 dollarit kuus. LangSmith Plusi kohatasu on 3 × 39 = 117 dollarit; üle kaasatud 10 000 baasjälje jääb 40 000 jälge, mille kasutuskulu lisandub.
Suurem tootmiskoormus. Kaheksa kasutajat teevad kuus 500 000 jälge; igas on keskmiselt viis vaatlust ja üks skoor. Langfuse’i maht on 500 000 × (1 + 5 + 1) = 3,5 miljonit ühikut. Core’i näidisarve on 29 + 900 000 ÷ 100 000 × 8 + 2 500 000 ÷ 100 000 × 7 = 276 dollarit kuus. LangSmith Plusi kohatasu on 8 × 39 = 312 dollarit ning üle kaasatud mahu jääb 490 000 jälge.

LangSmithi arvutuse korratav kuju on Plusi puhul 39 × kasutajate arv + kasutusest tekkiv LSU kulu. Viimast ei saa nende profiilide jälgede arvust üksi usaldusväärselt välja arvutada: teenuse kalkulaator küsib andmeid agendi töö kohta ja märgib tulemuse hinnanguks. Seega on 117 ja 312 dollarit vastavate profiilide teadaolev kohatasu, mitte LangSmithi lõpparve. Langfuse’i arvutused eeldavad omakorda Core’i säilitusaja sobivust ega sisalda allahindlusi.

Säilitus ja hindamine muudavad mahu tähendust

Lühikese veaotsingu jaoks võib baasjälgede säilitusaeg olla piisav. Kui meeskond koostab hindamiskogumeid varasematest vestlustest või võrdleb kvaliteeti kuude lõikes, tuleb arvestada pikema ligipääsuga. Langfuse’i pilves tähendab see vajaduse korral kõrgemat plaani; LangSmithis saab valitud baasjälgi lisatasu eest pikendatud jälgedeks muuta. Kogu jälgede arvu asemel tasub seepärast eraldi hinnata, kui suur osa neist vajab pikemat säilitust.

Hindamine mõjutab ka jooksva kuu mahtu. Langfuse’is lisab salvestatud skoor arvestusse ühiku ning hindamiskatse võib tekitada uusi jälgi ja vaatlusi. LangSmithis võib hindaja käivitus ise olla jälg ning kasutus sõltub rakendatud hindamisfunktsioonidest. Kui tootmisjälgi on kuus sama palju, aga hindamisi tehakse sagedamini, ei püsi arve tingimata samal tasemel. Võrdluseks on vaja prognoosida tootmisjäljed ja hindamiste käigus loodavad kirjed eraldi.

Mis kuulub Langfuse’i omamajutuse kulusse?

Langfuse’i arhitektuurikirjelduses on veebirakendus ja taustatöötleja ning nende kõrval PostgreSQL, ClickHouse, Redis või Valkey ja S3-ga ühilduv objektisalvestus. PostgreSQL hoiab tehingulisi andmeid, ClickHouse jälgi, vaatlusi ja skoore, vahemälu teenindab järjekorda ning objektisalvestus saabuvad sündmused ja mahukamad manused. ClickHouse ei ole seega valikuline lisand üksnes suurtele paigaldustele: jälgimisandmete hoidmine sõltub sellest ka omamajutuses.

Avatud lähtekoodiga paigalduse kuukulu saab esitada valemina: veebirakenduse ja töötleja käitus + ClickHouse + PostgreSQL + Redis või Valkey + objektisalvestus + varundus + seire ja valve + haldustöö. Litsentsitasu on põhiversioonil null, kuid andmebaaside ressursid, salvestusruum, varukoopiad, uuendused ja riketele reageerimine jäävad meeskonna kanda. Olemasoleva taristu kasutamine võib rahalist lisakulu vähendada, ent ei kaota vastutust selle töökindluse eest.

Enterprise’i omamajutus on eraldi hinnamudel: Langfuse’i kokkuleppeline tasu lisandub ClickHouse’i kommertsplaanile. Avatud lähtekoodiga põhiversiooni puhul võib kasutada enda hallatavat ClickHouse’i, mille tarkvaralitsents ei pea tekitama kommertsarvet; selle käitamine kasutab siiski taristut ja tööaega. LangSmith pakub omamajutust Enterprise’i tingimustel ning avalik hinnakiri sellele fikseeritud summat ei anna. Kui andmete asukoht või oma paigalduse nõue määrab valiku, tuleb võrrelda just neid majutusmudeleid; kui otsustav on väike käitamiskoormus, annavad pilveplaanid selgema lähtekoha.

Loe ka: