Langfuse vagy LangSmith: ülésdíj és saját üzemeltetés

A Langfuse MIT-licencű, saját tárhelyes Open Source csomagja korlátlan számú felhasználót és használatot enged szoftveres ülésdíj nélkül. A csapat viszont maga fizeti és működteti a szükséges infrastruktúrát. A külön árazott Enterprise csomaghoz más üzemeltetési és támogatási feltételek tartoznak.

A LangSmith nyilvános díjszabása szerint a Developer egy ülésre ingyenes, a Plus havi 39 dollár ülésenként; a csomagok rendre havi 5000 és 10 000 alap trace-t tartalmaznak, a további használat fizetős lehet. Az alap trace-ek megőrzése 14 nap, a külön díjért hosszabbított trace-eké 180 nap. A választásnál ezért az ülésdíjat, a naplózott futások mennyiségét és a saját üzemeltetés munkáját külön kell számolni.

Mit fizet egy, öt és húsz felhasználó?

A Plus listaárából az ülésdíj egyszerűen kiszámítható. Az alábbi összegek havi díjak, és csak a hozzáférést kapó felhasználókat fedik le; a használat, az esetleges adók és a forintra váltás hatása nincs bennük.

Egy felhasználó: LangSmith Developer 0 dollár, LangSmith Plus 39 dollár; saját üzemeltetésű Langfuse Open Source esetén 0 dollár szoftveres ülésdíj.
Öt felhasználó: LangSmith Plus 195 dollár; saját üzemeltetésű Langfuse Open Source esetén 0 dollár szoftveres ülésdíj.
Húsz felhasználó: LangSmith Plus 780 dollár; saját üzemeltetésű Langfuse Open Source esetén 0 dollár szoftveres ülésdíj.

A Developer együléses kerete miatt az öt- és húszfős összevetésben már a Plus a nyilvános LangSmith-ajánlat. A Plusban foglalt trace-keret a csomag havi kerete, nem minden ülés után külön jár. Több munkatárs meghívása tehát növeli az ülésdíjat, de önmagában nem sokszorozza meg a díjban foglalt alap trace-ek számát.

A nulla dolláros Langfuse-sor kizárólag a szoftver ülésdíját jelöli. Egy kis csapatnál a saját rendszer állandó költsége nagyobb lehet a Plus ülésdíjánál; nagyobb csapatnál a névleges ülésdíj-különbség nő. Egyik esetből sem következik automatikusan, hogy a teljes havi költség melyik oldalon alacsonyabb.

Mi kerül a saját üzemeltetés sorába?

A saját Langfuse-környezet több összetevőből áll. A Langfuse architektúraleírása alkalmazás- és feldolgozóréteget, a trace-ekhez ClickHouse-t, a tranzakciós adatokhoz PostgreSQL-t, sorokhoz és gyorsítótárhoz Redis rendszert, valamint objektumtárolót nevez meg. A licencdíj hiánya ezek számítási, tárolási és felügyeleti költségét nem szünteti meg.

Az infrastruktúra becslésébe a futtatási kapacitás, a ClickHouse és a PostgreSQL tárhelye, az objektumtár, a mentések és a hálózat tartozik. Ettől külön sor az emberi munka: telepítés, frissítés, hozzáféréskezelés, hibaelhárítás, kapacitásbővítés és helyreállítás. Meglévő platformcsapatnál egyes erőforrások megoszthatók, de a rendszerhez rendelt munkaidő ettől még költség.

A trace-ek száma mellett azok mérete és feldolgozási mintája is számít. Egy rövid, kevés adatot tartalmazó futás más tárolási igényt okoz, mint egy sok lépésből álló, részletes bemenetet és kimenetet rögzítő futás. A szükséges rendelkezésre állás szintén változtatja a becslést: a kipróbálásra fenntartott környezet és az üzemi megfigyelésre használt rendszer nem ugyanazt a mentési és helyreállítási munkát kívánja.

Így a Langfuse havi összege a csapat számára infrastruktúra + üzemeltetői munka + esetleges vállalati szolgáltatások. Konkrét általános dollárárat erre a sorra nem lehet megalapozottan ráírni: a meglévő kapacitás, a trace-terhelés és a vállalt rendelkezésre állás csapatonként eltér. A LangSmith oldalán az ülésdíjhoz ugyanilyen terhelés mellett a használati díjat kell hozzáadni.

A megőrzés ára és a törlés felelőssége

A LangSmithnél a rövidebb ideig őrzött alap trace és a hosszabbított trace eltérő költségű. Ha a csapat csak friss futások hibáit vizsgálja, más használati összeggel számolhat, mint ha korábbi futásokat is értékelésekhez tartana meg. A hosszabb megőrzés díját ezért a várható trace-mennyiséghez kell kötni, nem az ülésdíj részeként kezelni.

A Langfuse esetében az adatok elérhetősége és automatikus törlése külön kérdés. A Langfuse megőrzési tájékoztatója szerint a projektenként beállítható automatikus törlési szabály a saját tárhelyes Enterprise változatban érhető el; ilyen szabály nélkül az eseményadatok nem törlődnek automatikusan. Az MIT-változat üzemeltetőjének így a tároló növekedését és az előírt törlés megoldását is bele kell vennie a költségmodellbe.

A saját tárolás akkor ad érdemi kontrollt, ha a csapat azt is meghatározza, milyen adat kerül a trace-be, ki fér hozzá, és meddig marad meg. A teljes felhasználói üzeneteket vagy modellválaszokat rögzítő napló más tárhelyet és adatkezelést igényelhet, mint az időzítést és állapotot rögzítő esemény. Ezt a különbséget egyik szolgáltatás ülésára sem mutatja meg.

Adatelhelyezés: melyik környezetet választja a csapat?

Saját Langfuse-telepítésnél a csapat választja ki az infrastruktúra helyét, és maga kezeli a tárolókat. Ez fontos lehet, ha a naplózott bemeneteket vagy kimeneteket meghatározott környezetben kell tartani. A nagyobb ellenőrzéshez a hozzáférések, a mentések és a helyreállítás felelőssége is hozzátartozik.

A LangSmith adatelhelyezési ismertetője szerint a smith.langchain.com címen használt felhős szolgáltatás adatai a GCP us-central-1 régiójában vannak; saját tárhelyes és BYOC lehetőséget is kínál adatrezidencia-igényű csapatoknak. Ezeket a lehetőségeket az adott vállalati ajánlat feltételeivel kell értékelni, nem a Plus nyilvános ülésdíjával azonosítani.

Magyarországi beszerzésnél különösen a ténylegesen választott környezet számít. A trace-ek tárolási helye, a hozzáférés és a szerződéses feltételek csak ugyanarra a telepítési módra vonatkoztatva vethetők össze. A saját Langfuse-telepítés helye a csapat döntése; a LangSmith kezelt felhős és vállalati telepítési módjai eltérő feltételeket jelentenek.

Mikor melyik költségmodell kedvezőbb?

Egyetlen felhasználónak a LangSmith Developer ingyenes ülése alacsony belépési költséget ad, ha a csomag trace-kerete és megőrzése megfelel. Öt vagy húsz Plus-felhasználónál az ismert ülésdíj már önálló, jól látható havi tétel. A várható használati díj nélkül azonban ezek az összegek nem teljes ajánlati árak.

A Langfuse saját üzemeltetésű Open Source változata akkor lehet kedvezőbb, ha a csapat a szükséges rendszereket és a hozzájuk tartozó munkát az ülésdíj-különbségnél olcsóbban tudja biztosítani. Ha ehhez új infrastruktúrát vagy rendszeres üzemeltetői kapacitást kell létrehozni, a szoftveres ülésdíj hiánya kisebb előnyt jelenthet. Az összehasonlítható számítás ugyanannyi trace-t, azonos megőrzési célt és ugyanazt a hozzáférést igénylő csapatot veszi alapul.

Olvassa el ezt is: