Langfuse หรือ LangSmith: ทีม 5 คนอาจจ่ายต่างตั้งแต่ค่าเก้าอี้

สำหรับทีมพัฒนา AI 5 คน LangSmith Plus คิด 39 ดอลลาร์ต่อที่นั่งต่อเดือนและรวม 10,000 base traces จึงมีค่าเก้าอี้ 195 ดอลลาร์ต่อเดือนก่อนค่า trace ส่วนเกิน หากทีมใช้ LangChain หรือ LangGraph เป็นหลัก การทำงานร่วมกับเครื่องมือในระบบเดียวกันอาจคุ้มค่าเก้าอี้นั้น แต่ต้องนำปริมาณ trace และระยะเก็บข้อมูลมาคิดด้วย

Langfuse Core ราคา 29 ดอลลาร์ต่อเดือน รวม 100,000 หน่วย ผู้ใช้ไม่จำกัด และเปิดดูข้อมูลย้อนหลังได้ 90 วัน ส่วน Pro ราคา 199 ดอลลาร์ต่อเดือน รวมหน่วยเท่ากันแต่เปิดดูย้อนหลังได้ 3 ปี หน่วยส่วนเกินของทั้งสองแผนเริ่มที่ 8 ดอลลาร์ต่อ 100,000 หน่วย ทีมที่มีคนต้องเข้าดู trace หลายคนจึงเริ่มจากค่าแผนที่ต่างกันชัดเจน แต่จำนวนขั้นตอนและคะแนนที่บันทึกอาจขยับบิล Langfuse ขึ้นได้

ทำไม trace เดียวจึงให้ยอดใช้งานต่างกัน

LangSmith ใช้ trace แทนการทำงานหนึ่งครั้งของแอป ภายใน trace นั้นมีขั้นตอนย่อยได้ เช่น เรียกโมเดล ค้นข้อมูล และเรียกเครื่องมือ การนับเพื่อเปรียบเทียบจึงควรเริ่มจากจำนวนครั้งที่แอปทำงานจริง ไม่ใช่จำนวนขั้นตอนที่ทีมมองเห็นเมื่อเปิดรายละเอียด หากการประเมินทำงานเป็นการรันแยกต่างหาก ก็ต้องนับ trace ที่เกิดจากการรันนั้นเพิ่ม

นิยามหน่วยคิดเงินของ Langfuse ใช้ผลรวมของ traces, observations และ scores ที่รับเข้าระบบ โดยข้อมูลที่คุณสมบัติของ Langfuse สร้างขึ้นเอง เช่น การประเมินหรือการทำ annotation ก็นับเมื่อถูกจัดเก็บ ดังนั้นการตอบผู้ใช้หนึ่งครั้งอาจใช้หลายหน่วย แม้จะเป็นงานเดียวจากมุมของแอป การเพิ่มคะแนนประเมินทุกคำตอบมีผลต่อต้นทุน แม้ปริมาณคำขอจากผู้ใช้จะไม่เปลี่ยน

ตัวอย่างสมมติที่ใช้ต่อจากนี้กำหนดให้หนึ่งงานสร้างหนึ่ง trace หลัก มี observations จากขั้นตอนย่อย และบันทึก scores ไว้กับงานนั้น หากมีหนึ่ง trace สี่ observations และหนึ่ง score จะเป็นหกหน่วยของ Langfuse การหารราคา Langfuse ด้วยจำนวน trace อย่างเดียวจึงทำให้ต้นทุนต่อการทำงานดูต่ำเกินไปสำหรับเอเจนต์ที่เรียกเครื่องมือหลายรอบ ขณะเดียวกันก็ไม่ควรสมมติว่า LangSmith นับทุก observation เป็น trace แยก

ความลึกของ trace ไม่ได้คงที่ทุกคำขอ งานที่ตอบจากโมเดลโดยตรงอาจมี observations น้อยกว่างานที่ค้นข้อมูล สรุปผล แล้วตรวจคำตอบอีกครั้ง หากต้องประมาณงบจากข้อมูลจริง ให้ใช้จำนวน observations และ scores เฉลี่ยต่อ trace หรือแยกกลุ่มงานที่มีโครงสร้างต่างกัน ค่าเฉลี่ยเดียวสำหรับทั้งระบบอาจปิดบังงานส่วนน้อยที่สร้างข้อมูลจำนวนมาก

สามสถานการณ์ต้นทุนของทีมเดียวกัน

แบบจำลองต่อไปนี้เป็น ตัวอย่างสมมติรายเดือน สำหรับทีมที่ต้องมีบัญชีใช้งานทั้ง 5 คน คิดเฉพาะแผน Cloud และข้อมูล tracing ตามจำนวนที่ระบุ ไม่รวมภาษี ส่วนลด ค่าโมเดล ค่า deployment หรือบริการอื่น อัตรา LangSmith ที่ใช้คำนวณ trace ส่วนเกินคือ 0.005 ดอลลาร์ต่อ base trace และเพิ่ม 0.0025 ดอลลาร์ต่อ trace ที่ขยายการเก็บข้อมูล ผลลัพธ์จึงเป็นค่าประมาณตามสมมติฐาน ไม่ใช่ใบเสนอราคาสำหรับทุกการตั้งค่า

• งานปริมาณต่ำ: สมมติ 2,000 traces ต่อเดือน แต่ละ trace มี 3 observations และ 1 score รวม 10,000 หน่วยของ Langfuse ค่า Core ยังอยู่ที่ 29 ดอลลาร์ ส่วน LangSmith Plus อยู่ที่ 195 ดอลลาร์ เพราะจำนวน base traces ยังไม่เกินที่รวมในแผน กรณีนี้จำนวนคนที่ต้องมีบัญชีเป็นตัวสร้างช่องว่างของบิล หากมีผู้ตรวจคำตอบเพิ่มแต่ปริมาณข้อมูลเท่าเดิม Langfuse Core ยังไม่มีค่าเก้าอี้เพิ่ม ขณะที่ LangSmith Plus คิดตามจำนวนที่นั่ง
• งานเพิ่มแต่ยังดูย้อนหลังช่วงสั้น: สมมติ 50,000 traces ต่อเดือน แต่ละ trace มี 4 observations และ 1 score รวม 300,000 หน่วย Langfuse Core เป็น 29 ดอลลาร์ บวก 16 ดอลลาร์จากหน่วยส่วนเกิน รวมประมาณ 45 ดอลลาร์ LangSmith Plus มี base traces เกินจำนวนที่รวมในแผน 40,000 รายการ คิดเพิ่ม 200 ดอลลาร์ รวมประมาณ 395 ดอลลาร์ โดยสมมติว่าทุก trace ใช้ระยะเก็บแบบ base และไม่มีการรันประเมินแยก
• งานหลายขั้นและต้องใช้ข้อมูลเก่า: สมมติ 100,000 traces ต่อเดือน แต่ละ trace มี 6 observations และ 2 scores รวม 900,000 หน่วย หากต้องเปิดดูย้อนหลังเกินช่วงของ Core ให้ใช้ Langfuse Pro: 199 ดอลลาร์บวก 64 ดอลลาร์จากหน่วยส่วนเกิน รวมประมาณ 263 ดอลลาร์ ฝั่ง LangSmith Plus มี base traces ส่วนเกิน 90,000 รายการ จึงเป็น 645 ดอลลาร์ก่อนค่าขยายระยะเก็บ หากขยายให้ 20% ของ traces ทั้งหมด จะเพิ่ม 50 ดอลลาร์ รวมประมาณ 695 ดอลลาร์

สถานการณ์สุดท้ายสมมติว่ามีเพียงบาง trace ที่ต้องอยู่ในระบบนานกว่าแบบ base หากต้องขยายทั้ง 100,000 traces ค่าเพิ่มตามอัตราที่ใช้ในแบบจำลองจะเป็น 250 ดอลลาร์ และยอด LangSmith จะเป็นประมาณ 895 ดอลลาร์ ในทางกลับกัน หากทีมลดการบันทึก observations ที่ไม่มีประโยชน์ต่อการแก้ปัญหาได้ ยอดหน่วย Langfuse จะลดลงโดยจำนวนงานหลักยังเท่าเดิม การปรับแต่ละตัวแปรจึงส่งผลต่อสองบริการคนละทาง

ตัวเลขทั้งสามกรณีถือว่า score เป็นข้อมูลที่บันทึกกับงานเดิม การทดลองที่รันแอปซ้ำหรือผู้ประเมินที่สร้าง trace ใหม่จะเพิ่มปริมาณนอกสมมติฐานนี้ เช่นเดียวกับการเก็บข้อมูลจากสภาพแวดล้อมทดสอบควบคู่กับระบบที่เปิดให้ผู้ใช้จริง หากทีมใช้คุณสมบัติประเมินที่มีค่าบริการแยก ควรนับค่าใช้จ่ายนั้นเพิ่มเติมก่อนเทียบยอดรวม

ช่วงที่เปิดดูได้ต่างจากเวลาที่ข้อมูลถูกลบ

ระยะข้อมูลย้อนหลังเปลี่ยนแผนที่ต้องซื้อก่อนเปลี่ยนสูตรคำนวณ สำหรับ LangSmith เอกสารการเรียกเก็บเงินและการเก็บ trace แยก base retention 14 วันออกจาก extended retention 180 วันสำหรับ trace ใหม่ การขยายระยะเก็บมีค่าใช้จ่ายเพิ่มและตั้งได้ตามโครงการหรือกฎอัตโนมัติ หากกฎตรงกับขั้นตอนหนึ่งภายใน trace ระบบจะขยายการเก็บให้ทั้ง trace ไม่ใช่เฉพาะขั้นตอนนั้น

ทีมที่ใช้ trace เพื่อแก้ข้อผิดพลาดทันทีอาจอยู่กับช่วงสั้นได้ แต่ทีมที่ต้องกลับมาดูคะแนนหลังปรับ prompt หรือเปรียบเทียบรุ่นของแอปต้องกำหนดว่าข้อมูลชุดใดควรอยู่ได้นาน การขยายทุก trace มีต้นทุนต่างจากการเก็บเฉพาะงานที่ผิดพลาดหรือได้รับความเห็นจากผู้ใช้ ในแบบจำลองข้างต้น สัดส่วนที่ขยายระยะเก็บจึงเป็นตัวแปรที่ต้องระบุ ไม่ใช่รายละเอียดเล็กน้อยหลังเลือกแผน

สำหรับ Langfuse คำว่าเปิดดูย้อนหลังในแผน Cloud หมายถึงช่วงประวัติที่ผู้ใช้เข้าถึงได้ นโยบาย data retention ของ Langfuse อธิบายว่าหากไม่ได้ตั้งนโยบายลบ ระบบไม่ลบ traces, observations และ scores โดยอัตโนมัติ การตั้งระยะลบข้อมูลเป็นคุณสมบัติของ Pro, Enterprise และ Self Hosted Enterprise ดังนั้นข้อกำหนดว่า ‘ต้องดูย้อนหลัง’ กับ ‘ต้องลบเมื่อครบกำหนด’ อาจทำให้ทีมเลือกคนละแผน

หากทีมไทยมีรอบตรวจคุณภาพยาวกว่าช่วงเปิดดูของ Core ค่า Pro ต้องเข้ามาอยู่ในงบ แม้ปริมาณหน่วยจะต่ำกว่าโควตาที่รวมไว้ก็ตาม ส่วนข้อกำหนดด้านข้อมูลส่วนบุคคลหรือสัญญากับลูกค้าอาจต้องพิจารณาตำแหน่งที่จัดเก็บ สิทธิ์เข้าถึง และระยะลบแยกจากราคาการดูย้อนหลัง การจ่ายเพื่อเปิดดูประวัตินานขึ้นไม่ได้แปลว่ามีนโยบายลบข้อมูลตามกำหนดโดยอัตโนมัติ

Self-host และเฟรมเวิร์กทำให้เกณฑ์เลือกเปลี่ยนอย่างไร

Langfuse รุ่น OSS ที่ติดตั้งเองไม่มีค่าลิขสิทธิ์ซอฟต์แวร์พื้นฐานและไม่มีค่าหน่วยตามการใช้งานแบบ Cloud แต่ทีมรับภาระโครงสร้างพื้นฐาน ฐานข้อมูล พื้นที่เก็บข้อมูล การสำรองข้อมูล การอัปเกรด และการดูแลความพร้อมใช้งานเอง ค่าใช้จ่ายส่วนนี้ขึ้นกับขนาดและวิธีดำเนินระบบ จึงนำราคาเริ่มต้นของ Cloud ไปแทนต้นทุน self-host ไม่ได้ หากองค์กรมีข้อกำหนดให้ข้อมูล trace อยู่ในสภาพแวดล้อมที่ตนควบคุม ทางเลือกนี้มีความหมายมากกว่าการประหยัดค่าแผนรายเดือน

LangSmith มีตัวเลือก self-hosted และ hybrid ในแผน Enterprise ซึ่งใช้ราคาเฉพาะตามสัญญา จึงไม่มีตัวเลขสาธารณะให้ใส่ในสามสถานการณ์ข้างต้นอย่างตรงไปตรงมา ทีมที่ต้องควบคุมตำแหน่งข้อมูลควรเทียบข้อเสนอ Enterprise กับต้นทุนดำเนิน Langfuse OSS ภายใต้ระดับความพร้อมใช้งานและงานดูแลเดียวกัน มิฉะนั้นการเทียบ ‘ไม่มีค่าลิขสิทธิ์’ กับ ‘ค่าบริการรายเดือน’ จะละต้นทุนคนละส่วน

ด้านเฟรมเวิร์ก LangSmith อยู่ในชุดผลิตภัณฑ์เดียวกับ LangChain และ LangGraph และมีเครื่องมือสำหรับดู trace ประเมินผล และจัดการงานพัฒนาเอเจนต์ ทีมที่ใช้ชุดนี้อยู่แล้วอาจลดงานเชื่อมต่อและทำงานในระบบเดียวกันได้ แต่ความสะดวกนั้นต้องประเมินเทียบกับค่าเก้าอี้และค่า trace จริง โดยเฉพาะเมื่อผู้พัฒนา ผู้ประเมิน และผู้ดูแลผลิตภัณฑ์ต่างต้องเข้าระบบ

การใช้ LangChain ไม่ได้บังคับให้เลือก LangSmith เพราะ Langfuse รองรับการเชื่อมต่อกับ LangChain และ OpenTelemetry ด้วย ในอีกด้านหนึ่ง ทีมที่ใช้หลายเฟรมเวิร์กควรดูว่าข้อมูลขั้นตอนย่อย คะแนน และบริบทที่จำเป็นต่อการแก้ปัญหาถูกส่งเข้าแพลตฟอร์มที่เลือกครบหรือไม่ ประเด็นสำคัญคือรูปแบบข้อมูลที่แอปสร้างและงานที่ทีมต้องทำกับ trace เหล่านั้น ไม่ใช่เพียงชื่อเฟรมเวิร์กบนหน้ารายการการเชื่อมต่อ

เงื่อนไขใดควรตัดสินผล

สำหรับทีมที่ต้องเลือกบริการ Cloud และมีผู้ใช้งานระบบหลายคน Langfuse Core ให้ค่าเริ่มต้นต่ำกว่าในแบบจำลองทั้งที่ปริมาณงานต่ำและปานกลาง หาก trace ลึกหรือบันทึกคะแนนจำนวนมาก ให้คำนวณหน่วยจากข้อมูลจริงก่อนเลือกแผน ส่วน LangSmith Plus เหมาะจะนำมาชั่งน้ำหนักเป็นพิเศษเมื่อการทำงานกับ LangChain หรือ LangGraph ในชุดเดียวกันช่วยลดงานของทีมได้มากพอจะคุ้มค่าเก้าอี้และค่า trace

เมื่อข้อกำหนดหลักคือการควบคุมข้อมูล ให้ตัดสินจากสภาพแวดล้อมที่องค์กรยอมรับและต้นทุนดำเนินระบบทั้งหมด หากข้อกำหนดหลักคือการตรวจย้อนหลัง ให้ระบุระยะที่ต้องเปิดดูและสัดส่วน trace ที่ต้องเก็บนานก่อนเทียบราคา ทั้งสองกรณีเปลี่ยนแผนที่ใช้ได้และเปลี่ยนยอดรวม มากกว่าการมองเพียงราคาเริ่มต้นบนหน้าขาย

อ่านเพิ่มเติม:

• LangChain หรือ LlamaIndex: งาน RAG ซับซ้อนกับงานค้นคืนเลือกคนละตัว
• ChatGPT Plus หรือ Claude Pro: งานยาวติดเพดานคนละแบบ
• Coursera Plus หรือ Udemy: เรียนไม่จบกี่คอร์สก็ทำให้รายปีแพงเกินจริง