Claude Haiku 5.5 hay GPT-6 Luna: ngang giá chỉ khi prompt còn ngắn

Với cùng lượng token đầu vào và đầu ra, Claude Haiku 5.5 và GPT-6 Luna cùng có giá cơ bản 0,10 USD cho một triệu token đầu vào và 0,50 USD cho đầu ra. Haiku chuyển sang bậc giá cao khi prompt vượt 100.000 token; Luna giữ bậc cơ bản đến 272.000 token đầu vào. Vì vậy, nếu một yêu cầu dài nằm giữa hai mốc, Luna rẻ hơn theo đơn giá niêm yết.

Với phân loại, trích xuất ngắn hoặc câu trả lời hỗ trợ khách hàng dùng ít ngữ cảnh, giá cơ bản chưa đủ để chọn model. Khi hội thoại hoặc vòng lặp tác nhân liên tục gửi lại lịch sử dài, hai ngưỡng giá mới tạo ra khác biệt lớn. Đó là so sánh chi phí cho cùng số token được tính phí; model nào hoàn thành tác vụ rẻ hơn còn phụ thuộc vào chất lượng câu trả lời, lượng token thực dùng và số lần phải chạy lại.

Bậc giá áp cho toàn bộ yêu cầu

Quy tắc giá của Anthropic tính prompt Haiku vượt 100.000 token ở bậc cao cho cả yêu cầu, kể cả token đọc từ bộ nhớ đệm. Đây không phải giá lũy tiến chỉ áp lên phần vượt mốc. Mỗi lần gọi được tính riêng, nên các yêu cầu ngắn trước đó vẫn giữ giá cũ khi một lượt gọi về sau trở nên dài hơn.

Ở bậc cao, Haiku tính 0,50 USD cho một triệu token đầu vào và 2,50 USD cho đầu ra, đều gấp năm lần bậc cơ bản. Với Luna, prompt trên 272.000 token khiến giá đầu vào và cache tăng gấp đôi, giá đầu ra tăng gấp 1,5 lần cho toàn bộ yêu cầu: tương ứng 0,20 và 0,75 USD cho mỗi triệu token đầu vào và đầu ra tiêu chuẩn. Hai model vì thế vẫn có đơn giá khác nhau sau khi cùng vượt ngưỡng.

Ngưỡng được xét theo độ dài prompt của từng lần gọi API, không theo tổng token của cả ngày hay cả cuộc hội thoại. Trong vòng lặp tác nhân, chỉ dẫn, lịch sử trao đổi và kết quả công cụ có thể được gửi lại nhiều lần; một lượt gọi ban đầu rẻ có thể trở thành lượt gọi ở bậc cao khi phần ngữ cảnh tích lũy lớn dần. Rút gọn lịch sử hoặc chỉ đưa vào phần tài liệu liên quan có thể giảm token, nhưng phải giữ đủ thông tin để tác vụ vẫn hoàn thành.

Ba độ dài prompt, cùng một lượng đầu ra

Giả định mỗi yêu cầu tạo 2.000 token đầu ra, không có token cache và hai nhà cung cấp cùng tính được số token đầu vào nêu dưới đây. Phép tính dùng giá API tiêu chuẩn cho token văn bản; nó không cộng phí công cụ, chế độ xử lý khác hoặc phần token suy luận có thể phát sinh. Đây là ba tình huống giả định để tách tác động của ngưỡng giá, không phải kết quả đo một ứng dụng thực tế.

• 50.000 token đầu vào: Mỗi model tốn 0,006 USD cho một yêu cầu: 0,005 USD đầu vào và 0,001 USD đầu ra. Cả hai còn ở bậc cơ bản, nên phép tính giá niêm yết hòa nhau. Một tác vụ trích xuất có đầu ra dài hơn sẽ làm tổng tiền tăng ở cả hai bên theo cùng đơn giá đầu ra.
• 150.000 token đầu vào: Haiku tốn 0,080 USD, gồm 0,075 USD đầu vào và 0,005 USD đầu ra. Luna tốn 0,016 USD, gồm 0,015 USD đầu vào và 0,001 USD đầu ra. Chênh lệch năm lần đến từ việc toàn bộ yêu cầu Haiku đã sang bậc cao, trong khi Luna vẫn ở bậc cơ bản.
• 300.000 token đầu vào: Haiku tốn 0,155 USD, còn Luna tốn 0,0615 USD. Luna cũng đã qua ngưỡng dài của mình, vì thế khoảng cách thu hẹp so với tình huống 150.000 token. Nó vẫn rẻ hơn trong phép tính này do đơn giá ở cả hai chiều thấp hơn Haiku.

Ba con số là chi phí cho một lần gọi, không phải dự báo hóa đơn tháng. Nếu phần lớn yêu cầu phân loại nằm dưới ngưỡng thấp hơn, giá token của hai model giống nhau cho phần lớn lưu lượng. Ngược lại, một nhóm nhỏ yêu cầu dài có thể chiếm tỷ trọng chi phí lớn vì chúng chịu đơn giá cao trên toàn bộ token của từng yêu cầu. Muốn ước lượng ngân sách, cần nhìn phân bố độ dài prompt theo lượt gọi, thay vì lấy một độ dài trung bình cho mọi tác vụ.

Cửa sổ ngữ cảnh và ngưỡng giá trả lời hai câu hỏi khác nhau

Haiku có cửa sổ ngữ cảnh một triệu token; Luna có cửa sổ 1,05 triệu token. Cả hai đều nhận được prompt dài hơn nhiều so với ngưỡng bắt đầu tăng giá. Cửa sổ cho biết lượng ngữ cảnh tối đa có thể đưa vào một yêu cầu, còn bậc giá cho biết chi phí xử lý lượng ngữ cảnh đó. Một prompt vừa cửa sổ không đồng nghĩa nó còn ở mức giá cơ bản.

Khác biệt này rõ nhất ở tác vụ cần mang theo hồ sơ dài hoặc nhiều kết quả công cụ. Với hỗ trợ khách hàng, gửi toàn bộ kho tri thức vào mỗi lượt có thể tạo prompt lớn dù câu hỏi chỉ cần vài đoạn. Với tác nhân, việc gửi lại cùng một lịch sử qua nhiều lượt khiến số token được tính phí lặp lại. Bộ nhớ đệm thay đổi đơn giá của phần được tái sử dụng, nhưng không làm token cache biến mất khỏi phép xét ngưỡng của Haiku. Do đó, một prompt có nhiều nội dung đã cache vẫn có thể chịu bậc giá cao.

Phép tính giả định hai model nhận đúng cùng số token; khi triển khai, bộ tách token và cách model tạo câu trả lời có thể khiến mức sử dụng thực tế khác nhau. Cần tính cả token đầu ra và các lượt gọi bổ sung nếu model trả sai định dạng, bỏ sót trường dữ liệu hoặc cần sửa câu trả lời. Giá mỗi triệu token là điểm khởi đầu của so sánh, còn chi phí cho một tác vụ hoàn thành mới phản ánh ngân sách vận hành.

Điểm benchmark chưa quyết định được tác vụ tác nhân

Bảng đối chiếu BenchLM ghi Haiku đạt 62,4 điểm và Luna 55,0 ở nhóm tác vụ tác nhân, nhưng xếp bằng chứng của Luna là ước tính, còn của Haiku là được hỗ trợ. Đây là điểm tổng hợp trên một nhóm bài thử, không phải tỷ lệ hoàn thành quy trình hỗ trợ khách hàng hoặc trích xuất dữ liệu của một doanh nghiệp. Khi một phía dựa trên bằng chứng ước tính, chênh lệch điểm chỉ mang tính định hướng.

Ở nhóm lập trình, bảng ghi 60,5 điểm cho Haiku và 53,6 cho Luna trên một hàng được xếp là có thể đối chiếu, song các khoảng điểm có điều kiện vẫn chồng lấn. Kết quả lập trình cũng không tự chuyển thành kết quả phân loại hay chăm sóc khách hàng. Để đánh giá chi phí theo tác vụ, hai model cần được chạy với cùng tập yêu cầu, tiêu chí chấm, quyền dùng công cụ và mức effort tương ứng; thay effort có thể đổi lượng token đầu ra và số lần cần làm lại.

Phần mô phỏng vòng lặp có nhiều token cache của bảng đối chiếu cho hai model chi phí bằng nhau dù prompt vượt ngưỡng Haiku. Kết quả đó không phản ánh quy tắc tính bậc cao cho toàn bộ yêu cầu, bao gồm phần đọc cache. Với ví dụ của bảng gồm 200.000 token cache, 20.000 token đầu vào mới và 10.000 token đầu ra, áp đơn giá theo đúng ngưỡng cho ra 0,045 USD với Haiku và 0,009 USD với Luna. Sự khác nhau nằm ở cách áp bậc giá, nên các phép tính cho prompt dài ở trên dùng biểu giá chính thức.

Chọn model theo chi phí của tác vụ hoàn thành

Đối với phân loại và trích xuất có prompt thường xuyên dưới 100.000 token, hai model bắt đầu từ cùng giá niêm yết. Khi ấy, độ đúng của nhãn, việc giữ đúng cấu trúc đầu ra, độ trễ và số lần gọi lại là những yếu tố có thể quyết định bên nào tiết kiệm hơn. Một lần gọi rẻ nhưng phải sửa nhiều lần không còn rẻ trên mỗi kết quả đạt yêu cầu.

Nếu tác vụ thường mang theo hơn 100.000 token nhưng chưa vượt 272.000 token, Luna có lợi thế đơn giá rõ ràng cho cùng lượng token. Khi prompt vượt cả hai mốc, lợi thế niêm yết vẫn thuộc Luna trong cấu hình tiêu chuẩn được so ở đây. Với vòng lặp tác nhân hoặc hỗ trợ khách hàng dài, lựa chọn cuối cùng nên dựa trên tổng token và số lượt cần thiết để hoàn thành cùng một yêu cầu, bên cạnh chất lượng đầu ra.

Đọc thêm:

• Hugging Face không chỉ là kho model: 4 lớp cần hiểu trước khi dùng
• Claude sửa 10 lỗi căn chỉnh: kết quả tốt nhưng benchmark vẫn là giới hạn
• Claude Sonnet 5.5 rẻ nửa Opus: benchmark độc lập cho thấy đổi chỗ ở đâu