TrustedRouter gọi 1,25 triệu USD: một API định tuyến hơn 600 mô hình AI
Ngày 31/8/2026, TrustedRouter công bố đã huy động 1,25 triệu USD trong vòng seed để phát triển nền tảng định tuyến AI. Bản tin của Axios xác nhận số tiền, đồng thời cho biết nền tảng cung cấp hơn 600 mô hình từ hơn 81 nhà cung cấp qua một API.
Trong thông báo ngày 31/8 của TrustedRouter, startup nói nguồn vốn sẽ được dùng để tiếp tục xây dựng bộ định tuyến mã nguồn mở, mã hóa và có thể kiểm chứng. Công ty cho biết sản phẩm đã mở beta công khai từ tháng 5, gần đây xử lý hơn một tỷ token trong một ngày và thu phí bằng 5,5% chi phí token của nhà cung cấp, với mức sàn 0,01 USD cho mỗi triệu token; đây là số liệu và điều kiện thương mại do doanh nghiệp tự công bố.
Một API giảm chi phí đổi nhà cung cấp, không xóa khác biệt giữa các mô hình
TrustedRouter đặt một lớp trung gian giữa ứng dụng và các nhà cung cấp mô hình. Thay vì duy trì tích hợp riêng cho từng dịch vụ, ứng dụng gửi yêu cầu tới một điểm cuối tương thích OpenAI; bộ định tuyến chọn mô hình hoặc tuyến cung cấp theo các tiêu chí như năng lực, giá, tốc độ, quyền riêng tư và tình trạng sẵn sàng.
Cấu trúc này có thể giảm công việc kỹ thuật khi đổi nhà cung cấp. Nếu định dạng yêu cầu và phản hồi vẫn tương thích, việc thay tuyến được xử lý tại lớp router thay vì phải sửa từng sản phẩm sử dụng AI. Nhà cung cấp vì thế dễ thay thế hơn ở cấp kết nối API, đúng với nguy cơ “hàng hóa hóa” mô hình mà vòng gọi vốn đang đặt cược.
Tuy nhiên, khả năng thay thế không có nghĩa các mô hình cho kết quả tương đương. Chúng có thể khác về cửa sổ ngữ cảnh, định dạng đầu ra, khả năng gọi công cụ, bộ lọc an toàn và độ ổn định. Một tuyến dự phòng có thể giữ kết nối hoạt động nhưng vẫn làm quy trình nghiệp vụ thất bại nếu cấu trúc hoặc chất lượng câu trả lời thay đổi.
Phí trung gian quyết định bài toán tiết kiệm
Lớp định tuyến có thể giảm hóa đơn khi chuyển tác vụ đơn giản sang mô hình rẻ hơn và chỉ dành mô hình đắt tiền cho yêu cầu khó. Lợi ích phụ thuộc vào khả năng phân loại đúng yêu cầu, tỷ lệ lưu lượng thật sự có thể chuyển tuyến và khoảng chênh giá giữa các lựa chọn.
Khoản phí 5,5% khiến “chọn mô hình rẻ hơn” không tự động đồng nghĩa tổng chi phí thấp hơn hợp đồng trực tiếp. Phần tiết kiệm về token và công sức duy trì nhiều tích hợp phải lớn hơn phí router, chi phí giám sát hệ thống và công sức đánh giá chất lượng. Nếu một tuyến rẻ tạo nhiều đầu ra lỗi hoặc buộc ứng dụng chạy lại yêu cầu, chênh lệch giá niêm yết có thể biến mất.
Với một ví dụ có điều kiện, lưu lượng chủ yếu là phân loại văn bản ngắn có thể tạo đủ dư địa để dùng nhiều mô hình nhỏ. Ngược lại, sản phẩm chỉ cần một mô hình chuyên biệt, đã có mức giá doanh nghiệp tốt và ít gián đoạn có thể phải trả thêm cho một lớp trung gian mà không nhận được nhiều lựa chọn thực tế.
Phép so sánh có ý nghĩa phải dựa trên cùng một tập tác vụ và cộng đủ tiền token, phí định tuyến, tỷ lệ chạy lại, độ trễ cùng thời gian kỹ thuật. Các tài liệu về vòng seed chưa cung cấp bằng chứng độc lập cho một tỷ lệ tiết kiệm chung áp dụng được cho mọi khách hàng.
Dự phòng giảm một loại gián đoạn nhưng tạo điểm phụ thuộc mới
Khả năng chuyển sang tuyến khác khi một nhà cung cấp không phản hồi là lợi ích vận hành trực tiếp của router đa mô hình. TrustedRouter tự công bố hệ thống hoạt động trên AWS, Azure và Google Cloud, đồng thời cho phép đặt tuyến dự phòng giữ nguyên ngưỡng riêng tư của yêu cầu. Nếu cơ chế này vận hành đúng thiết kế, sự cố tại một nhà cung cấp hoặc một nền tảng đám mây không nhất thiết làm dừng toàn bộ ứng dụng.
Đổi lại, doanh nghiệp tập trung lưu lượng vào chính lớp định tuyến. Lỗi xác thực, cấu hình sai, giới hạn tốc độ hoặc thay đổi API tại đây có thể ảnh hưởng đồng thời tới mọi mô hình phía sau. Mã nguồn mở hỗ trợ việc xem xét hoặc tự triển khai, nhưng độ bền của dịch vụ được quản lý vẫn cần được đánh giá qua dữ liệu trạng thái, thử nghiệm chuyển tuyến và cam kết dịch vụ.
Độ trễ cũng có thể tăng vì yêu cầu đi qua thêm một chặng và cần thời gian chọn tuyến. Với tác vụ chạy nền, phần chậm thêm có thể ít quan trọng hơn giá và dự phòng; với trợ lý thời gian thực, phân loại, thử lại hoặc đổi nhà cung cấp đều tác động trực tiếp tới trải nghiệm. Đây là đánh đổi theo từng khối lượng công việc, không phải ưu thế tuyệt đối của kiến trúc đa nhà cung cấp.
Bảo mật của router chưa bao phủ toàn bộ chuỗi
Tài liệu confidential computing của TrustedRouter nói gateway được chạy trong GCP Confidential Space, không ghi nhật ký prompt hoặc đầu ra và hỗ trợ xác thực từ xa để đối chiếu binary đang vận hành với bản dựng công khai. Chính tài liệu này cũng giới hạn lời hứa: xác thực không chứng minh phần mềm không có lỗi và không bảo vệ trước mọi đối thủ có quyền tiếp cận vật lý máy chủ.
Ranh giới quan trọng hơn nằm sau router. Gateway có thể hạn chế khả năng đọc prompt ở lớp trung gian, nhưng nhà cung cấp mô hình cuối vẫn cần nhận nội dung để suy luận, trừ các tuyến duy trì bảo vệ tương ứng tới hạ tầng tính toán. Chính sách lưu dữ liệu, vị trí xử lý, nhà thầu phụ và điều khoản sử dụng dữ liệu vì vậy phải được xem xét theo từng tuyến; cam kết của TrustedRouter không tự động trở thành cam kết của toàn bộ chuỗi.
Số lượng mô hình cũng là một chỉ báo động, không phải danh mục cố định. Thông báo gọi vốn và Axios nêu hơn 600 mô hình từ hơn 81 nhà cung cấp, trong khi trang kỹ thuật của công ty hiển thị một tập mô hình công khai nhỏ hơn tại thời điểm kiểm tra. Khác biệt có thể xuất phát từ thời điểm cập nhật hoặc cách phân biệt mô hình có thể truy cập với mô hình đang hiện công khai, nhưng các trang chưa giải thích trực tiếp khoảng cách này.
Sau vòng seed, phần đã được xác nhận là số vốn 1,25 triệu USD, quy mô hơn 600 mô hình được công bố và định hướng xây dựng một router mở, có thể kiểm chứng. Những phần còn thiếu dữ liệu độc lập gồm mức tiết kiệm theo loại tác vụ, độ trễ phát sinh, hiệu quả chuyển tuyến trong sự cố và mức bảo vệ dữ liệu xuyên suốt các nhà cung cấp. Chúng sẽ quyết định TrustedRouter thực sự giảm khóa nhà cung cấp hay chỉ chuyển sự phụ thuộc sang một cổng API mới.
Đọc thêm:
Đăng ký bản tin
Nhận tin Web3, AI và tiền mã hóa mới nhất ngay trong hộp thư.