GPT-6 Astra lên Amazon Bedrock: dữ liệu inference không dùng để huấn luyện

Thông báo ngày 08/09 của Amazon xác nhận GPT-6 Astra đã khả dụng rộng rãi trên Amazon Bedrock và có thể được gọi qua API Bedrock. AWS đồng thời nêu rằng dữ liệu inference của khách hàng không được dùng để huấn luyện mô hình và việc sử dụng Astra không yêu cầu khách hàng đồng ý chia sẻ dữ liệu với OpenAI.

Bài tường thuật ngày 08/09 của Unite.AI cũng ghi nhận cùng trạng thái khả dụng rộng rãi và khả năng gọi GPT-6 Astra qua API Bedrock. Với đội kỹ thuật tại Việt Nam, phần cần xem kỹ trước khi chuyển workload là hai loại endpoint, tập API tương ứng và nơi yêu cầu có thể được xử lý.

Hai endpoint không hỗ trợ cùng tập API

Model card GPT-6 Astra của AWS ghi trạng thái vòng đời là Active, model ID openai.gpt-6-astra, hai endpoint bedrock-runtime và bedrock-mantle, đồng thời liệt kê API và phạm vi định tuyến của từng đường gọi. Đây là một cấu hình có nhiều ràng buộc đi kèm, không phải hai địa chỉ có thể thay thế trực tiếp cho nhau.

• bedrock-runtime: hỗ trợ Responses, Chat Completions và Converse; không hỗ trợ Messages hoặc Invoke cho GPT-6 Astra.
• bedrock-mantle: hỗ trợ Responses tại /openai/v1/responses và Chat Completions tại /openai/v1/chat/completions; không hỗ trợ Converse, Messages hoặc Invoke.

Sự khác biệt còn nằm ở các tính năng Bedrock. Trên runtime, application inference profiles chỉ dùng được với Converse, không dùng với Responses hoặc Chat Completions. Mantle hỗ trợ server-side tool calling và cả implicit lẫn explicit prompt caching cho Responses, nhưng không hỗ trợ application inference profiles.

Vì vậy, ứng dụng đã chuẩn hóa nhiều mô hình bằng Converse chỉ có thể giữ cách gọi đó trên runtime. Ngược lại, workload cần tính năng riêng của mantle phải dùng Responses hoặc Chat Completions và chấp nhận giới hạn vùng của endpoint này.

Singapore chỉ là điểm gọi Global, không phải In-Region

bedrock-mantle chỉ có endpoint In-Region tại us-west-2 (Oregon), với URL cơ sở https://bedrock-mantle.us-west-2.api.aws/openai/v1. Endpoint này không có tùy chọn Geo hoặc Global; khi gọi qua mantle, model ID là openai.gpt-6-astra.

Trên bedrock-runtime, GPT-6 Astra không hỗ trợ In-Region. Hai inference profile được công bố là us.openai.gpt-6-astra cho định tuyến liên vùng trong phạm vi địa lý Hoa Kỳ và global.openai.gpt-6-astra cho định tuyến toàn cầu.

Đối với ap-southeast-1 (Singapore), bảng khả dụng của runtime chỉ đánh dấu Global; cả In-Region và Geo đều không được hỗ trợ. URL runtime có thể mang tên vùng Singapore vì đó là nơi ứng dụng gửi yêu cầu, nhưng profile Global cho phép Bedrock định tuyến xử lý ở các vùng khác trên thế giới. Do đó, gọi từ Singapore không chứng minh rằng dữ liệu inference được xử lý tại Singapore.

Cây quyết định cho In-Region, Geo và Global

Điều kiện cư trú dữ liệu cần được xét trước API và thông lượng. Với các lựa chọn đang được công bố cho GPT-6 Astra, quyết định có thể thu gọn thành ba nhánh:

1. Nếu workload phải được xử lý trong đúng một AWS Region, chỉ có mantle In-Region tại Oregon. Phương án này phù hợp về mặt phạm vi khi us-west-2 nằm trong chính sách được phê duyệt và ứng dụng có thể dùng Responses hoặc Chat Completions. Nếu dữ liệu bắt buộc ở Singapore hoặc Việt Nam, chưa có cấu hình Astra tương ứng trong bảng khả dụng.
2. Nếu chính sách cho phép xử lý tại nhiều Region nhưng phải nằm trong một khu vực địa lý, runtime có Geo Cross-Region. Profile hiện được liệt kê là phạm vi Hoa Kỳ; không có profile Geo châu Á–Thái Bình Dương cho mô hình này.
3. Nếu workload không có yêu cầu cư trú dữ liệu, Global Cross-Region trên runtime là lựa chọn có thể gọi từ Singapore. Đổi lại, phạm vi xử lý không bị giới hạn trong vùng gửi yêu cầu.

Sau bước tuân thủ, yêu cầu về API có thể tiếp tục loại bỏ một nhánh. Workload bắt buộc Converse không thể dùng mantle, còn workload bắt buộc In-Region không thể dùng runtime. Endpoint, model ID, API và inference profile vì thế phải được phê duyệt như một cấu hình thống nhất.

Cam kết không huấn luyện không phải cam kết cư trú dữ liệu

Phát biểu của AWS về dữ liệu áp dụng trực tiếp cho dữ liệu inference: dữ liệu này không được dùng để huấn luyện mô hình, và khách hàng không phải chọn chia sẻ dữ liệu với OpenAI để sử dụng GPT-6 Astra trên Bedrock. Nội dung đó xác nhận lời hứa trong tiêu đề, nhưng không xác định nơi mọi yêu cầu inference được xử lý.

Mục đích sử dụng dữ liệu và vị trí xử lý là hai vấn đề khác nhau. Cam kết không huấn luyện trả lời dữ liệu prompt và output có được đưa vào quá trình huấn luyện hay không; In-Region, Geo và Global mới xác định biên địa lý mà dịch vụ có thể sử dụng khi phục vụ yêu cầu.

Cam kết này cũng không nên được mở rộng thành tuyên bố rằng mọi loại dữ liệu liên quan đến tài khoản, thanh toán, nhật ký hoặc giám sát đều không được xử lý hay lưu giữ. Những hạng mục đó phụ thuộc vào điều khoản, cấu hình ghi nhật ký và tài liệu dịch vụ áp dụng cho tài khoản AWS cụ thể.

Giới hạn còn lại đối với workload tại Việt Nam

Trạng thái đã được xác nhận là GPT-6 Astra khả dụng rộng rãi trên Bedrock từ ngày 08/09/2026, có thể gọi qua API và hỗ trợ hai endpoint với tập tính năng khác nhau. Mantle cung cấp In-Region duy nhất tại Oregon; runtime cung cấp Geo tại Hoa Kỳ và Global tại Singapore cùng các vùng được liệt kê khác.

Khoảng trống đối với workload cần giữ dữ liệu ở gần Việt Nam là chưa có In-Region tại Singapore hoặc profile Geo châu Á–Thái Bình Dương được công bố cho GPT-6 Astra. Cho đến khi AWS bổ sung vùng, profile hoặc API, khả năng gửi yêu cầu từ ap-southeast-1 không đủ để coi workload có yêu cầu xử lý tại Singapore là tương thích.

Đọc thêm:

• Canada đặt nguyên tắc: trung tâm dữ liệu không được đẩy giá điện sang dân
• Gimlet Labs gọi 300 triệu USD: AI phải dùng đúng loại chip cho từng việc
• AI vươn lên thành rủi ro con người số hai tại nơi làm việc