Amazon Bedrock
API mô hình AI tạo sinh
Gọi các foundation model (Anthropic Claude, Amazon Nova, Meta Llama, Mistral…) qua một API thống nhất, không cần quản server; kèm Knowledge Bases (RAG), Agents, Guardrails và fine-tuning.
- Chi phí$$ Vừa phải
- Độ khó●●●●●
- Để không có tốn tiền?Không
- Serverless
- Có trong đềCLF · SAA
Hình dungNhư quầy buffet AI: chọn món (mô hình) nào cũng được, bếp do AWS lo, bạn chỉ trả theo phần ăn.
Khi nào nên dùng
✓ Nên dùng khi
Xây ứng dụng generative AI (chatbot, tóm tắt, RAG) mà không tự host mô hình.
✗ Không nên dùng khi
Cần huấn luyện mô hình riêng từ đầu hoặc kiểm soát toàn bộ hạ tầng → SageMaker AI.
Ví dụ hay gặp
- Chatbot hỏi đáp tài liệu nội bộ (RAG)
- Tóm tắt, phân loại văn bản
- Agent tự gọi API thực hiện tác vụ
Tốn bao nhiêu tiền?
- Cách tính: On-demand tính theo số token input/output (hoặc theo ảnh, giây video); có Provisioned Throughput tính theo giờ cho thông lượng cam kết.
Provisioned Throughput và mô hình custom tính theo giờ dù không gọi; prompt dài lặp lại tốn nhiều token input.
Đề hỏi “ứng dụng generative AI qua API, không quản server, chọn nhiều model” thì chọn Bedrock; “trả lời dựa trên tài liệu nội bộ, cập nhật thường xuyên” thì Knowledge Bases (RAG) thay vì fine-tune; “lọc nội dung độc hại” thì Guardrails; “tự huấn luyện model riêng” thì SageMaker AI.
Câu hỏi thường gặp
Bedrock khác gì SageMaker AI?
Bedrock cho gọi sẵn các foundation model qua API để làm ứng dụng generative AI, không cần quản server hay tự huấn luyện mô hình. SageMaker AI là nền tảng ML đầy đủ để bạn tự chuẩn bị dữ liệu, huấn luyện, triển khai mô hình riêng. Làm chatbot, tóm tắt, RAG thì Bedrock; xây mô hình ML của riêng mình thì SageMaker AI.
Dữ liệu của tôi gửi vào Bedrock có bị dùng để huấn luyện mô hình không?
Không. AWS cam kết prompt và dữ liệu của khách không được dùng để huấn luyện foundation model gốc và không chia sẻ cho nhà cung cấp mô hình. Dữ liệu được mã hoá, và có thể truy cập qua PrivateLink để không đi qua Internet. Fine-tuning tạo ra bản mô hình tuỳ biến riêng cho tài khoản bạn.
Knowledge Bases, fine-tuning và Guardrails khác nhau thế nào?
Knowledge Bases dùng RAG: tìm tài liệu liên quan trong kho dữ liệu của bạn rồi đưa vào prompt, hợp khi cần câu trả lời theo dữ liệu mới, thay đổi thường xuyên. Fine-tuning huấn luyện thêm để mô hình đổi phong cách hoặc chuyên một tác vụ. Guardrails lọc nội dung đầu vào và đầu ra theo chính sách an toàn của bạn.
