Amazon SageMaker AI
Nền tảng xây và triển khai ML
Nền tảng ML đầy đủ (tên cũ Amazon SageMaker): chuẩn bị dữ liệu, notebook/Studio, huấn luyện trên instance managed, tinh chỉnh, triển khai endpoint suy luận và MLOps (Pipelines, Model Registry).
- Chi phí$$$ Cao
- Độ khó●●●●●
- Để không có tốn tiền?Có
- AWS quản lý
- Có trong đềCLF · SAA
Hình dungNhư xưởng chế tạo trọn gói: từ nguyên liệu, máy móc đến dây chuyền giao hàng đều có, bạn tự thiết kế sản phẩm.
Khi nào nên dùng
✓ Nên dùng khi
Cần tự huấn luyện, tinh chỉnh và triển khai mô hình ML riêng.
✗ Không nên dùng khi
Chỉ cần gọi mô hình có sẵn hoặc AI tạo sinh → Bedrock / các dịch vụ AI chuyên dụng (Rekognition, Comprehend…).
Ví dụ hay gặp
- Huấn luyện mô hình dự đoán churn
- Triển khai endpoint suy luận real-time
- Pipeline MLOps huấn luyện lại định kỳ
Tốn bao nhiêu tiền?
- Cách tính: Tính theo giờ instance cho notebook, huấn luyện và endpoint, cộng lưu trữ; có tuỳ chọn serverless inference và Savings Plans.
Quên tắt endpoint hoặc notebook/Studio app là khoản tốn phổ biến nhất; dùng Spot cho huấn luyện để giảm chi phí.
Đề hỏi “tự xây, huấn luyện và triển khai mô hình ML riêng, MLOps” thì chọn SageMaker AI; “dùng foundation model qua API” thì Bedrock; “nhận diện ảnh/văn bản không cần ML” thì Rekognition/Comprehend; “suy luận cả bộ dữ liệu, không cần endpoint” thì batch transform.
Câu hỏi thường gặp
SageMaker AI khác gì Bedrock và các dịch vụ AI dựng sẵn (Rekognition, Comprehend)?
Rekognition, Comprehend, Transcribe… là API AI dựng sẵn cho một bài toán cụ thể, không cần biết ML. Bedrock cho dùng foundation model qua API. SageMaker AI dành cho khi bạn tự xây, huấn luyện, tinh chỉnh và triển khai mô hình riêng với dữ liệu của mình, nên cần nhiều kiến thức ML hơn nhưng linh hoạt nhất.
Có những cách triển khai (inference) nào trên SageMaker AI?
Real-time endpoint cho độ trễ thấp và chạy liên tục. Serverless inference cho tải thất thường, tự co về không khi rảnh. Asynchronous inference cho request lớn hoặc xử lý lâu, đưa vào hàng đợi. Batch transform để suy luận cả bộ dữ liệu một lần mà không cần endpoint chạy mãi.
Làm sao giảm chi phí khi dùng SageMaker AI?
Endpoint real-time tính tiền cả khi không có request, nên xoá endpoint khi không dùng hoặc chuyển sang serverless/batch. Huấn luyện có thể dùng managed Spot để rẻ hơn, chấp nhận bị gián đoạn nhờ checkpoint. Nhớ tắt notebook hoặc Studio app đang chạy không dùng.
