Amazon Elastic Inference
GPU gắn thêm cho suy luận
Đã ngừng (04/2024); thay bằng AWS Inferentia. Elastic Inference từng cho phép gắn một phần năng lực GPU vào EC2 hoặc SageMaker để tăng tốc suy luận với chi phí thấp hơn instance GPU đầy đủ.
- Chi phí$ Rẻ
- Độ khó●●●●●
- Để không có tốn tiền?Không
- AWS quản lý
⚠️ Dịch vụ đã ngừng hoặc sắp ngừng
Mở Elastic Inference trên bản đồ →
Đã ngừng (04/2024); dùng AWS Inferentia
Hình dungNhư thuê thêm một phần động cơ gắn vào xe: tiện thời đó, nay hãng đã ngừng sản xuất.
Khi nào nên dùng
✓ Nên dùng khi
Không dùng được nữa.
✗ Không nên dùng khi
Suy luận giá rẻ → instance Inferentia với Neuron / SageMaker AI.
Ví dụ hay gặp
- Di chuyển workload suy luận cũ sang Inferentia
Tốn bao nhiêu tiền?
- Cách tính: Dịch vụ đã ngừng, không còn tính phí mới.