AWS Neuron
Trainium・Inferentia 用 SDK
AWS が設計した AI チップ Trainium と Inferentia 上で深層学習モデルの学習と推論を実行するための SDK（コンパイラ、ランタイム、プロファイリングツール）で、PyTorch や JAX と統合されています。
- コスト$ 安い
- 難易度●●●●●
- 未使用でも課金？いいえ
- 自己管理
たとえるなら使い慣れたプレーヤーを最新のスピーカーで再生できるようにする変換アダプターのようなものです。
いつ使う？
✓ 使うべき場面
GPU の代わりに Trn/Inf instance を使って学習/推論のコストを下げたいとき。
✗ 避けるべき場面
モデルやライブラリが CUDA に強く依存している → NVIDIA GPU の EC2。
よくある使い方
- Inferentia での低コスト LLM 推論
- Trainium での大規模モデル学習
- AWS チップ向け PyTorch モデルのコンパイル
料金はいくら？
- 課金方式: SDK は無料です。Trainium/Inferentia の instance（EC2 または SageMaker AI）の料金を支払います。
