Kubernetes

NVIDIAのGPU Operator・Device Pluginを組み合わせることでGPUリソースをKubernetes上でネイティブに管理でき、MLOpsパイプラインとの統合も容易です。大規模クラスターでの複数チームによる共有GPU環境の構築に際して、Kubernetesベースのアーキテクチャが業界標準となりつつあります。