1、高度并行处理能力：GPU 拥有数千个小型处理核心，可以同时处理大量的数据。这使得它在处理并行计算任务时比 CPU 更高效。 2、适合大规模数据处理：GPU 的架构使其特别适合处理大量数据并进行复杂计算，例如训练深度学习模型时需要处理的大规模数据集。 3、高带宽内存：GPU 通常配备高带宽的内存（如 GDDR），以支持快速的数据传输和处理。
安装 NVIDIA 驱动程序:
sudo yum install epel-releasesudo yum install dkmssudo yum install nvidia-driver nvidia-settings
安装 CUDA 工具包:
下载并部署 NVIDIA Device Plugin DaemonSet：
https://raw.githubusercontent.com/NVIDIA/k8s-device-plugin/v0.13.0/nvidia-device-plugin.yml检查插件是否正常运行:
kubectl get pods -n kube-system | grep nvidiaapiVersion: v1kind: Podmetadata:name: gpu-examplespec:containers:name: cuda-containerimage: nvidia/cuda:11.2.0-baseresources:limits:: 1 # 请求 1 个 GPUcommand: ["nvidia-smi", "-L"]
kubectl apply -f gpu-pod.yamlkubectl describe pod gpu-example设置资源请求和限制: 在部署或 StatefulSet 配置文件中，确保指定 GPU 资源请求和限制，例如： resources:requests:: 1limits:: 1
创建 ResourceQuota: apiVersion: v1kind: ResourceQuotametadata:name: gpu-quotaspec:hard:requests.nvidia.com/gpu: "10"limits.nvidia.com/gpu: "10"
kubectl apply -f gpu-quota.yaml4.3 节点标签和污点
为 GPU 节点打标签:
kubectl label nodes <node-name> gpu=truekubectl taint nodes <node-name> gpu=true:NoSchedulespec:nodeSelector:gpu: "true"
云计算架构师韩先超亲身经历 | 记录从大学到现在历程 云计算架构师韩先超对咪咕进行【K8S超大规模集群与AI赋能算力网络调度】培训 对合肥电信进行线下Kubernetes技术培训 Linux常用命令大全 深度探索：Linux内核优化高级指南 全面掌握：Linux运维面试必备题库（服务器、网络、Docker、K8s、DevOps等） 很多docker镜像站被封了？哪些能用，抓紧收藏 国产操作系统崛起！揭开未来科技的神秘面纱 Centos停更了，基于业务场景选择合适的操作系统替代Centos。 探索Kubernetes/K8S的奇妙世界：十大必知创新技术 大规模场景下K8S集群设计|大企业5000个节点k8s架构设计|第1集 大规模K8S集群的网络与存储优化：5000+节点规模| 第2集 当面试官问你内存飙升如何解决，怎么回复？ 点赞、关注和"在看"，薪资翻倍
