ติดตั้ง NVIDIA Container Toolkit เพื่อใช้งาน GPU ผ่าน Docker

ต่อจากบล็อกก่อนหน้า ติดตั้ง NVIDIA Quadro P600 บน Proxmox เพื่อใช้กับ Container (CT)
สำหรับบล็อกนี้ จะต่อยอดด้วยการติดตั้ง NVIDIA Container Toolkit เพื่อให้ Docker สามารถเรียกใช้งาน GPU ได้โดยตรง

ติดตั้งเครื่องมือที่จำเป็น

sudo apt update
sudo apt install curl gpg -y

เพิ่ม Repository ของ NVIDIA

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

ติดตั้ง Toolkit

sudo apt update
sudo apt install nvidia-container-toolkit -y

ตั้งค่า Runtime ของ Docker ให้รู้จัก GPU

sudo nvidia-ctk runtime configure --runtime=docker

แก้ไขไฟล์ sudo nano /etc/nvidia-container-runtime/config.toml

no-cgroups = true

จากนั้น restart Docker

sudo systemctl restart docker

ทดสอบ GPU ด้วย docker run

docker run --rm --gpus all nvidia/cuda:13.0.1-base-ubuntu24.04 nvidia-smi

รายละเอียดของการ์ดจอ ประมาณนี้ ก็ถือว่าพร้อมใช้งานแล้ว

Status: Downloaded newer image for nvidia/cuda:13.0.1-base-ubuntu24.04
Tue Nov 11 07:09:15 2025       
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 580.82.09              Driver Version: 580.82.09      CUDA Version: 13.0     |
+-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  Quadro P600                    On  |   00000000:01:00.0 Off |                  N/A |
| 34%   44C    P8            N/A  /  N/A  |       0MiB /   2048MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+

💡 Tip:

ตัวอย่างการใช้ GPU กับ Docker Compose กับ Jellyfin

services:
  jellyfin:
    container_name: jellyfin
    image: jellyfin/jellyfin
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

💡 Tip:#

💡 Tip: