본문으로 건너뛰기

GPU Resource Overview

GPU Resource Overview 화면에서는 모니터링 대상 GPU 디바이스의 사용률·메모리·전력·온도 현황을 한눈에 확인할 수 있습니다.

좌측 메뉴에서 GPU > GPU Resource Overview를 선택하세요.

GPU Resource Overview 전체 화면

화면 상단의 Host/Kubernetes 탭으로 조회 기준을 전환할 수 있으며, 화면은 필터 영역, 요약 카드, 지표 패널 세 영역으로 구성됩니다.

참고

이 화면에서 다루는 GPU 디바이스는 물리 GPU 자체뿐 아니라 MIG(Multi-Instance GPU) 활성화 시 분할되는 MIG Instance도 포함합니다. 모든 현황과 지표는 GPU 디바이스(GPU 또는 MIG Instance) 단위로 집계됩니다.

Host 탭에서 호스트 기준으로 조회하기​

Host 탭에서는 Host Group, Host, GPU Device 필터로 조회 대상을 좁힐 수 있습니다.

  • Host Group을 선택하면 해당 그룹에 속한 Host 목록이 갱신됩니다.
  • Host를 선택하면 그 호스트에 장착된 GPU Device 목록이 갱신됩니다.

Kubernetes 탭에서 클러스터 기준으로 조회하기​

Kubernetes 탭에서는 Cluster, Node, GPU Device 필터로 조회 대상을 좁힐 수 있습니다.

Kubernetes 탭 화면

Kubernetes 클러스터가 GPU를 워크로드에 할당해 사용하는 특성상, Host 탭과 달리 요약 카드에 Allocation(Pod 할당 여부) 카드가 추가로 표시됩니다.

  • Allocated: 워크로드(Pod)에 현재 할당되어 사용 중인 GPU 디바이스 수입니다.
  • Unallocated: 어떤 워크로드에도 할당되지 않은 GPU 디바이스 수입니다.

Option에서 조회 범위 세부 설정하기​

필터 우측의 [Option] 버튼을 클릭하면 GPU 종류와 모델로 조회 범위를 더 좁힐 수 있습니다.

Option 설정 화면

옵션설명
GPU TypeGPU(MIG 미사용 물리 GPU), MIG Instance 중에서 선택합니다.
GPU Model모니터링 중인 GPU 모델(예: NVIDIA A30, NVIDIA H200 NVL) 중에서 선택합니다.

설정 후 [Apply]를 클릭하면 반영되고, [Reset]을 클릭하면 기본값으로 되돌아갑니다.

요약 카드에서 GPU 현황 확인하기​

필터 아래 요약 카드에서 조회 범위 내 GPU 현황을 확인할 수 있습니다.

  • GPU Device: 조회 범위에 포함된 GPU 디바이스 수를 Total(전체), GPU(MIG 미사용 물리 GPU), MIG Instance(MIG 분할 인스턴스)로 구분해 보여줍니다.
  • Activity: 최근 5분 내 GPU 활동 여부에 따라 Active(활동 있음)/Idle(활동 없음) 디바이스 수를 보여줍니다.
  • Alarm: 심각도별(Warning/Critical) 알람 발생 디바이스 수를 보여줍니다.

GPU Device, Activity 카드 제목 옆의 ? 아이콘을 클릭하면 각 항목의 집계 기준을 설명하는 툴팁을 확인할 수 있습니다.

GPU Device 카드 툴팁

Activity 카드 툴팁

지표 패널에서 사용률 추이 확인하기​

화면 하단에는 GPU Utilization (%), SM Utilization (%), Memory Usage (%), Power Usage (%), Temperature (°C) 다섯 개의 지표 패널이 나란히 표시됩니다.

  • 각 패널 상단에서 조회 범위 내 MIN/AVG/MAX 값을 게이지와 숫자로 확인할 수 있습니다.
  • Range Distribution에서 구간별 디바이스 수와 비율을 확인할 수 있습니다. 구간 경계는 지표별로 다르게 설정되어 있습니다.
  • 하단 시계열 차트에서 조회 기간 동안의 추이를 확인할 수 있으며, 그래프에 마우스를 올리면 시점별 값을 확인할 수 있습니다.
  • Top 5 리스트에서 해당 지표가 높은 상위 디바이스를 순위별로 확인할 수 있습니다. 리스트 항목의 배지는 G(GPU), M(MIG Instance)로 디바이스 종류를 구분합니다.

GPU 사용률이 급증한 구간이 보이면 Top 5 리스트에서 원인 디바이스를 빠르게 특정하고, GPU Device 화면에서 해당 디바이스의 프로세스까지 확인할 수 있습니다.