550 lines
16 KiB
JSON
550 lines
16 KiB
JSON
|
{
|
||
|
|
"annotations": {
|
||
|
|
"list": [
|
||
|
|
{
|
||
|
|
"builtIn": 1,
|
||
|
|
"datasource": {
|
||
|
|
"type": "grafana",
|
||
|
|
"uid": "-- Grafana --"
|
||
|
|
},
|
||
|
|
"enable": true,
|
||
|
|
"hide": true,
|
||
|
|
"iconColor": "rgba(0, 211, 255, 1)",
|
||
|
|
"name": "Annotations & Alerts",
|
||
|
|
"type": "dashboard"
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"editable": true,
|
||
|
|
"fiscalYearStartMonth": 0,
|
||
|
|
"graphTooltip": 0,
|
||
|
|
"id": null,
|
||
|
|
"links": [],
|
||
|
|
"liveNow": true,
|
||
|
|
"panels": [
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "red",
|
||
|
|
"value": null
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": 1
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 6,
|
||
|
|
"w": 24,
|
||
|
|
"x": 0,
|
||
|
|
"y": 0
|
||
|
|
},
|
||
|
|
"id": 1,
|
||
|
|
"options": {
|
||
|
|
"colorMode": "background",
|
||
|
|
"graphMode": "none",
|
||
|
|
"justifyMode": "auto",
|
||
|
|
"orientation": "auto",
|
||
|
|
"reduceOptions": {
|
||
|
|
"calcs": [
|
||
|
|
"lastNotNull"
|
||
|
|
],
|
||
|
|
"fields": "",
|
||
|
|
"values": false
|
||
|
|
},
|
||
|
|
"textMode": "auto"
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "up{job=~\"prometheus|nvidia-gpu|amdgpu_exporter|llama_exporter\"}",
|
||
|
|
"instant": true,
|
||
|
|
"legendFormat": "{{job}}",
|
||
|
|
"range": false,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Exporter Health",
|
||
|
|
"type": "stat"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "percent"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 6
|
||
|
|
},
|
||
|
|
"id": 2,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_gpu_util_percent|gpu_util_percent\"}",
|
||
|
|
"legendFormat": "{{__name__}} {{gpu}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "GPU Utilization",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "celsius"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 6
|
||
|
|
},
|
||
|
|
"id": 3,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_temperature_celsius|temperature_celsius\"}",
|
||
|
|
"legendFormat": "{{__name__}} {{gpu}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "GPU Temperature",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "watt"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 14
|
||
|
|
},
|
||
|
|
"id": 4,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_power_watts|power_watts\"}",
|
||
|
|
"legendFormat": "{{__name__}} {{gpu}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "GPU Power Draw",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "percent"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 14
|
||
|
|
},
|
||
|
|
"id": 5,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_memory_used_percent\"}",
|
||
|
|
"legendFormat": "nvidia",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "100 * mem_used_bytes / clamp_min(mem_used_bytes + mem_avail_bytes, 1)",
|
||
|
|
"legendFormat": "amd {{gpu}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "B"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "GPU Memory Usage",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "s"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 22
|
||
|
|
},
|
||
|
|
"id": 6,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "scrape_duration_seconds{job=~\"nvidia-gpu|amdgpu_exporter|llama_exporter|prometheus\"}",
|
||
|
|
"legendFormat": "{{job}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Scrape Duration",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 22
|
||
|
|
},
|
||
|
|
"id": 7,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "llama_server_health",
|
||
|
|
"legendFormat": "health {{server}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "llama_models_loaded",
|
||
|
|
"legendFormat": "models {{server}} {{model}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "B"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Llama Server Metrics",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 30
|
||
|
|
},
|
||
|
|
"id": 8,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_pstate\"}",
|
||
|
|
"legendFormat": "{{__name__}}",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "NVIDIA P-State",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 30
|
||
|
|
},
|
||
|
|
"id": 9,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_pcie_link_gen_current\"}",
|
||
|
|
"legendFormat": "pcie gen",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_pcie_link_width_current\"}",
|
||
|
|
"legendFormat": "pcie width",
|
||
|
|
"range": true,
|
||
|
|
"refId": "B"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "NVIDIA PCIe Link",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": "$datasource",
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"max": 1,
|
||
|
|
"min": 0,
|
||
|
|
"unit": "short"
|
||
|
|
},
|
||
|
|
"overrides": []
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 24,
|
||
|
|
"x": 0,
|
||
|
|
"y": 38
|
||
|
|
},
|
||
|
|
"id": 10,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": [],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"pluginVersion": "11.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_throttle_sw_power_cap\"}",
|
||
|
|
"legendFormat": "sw power cap",
|
||
|
|
"range": true,
|
||
|
|
"refId": "A"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_throttle_hw_thermal_slowdown\"}",
|
||
|
|
"legendFormat": "hw thermal slowdown",
|
||
|
|
"range": true,
|
||
|
|
"refId": "B"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"editorMode": "code",
|
||
|
|
"expr": "{__name__=~\"gpu_.*_throttle_hw_power_brake_slowdown\"}",
|
||
|
|
"legendFormat": "hw power brake slowdown",
|
||
|
|
"range": true,
|
||
|
|
"refId": "C"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "NVIDIA Throttle Flags",
|
||
|
|
"type": "timeseries"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"refresh": "5s",
|
||
|
|
"schemaVersion": 39,
|
||
|
|
"style": "dark",
|
||
|
|
"tags": [
|
||
|
|
"gpu",
|
||
|
|
"monitoring",
|
||
|
|
"realtime"
|
||
|
|
],
|
||
|
|
"templating": {
|
||
|
|
"list": [
|
||
|
|
{
|
||
|
|
"current": {
|
||
|
|
"selected": true,
|
||
|
|
"text": "Prometheus",
|
||
|
|
"value": "Prometheus"
|
||
|
|
},
|
||
|
|
"hide": 0,
|
||
|
|
"includeAll": false,
|
||
|
|
"label": "Datasource",
|
||
|
|
"multi": false,
|
||
|
|
"name": "datasource",
|
||
|
|
"options": [],
|
||
|
|
"query": "prometheus",
|
||
|
|
"refresh": 1,
|
||
|
|
"regex": "",
|
||
|
|
"skipUrlSync": false,
|
||
|
|
"type": "datasource"
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"time": {
|
||
|
|
"from": "now-30m",
|
||
|
|
"to": "now"
|
||
|
|
},
|
||
|
|
"timepicker": {},
|
||
|
|
"timezone": "",
|
||
|
|
"title": "GPU Monitoring Realtime",
|
||
|
|
"uid": "gpu-monitoring-realtime",
|
||
|
|
"version": 1,
|
||
|
|
"weekStart": ""
|
||
|
|
}
|