Méthodologie de mesure — consommation Nœud IA POC (dossier PRISME)
Projet : PRISME — France 2030 · pôle Observer · DNSH §13 · scénario R1 (edge local)
Serveur : Nœud IA POC — WRX90 · inférence vLLM / Hermes (Nœud IA Expérimental)
Campagne de référence : 5 juillet 2026 (inférence vLLM active)
1. Objet et périmètre
| Élément | Description |
|---|---|
| Objectif | Quantifier la consommation instantanée (CPU, RAM, GPU/VRAM, réseau, disque, puissance GPU) de l’hôte et des services sur Nœud IA POC. |
| Périmètre | WRX90 (192.168.1.113 LAN) · stack remote-llm-stack (vLLM, Hermes, marty-api, MCP, Traefik, NATS, Redis…) |
| Réseau | 2 × 10 GbE · WireGuard wg0 · accès public Traefik :443 |
| Hors périmètre | Serveur Outils Grainerie (sauf Prometheus centralisé) · postes clients — voir Méthodologie mesure Serveur Outils Grainerie |
2. Matériel (capacité nominale)
| Ressource | Valeur |
|---|---|
| Plateforme | ASUS Pro WS WRX90E-SAGE SE |
| CPU | AMD Threadripper PRO 9965WX — 48 threads |
| RAM | 125 GiB |
| GPU | NVIDIA RTX PRO 5000 Blackwell — 48 935 MiB VRAM · TDP 300 W |
| Stockage | RAID 1,8 To NVMe (~28 % utilisé au 05/07/2026) |
| Alimentation | CORSAIR HXi 1500 W 80 PLUS Platinum |
3. Méthode tri-niveaux (alignée Serveur Outils Grainerie)
| Niveau | Outil | Rôle dossier |
|---|---|---|
| 1 — Direct | SSH · nvidia-smi · docker stats | Preuve ponctuelle reproductible |
| 2 — Exporteurs | node-exporter · cAdvisor · dcgm-exporter | Mesure continue (scrape 30 s sur Nœud IA POC) |
| 3 — Prometheus (SOG) | Recording rules grainerie:marty_* | Persistance · Grafana · comparaisons temporelles |
Remontée métriques : tunnel SSH marty-metrics-tunnel → Prometheus SOG (ports locaux 19100 / 18080 / 19400).
4. Indicateurs (recording rules)
| Domaine | Règle / métrique clé |
|---|---|
| CPU | grainerie:marty_cpu_used_percent |
| RAM | grainerie:marty_memory_used_percent |
| GPU puissance | grainerie:marty_gpu_power_watts |
| GPU utilisation / VRAM | grainerie:marty_gpu_utilization_percent · _memory_used_percent |
| Température GPU | grainerie:marty_gpu_temp_celsius |
| Réseau | grainerie:marty_network_rx_mbps · _tx_mbps |
| Par service | grainerie:marty_service_cpu_percent · _memory_bytes |
Services suivis : vllm, hermes-agent, marty-api, marty-mcp, hermes-webui, marty-traefik, dramatiq-worker, redis, nats, …
5. Résultats campagne 2026-07-05 (inférence vLLM)
| Domaine | Observation |
|---|---|
| CPU hôte | load1 3,6 · charge modérée — vLLM domine (~100 % docker stats) |
| RAM | ~10,7 % utilisés · vLLM ~5,8 GiB · marty-api ~2,4 GiB |
| GPU | ~300 W (plafond TDP) · util 100 % · VRAM ~43,7 / 48,9 GiB (89 %) · ~81 °C |
| Réseau | LAN enp211s0f0np0 ~0,46 Mbps RX au moment de la mesure |
| Disque | RAID 28 % utilisé · iowait faible |
Réserve — puissance système entière
Contrairement à Serveur Outils Grainerie (~635 W mesurés au capteur ACPI), Nœud IA POC n'a pas de compteur électrique hôte intégré. Seule la puissance GPU est mesurée directement (~300 W en inférence). Pour un bilan à la prise : wattmètre externe ou estimation TDP (CPU + GPU + périphériques) — voir bench kWh Nœud IA POC pour le protocole kWh/requête (M6–M12).
6. Limites assumées (dossier)
- Instantané inférence ≠ idle GPU (< 20 W) — capturer les deux régimes.
- Puissance GPU ≠ consommation totale workstation.
- Scrape distant dépend du tunnel
marty-metrics-tunnelvers Serveur Outils Grainerie. - cAdvisor = allocation CPU/RAM/GPU par conteneur — pas kWh facturés par service.