Page intégrée au dossier PRISME — ne pas éditer ici sans resynchroniser.

Plan de configuration global — Stack Marty (Hermes v2)

Version : 1.2 · Date : 2026-06-20 · Statut : source de vérité configuration.

v1.2 — Tout déporté sur marty : plus aucune exécution locale sur le P53. vLLM, Hermes (gateway/dashboard/workspace), OpenWebUI tournent sur marty ; tâches auxiliaires sur le même vLLM (plus d'Ollama). P53 = client (UI HTTPS + OpenCode tunnel).

Ce document est la référence de configuration de toute la stack Marty. Il

synthétise les docs officielles

(Hermes Agent,

vLLM tool calling,

hermes-workspace,

OpenCode), les attendus du projet Marty

(`~/DEV/marty/README.md` — 28+ agents,

NLU français, validation humaine, Baserow/CalDAV/email/AFFiNE/n8n/LibreOffice) et

Migration historique OpenClaw → Hermes : (archive). OpenClaw (V1) est supprimé ; la stack agentique repose sur Hermes Agent.

Modèle principal (décision v1.1, par score bench v2) : gemma4-26b (9.0). Chargé par défaut sur marty ; qwen3.6-35b (8.5, 32k ctx, abliterated) = alternative pour contexte long ou sorties non censurées. Voir §3.

1. Architecture — tout déporté sur marty

Décision (v1.2) : aucune exécution locale sur le P53. vLLM et toute la stack Hermes (gateway, dashboard, workspace, OpenWebUI) tournent sur marty. Le P53 est un client : UI via Traefik HTTPS, OpenCode via tunnel SSH. Plus d'Ollama local, plus de services Hermes locaux, plus de fallback offline.

flowchart TB
  subgraph p53["Poste P53 — client uniquement"]
    BR[Navigateur]
    OC[OpenCode CLI]
    TUN[(Tunnel SSH<br/>:18000 vLLM / :19000 gateway)]
  end

  subgraph marty["marty — WRX90 (RTX PRO 5000, 48 Go) — exécution complète"]
    TRA[Traefik :443<br/>*.nassim.netlib.re]
    VLLM[vLLM OpenAI :8000<br/>alias marty-llm]
    HG[Hermes Gateway :8642]
    HD[Hermes Dashboard :9119]
    HW[Hermes Workspace :3002]
    OUI[OpenWebUI]
  end

  BR -->|HTTPS| TRA
  OC -->|marty-vllm / marty-hermes| TUN
  TUN --> VLLM
  TUN --> HG
  TRA --> HW
  TRA --> HD
  TRA --> OUI
  TRA --> HG
  HW --> HG
  HW --> HD
  HG -->|profils marty-* + tools + MCP + aux| VLLM

Trois surfaces Hermes (doc

API Server),

toutes hébergées sur marty :

2. Couches & responsabilités

Tout s'exécute sur marty. Le P53 n'héberge qu'un navigateur, OpenCode et le tunnel.

Plus d'Ollama, plus de fallback offline, plus de services Hermes sur le P53. Le P53 hors-ligne ⇒ pas d'agent (acceptable : marty est le serveur edge permanent).

3. vLLM — modèles & tool parsers

Contrainte VRAM 48 Go → un seul gros modèle chargé à la fois ; vLLM sert

toujours l'alias stable marty-llm en plus du served_id réel. Doc

Tool Calling : toujours

--enable-auto-tool-choice + --tool-call-parser adapté à la famille.

Source : Configuration (models registry)

· Mapping : Configuration (marty hermes model mapping).

Choix du principal : par score bench v2, gemma4-26b (9.0) > qwen3.6-35b (8.5).

Il est aussi le plus rapide (~180 tok/s) et 10/10 tools. Seules limites : contexte 16k

(vs 32k pour qwen3.6-35b) et non abliterated (refus possibles sur sujets sensibles).

→ bascule vers qwen3.6-35b pour ces deux cas (voir mapping load_policy.alternative).

Règles vLLM :

• AWQ / compressed-tensors : ajouter --dtype float16 quand requis (cf. registre).
• Qwen MoE : enable_thinking:false côté Hermes hors tâche de raisonnement explicite.

reconfigurent jamais l'alias (toujours marty-llm).

• Synchroniser context_length Hermes au modèle chargé : 16384 pour gemma4-*,

32768 pour qwen* (sinon erreurs de dépassement sur gemma4-26b). À automatiser dans

marty-llm-model.sh switch (cf. §10 Phase A).

• Modèles retirés du registre v2 : deepseek-r1, qwq (échec dtype), llama3.3,

qwen2.5-72b, qwen2.5-coder, gemma3, qwen2.5-7b, hermes-3 (tool-use insuffisant).

4. Hermes Agent — configuration cœur

Hermes s'exécute sur marty : .hermes (config, profils, .env) vit sur marty. Le P53 n'a plus de .hermes. Les base_url ci-dessous sont internes à marty (Hermes et vLLM co-localisés → 127.0.0.1:8000), pas le tunnel P53.

4.1 Fichiers maîtres (sur marty)

4.2 API Server (obligatoire)

Doc API Server —

API_SERVER_KEY est requis. Bind 0.0.0.0 derrière Traefik (TLS + auth), jamais exposé nu.

API_SERVER_ENABLED=true
API_SERVER_HOST=0.0.0.0 # derrière Traefik sur marty (bindé conteneur 127.0.0.1)
API_SERVER_PORT=8642
API_SERVER_KEY=<secret fort>
API_SERVER_CORS_ORIGINS=https://app.nassim.netlib.re,https://hermes.nassim.netlib.re

4.3 Providers LLM (internes à marty)

vLLM, Hermes et tâches auxiliaires co-localisés sur marty → tout pointe sur le

vLLM interne. Plus aucun provider Ollama, plus de fallback offline.

Écart doc : marty-edge n'existe pas dans le PROVIDER_REGISTRY du CLI Hermes → openrouter (OpenAI-compat générique) + base_url/api_key. .env définit aussi OPENAI_API_KEY / OPENAI_API_BASE pour la résolution des workers. Côté P53 (clients only) : OpenCode et CLI accèdent via tunnel SSH (:18000 vLLM, :19000 gateway) ou HTTPS Traefik. Voir §6 et §7.

Scripts : Script Python (apply marty edge llm config),

Script Python (apply marty hermes model mapping),

Script shell (finalize marty v2).

4.4 Délégation (CEO / coordinator)

Doc Delegation :

delegation:
  max_spawn_depth: 2 # orchestrateur → feuilles ; coût ×3^depth
  max_concurrent_children: 3
  orchestrator_enabled: true
  provider: openrouter # hérite du parent si vide
  model: marty-llm
  base_url: http://127.0.0.1:8000/v1 # vLLM interne marty

4.5 Kanban

Doc Kanban :

Synthèse PRISME — 707 lignes dans la source complète.

Voir aussi PRISME : Nœud IA Expérimental