Objectif F05 — Une approche responsable de l'intelligence artificielle
Contexte
Le développement rapide des modèles d'intelligence artificielle conduit de nombreuses organisations à adopter des solutions sans toujours mesurer leurs conséquences : empreinte carbone, dépendance aux fournisseurs, biais, atteinte aux droits des créateurs, dégradation des conditions de travail.
Notre projet défend une approche fondée sur la maîtrise des usages plutôt que sur une logique de déploiement systématique — alignée sur les recommandations du Comité IA générative (gouvernement) et sur le règlement IA européen.
Préambule : B.A.-BA des enjeux de l'IA — vocabulaire, mécanismes, impacts et idées reçues.
Posture épistémique
Voir Épistémologie IA & création · Labo IA & création pure.
Chaîne de décision technique (avant tout appel IA) : règles métier / n8n → SLM edge local → fédération réseau → GPAI cloud en dernier recours — voir Autonomie & outils souverains §4.4.
Nos principes
1. IA choisie
L'IA uniquement lorsqu'elle constitue la meilleure réponse à un besoin identifié — après évaluation des alternatives (règles métier, automatisation classique, traitement manuel).
Grille de décision :
flowchart TD
START(["IA envisagée"])
Q1{"Besoin clairement formulé ?"}
Q2{"Solution non-IA disponible ?"}
Q3{"Gain ≥ coût financier · carbone · humain ?"}
Q4{"Équipes formées et d'accord ?"}
STOP(["Ne pas déployer"])
GO(["Déploiement encadré possible"])
START --> Q1
Q1 -->|Non| STOP
Q1 -->|Oui| Q2
Q2 -->|Oui| STOP
Q2 -->|Non| Q3
Q3 -->|Non| STOP
Q3 -->|Oui| Q4
Q4 -->|Non| STOP
Q4 -->|Oui| GO
flowchart TD
START(["IA envisagée"])
Q1{"Besoin clairement formulé ?"}
Q2{"Solution non-IA disponible ?"}
Q3{"Gain ≥ coût financier · carbone · humain ?"}
Q4{"Équipes formées et d'accord ?"}
STOP(["Ne pas déployer"])
GO(["Déploiement encadré possible"])
START --> Q1
Q1 -->|Non| STOP
Q1 -->|Oui| Q2
Q2 -->|Oui| STOP
Q2 -->|Non| Q3
Q3 -->|Non| STOP
Q3 -->|Oui| Q4
Q4 -->|Non| STOP
Q4 -->|Oui| GO2. Souveraineté
- Maîtrise des données — hébergement connu, pas de réutilisation commerciale non consentie
- Autohébergement lorsque pertinent (modèles open source, infra Grainerie, Nœud edge Nœud IA POC)
- Choix des fournisseurs documenté (localisation, conformité Règlement général sur la protection des données (RGPD))
Axe transversal : Souveraineté économique — communs, réduction SaaS, gouvernance économique.
- Interopérabilité — pas de verrouillage propriétaire
3. Transparence
- Compréhension des traitements par les utilisateurs finaux
- Validation humaine pour les décisions à impact (programmation, évaluation, communication)
- Documentation des prompts, modèles et jeux de données
- Information des publics lorsque l'IA intervient dans une expérience culturelle
4. Sobriété
- Limiter les appels API et l'entraînement inutiles
- Privilégier modèles légers et inférence edge locale quand suffisant (vLLM sur nœud maîtrisé — expérimentation Nœud IA Expérimental)
- Mesure empreinte carbone (référence Green Algorithms)
- Pas de « IA pour l'IA »
5. Biais et équité
- Tester sur des cas représentatifs du secteur
- Documenter les biais identifiés et les mesures correctives
- Vigilance sur les discriminations (accès, langue, handicap)
6. Droits des créateurs
- Pas d'entraînement sur œuvres, archives ou données personnelles sans accord explicite
- Respect du droit d'auteur et des contrats de cession — veille IANA 2026 : œuvre 100 % IA non protégeable en UE/FR ; œuvre augmentée protégeable si apport humain substantiel documenté
- Pas de confiance dans la licéité implicite des corpus d'entraînement des GPAI tiers — privilégier modèles traçables, edge, corpus consentis
- Conformité Règlement européen sur l'intelligence artificielle (AI Act) pour les systèmes à haut risque — transparence données d'entraînement, mécanismes de recours ayants droit
Livrables objectif 3 AAP (CDC) : schéma métadonnées droits Baserow · registre consentements · note IANA/AI Act · guide contractuel ICC · fiche modèles rémunération — calendrier et périmètre : Objectif 3 — droits & exploitation.
7. Conditions de travail
- Réduire les tâches répétitives, pas les métiers
- Renforcer les compétences (formation, montée en qualité)
- Créer de nouveaux métiers (médiation données, gouvernance IA)
Cas d'usage envisagés dans la Plateforme de Ressources et d'Innovation pour les Structures culturelles, la Mutualisation et l'Écosystème (PRISME)
| Cas d'usage | Niveau IA | Garde-fous |
|---|---|---|
| Aide à la rédaction (comptes rendus, mails) | Assisté | Relecture humaine obligatoire |
| Classification documents / tags | Automatisé léger | Edge privilégié ; audit échantillon mensuel |
| Assistant Calendrier / requêtes métier | Assisté | Edge (Nœud IA POC) ; intentions validées |
| Synthèse de veille sectorielle | Assisté | Sources citées, vérification |
| Traduction contenus internes | Assisté | Validation native speaker |
| Génération contenu artistique | Exclu par défaut | Sauf protocole labo création pure validé par le comité éthique (à former) |
| Apprentissage fédéré (Marty) | Encadré | Consentement explicite ; agrégats uniquement — voir IA fédérée Marty |
| Décision programmation / sélection | Interdit | Décision humaine exclusive |
Labo de recherche — IA et création pure
Les outils opérationnels PRISME (Marty admin, Calendrier, n8n) n'incluent pas de génération artistique en production. Les enjeux de l'IA dans la création pure (spectacle vivant, cirque) font l'objet d'un laboratoire de recherche distinct, articulé aux pôles Observer et Expérimenter.
| Dimension | Contenu |
|---|---|
| Objet | Comprendre et encadrer l'IA là où elle touche au geste, à la dramaturgie, à la mise en scène |
| Contraintes | Écologiques · philosophiques · éthiques · sociales — grille systématique par protocole |
| Technique | Désescalade : edge computing + petits modèles spécialisés (SLM), pas grand modèle d'intelligence artificielle (GPAI) cloud pour la création |
| Gouvernance | Comité éthique IA à former (M1) ; consentement explicite des artistes ; aucun déploiement filière sans validation du comité une fois formé |
| Livrables | Charte « IA et création pure », fiches protocole, rapport comparatif edge / cloud |
Référence complète : Labo IA & création pure · epistemologie ia generative creation · Edge computing & Nœud IA Expérimental · Bibliographie société numérique · participation syndicale ia (S1–S7) · Brouillon Word §7 : 07 ia responsable word
Gouvernance IA du projet
| Instance | Rôle |
|---|---|
| Comité éthique IA | Validation des nouveaux cas d'usage (semestriel) — à former au lancement (inexistant au dépôt) |
| Référent·e IA | Veille réglementaire, formation équipes |
| Registre des traitements | Documenté (RGPD + AI Act) |
Livrables France 2030
- Charte IA responsable ICC — document publié (pôle Diffuser)
- Grille d'évaluation — outil téléchargeable pour les structures accompagnées
- Registre type — modèle de documentation des usages IA
- Formation — module « IA et culture » (2 jours)
Alignement réglementaire
| Texte | Application |
|---|---|
| RGPD | Données personnelles, DPIA — voir §14 RGPD · §14 Cybersécurité |
| IA Act (UE) 2024/1689 | Classification risques, transparence art. 50, GPAI — voir Bibliographie société numérique §R6 |
| Recommandation UNESCO (2021) | Principes éthiques, domaine Culture — §R5 |
| Droit d'auteur | Pas d'exploitation œuvres sans licence — Objectif 3 · Brouillon Word §14 |
| Do No Significant Harm (DNSH) | Sobriété, pas de préjudice environnemental significatif |
| Recommandations Comité IA générative | Référence méthodologique |
Références société numérique : Bibliographie société numérique — FramamIA, Dégooglisons, Désescalade (→ edge + SLM), Cairn/Réseaux, Enjeux internationaux, Cranium R9 (apprentissage fédéré). Labo création pure : Labo IA & création pure · IA fédérée Marty : IA fédérée Marty.