Le problème auquel la fiche répond
Le V4 refuse qu’un algorithme public puisse priver une personne d’un droit ou orienter sa vie sans responsabilité humaine identifiable.
Ministère 02 · fiche reconstruite depuis le V4 source
Validation humaine obligatoire
Toute décision affectant un droit doit être revue et validée par un agent humain responsable.
Mesure détaillée
ENCADREMENT DE L'INTELLIGENCE ARTIFICIELLE (IA)
02-016
Ce que prévoit la mesure
Toute décision affectant un droit doit être revue et validée par un agent humain responsable.
Comment le ministère l’encadre
L’IA peut assister, trier, résumer, simuler ou alerter, mais ne décide pas. Les usages sont classés par criticité, audités, inscrits dans un registre et soumis à recours humain lorsqu’un droit est affecté.
Mise en œuvre
Financement et calendrier
Le V4 impose à tout grand projet numérique un tableau coût / retour / risque / délai. Lorsqu’aucune enveloppe autonome n’est fixée pour cette fiche, son coût doit être chiffré dans le budget du projet, publié et révisable.
Le V4 ne fixe pas une échéance autonome pour cette ligne. Elle s’inscrit dans le plan des 100 jours, puis dans le déploiement annuel du ministère ; l’extension dépend de l’évaluation et des résultats publiés.
Vérification
Contrôle, garanties et résultats
Audit, journalisation lorsque des données sont consultées, responsabilité humaine, tableau de bord public et possibilité de corriger ou d’arrêter un projet qui ne prouve pas son utilité. Le V4 précise en outre : Tout algorithme public affectant un droit doit être auditable et contestable.
Recours humain, accessibilité, non-discrimination, minimisation des données, réversibilité fournisseur, contrôle indépendant et maintien d’une alternative humaine pour les services essentiels. Garde-fou directement associé dans le V4 : Garde-fou : aucune décision publique individuelle prise par IA ; validation humaine obligatoire ; registre public ; recours.
Suivi V4 : algorithmes publics recensés et audités, usages par niveau de criticité, recours humains exercés, corrections de biais et incidents liés à une automatisation.
Pour qui · avec qui
Publics concernés et coordination
Citoyens concernés par une décision administrative et agents publics utilisant des outils d’IA.
Coordination avec les ministères et échelons cités dans le chapitre de coordination du V4, selon la compétence effectivement engagée par la mesure.
Ce que la fiche ne doit pas inventer
Limites et niveau de précision
Le document fixe la doctrine et les garde-fous. Un montant, un délai technique ou une architecture qui n’est pas explicitement arrêté dans le V4 ne doit pas être ajouté comme une promesse chiffrée.
Traçabilité
Retrouver la mesure dans le dossier V4
Chaque lien ouvre un chapitre du document ministériel intégral déjà présent sur le site.
p. 9-10
6. CADRAGE ET AUTORITÉ
Ouvrir dans le dossier →
p. 20
12. PLAN DES 100 JOURS
Ouvrir dans le dossier →
p. 21-22
13. EXÉCUTION ANNÉE 1 À 5 + HORIZON 10-15 ANS
Ouvrir dans le dossier →
p. 23
14. PREUVE PERMANENTE, RISQUES ET CONTRÔLE
Ouvrir dans le dossier →
p. 35
24. TABLEAU DE BORD PUBLIC
Ouvrir dans le dossier →
p. 36
25. RISQUES DE DÉRIVE ET GARDE-FOUS
Ouvrir dans le dossier →