Le piège classique
Le considérant 171 éclaire l'article 86 du AI Act : il consacre un véritable droit à l'explication au profit des personnes affectées par une décision automatisée issue d'un système d'IA à haut risque. Le piège pratique est double : d'abord, beaucoup de déployeurs croient qu'une simple mention RGPD article 22 suffit, alors que l'AI Act exige une explication claire et pertinente spécifique à la sortie du modèle ; ensuite, l'EU AI Office et la CNPD (sur le volet données personnelles) attendent une explication actionnable, c'est-à-dire qui permette concrètement à la personne d'exercer ses droits, et non un copier-coller technique de la fiche modèle.
Ce que doit contenir une explication conforme au considérant 171
- L'identification du système d'IA à haut risque concerné et son rôle exact dans la décision (déterminant, contributif, secondaire).
- Les principales variables d'entrée qui ont pesé sur la sortie pour cette personne (et non l'explicabilité globale du modèle).
- La logique générale du traitement automatisé et les seuils ou règles métier appliqués par le déployeur en aval de la sortie IA.
- Les voies de recours : contestation, intervention humaine, réclamation auprès de l'autorité compétente.
- La traçabilité de la version du modèle utilisée au moment précis de la décision (model card, hash, date de déploiement).
- Les cas d'exclusion documentés (sécurité publique, lutte anti-fraude réglementée) avec la base juridique précise.
Le test pratique : explication claire ET pertinente
Une explication purement technique (SHAP values, poids de features) ne satisfait pas le considérant 171. À l'inverse, une formule vague (votre dossier ne remplit pas nos critères) ne suffit pas non plus. Le standard attendu est celui d'une personne raisonnable qui, après lecture, comprend pourquoi elle a obtenu cette décision et ce qu'elle peut faire pour la contester.
Comment Luxgap automatise ce risque
Notre Luxgap Décision Explainer transforme chaque sortie de votre système d'IA à haut risque en une explication individualisée, lisible par la personne concernée et opposable devant l'EU AI Office ou la CNPD. L'outil s'intercale entre votre moteur d'IA (Azure ML, AWS SageMaker, Vertex AI, Dataiku, modèles internes) et votre canal de notification client (Salesforce Service Cloud, Zendesk, portail Odoo, courrier postal via une solution d'édition), et génère à la volée un courrier d'explication horodaté pour chaque décision individuelle automatisée.
- Capture la sortie brute du modèle et la version exacte déployée au moment de la décision, avec un hash cryptographique signé pour la preuve a posteriori.
- Traduit automatiquement les variables techniques (features, scores, seuils) en langage métier compréhensible par la personne, dans sa langue (FR, EN, DE, LU, PT).
- Détecte si la décision relève d'une exclusion légale (lutte anti-blanchiment CSSF, sécurité publique) et adapte le contenu de l'explication en conséquence, avec la base juridique citée.
- Génère un PDF horodaté avec mention des voies de recours (contestation interne, intervention humaine, réclamation EU AI Office, recours CNPD pour le volet données).
- Alerte le DPO et le responsable IA en temps réel via Teams ou Slack lorsqu'une demande d'explication arrive, avec délai légal de réponse pré-calculé.
- Conserve un journal de toutes les explications délivrées, exportable en cas d'audit de l'autorité de surveillance du marché IA.
Disponible en complément d'un mandat DPO ou CISO Luxgap ou en brique SaaS dédiée selon votre périmètre. Demandez un devis personnalisé et nos équipes préparent une démonstration sur l'un de vos modèles à haut risque réels, avec un audit blanc gratuit sous 48h pour mesurer la qualité actuelle de vos explications avant tout engagement.
