Le piège classique
Le considérant 31 eclaire l'article 5(1)(c) qui interdit la notation sociale. Le piège n'est pas le scoring evident type 'crédit social chinois', mais les scoring composites internes qui agregent des données comportementales heterogenes (assiduite, réseaux sociaux, achats, géolocalisation, santé) pour produire une note générique de 'fiabilite' utilisee dans des contextes deconnectes de la collecte initiale. Une assurance qui module ses primes sur un score 'mode de vie' construit à partir de données bancaires et de wearables, un employeur qui classe ses salariés sur un score 'engagement' melant productivité et activité LinkedIn : ce sont des candidats directs a l'interdiction. La CNPD luxembourgeoise et la future autorité IA croiseront leurs lectures, car le RGPD (art. 22 décision automatisée) et l'AI Act se cumulent.
Le test des 4 critères pour qualifier une notation sociale prohibee
Pour distinguer une évaluation légitime (scoring crédit bancaire, scoring fraude, évaluation RH ciblee) d'une notation sociale interdite, le considérant 31 fournit implicitement 4 critères cumulatifs a vérifier :
- Pluralite de contextes : le score agrege-t-il des données issues de spheres differentes (vie privée + vie professionnelle + comportements en ligne) ?
- Decontextualisation : le score est-il utilise dans un contexte sans lien avec la finalité de collecte initiale ?
- Effet préjudiciable disproportionne : la conséquence (refus de service, surcout, exclusion) est-elle proportionnée a la gravité du comportement evalue ?
- Caractère generaliste : le score evalue-t-il la personne globalement ('fiabilite', 'civisme', 'risque social') plutot qu'un risque spécifique et borne (defaut de paiement sur un crédit precis) ?
Si les 4 critères sont réunis, le système tombe sous l'interdiction de l'article 5 et exposé a une sanction jusqu'à 35 millions d'euros ou 7% du chiffre d'affaires mondial. Les évaluations licites (scoring crédit Bale III, scoring AML/KYC, évaluation de performance RH documentee) restent autorisees a condition d'être spécifiques, finalisees et proportionnées.
Comment Luxgap automatise ce risque
Notre Luxgap Social Scoring Detector scanne en continu vos modèles d'IA, vos pipelines de données et vos algorithmes metier pour détecter automatiquement toute construction de score qui combine des sources heterogenes et pourrait basculer dans la catégorie 'notation sociale prohibee'. L'outil se branche sur vos environnements Databricks, Azure ML, AWS SageMaker, Dataiku et vos CRM (Salesforce, HubSpot, Odoo) pour cartographier chaque feature utilisee, sa provenance et son contexte de collecte initial, puis applique automatiquement le test des 4 critères du considérant 31.
- Detecte tout modèle de scoring qui agrege des features issues de plus de deux contextes distincts (financier + comportemental + santé + social) et leve une alerte de risque article 5.
- Trace pour chaque feature sa finalité de collecte initiale declaree dans votre registre RGPD et signale les ecarts de finalité entre collecte et usage de scoring.
- Applique automatiquement le test des 4 critères (pluralite, decontextualisation, disproportion, generalisation) et produit un verdict motive : autorise, a documenter, a reconcevoir, prohibe.
- Genere un dossier de défense argumente pour les scorings légitimes (crédit, AML, RH cible) avec la base légale, la finalité spécifique et la proportionnalite documentees, opposable a la CNPD et a la future autorité IA luxembourgeoise.
- Alerte en temps reel par Teams ou Slack des qu'un data scientist deploie un nouveau modèle qui combine des features a risque, avant la mise en production.
- Produit un rapport PDF horodate cryptographiquement scelle, opposable lors d'un contrôle de l'EU AI Office ou de la CNPD.
Disponible en complement d'un mandat DPO ou CISO Luxgap ou en brique SaaS dediee selon votre périmètre IA. Demandez un devis personnalise et nos équipes preparent une demonstration sur vos modèles reels, avec un audit blanc gratuit sous 48h pour cartographier vos scorings a risque avant tout engagement.
