Le piège classique
Le considérant 31 éclaire l'article 5(1)(c) qui interdit la notation sociale. Le piège n'est pas le scoring evident type 'crédit social chinois', mais les scoring composites internes qui agregent des données comportementales heterogenes (assiduite, réseaux sociaux, achats, géolocalisation, santé) pour produire une note générique de 'fiabilite' utilisée dans des contextes deconnectes de la collecte initiale. Une assurance qui module ses primes sur un score 'mode de vie' construit à partir de données bancaires et de wearables, un employeur qui classe ses salariés sur un score 'engagement' melant productivité et activité LinkedIn : ce sont des candidats directs a l'interdiction. La CNPD luxembourgeoise et la future autorité IA croiseront leurs lectures, car le RGPD (art. 22 décision automatisée) et l'AI Act se cumulent.
Le test des 4 critères pour qualifier une notation sociale prohibée
Pour distinguer une évaluation légitime (scoring crédit bancaire, scoring fraude, évaluation RH ciblée) d'une notation sociale interdite, le considérant 31 fournit implicitement 4 critères cumulatifs a vérifier :
- Pluralite de contextes : le score agrege-t-il des données issues de spheres differentes (vie privée + vie professionnelle + comportements en ligne) ?
- Decontextualisation : le score est-il utilise dans un contexte sans lien avec la finalité de collecte initiale ?
- Effet préjudiciable disproportionne : la conséquence (refus de service, surcout, exclusion) est-elle proportionnée a la gravité du comportement evalue ?
- Caractère generaliste : le score evalue-t-il la personne globalement ('fiabilite', 'civisme', 'risque social') plutôt qu'un risque spécifique et borne (défaut de paiement sur un crédit précis) ?
Si les 4 critères sont réunis, le système tombe sous l'interdiction de l'article 5 et exposé a une sanction jusqu'à 35 millions d'euros ou 7% du chiffre d'affaires mondial. Les évaluations licites (scoring crédit Bale III, scoring AML/KYC, évaluation de performance RH documentée) restent autorisées à condition d'être spécifiques, finalisées et proportionnées.
Comment Luxgap automatise ce risque
Notre Luxgap Social Scoring Detector scanne en continu vos modèles d'IA, vos pipelines de données et vos algorithmes métier pour détecter automatiquement toute construction de score qui combine des sources heterogenes et pourrait basculer dans la catégorie 'notation sociale prohibée'. L'outil se branche sur vos environnements Databricks, Azure ML, AWS SageMaker, Dataiku et vos CRM (Salesforce, HubSpot, Odoo) pour cartographier chaque feature utilisée, sa provenance et son contexte de collecte initial, puis applique automatiquement le test des 4 critères du considérant 31.
- Détecte tout modèle de scoring qui agrege des features issues de plus de deux contextes distincts (financier + comportemental + santé + social) et leve une alerte de risque article 5.
- Trace pour chaque feature sa finalité de collecte initiale déclarée dans votre registre RGPD et signale les écarts de finalité entre collecte et usage de scoring.
- Applique automatiquement le test des 4 critères (pluralite, decontextualisation, disproportion, generalisation) et produit un verdict motive : autorise, a documenter, a reconcevoir, prohibe.
- Génère un dossier de défense argumente pour les scorings légitimes (crédit, AML, RH cible) avec la base légale, la finalité spécifique et la proportionnalité documentées, opposable a la CNPD et a la future autorité IA luxembourgeoise.
- Alerte en temps réel par Teams ou Slack des qu'un data scientist deploie un nouveau modèle qui combine des features a risque, avant la mise en production.
- Produit un rapport PDF horodate cryptographiquement scelle, opposable lors d'un contrôle de l'EU AI Office ou de la CNPD.
Disponible en complément d'un mandat DPO ou CISO Luxgap ou en brique SaaS dédiée selon votre périmètre IA. Demandez un devis personnalisé et nos équipes préparent une démonstration sur vos modèles réels, avec un audit blanc gratuit sous 48h pour cartographier vos scorings a risque avant tout engagement.
