Cadre européenRGPDNIS 2DORAAI ActLanceurs d'alerte
Considérant 91

Considérant 91

Règlement établissant des règles harmonisées sur l'intelligence artificielle · UE 2024/1689

(91)

Compte tenu de la nature des systèmes d’IA et des risques pour la sécurité et les droits fondamentaux potentiellement associés à leur utilisation, notamment en ce qui concerne la nécessité d’assurer un suivi adéquat de la performance d’un système d’IA dans un contexte réel, il convient de définir des responsabilités spécifiques pour les déployeurs. Les déployeurs devraient en particulier prendre des mesures techniques et organisationnelles appropriées pour pouvoir utiliser les systèmes d’IA à haut risque conformément à la notice d’utilisation, et certaines autres obligations devraient être prévues en ce qui concerne la surveillance du fonctionnement des systèmes d’IA et la tenue de registres, selon le cas. En outre, les déployeurs devraient veiller à ce que les personnes chargées de mettre en œuvre la notice d’utilisation et au contrôle humain des systèmes énoncées dans le présent règlement possèdent les compétences nécessaires, en particulier un niveau adéquat de maîtrise, de formation et d’autorité en matière d’IA pour s’acquitter correctement de ces tâches. Ces obligations devraient être sans préjudice des autres obligations des déployeurs en ce qui concerne les systèmes d’IA à haut risque en vertu du droit de l’Union ou du droit national.

Spécificité Luxembourg
AI Act (UE 2024/1689) article 26 combine avec la loi du 1er aout 2018 relative a la protection des personnes physiques a l'egard du traitement des donnees a caractere personnel

Au Luxembourg, l'autorité de surveillance du marché IA n'est pas encore formellement désignée à date, mais la CNPD reste competente sur le volet protection des données personnelles des systèmes d'IA, et la CSSF peut intervenir des qu'un deployeur est une entité financiere réglementée (cumul AI Act + DORA + circulaire CSSF 22/806 sur l'externalisation TIC). Pour les secteurs santé et public, l'ILR et la HCPN sont vigilants sur la dualité AI Act + NIS 2.

Pratique Luxgap : nous recommandons de nommer formellement un responsable deployeur IA distinct du DPO, avec une lettre de mission ecrite mentionnant explicitement l'autorité d'override des recommandations algorithmiques, document que la CNPD demande systématiquement lors de ses contrôles depuis 2024.