L’Union européenne encadre désormais très strictement certains usages de l’intelligence artificielle via le Règlement sur l’IA (RIA).
L’objectif ? Protéger les droits fondamentaux, la démocratie, la sécurité et la dignité humaine face à des technologies puissantes… parfois trop puissantes.
Le règlement interdit certaines pratiques jugées « à risque inacceptable ». Ces usages sont tout simplement bannis, quelle que soit la technologie utilisée ou l'entreprise qui les propose.
Les 8 pratiques d’IA formellement interdites 🚫
Manipulation mentale ou émotionnelle
👉 Il est interdit d’utiliser une IA pour influencer quelqu’un sans qu’il s’en rende compte (par exemple avec des messages subliminaux) ou pour manipuler ses décisions de manière délibérée (marketing trompeur, incitations cachées, etc.).
📌 Pourquoi ? Parce que ça porte atteinte au libre arbitre.
Exploiter la vulnérabilité d’une personne
👉 Il est interdit de concevoir une IA qui cible spécifiquement les personnes vulnérables (ex. : enfants, personnes âgées, personnes en situation de handicap, en détresse sociale ou financière).
📌 Exemple : Une IA qui pousserait des personnes en difficulté à souscrire des crédits ou faire des paris.
Noter les citoyens comme en Chine
👉 Le social scoring (notation des citoyens en fonction de leur comportement ou de leurs opinions) est interdit.
📌 Ce n’est pas le profilage en soi qui est visé, mais la prise de décision automatisée basée uniquement sur ce profilage.
La police prédictive sur les personnes
👉 Une IA ne peut pas être utilisée pour prédire si une personne va commettre un crime sur base de ses caractéristiques (origine, situation familiale, type de voiture, etc.).
📌 En revanche, certaines utilisations restent autorisées, comme détecter les fraudes d’entreprise ou prévoir les zones à risque (trafic de drogue, etc.).
Récupérer en masse des visages sur Internet
👉 Il est interdit de moissonner des images de visages de manière automatique à partir d’Internet ou de caméras de surveillance pour créer des bases de données d’identification faciale sans consentement explicite.
Détecter les émotions dans des contextes sensibles
👉 Les IA qui tentent de lire les émotions (via le visage, la voix, etc.) sont interdites dans certains contextes, comme au travail, à l’école ou dans les procédures policières.
Classer les gens selon leurs caractéristiques sensibles
👉 Il est interdit de créer des systèmes d’IA qui utilisent des données biométriques (empreintes, visage, etc.) pour catégoriser les gens selon leur religion, leur orientation sexuelle, leur origine ethnique, etc.
Reconnaissance faciale en temps réel dans l’espace public
👉 En principe, scanner les visages des gens dans la rue ou les lieux publics en temps réel est interdit.
📌 Sauf exceptions très encadrées (enquête sur un enlèvement, prévention d’un attentat, etc.).
Qui est concerné ? 🌍
Toutes les entreprises établies dans l’UE
Toutes les entreprises étrangères qui commercialisent ou font fonctionner une IA dans l’UE
Même si l’IA est hébergée à l’étranger, dès qu’elle a un effet dans l’Union, le RIA s’applique.
Sanctions en cas de non-respect 💣
💸 En cas de manquement, les amendes peuvent atteindre 35 millions d’euros ou 7 % du chiffre d'affaires mondial annuel, selon le montant le plus élevé.
Et si l’IA utilise des données personnelles, le RGPD s’applique en plus du Règlement IA.
Et les IA militaires ou de sécurité nationale ? ⚠️
Elles ne sont pas concernées par le RIA. Les États membres restent libres de développer ces systèmes dans le cadre de leurs compétences régaliennes.
En résumé
👉 Le message est clair : pas d’IA qui manipule, surveille à outrance ou discrimine. L’innovation est encouragée, mais pas au détriment de nos droits fondamentaux. Pour les startups, développeurs, influenceurs IA, PME et plateformes tech, cela signifie une vigilance accrue sur les cas d’usage et un audit juridique systématique avant de déployer un outil en Europe.
Vous souhaitez savoir si votre projet d’IA est conforme au règlement européen ?