Les pratiques interdites de l'article 5
| # | Pratique interdite | Question de contrôle |
|---|---|---|
| 1 | Manipulation subliminale ou trompeuse | Un système altère-t-il le comportement de façon nuisible, à l'insu des personnes ? |
| 2 | Exploitation des vulnérabilités | Cible-t-on l'âge, un handicap ou une situation socio-économique pour altérer le comportement au préjudice des personnes ? |
| 3 | Notation sociale | Évalue-t-on ou classe-t-on des personnes sur leur comportement social, avec un traitement défavorable injustifié ? |
| 4 | Police prédictive individuelle | Prédit-on le risque qu'une personne commette une infraction sur le seul profilage ou ses traits de personnalité ? |
| 5 | Moisson non ciblée d'images faciales | Constitue-t-on des bases de reconnaissance faciale par extraction massive d'images (internet, vidéosurveillance) ? |
| 6 | Reconnaissance des émotions au travail / à l'école | Infère-t-on les émotions de salariés ou d'élèves (hors raisons médicales ou de sécurité) ? |
| 7 | Catégorisation biométrique sensible | Déduit-on de la biométrie l'origine, les opinions, la religion, la vie sexuelle ou l'orientation ? |
| 8 | Identification biométrique à distance en temps réel | Utilise-t-on ce type d'identification dans l'espace public à des fins répressives, hors exceptions strictes ? |
| 9 | Imagerie intime non consentie (au 2 déc. 2026) | Un système sert-il à produire des contenus réalistes intimes ou sexuellement explicites représentant une personne identifiable sans son consentement explicite ? |
| 10 | Matériel d'abus sexuel sur mineur (au 2 déc. 2026) | Un système sert-il à générer ou manipuler ce type de matériel au sens de la directive 2011/93/UE ? |
Comment mener l'auto-audit ?
- 01
Partir du registre des systèmes d'IA
Passez chaque usage recensé au crible des dix questions de contrôle ci-dessus.
- 02
Isoler les cas positifs ou douteux
Toute réponse « oui » ou « peut-être » déclenche une analyse approfondie : la proximité avec l'article 5 suffit à justifier la prudence.
- 03
Vérifier les exceptions
Certaines interdictions comportent des exceptions strictes (notamment l'identification biométrique à distance en temps réel à des fins répressives). Elles sont d'interprétation étroite et encadrées.
- 04
Décider et documenter
Arrêtez l'usage interdit ou, si une exception s'applique, documentez précisément son fondement. Conservez la trace de l'audit comme preuve.
Quelles sanctions en cas de manquement ?
Les pratiques interdites relèvent du plafond de sanction le plus élevé de l'AI Act : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial total de l'exercice précédent, le montant le plus élevé étant retenu. C'est ce qui fait de l'article 5 la priorité de toute démarche : le risque n'est pas seulement juridique, il est financièrement majeur.
Questions fréquentes
Depuis quand les pratiques interdites sont-elles prohibées ?
Depuis le 2 février 2025. C'est l'une des premières échéances de l'AI Act à être entrée en application, avant même le régime des systèmes à haut risque (2 décembre 2027 depuis le report de l'omnibus). Tout usage relevant de l'article 5 doit donc déjà être écarté.
Le marketing personnalisé est-il une pratique interdite ?
Non, pas en tant que tel. L'article 5 interdit les techniques manipulatrices ou trompeuses qui altèrent substantiellement le comportement d'une manière causant un préjudice important, ainsi que l'exploitation des vulnérabilités. Le marketing persuasif classique reste permis ; c'est le caractère nuisible et manipulateur qui fait basculer dans l'interdit.
Y a-t-il des exceptions aux interdictions ?
Certaines interdictions comportent des exceptions strictes et encadrées, notamment l'identification biométrique à distance en temps réel à des fins répressives (recherche de victimes, menace terroriste, infractions graves), soumise à autorisation et garanties. Ces exceptions sont d'interprétation étroite et ne banalisent pas la pratique.
Qui contrôle le respect de l'article 5 ?
Les autorités de surveillance du marché désignées par chaque État membre, dotées de pouvoirs d'enquête et de sanction. En France, le dispositif institutionnel se met en place. Les manquements aux pratiques interdites exposent au plafond de sanction le plus élevé du règlement.
Ressource gratuite
Accédez à la ressource complète
Renseignez vos coordonnées professionnelles pour déverrouiller l’intégralité du contenu, téléchargeable en PDF.