Les 8 catégories de pratiques interdites

L'article 5 du règlement liste les 8 catégories. Pour chacune, je donne le texte de référence simplifié et un exemple opérationnel.

Catégorie 1 — Manipulation subliminale

Article 5(1)(a) : interdit l'IA qui utilise des techniques subliminales au-delà de la conscience pour fausser de manière substantielle le comportement, causant un préjudice. Cible : publicité ciblée à effet manipulateur, recommandation poussant à des comportements addictifs.

Catégorie 2 — Exploitation de vulnérabilités

Article 5(1)(b) : interdit l'IA qui exploite les vulnérabilités liées à l'âge, au handicap ou à la situation sociale ou économique pour fausser le comportement. Cible : ciblage publicitaire enfants, exploitation de personnes en détresse financière.

Catégorie 3 — Notation sociale

Article 5(1)(c) : interdit la notation sociale par les autorités publiques et par les entités privées quand elle entraîne un traitement défavorable injustifié ou disproportionné. Cible : scoring client cross-domaines, scoring locataire multi-bailleurs, scoring fournisseur agrégé.

Catégorie 4 — Prédiction de comportement criminel

Article 5(1)(d) : interdit l'évaluation des risques d'une personne physique pour évaluer ou prédire la commission d'une infraction pénale. Exception : appui à une évaluation humaine fondée sur des faits objectifs vérifiables. Cible : profilage criminel généralisé, anti-fraude RH par prédiction.

Catégorie 5 — Scraping massif de visages

Article 5(1)(e) : interdit la création ou l'extension de bases de données de reconnaissance faciale par moisson aveugle d'internet ou de vidéosurveillance. Cible : ClearviewAI-like, agrégateurs de selfies réseaux sociaux.

Catégorie 6 — Détection émotions

Article 5(1)(f) : interdit l'inférence des émotions sur le lieu de travail et dans les établissements d'enseignement. Exception : raisons médicales ou de sécurité. Cible : analyse vocale du stress en centre d'appel, analyse de l'attention en classe.

Catégorie 7 — Catégorisation biométrique sensible

Article 5(1)(g) : interdit la catégorisation biométrique pour déduire la race, les opinions politiques, l'affiliation syndicale, les croyances, la vie sexuelle ou l'orientation sexuelle. Exception : étiquetage à des fins légitimes par les forces de l'ordre. Cible : profilage marketing biométrique, segmentation client par origine.

Catégorie 8 — Identification biométrique en temps réel dans lieux publics

Article 5(1)(h) : interdit l'identification biométrique à distance en temps réel par les forces de l'ordre dans les espaces accessibles au public. Exceptions : recherche de victimes, menace terroriste imminente, recherche d'auteurs d'infractions graves. Cible : reconnaissance faciale en gares, transports, manifestations.

Cette catégorie ne s'applique qu'aux forces de l'ordre. Pour les acteurs privés, c'est l'article 6+annexe III qui s'applique (haut risque). Voir version officielle EUR-Lex.

Les 15 outils concrets à désactiver immédiatement

Outil 1 — Analyse vocale du stress en centre d'appel

Plusieurs SaaS proposent en 2024-2026 une analyse en temps réel du ton, du débit et du stress des conseillers et des clients pour adapter la conduite d'entretien. Verdict : interdit art. 5(1)(f) côté salariés, à examiner côté client (risque art. 5(1)(b) si exploitation de vulnérabilité). Action : suspendre le module détection émotions, conserver uniquement la transcription factuelle.

Outil 2 — ATS RH avec scoring sentiment

Certains ATS analysent la lettre de motivation pour détecter le sentiment, l'enthousiasme ou la concordance émotionnelle au poste. Verdict : zone grise, interdit si en interview (lieu de travail = entretien d'embauche au sens du règlement). Action : suspendre le scoring sentiment, conserver l'analyse syntaxique factuelle.

Outil 3 — Reconnaissance faciale anti-vol en magasin

Bases de données de visages de voleurs présumés, comparées en temps réel avec les visiteurs. Verdict : interdit art. 5(1)(e) pour le scraping massif, et haut risque art. 6+annexe III pour l'identification. Action : suspendre. Remplacer par caméras anti-effraction classiques + signalement humain.

Outil 4 — Détection d'attention en classe

Caméras analysant les visages d'élèves pour mesurer la concentration. Verdict : interdit art. 5(1)(f) en établissement d'enseignement. Action : suspendre. Alternatives pédagogiques humaines.

Outil 5 — Scoring social cross-domaines

Scoring client agrégeant comportements d'achat, paiement, présence réseaux sociaux pour limiter l'accès à un service. Verdict : interdit art. 5(1)(c) si traitement défavorable injustifié ou disproportionné. Action : suspendre. Recomposer un scoring lié exclusivement au comportement de paiement, avec base légale RGPD claire.

Outil 6 — Profilage criminel généralisé

Logiciels prédisant la probabilité qu'un salarié commette une fraude basée sur des indicateurs comportementaux. Verdict : interdit art. 5(1)(d). Action : suspendre. Maintenir uniquement les contrôles anti-fraude factuels (signatures, montants, dérives statistiques sur opérations).

Outil 7 — Analyse d'émotions en visioconférence

Logiciels intégrés aux outils de visio qui mesurent l'engagement émotionnel des participants. Verdict : interdit art. 5(1)(f) si utilisé en contexte professionnel. Action : désactiver le module émotion. Conserver l'audit des temps de parole, factuel.

Outil 8 — Catégorisation biométrique marketing

Caméras en magasin segmentant les visiteurs par âge perçu et genre pour affichage publicitaire ciblé. Verdict : la segmentation âge/genre seule n'est pas interdite mais reste haut risque (annexe III §1 biométrie). La dérivation d'origine ou d'opinion = interdit art. 5(1)(g). Action : auditer le modèle, restreindre aux attributs autorisés avec base légale claire.

Outil 9 — Coach IA pour personnes vulnérables

Chatbots vendus comme « coach personnel » à des publics fragiles (jeunes en détresse, personnes endettées). Verdict : risque art. 5(1)(b) exploitation de vulnérabilité. Action : auditer la communication marketing et le ciblage. Encadrer strictement le déploiement.

Outil 10 — Recommandation algorithmique poussée à l'addiction

Algorithmes optimisant la rétention via mécaniques addictives (notifications, scrolls infinis manipulatifs). Verdict : risque art. 5(1)(a) manipulation subliminale. Action : auditer les boucles de rétention, transparence sur le mode de fonctionnement.

Outil 11 — Scoring locataire mutualisé

Bases de données scoring locataires partagées entre bailleurs sur indicateurs hétérogènes (incidents passés, comportement réseaux sociaux). Verdict : risque art. 5(1)(c) si traitement disproportionné. Action : auditer les sources et l'usage. Reformer un scoring strictement lié au paiement, transparent.

Outil 12 — Reconnaissance faciale pour pointage

Pointage des salariés par reconnaissance faciale en entrée d'entreprise. Verdict : risque RGPD art. 9 (biométrique) et risque AI Act art. 6 (haut risque possible). Action : auditer la base légale, demander avis CNIL si volumétrie importante.

Outil 13 — Surveillance émotionnelle dans transports publics

Caméras analysant les états émotionnels des passagers pour prévention violences. Verdict : pour les acteurs privés, haut risque ; pour les forces de l'ordre, art. 5(1)(h) en temps réel. Action : restreindre fortement, mettre en place exceptions documentées.

Outil 14 — Scoring de crédit fondé sur signaux faibles

Inclusion dans le scoring crédit de signaux biométriques (vidéo entretien), comportementaux (vitesse de saisie), émotionnels. Verdict : risque art. 5(1)(b) et (g), haut risque art. 6 + annexe III §5. Action : restreindre le scoring à des indicateurs financiers traditionnels.

Outil 15 — Prédiction de turn-over par IA

Logiciels prédisant la probabilité qu'un salarié démissionne, fondé sur signaux comportementaux. Verdict : risque RGPD art. 22, possible haut risque AI Act annexe III §4. Action : suspendre tant que la base légale et la supervision humaine ne sont pas documentées.

Le risque concret en cas de contrôle

Un contrôle de la CNIL ou de la DGCCRF identifiant un usage interdit art. 5 déclenche typiquement :

  1. Notification d'un grief documenté.
  2. Suspension immédiate de l'usage demandée par l'autorité.
  3. Délai de 30 jours pour répondre.
  4. Sanction : 35 M€ ou 7 % CA mondial.
  5. Publication de la décision.

Pour une PME de 8 M€ de CA mondial, la sanction théorique max est de 560 000 € — à pondérer par la modération PME (article 99(6) prévoit le montant le plus faible, ici 35 M€ vs 560 k€ = 560 k€). En pratique, la première offense bien régularisée passe souvent par un avertissement ou une mise en demeure préalable.

La méthode IAPRO d'audit art. 5

Étape 1 — Inventaire des outils

Lister tous les outils IA et SaaS déployés, incluant les modules cachés (analytics, anti-fraude, RH, marketing). Volume typique : 8-20 outils en PME, 25-60 en ETI.

Étape 2 — Qualification

Pour chaque outil, croiser avec les 8 catégories d'interdiction. Documenter par cas d'usage (pas par produit).

Étape 3 — Décision

Pour chaque cas qualifié interdit : suspension, alternative conforme, ou exception documentée si l'une des dérogations art. 5 s'applique.

Étape 4 — Communication

Note interne au CODIR, communication aux salariés concernés, communication aux clients si la suspension affecte un service.

Étape 5 — Documentation

Note d'audit, registre des suspensions, plan de remplacement, calendrier. Conserver pour preuve de diligence.

Durée totale : 3-5 jours-consultants pour une PME 50-150 salariés. Cofinancement Bpifrance Diag Data IA jusqu'à 80 %. Voir notre hub aides pour le détail.

Articulation avec le RGPD et les autorités sectorielles

L'art. 5 du règlement IA se cumule avec :

  • RGPD art. 9 (données sensibles) sur la biométrie.
  • Code du travail (consultation CSE, information salariés) sur la surveillance.
  • Doctrine ACPR sur le scoring crédit sensible.
  • Doctrine ANSM sur l'IA dans la santé.

Le DPO et le RSSI doivent porter l'audit conjointement. Voir notre article Rôle du DPO face à l'AI Act.

Les dérogations art. 5 — usage très restreint

Le règlement prévoit des dérogations strictement encadrées :

  • Catégorie 6 (émotions) : raisons médicales documentées, raisons de sécurité (par exemple détection somnolence du chauffeur).
  • Catégorie 7 (catégorisation sensible) : étiquetage à des fins légitimes par forces de l'ordre.
  • Catégorie 8 (identification biométrique temps réel publique) : recherche de victimes, terrorisme imminent, infractions graves listées en annexe II.

Aucune dérogation pour les acteurs privés sur les catégories 1 à 5. Pour bénéficier d'une dérogation, dossier juridique solide + base légale claire + supervision humaine documentée. Voir CNIL — IA.

Cas pratique — Détection émotions en centre d'appel

Pour un service client 65 conseillers, le SaaS déployait l'analyse vocale du stress des conseillers et des clients. Diagnostic IAPRO :

  • Côté conseillers : interdit art. 5(1)(f).
  • Côté clients : risque art. 5(1)(b) sur les profils vulnérables (clients en réclamation).

Décision : suspension du module émotion. Conservation de la transcription factuelle pour qualité. Communication au CSE et au service client. Plan de remplacement par formation managériale. Coût de l'audit : 6 200 €, financé à 80 % par Bpifrance Diag Data IA. Délai : 4 semaines entre cadrage et bascule.

FAQ — Pratiques interdites art. 5 AI Act

Quels sont les premiers contrôles attendus sur l'art. 5 en France ?

Les premiers contrôles publiés en 2026 par la CNIL et la DGCCRF visent principalement : (1) reconnaissance faciale en magasin sans base légale, (2) analyse vocale stress en centre d'appel, (3) scoring émotionnel en entretien d'embauche, (4) systèmes biométriques en transports publics. Le profilage marketing biométrique et le scoring social cross-domaines sont également surveillés activement.

Une dérogation médicale couvre-t-elle un usage RH ?

Non. La dérogation médicale de l'article 5(1)(f) suppose un cadre clinique avéré, pas un usage RH ou managérial. Un module « bien-être au travail » mesurant les émotions des salariés via webcam ne tombe pas dans la dérogation, même s'il est présenté comme un outil de santé. La doctrine CNIL et EDPB est claire sur ce point.

Que faire si mon fournisseur ne se met pas en conformité ?

Trois actions : (1) notifier formellement le fournisseur avec mise en demeure, (2) auditer si une fonctionnalité interdite peut être désactivée côté déployeur, (3) si la fonctionnalité interdite est centrale au produit et indésactivable, résilier le contrat pour cause de non-conformité réglementaire. Conservez la trace écrite de toute cette procédure — c'est le socle de votre preuve de diligence.

Comment l'art. 5 s'articule avec le RGPD ?

L'art. 5 AI Act et l'art. 9 RGPD se cumulent sur les données biométriques et sensibles. Une reconnaissance faciale sans base légale tombe sous RGPD art. 9 ; si elle est en temps réel dans un lieu public par les forces de l'ordre, elle tombe aussi sous AI Act art. 5(1)(h). La CNIL coordonne les deux régimes. Sanction potentielle cumulée : 4 % CA (RGPD) + 7 % CA (AI Act).

Les systèmes de pointage biométrique sont-ils interdits ?

Non, le pointage biométrique en entreprise n'est pas listé à l'art. 5 du règlement. Il reste soumis au RGPD art. 9 (base légale renforcée, alternative non biométrique) et au règlement art. 6 + annexe III §1 (haut risque biométrique). La doctrine CNIL sur la biométrie reste applicable. En général, déconseillé sauf nécessité absolue.

Un chatbot vendu comme « coach » à des personnes vulnérables est-il interdit ?

Risque art. 5(1)(b) si l'IA exploite la vulnérabilité pour fausser le comportement et causer un préjudice. La qualification dépend du ciblage commercial, du wording, de la mécanique de rétention. Un produit transparent, sans manipulation, avec messages renvoyant vers des professionnels reste autorisé. Auditer marketing et UX pour éviter le glissement.

Une analyse de sentiment marketing est-elle interdite ?

L'analyse de sentiment sur des avis publics ou des messages reçus n'est généralement pas interdite. Elle devient problématique si elle est : (1) appliquée aux salariés sur le lieu de travail, (2) appliquée aux élèves en éducation, (3) utilisée pour catégoriser politiquement ou syndicalement. Auditer le périmètre exact d'application avant déploiement.

Que faire pour un dispositif anti-fraude prédictif RH ?

Si le dispositif prédit la commission d'une infraction pénale par un salarié (vol, détournement), risque art. 5(1)(d). Si le dispositif détecte des dérives statistiques sur opérations factuelles (montants anormaux, signatures irrégulières), autorisé. La distinction est clé : le règlement interdit la prédiction comportementale, pas la détection factuelle.

L'art. 5 s'applique-t-il à des outils internes développés par l'entreprise ?

Oui. L'art. 5 vise « la mise sur le marché, la mise en service ou l'utilisation » sans distinction selon que le système est interne ou commercialisé. Une PME qui développe en interne un outil de scoring locataire mutualisé tombe sous l'art. 5(1)(c) au même titre qu'un éditeur SaaS qui le vend.

Quel est le coût d'un audit IAPRO art. 5 ?

Pour une PME 50-150 salariés, audit éclair art. 5 livré en 5 jours-consultants : 3 500 à 7 000 € HT. Inclut : inventaire des outils, qualification cas par cas, décisions documentées, communication interne, plan de remplacement. Cofinancement Bpifrance Diag Data IA jusqu'à 80 %. Notre formule est dimensionnée pour boucler en 3-4 semaines.

Pour aller plus loin avec IAPRO

Vous voulez auditer en 3 semaines si vos outils IA déployés respectent l'art. 5 du règlement (UE) 2024/1689 et préparer un plan de remplacement opposable ? Notre formule Audit art. 5 + Plan de remplacement se livre en 5 jours-consultants, cofinancement Bpifrance Diag Data IA jusqu'à 80 %. Cadrage 30 minutes via le formulaire IAPRO.

Liens utiles