Émotions sous surveillance : l’interdiction la plus sévère de tout l’AI Act, et pourquoi personne ne s’en rend compte
Reconnaissance faciale de la motivation, analyse vocale du stress, scoring d’engagement par webcam : ces outils ne sont pas dans une zone grise. Ils sont interdits, au même niveau de sévérité que la notation sociale généralisée — la sanction la plus lourde de tout le règlement européen.
Il existe une hiérarchie des interdictions dans l’AI Act, et elle est rarement présentée comme telle. Parmi les huit pratiques classées « à risque inacceptable » par l’article 5, la reconnaissance des émotions sur le lieu de travail figure au même rang que la notation sociale généralisée, la manipulation subliminale ou l’identification biométrique en temps réel dans l’espace public. Ce n’est pas une catégorie secondaire du texte : c’est celle qui expose aux amendes les plus lourdes prévues par le règlement — jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu, un plafond supérieur à celui de n’importe quelle sanction RGPD.
L’interdiction, prévue à l’article 5, paragraphe 1, point f, du règlement, est en vigueur depuis le 2 février 2025 — bien avant la plupart des autres obligations de l’AI Act. Elle vise la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA destinés à inférer les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement. Les lignes directrices publiées par la Commission européenne le 4 février 2025 sont venues préciser la portée pratique du texte, avec une conséquence que peu d’éditeurs de logiciels RH ont anticipée : la notion de donnée biométrique susceptible d’alimenter une inférence émotionnelle couvre non seulement le visage et la voix, mais aussi, dans certaines conditions, la dynamique de frappe au clavier — dès lors qu’elle est assimilée à une donnée biométrique comportementale. Les mêmes lignes directrices protègent explicitement les candidats pendant les processus de recrutement, un point sur lequel la vigilance des services RH est généralement la plus faible, précisément parce que le rapport de force avec un candidat rend le consentement structurellement suspect.
Les exemples cités par la Commission pour illustrer des usages interdits sont concrets et parlants : le suivi automatisé des émotions par webcam et captation vocale dans des centres d’appels, l’analyse faciale lors de réunions vidéo pour évaluer l’engagement ou la performance d’un collaborateur, les systèmes de tri de candidats fondés sur une inférence émotionnelle. Ce sont, très exactement, les fonctionnalités que plusieurs éditeurs de logiciels RH ont commercialisées ces dernières années sous des appellations rassurantes — « analyse de l’engagement », « scoring de motivation », « diagnostic de bien-être ».
C’est précisément là que réside le piège le plus fréquent pour les entreprises de bonne foi : croire qu’informer les personnes concernées suffit à rendre l’usage licite. Ce n’est pas le cas. L’interdiction porte sur la nature du traitement, pas sur le défaut d’information qui l’accompagne — aucune mention légale, aussi complète soit-elle, ne transforme un système d’inférence émotionnelle interdit en système autorisé. La seule échappatoire prévue par le texte est une exception étroite, réservée aux finalités strictement médicales ou de sécurité : la détection de fatigue ou de somnolence chez un conducteur, un pilote, un conducteur de train ou un opérateur de machine dangereuse en constitue l’archétype. Un outil de « prévention du burn-out » généraliste, appliqué à l’ensemble d’un effectif de bureau, n’entre pas dans ce cadre, quelle que soit la sincérité de l’intention affichée par l’éditeur qui le commercialise.
En France, c’est la CNIL qui est désignée comme autorité de contrôle pour cette interdiction spécifique — une continuité logique avec son rôle historique en matière de données biométriques, déjà classées sensibles au titre de l’article 9 du RGPD, pour lesquelles le consentement du salarié n’est structurellement pas considéré comme une base légale valable dans une relation de subordination.
Sources : règlement (UE) 2024/1689, art. 5 § 1 f) ; AI Act Service Desk (Commission européenne) ; Affectus Media, « Au travail, l’UE bannit la reconnaissance des émotions » et « IA au travail : la fin de la reconnaissance des émotions » ; Regulation-AI.eu, « Pratiques interdites AI Act (Art. 5) » ; Startbrain, « Pratiques IA interdites : ce que votre entreprise ne peut plus faire ».