IA et altération cognitive collective : cartographie des vides réglementaires

La question n’est pas nouvelle. Des chercheurs en sciences cognitives, des stratèges militaires, des théoriciens de l’information l’ont posée sous des formes diverses depuis plusieurs décennies : est-il possible d’altérer, à l’échelle d’une société entière, la capacité à traiter l’information, non pas en falsifiant les faits, mais en dégradant le mécanisme de vérification lui-même ?

Les praticiens du renseignement de la guerre froide l’avaient intuitivement décrite. La recherche académique l’a progressivement documentée : des travaux de Cass Sunstein sur la polarisation informationnelle aux analyses du RAND Institute sur ce qu’il nomme la truth decay, en passant par Shoshana Zuboff sur les logiques du capitalisme de surveillance.

L’intelligence artificielle ne change pas le phénomène, mais plutôt son échelle, sa vitesse, et surtout sa structure causale. Les mécanismes d’influence cognitive qui supposaient autrefois des ressources considérables, des délais longs et des acteurs identifiables peuvent désormais se produire comme effet secondaire non planifié de systèmes optimisés pour des objectifs commerciaux ordinaires. Ce déplacement, d’un phénomène attribuable à un phénomène émergent, est ce que le droit européen n’a pas encore les catégories pour saisir.

Cet article cherche à cartographier cet écart : non pas pour conclure que le droit est impuissant, mais pour identifier avec précision où ses instruments actuels s’arrêtent, et vers quelles catégories existantes une évolution serait possible.

Le phénomène : ce que la recherche a documenté

L’altération des référentiels cognitifs collectifs n’est pas qu’une hypothèse, c’est un phénomène progressivement documenté par plusieurs champs de recherche convergents.

Le RAND Institute a formalisé sous le terme truth decay un phénomène observable dans plusieurs démocraties occidentales depuis les années 2000 : l’effacement progressif de la frontière entre fait et opinion dans le débat public, la diminution du rôle des faits dans l’argumentation politique, et la généralisation d’un désaccord non plus sur l’interprétation des faits mais sur les faits eux-mêmes. On ne parle pas de désinformation au sens classique, mais plutôt d’une dégradation du substrat commun sur lequel le débat démocratique repose.

Sunstein, dans ses travaux sur les echo chambers et la polarisation informationnelle, a montré que l’exposition sélective à l’information, même sans manipulation délibérée, produit des effets de radicalisation des positions et d’imperméabilité aux arguments contraires. Le mécanisme n’exige pas d’acteur malveillant, car il émerge de la logique même de la sélection et de la recommandation.

Zuboff a identifié dans le capitalisme de surveillance la logique économique qui sous-tend ces phénomènes : les comportements humains comme matière première d’un marché de prédiction et d’influence, dans lequel l’attention et la modifiabilité comportementale sont les produits réellement commercialisés.

Ces trois cadres convergent sur un point : ce qui est en jeu n’est pas l’information elle-même, mais la capacité collective à la traiter. C’est dans cet espace que l’intelligence artificielle intervient comme accélérateur et amplificateur d’une dynamique préexistante, et non comme une rupture.

Ce que l’IA fait à la place, sans agenda et sans auteur

Il n’existe pas, à ce jour, de preuve documentée qu’un acteur étatique ait déployé un système d’intelligence artificielle générative dans le cadre d’une opération de subversion cognitive délibérée et coordonnée à l’échelle d’une société entière. Le débat public tend à confondre deux phénomènes distincts : l’usage malveillant de l’IA par des acteurs identifiables, et l’effet que l’architecture même des systèmes d’IA produit sur l’espace informationnel, indépendamment de toute intention.

C’est le second phénomène qui est le plus difficile à saisir et à encadrer.

Ces dynamiques émergentes n’excluent pas leur exploitation stratégique par des acteurs organisés, elles en réduisent le coût d’entrée et en amplifient les effets.

Quand l’algorithme fait ce que personne n’a ordonné

Les algorithmes de recommandation des grandes plateformes n’ont pas été conçus pour déstabiliser les démocraties. Ils ont été conçus pour maximiser l’engagement : le temps passé sur la plateforme, le taux de retour, la profondeur de la session. Ces métriques d’optimisation ont une propriété bien documentée : le contenu qui génère le plus d’engagement émotionnel est statistiquement le contenu qui suscite des émotions négatives, comme l’indignation, la peur, le mépris. Non parce que les ingénieurs l’ont voulu, mais parce que ces émotions sont celles qui retiennent le plus efficacement l’attention.

Ce mécanisme est la conséquence directe d’un modèle économique dans lequel l’attention des utilisateurs est le produit commercialisé auprès des annonceurs. L’optimisation de l’engagement n’est pas un choix d’ingénierie neutre : c’est la traduction technique d’un arbitrage économique entre qualité informationnelle et rétention d’audience. Nommer ce point est important parce qu’il déplace la question : on ne parle plus seulement de réguler l’IA seule, mais également de réguler un modèle économique dont l’IA est désormais le principal instrument d’exécution.

Le résultat, documenté dans plusieurs études académiques (notamment Vosoughi, Roy & Aral, Science, 2018, et Bail et al., PNAS, 2018) et dans les documents internes publiés en 2021 à la suite des révélations de Frances Haugen, ancienne employée de Meta, est une amplification systématique des contenus clivants, indépendamment de leur véracité. Une information fausse mais indignante circule plus vite qu’une information vraie mais neutre. Ce n’est pas une hypothèse, c’est une observation empirique sur laquelle les plateformes ont leurs propres données internes. Ce que les théoriciens de la guerre cognitive attribuaient à une stratégie délibérée de saturation des institutions productrices de sens se produit ici comme effet secondaire non voulu d’une optimisation commerciale. L’officier traitant a été remplacé par un mécanisme d’optimisation automatique.

Cambridge Analytica n’avait fait qu’esquisser le problème

Ce que Cambridge Analytica avait tenté entre 2014 et 2016 avec des outils rudimentaires (cibler des messages politiques différenciés selon des profils psychographiques) est désormais faisable par un acteur disposant d’un budget modeste et d’un accès aux API des grands modèles de langage.

La mécanique est la suivante : un modèle de langage peut produire, à partir d’une position politique donnée, des centaines de variations rhétoriques adaptées à des profils d’audience différents : par tranche d’âge, par niveau d’éducation, par zone géographique, par sensibilité identifiée. Ce n’est pas de la désinformation au sens classique, car le contenu peut être factuellement exact. On parle plutôt de personnalisation persuasive à grande échelle : la même thèse est présentée différemment selon ce qui a le plus de chances de convaincre chaque segment. Les campagnes politiques le font depuis des décennies avec des moyens humains. L’IA compresse le coût et le délai jusqu’à les rendre accessibles à des acteurs qui n’auraient pas pu se les offrir autrement.

Cela déplace la question de la désinformation vers quelque chose de plus insaisissable juridiquement : non pas le faux, mais le vrai sélectionné et optimisé pour produire un effet précis sur un profil précis. La frontière entre communication politique légitime et manipulation cognitive n’est pas tracée dans les textes existants.

Quand le vrai devient aussi suspect que le faux

Le troisième mécanisme est peut-être le plus contre-intuitif. Les deepfakes audio et vidéo ont atteint un niveau de vraisemblance qui rend la vérification impossible en temps réel pour la grande majorité des individus. Cependant leur effet le plus durable n’est pas de faire croire à des choses fausses, c’est de rendre suspectes toutes les choses vraies.

Quand il devient techniquement plausible qu’une vidéo authentique soit un deepfake, le réflexe de mise en doute s’applique indistinctement au vrai et au faux. C’est précisément ce que Yuri Bezmenov décrivait comme l’aboutissement de la phase de démoralisation : une population qui ne croit plus ses propres yeux n’a plus besoin d’être désinformée, elle s’auto-neutralise (entretien accordé à G. Edward Griffin en 1984). Ce que la doctrine soviétique cherchait à produire par des décennies d’infiltration, la généralisation des outils de génération synthétique le produit comme externalité technologique, sans que personne n’ait planifié cet effet.

Les vides juridiques : ce que le droit capture et ce qu’il ne peut pas saisir

Le droit européen n’est pas resté inerte face à ces phénomènes. L’AI Act, le DSA, le RGPD constituent un corpus réglementaire dont l’ambition est réelle. Mais entre ce que ces textes visent et ce que les mécanismes décrits ci-dessus produisent concrètement, il existe des écarts précis. Il ne s’agit pas d’oublis, mais des limites qu’il faut nommer pour pouvoir les adresser.

Manipulation psychologique : l’article 5 vise juste, mais pas assez loin

L’article 5 de l’AI Act pose une interdiction réelle pour les systèmes d’IA qui utilisent des « techniques subliminales agissant à l’insu d’une personne » pour altérer son comportement, ou qui exploitent des vulnérabilités spécifiques d’un groupe pour les influencer de manière préjudiciable. Cette interdiction est classée au niveau le plus élevé de la hiérarchie du règlement, et pourtant son application bute sur deux verrous majeurs.

Le premier est d’ordre probatoire : démontrer qu’une technique est « subliminale » suppose de prouver qu’elle agit à l’insu de la personne et qu’elle produit un effet comportemental mesurable. Dans le cas d’un algorithme de recommandation, cela impliquerait d’accéder aux paramètres internes du système, de modéliser son effet sur la décision individuelle, et d’établir un lien de causalité entre l’exposition au contenu et le changement de comportement. Aucune autorité de supervision européenne ne dispose aujourd’hui des outils techniques et des pouvoirs d’investigation nécessaires pour mener cette démonstration à l’échelle d’une plateforme globale.

Le second est plus fondamentale : la personnalisation persuasive d’un contenu vrai n’entre pas dans la définition. Adapter le message politique à l’audience n’est pas une technique subliminale, c’est ce que font les communicants depuis que la communication politique existe. L’IA change l’échelle et le coût, pas la nature juridique de l’acte, et l’article 5 ne couvre pas cette zone.

Le RGPD et l’opinion politique : la donnée source et son ombre

L’article 9 du RGPD classe l’opinion politique parmi les données sensibles dont le traitement est en principe interdit, sauf exception listée et encadrée. C’est une protection forte sur le papier, et elle a produit des effets réels : les partis politiques ne peuvent pas constituer des bases de données d’opinions politiques sans base légale spécifique, et les plateformes ne peuvent pas cibler publicitairement sur la base de l’opinion politique déclarée.

Cette protection s’applique à la donnée source : l’opinion déclarée, collectée directement. Elle ne s’applique pas à l’inférence. Une plateforme qui n’a jamais demandé à ses utilisateurs leur orientation politique peut néanmoins construire un profil idéologique précis à partir de comportements neutres : les pages suivies, les contenus likés, les heures de connexion, les habitudes d’achat, la localisation géographique. Loin d’être des données politiques au sens de l’article 9, ce sont des données comportementales ordinaires. Le profil idéologique qui en est déduit n’est pas une donnée collectée mais une donnée produite. Ce glissement de la collecte vers l’inférence est le point précis où la protection du RGPD s’arrête, et où la personnalisation persuasive peut opérer légalement.

Les lignes directrices de l’EDPB sur le profilage politique, et une jurisprudence de la CJUE en développement, tendent à considérer que des données inférées peuvent relever de la protection de l’article 9 dès lors qu’elles révèlent une information sensible, indépendamment de leur origine. La protection n’est donc pas entièrement absente sur le plan normatif. Le vide est davantage pratique : la charge de la preuve qu’une inférence révèle effectivement une donnée politique sensible reste très difficile à rapporter, et les mécanismes d’action disponibles ne sont pas calibrés pour traiter ce type de démonstration à l’échelle des volumes de données en jeu.

Le DSA : des obligations réelles, une supervision encore théorique

Le Digital Services Act impose aux très grandes plateformes en ligne (celles qui dépassent 45 millions d’utilisateurs actifs mensuels dans l’Union) des obligations d’évaluation des risques systémiques, dont ceux liés à la manipulation de l’information et aux processus électoraux. C’est une avancée structurelle : pour la première fois, un texte européen oblige les plateformes à s’interroger sur les effets de leurs propres systèmes de recommandation sur la société.

Le mécanisme de supervision révèle néanmoins ses limites dès qu’on l’examine de près. L’évaluation des risques est conduite par la plateforme elle-même, sur la base de méthodologies qu’elle définit, soumise ensuite à la Commission européenne et aux coordinateurs nationaux des services numériques. C’est un modèle d’auto-évaluation supervisée, avec ce que cela implique en termes d’asymétrie d’information entre le régulateur et la plateforme. Les rapports de transparence déposés par les grandes plateformes depuis l’entrée en application du DSA en 2024 sont publics, mais leur auditabilité par des tiers (chercheurs, organisations de la société civile, autorités nationales) reste très contrainte faute d’accès aux données internes nécessaires à leur vérification.

La Commission européenne a ouvert en 2024 une procédure formelle contre X (anciennement Twitter) sur la base du DSA pour des manquements présumés aux obligations de modération et de transparence algorithmique. À ce jour, aucune décision définitive n’a été rendue. Ce premier test sérieux du mécanisme de sanction et son issue détermineront dans quelle mesure les obligations du DSA sont opposables en pratique, ou restent des engagements déclaratifs.

Il faut noter que le DSA prévoit, en son article 40, un droit d’accès des chercheurs accrédités aux données des très grandes plateformes. Ce levier existe mais il reste très contraint en pratique par les délais d’accréditation, le périmètre des données accessibles, ou encore l’absence d’infrastructure commune pour traiter les volumes concernés. Il constitue une avancée réelle sans constituer encore un instrument d’audit opérationnel.

Le vide sur la transparence rhétorique

L’article 50 de l’AI Act impose une obligation de transparence sur les contenus générés ou manipulés par IA, notamment les deepfakes et les contenus synthétiques audiovisuels. C’est une obligation applicable à partir d’août 2026, assortie d’exigences de marquage technique.

Elle ne couvre pas la personnalisation rhétorique. Un parti politique qui utilise un LLM pour produire cinquante variations d’un même message, adaptées à cinquante profils d’électeurs différents, ne produit pas un contenu synthétique au sens de l’article 50 car il génère des contenus d’origine humaine, assistés par IA dans leur formulation. L’obligation de transparence ne s’applique pas.

Aucun texte européen n’impose aujourd’hui de révéler qu’un contenu politique a été optimisé algorithmiquement pour une audience cible. Le règlement (UE) 2024/900 sur la publicité politique, applicable depuis octobre 2025 et confiant à la CNIL une compétence de contrôle sur le volet données personnelles, ne couvre que la diffusion payante et déclarée. Il demeure cependant un encadrement sérieux de la couche visible et déclarée de l’influence politique numérique.

Au-delà de la transparence rhétorique, le débat reste ouvert sur les obligations applicables aux GPAI, désignant les modèles fondamentaux à usage général. L’AI Act a posé un premier cadre pour les modèles présentant un risque systémique, mais les critères de qualification et les obligations concrètes qui en découlent sont encore en cours de précision par la Commission. Selon l’issue de ce chantier normatif, certaines des pratiques décrites pourraient basculer dans un régime d’obligations renforcées, ou bien rester dans l’angle mort actuel.

Fine-tuning idéologique : l’angle mort le plus silencieux

Cette dernière zone est la moins visible et potentiellement la plus significative à moyen terme. Les modèles de langage peuvent être affinés (fine-tunés) sur des corpus spécifiques pour orienter leurs sorties dans une direction donnée. Un modèle entraîné sur un corpus de contenu conspirationniste ne produira pas nécessairement des affirmations fausses vérifiables. Il produira des cadrages, des présupposés, des associations d’idées qui reflètent le corpus sur lequel il a été entraîné, sans que ces biais ne soient détectables par l’utilisateur final.

L’AI Act répartit les responsabilités entre le fournisseur du modèle de base et le déployeur qui l’affine pour un usage spécifique. Mais pour les systèmes classés à risque limité (ce que serait un chatbot de contenu éditorial) les obligations imposées au déployeur sont minimales. Il n’existe pas d’obligation d’audit du corpus d’entraînement pour ces systèmes, ni d’obligation de transparence sur les orientations produites par le fine-tuning. Un acteur qui affinerait un modèle sur des corpus idéologiquement orientés pour produire du contenu à grande échelle opèrerait dans un espace réglementaire quasi vide.

Quand l’émergent devient délibéré : l‘angle mort géopolitique

Les mécanismes décrits jusqu’ici partagent une caractéristique commune : personne ne les a planifiés dans leur effet final. C’est justement ce qui les rend difficiles à saisir juridiquement. Cette caractéristique ne doit pas occulter un second phénomène, documenté institutionnellement et consistant en l’usage délibéré de ces mêmes mécanismes comme instrument de puissance par des acteurs étatiques.

Les travaux de la commission INGE du Parlement européen sur les ingérences étrangères, de même que les investigations menées aux États-Unis sur les opérations de l’Internet Research Agency russe, montrent que ce qui se produit comme effet secondaire non planifié d’une optimisation commerciale peut être reproduit intentionnellement, à moindre coût, par un acteur disposant d’une intention stratégique claire. La personnalisation rhétorique à grande échelle, l’amplification ciblée de contenus clivants, la saturation de l’espace informationnel : ces techniques ne requièrent plus les ressources qu’elles supposaient à l’époque de la guerre froide.

La distinction est juridiquement cruciale. Là où l’altération cognitive émergente résiste aux catégories de la responsabilité faute d’auteur intentionnel identifiable, l’opération d’influence étatique délibérée relève d’un régime entièrement différent, notamment le droit international, la politique étrangère, la sécurité nationale. Or le droit européen de l’IA et du numérique n’a pas été conçu pour traiter un État tiers comme acteur de l’espace informationnel. Ce vide est d’une nature différente des précédents, car il ne sera pas comblé par un amendement réglementaire, ni par une révision de l’AI Act. Il appelle des instruments que la régulation numérique ne peut pas produire seule.

Ce que le droit ne peut structurellement pas saisir

Ces vides ne sont pas tous de même nature. Certains sont des lacunes qu’une révision textuelle pourrait combler, au moyen d’une définition plus large de la manipulation, une extension des obligations de transparence, ou encore un renforcement des pouvoirs d’audit. Mais il en existe un qui est d’une nature différente et qui ne se résout pas par un amendement.

Le droit de la responsabilité (civile, pénale, administrative) est construit sur trois éléments : un auteur, un acte, un lien de causalité entre l’acte et le préjudice. Ces trois éléments sont les conditions minimales pour qu’une règle de droit puisse produire des effets, autrement dit pour qu’une interdiction soit opposable, qu’une sanction soit justifiée, qu’une réparation soit possible.

Ce que les mécanismes décrits dans cet article produisent ne remplit aucune de ces trois conditions dans la configuration la plus courante.

L’auteur est identifiable : les plateformes, leurs architectures de recommandation et leurs choix d’optimisation le sont parfaitement. Ce qui résiste aux catégories juridiques existantes, c’est le lien de causalité entre ces choix et leurs effets agrégés sur l’espace informationnel collectif.

La plateforme n’a pas voulu déstabiliser la démocratie, elle a voulu maximiser l’engagement. L’ingénieur qui a conçu la fonction de recommandation n’a pas planifié l’amplification des contenus extrêmes, il a optimisé une métrique. L’intention malveillante, qui structure la plupart des régimes de responsabilité, est absente.

Il n’y a pas d’acte délimitable quand l’effet est produit par l’accumulation de milliards de micro-décisions algorithmiques, chacune individuellement neutre, dont la somme produit un résultat que personne n’a prescrit. Le droit sait traiter l’acte, consistant en la publication d’un faux ou la diffusion d’une manipulation identifiée, mais le droit positif de l’information n’est pas encore aligné sur ces logiques.

Il n’y a pas de lien de causalité démontrable entre l’exposition à des contenus amplifiés algorithmiquement et un changement de comportement électoral ou politique mesurable. Les études académiques sur l’influence des réseaux sociaux sur les élections produisent des résultats contradictoires, non parce que le phénomène est inexistant, mais parce que la chaîne causale est trop complexe et trop diffuse pour être isolée avec les outils épidémiologiques disponibles. Sans causalité démontrable, il existe une difficulté structurelle à atteindre les standards probatoires classiques.

C’est ici que la comparaison avec les cadres académiques posés en introduction devient la plus utile, mais aussi la plus inconfortable. Ce que Zuboff, Sunstein et le RAND ont documenté suppose des effets systémiques sans auteur individuel identifiable. Le droit a pourtant déjà construit des instruments pour traiter exactement ce type de situation, mais dans d’autres domaines.

La responsabilité du fait des produits défectueux fonctionne sans intention malveillante : ce qui compte est la mise en circulation d’un produit présentant un défaut, indépendamment de ce que son fabricant a voulu. La régulation prudentielle en finance traite des risques systémiques sans faute individuelle : ce qui est encadré est l’architecture du système, pas l’acte d’un agent. Le safety by design impose des obligations de conception en amont, indépendamment des effets que le concepteur a planifiés.

Ces catégories existent, mais elles n’ont pas encore migré vers le terrain de l’altération cognitive collective. C’est là que se situe le vide réel, non pas l’absence d’outils conceptuels dans le droit, mais l’absence de leur transposition à ce phénomène spécifique. Le droit européen a esquissé cette direction dans quelques dispositions du DSA sur les risques systémiques et dans les considérants de l’AI Act sur la manipulation comportementale. Il n’a pas encore franchi le pas qui consisterait à imposer des obligations de conception aux systèmes dont les effets agrégés produisent ce que personne n’a individuellement voulu.

L’audit des métriques d’optimisation constituerait l’instrument le plus directement adapté à ce phénomène, mais il n’existe pas encore.

Conclusion

Ce que Zuboff, Sunstein et le RAND ont documenté converge sur un point que le droit n’a pas encore traduit en obligations : ce qui est en jeu n’est pas l’information, c’est la capacité collective à la traiter. Et cette capacité peut se dégrader sans qu’aucun acteur l’ait planifié, sans qu’aucun acte ne soit identifiable, sans qu’aucun préjudice ne soit juridiquement qualifiable dans les catégories existantes.

Le droit européen de l’IA n’est pas démuni. Il dispose d’instruments réels, comme l’interdiction de manipulation psychologique, les obligations de transparence, le cadre du DSA sur les risques systémiques. Mais ces instruments ont été conçus pour capturer des actes, et ce qu’il faut désormais encadrer ressemble davantage à un climat qu’à un acte. Un climat informationnel dans lequel la distinction entre persuasion légitime et altération cognitive n’a plus de frontière nette, dans lequel les effets les plus significatifs sont produits sans intention malveillante démontrable, et dans lequel la responsabilité se dilue jusqu’à devenir inassignable.

Ce n’est pas une raison de renoncer à l’encadrement pour autant, mais plutôt de construire des catégories juridiques nouvelles. Le but n’est pas de sanctionner des auteurs introuvables, mais d’imposer des obligations de conception aux systèmes dont les effets agrégés produisent ce que personne n’a voulu individuellement. C’est une direction que le droit européen a esquissée, timidement, dans quelques considérants de l’AI Act. Elle n’a pas encore trouvé sa traduction en obligations opposables.

La recherche a nommé le phénomène. Le droit doit maintenant construire les catégories pour l’encadrer, non pas en cherchant une intention malveillante introuvable mais en imposant des obligations à une architecture économique et politique.

L’analyse, le cadrage juridique et les choix éditoriaux de cet article relèvent d’un travail humain. La rédaction a bénéficié d’une assistance par IA, intégralement relue, corrigée et validée par l’auteure.

Rédigé par Anne-Sophie, Juriste en droit des affaires et droit du numérique | 15 ans d’expérience
Diplômée en droit international des affaires et certifiée CIPP/E, Anne-Sophie a construit son expertise en entreprise, au contact des enjeux contractuels et réglementaires liés à l’innovation technologique et au numérique.
Elle accompagne depuis 3 ans les entrepreneurs et startups dans la sécurisation de leurs usages de l’IA : rédaction et négociation de contrats, mise en conformité RGPD et AI Act et gouvernance opérationnelle avec une approche concrète, adaptée aux réalités du terrain