France Travail : Assiste-t-on à la construction d’un État social algorithmique ?
Le 20 juillet 2026, La Quadrature du Net et la cellule investigation de Radio France révèlent l’existence d’un algorithme déployé par France Travail pour cibler les contrôles de recherche d’emploi. L’outil, baptisé « Ciblage du Contrôle de la Recherche d’Emploi », a été entraîné sur 60 000 dossiers passés, analyse 26 variables issues du parcours de chaque demandeur, et classe les individus en deux catégories : « suspects » ou « non suspects ».
Deux campagnes de test ont déjà été menées sur 14 000 personnes. Pour 2026, France Travail envisage 500 000 contrôles ciblés par ce biais, soit 40 % de l’ensemble des vérifications effectuées.
L’algorithme ne prononce pas lui-même les sanctions. Mais en choisissant qui sera contrôlé, il détermine déjà qui sera davantage exposé aux demandes de justificatifs, aux procédures contradictoires, et aux réductions ou suppressions d’allocation. L’effet sur les personnes concernées est réel et potentiellement sévère.
Ce que révèle cette affaire n’est pas un incident isolé. C’est la troisième fois en quelques années qu’un opérateur social public majeur (après la CNAF et la CNAM) déploie ce type d’outil avec le même pattern : opacité sur le fonctionnement réel du modèle, absence d’évaluation préalable des discriminations, et recours à l’argument de la « décision humaine finale » pour légitimer un ciblage algorithmique dont les humains censés superviser ne maîtrisent pas les paramètres.
La question n’est donc plus celle d’un outil en particulier. Elle est celle d’une trajectoire : assiste-t-on à la construction d’un État social algorithmique, autrement dit un modèle de gestion des droits sociaux dans lequel l’algorithme ne remplace pas encore la décision, mais conditionne structurellement qui y est soumis ?
Ce que fait exactement l’algorithme CRE et ce qu’il ne fait pas encore
Le document révélé par La Quadrature du Net est un support de présentation interne, daté de décembre 2025, présenté au comité d’éthique consacré à l’intelligence artificielle de France Travail. Il décrit un modèle statistique de type arbre de décision (et non un LLM) entraîné sur les données historiques des contrôles CRE pour apprendre les relations entre les caractéristiques d’un dossier et les résultats des services de contrôle.
Les 26 variables retenues sont publiques : historique des cessations de contrat, délai d’inscription après la fin du contrat, nombre d’entretiens réalisés, niveau de formation, métier recherché et tension sur ce métier, heures travaillées, présence et ancienneté d’une offre raisonnable d’emploi, nombre de refus d’offres, présence et ancienneté d’un CV visible, nombre d’absences aux prestations, synthèses des derniers entretiens. Ce qui n’est pas public, et c’est le point central, c’est la pondération de ces variables : les règles de combinaison et le seuil de basculement entre profil « suspect » et profil « non suspect » restent inconnus. Il est donc impossible, en l’état des informations disponibles, de vérifier si l’outil discrimine.
Sur un échantillon de 60 000 anciens dossiers, 64 % des dossiers ciblés par le modèle ont conduit à une redynamisation ou une sanction, contre un taux inférieur pour les dossiers issus de la sélection aléatoire. France Travail présente ce résultat comme la preuve de l’efficacité du modèle. La Quadrature du Net y voit autre chose : la confirmation que l’algorithme concentre les contrôles (et donc les sanctions) sur une sous-population définie par des critères dont le calibrage n’est pas soumis à un regard extérieur.
Il illustre un phénomène bien documenté en science des données appliquée au contrôle administratif : la prophétie auto-réalisatrice algorithmique. Si l’algorithme envoie davantage de contrôleurs vers un profil donné, les agents trouvent mécaniquement plus d’infractions sur ce profil, simplement parce qu’ils y concentrent leur temps. Ces résultats alimentent ensuite l’historique d’apprentissage du modèle, qui en conclut qu’il avait raison et renforce son ciblage. Le taux de détection augmente non parce que le modèle est plus précis, mais parce qu’il organise lui-même la distribution de l’attention des agents. Ce que France Travail mesure comme une performance est peut-être la trace d’un biais qui se confirme lui-même.
Le biais de revenu a d’ailleurs été identifié par France Travail elle-même dans une première version du modèle : le système favorisait le contrôle des demandeurs d’emploi aux plus faibles revenus. La variable « Salaire Journalier de Référence » a été retirée, puis réintégrée avec une pondération par tranche. Cette correction est en soi révélatrice : elle confirme que les biais ne sont pas une hypothèse militante, mais un résultat constaté en interne et que leur correction reste une décision interne, non soumise à vérification externe.
France Travail ne s’arrête pas là. Le document mentionne explicitement la volonté d’élargir le modèle à d’autres publics de demandeurs d’emploi. Depuis le 1er janvier 2026, toute personne bénéficiaire du RSA est obligatoirement inscrite à France Travail : ce sont potentiellement plus de 6 millions de personnes supplémentaires qui entrent dans le périmètre.
Un système à haut risque et les obligations qui en découlent
L’Annexe III du règlement européen sur l’intelligence artificielle liste les catégories de systèmes d’IA considérés à haut risque. Le point 5 vise explicitement les systèmes d’IA utilisés par des autorités publiques pour évaluer l’éligibilité des personnes aux aides et prestations sociales, ou pour prendre des décisions à leur égard. L’algorithme CRE entre dans cette catégorie sans ambiguïté : il est déployé par un opérateur public, il traite des données personnelles de demandeurs d’emploi, et ses sorties conditionnent directement qui fera l’objet d’une procédure pouvant aboutir à la suppression d’une allocation.
Cette qualification emporte un ensemble d’obligations précises que l’AI Act impose aux fournisseurs et déployeurs de systèmes à haut risque. Une documentation technique complète doit être établie et tenue à jour. Un système de gestion des risques doit être mis en place et maintenu tout au long du cycle de vie du système. Les données d’entraînement, de validation et de test doivent répondre à des critères de qualité et être exemptes d’erreurs significatives. Le système doit être enregistré dans la base de données européenne des systèmes d’IA à haut risque prévue à l’article 51. Enfin, des mesures de supervision humaine effectives au sens de l’article 14 doivent être intégrées dès la conception.
À ces obligations s’ajoute, sur le terrain du RGPD, l’obligation de réaliser une analyse d’impact sur la protection des données (AIPD) avant tout traitement susceptible d’engendrer un risque élevé pour les droits et libertés des personnes. Le profilage à grande échelle de personnes dans le cadre de l’évaluation de leurs droits sociaux remplit tous les critères déclencheurs d’une telle analyse : traitement à grande échelle, données sensibles, profilage produisant des effets juridiques.
Aucune de ces obligations n’est mentionnée dans le document révélé, et aucun élément public ne permet à ce jour de vérifier qu’elles ont été satisfaites. La cofondatrice de l’Observatoire des algorithmes publics, interrogée dans le cadre de l’enquête de Radio France, dit avoir été surprise que les tests de cet algorithme aient pu se dérouler sans qu’une analyse d’impact, une évaluation des discriminations ou une procédure d’évaluation formelle ne soit mentionnée, ni dans le document, ni dans les communications publiques de l’institution.
Par ailleurs et selon les informations rapportées par La Quadrature du Net, France Travail aurait déclaré en mai 2025 qu’aucun algorithme n’était utilisé pour le CRE rénové, avant de présenter ce même algorithme à son comité d’éthique interne en décembre 2025. Cette séquence pose une question qui dépasse le périmètre technique : qui, dans la chaîne de décision, savait ? Et qui était chargé de vérifier ?
La supervision humaine est une condition, pas une réponse
L’argument auquel France Travail recourt implicitement, et que les institutions sociales françaises utilisent systématiquement dans ce type de situation, est celui de la décision humaine finale. L’algorithme ne décide pas : il signale. C’est le conseiller qui décide d’ouvrir ou non une procédure de contrôle, d’engager ou non une sanction.
Cet argument mérite d’être pris au sérieux juridiquement avant d’être examiné dans ses effets réels.
L’article 14 de l’AI Act ne se contente pas d’exiger qu’un humain soit formellement dans la boucle. Il impose que des mesures permettent aux personnes chargées de la supervision de « comprendre pleinement les capacités et les limites du système d’IA à haut risque », de « surveiller son fonctionnement », et d’ »intervenir ou d’interrompre le système ». Il exige que ces personnes soient en capacité réelle et non seulement théorique d’exercer ce contrôle.
Or la question parlementaire publiée au Journal Officiel du Sénat en novembre 2025 documentait déjà un problème structurel : les conseillers se trouvent dans l’impossibilité de comprendre ou de rectifier les résultats des systèmes automatisés, faute de formation adéquate et de transparence sur le fonctionnement des outils. Une supervision humaine exercée par des personnes qui n’ont pas accès aux règles de pondération du modèle, qui ne connaissent pas le seuil de basculement entre “suspect” et “non suspect”, et qui n’ont pas reçu de formation spécifique sur les biais documentés du système n’est pas une supervision humaine au sens de l’article 14.
L’effet d’ancrage algorithmique renforce ce constat. La recherche en sciences cognitives a largement documenté ce phénomène : confronté à une suggestion algorithmique, un décideur humain tend à l’utiliser comme point de référence plutôt que comme un simple élément parmi d’autres. Cet effet ne disparaît pas parce que la décision est juridiquement humaine. Il est d’autant plus fort que le modèle est présenté comme objectif et statistique : deux qualificatifs dont le document interne de France Travail fait un usage intensif pour légitimer l’outil.
Ce point renvoie à une critique plus large que la Quadrature du Net formule en termes politiques mais qui a une traduction juridique directe : en présentant des critères de ciblage comme « objectifs » parce que statistiques, France Travail transforme ce qui est un choix de politique publique (décider qui contrôler en priorité) en décision technique présentée comme neutre. Cette transformation n’est pas sans conséquences sur les droits des personnes concernées : elle rend considérablement plus difficile la contestation d’un contrôle dont le déclenchement est présenté comme le résultat d’un modèle mathématique plutôt que d’un choix humain.
La responsabilité en suspens
En reportant la décision formelle sur l’agent, l’institution fait porter un poids juridique disproportionné sur des conseillers insuffisamment formés aux limites du système qu’on leur demande de superviser. Mais la dilution ne s’arrête pas là.
Lorsque la personne contrôlée tente de contester, elle se heurte à une opacité organisée : les règles de pondération des 26 variables ne sont pas communicables, selon France Travail, au nom de l’efficacité du contrôle. L’argument est connu. Il a déjà été tranché dans d’autres branches du droit (fiscal, pénal, des étrangers) où la lutte contre la fraude n’a pas suffi à suspendre le principe du contradictoire. Il n’existe aucune raison de principe pour que le droit social y échappe.
Ce que le droit permettrait de vérifier si l’accès était garanti
La transparence sur les algorithmes administratifs n’est pas une nouveauté introduite par l’AI Act. Le droit français l’imposait déjà.
La loi pour une République numérique de 2016, codifiée aux articles L.311-3-1 et suivants du Code des relations entre le public et l’administration, prévoit le droit de toute personne de demander à l’administration de lui communiquer les règles définissant un traitement algorithmique ayant fondé une décision individuelle la concernant. Cette obligation inclut le degré et le mode de contribution de l’algorithme à la décision. Elle s’applique à France Travail.
La Commission d’accès aux documents administratifs (CADA) constitue le levier procédural disponible pour les personnes dont le dossier aurait été ciblé. La Quadrature du Net l’a utilisée à plusieurs reprises pour tenter d’obtenir le code source des IA de France Travail, sans succès à ce jour, France Travail ayant refusé de communiquer sans même motiver sa décision et ce que la Quadrature qualifie de violation flagrante de la loi.
Ce refus systématique est lui-même révélateur. Le code source de l’algorithme de la CNAF n’avait été obtenu qu’après une longue bataille juridique et médiatique. Celui de l’Assurance maladie ne l’avait été qu’à la faveur d’une erreur de caviardage par l’administration. Ces précédents dessinent un rapport à la transparence algorithmique qui n’a rien d’accidentel.
Pour vérifier sérieusement la conformité de l’algorithme CRE, il faudrait accéder à la documentation technique complète prévue par l’AI Act, aux règles de pondération des 26 variables, aux résultats complets de la recherche de biais menée en interne, à l’AIPD réalisée avant déploiement si elle existe, et aux procès-verbaux du comité d’éthique ayant examiné le projet en décembre 2025. Aucun de ces éléments n’est public à ce jour.
De la CNAF à France Travail : une trajectoire et non une série d’incidents
Ce serait une erreur de lire l’affaire France Travail comme un cas isolé. Elle s’inscrit dans une séquence documentée depuis plusieurs années, qui dessine une logique cohérente.
La CNAF a déployé un algorithme de scoring des allocataires pour orienter les contrôles des agents. Son fonctionnement est resté opaque jusqu’à ce qu’une coalition d’associations obtienne le code source après plusieurs années de procédures. L’analyse indépendante qui a pu être menée a confirmé des biais structurels, notamment contre les personnes en situation de handicap et les familles monoparentales.
La CNAM a utilisé des outils similaires pour le ciblage des contrôles de l’assurance maladie. Le code source n’a été accessible qu’à la suite d’une erreur de caviardage dans un document transmis à des chercheurs.
France Travail constitue la troisième étape de cette trajectoire, avec une différence d’échelle significative : l’objectif gouvernemental est d’atteindre 1,5 million de contrôles de demandeurs d’emploi en 2027, et l’extension du modèle à l’ensemble des bénéficiaires du RSA (désormais obligatoirement inscrits à France Travail depuis le 1er janvier 2026) ouvre potentiellement ce ciblage algorithmique à plus de 6 millions de personnes supplémentaires.
Ce que La Quadrature du Net nomme la crainte d’une « répression sociale contre les populations les plus vulnérables » est aussi ce que la sociologie des algorithmes de bien-être public a documenté dans d’autres pays. Aux États-Unis, le système algorithmique Aries, déployé en Arkansas pour l’aide aux personnes en situation de handicap, a fait l’objet d’une décision de la Cour d’appel du 8e circuit en 2019 qui a reconnu la violation du droit au contradictoire. En Australie, le système Robodebt (qui utilisait des calculs automatisés pour émettre des demandes de remboursement aux allocataires) a été déclaré illégal en 2019 et a donné lieu à une commission royale d’enquête dont le rapport, publié en 2023, a qualifié le programme de « dommage causé aux plus vulnérables par l’État ». Ces cas ne sont pas directement transposables au droit français, mais ils signalent un risque systémique que les précédents nationaux confirment.
Le document interne de France Travail mentionne par ailleurs l’intention d’aller plus loin. La Quadrature du Net identifie dans cette progression la trajectoire vers une IA générative qui ne se contenterait plus de cibler des dossiers mais formulerait des suggestions de décisions. Si cette étape était franchie, la qualification de système d’IA à haut risque deviendrait encore moins contestable et les exigences de conformité encore plus difficiles à satisfaire dans le contexte d’opacité actuel.
Ce que la question de fond révèle
Derrière les obligations techniques et les lacunes procédurales, l’affaire France Travail pose une question qui excède le périmètre du droit de la conformité.
Décider qui sera contrôlé en priorité parmi les demandeurs d’emploi est un choix de politique publique. Il engage une conception de la fraude sociale, une théorie du comportement des demandeurs d’emploi, une hiérarchie implicite entre catégories de population. Ces choix ont toujours été faits, par des agents, par des circulaires, par des décisions d’allocation des moyens humains. Ils étaient discutables, contestables, soumis à un regard politique.
Ce que l’algorithme produit, en encapsulant ces choix dans un modèle statistique présenté comme objectif, c’est leur mise à l’abri de cette contestabilité. Non parce que les critères disparaissent (ils sont même publiés pour partie) mais parce que leur pondération, leur interaction et leur seuil de déclenchement deviennent des paramètres techniques dont la légitimité n’est plus évaluée politiquement mais présentée comme validée par la statistique.
C’est exactement ce mécanisme que l’article 14 de l’AI Act cherche à contrecarrer en imposant une supervision humaine effective : pas seulement formelle, pas seulement procédurale, mais substantielle, c’est-à-dire exercée par des personnes qui comprennent ce que le système fait, pourquoi il le fait, et sur quelle population ses erreurs se concentrent.
La question qui se pose à la fin de cet examen n’est donc pas seulement : France Travail respecte-t-il l’AI Act ? Elle est : à quelles conditions un État peut-il déléguer à un algorithme la définition des populations prioritairement soumises à un contrôle susceptible de priver des personnes de ressources essentielles à leur subsistance ?
Le droit européen a commencé à répondre à cette question. L’AI Act pose des exigences réelles. Le RGPD impose des garanties. La loi pour une République numérique donne des droits aux personnes concernées. Mais ces instruments n’ont de portée qu’à condition d’être opposés, vérifiés et sanctionnés.
Ce qui manque n’est pas le texte. C’est l’architecture de supervision publique, indépendante et dotée d’un accès réel aux systèmes, qui permettrait de transformer des obligations formelles en garanties effectives.
Il est utile de poser ici la question miroir. Les 26 variables que France Travail mobilise pour cibler les contrôles décrivent finement le parcours d’un demandeur d’emploi. Ces mêmes données pourraient servir à détecter le non-recours aux droits, par exemple pour les personnes qui ont droit à des aides mais ne les demandent pas. Elles pourraient identifier les profils fragiles avant le décrochage, pour proposer un accompagnement renforcé plutôt qu’une procédure de contrôle. Ce choix d’orientation (vers la sanction plutôt que vers l’accompagnement) n’est pas une conséquence neutre de la technologie. C’est une décision de politique publique. L’algorithme ne l’a pas imposée. Il l’a rendue plus efficace, plus opaque, et plus difficile à contester.
Sans une architecture de supervision adéquate, l’État social algorithmique se construit. Pas par décision explicite. Par accumulation de cas d’espèce, chacun présenté comme un outil technique parmi d’autres, chacun déployé avant que les questions juridiques soient résolues, chacun opaque jusqu’à ce qu’une association ou un journaliste force l’accès.
L’analyse, le cadrage juridique et les choix éditoriaux de cet article relèvent d’un travail humain. La rédaction a bénéficié d’une assistance par IA, intégralement relue, corrigée et validée par l’auteure.
Rédigé par Anne-Sophie, Juriste en droit des affaires et droit du numérique | 15 ans d’expérience
Diplômée en droit international des affaires et certifiée CIPP/E, Anne-Sophie a construit son expertise en entreprise, au contact des enjeux contractuels et réglementaires liés à l’innovation technologique et au numérique.
Elle accompagne depuis 3 ans les entrepreneurs et startups dans la sécurisation de leurs usages de l’IA : rédaction et négociation de contrats, mise en conformité RGPD et AI Act et gouvernance opérationnelle avec une approche concrète, adaptée aux réalités du terrain