Bonjour à toutes et à tous !

Cette semaine, on révèle que France Travail veut automatiser le traitement des personnes en demande d’emploi en le confiant à une IA, tandis que le gouvernement, en réaction aux événements récents, déploie l’arsenal technopolicier qui lui permet d’individualiser et de massifier la répression des mouvements sociaux.
Et depuis la semaine dernière Thaïs nous a rejoint, bienvenue à elle !

Bonne lecture à vous !
Alex, Bastien, Eva, Marne, Mathieu, Myriam, Noémie, Nono et Thaïs

Automatisation de la méfiance chez France Travail

D’après les informations que nous avons obtenues, France Travail est en train de s’équiper d’un outil d’IA générative, un LLM (Large Language Model, du type Claude ou ChatGPT), capable d’ingurgiter des documents et d’en faire une synthèse écrite. Pour quoi faire ? – Pour mieux vous contrôler, mon enfant.

France Travail compte environ 7 millions de personnes demandeuses d’emploi, dont 3 millions sont indemnisées. Et, depuis la loi Plein Emploi, les personnes bénéficiant du RSA y sont également suivies. Dans l’idéologie dominante, celle du gouvernement, toutes ces personnes sont soupçonnées de ne pas vouloir travailler et de mentir. La violence subie quand on est au chômage (déclassement, désocialisation, jugement des pairs, dépression, maladie, suicide, pauvreté) n’étant apparemment pas suffisante, l’administration sociale ajoute une grosse dose « d’incitation » à la recherche d’emploi, qui passe par une logique de contrôle serré.

France Travail étudie donc environ 600 000 dossiers par an, pour s’assurer que les personnes concernées recherchent bien un emploi, et déclencher ou non un contrôle approfondi. L’IA serait donc utilisée à ce stade, dans la détection des personnes à contrôler. Ce travail est sans doute fastidieux, puisqu’il s’agit de scruter les justificatifs fournis par les allocataires. Quoi qu’il en soit, la direction de France Travail a décidé de l’automatiser en le confiant à un LLM, avec pour objectif de scanner ainsi 1,5 millions de dossiers par an, tout en réduisant les effectifs chargés de ce travail.

Dès lors, l’enjeu devient : est-ce que les agent·es, soumis·es à une cadence deux ou trois fois plus importante, garderont une part de discernement où, faute de temps, contrôleront docilement les personnes pointées par l’IA ? On peut facilement imaginer la suite logique de cette automatisation. Dans un futur proche, France Travail voudrait que l’ensemble des dossiers des allocataires soient traités par l’IA. Une IA agentique pourrait par exemple demander aux personnes, par mail ou SMS, des pièces justificatives. La suspension de droits ou la radiation resteront-elles sous le contrôle d’une décision humaine ?

Nous publions aujourd’hui les éléments dont nous disposons.

Lire notre article du 23 octobre : France Travail expérimente une IA générative de contrôle
Voir la vidéo qui résume l’article : https://mamot.fr/@LaQuadrature/117488636524615021>capsule vidéo

Punition collective et répression individuelle des mouvements sociaux

Le gouvernement est complètement dépassé par le mouvement social protéiforme qui secoue le pays depuis plusieurs semaines. Il a d’abord tenté d’intimider les lycéens en prenant le prétexte de dégradations matérielles pour chercher à punir les individus qui prenaient partie à un mouvement collectif : le nombre des arrestations, considérable, montrait bien une volonté de faire peur, en visant les personnes pour dissoudre le groupe social.

Après les dégradations de commerces le 17 octobre dernier, la même logique s’applique. Plutôt que de prendre au sérieux les revendications sociales portées par les manifestations massives de la journée, le gouvernement cherche les responsabilités individuelles dans les événements de la soirée. Pour cela, les divers services de police disposent d’un gros arsenal de mesures techniques et administratives acquises dans les dernières années. En particulier en ce qui concerne l’exploitation des images, nombreuses et de toutes sortes, qui restent après les événements. La police a aujourd’hui les moyens d’identifier les personnes ou de les suivre jusqu’à chez elles, de caméra en caméra, grâce à la VSA ou à des agents humains.

Si cela ne suffisait pas, on envisage aussi des punitions collectives. Des mesures judiciaires exceptionnelles sont banalisées sous la qualification de « criminalité organisée », tandis que le ministère de la justice donne aux parquets des consignes de fermeté qui vont à l’encontre de l’individualisation des peines. Par ailleurs, on entend monter de nouveau la petite musique du « blocage des réseaux sociaux ». Une telle mesure, prise en 2024 en Kanaky–Nouvelle-Calédonie, avait été déclarée illégale a posteriori par le Conseil d’État. À défaut, on essaiera d’interdire les réseaux sociaux aux personnes mineures. Lisez notre article pour passer en revue les moyens utilisés aujourd’hui pour réprimer et criminaliser les mouvements sociaux.

Lire l’article du 21 octobre : Censure et surveillance partout, justice nulle part

Bienvenue à Thaïs !

Depuis la semaine dernière, Thaïs a rejoint l’équipe salariée de La Quadrature ! Elle nous aidera à mieux analyser les enjeux politiques des technologies, en particulier de l’IA. Bienvenue Thaïs ! <3

Soutenez La Quadrature en 2026 !

Nous avons presque atteint notre objectif de financement pour 2026. Presque, mais pas tout à fait… Il n’est pas trop tard pour nous soutenir et nous aider à boucler le budget de l’année. Si vous pouvez nous faire un don de soutien, merci beaucoup !

Pour nous soutenir en 2026 : Faites un don à La Quadrature du Net <3

Agenda

• Mercredi 4 novembre 2026 : Réunion mensuelle Technopolice Paris-Banlieue à partir de 19h, Le Bar Commun, 135 rue des Poissonniers, Paris.
• Jeudi 12 novembre 2026 : Causerie mensuelle Technopolice Marseille à partir de 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille. Présentations, discussions, préparations d’actions à venir. Venez nombreuses !

La Quadrature dans les médias

Surveillance

• « La vidéosurveillance algorithmique n’est pas un outil neutre de sécurité » [média]
• Flock : pendant que la lutte contre la surveillance gagne, les valorisations du marché grimpent [L’ADN]
• Pourquoi des drones surveillent certaines manifestations ? [France 3 Normandie]
• Comme dans « Minority Report » ou presque: l’intelligence artificielle utilisée comme « police prédictive » dans certains pays pour prévenir les émeutes [BFM Tech]
• Réseaux sociaux, algorithmes, données : sommes-nous en train d’entrer dans l’ère de l’hypersurveillance ? [RTBF]

Réseaux sociaux

• Qu’est-ce que la peine de bannissement des réseaux sociaux ? [France Info]
• Réseaux sociaux : l’Union européenne propose une interdiction aux moins de 13 ans et des « mini-comptes » pour les adolescents [Sud-Ouest]
• Réseaux sociaux: l’UE propose une interdiction aux moins de 13 ans et des « mini-comptes » pour ados [La Provence]
• Interdire TikTok, une solution pour en finir avec les émeutes urbaines ? Un précédent existe en Nouvelle-Calédonie [France Info – Outre-Mer La 1ère]
• Gabriel Attal, veut couper TikTok et Snapchat pendant les émeutes, est-ce que c’est légal ? [Le Journal du Geek]

Divers

• Fuites de données : devant Bercy, des féministes demandent des comptes à l’État

 [Next]
• “Repérer les profils” : face aux inquiétudes, le gouvernement précise comment France Travail utilise l’IA pour contrôler les personnes à la recherche d’emploi [Femme Actuelle]
• France Travail déploie discrètement des outils d’IA pour contrôler les demandeurs d’emploi [Mediapart]

Nous publions un document prouvant que France Travail développe un outil d’IA générative, de type ChatGPT, pour le contrôle des plus de 6 millions de personnes inscrites¹Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.. Devant les risques que fait peser le déploiement d’IA génératives à des fins de contrôle social, et alors que ce projet fait figure de pilote à l’échelle nationale, nous appelons à son retrait immédiat.

Le 30 juin dernier, les dirigeant·es de France Travail annonçaient en Comité d’éthique IA²Pour une présentation du Comité Consultatif Ethique de France Travail, voir ici. travailler au déploiement d’une IA générative à destination des équipes du contrôle de la recherche d’emploi. « Mettre en place le contrôle continu », permettre la « détection de signaux faibles » et la « systématisation des contrôles » : les objectifs poursuivis sont sans équivoques.

Le document de présentation de ce projet, que nous publions, est précieux en ce qu’il permet d’appréhender l’ampleur de la banalisation des IA génératives en termes de contrôle social. De par leurs capacités techniques inédites tant d’analyse de données hétérogènes, de prise en compte de contextes variés ainsi que d’échanges par la voix ou l’écrit, elles permettent l’automatisation de processus de contrôle complexes dont le nombre était jusqu’alors limité par leur coût. Ce faisant, elles ouvrent la voie à leur multiplication et à l’apparition de formes de contrôle toujours plus intrusives.

Automatisation et massification des contrôles

À France Travail, cette automatisation est prévue en plusieurs étapes. Dans un premier temps, l’IA n’aura pas la possibilité de déclencher des contrôles ni celle d’interagir directement avec les personnes contrôlées. Elle jouera un rôle complémentaire à l’algorithme de profilage utilisé par France Travail pour sélectionner les personnes à contrôler et que nous présentions cet été³Les contrôles ont plusieurs sources. Ils peuvent cibler un public particulier (intermittent·es, précaires, transfrontalier·ères, etc.), être aléatoires ou se baser sur un algorithme de sélection tel que celui que nous révelions cet été..

L’objectif à court terme est de réduire le temps humain nécessaire à la réalisation d’un contrôle en transférant à l’IA la charge de l’analyse du dossier de la personne contrôlée (situation administrative, professionnelle, personnelle, rapports d’entretiens, diagnostic professionnel…)⁴Le document précise que l’IA sera nourrie des données disponibles au équipes de contrôle dans le « Datamart ». Si nous n’avons pas plus de précisions quant à son contenu précis, il devrait contenir a minima le dossier de la personne contrôlée, son « diagnostic » ainsi que l’ensemble des échanges avec les contrôleur·ses.. Elle produira une « restitution structurée » de ce dernier, comprenant une « synthèse et des points d’attention », afin de préparer les « conclusions » du contrôle. Le travail des contrôleur·ses se limitera à valider l’application d’éventuelles sanctions.

Sur la seule année 2027, France Travail estime que le « gain de temps » permis par l’IA participera à atteindre la « cible de [1,5 millions de] contrôles 2027 à effectifs constants ». Soit 400 000 contrôles supplémentaires (+36%) par rapport à l’année 2026, sans recrutements supplémentaires⁵France Travail, Le contrôle de la recherche d’emploi en 2025, disponible ici. Les chiffres pour 2026 sont issus de documents internes..

Un objectif de « systématisation » des contrôles

À moyen terme, le projet des dirigeant·es de France Travail est bien plus ambitieux. D’ici 2030, le document précise que le recours à l’IA vise à une « systématisation des contrôles » par l’automatisation de l’intégralité du processus de contrôle, de la sélection des personnes à contrôler à la réalisation du contrôle lui-même.

Techniquement, la chose est aisée. Il s’agira d’abord de ne pas restreindre l’accès de l’IA aux données des personnes ayant préalablement été sélectionnées pour un contrôle, mais de l’étendre au flux de données personnelles de l’ensemble des personnes inscrites. Un simple changement de son prompt (c’est-à-dire les instructions régissant le fonctionnement de toute IA générative) suffirait alors pour lui donner tant la possibilité de choisir les personnes à contrôler que celle d’échanger avec elles et eux, par mails ou SMS, afin de leur poser les questions de son choix⁶En plus du changement de prompt, cela pourrait nécessiter la mise en place d’outils, services externes appelés par l’IA pour nourrir son processus de réflexion ou entreprendre des actions concrètes ( envoyer des mails, modifier une base de données..)..

En cas de « doute », l’outil pourrait alors demander de lui-même des informations supplémentaires ou des pièces justificatives. Et à l’issue de ce processus de contrôle continu, l’IA décidera de clore le contrôle ou de transmettre le dossier aux équipes de contrôles en vue de sanctions.

IA et contrôle social : un nouveau paradigme

Dès lors, rien n’empêchera la multiplication de contrôles. En levant toute barrière matérielle à leur expansion, le recours à l’IA acte le passage d’un système de contrôle ponctuel et sélectif à un dispositif permanent et généralisé.

Certes, il existe d’ores et déjà des mécanismes de contrôles automatisés dont le fonctionnement réside sur l’analyse des flux de données en temps réel. Ainsi, l’ensemble des administrations sociales vérifient la quasi-totalité des déclarations des allocataires en croisant leurs informations, des contrôles étant déclenchés en cas de détection d’incohérences. Invisibles, ces contrôles sont pourtant, en nombre, les plus importants et de loin. À titre d’exemple, la CAF reporte plus de 27 millions de contrôles automatisés sur un total de 28,7 millions.

Mais ces contrôles automatisés sont aujourd’hui limités à des opérations simples, principalement la comparaison entre les déclarations et les données détenues par d’autres administrations (revenus, adresse, situation professionnelle…). L’IA générative représente une rupture dans le sens où ce sont des opérations de contrôle « complexes », nécessitant l’analyse de données multiples, la prise en compte de contextes variés et l’échange avec les personnes contrôlées qui sont désormais automatisables. Un ensemble de tâches qui, jusqu’alors, nécessitaient une intervention humaine.

Vers des formes de contrôle inédites

Dès lors, s’ouvre la possibilité non seulement de massifier les formes de contrôles existantes, mais aussi de créer de nouveaux dispositifs toujours plus fins et intrusifs. Une chose qu’ont bien compris les dirigeant·es de France Travail.

Le document que nous avons obtenu fait ainsi référence à l’utilisation de l’IA à des fins de « suivi de parcours »⁷« Suivi de parcours » est l’application conçue par France Travail pour centraliser les données des personnes inscrites. Elle est prévue pour qu’y soient renseignées les 15 heures d’activité. Une vidéo de présentation est disponible ici.. Il s’agit d’une référence au contrôle de l’obligation de réalisation de 15 « heures d’activité » hebdomadaires. Introduite par la loi Plein Emploi, elle porte sur toute personne inscrite à France travail, qu’elle soit allocataire du RSA ou non.

Aujourd’hui, l’effectivité de cette mesure se heurte aux réalités matérielles du coût induit par le contrôle d’un tel volume d’informations sur une population de plus de 6 millions de personnes, à une fréquence hebdomadaire⁸La difficulté de suivi et de contrôle de ces heures d’activité par les conseiller·ères a été largement documentée dans le cadre du Contrat d’Engagement Jeune (CEJ), qui fut la première aide y étant conditionnée. Son extension aux 6 millions d’inscrit·es met dès lors en tension le mot d’ordre de mise au travail des personnes bénéficiant de certaines prestations sociales et les réalités matérielles nécessaires à son application. Voir notamment Mauricio Aranda, François Sarfati et Jules Simha , Une jeunesse au guichet de l’emploi. Enquête sur le Contrat d’engagement jeune, 2025 disponible ici et l’étude du CEREQ Conditionner l’accompagnement à des heures d’activités : le cas du Contrat d’engagement jeune disponible ici.. Car, en plus de s’assurer du contrôle de la déclaration desdites « heures d’activités », il faut pouvoir s’assurer de leur cohérence – entre elles et par rapport au projet professionnel et à la situation personnelle – ainsi que de leur véracité. De fait, le travail à réaliser est titanesque et nécessiterait le recrutement de centaines de contrôleur·ses supplémentaires.

Ici, le recours à l’IA générative permettrait de fait la mise en application d’une des mesures de contrôle social les plus invasives qui n’ait jamais existé.

Un outil de répression centralisé, discriminant et opaque

Le discours développé par France Travail pour répondre aux craintes portant sur son projet est également intéressant à analyser.

Premièrement, l’IA générative ne serait qu’un simple outil « d’aide à la décision », le choix d’appliquer une sanction ou non restant du ressort des équipes de contrôles. Cette « supervision » humaine serait supposée empêcher les éventuelles erreurs que pourraient commettre une IA. Cet argument est en réalité largement relativisé par deux éléments. D’une part, il existe nécessairement ce que l’on appelle le biais d’automatisation, c’est-à-dire le fait qu’une personne humaine a tendance à suivre les conclusions d’un outil d’automatisation telle qu’une IA générative sans les remettre en question. D’autre part, l’objectif d’un tel outil est justement d’augmenter la cadence des contrôles, donc de laisser moins de temps pour une analyse humaine. Il est donc faux de laisser croire que les contrôleur·ses auront le temps de vérifier les conclusions de l’IA, alors même que l’institution ne leur en laissera pas le temps.

À ceci, France Travail ajoute que l’IA générative garantirait un contrôle plus « juste » et « équitable » via un traitement « homogène » des personnes contrôlées. Ici, France Travail omet l’essentiel : ce qui se joue est avant tout une opération de centralisation des politiques de contrôle dans les mains des dirigeant·es de l’institution. De fait, ces dernier·ères pourront décider du jour au lendemain de modifier les politiques de contrôle sans aucune concertation et en toute opacité, à travers la simple modification des instructions données à l’IA.

Deuxièmement, on notera également que les IA ne sont en aucun cas neutres ou exemptes de biais. Entraînées sur des bases de données issues d’opérations réalisées par des être humains, elles héritent des mêmes biais et orientations que ceux de la population : les exemples d’IA racistes ou sexistes ne sont plus à compter.

Enfin, France Travail met en avant que l’IA générative permettrait une meilleure « traçabilité » des décisions de sanction. Cet argument n’est pas recevable techniquement, les IA génératives reposant sur l’utilisation de réseaux de neurones dont une des propriétés est justement qu’ils fonctionnent en « boîte noire », c’est-à-dire qu’il n’est pas possible d’expliquer la manière dont une IA générative produit tel ou tel résultat.

Un dangereux précédent

Si le projet de France Travail voyait le jour, tout laisse à penser que l’institution serait rapidement imitée par l’ensemble des administrations sociales, de la CAF à l’Assurance maladie en passant par l’Assurance vieillesse.

Elles hériteraient des grands projets de centralisation de données construites ces vingt dernière années. Nourries aux immenses quantités de données auxquelles ces administrations ont aujourd’hui accès (revenus, déclarations fiscales, dossier médical, factures, comptes bancaires, …), elles ouvrent la voie à un contrôle dont on peine à mesurer l’ampleur.

Rappelons enfin que ces dispositifs n’auront pas le même impact pour toutes et tous. Comme nous l’avons documenté, avec d’autres, dans notre campagne France Contrôle, notre système social contrôle bien plus fortement les plus précaires d’entre nous. Ce sont donc ces personnes qui subiront en premier les conséquences psychologiques et matérielles de la généralisation de contrôles réalisés par des IA génératives.

C’est pourquoi il est fondamental que France Travail renonce à ce projet, comme aux autres. Pour freiner les velléités autoritaires de ses dirigeant·es, vous pouvez nous faire un don. Vous pouvez également retrouver l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.