Captation à 360°

Quatre organisations européennes déposent cinq plaintes contre la société états-unienne Scale AI. Par l’intermédiaire de sa plateforme Outlier, celle-ci déploie en effet une quinzaine de traçeurs sur les ordinateurs des annotatrices et annotateurs qui lui prêtent leurs service. Elle leur impose par ailleurs une collecte de données sensibles importante.

En France, en Italie, aux Pays-Bas et en Autriche : au total, cinq plaintes (dont deux en Autriche) ont été déposées ce 27 octobre contre la société de préparation de données Scale AI. En cause : les pratiques de cette société de sous-traitance essentielle à la chaîne de production de l’intelligence artificielle vis à vis des travailleurs qu’elle sollicite.

Quatre structures sont à la manœuvre de cette quintuple action en justice : l’Association autrichienne noyb, spécialiste de la protection de la vie privée ; le groupe de recherche DipLab, mené par les universitaires Antonio Casilli, Paola Tubaro et Mathilde Abel ; l’association de juristes Intérêt à agir et le groupe Reversing Works.

Collectivement, ces entités contestent la manière dont Scale AI trace et collecte des données sensibles sur les plus de 900 000 personnes qu’elle fait travailler sous un statut d’indépendant. Pour les quatre organisations, les vérifications biométriques de l’identité des travailleurs et la collecte de multiples données numériques à partir de sa plateforme de travail Outlier enfreignent le droit européen, en particulier le Règlement général sur la protection des données (RGPD).

Données des consommateurs, données des entraîneurs

Mi octobre, les équipes de DipLab publiaient un rapport de 45 pages sur les pratiques de surveillance des travailleurs et travailleuses du clic auxquelles s’adonne Outlier. Produit de Scale AI, cette plateforme n’est qu’un exemple parmi d’autres des outils déployés par des sociétés de l’industrie du business process outsourcing (BPO) pour assurer la répartition et de la rémunération des micro-tâches qui cimentent nombre de pratiques numériques – modération de réseau sociaux, entraînement de systèmes d’IA, etc.

Le document dressait un constat principal : si le débat public relatif aux activités des plateformes technologiques s’inquiète principalement de la collecte non consentie des données des consommateurs, il se tourne rarement vers celle des travailleuses et travailleurs qui font partie intégrante de la chaîne de production de nos outils numériques.

Ce constat n’est pas surprenant en soi : auprès de Next, le chercheur Clément Le Ludec, ancien de DipLab, soulignait début octobre le paradoxe entre le peu de valeur accordée aux emplois d’annotation de données et la valeur financière accordée aux sociétés qui leur fournissent du travail. Scale AI est l’un des meilleurs exemples en la matière : à l’été 2025, Meta a dépensé 14 milliards de dollars pour racheter 49 % de ses parts et débaucher son fondateur Alexandr Wang. Un investissement faramineux, qui n’a pas empêché la société de licencier 200 personnes et de mettre fin aux interactions avec 500 sous-traitants dans les semaines qui ont suivi. Parmi ses clients, Scale AI compte les acteurs les plus connus de l’industrie occidentale de la tech, dont Meta lui-même, OpenAI, Google, Anthropic, xAI, ou encore le gouvernement des États-Unis.

• Clément Le Ludec : « Ne pas voir le travail de données nécessaire à l’IA nous arrange »

Mais ce que ce nouveau rapport de DipLab et les cinq dépôts de plainte qui s’en suivent soulignent, c’est qu’au-delà du profit financier, une telle société tire aussi un profit informationnel, en termes de données d’entraînement, de ses interactions avec les annotatrices et annotateurs qui lui permettent d’exister. Concrètement, les équipes de DipLab ont suivi des usagers de la plateforme Outlier dans douze pays européens et constaté que travailler par son intermédiaire impliquait de lui céder quantité de données personnelles, d’informations biométriques ou de données financières.

Captation de données non rémunérées

Techniquement, les scientifiques ont repéré seize traceurs déposés sur les ordinateurs des travailleurs du clic suivis. Certains visaient à récupérer des données comportementales, en suivant leurs activités sur Facebook, LinkedIn, Snapchat, Twitter ou Quota ; d’autres, des données techniques, de type clics, mouvements de souris, voire en enregistrant l’activité de l’écran. D’autres, enfin, consistaient à suivre leurs activités de très près, y compris en recourant à la reconnaissance faciale ou en demandant aux internautes travailleurs de soumettre leurs papiers d’identité (via le recours à des outils comme Persona, victime d’une fuite de 70 000 documents d’identité en 2025, Recruitics, Forethought ou Sentry, par exemple).

Ces données – de même que le temps passé à attendre que de nouvelles tâches soient rendues disponibles, ou celui passé à étudier les directives spécifiques à chaque tâche – ne donnent lieu à aucune compensation. Leur collecte ne se traduit pas, non plus, par une meilleure sécurité de l’emploi. Au contraire, DipLab constate que parmi son panel de personnes enquêtées, plus de la moitié sont jeunes (moins de 30 ans), éduquées (avec des diplômes de niveau bachelor ou master), mais gagnent en moyenne 1 214 euros par mois, un montant 30 % plus bas que le coût de la vie moyen répertorié dans chacun des pays étudiés. S’ils sont employés en tant que freelance, ces internautes tirent en réalité de 70 % à la totalité de leurs revenus de leur travail via Outlier, ce qui les rend très dépendants à ses obligations de collecte de données ou ses variations de fonctionnement.

Par ailleurs, relève noyb, de telles collectes de données facilitent diverses formes de profilage et de ciblage publicitaire poussés. Ces cinq plaintes ont donc été déposées devant quatre pays européens : elles visent d’abord à contester une violation potentielle du principe de minimisation de la collecte de données institué par le RGPD. Elles interrogent également les fondements juridiques qui autorisent Scale AI à déployer sans consentement des traceurs sur les ordinateurs d’annotatrices et annotateurs européens, ainsi que le bien-fondé de la collecte de données biométriques.

• IA : Au Parlement européen, des travailleurs du clic appellent à réguler l’entraînement humain

France Études ?

Les lycéens se mobilisent depuis des semaines pour demander l’amélioration de leurs conditions d’étude et notamment l’abrogation de la plateforme Parcoursup symbole d’un système de sélection à l’entrée de l’enseignement supérieur. Le gouvernement vient d’en annoncer la modification pour 2027, son remplacement pour 2028 et l’ajout d’un outil d’orientation enrichi par l’IA. Reste à savoir ce qui remplacera la plateforme et le système de sélection qu’elle accompagne.

Depuis plusieurs semaines les lycéens, rejoints par les étudiants et d’autres mouvements, dénoncent un système scolaire à bout. Après l’envoi d’une répression policière violente et la volonté de Matignon de couper les réseaux sociaux « en cas de réitération de violences urbaines », le gouvernement a apporté sa première réponse politique. Celle-ci, sans stopper les appels à la mobilisation, inclut notamment la modification de la fameuse plateforme Parcoursup de préinscription en première année de l’enseignement supérieur. Cette plateforme a été mise en place pendant le premier quinquennat d’Emmanuel Macron, en 2018, avec la loi ORE (relative à l’orientation et à la réussite des étudiants) qui a généralisé la sélection dans l’enseignement supérieur français.

• Comment fonctionnent les algorithmes de Parcoursup
• Mobilisations : Matignon voulait couper les réseaux, le Gouvernement veut élargir Pharos

Le mouvement lycéen est parti de Mayotte cet été et s’est étendu à l’Hexagone via les lycées de Créteil et de la banlieue parisienne. Il pointe les emplois du temps surchargés, le manque de moyens et de personnel, des classes surchargées, un manque très concret de tables dans certaines salles, mais aussi le « stress engendré par Parcoursup ».

« Le souci du dématérialisé »

Seydou Ba, élève de terminale au lycée Charles de Gaulle, très en vue dans la mobilisation et militant LFI, pointait sur le plateau de France Info le 9 octobre le problème qu’il voit dans cette plateforme : « C’est le souci du dématérialisé : on se retrouve avec une plateforme face à nous, pas un être humain. Vous vous retrouvez face à Parcoursup et vous ne savez pas quoi faire, pas quoi dire, qui aller voir. »

À la demande de l’abrogation de la plateforme, le gouvernement répond en deux étapes : un aménagement de Parcoursup pour la session 2027 qui va commencer d’ici peu et le « remplacement » de la plateforme prévu pour 2028.

Un remplacement prévu pour 2028, des ajustements avant

Le doigt dans le panier de crabes

Les centaines de milliers de Français qui sont descendus dans les rues samedi 24 octobre auraient pu se retrouver sans réseaux sociaux. Sébastien Lecornu a en effet demandé aux opérateurs d’anticiper la possibilité de suspendre l’accès à plusieurs services « en cas de réitération de violences urbaines » durant les manifestations du week-end dernier. Un amendement gouvernemental propose désormais d’élargir les pouvoirs de Pharos, la plateforme de signalement de l’Intérieur et de permettre le blocage des réseaux sociaux si des contenus appelant à l’insurrection ne sont pas supprimés dans l’heure.

Mise à jour du 28 octobre à 9h09. L’amendement – « lourdement rectifié » comme le précise Marc Rees sur X – a été adopté par le Sénat hier, pendant la séance. Il avait reçu un double avis favorable de la commission et du Gouvernement.

La version du 26 octobre est disponible sur WebArchive, à comparer à celle adoptée. Cette partie notamment a sauté dans la version finale : « Lorsque les nécessités de la lutte contre la commission d’actes d’attentat, d’insurrection, et d’armement contre l’État, contre une partie de la population l’exigent, l’autorité administrative peut demander à toute personne dont l’activité est d’éditer un service de communication au public en ligne ou aux fournisseurs de services d’hébergement de retirer les contenus qui de façon manifeste provoquent, incitent ou font l’apologie des agissements incriminés […] Cette personne retire alors le contenu visé sans délai et en tout état de cause dans l’heure à compter de la réception de demande »

Sur X, l’avocat spécialiste du numérique Alexandre Archambault précise que « conscient du risque d’inconstitutionnalité de la mesure, le Gouvernement a retiré l’obligation de retrait sous 1 h et référence au règlement européen. Idem pour les contenus « insurrectionnels » ».

Dans la foulée, le projet de loi « casseurs-payeurs » a lui aussi été adopté, « après plus de six heures de débats […] avec 229 voix pour et 105 contre », précise Public Sénat. Le détail du scrutin est disponible sur le site du Sénat. Le texte doit maintenant être examiné par l’Assemblée nationale.

Article du 27 octobre 9h08. Le courrier de Matignon, daté du 22 octobre et envoyé aux dirigeants des quatre principaux opérateurs, a été publié par Blast. Le Premier ministre évoque « plusieurs réseaux sociaux » qui ont joué « un rôle décisif non seulement dans la cristallisation et la viralité de mots d’ordre illicites, mais aussi comme leviers de coordination opérationnelle des violences au cours des manifestations » du 17 octobre.

• « L’image la plus horrible de ce 17 octobre » émanait d’un site d’info généré par IA

Une suspension techniquement et juridiquement problématique

D’après ce courrier, le gouvernement demandait à Orange, SFR, Bouygues Telecom et Free d’anticiper la possibilité de bloquer temporairement l’accès à Snapchat, TikTok et Instagram (X, anciennement Twitter, aurait été ajouté à la liste par la suite) par un filtrage DNS, tout en ménageant « dans la mesure du possible » les accès à ces réseaux sociaux par internet fixe. La suspension, d’une durée de « quelques heures », devait être décidée le week-end des 24 et 25 octobre.

Une réunion vidéo s’est tenue le lendemain de l’envoi du courrier, le 23 octobre, entre le cabinet du Premier ministre et les directions juridiques des quatre opérateurs pour préciser les conditions d’un tel blocage. Sa mise en œuvre a été jugée très délicate par les entreprises, toujours selon Blast qui a consulté un compte-rendu. D’un point de vue technique, les opérateurs auraient fait valoir que la limitation à certaines zones et uniquement sur les mobiles n’était pas dans leurs cordes à court terme.

Et sur le plan juridique, c’est un sacré casse-tête. Il existe bien un précédent : en mai 2024, le gouvernement avait fait bloquer l’accès à TikTok en Nouvelle-Calédonie à la suite d’émeutes, mais l’opération portait sur un territoire d’outre-mer échappant au droit de l’Union européenne. Le Conseil d’État, saisi par plusieurs organisations de défense des libertés, avait jugé le 1^er avril 2025 ce blocage illégal car il portait « une atteinte disproportionnée aux droits et libertés invoqués par les requérants ».

• La suspension de TikTok en Nouvelle-Calédonie jugée illégale, mais pas impossible

Le Conseil d’État avait tout de même laissé une porte ouverte. Le gouvernement peut décider de la suspension en cas de « circonstances exceptionnelles » qui rendraient la mesure indispensable. Mais elle ne peut être que provisoire (le blocage en Nouvelle-Calédonie avait duré deux semaines), et à la condition « qu’aucun moyen technique ne permette de prendre immédiatement des mesures alternatives moins attentatoires aux droits et libertés que l’interruption totale du service pour l’ensemble de ses utilisateurs ».

Par conséquent, la durée de la suspension ne doit pas excéder celle nécessaire « pour rechercher et mettre en œuvre ces mesures alternatives ». Le Premier ministre de l’époque, Gabriel Attal, n’avait pas respecté l’ensemble des conditions nécessaires au blocage de TikTok.

Matignon cherche un cadre légal

Avant cette réunion avec les opérateurs, le gouvernement avait déjà rencontré les réseaux sociaux. Le 20 octobre, la ministre déléguée chargée du Numérique, Anne Le Hénanff, avait en effet convoqué les réseaux sociaux et les plateformes, parmi lesquelles Meta, Google ou encore Snapchat, Discord et X, pour évoquer les moyens à mettre en œuvre contre les appels à la violence en ligne. Mais comme l’explique L’Informé, il n’avait pas été question de blocage ou de suspension des services.

Le règlement sur les services numériques contient un « mécanisme de crise » (article 36) qui met en place des mesures face à une menace grave pour la sécurité ou la santé publiques dans l’UE. Ces mesures doivent être nécessaires et proportionnées, et surtout c’est la Commission européenne qui a le pouvoir d’appuyer sur ce bouton, pas le Premier ministre d’un État membre, et le texte cible les très grandes plateformes, pas les opérateurs.

Durant la réunion du 23 octobre, les opérateurs ont, d’après Blast, émis de nombreuses réserves sur la mise en œuvre d’une telle suspension, qui reste par ailleurs relativement aisée à contourner avec un VPN, ou tout simplement en utilisant un autre moyen de communiquer. Pour se couvrir juridiquement, les entreprises voulaient également la publication d’un acte daté et motivé (Orange réclamait un arrêté). Matignon voulait selon Blast se contenter d’une instruction individuelle, avec un communiqué publié une demi-heure avant le blocage proprement dit.

Interrogé par Marc Rees de l’Informé, Orange a rappelé qu’il exerçait ses activités dans un cadre légal et réglementaire : « Comme tout opérateur, nous sommes tenus de nous conformer aux obligations qui nous sont légalement notifiées par les autorités compétentes, dans le respect du droit applicable ».

Pharos s’invite dans un projet sur la réparation des dommages

L’évolution du cadre légal semble la raison d’être d’un amendement déposé par le gouvernement le lundi 26 octobre au projet de loi sur « la réparation des dommages résultant de violences ou de dégradations commises dans l’espace public et au recouvrement des dommages et intérêts » (projet de loi dit « casseurs-payeurs »).

L’amendement prévoit deux mesures.

D’abord, une extension du mécanisme existant de l’article 6 - 1 de la loi pour la confiance dans l’économie numérique (LCEN), qui permet à Pharos de demander le retrait, sous 24 heures et sans décision d’un juge, de contenus relevant notamment de la lutte contre la provocation à des actes terroristes ou l’apologie de tels actes. Pharos est pour mémoire la plateforme gouvernementale française de signalements des contenus et comportements en ligne illicites gérée par le ministère de l’Intérieur.

L’amendement réécrit l’article 6 - 1 de la LCEN pour permettre à Pharos de demander, en plus des contenus déjà visés, le retrait de ceux qui relèvent des trois premiers alinéas de l’article 24 de la loi du 29 juillet 1881 sur la liberté de la presse (provocation directe à commettre des atteintes aux personnes, des vols, des destructions ou des dégradations), dès lors qu’ils sont susceptibles de créer un « trouble grave à l’ordre public ».

En l’absence de retrait sous 24 heures, les hébergeurs s’exposeraient pour ces contenus à une sanction pénale pouvant aller jusqu’à 6 mois d’emprisonnement et 150 000 euros d’amende (2 % du chiffre d’affaires mondial pour une personne morale).

Second volet de l’amendement : la création d’une procédure d’urgence permettant à l’autorité administrative de demander « dans l’heure » le retrait de contenus « qui appellent à un attentat, à l’insurrection ou à l’armement contre l’État et/ou une partie de la population. » Faute de retrait dans l’heure, l’autorité pourrait solliciter « le blocage et le déréférencement des sites », autrement dit interdire l’accès aux réseaux sociaux qui hébergeraient les contenus en question.

Le Conseil constitutionnel avait censuré en 2020 le retrait en une heure, sans décision préalable d’un juge, de contenus terroristes ou pédopornographiques prévu par la loi Avia. Il a en revanche validé en 2022 celui prévu par le règlement (UE) 2021/784, dit TCO (Terrorist Content Online), adapté en droit français la même année, mais cantonné très explicitement aux contenus à caractère terroriste. L’amendement s’appuie sur ce texte.

Or l’appel à l’insurrection n’en relève pas nécessairement, comme l’a déjà illustré le tribunal administratif de Cergy-Pontoise début 2019 dans une précédente affaire de blocage administratif. Le tribunal avait alors annulé des décisions de retrait visant des revendications d’incendies de voitures, jugées non terroristes.

« Les réseaux sociaux peuvent contribuer de manière décisive aux violences et aux dégradations, notamment par la diffusion de contenus appelant à la commission de ces infractions. L’autorité administrative doit pouvoir intervenir rapidement pour mettre fin à la diffusion des contenus appelant aux violences, aux saccages et aux pillages », affirme néanmoins le gouvernement dans son exposé des motifs.

L’amendement du gouvernement devrait être discuté aujourd’hui, mardi 27 octobre, au Sénat.

Bitchat prospère

Le discours ambiant autour du blocage potentiel des réseaux sociaux fait au moins, si on peut dire, un heureux. L’application Bitchat trônait en effet lundi à la première place du classement de l’App Store dans la catégorie des réseaux sociaux, et à la 5e place globale des apps gratuites. Cette messagerie, imaginée par Jack Dorsey, le fondateur de Twitter, utilise le Bluetooth pour transférer les messages de façon décentralisée, et promet un chiffrement de bout en bout pour les messages privés.

Aucun accès internet n’est nécessaire pour discuter, pas de serveur, pas de numéros de téléphone, mais un tel fonctionnement nécessite évidemment beaucoup de relais pour distribuer les messages. « Cette approche permet de résister à la censure et à la surveillance, tout en assurant une indépendance vis-à-vis des infrastructures. Le réseau reste fonctionnel lors de coupures d’internet, de catastrophes naturelles ou de manifestations, ainsi que dans les régions où la connectivité est limitée », explique la messagerie.

L’application est disponible sur iOS et Android, et son code source (accessible dans ce dépôt GitHub) est dans le domaine public. Même si des doutes subsistent quant à sa sécurité, Bitchat a déjà été utilisé lors de coupures ou de mobilisations dans plusieurs pays, en Ouganda, en Iran, au Népal, à Madagascar ou en Inde, où les autorités ont réclamé son retrait de GitHub.