N'aurait-on pas besoin d'un RGPD au carré ?

Avec la mise en place de « mémoires » pour que leurs systèmes donnent des réponses plus proches de la réalité, les entreprises d’IA génératives ont mis en place ce que des chercheuses et chercheurs appellent des « autoportraits algorithmiques » des utilisatrices et utilisateurs. Ceux-ci incorporent énormément d’informations (notamment psychologiques) considérées comme des données personnelles par le RGPD.

Les chatbots IA sont entrés dans notre quotidien alors qu’ils ne s’appuyaient que sur des modèles de langage, mais OpenAI et ses concurrents y ont ajouté depuis une mémoire qui permet des réponses plus adaptées et hyperpersonnalisées. Des chercheuses et chercheurs ont montré que cette mémoire posait de nouvelles questions concernant les données personnelles. Cela touche notamment des informations d’ordre psychologique.

C’est une équipe notamment issue du Max Planck Institute for Software Systems qui a travaillé sur cette question. Le chercheur Abhisek Dash et ses collègues ont présenté leurs travaux titrés « The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT » lors d’une conférence scientifique de l’Association for Computing Machinery à Dubaï en avril dernier.

La mémoire est beaucoup plus intrusive que les données récupérées par les autres plateformes

Si, depuis, OpenAI a modifié le fonctionnement de la mémoire de son chatbot, les questions restent pertinentes et les résultats montrent que les entreprises d’IA génératives n’ont pas créé leurs systèmes en y faisant particulièrement attention.

« La mémoire [des chatbots IA] donne naissance à ce que nous appelons l’ « autoportrait algorithmique » – une nouvelle forme de personnalisation issue des informations que les utilisateurs révèlent d’eux-mêmes au cours de conversations privées », expliquent ces chercheurs.

« Si la mémoire permet des échanges plus cohérents, les processus sous-jacents à sa création restent opaques, ce qui soulève des questions cruciales concernant la sensibilité des données, l’autonomie des utilisateurs et la fidélité du portrait qui en résulte », préviennent-ils.

Pour mieux comprendre ces mécanismes, ils ont analysé, en février 2026, 1 058 conversations avec ChatGPT, totalisant 22 971 échanges, dont 2 050 requêtes ont déclenché des mises à jour de la mémoire.

Ils notent déjà que la plupart de ces mises à jour ne sont pas enclenchées par l’utilisateur. Ainsi, « seuls 4 % des souvenirs de notre ensemble de données analysé sont initiés par les participants, tandis que les 96 % restants sont déclenchés unilatéralement par ChatGPT ». « Une telle asymétrie flagrante dans les schémas de mise à jour des souvenirs témoigne d’une capacité d’action supérieure du système d’IA dans la construction de la mémoire conversationnelle, par opposition à un contrôle exercé par l’utilisateur », commentent-ils.

En analysant ces « souvenirs » gardés en mémoire par ChatGPT, les chercheurs ont remarqué que 28 % d’entre eux contiennent des données personnelles comme définies par le RGPD et 7 % appartenant à des catégories particulières de données à caractère personnel. Pour 91 % des utilisateurs, cette mémoire avait recueilli des données personnelles et pour plus de la moitié (54 %) des données sensibles.

Concernant les données psychologiques des utilisateurs, les chercheurs font remarquer une différence entre les plateformes numériques traditionnelles et les chatbots. Ainsi, les premières collectent des données démographiques, le comportement, l’historique des likes et des partages, les commentaires ou encore les interactions pour en déduire les centres d’intérêt des utilisateurs.

« À l’inverse, les systèmes d’IA conversationnelle tels que ChatGPT construisent leur mémoire directement à partir des récits que les utilisateurs leur confient eux-mêmes », remarquent-ils, « ces souvenirs vont souvent au-delà des éléments factuels, reflétant certains aspects de l’univers intérieur de l’utilisateur ».

En mémoire sont aussi intégrés la façon de penser ainsi que les sentiments

Et de fait, ils ajoutent que les « souvenirs » du chatbot concernant ses utilisateurs montrent qu’elle peut « non seulement enregistrer l’identité de l’utilisateur, mais aussi sa façon de penser et ses sentiments ».

Pour analyser ces nouvelles données collectées par les plateformes comme ChatGPT, cette équipe de chercheurs s’est appuyée sur le concept de théorie de l’esprit (Theory of Mind, en anglais, ToM), utilisé en psychologie. Ce concept correspond à la capacité à inférer des états mentaux à autrui, comme des croyances, des désirs, ou des intentions, comme l’expliquent [PDF] les chercheuses et chercheurs en neurosciences et neuropsychologie.

En classifiant avec GPT-4o les « souvenirs » enregistrés par ChatGPT, ils se sont ainsi aperçus, par exemple, que 73 % d’entre eux exprimaient un désir et 16 % une intention. Dans les données qu’ils ont analysées, les « souvenirs » retenus par ChatGPT de 97 % des utilisateurs comprenaient des informations sur leurs désirs, 68 % sur leurs intentions et 52 % sur leurs connaissances.

En utilisant leurs données, les plateformes traditionnelles peuvent répondre à la question « de quel genre de personne s’agit-il ? ». Mais ChatGPT et les services du même genre, avec leur mémoire, pourraient se rapprocher encore plus de la réponse à la question « qui est cette personne ? ».

Abhisek Dash et ses collègues soulignent que cela « soulève de graves préoccupations en matière de sécurité et de vie privée ». Ils expliquent travailler sur un outil appelé « Attribution Shield » qui alerterait les utilisateurs de la présence éventuelle de souvenirs sensibles et leur proposerait des prompts alternatifs pour protéger l’anonymat des personnes concernées tout en préservant leur utilité.

Depuis la publication de leur recherche, OpenAI a modifié la façon dont fonctionne la mémoire de ChatGPT. Depuis juin, celle-ci synthétise les informations collectées petit à petit et les met à jour de façon continue plutôt que de compiler les « souvenirs » de manière individuelle. Et les utilisateurs peuvent accéder à un résumé, mais OpenAI souligne dans sa FAQ sur l’outil que « cela n’inclut pas nécessairement tous les détails ou toutes les sources » auxquels son outil de mémoire peut avoir accès. Il n’en reste pas moins que les informations qui peuvent y être stockées restent les mêmes que celles analysées par les chercheurs dans cette étude.

Obélix et Astérix sont pas de la partie ?

La mission spatiale japonaise Martian Moons eXploration doit décoller ce soir du Japon en direction de deux satellites de Mars : Phobos et Déimos. Elle doit déposer sur le premier le rover Idefix développé notamment par le CNES.

L’agence spatiale japonaise Jaxa s’apprête à lancer, ce soir et depuis l’île de Tanegashima (Japon) sa mission MMX (Martian Moons Exploration) à bord d’une fusée H3. Celle-ci a pour but de connaitre un peu mieux la planète rouge en allant observer ses deux satellites que sont Phobos et Déimos. Et même de rapporter des échantillons provenant du premier !

Une origine mystérieuse de ces satellites

Si elle réussit, ça sera la première mission scientifique à rapporter des échantillons venant de Mars. Rappelons que les États-Unis ont décidé, en début d’année, d’abandonner les échantillons recueillis sur Mars par le rover Perseverance : la mission Mars Sample Return a été tout bonnement annulée.

• NASA : un budget moins catastrophique que prévu mais Mars Sample Return est abandonné

Concernant MMX, l’avenir du projet reste au beau fixe. La JAXA propose de suivre le lancement ce soir sur sa chaine YouTube. Comme nous l’expliquions déjà il y a 9 ans, l’idée principale est donc de faire un aller-retour vers Mars avec une escale sur Phobos.

Comme le souligne le Journal du CNRS, l’idée d’aller explorer Phobos s’explique aussi parce que l’origine des deux satellites de Mars reste mystérieuse : « Il y a deux théories, résume Patrick Michel, astrophysicien et directeur de recherche CNRS à l’Observatoire de la Côte d’Azur. Phobos et Déimos ressemblent à des astéroïdes, et auraient ainsi pu être capturés par la force d’attraction gravitationnelle de Mars. Mais leur trajectoire paraît bien étrange. Il pourrait donc s’agir du résultat d’un impact géant, mais ce n’est pas ce que nous montrent les observations sur sa composition pour l’instant. »

L’agence spatiale japonaise prévoit d’abord un voyage d’une année pour arriver aux alentours de Mars. Sa sonde amène avec elle neuf instruments, dont le spectromètre à neutrons et rayons gamma baptisé MEGANE développé par la NASA et MIRS, un spectromètre imageur infrarouge développé par le Laboratoire d’Etudes Spatiales et d’Instrumentation en Astrophysique (LESIA) en partenariat avec le CNES. MIRS doit « permettre de caractériser la composition minéralogique de la surface des lunes de Mars et l’analyse de l’atmosphère martienne. Il va permettre de participer à la sélection des sites d’atterrissage de MMX », explique le CNES.

Observer, récupérer 10 g et revenir

Car l’idée est ensuite de récupérer des informations sur Phobos pour connaître sa topologie et chercher des dizaines de sites d’atterrissage potentiels pour déterminer le meilleur endroit pour s’y poser.

Ensuite, la mission doit envoyer son rover pour observer la surface du satellite de Mars. Ce rover s’appelle Idefix. Il a été développé par le CNES en collaboration avec le Centre allemand pour l’aéronautique et l’astronautique (Deutsches Zentrum für Luft- und Raumfahrt, DLR). Si vous voulez vous amuser à en imprimer une copie, le CNES a même partagé les plans.

• Astérix : il y a 50 ans, la France mettait en orbite son premier satellite

Si tout va bien, Idefix pourra ensuite donner des indications à la sonde principale de la mission pour qu’elle puisse à son tour atterrir sur Phobos. Elle y collectera 10 g d’échantillons pour qu’ils soient analysés plus tard sur Terre. Après quelques observations supplémentaires sur Phobos, MMX passera par le deuxième satellite de Mars, Deimos, pour l’observer aussi, puis repartira des environs de Mars en 2030. La JAXA espère récupérer tout ce beau monde en 2031.

On a retrouvé les clés ?

Après la baisse des budgets de la recherche en France, la Cour des comptes plaide pour une baisse du nombre d’unités mixtes de recherche (UMR), ces laboratoires dans lesquels organismes de recherche et universités mettent des moyens en commun au service d’un même projet scientifique. Au risque de raviver la colère dans le milieu contre ce que l’ancien PDG du CNRS avait appelé les « key labs ».

La Cour des comptes acte que les gouvernements successifs français n’ont pas augmenté le budget de la recherche en France (public et privé) de manière à ce qu’il atteigne l’objectif longtemps planifié de 3 % de PIB. Dans un rapport sur les unités mixtes de recherche (UMR), la juridiction administrative en profite pour remettre sur l’établi le projet des « key labs » que le gouvernement et le PDG du CNRS de l’époque, Antoine Petit, avaient abandonné début 2025 après le mouvement de défiance qu’il avait suscité au sein de l’organisme.

• [MAJ] CNRS : le ministre Philippe Baptiste impose un moratoire sur les « key labs »
• Situation critique pour la recherche, le budget de l’ANR « insoutenable » d’ici 2028
  

La juridiction administrative, dirigée depuis février par l’ancienne ministre de l’Action et des Comptes publics Amélie de Montchalin, a publié récemment un rapport [PDF] sur les unités mixtes de recherche (UMR), une organisation « sans équivalent au monde » mise en place en France dans les années 1960 pour créer des laboratoires communs entre universités et organismes de recherche comme le CNRS (l’organisme qui y est de fait le plus impliqué), l’Inria, l’Inserm ou encore le CNES, par exemple.

L’exécutif a abandonné l’ambition d’un budget de la recherche important

La Cour des comptes y constate que la France « ne consacre que 2,18 % [chiffre 2023] de son PIB à la recherche, alors que six États de l’Union européenne, dont l’Allemagne, atteignent l’objectif de 3 % fixé dans le cadre de la stratégie de Lisbonne ».