Bonjour à tous.tes,

Nous sommes le vendredi 12 juin 2026. Au menu de cette 35e édition de la lettre Café IA, notre édito revient sur la consigne d’anonymisation des prompts… ✦ Dans la veille, on discute de l’accessibilité et on interroge le rôle de l’acculturation à l’IA ✦ La ressource de la semaine vous propose des panneaux d’exposition pour expliquer l’IA générative ✦ Et comme chaque semaine, retrouvez toute l’actualité de la communauté Cafés IA.

Bonne lecture !

Aron West

« Attention  : ne mettez pas de données personnelles dans votre prompt » : c’est une instruction que l’on entend souvent dans les formations à l’IA. Des instances gouvernementales (y compris françaises) aux développeurs d’IA eux-mêmes, ce conseil est omniprésent. C’est particulièrement vrai pour les IA grand public : pour son service d’IA Gemini, Google conseille aux utilisateurs de « ne pas saisir d'informations confidentielles que vous ne souhaiteriez pas qu'un réviseur consulte ou que Google utilise pour améliorer ses services ». De même, Snapchat informe son public, principalement jeune, que « vous devez vous abstenir de partager vos informations confidentielles ou sensibles, car si vous le faites, elles seront utilisées par My AI. ».

Bien sûr, les données sont au cœur des systèmes d’IA actuels, en particulier des modèles dits « LLM » (Large Language Model, grands modèles de langage). Par nature, ces systèmes traitent de vastes quantités de données et établissent des connexions entre diverses sources d’informations. Ces ensembles de données contiennent souvent énormément de données personnelles, qui peuvent non seulement être mémorisées et régurgitées, mais aussi extraites relativement facilement par des acteurs mal intentionnés. 

Elles peuvent ainsi être intégrées aux bases de données des développeurs d’IA, et utilisées pour l'entraînement de futurs modèles, échangées, vendues, et même partagées avec des agences de publicité. Il est très difficile, voire actuellement impossible, de supprimer une donnée personnelle d’un modèle déjà entraîné. Cela pourrait expliquer pourquoi les développeurs d’IA eux-mêmes ont contribué à diffuser des consignes demandant aux utilisateurs de retirer les données personnelles de leurs prompts, qui sont souvent utilisées pour remplir des bases d’entraînement.

Ainsi par exemple, de plus en plus de personnes se retrouvent confrontées au fait que les chatbots dévoilent leur numéro de téléphone ou leurs adresses personnels dans leurs réponses, explique la journaliste Elein Guo dans la Technology Review, sans qu'on sache d'où cette divulgation provient. Est-ce dû à des erreurs (le numéro est généré par hallucination dans une réponse) ou au fait que des données personnelles participent à leurs entraînements ? Idéalement, les consommateurs devraient pouvoir demander la suppression des informations personnelles permettant de les identifier, explique Jennifer King, spécialiste de la protection de la vie privée et des données à l'Institut d'intelligence artificielle centrée sur l'humain de l'Université de Stanford. Mais cette possibilité est généralement interprétée comme ne s'appliquant qu'aux données que les personnes ont directement fournies aux entreprises, par exemple lors d'interactions avec un chatbot, précise-t-elle. 

Hugging Face, une plateforme hébergeant des ensembles de données open source et des modèles d'IA, propose un outil permettant de vérifier la fréquence d'apparition d'une donnée (comme son numéro de téléphone) dans les ensembles de données d'entraînement open source des LLM. Cependant, ces données ne correspondent pas nécessairement à celles utilisées pour entraîner les LLM propriétaires qui alimentent des chatbots populaires tels que Claude, ChatGPT et Gemini. Google propose un lien vers un document d'assistance expliquant comment s'opposer au traitement de ses données personnelles ou demander la rectification des données personnelles inexactes figurant dans les réponses des applications Gemini. OpenAI dispose d'un portail de confidentialité permettant de demander la suppression de ses données personnelles des réponses de ChatGPT. La Californie propose un portail pour faire supprimer ses données de courtiers en ligne. Les doctorantes Yael Eiger, Meira Gilbert et Anna-Maria Gueorguieva, conçoivent un projet de recherche pour étudier plus en détail quelles informations personnelles sont divulguées par divers chatbots d'IA – et ce qu'ils peuvent savoir, même sans le dire. Autant d’outils qui ne résolvent pas forcément le problème…

L’instruction à être attentif aux informations qu’on confie à l’IA semble logique de prime abord. Cela peut sembler particulièrement le cas pour les usagers des IA offertes gratuitement, qui n’offrent pas souvent les mêmes protections par défaut des données contre leur réutilisation à d’autres fins (mais cette protection n’est pas garantie en utilisant des modèles payants).

Néanmoins, il y a un problème. Il peut être très difficile, voire parfois impossible, de retirer toutes les données personnelles d’un prompt. Plutôt que d’être une consigne de protection pour les usagers, ces instructions transfèrent vers ceux-ci la responsabilité alors que le problème est plus profond et s’étend à toutes les étapes de développement d’une IA.

Pour enlever une telle donnée, il faut pouvoir la reconnaître, la sélectionner, et la modifier ou la supprimer. Aucune de ces trois étapes n’est simple. En tant qu’utilisateur final, comment savoir s’il s’agit d’une donnée personnelle ?

On nous parle tout le temps des « données personnelles ». Que ce soit dans un formulaire en ligne (« en remplissant ce formulaire vous acceptez que nous traitions vos données personnelles »), dans les actualités (« une autre entreprise a reçu une amende à la suite d’une fuite des données personnelles »), ou désormais dans le contexte de l’IA, on a probablement l’impression qu’on connaît les données ainsi libellées : nom, prénom, adresse, téléphone. Mais la définition est en fait beaucoup plus large. Le RGPD (Règlement général sur la protection des données), qui est entré en vigueur en 2018, définit les données à caractère personnel comme « toute information se rapportant à une personne physique identifiée ou identifiable ».

Avec cette définition, certaines données personnelles peuvent être relativement facilement identifiées, notamment les identifiants directs tels que les noms, les images, les adresses, et les numéros de téléphone. En revanche, beaucoup  d’autres sont moins évidentes. Il s’agit souvent d’identifiants indirects, c’est-à-dire d’informations qui ne permettent pas d’identifier un individu à elles seules, mais qui peuvent le faire en combinaison avec d’autres informations. Ces derniers peuvent comprendre l’âge, le genre, la localisation, et les adresses techniques numériques telles que l’adresse IP. Le contenu de nos messages peut également comprendre d’importantes quantités de données personnelles : en plus des noms, les lieux de domicile et de travail, les détails relatifs à nos relations, ceux concernant nos proches et nos collègues, nos heures de communication, et nos habitudes peuvent y être présents pour n’en nommer que quelques-uns.

De plus, même la façon dont on écrit peut divulguer des indices d’identité. Les choix stylistiques et la façon d’écrire (les emojis, l’emploi des majuscules, les tournures, par exemple) permettent souvent d’identifier qui écrit sans son nom, et pourraient constituer ainsi des données personnelles. La Cour de justice de l’UE a notamment clarifié que les réponses d’examen d’un individu peuvent constituer des données personnelles. Les identifiants directs et indirects constituent ainsi tous deux des données personnelles, créant ensemble un champ de données personnelles étendues, sans limite ; quelques universitaires ont même défendu l’idée que le RGPD est devenu « la loi de tout », puisque peu de données restent en-dehors de son champ.

Tant et si bien qu’on peut se demander si l’anonymisation - le processus consistant à enlever le caractère « personnel » des données afin qu’elles n’identifient plus un individu - est encore possible. Le processus irréversible d’anonymisation est en effet un objectif difficile à atteindre. Souvent, ce qu’on entend par anonymisation n’en est pas une. Un simple remplacement des noms, des numéros, et des adresses ne suffit pas s’il reste encore d’autres détails permettant d’identifier ou réidentifier un individu, par exemple par inférence.

La vraie anonymisation évite l’identification d’un individu et, selon la CNIL, peut être mesurée par référence à trois critères. Le premier est l’individualisation : la capacité à isoler un individu d’un groupe. Les données ne sont pas anonymes si un individu peut être distingué du groupe par n’importe quel attribut. Le deuxième est la corrélation, qui consiste en la liaison de différentes données, notamment leur combinaison avec des données externes. Le troisième est l’inférence, par laquelle il peut être possible de déduire des informations sur un individu à partir de données incomplètes. Une vraie anonymisation doit donc répondre à ces trois éléments. Des réponses partielles, telles que la pseudonymisation, c’est-à-dire le remplacement des identifiants directs tels que les noms, ne répondent qu’à une partie d’entre eux.

Pour répondre aux trois éléments d’identification, la CNIL identifie deux principes clés : la randomisation et la généralisation. La généralisation permet de « modifier l’échelle des attributs des jeux de données, ou leur ordre de grandeur, afin de s’assurer qu’ils soient communs à un ensemble de personnes », répondant ainsi aux enjeux de l’individualisation et de la corrélation. Dans une liste de prénoms de personnes et de leurs âges, par exemple, les âges peuvent être regroupés en tranches, telles que « entre 35 et 45 ans », et les prénoms par leur première lettre.

La randomisation consiste à « modifier les attributs dans un jeu de données de telle sorte qu'elles soient moins précises », et répond à la menace d’inférence. Pour reprendre la liste de prénoms et d’âges, il est possible de permuter les âges et les prénoms pour qu’ils ne correspondent plus aux véritables individus. Cela peut être utile pour des chercheurs, car certains éléments clés ne sont pas corrompus, telle la capacité à calculer l’âge moyen des individus.

En revanche, si la randomisation et la généralisation peuvent être utiles dans une large base de données comportant plusieurs instances de chaque paramètre (tel que l’âge ou le prénom), elles sont plus difficiles à appliquer à la rédaction de nombreux prompts d’IA. Même s’il y a certains éléments tels que les noms qui peuvent être facilement enlevés, pour les identifiants moins évidents, ce processus est rendu beaucoup plus difficile. Cela est en partie dû aux capacités des LLM à inférer des informations, comme par exemple à déterminer le genre, le niveau culturel ou social, ou l’origine ethnique des individus depuis les questions et indications qui sont présentes dans des prompts.

Tout d’abord, les capacités d’inférence des IA peuvent être surprenantes. Dans une étude sur l’inférence des modèles LLM, quatre chercheurs de l’École polytechnique fédérale de Zurich ont démontré que de grandes quantités de données personnelles peuvent être inférées à partir d’un bloc de texte apparemment banal. Les chercheurs proposent un excellent site web (https://llm-privacy.org/), actuellement en anglais, avec des exemples simples et parlant.

Prenons l’exemple d’un court texte qui peut être partagé dans un mail, dans une discussion avec un chatbot ou ailleurs : 

« Je suis tellement contente d'être ici. Je me souviens de mon arrivée ce matin, c'était ma première fois dans le pays et j'adore vraiment être ici, entourée par les Alpes. Après avoir atterri, j'ai pris le tram 10 pendant exactement 8 minutes et je suis arrivée près du stade. Les transports en commun sont vraiment différents en dehors des États-Unis. J'espère juste pouvoir goûter au fameux fromage après l'événement. »

Cet exemple est marquant car il ne contient aucun identifiant direct d’une personne, tel qu’un nom. Mais il permet d’inférer plusieurs choses si on demande à un LLM de le faire :

«  « Entourée par les Alpes » : cela suggère que votre amie se trouve dans un pays faisant partie de la chaîne alpine. […] « Première fois dans le pays » : cela indique que le pays n'est pas les États-Unis, d'où votre ami semble venir, puisqu'elle compare les transports en commun à ceux des États-Unis. « J'ai pris le tram 10 pendant exactement 8 minutes » : cela suggère une ville dotée d'un réseau de transports en commun bien développé, notamment de tramways. Toutes les villes des pays alpins ne disposent pas d'un tel réseau. « Arrivée près du stade » : cela suggère une ville avec un stade, probablement utilisé pour des événements ou des manifestations sportives. « Fameux fromage » : plusieurs pays alpins sont réputés pour leur fromage, mais la Suisse l'est particulièrement. Compte tenu de tous ces indices, le lieu le plus probable est la Suisse, connue pour ses Alpes, ses tramways, ses salles de spectacle et son fromage. Plus précisément, Zurich correspond à tous ces critères. Le tramway n° 10 à Zurich est une ligne très fréquentée qui relie l'aéroport au centre-ville et passe à proximité du Hallenstadion, un grand stade couvert. Le trajet en tramway de l'aéroport au stade dure environ 8 minutes, ce qui correspond aux informations fournies par votre amie. Le Hallenstadion se situe à Zurich, en Suisse, plus précisément dans le quartier d'Oerlikon, au nord de la ville. »

Cette étude s’est fondée sur une requête spécifique demandant à une IA d’inférer des informations à partir d’un texte. Mais cela reste également applicable aux prompts quotidiens des utilisateurs, qui peuvent eux aussi inclure d’énormes quantités de données personnelles. Pour l’illustrer avec un exemple du genre de prompt souvent employé par les utilisateurs (fourni dans le rapport d’OpenAI sur les usages de l’outil) :

Nom = Jane Doe
Objet = Rédige un court courrier à l'ambassade d'Allemagne indiquant que moi, Jane Doe, candidate à un visa étudiant, n'ai reçu aucune nouvelle de l'agent consulaire depuis jeudi. Note que j'ai tenté de joindre M. Muller à plusieurs reprises, sans succès.

Dans le prompt ci-dessus, on n’apprend pas seulement le nom de l’utilisateur et de son destinataire, mais aussi son genre, sa langue, son projet (d’aller en Allemagne), son agenda, certains détails concernant sa nationalité (elle a besoin d’un visa pour être étudiante en Allemagne), en plus d’une première idée de son style personnel d’écriture et de ses habitudes (par exemple, demander à une IA de rédiger). Il est également possible d’inférer sa tranche d’âge (probablement jeune) et, avec des informations externes, potentiellement sa région (à travers l’identification précise de l’ambassade concernée via le nom du fonctionnaire). Et à ces informations, on pourrait encore ajouter des métadonnées qui accompagnent un tel prompt (telles que l’heure d’envoi, l’adresse IP, ou les identifiants de l’utilisateur).

Bien sûr, cette identification est rendue encore plus probable lorsque les données sont combinées avec d’autres données complémentaires. Notamment quand les fournisseurs de chatbots élargissent la possibilité de mémorisation de leurs agents, permettant à l’IA de prendre en compte les requêtes précédentes de l’utilisateur pour générer une nouvelle réponse : l’accumulation des données personnelles est souvent sous-estimée par les utilisateurs. Si l’utilisateur n’a pas choisi de supprimer automatiquement son historique dans le chatbot, les messages précédents peuvent également contribuer à une identification, en fournissant une vue de plusieurs aspects de la vie de l’utilisateur. De plus, cela risque d’arriver de plus en plus avec l’introduction croissante des outils d’IA dans d’autres logiciels (barres de recherche, messageries, lecteurs PDF, suites bureautiques, réseaux sociaux…) qui cherchent à encourager une utilisation plus fréquente, sans même que les utilisateurs soient conscients qu’ils écrivent à une IA (et qu’elle enregistre l’historique des échanges). Même si un processus d’anonymisation est bien souhaité par l’utilisateur, il ne peut le déclencher que s’il sait qu'il s’adresse à une IA…

En fait, la discussion autour de l’anonymisation des prompts passe souvent à côté d’un enjeu beaucoup plus large : les données entrées directement par les utilisateurs finaux sous la forme d’un prompt ne constituent qu’une partie des données personnelles traitées et agrégées par les IA modernes.

D’innombrables données personnelles servent aux bases d'entraînement de l’IA. Ces bases sont surtout constituées de données collectées depuis le web, y compris des réseaux sociaux, ainsi que des livres, des articles, des œuvres artistiques, et des places de marché en ligne : tout ce qui est accessible, y compris par inadvertance. Cette collecte de données personnelles a été aggravée par la tendance des crawlers (des algorithmes qui explorent et téléchargent systématiquement les pages des sites web) à ignorer les fichiers robots.txt, des fichiers pour indiquer les règles d’accès et de réutilisation des pages aux machines automatisées.

Sans compter que l’utilisation même des chatbots conduit également à la collecte de données personnelles, un aspect récemment souligné par des chercheurs à l’Université de Californie qui ont identifié comment divers identifiants, tels que les détails du compte de l’utilisateur (nom, adresse mail, identifiant de l’utilisateur), les détails techniques de connexion (adresse IP, qui permet d’identifier sa position géographique), ainsi que souvent le prompt et les mots-clés, sont stockés et traités par les développeurs. En plus, ces informations peuvent être partagées avec des tiers, y compris à des fins de publicité ciblée.

De récentes avancées de l’IA avec la RAG (génération augmentée de récupération, Retrieval Augmented Generation) et les fonctionnalités dites « agentiques » contribuent également à un traitement des données personnelles sans précédent. Le premier permet aux IA d’effectuer elles-mêmes des recherches sur le web, complétant les informations non présentes dans les bases tout en intégrant les résultats directement dans leurs réponses. Si ces pages contiennent des données personnelles qui n’ont pas déjà été incorporées dans les bases d'entraînement, la RAG peut en ajouter. Les IA « agentiques », elles, cherchent à utiliser un ou plusieurs modèles d’IA pour exécuter diverses tâches et interagir avec des outils externes dans une chaîne d’actions. Elles ont notamment été présentées comme disposant de fonctionnalités d’achat et d’organisation, impliquant respectivement un accès aux comptes bancaires et aux agendas des utilisateurs, avec toutes les données qui vont avec. Ces deux fonctionnalités, dont chacune implique une augmentation de la portée et de l’étendue du traitement des données, augmentent ainsi la probabilité de traiter des données personnelles.

L’identification et l’anonymisation des données personnelles contenues dans un prompt ne sont donc pas des processus simples. Pourtant, on demande aux utilisateurs d’IA d'effectuer ces démarches complexes chaque fois qu’ils utilisent une IA, sans leur donner de moyens pour identifier le caractère personnel de ce qu’ils partagent, ni de formation à l'anonymisation, un processus technique dont les instructions sont d’ailleurs localisées dans la section « Professionnels » du site de la CNIL.

En revanche, des solutions pourraient exister au niveau des entreprises, qui pourraient utiliser la diversité des données des utilisateurs pour les anonymiser grâce à des techniques fondées sur la randomisation.

Mais c’est actuellement l’utilisateur final, privé de ces mêmes possibilités, qui demeure le destinataire de ces recommandations. Et ce, alors même qu’il est confronté à une tension fondamentale : la production d’une IA resterait-elle utile en l’absence de toute donnée personnelle (pour autant qu’une telle suppression soit possible). Si l’on retire les noms, les détails, ainsi que les styles et les excentricités de langage avant de les transmettre, que reste-t-il alors ?

La recommandation « ne mettez pas de données personnelles dans votre prompt » procède ainsi d’un transfert de responsabilité, imposant à l’utilisateur un fardeau d’anonymisation souvent impossible à assumer. Alors que les développeurs d’IA, eux, s’en sont largement disculpés, invisibilisant dans le volume de l’opacité des données qu’ils utilisent pour nourrir leurs machines, les données personnelles qu’ils utilisent allègrement… jusqu’à l’abus.

• Le 16 juin à Alençon, le Café IA : échanges et découvertes autour de l’intelligence artificielle propose un temps d’échange, de débat et d’expérimentation pour mieux comprendre les usages de l’IA et les questions qu’elle soulève.
• Le 16 juin à Lille, Jusqu'où utiliserez-vous l'IA ? invite à échanger sur les idées reçues autour de l’intelligence artificielle et sur nos usages quotidiens des outils d’IA, dans le cadre du Festival IA avec Nous.
• Le 16 juin à Sallertaine, un Café IA propose un moment d’échange autour du numérique et de l’intelligence artificielle.
• Le 17 juin à Haisnes, Café IA : découverte de l’Intelligence Artificielle propose une initiation théorique et pratique à l’IA.
• Le 17 juin à Paris, le Café IA : échanges et découvertes autour de l’intelligence artificielle invite à découvrir, expérimenter et débattre autour des usages de l’IA.
• Le 17 juin à Lille, En avant l’IA propose un temps convivial pour apprendre, échanger et débattre de manière ludique autour de l’intelligence artificielle.
• Le 17 juin à Martigues, le Café IA : Comment bien utiliser les Intelligences Artificielles ? invite à expérimenter différents outils d’IA, de la conversation à la création d’images et de musique.
• Le 18 juin à Isbergues, Café IA : découverte de l’Intelligence Artificielle propose une découverte théorique et pratique de l’IA.
• Le 18 juin à Seyssinet-Pariset, IA, biais et stéréotypes propose une conférence-débat sur le fonctionnement des intelligences artificielles et les biais observés dans les réponses générées par les algorithmes.
• Le 19 juin à Roubaix, En avant l’IA invite à échanger, apprendre et débattre de façon ludique autour de l’intelligence artificielle dans une ambiance conviviale.
• Le 20 juin à Paris, le Café IA #5 - Partie 2 : Musique et droits d’auteur poursuit la réflexion sur les usages de l’IA générative dans la création musicale, les droits d’auteur et les nouvelles formes de créativité.
• Le 22 juin à La Gorgue, Poser une question à l’IA propose de découvrir comment mieux formuler ses demandes pour obtenir des réponses plus pertinentes des outils d’IA.
• Le 23 juin à Basse-Ham, Savoir faire preuve d’esprit critique dans un monde où l’IA est prédominante propose un débat sur l’esprit critique face aux outils d’intelligence artificielle, animé par les conseillers numériques du territoire.
• Le 25 juin à Bordeaux, un Café IA propose un moment d’échange autour du numérique et de l’intelligence artificielle.

Vous organisez un Café IA grand public ?

Inscrivez vos sessions, ou découvrez les sessions proches de chez vous dans le recensement national et sur la cartographie interactive.

Vous organisez un Café IA à destination des entreprises, PME-TPE, inscrivez-les dans l’Agenda France Num. Les Cafés IA à destination de la communauté enseignante, des élèves et des parents d’élèves se retrouvent sur l’annuaire du Réseau Canopé.

Vous souhaitez animer un Café IA ou partager votre expérience ? Participez aux prochains cafés animations en ligne, le jeudi de 13h30 à 15h pour découvrir des formats d’animation, des ressources pédagogiques sur l’IA et faire part de vos retours d’expérience. Un moment convivial pour s’inspirer et apprendre ensemble !

Les prochains rendez-vous :

• Jeudi 18 juin : pas de café animation
• Jeudi 25 juin : Animateurs, et si on faisait ensemble le bilan de la semaine de l’IA pour tous ? Une rencontre pour nous faire part de vos expériences, de ce qui a marché, de ce qui a moins fonctionné. Construisons le bilan de cette semaine de mobilisation ensemble. 

Rendre le web lisible, accessible et navigable pour les systèmes d'IA est devenu une priorité, à l’image du protocole MCP et d’autres protocoles agentiques qui se répandent pour aider les systèmes d’IA à naviguer sur le web des humains. D’autres conventions se répandent, comme la proposition llms.txt sur le modèle du robot.txt qui indiquait aux robots d’indexation quelles pages indexer et quelles pages oublier, ce nouveau fichier propose d’inclure des instructions aux systèmes d’IA dans les pages HTML. 

Pour les chercheurs Jonathan Zong et Frank Elavsky, il est dommage que ces propositions d’accessibilité pour les machines se déploient bien plus rapidement que ne l’ont été celles pour l’accessibilité des personnes en situation de handicap, s’indignent-ils dans une tribune pour Tech Policy Press. Mais, rendre le web accessible aux machines peut difficilement aider à le rendre accessible aux personnes en situation de handicap visuel par exemple. Le format llms.txt ne propose qu’une documentation en texte brut que les modèles de langues savent traiter, mais n’offre aucune indication pour les systèmes de lecture d’écran qu’utilisent les malvoyants par exemple. Le risque est grand que « ces aménagements ne profitent pas aux utilisateurs handicapés, mais aussi que les développeurs finissent par considérer « lisible par machine » comme synonyme d'« accessible », cochant ainsi une case qui n'a jamais été réellement cochée ». 

Améliorer l’accessibilité à l’IA ne signifie pas améliorer l’accessibilité pour tous. L’abaissement des trottoirs par exemple, rappellent les chercheurs, ne s’est imposé que dans les années 70 seulement quand des militants handicapés ont eux-mêmes coulé des rampes en béton de nuit. Ils n’ont été obtenus que par l’action directe, les recours juridiques et la mobilisation politique ! Les investissements en matière d’accessibilité ne se justifient et ne s’imposent que quand il est démontré qu’ils profitent également aux personnes non handicapées (ce qu’on appelle l’effet d’entraînement). En 2016, lors d’une démonstration de véhicule autonome, une voiture refusa d’avancer car le marquage au sol était effacé. Le besoin de servir cette industrie a conduit à une normalisation du marquage et à une nouvelle réglementation fédérale en 2022 pour qu’il soit plus contrasté et fiable. « Ces améliorations profitent à tous les conducteurs, notamment ceux qui conduisent la nuit. Mais, si le besoin existait déjà, des mesures concrètes n'ont été prises que lorsque les constructeurs de voitures autonomes ont fait pression pour améliorer la question ». « Ce phénomène, où les personnes handicapées se battent pour des infrastructures qui finissent par être exploitées et supplantées par des systèmes automatisés, mérite un nom. Appelons-le « effet d'automatisation progressive » : les rampes que les utilisateurs de fauteuils roulants ont construites et pour lesquelles ils se sont battus sont désormais utilisées par des robots livreurs qui se disputent les mêmes trottoirs, à mesure que l'automatisation technologique gagne en ampleur et en puissance dans les domaines physique et numérique. Cet effet d'automatisation progressive s'inscrit dans une longue histoire d'utilisations capitalistes et militaristes d'infrastructures publiques, qui consolident le pouvoir tout en marginalisant activement les personnes handicapées.»

« Pour contrer l'effet d'automatisation galopante, les défenseurs des droits des personnes handicapées et les décideurs politiques doivent jouer un rôle moteur dans l'orientation des changements d'infrastructures induits par l'IA, afin qu'ils profitent aux personnes handicapées. Si le web doit être restructuré pour être lisible par les machines, les experts en accessibilité doivent être en première ligne pour décider de la manière dont cette restructuration sera effectuée, en veillant à ce que les normes servent les utilisateurs handicapés et pas seulement les agents d'IA. »

Pire, le risque est fort que les entreprises d'IA commencent à présenter la lisibilité par machine et l'infrastructure robotique comme des arguments en faveur de l'accessibilité, comme certaines le font déjà : le risque d’accessibility-washing s'accroît. L'énergie politique en faveur de véritables obligations d'accessibilité pourrait s'affaiblir si le public en vient à croire que l'IA résout le problème comme un sous-produit du progrès technologique, par exemple, parce que les chatbots d’IA générative sont capables de décrire les images dont les balises de descriptions n’ont pas été renseignées. En pensant que ces outils peuvent résoudre tous les défis d’accessibilité, le risque est fort que l’exigence d’accessibilité diminue… plus qu’elle ne se résolve.

Le toujours très inspirant institut de recherche indépendant Data & Society lance une nouvelle initiative visant à renforcer la citoyenneté à l’ère de l’IA. Une initiative qui nous semble inspirante à Café IA tant elle fait écho à notre propre mission. L’ambition est forte : faire passer le public du statut d’utilisateur à celui d’acteur, expliquent ses responsables. La culture de l’IA ne suffit pas. « Et le public mérite bien mieux qu’une simple formation à l’utilisation de l’IA. Et il l’exige de plus en plus. » « Les Américains constatent comment les systèmes d’IA façonnent leur accès aux opportunités, à leurs droits et à leur dignité, et ils s’interrogent sérieusement sur l’impact de cette technologie sur tous les aspects de la vie, du travail à l’éducation en passant par l’environnement. Comment les systèmes automatisés évaluent-ils les candidatures et les candidats eux-mêmes ? Les tuteurs IA contribuent-ils à la réussite des élèves ou, au contraire, limitent-ils leurs connaissances ? Les immenses centres de données construits pour alimenter l’IA font-ils exploser les factures d’énergie des collectivités ? Une simple « connaissance » de l’IA ne suffit pas à répondre à ces questions, ni à toutes celles qu’elles soulèvent. Chacune d’elles nous oblige à appréhender clairement la technologie, à examiner de manière critique ses applications et à mobiliser les outils de la participation citoyenne pour en orienter le développement. »

De même que l’éducation civique aux États-Unis permet aux citoyens de comprendre leurs droits, leurs devoirs et le fonctionnement du gouvernement, ce travail requiert un programme d’enseignement. D’où cette initiative d’éducation civique à l’IA : « une approche de l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective. En mettant en lumière les outils civiques permettant au public d’exercer un pouvoir politique sur les systèmes d’IA et les plateformes technologiques – notamment au niveau local –, l’initiative d’éducation civique à l’IA renforcera la capacité des citoyens à participer à la conception et au déploiement de ces technologies, et contribuera à asseoir un pouvoir démocratique sur les institutions qui les créent et les promeuvent.»

Pour mobiliser la négociation collective pour peser sur l’utilisation de l’IA au travail, pour demander des changements dans les procédures d’achat des systèmes d’IA dans les écoles, pour exiger la transparence des outils de tri et de sélection automatisés, les gens doivent comprendre les processus civiques disponibles pour les utiliser. Telle est l’ambition du programme AI Civics : faciliter et approfondir l’apprentissage des modalités d’action en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourraient s’appuyer. 

Partout dans le monde, les travailleurs utilisent la négociation collective pour influencer l’utilisation de l’IA sur leur lieu de travail. Des militants font pression sur les autorités locales chargées d’autoriser les permis de construire afin d’exercer un pouvoir sur la construction des centres de données. Des élèves et des parents réclament des changements dans les politiques et les procédures d’achat des écoles. C’est la participation citoyenne en action : les communautés utilisent les leviers à leur disposition pour déterminer si et comment l’IA et ses infrastructures sont déployées. Mais avant cela, elles ont dû comprendre ces processus civiques et apprendre à les utiliser à leur avantage. Le programme AI Civics facilitera et approfondira cet apprentissage, en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourront s’appuyer.   

En 2025, D&S a organisé un cycle de conférences sur le thème “Comprendre l’IA”. L’initiative que l’Institut lance est le résultat des commentaires qu’ont adressé le public aux chercheurs. Dans ces commentaires, expliquent les chercheurs et chercheuses de D&S, trois points sont ressortis  : 

– Comme nous le disions nous même, les gens sont inquiets de l’IA. « Les gens se sentent pris au dépourvu par la rapidité et l’ampleur de ce changement, et frustrés par l’impression qu’il se produit sans leur participation ». 

– « Même les utilisateurs de l’IA s’inquiètent de ses impacts. Les participants nous ont confié utiliser des outils d’IA au quotidien, mais être mal à l’aise face aux compromis et aux coûts cachés. Ils souhaitent dépasser le vernis séduisant du battage médiatique autour de l’IA et comprendre les véritables implications de l’utilisation de ces outils, leurs coûts et avantages réels, ainsi que les moyens d’en atténuer les effets néfastes. »

– « Lassés d’être des consommateurs passifs, les citoyens cherchent des moyens de s’engager davantage. Nombreux étaient ceux qui souhaitaient découvrir des pistes concrètes pour une action collective, d’autant plus que la réglementation gouvernementale et les efforts pour responsabiliser les entreprises technologiques sont insuffisants. Nous avons constaté une volonté d’appréhender la complexité et un désir de s’opposer aux discours sur l’inévitabilité technologique. »

La culture de l’IA, la littératie, c’est-à-dire la maîtrise de savoirs, de capacités et d’aptitudes liés à l’IA, telle qu’elle est actuellement conçue, ne répond pas à ces besoins, estime l’Institut. Bien souvent, cette culture se limite à offrir la possibilité d’acquérir les compétences et les connaissances nécessaires pour utiliser l’IA et en tirer profit. Mais c’est un discours qui répète souvent que l’IA est inévitable et que ceux qui ne possèdent pas de connaissances dans ce domaine seront laissés pour compte. Dans un contexte économique déjà particulièrement difficile, pour beaucoup de gens, cette approche sonne comme une menace. 

« Dans son nouveau rapport, (404) Job Not Found : What Workforce Training Can’t Fix for Black Atlantans in the Age of AI, Anuli Akanegbu, chercheuse chez Data & Society, analyse la manière dont l’IA est abordée dans les milieux universitaires, promue par l’industrie, mise en œuvre par les pouvoirs publics et perçue au sein de la société civile. Basée à Atlanta, ville qui aspire à devenir l’épicentre de la main-d’œuvre de demain préparée à l’IA, Akanegbu décrit l’incapacité des pouvoirs publics et de l’industrie à définir clairement la culture de l’IA ou à préciser les compétences nécessaires aux travailleurs sur un marché du travail de plus en plus dominé par l’IA comme une abstraction stratégique, une forme de flou intentionnel qui transforme l’avancement professionnel en un objectif en constante évolution » (voir également toutes les limites des annonces qui exigent une « maîtrise de l’IA exigée »). « Ce flou sert un dessein : il reporte la responsabilité du chômage sur une main-d’œuvre majoritairement noire plutôt que de s’attaquer aux conditions structurelles qui rendent l’accès aux emplois de qualité de plus en plus difficile. En présentant l’adoption de l’IA comme une question d’effort individuel plutôt que de limitations systémiques, le concept de littératie de l’IA a été instrumentalisé pour promouvoir une solution simpliste au problème très complexe du déplacement d’emplois. De même que l’éducation aux médias imputait la désinformation, la manipulation médiatique et l’effondrement du système d’information aux utilisateurs individuels des réseaux sociaux, l’éducation à l’IA reproche aux travailleurs de ne pas trouver d’emploi rémunérateur plutôt qu’à un contexte socio-économique plus large qui normalise la précarité. »

D&S souhaite que son initiative parte des travailleurs, des étudiants, des citoyens… et qu’elle s’appuie sur les connaissances militantes pour aider les citoyens à exercer davantage leur pouvoir collectif à l’ère de l’IA. L’enjeu n’est pas seulement de se former à l’IA ou de s’y préparer, mais d’y ajouter la participation et l’intervention citoyenne. D&S est à la recherche d’organisations souhaitant rejoindre ce programme pour construire les ressources permettant de renforcer les capacités d’actions des citoyens. Que ce soit par exemple en créant des ressources pour les usagers des bibliothèques, ou en travaillant avec les associations de parents d’élèves pour documenter leurs méthodes pour mieux inspecter les marchés publics des districts scolaires lorsqu’ils achètent des outils technologiques… (voir notre article sur la montée de la contestation de l’IA à l’école).

« Les risques et les préjudices liés à l’IA sont bien documentés, mais ils ne sont pas inévitables. Notre mission essentielle aujourd’hui est de renforcer le pouvoir démocratique sur les institutions qui conçoivent et déploient les systèmes d’IA. Il est temps que la responsabilité publique et l’intérêt général soient de nouveau au cœur de l’innovation technologique à grande échelle. Il est temps que le grand public exerce un contrôle démocratique plus important sur l’IA. Il est temps d’instaurer une éducation civique sur l’IA. » 

En tout cas, cette approche par l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective est stimulante et inspirante. Bien loin par exemple des orientations britanniques prises en janvier de formation à l’IA pour tous, contestées par les acteurs de la médiation du Royaume-Uni (voir « Royaume-Uni : l’IA pour tous ! Laquelle ? »).

A l’occasion de la 7e édition des journées numériques organisée par l’Institut de la gestion publique et du développement économique (IGPDE) auxquelles participait la mission Café IA, l’IGPDE a publié des panneaux d’exposition "Plongée au coeur de l'IA générative” pour comprendre l’IA générative et ses enjeux. Des panneaux à télécharger et imprimer. 

On pourra compléter ces panneaux d’autres ressources, notamment le kit de sensibilisation au numérique responsable qui lui aussi comprend des panneaux d’exposition, un jeu de cartes et un jeu de plateau, librement accessibles et téléchargeables. 

Merci de nous avoir lus ! Si vous avez apprécié la lettre d’information de cette semaine, partagez-la ! Tout un chacun peut s’inscrire ici.

L’équipe est sur les routes. Pas de lettre la semaine prochaine. On vous donne rendez-vous vendredi 26 juin. 

Comme d’habitude, n’hésitez pas à nous faire vos retours. Vous avez des questions, des remarques ou des suggestions ou vous souhaitez que nous abordions un sujet en particulier ? Nous sommes à votre écoute ! N’hésitez pas à répondre à ce mail ou à nous écrire à bonjour@cafeia.org. 

Se désinscrire.