Pour Aeon, les sociologues Marion Fourcade et Kieran Healy, identifient un intéressant paradoxe, celui de l’authenticité. Dans leur livre, The Ordinal Society (Harvard University Press, 2024, voir notre critique), ils identifiaient déjà plusieurs paradoxes de la numérisation de nos sociétés, comme celui de la standardisation ou de l’individualisation. 

Dans la société ordinale (une société du score, comme le disaient déjà Daniele Citron et Frank Pasquale), rappellent-ils, tout est ordonné, classé, trié pour être apparié. « C’est grâce à leur capacité à observer, juger et gérer les individus dans différents contextes sociaux que les ordinateurs exercent leur influence la plus significative sur la société. Partout, la logique bureaucratique des organisations fusionne avec la logique calculatoire des machines. Partout les ordinateurs produisent des scores qui créent des différences, définissent des priorités, organisent les files d’attente et constituent une base d’action extrêmement utile et puissante. Ils instaurent l’ordre en catégorisant les personnes, les choses et les idées, puis en les associant entre elles, à des positions sociales, à des biens, des services et des prix. »

« Les schémas qui en résultent constituent ce que nous appelons structure sociale – une sorte de société ordinale où les données générées par ordinateur servent de repères pour nos choix. Dans le domaine économique, par exemple, ces méthodes contribuent à fixer les salaires et les horaires de travail. Elles calculent les loyers, le prix des assurances et déterminent l’admissibilité aux services sociaux. Elles facilitent de nouvelles formes de recherche de rente et accélèrent le développement de nouvelles classes d’actifs négociables sur les marchés financiers. Elles ont également modifié la relation entre les individus et les groupes qu’ils forment et auxquels ils appartiennent. Elles organisent la circulation de l’information, la distribution de l’influence sociale et les moyens de mobilisation politique. Notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en est trouvée profondément altérée. » L’ordonnancement algorithmique a une conséquence expliquent-ils : il transforme en retour notre perception de nous-même. Ce nouveau rapport semble libérer les personnes des affiliations sociales et les juger selon leurs qualités. « Il promet l’intégration aux exclus, la reconnaissance aux créatifs et une juste récompense aux entrepreneurs.» 

« Pourtant, cette promesse d’émancipation s’accomplit par des systèmes qui classent, trient et, surtout, hiérarchisent les individus avec une précision toujours plus grande et à une échelle auparavant inimaginable. L’ordre social qui en résulte est une sorte de paradoxe, caractérisé par des tensions constantes entre liberté individuelle et contrôle social, entre l’élan subjectif de l’authenticité intérieure et les forces objectives de la validation externe. Il donne naissance à une certaine manière d’être, à un nouveau type de soi, dont les expériences sont définies par la quête d’autonomie personnelle et l’attrait de la dépendance aux plateformes. » Derrière l’individualisation, la personnalisation du calcul, se cache en fait une catégorisation toujours plus élastique, granulaire. Comme nous le disions déjà il y a près de 10 ans, la personnalisation n’a rien de personnel : « les algorithmes ne cherchent pas à nous distinguer, mais à nous catégoriser. » Mais les effets de ces catégorisations, produites à la volée, inférées, recomposées ou profondes, sont bien réelles, tant d’un point de vue personnel que collectif. C’est ce que montrait par exemple la pertinente note de Melkom Boghossian pour la fondation Jean Jaurès quand il expliquait comment les algorithmes accentuent les clivages de genre. Mais, pour Marion Fourcade et Kieran Healy, les conséquences sont plus profondes encore, car ces catégorisations « exacerbent l’individualisme et la compétition interpersonnelle  à un point tel que notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en trouve profondément altérée ». Les sociologues parlent d’individualisme exacerbé. 

Polarisations identitaires

« Aux débuts d’Internet, être en ligne offrait certaines libertés. Non seulement l’anonymat ou le pseudonymat en ligne étaient courants, mais ils étaient célébrés comme une forme de libération. » Nous pouvions alors avoir plusieurs versions de nous-mêmes, plusieurs identités et naviguer dans leurs interstices, entre des profils qui ne communiquaient pas entre eux. « Vous bénéficiez d’une forme de confidentialité qui repose moins sur des protections juridiques explicites que sur les limitations techniques de systèmes connectés en théorie, mais non intégrés en pratique », votre profil de joueur ne communiquait pas avec votre profil sur tel ou tel forum. Un peu comme la séparation administrative, qui permettait aux Etats-Unis, aux immigrants sans papiers de payer leurs impôts en toute sécurité. « Cette séparation administrative délibérée permettait aux entreprises et aux gouvernements américains de tirer profit de la main-d’œuvre immigrée tout en créant un véritable sanctuaire où des millions de personnes pouvaient s’acquitter de leurs obligations fiscales (grâce à leur numéro d’identification fiscale individuel) sans craindre d’être expulsées. » 

Mais pour les sociologues, c’est là ce qui est en train de changer. Le Département de l’efficacité gouvernementale (Doge) a changé la donne et les informations fiscales sont désormais utilisées pour retrouver les sans-papiers. En fait, les espaces d’expression se réduisent quand d’innombrables agences utilisent les données des courtiers en données, ou quand les agences gouvernementales acquièrent le droit d’examiner les profils sur les réseaux sociaux. A mesure que les croisements de données sont rendues possibles entre institutions étatiques et privées, la surveillance devient non seulement omniprésente, mais surtout bien plus puissante. 

Mais plus encore que la possibilité d’identifiabilité, l’exploitation des profilages renvoie à chacun des questions sur son identité même. Qui sommes-nous vraiment ? Ne sommes-nous pas de plus en plus celle ou celui que nous renvoient l’exploitation de nos profils ? En exploitant notre soif de sociabilité et nos idéaux d’épanouissement personnel, les réseaux sociaux nous incitent à afficher nos convictions et à rallier des alliées pour les valider, dans une quête d’authenticité qui se retourne souvent contre ses auteurs. Dans un livre à paraître à l’automne sur les influenceurs (Gurus, Hucksters, Entertainers, Chicago university press, 2026), la sociologue Angèle Christin montre par exemple comment la nécessité de se distinguer peut conduire à la polarisation. « La dynamique des plateformes pousse les artistes du divertissement et les gourous à produire des contenus extrêmes et incendiaires pour maintenir l’engagement de l’audience, tandis que les marques et les spécialistes du marketing incitent les vendeurs à des prestations commerciales répétitives et convenues. Les inquiétudes concernant la manipulation algorithmique et les conflits entre créateurs engendrent par ailleurs des scandales nuisibles à la réputation, souvent marqués par le harcèlement. Angèle Christin révèle comment le travail sur ces plateformes favorise, de manière répétée et structurelle, la précarité et les inégalités, ainsi que les clashs destructeurs et la diffusion de contenus incendiaires en ligne. » 

Pour Fourcade et Healy, le piège de l’authenticité génère d’autres chausses-trappes encore. Ce que l’on y affiche devient la preuve de son identité. « Dans son ouvrage Ballad of the Bullet (Princeton university press, 2020), l’ethnographe Forrest Stuart a montré le décalage important entre les performances que les musiciens hip-hop de Chicago mettent en scène sur les réseaux sociaux et la réalité plus banale de leur vie. Les jeunes qui se donnent des airs de durs pour vendre leur musique sur YouTube risquent d’apprendre à leurs dépens que les forces de l’ordre et les juges ont tendance à interpréter ces signes au pied de la lettre, sans y voir les jeux de pouvoir et les affirmations identitaires dont ils surjouent. De même, le recours par l’administration Trump aux tatouages ​​comme preuve facilement mesurable et accessible d’appartenance à un gang transforme un marqueur souvent superficiel en un simple critère d’évaluation pour les expulsions. Dans un pays où le gouvernement s’arroge le droit d’instrumentaliser les opinions déclarées des citoyens dans les procédures d’immigration, l’effet est glaçant ». 

L’expressivité en ligne, renforcée par les contraintes algorithmiques, qui produisait des liens sociaux, s’apprête bien plus à générer des obstacles pour chacun d’entre nous.  

De l’authenticité à l’authentification

Les contenus génératifs viennent renforcer encore le phénomène en déstabilisant encore un peu plus l’authenticité, en floutant la distinction entre le vrai et le faux. « Tout cela a pour effet de déplacer l’accent de l’authenticité vers l’authentification, de la démonstration de la véracité de son identité vers la preuve de la véracité de son témoignage. La question n’est plus de savoir si les marqueurs d’identité sont authentiques (« Est-ce que ces données sont vraiment vous ? ») ni même sincère (« Qui êtes-vous vraiment ? »), mais si chaque élément de votre présence numérique est exempt de toute médiation artificielle (« Est-ce vraiment vous ? »). Ce nouveau régime d’authentification transforme les interactions, d’une série de performances à juger, en une succession d’actions à vérifier par des machines à chaque étape. Être légitime exige désormais d’être publiquement identifiable, authentique et, de plus en plus, pleinement authentifié. » 

« Ce qui a commencé comme une célébration de l’unicité individuelle, encourageant la production de preuves numériques, évolue vers un système de vérification complexe qui considère toute trace comme potentiellement suspecte. » Avec la circulation de fausses versions de nous-mêmes, nous risquons de nous retrouver pris dans un cycle sans fin de démonstration et de défense de notre existence, nous soumettant toujours davantage à un mécanisme de scepticisme institutionnalisé, venant renforcer (s’il en était besoin) la conviction administrative que chacun est coupable, fraudeur, bonimenteur… L’image que l’on donne de soi est à la fois perçue comme la réalité et comme un mensonge, nécessitant d’être toujours interrogée pour être utilisée à son encontre.  

De l’individualisation du savoir à la construction de croyances

« Ces crises politiques et techniques de l’authentification dépassent largement le cadre de l’individu. Avec l’avènement d’internet, le savoir s’est considérablement étendu et diversifié. Mais il est aussi devenu plus personnalisé et plus étriqué, car les internautes interagissent avec le web en s’appuyant sur leurs convictions personnelles et leurs conceptions de la réalité, et en les développant. L’arrivée de l’IA générative aggrave peut-être ce défi épistémique : quand tout doit être authentifié, mais que les contrefaçons sont de plus en plus sophistiquées, comment être sûr de quoi que ce soit ? » 

Nous vivons à l’ère de la désintermédiation du savoir. En un clic, nous pouvons consulter des documents juridiques originaux, télécharger de vastes ensembles de données, bénéficier de l’aide d’un assistant IA pour écrire le code nécessaire à leur analyse et rédiger rapidement les résultats. « Il ne faut pas sous-estimer à quel point cette transformation a été stupéfiante et incroyablement enrichissante à bien des égards. Malgré ses problèmes, si l’on demandait à un chercheur s’il reviendrait à un monde entièrement pré-numérique et pré-réseau pour le partage des connaissances, la communication académique et l’accès aux données, la réponse serait massivement « non ». Mais cette transformation du quotidien professionnel s’accompagne d’autre chose. La propension à la recherche est devenue, sans qu’on s’en rende compte, une seconde nature. » Aujourd’hui, « faire ses propres recherches » est plus qu’une simple habitude chez les universitaires. C’est un impératif moral, un devoir civique et, un peu comme être un bon conducteur, une compétence que chacun s’imagine posséder. Les individus capables d’explorer le réseau et d’interroger les bases de données de modèles de langage à grande échelle (LLM), et qui ont la confiance en eux et les moyens de diffuser leurs découvertes, tendent à devenir une source d’opinion faisant autorité. Du moins, c’est ainsi qu’ils le perçoivent. On comprend dès lors pourquoi les connaissances ainsi produites sont souvent si chargées d’émotion. Plus on s’investit dans la recherche et le développement de sa propre compréhension, plus cette quête de savoir prend de l’ampleur. »

« Le savoir se transforme en une forme de révélation personnelle, où chacun est à la fois celui qui cherche et celui qui interprète sa propre vérité ». « Ce qui a commencé comme un exercice de raisonnement autonome devient une question de croyance – une croyance défendue avec d’autant plus de ferveur qu’elle semble avoir été découverte par soi-même plutôt qu’imposée de l’extérieur. » Le problème est que cette quête individualisée de sens renforce la polarisation. « L’idée même de parvenir à un consensus largement partagé sur les faits semble de plus en plus hors de portée ». « En conséquence, les hiérarchies traditionnelles du savoir et les sources d’expertise sont contournées au profit de recherches algorithmiques autoguidées, qui génèrent une réponse précisément pertinente à une requête ou à une consigne, qu’il s’agisse d’une liste de liens ou d’un paragraphe de synthèse. Dans le meilleur des cas, cette pratique tend vers une forme d’idéal démocratique cher à John Dewey : elle semble revitaliser la production de savoir en tant qu’entreprise participative, animée par un esprit démocratique d’enquête ouverte et de recherche collective de la vérité. »… Tout en demeurant très individualisée et individualisante. C’est ce qu’espéraient beaucoup d’observateurs aux débuts du World Wide Web, y compris lors des premières vagues des réseaux sociaux, des blogs jusqu’à Twitter. Toutefois, dans le pire des cas, la diffusion du savoir finit par transiter par des plateformes qui personnalisent les résultats à grande échelle et favorisent l’engagement envers des contenus extrêmes ou trompeurs, car le sensationnalisme et la complaisance sont les moteurs des revenus publicitaires. 

Lorsque, en 2023, le gouvernement canadien a exigé des entreprises du numérique qu’elles rémunèrent les médias pour les liens renvoyant vers des actualités publiées sur leurs plateformes, Meta a tout simplement bloqué ces liens sur Facebook et Instagram. Le vide informationnel qui en a résulté a été rapidement comblé par des contenus non vérifiés et orientés à droite, ce qui a contribué à soutenir le candidat local de mouvance trumpiste. « Nous sommes désormais submergés d’exemples de plateformes technologiques usant de leur puissance de marché pour modeler les écosystèmes de l’information selon leurs impératifs commerciaux, au mépris des conséquences sociétales ». Google a révolutionné la recherche en traitant, de fait, les pages web comme un vaste réseau de réputation. L’autorité relative des sites était déterminée par une multitude de décisions indépendantes : celle de créer ou non un lien vers eux. Cependant, la volonté d’adapter les résultats aux préférences individuelles a été de plus en plus dictée par l’efficacité des titres accrocheurs (clickbait) ou du placement publicitaire. Il en a résulté une fragmentation des connaissances accessibles au public, désormais produites pour faciliter la manipulation du marché en confortant des croyances préexistantes. Si la perception de la recherche en ligne comme une forme de pensée critique et active a perduré, il peut s’avérer difficile, pour certains, de trouver des informations fiables. Cette situation rend d’autant plus ardue la construction d’une réalité partagée. Et l’idée même de parvenir à un consensus largement partagé sur les faits – quelle que soit leur teneur – semble s’éloigner toujours davantage. 

L’illusion de l’individu souverain : une identité centrée sur le soi

« C’est dans ces gouffres de la connaissance que se façonne le sentiment d’une identité centrée sur le « soi » nourri par la conviction que l’individu est l’unique source véritable de sa propre illumination ». La conjonction d’un égocentrisme épistémologique et de l’hyperconnectivité rend les individus perméables à des formes diffuses de construction de « super-sens » (pour reprendre une expression de Hannah Arendt). « En quête d’une vérité porteuse de sens, ils traquent des indices significatifs disséminés sur Internet, s’appuyant sur des algorithmes commerciaux et des systèmes de recommandation pour assembler des bribes d’information disparates en une vision du monde cohérente. Ce qui commence souvent comme une quête existentielle ludique peut aisément se cristalliser en croyances déformant la réalité » ; celles-ci prospèrent en favorisant l’émergence de nouveaux types sociaux et de regroupements politiquement influents. À son apogée, le mouvement QAnon a illustré l’interaction entre cette disposition à la quête de sens, les médiations numériques et le ciblage à but lucratif. Ses membres se percevaient comme des esprits critiques, seuls capables de mettre au jour des vérités cachées et de décrypter des indices complexes. Ils rejetaient avec véhémence l’idée d’appartenir à une secte, arguant – comme l’a expliqué l’un d’eux au chercheur Peter Forberg – qu’« aucune secte ne vous incite à penser par vous-même ». 

Le risque est fort que les grands modèles de langages (LLM) ne puissent résoudre le problème de la fiabilité des connaissances au sein d’une sphère publique fragmentée. « Tout comme les impératifs commerciaux ont engendré des contenus fallacieux et des bulles de filtres, les LLM seront probablement soumis aux mêmes pressions dans un contexte de rendement décroissant ». Les entreprises qui les entraînent ayant un besoin impérieux de rentabilité, les logiques commerciales classiques – telles que la personnalisation et la segmentation des services – risquent fort de s’imposer à nouveau, donnant lieu à des univers épistémiques sur mesure, générés par des modèles adaptés aux goûts et aux capacités financières de publics distincts. 

« En tant qu’individu, notre plus grande crainte culturelle est d’être englouti par la société de masse, tout comme votre plus grande crainte politique est celle d’une surveillance exercée par un État autoritaire ». Ces peurs sont toujours bien présentes. Toutefois, dans un monde saturé de catégories et d’identités, de nouveaux dilemmes surgissent, estiment les chercheurs.« Sur le plan individuel, tout – comportements publics, déclarations, mesures chiffrées – peut potentiellement devenir un facteur de différenciation et, par conséquent, une source d’identité. Du côté des organisations, les données générées par les utilisateurs conduisent à les regrouper ou à les segmenter selon des modalités de plus en plus spécifiques, éphémères et souvent incompréhensibles. Plus les classifications sociales (ou pseudo-sociales) se font précises, plus les occasions de distinctions et de jugements moraux se multiplient. La principale victime de cette évolution est la possibilité de nouer des alliances politiques stables et de grande envergure. Plus les citoyens sont traités individuellement comme des cibles d’interventions commerciales, plus la vie politique se fragmente. »

« Les méthodes traditionnelles de ciblage électoral partaient d’un message politique pour rechercher les individus susceptibles d’y adhérer. L’essor du big data inverse cette logique : on part des dispositions culturelles de l’électorat pour élaborer, en partant de la base, des messages qui résonnent avec ces attentes. »

Fourcade et Healy rappellent d’ailleurs que bien avant Cambridge Analytica, le Mouvement 5 étoiles (M5S) italien a sans doute été le pionnier de cette approche politique fondée sur les données, comme le raconte Giuliano da Empoli dans Les ingénieurs du chaos (2019). Tout a commencé en 2005, lorsque Gianroberto Casaleggio, spécialiste du marketing numérique féru de démocratie directe, a recruté l’humoriste et satiriste populaire Beppe Grillo pour lancer un blog éponyme, destiné à partager avec le public sa désillusion et son indignation politiques. Ce blog encourageait la participation citoyenne, permettant ainsi à Casaleggio – auquel a succédé son fils Davide après son décès en 2016 – de repérer les griefs et les propositions suscitant le plus d’écho grâce aux « j’aime », aux commentaires et aux retours des utilisateurs, tout en testant, adaptant et affinant le discours politique de Grillo. Il en a résulté la naissance du premier « parti algorithmique », dont l’idéologie chaotique a été façonnée à partir des enseignements tirés des données. Très vite, le peuple du blog a été invité à descendre dans la rue, soutenu par l’infrastructure des réseaux sociaux d’un autre outil numérique : l’application Meetup. En 2018, le M5S est devenu le premier parti d’Italie, contribuant à former un gouvernement de coalition de courte durée. Un petit groupe d’hommes ultra-riches a repris le contrôle de l’État en s’adressant directement aux masses. 

Les campagnes politiques modernes ont fait évoluer cette approche vers une forme plus sophistiquée et, sans doute, plus manipulatrice encore, soulignent les chercheurs. Les données issues des réseaux sociaux – concernant les pratiques culturelles, les émotions et les dispositions d’esprit sur une vaste gamme de sujets – permettent d’élaborer de nouveaux récits et de nouvelles esthétiques, de remodeler l’environnement informationnel et les liens sociaux des individus, et de susciter leur vote à des moments stratégiques. « L’objectif politique visé est généralement atteint grâce à une « architecture de persuasion » élaborée, reposant sur des messages personnalisés et une exposition répétée. Par exemple, les algorithmes publicitaires identifient des schémas d’actions efficaces (dons, « j’aime », achats, partages) et ciblent des utilisateurs similaires susceptibles de reproduire ces comportements ». Chaque itération exploite des données de réponse en temps réel pour dresser une cartographie toujours plus fine des cibles manipulables. « La mobilisation politique est, de fait, régie de manière cybernétique par des algorithmes. Sa logique opérationnelle émerge de constellations de variables difficiles à appréhender dans leur ensemble, conférant aux formations politiques qui en résultent un caractère émergent et ad hoc, relativement indépendant des instances de médiation traditionnelles telles que les partis politiques et les mouvements sociaux. L’affaiblissement de ces structures conventionnelles et la possibilité de personnaliser les messages politiques engendrent également des formes de domination sociale hautement individualisées. Les dirigeants populistes prospèrent grâce à l’idée qu’ils entretiennent un lien direct avec le public – bien que ce lien soit souvent entretenu par tout un écosystème, une « boucle de rétroaction de propagande » soigneusement élaborée. Les propriétaires de réseaux sociaux peuvent même imposer ce lien aux utilisateurs par le biais de manipulations algorithmiques servant leurs propres intérêts, comme l’auraient fait Elon Musk et Donald Trump sur leurs plateformes respectives. Grisés par l’idéal de l’« individu souverain », affranchi des frontières nationales, des normes sociales ou de la loi, quelques hommes ultra-riches ont réussi à reconquérir le pouvoir sur l’État et les élites traditionnelles en faisant appel directement aux masses et à la liberté du marché. » 

Trump lui-même semble s’être transformé en simple token, offrant son propre statut et sa réputation comme une opportunité d’investissement à ses abonnés enthousiastes… ironisent les chercheurs. Mais en réalité, pour la plupart d’entre nous, l’économie numérique exige de nous de travailler plus dur, même pour en tirer une célébrité rapide et en tirer profit. Les règles du jeu sont biaisées puisque nul ne maîtrise les catégories qui le propulsent ou l’invisibilisent, et l’argent, le temps et le capital social jouent un rôle majeur pour propulser certains individus au-dessus des autres. L’économie numérique repose de plus en plus sur la capacité à accéder et à payer des « accélérateurs algorithmiques » (publicité, comptes certifiés, cercle relationnel de personnes déjà visibles, affaiblissement des contenus pour booster leur viralité, usage des bots). L’essor du « personal branding » (la mise en scène de soi) témoigne en partie d’un désespoir, d’un écran de fumée idéologique masquant une réalité sociale bien plus sombre sur le terrain. 

« Alors que le déploiement des technologies numériques continue de générer des concentrations de richesse toujours plus stratosphériques, les masses s’enfoncent davantage dans le vide laissé par le démantèlement de la solidarité sociale et la montée de l’automatisation. Ce que l’on oublie souvent au sujet des « individus souverains », c’est que tout le monde ne peut pas en devenir un. »

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

En Ukraine, l’automatisation de la guerre a franchi une nouvelle étape en 2025, rapporte un long reportage du New York Times. Jusqu’à présent, la plupart des drones de combat nécessitaient un pilote humain. Il était une violence à distance, comme le disait la philosophe Grégoire Chamayou dans Théorie du drone (La Fabrique, 2013) qui dénonçait déjà la fabrique des automates politiques qui transforme la guerre en chasse à l’homme, une campagne sans fin d’exécutions extrajudiciaires qui se font en dehors du droit de guerre.

Mais désormais, les drones se passent de pilotes. Certains nouveaux drones ukrainiens, une fois leur cible verrouillée, peuvent utiliser l’intelligence artificielle pour la poursuivre et la frapper, sans aucune intervention humaine supplémentaire. C’est notamment le cas des drones développés par la très discrète startup Project Eagle, fondée par l’ancien PDG de Google, Eric Schmidt, après l’invasion de l’Ukraine en 2022. « Durant l’année 2025, dans la guerre russo-ukrainienne, lors d’opérations largement invisibles et passées inaperçues, l’ère des robots tueurs commença à se dessiner sur le champ de bataille. Sur un front d’environ 1 300 kilomètres et dans l’espace aérien des deux pays, des drones dotés de nouvelles fonctionnalités autonomes sont désormais utilisés quotidiennement au combat ». 

« L’Ukraine est devenue un terrain d’essai grandeur nature où fabricants d’armes, gouvernements, investisseurs, unités de première ligne et ingénieurs occidentaux collaborent pour produire des armes qui automatisent une partie de la chaîne de destruction militaire conventionnelle. Équipés de logiciels propriétaires embarqués, entraînés sur de vastes ensembles de données et souvent exécutés sur des micro-ordinateurs standard comme le Raspberry Pi, les drones autonomes font désormais partie intégrante du quotidien sanglant et destructeur de la guerre.» Toutes les fonctions sont désormais autonomes, du décollage à la frappe terminale, en passant par la coordination entre drones. 

« Les drones entièrement contrôlés par des humains restent bien plus nombreux que leurs homologues semi-autonomes. Ils sont responsables de la plupart des blessures sur les champs de bataille. Mais les armes sans pilote ouvrent de nouvelles perspectives.» Dans les deux camps, les drones à intelligence artificielle sont au cœur d’une nouvelle course aux armements. 

Peter Asaro, vice-président de la campagne « Stop aux robots tueurs », philosophe et professeur associé à la New School, a mis en garde contre les dangers croissants liés à l’exploration de territoires pratiques et éthiques inexplorés par ces armes. « Le développement d’une autonomie croissante des drones soulève de graves questions concernant les droits humains et la protection des civils dans les conflits armés », a-t-il déclaré. « La capacité de sélectionner des cibles de manière autonome constitue une limite morale à ne pas franchir. »

Pour l’instant, les armes dotées d’IA restent fragiles, limitées dans leurs fonctions et moins précises que les armes contrôlées par des humains qualifiés. Nombre d’entre elles ont une faible autonomie et une courte durée de vol. 

Du rôle du brouillage GPS

Les drones autonomes sont la réponse aux contre-mesures à l’égard des drones prisent durant la guerre en Ukraine, notamment les brouilleurs qui saturent les fréquences utilisées pour le contrôle de vol et les liaisons vidéo, faisant perdre le signal entre le pilote et le drone. En améliorant l’autonomie, l’idée était, qu’en cas de rupture de communication anticipée, les pilotes pouvaient céder le contrôle du vol à un système automatisé – une puce puissante et un logiciel hautement spécialisé – capable d’achever la mission, comme l’a proposé Underdog imaginé par la société ukrainienne Norda dynamics : un petit module se fixant à un drone de combat pour lui apporter l’autonomie finale nécessaire sur une cible verrouillée. 

Le virage radical opéré par l’armée ukrainienne vers la guerre par drones a contribué à sauver le pays, estime le journaliste du New York Times, Christopher John Chivers. Pendant près de quatre ans, tout en déployant la première armée au monde à se réorganiser autour d’armes sans pilote, elle a freiné les offensives terrestres de l’armée russe. Mais cette arme a ses limites. Presque tous les drones kamikazes à courte portée — un moyen essentiel pour stopper l’avancée des soldats russes — sont pilotés individuellement. Chaque drone est un redoutable acrobate aérien : capables d’atteindre des vitesses de 110 km/h, ces petits multicoptères peuvent s’arrêter, faire du surplace, virer et changer de direction pendant de longues minutes, des atouts qui permettent aux pilotes de localiser, poursuivre et éliminer leurs cibles humaines avec une efficacité glaçante. Pourtant, lors d’attaques russes soutenues, les conditions typiques du front contraignent les équipes de drones à combattre lentement. Le rythme est déterminé par le temps écoulé entre le décollage de chaque drone et son approche finale, qui, aux distances de sécurité habituelles, dépasse souvent 20 minutes. Lorsque les soldats russes infiltrent un grand nombre de lignes, les frappes de drones isolés peuvent paraître lentes et insuffisantes, laissant du temps à l’ennemi pour changer de position et s’échapper.

D’où l’intérêt à pouvoir développer des essaims de flotte. Une autre entreprise ukrainienne, Sine Engineering, a lancé Pasika (qui signifie « rucher » en ukrainien), des petits émetteurs-récepteurs radio qui servent de balises aux drones en vol. Avec Pasika, un seul pilote peut gérer des dizaines de drones.

Les drones de frappe en profondeur, eux, sortes de missiles de croisière à vol lent capables de parcourir des centaines de kilomètres, nécessitent une navigation précise pour se déplacer pendant des heures dans l’espace aérien étranger et suivre des trajectoires en zigzag avec des changements d’altitude fréquents afin d’échapper aux défenses aériennes. L’Ukraine fondait de grands espoirs sur son arsenal croissant de frappes en profondeur pour cibler les dépôts de carburant et d’armes russes. Mais, en coupant les signaux GPS au-dessus du front et sur son territoire occidental, la Russie a rendu ces systèmes inopérants. 

Le brouillage GPS ne se déploie pas seulement sur les conflits, rapporte Sarah Scoles pour Undark, notamment parce que ces petits brouilleurs sont facilement accessibles dans le commerce, tant et si bien que l’administration fédérale américaine des transports comme de la défense est à la recherche d’alternatives et de compléments au GPS, notamment avec l’introduction de signaux mieux cryptés pour les militaires, d’une plus grande variété de signaux pour les civils et de signaux de puissance supérieure. Le GPS est un élément de base qui irrigue la plupart des infrastructures techniques actuelles, des réseaux bancaires aux infrastructures des opérateurs de téléphonie. C’est notamment avec le lancement du jeu en réalité augmenté Pokemon Go en 2016 que les méthodes de brouillage et de corruption des signaux se sont propagées. Si les initiatives fédérales d’amélioration sont là (comme d’utiliser les autres systèmes internationaux de localisation ou de mieux détecter les interférences… ), ils manquent encore de coordination pour faire émerger des solutions pérennes. Les projets privés, eux, ne manquent pas. TrustPoint a initié le lancement de petits satellites en orbite basse émettant un signal crypté à une fréquence plus élevée que le GPS. Cela permet de réduire l’efficacité des brouilleurs et de réduire considérablement leur zone d’influence. Une autre entreprise, « Xona Space Systems, déploie également des satellites en orbite terrestre basse et a collaboré avec les gouvernements canadien et américain. Elle prévoit d’émettre des signaux 100 fois plus puissants que le GPS, offrant ainsi aux utilisateurs une précision de deux centimètres et rendant le brouillage plus difficile. Le signal inclut également un filigrane, une forme d’authentification qui, du moins pour l’instant, protège contre l’usurpation d’identité du signal ». Xona a l’avantage par rapport à son concurrent de ne nécessiter qu’une mise à jour logicielle. Le projet universitaire SuperGPS, lui, propose de déployer des émetteurs radio terrestres plutôt que spatiaux. 

D’autres solutions encore, proposent tout simplement de s’en passer, rapporte Chivers dans le New York Times. L’américain Brian Streem, créateur d’Aerobo, une société spécialisée dans les prises de vue aériennes pour des productions hollywoodiennes, a également fondé Vermeer, une entreprise qui développe des systèmes de positionnement visuel permettant aux drones de naviguer sans GPS qui intéressèrent l’US Air Force. Le logiciel de Vermeer est un système de pilotage automatique qui compare ce que voient les caméras des drones aux cartes topographiques 3D qu’ils embarquent, leur permettant de naviguer sur des terrains dépourvus de liaison satellite. 

Du rêve de l’automatisation totale… à la réalité

Chivers revient également sur les différents projets de drones eux-mêmes dotés de guidage d’attaque basés sur l’IA. C’est notamment le cas du Bumblebee, un drone intercepteur, testé en Ukraine, que les troupes américaines ont commencé à déployer, rapporte Forbes. L’entreprise de Schmidt a également fourni aux unités ukrainiennes un drone de combat de moyenne portée, d’une envergure de deux mètres, commercialisé sous le nom de Hornet. Comme le Bumblebee, il est doté d’une reconnaissance de cibles et d’un guidage d’attaque terminale basés sur l’IA, ainsi que de systèmes de communication et de navigation résistants au brouillage. Schmidt est également devenu un allié de l’Ukraine dans sa défense contre les Shahed, ces drones à longue portée de conception iranienne qui bombardent les villes ukrainiennes presque chaque nuit. En juillet 2025, il est apparu aux côtés du président ukrainien, Volodymyr Zelensky, pour annoncer un partenariat stratégique visant à fournir à l’Ukraine des drones dotés d’intelligence artificielle, notamment un système d’interception automatisé appelé Merops. Mais pour l’instant, à l’instar de l’Underdog de Norda Dynamics, les Bumblebees ou les drones de Schmidt, ces systèmes nécessitent une intervention humaine pour désigner et activer les cibles avant l’attaque. Schmidt a indiqué à plusieurs reprises s’opposer aux armes sans supervision humaine. 

Mais le paradigme de la compétition de l’offre, qui conduit nombre d’entreprises à proposer leurs solutions en échanges de d’achats garantis, propulse l’automatisation des armes vers toujours plus d’automatisation. Le drone ukrainien X-Drone, par exemple, fusionne plusieurs technologies autonomes sur des drones à longue portée. Son logiciel guide les armes vers une zone éloignée, comme un port maritime, puis utilise la vision par ordinateur pour identifier et attaquer des cibles spécifiques : navires de guerre, réservoirs de carburant, avions stationnés. L’entreprise expérimente des capacités plus complexes, notamment l’intégration de la reconnaissance faciale dans les drones afin d’identifier et d’éliminer des cibles spécifiques, et le couplage des logiciels de contrôle de vol et de navigation avec des modèles de langage naturels, « pour que le drone devienne un agent ». Le but à terme, qu’on puisse littéralement lui parler : « Vole à droite, 100 mètres. Que vois-tu ? Vois-tu une fenêtre ? Entre par la fenêtre ». Mais surtout, l’intégration de l’IA pourrait permettre de poursuivre une cible de manière autonome. Pas seulement une destination ou un objet, mais également une cible humaine identifiée. 

Pour le fondateur de X-Drone, « les drones avec IA changent la donne ». « Toute l’infrastructure militaire existante est en passe de devenir obsolète. » 

«« Les guerres de grande ampleur libère des démons », explique un pilote, du Gaz moutarde de la première guerre mondiale aux bombes atomiques de la seconde. Les armes autonomes sont en train de changer la guerre. Pour Schmidt, les armes dotées d’intelligence artificielle, suggérait-il, pourraient mettre fin à l’invasion d’un pays par voie terrestre. C’était ce que pensait aussi Richard Gatling, l’inventeur de la mitrailleuse en 1877. La violence de la mitrailleuse devait rendre superflues les grandes armées. Gatling s’est trompé. Il est probable que Schmidt se trompe également et que les drones autonomes ne signent pas la fin de la guerre, mais son extension », conclut Chivers.  

Pour Mediapart, la journaliste Justine Brabant est allée à la rencontre d’une unité antidrone ukrainienne dont nombre de pays veulent apprendre les pratiques. Sur le terrain, on découvre surtout une coordination collaborative et distribuée, où chaque unité à accès à toutes les menaces détectées sur une application pour pouvoir déterminer leurs cibles selon les tactiques des autres unités. Selon les capacités des unités, et l’évaluation des menaces, les unités ciblent les menaces qui leurs correspondent, notamment pour les plus petites, en se chargeant des plus petits drones russes. « Si l’expérience ukrainienne est si précieuse, c’est qu’elle ne consiste pas seulement à stopper quelques engins sans pilote : son armée sait en intercepter plusieurs centaines en quelques heures, sans utiliser de munitions extrêmement sophistiquées au coût disproportionné. » 

On y découvre les cartes de suivis qui permettent aux unités de déterminer qu’elle drone abattre, depuis de simples canons à de petits drones intercepteurs. « Lors du seul mois de mars 2026, l’armée russe a lancé 7 889 drones sur l’Ukraine, un record depuis le début de la guerre. Selon les données fournies par Kyiv, les forces armées ukrainiennes sont parvenues à intercepter 92 % d’entre eux. Une progression notable : en mars 2025, ce taux était de 60 %. » 

Mais plus que les exploits techniques, un autre enjeu frappe à lire Brabant. C’est l’intensification des attaques par drones. « Ils tâchent surtout de s’adapter, avec des ressources limitées, à la cadence frénétique des attaques russes. Car le rythme auquel la guerre évolue, sous leurs yeux et entre leurs mains, donne un net sentiment de vertige. » La numérisation du front ressemble à la numérisation de l’industrie ou des services : partout, elle réduit les coûts et fait augmenter les cadences. 

Reste, comme le montre d’ailleurs le reportage de Justine Brabant, les drones ne font pas tout. « Les troupes restent la ressource la plus cruciale sur le champ de bataille », rappelle l’ancien marine Gil Barndollar dans The American Prospect. Or, les drones ne remplacent pas les troupes ; ils ne font que redistribuer les effectifs. « Si les drones sans pilotes sont désormais responsables de plus de 80 % des pertes dans les deux camps (surpassant largement le bilan des armes traditionnelles comme l’artillerie, les mitrailleuses et les armes légères) et s’ils se voient confier un nombre croissant de missions sur le front (reconnaissance, frappe, minage, ravitaillement, voire évacuation sanitaire…), la réalité est que la main-d’œuvre reste un élément crucial de la guerre ». « Les drones ukrainiens et russes ne volent pas seuls. En réalité, il faut une équipe de trois à quatre soldats, avec des mois d’entraînement et d’expérience, pour positionner efficacement chaque drone afin d’éliminer l’ennemi. Bien qu’opérant à quelques kilomètres de la ligne de front, les équipes de drones restent exposées quotidiennement au danger. Dans certains secteurs du front, leurs pertes sont supérieures à celles de l’infanterie ». La guerre des drones ne se fait pas sans hommes, rappelle l’ex militaire avant de critiquer la fin de la conscription. « La résilience ukrainienne a été extraordinaire, mais elle n’est pas inépuisable. Après quatre années de combats, le scénario le plus probable est que les armées ukrainienne et russe continuent de trouver juste assez de soldats pour se battre et poursuivre les hostilités ». 

Hubert Guillaud

La pantomime du contrôle humain

On le lit dans le long reportage de +972 magazine dont on rendait compte dans la première partie de cet article : le contrôle humain s’est profondément distendu dans la riposte d’Israël à l’attaque du 7 octobre. La performance (bien relative) de l’automatisation a emporté avec elle les barrières morales… et le droit international. 

Dans un article pour The Conversation, le chercheur en droit international, Louis Perez, rappelle qu’en Iran, comme à Gaza, l’IA est au cœur des frappes, pour l’armée américaine avec le programme Maven, comme pour l’armée israélienne avec Lavender. Mais qu’en est-il de la licéité de l’utilisation de l’IA pour faire la guerre ? « Il convient d’abord de préciser que l’IA n’est pas interdite en tant que telle par le droit des conflits armés (DCA, également appelé droit international humanitaire). Pour l’heure, aucune règle juridique n’envisage spécifiquement la question de sa licéité. Pour autant, la question n’évolue pas dans un vide juridique. Les règles générales du DCA s’appliquent à la conduite des hostilités, quels que soient les moyens et méthodes déployés. L’une de ces règles est le principe de distinction selon lequel seules les cibles militaires peuvent faire l’objet d’attaques, les personnes civiles et les biens civils devant être préservés. » 

Un autre principe est celui de précaution : il prescrit que les parties au conflit doivent faire tout ce qui est pratiquement possible pour vérifier que les objectifs à attaquer sont bien des objectifs militaires. La vingtaine de secondes disponible aux opérateurs pour valider une cible, la faiblesse des contrôles pointées par Abraham dans son article, montrent que ce principe n’est matériellement pas respecté. Le contrôle humain de l’IA, dont tout le monde rappelle le principe, tient en vérité d’une pantomime. Pourtant, rappelle le juriste, « ni la violation du principe de précaution ni les erreurs conduisant à des violations du DCA ne constituent des crimes de guerre au sens du droit international pénal ». « L’élément intentionnel, c’est-à-dire la volonté de commettre l’infraction, fait défaut. Le régime de responsabilité pénale internationale actuel ne reconnaît pas la responsabilité pour négligence dans ce contexte. Cette approche pragmatique pourrait néanmoins évoluer. D’une part, si les erreurs algorithmiques de ciblage se multiplient, le caractère « raisonnable » de l’erreur sera de plus en plus difficile à invoquer et l’utilisation consciente d’un système connu pour ses défaillances pourrait induire une forme d’intention indirecte de cibler des civils. D’autre part, le droit pourrait à l’avenir se développer pour sanctionner les militaires qui, par leur négligence, causent la mort de civils. »

Perez souligne encore que la responsabilité des entreprises d’IA qui fournissent ces matériels aux militaires (dans le cas américain notamment) pourraient être à terme tenues responsables de fournir du matériel défaillant. Or, comme le pointe le chercheur Javaid Iqbal Sofi dans une tribune pour Tech Policy Press, si la communauté internationale dispose de régimes de contrôle des armements, les entreprises d’IA n’y sont pas soumises. En effet, l’Organisation pour l’interdiction des armes chimiques (OIAC) compte 193 États membres et un régime de vérification fondé sur le droit international. En mars 2026, elle a publié un rapport sur l’intersection entre l’IA et la Convention sur les armes chimiques, soulignant que les outils d’IA transforment déjà la recherche chimique en alertant de leur danger, notamment pour produire de nouvelles armes chimiques. Mais, si elle souhaite que les entreprises d’IA collaborent, en revanche, « elle ne peut contraindre une entreprise privée de San Francisco à soumettre ses évaluations de modèles à un examen externe ni à divulguer les résultats de ses tests d’intrusion internes ». « Le Rapport international sur la sécurité de l’IA 2026, fruit d’une initiative multi-institutionnelle coordonnée par l’Institut britannique de sécurité de l’IA, a constaté que la plupart des pratiques de gestion des risques dans les laboratoires de pointe restent facultatives. » Les exigences légales actuelles (publication d’un cadre de gestion des risques, pour certains d’entre eux, notamment chimiques) sont donc encore très éloignées des risques liés à l’utilisation de l’IA pour faire la guerre.

Enfin, conclut Perez, « aux termes de l’article 1 commun aux conventions de Genève, les États ont en effet l’obligation de respecter et de faire respecter le DCA. Or, le développement de l’IA militaire tend à miner ce respect, voire à favoriser et à dissimuler les violations du droit. » Si des propositions existent pour renforcer ces obligations, « la volonté politique fait défaut, notamment chez les États à l’avant-garde du développement et de l’utilisation de l’IA militaire ». Dans un article pour Le Monde, la journaliste Claire Legros estime que le recours à l’IA divise les spécialistes d’éthique militaire. Si certains sont convaincus qu’un contrôle humain est possible, d’autres en doutent, et affirment que ces technologies repoussent les limites de la violence. Pour la politiste Laure de Roucy-Rochegonde, autrice de La Guerre à l’ère de l’intelligence artificielle (PUF, 2024), le contrôle de la force est en passe de devenir un enjeu crucial. Or, aucun traité international ne limite l’automatisation des tirs et le contrôle humain reste éminemment problématique. « Depuis 2013 et les premières campagnes contre les « robots tueurs », lancées par le collectif d’ONG et d’universitaires Stop Killer Robots (« arrêtez les robots tueurs »), les négociations entre Etats butent sur une définition commune de l’autonomie technologique. » « La très haute vitesse induite par l’intégration de l’IA sur le champ de bataille rend déjà impossible une véritable supervision humaine », constatent les experts. « Parce qu’elles donnent l’illusion qu’on peut cibler précisément l’adversaire et épargner des vies avec des armes plus maîtrisées et efficaces, ces technologies facilitent, au contraire, le recours à la force et font craindre un abaissement du seuil d’entrée en conflit », explique Laure de Roucy-Rochegonde. Face au ciblage automatisé, il n’y a ni reddition, ni prisonniers. La violence s’incarne désormais « sous la forme d’une interface : un flux de données, une performance mesurable », rappellent les auteurs d’une tribune. Le philosophe Grégoire Chamayou le disait très bien dans Théorie du drone (La Fabrique, 2023) : « Plus se répand la légende du robot éthique, plus cèdent les barrières morales au déploiement du robot tueur ».

Dans une tribune pour Foreign Policy, le politiste spécialiste de relations internationales, éditeur de la newsletter Arc Digital et auteur de Drones ans Terrorism (Bloomsbury, 2018) Nicholas Grossman, estime qu’il faut garder l’humain dans la boucle de décision, d’abord et avant tout parce que ces « systèmes demeurent dangereusement imparfaits, notamment en matière de responsabilité ». Ils ne savent pas expliquer les raisons de leurs erreurs. « Lors de situations critiques pendant la Guerre froide, le jugement humain a prévalu sur les machines, sauvant ainsi le monde, comme en 1983 lorsque l’officier soviétique Stanislav Petrov a déterminé que les informations faisant état d’un lancement nucléaire américain étaient une fausse alerte. C’est pourquoi les spécialistes de l’éthique militaire et de la robotique plaident depuis longtemps pour que l’humain reste au cœur du processus décisionnel. La guerre a des conséquences trop graves pour laisser des machines tuer en toute autonomie. Externaliser ces décisions à des ordinateurs signifie que les humains portent moins de responsabilité – ou du moins qu’ils en ont le sentiment – ​​ce qui pourrait encourager des actions immorales, voire illégales. Les algorithmes peuvent être utiles sur le plan tactique, mais contre-productifs sur le plan stratégique, car les attaques contre des civils qui attirent l’attention du public, comme l’attentat contre une école en Iran, galvanisent l’opposition. »

Mais l’implication de l’humain dans le processus décisionnel ne change pas grand-chose si les humains ne se soucient pas de la question. Un officier israélien qui a utilisé Lavender à Gaza a déclaré au Guardian : « À ce stade, je consacrais 20 secondes à chaque cible, et j’en traitais des dizaines chaque jour. Mon intervention humaine n’apportait aucune valeur ajoutée, si ce n’est celle d’approuver la décision. Cela m’a fait gagner beaucoup de temps. » Les gains d’efficacité rendent l’utilisation militaire des systèmes d’IA inévitable, mais rendre ces utilisations plus éthiques et stratégiquement avantageuses exige un travail considérable, notamment une réglementation adaptée. Grossman plaide pour un contrôle humain, mais en se rendant compte, en le disant, que celui-ci risque d’être simplement processuel, ce qui ne suffit pas à remettre de l’éthique dans la boucle. 

Comme le dit très justement le chercheur en psychologie sociale et cognitive Nicolas Spatola dans une autre tribune pour Tech Policy Press, maintenir l’intervention humaine dans la boucle de l’IA est dans toutes les politiques publiques un garde-fou et une solution par défaut. Mais si la proposition se veut rassurante, en vérité, l’enjeu consiste bien plus à savoir si les institutions qui déploient des solutions d’IA le font en préservant les conditions pratiques du jugement humain. Or, ce n’est pas ce à quoi l’on assiste, en vérité, car l’IA modifie les comportements décisionnels. Le risque est fort que le « contrôle humain » devienne un faux rempart qui privilégie une présence humaine au jugement humain. L’assistance de l’IA « modifie les conditions cognitives dans lesquelles les décisions sont prises ». Mais surtout, les systèmes qui fournissent des réponses qu’il suffit de valider, finissent par produire une dépendance qui réduit la capacité des utilisateurs à détecter les erreurs quand le système se trompe. « Dans les environnements sous forte pression – où le temps est compté, les objectifs de productivité et les normes de standardisation prédominent – ​​le contexte encourage un passage d’un examen approfondi à une acceptation routinière. » Tout l’enjeu est bien de plus de créer les conditions d’un contrôle actif que d’une acceptation passive. « Si l’on veut que le contrôle humain ait une véritable signification et ne se limite pas à un slogan rassurant, nous devons concevoir des systèmes favorisant le jugement, et non la simple vérification. » « Cela implique d’évaluer si la structure des tâches permet un contrôle réaliste sous la pression du temps ; de vérifier si les utilisateurs sont capables de détecter les défaillances des modèles après une utilisation répétée ; d’exiger un suivi post-déploiement des risques de dépendance excessive ; d’investir dans une formation axée sur le comportement décisionnel plutôt que sur la simple familiarisation avec l’outil ; et de s’assurer que les droits de dérogation soient réellement pertinents et non seulement théoriquement disponibles. » 

Nous en sommes loin. Le risque est fort que l’éthique et l’humain dans la boucle se termine par un contrôle purement procédural et une responsabilité de façade. 

Même constat pour le spécialiste des sciences comportementales et de la volonté, Uri Maoz, dans la Technology Review qui pilote également un groupe de travail multidisciplinaire sur l’intention et l’IA. A l’heure où l’IA génère des cibles en temps réel, contrôle et coordonne les interceptions de missiles et guide des essaims de drones autonomes meurtriers, la supervision humaine est censée garantir la responsabilité, le contexte et les nuances. Mais ce débat sur l’importance à garder le rôle de l’humain dans la boucle n’est qu’une distraction rassurante. « Le danger immédiat n’est pas que les machines agissent sans supervision humaine ; il est que les superviseurs humains ignorent tout de ce que les machines « pensent » réellement. » L’opérateur ignore ce qui détermine les décisions de la machine. « Les systèmes d’IA avancés n’exécutent pas simplement des instructions ; ils les interprètent.» Ils peuvent ainsi donner un très bon score à une cible, un dépôt de munition à côté d’un hôpital… qui sera d’autant meilleur que les secours occupés par les blessés de l’hôpital assureront une meilleure destruction de l’entrepôt… prend-t-il pour exemple. Le fait que nous soyons aveugles aux raisons des décisions, génère, ce que le chercheur appelle un « fossé d’intention » entre les systèmes d’IA et les opérateurs humains, qui explique nos « hésitations à déployer des IA de pointe dans les soins de santé » par exemple. Cette course à l’échalote vers les armes autonomes et opaques risque d’être sans limite, s’inquiète Maoz. Plaidant pour sa chapelle et son domaine de recherche, le chercheur estime que nous devons améliorer la compréhension du fonctionnement de ces technologies. « Nous devons apprendre à mieux caractériser, mesurer et intervenir dans les intentions des agents d’IA avant même qu’ils ne les mettent en œuvre » (c’est-à-dire aider l’opérateur à prendre conscience de ce que le système retient et écarte et infère, comme nous le suggérions pour de simples chatbots).

La guerre de l’IA ou la guerre contre l’IA ?

Pour l’économiste Hamid Dahouei de l’université de Harvard et Arash Reisinezhad de la Fletcher School de l’université Tufts, la guerre en Iran n’est pas qu’une guerre qui mobilise l’IA, elle est aussi une guerre contre l’IA, expliquent-ils dans Foreign Policy. « Le 1er mars, des drones iraniens ont frappé deux centres de données d’Amazon Web Services aux Émirats arabes unis, et un troisième a été endommagé à Bahreïn. Les applications bancaires sont devenues inaccessibles. Les plateformes de paiement se sont figées.» Lorsque le président américain Donald Trump a conclu sa tournée au Moyen-Orient en mai 2025, l’ampleur des ambitions annoncées était sans précédent, rappellent-ils : plus de 2 000 milliards de dollars d’engagements d’investissement de la part de l’Arabie saoudite, du Qatar et des Émirats arabes unis, dont une part importante était destinée aux infrastructures d’IA. Derrière le pari géopolitique, il y avait aussi une logique économique. « L’initiative Pax Silica a renforcé cet alignement, intégrant les Émirats arabes unis et le Qatar à un bloc technologique dirigé par les États-Unis et conçu pour limiter l’accès de la Chine aux semi-conducteurs de pointe. Humain, le programme saoudien d’IA, s’est engagé à ne pas acheter d’équipements chinois, après la rupture des relations de G42 (l’une des grandes entreprises d’IA d’Abu Dhabi) avec Huawei. Le développement de l’IA dans le Golfe n’était plus une simple infrastructure commerciale. Elle était devenue un enjeu majeur de la compétition sino-américaine pour la suprématie technologique. C’est précisément ce qui en a fait une cible.» Il existe une autre dimension que de nombreux commentateurs occidentaux n’ont pas encore pleinement saisie, estiment les deux chercheurs. « Tout porte à croire que l’Iran n’a pas agi seul pour atteindre une telle précision de ciblage. Le pays aurait eu accès au système satellitaire chinois BeiDou, dont les signaux cryptés offrent une précision de ciblage hors de portée du brouillage GPS américain. » Pékin n’a pas tiré de missile ; la Chine a simplement fourni des coordonnées, résument-ils. 

Selon eux, ce qui apparaît comme une guerre régionale est, à un niveau plus profond, une lutte indirecte pour la domination des infrastructures d’IA. Les frappes de l’Iran ont démontré qu’un campus de données valant des milliards de dollars peut être mis hors service par un drone coûtant quelques milliers d’euros. Le coût de construction d’un centre de données au Moyen-Orient vient désormais de s’envoler, tant les risques sont élevés. « En temps de guerre, les États ont toujours ciblé les infrastructures qui confèrent à leurs adversaires un avantage décisif. Ce n’est pas nouveau : de la coupure des câbles télégraphiques pendant la Première Guerre mondiale au bombardement des sites de production industrielle pendant la Seconde Guerre mondiale, en passant par le ciblage des installations pétrolières et des oléoducs à la fin du XXe siècle et, plus récemment, les cyberattaques contre les systèmes financiers et les réseaux énergétiques. Ce qui a changé en 2026, c’est que la couche d’infrastructure en question est la puissance de calcul de l’IA, et la leçon de la guerre contre l’Iran est qu’elle n’est pas plus à l’abri. » La guerre en Iran a une fois de plus démontré que la technologie seule ne peut maîtriser la géopolitique. Ce qui ne sera pas sans implications, estime Yasir Atalan dans Foreign Policy : « la protection devient indissociable de l’accès, et les futurs accords en matière d’IA seront de plus en plus souvent assortis de garanties de sécurité, d’une coopération en matière de défense et de conditions politiques plus strictes ». Pour lui, le résultat de ces attaques n’annonce pas un désinvestissement, mais une sécurisation accrue. Les futurs contrats de calcul dans le Golfe devront impérativement inclure des systèmes de défense par IA. Les Etats-Unis risquent d’y gagner deux fois.

La guerre : point de convergence violent de l’investissement

Dans un article pour Security Context, la chercheuse Shana Marshall, de l’Institut des études sur le Moyen-Orient de l’université George Washington, explique que la Silicon Valley et la finance privée redéfinissent la guerre dans une convergence violente. Nous risquons d’entrer dans une guerre sans fin soutenue par le complexe militaro-industriel qui y a intérêt, rejoint par la Silicon Valley et le secteur technologique tout comme par les capitaux privés du capital-risque et du capital investissement. « Ces trois forces convergent et se chevauchent de manière inédite pour produire des formes de violence nouvelles tant par leur ampleur que par leur intensité. Il n’est pas surprenant que l’Iran ait identifié les antennes du Golfe des entreprises technologiques et des grandes banques américaines comme des cibles militaires légitimes dans le conflit actuel ; elles fournissent la puissance de calcul et les financements privés qui permettent d’étendre la machine de guerre américaine. » Le complexe militaro-industriel est en train de coloniser le secteur technologique et financier au profit du marché, avec le soutien de l’Etat américain. La guerre est en train de soutenir l’innovation comme nulle autre, permettant d’obtenir des valorisations lucratives et des contrats qui le sont tout autant avec le Pentagone. 

Historiquement, rappelle Marshall, « les rendements du capital-risque lors de l’introduction en bourse d’entreprises de technologies numériques commerciales/grand public ont été colossaux : dix à quinze fois l’investissement initial. Les retours sur investissement pour les jeunes entreprises de technologies de défense étaient très faibles – un ou deux fois l’investissement initial – car les grands donneurs d’ordre (Lockheed et autres acteurs historiques du complexe militaro-industriel) rachetaient généralement ces petites entreprises directement et à bas prix. » 

Le secteur de la défense se caractérise par des barrières à l’entrée élevées : pour faire la guerre, il n’y a souvent qu’un seul donneur d’ordre potentiel capable d’utiliser les nouvelles technologies développées par les jeunes entreprises : les gouvernements. Le problème, c’est qu’ils n’achètent pas ces technologies très cher. Pour revaloriser le prix des produits technologiques que la Silicon Valley vend à la Défense, il a fallu « modifier la façon dont les armées conçoivent l’approvisionnement en armement en temps de guerre, la définition des armes nécessaires et l’identification des ennemis ». Tout aussi important, il leur fallait élaborer un récit convaincant et globalisant expliquant comment les investisseurs, les ingénieurs logiciels et les dirigeants du secteur technologique constituent l’alliance indispensable pour enrayer le déclin impérial américain, restaurer le secteur manufacturier du pays, sécuriser les matières premières et les terres rares nécessaires aux systèmes d’armement de haute technologie et protéger la civilisation occidentale à la fois des mouvements woke et des centres de pouvoir alternatifs émergents dans les pays du Sud. Tel a été le travail d’entreprises comme Palantir et de nombres d’acteurs des technologies américaines. Son PDG, Alex Karp, le dit d’ailleurs très clairement dans son manifeste : ce sont les conflits qui permettront à son entreprise de se développer. Au risque que le mantra influence bien d’autres acteurs de la Tech. 

« La pénurie de munitions de basse technologie et de drones bon marché dont disposent les États-Unis et leurs alliés dans les guerres en Ukraine et en Iran a parfaitement alimenté ce récit », explique Shana Marshall. Cependant, les armes à bas coût et produites en grande quantité promises par la Silicon Valley dépendent souvent, non pas des technologies émergentes des start-ups, mais de fournisseurs des pays du Sud et d’Asie. Bombes et drones ne sont pas toujours de fabrication américaine et tous utilisent des caméras, des moteurs, des puces ou des batteries de fournisseurs chinois. 

Si ce moment historique de convergence entre développement technologique, capitaux financiers mondiaux et machine de guerre américaine semble annoncer une militarisation accrue de l’économie mondiale, il annonce surtout une approche américaine plus agressive à l’échelle internationale. « Les capitaux sont si concentrés qu’ils doivent rechercher des opportunités d’investissement viables, du fait de la nécessité de les valoriser et du déclin des investissements publics dans des secteurs non militarisés comme les infrastructures et les programmes sociaux ». Dans ce contexte, le complexe militaro-industriel devient une cible privilégiée pour les gestionnaires d’actifs et autres acteurs de la finance privée (voir notre article sur les enjeux politiques du financement de l’innovation). La guerre rapporte beaucoup d’argent et est devenu un débouché très lucratif pour les acteurs technologiques, qui s’annonce bien plus lucratif encore que les débouchés traditionnels de l’IA. Au risque d’orienter encore plus les politiques guerrières. 

L’IA, l’infrastructure totale d’un monde totalitaire

On peut tirer plusieurs leçons de cette première immersion dans les outils pour faire la guerre. Elle nous montre d’abord que les préventions éthiques habituelles n’ont plus court. Le principe de vérification humaine de toutes décisions (le fameux humain dans la boucle…) est en passe de disparaître. On avait déjà vu qu’elle tenait bien souvent d’une pantomime quand on nous assurait dans les décisions automatisées plus classiques, du marketing aux systèmes sociaux automatisés, où l’on nous assure que l’humain valide toujours la décision, sans possibilité réelle pour le faire. 

La disponibilité des outils fait également sauter une autre barrière morale : la proportionnalité. Le taux d’erreur devient un paramètre parmi d’autres, bien vite relativisé. C’est même pire : les dommages collatéraux, les défaillances d’attribution du ciblage, leur élargissement à des marqueurs plus ténus (on ne cherche plus les hauts responsables, mais désormais tous ceux qui peuvent potentiellement être rattachés à l’ennemi), tendent à étendre une guerre sans plus aucune limite, où les erreurs deviennent une donnée parmi d’autres, qui s’optimise comme les autres. La proportionnalité de la surveillance a volé en éclat, comme elle vole en éclat dans bien d’autres cas d’usages, notamment le social. 

Partout, le scoring règne en maître. Quand toutes les données sont disponibles, il n’y a plus de limites à leur utilisation et donc aux inférences qui peuvent être faites, disions-nous dans notre livre, Les algorithmes contre la société (La Fabrique, 2025). Le risque est de produire un système sans plus aucune limite morale, comme quand les systèmes de calcul de risque déterminent que tous les bénéficiaires des services sociaux sont à risque (et que plus ils en bénéficient, plus ils sont à risque). L’abaissement des seuils à mesure que les calculs s’étendent transforment tout le monde en cible. C’est le modèle publicitaire appliqué à la guerre. Un calcul sans échappatoire, puisque dans le score de risque, tout le monde est calculé et chacun est associé à un résultat dont les déterminants fluctuent selon les nécessités du moment.  

Tout l’enjeu repose donc sur les réglages du seuil – or, sans règles, ils peuvent évoluer à tout moment. On le voit dans l’exemple de Lavender, suite aux événements du 7 octobre, le seuil de définition des cibles n’a eu de cesse de bouger. Et c’est là tout le problème d’établir les limites d’une réponse proportionnée qui passe par la définition de seuils : le contexte et les nécessités politiques les feront toujours bouger. Dans le calcul permanent, la difficulté consiste à définir des limites : des limites aux cadences qu’accélèrent les indicateurs dans le monde du travail, des limites à la surveillance et au contrôle dans le monde du social où toutes les données peuvent être mobilisées pour contrôler les revenus des plus démunis, des limites aux ajustement du calcul des prix dans une personnalisation toujours ajustable… Des limites au scoring de risque de toute la population gazaouis depuis Lavender…  

Le problème, c’est que ces limites sont spécifiques et contextuelles alors qu’elles devraient être socialement et politiquement partagées et contrôlées.

De l’IA sur les champs de bataille à l’IA dans le social, les mêmes techniques et les mêmes logiques sont à l’œuvre. Celles d’outils qui n’ont plus à rendre de compte, qui amplifient leurs biais et produisent des erreurs toujours minimisées par leur efficacité. Et partout où cette IA la se déploie, il n’y a pas d’issue à sa logique, pas de limite simple à sa conduite. Le scoring de ciblage, quelque soit sa fonction, est par nature une menace, dont il suffit d’ajuster les paramètres pour que chacun le devienne. « A l’heure du calcul permanent, il n’existe plus de droits durables : tous sont révocables », disait le philosophe Achille Achille Mbembe dans le préscient Brutalisme (La découverte, 2020). A l’heure du scoring permanent, c’est encore plus vrai. 

Hubert Guillaud

En 1976, le géographe Yves Lacoste rappelait les fondements de la géographie dans un petit essai, La géographie ça sert, d’abord, à faire la guerre qui revenait sur l’importance politique de tout discours sur l’espace. Aujourd’hui, nous devons nous poser la même question pour pointer l’importance politique de tout discours sur la technologie. La technologie est un enjeu stratégique et elle le devient d’autant plus qu’elle est désormais le soubassement du champ de bataille, son infrastructure, qui détermine la capacité à mener toutes opérations de défense comme d’attaque. 

Nous n’avions jusqu’à présent pas évoqué dans nos pages l’utilisation de l’IA pour la guerre. Il est temps de rattraper nos lacunes. 

Une usine IA pour faire la guerre

Ha’Aretz, le grand quotidien Israëlien, expliquait récemment que l’infrastructure d’intelligence artificielle qui a servi à piloter les bombardements à Gaza est désormais pleinement opérationnelle en Iran et au Liban. Cet Operational Data and AI Factory (Centre opérationnel de données et usine d’IA) piloté par Tsahal, l’armée israélienne, intègre de multiples flux de données et sources d’information, les rendant accessibles en temps réel à tous les échelons de la hiérarchie militaire. Déployé dans toute l’armée, il analyse tout type de données pour permettre d’obtenir une vision opérationnelle complète des forces, des missions et des menaces. « Le système est conçu pour faciliter la planification des attaques, le ciblage et les frappes. Il enregistre et transcrit également toutes les communications sans fil et compile des données en temps réel sur les lancements et les interceptions de missiles et de drones ». L’AI Factory militaire fonctionne. Et désormais, elle est devenue l’infrastructure même de l’armée, explique Ha’Aretz. 

Les unités peuvent utiliser les outils à leur disposition et développer leurs propres applications. Ce système n’est pas utilisé uniquement d’une manière défensive comme l’armée israélienne l’a longtemps défendu, mais participe également au traitement des plans de frappe et des cibles. Il est par exemple intégré au dispositif de drones offensifs de l’armée de l’air, baptisé Storm Cloud, qui permet d’identifier des objets dans les vidéos et les cartographier en temps réel. Bien d’autres systèmes sont désormais intégrés, comme  Lohem (Chasseur), qui assiste notamment l’armée de l’air dans la planification et la synchronisation des frappes ; Rom, qui détecte les drones ; « Contrôle spatial », qui alerte les forces terrestres en cas de tirs de roquettes et de missiles antichars ; et Tashan, qui identifie les points de lancement et d’impact et localise la source des tirs ennemis. L’IA a également été intégrée au système d’alerte national israélien, permettant de prédire les zones de retombée des débris d’interception. Flow, agrège les données provenant de sources militaires et civiles, permettant aux commandants de créer rapidement des tableaux de bord de renseignement pour des problèmes spécifiques. Un autre élément central du système est MapIT, « une plateforme qui affiche des données opérationnelles tridimensionnelles en temps réel aux commandants. Ha’Aretz a appris qu’au cours de l’année écoulée, l’armée a développé une couche supplémentaire au-dessus de MapIT, consolidant tous les flux de données en une seule carte opérationnelle. » 

À ce stade, précise le journal, « ces systèmes d’IA ne prennent pas de décisions opérationnelles de manière indépendante. Ils sont plutôt conçus pour fournir au personnel militaire des informations plus rapides et plus sophistiquées. Selon des sources qui se sont confiées à Ha’Aretz, le système remplace le travail de dizaines d’analystes. » Selon le journal, tous ces éléments ne dépendent d’aucun prestataire externe. « Suite aux critiques concernant la dépendance de l’armée israélienne à l’égard de l’infrastructure Microsoft, Tsahal a décidé d’adopter des modèles ouverts plutôt que des technologies propriétaires détenues par les grandes entreprises technologiques ». La plupart d’entre eux seraient des produits no-code, c’est-à-dire développés entièrement via l’IA, avance le journal. Fin 2025, Tsahal crée une division dédiée à l’IA, baptisée Bina et une unité chargée de consolider les données opérationnelles, au coeur du développement de ces outils. 

Dans cette infrastructure, on trouve encore le plus connu d’entre tous : Lavender, un système d’IA permettant de cibler des individus, comme l’explique la remarquable enquête du journaliste Yuval Abraham, publiée par +972 Magazine en avril 2024 qui aurait identifié des dizaines de milliers de militants présumés à Gaza. Dans son enquête sur Lavender, Yuval Abraham explique que le système de ciblage par IA utilisé à Gaza, est « un système peu supervisé par l’humain et caractérisé par une politique permissive en matière de pertes humaines ». 

Lavender : le ciblage… quelques soient les dommages et les défaillances

En 2021, explique Yuval Abraham dans son article, un livre publié en anglais et sous pseudonyme plaidait pour la conception d’une machine spéciale capable de traiter rapidement d’énormes quantités de données afin de générer des milliers de « cibles » potentielles pour des frappes militaires en pleine guerre. Son auteur : l’un des responsables de l’unité d’élite du renseignement israélien. Cet outil qu’il imaginait existe désormais. Son influence sur les opérations militaires israéliennes à Gaza a été telle que les conclusions de l’IA étaient traitées « comme s’il s’agissait de décisions humaines ». 

« Officiellement, le système Lavender est conçu pour identifier toutes les opérations suspectes des branches militaires du Hamas et du Jihad islamique palestinien, même celles de bas rang, comme cibles potentielles de bombardements. L’armée s’est presque entièrement fiée à Lavender, qui a recensé jusqu’à 37 000 Palestiniens comme militants présumés (identifiant ces personnes nommément, bornant leurs téléphones et leurs domiciles) susceptibles de faire l’objet de frappes aériennes. »

« L’armée a donné son accord général aux officiers pour qu’ils adoptent les listes de cibles de Lavender, sans exiger de vérification approfondie des raisons qui ont motivé ces choix par le système ni d’examen des données brutes sur lesquelles ils se fondaient. » Une source a indiqué que le personnel humain servait souvent uniquement de simple exécutant pour valider les décisions du système, ajoutant qu’en général, il ne consacrait personnellement qu’une vingtaine de secondes à chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marquée par Lavender était bien… un homme. Et ce, malgré le fait que le système commette ce qui est considéré comme des « erreurs » dans au moins environ 10 % des cas, « et qu’il est connu pour marquer occasionnellement des individus n’ayant qu’un lien ténu avec des groupes militants, voire aucun lien du tout.» « De plus, l’armée israélienne attaquait systématiquement les individus ciblés à leur domicile, généralement la nuit en présence de toute leur famille, plutôt que lors d’opérations militaires. Selon les sources, cela s’expliquait par le fait que, d’un point de vue de renseignement, il était plus facile de localiser les individus chez eux. » Même si l’enjeu semblait plutôt de profiter d’une situation de faiblesse, hors du champ de bataille.

Les pertes de femmes ou d’enfants et de victimes collatérales ne sont, pour l’armée israélienne, qu’une conséquence sans impact sur les choix technologiques opérés. « Le système est conçu pour repérer les cibles à leur domicile ». « Selon deux sources, l’armée a également décidé, durant les premières semaines du conflit à Gaza, que pour chaque jeune militant du Hamas marqué par Lavender, il était permis de tuer jusqu’à 15 ou 20 civils. » C’est ici que les choses ont changé, estime Yuval Abraham, par le passé, l’armée n’autorisait aucun « dommage collatéral » lors des assassinats de militants de bas rang : les dommages collatéraux n’étaient autorisés que pour cibler les hauts responsables. Les dommages ont été intégrés et élargis. 

L’enquête de Yuval Abraham est très précise, et permet de bien saisir les limites de l’outil. 

« Lavender repère les personnes et les inscrit sur une liste de personnes à éliminer » déterminée par calcul à partir des données collectées, sans que l’on sache ce qui constitue ces données, provenant certainement du renseignement. Le terme de cible humaine a longtemps désigné pour l’armée israélienne des officiers supérieurs ennemis qui pouvaient être bombardés à leur domicile (au prix du massacre de leurs familles), mais seulement les officiers supérieurs, « afin de respecter le principe de proportionnalité du droit international ». Mais après le 7 octobre 2023 – date à laquelle des militants du Hamas ont lancé une attaque meurtrière contre des localités du sud d’Israël, faisant environ 1 200 morts et 240 otages –, Tsahal, selon ces mêmes sources, a adopté une approche radicalement différente. L’armée a décidé de désigner toutes les opérations de la branche armée du Hamas comme des cibles humaines, indépendamment du grade ou de l’importance militaire de leurs auteurs. « Lors des conflits précédents, pour autoriser l’assassinat d’une cible humaine, un officier devait suivre une procédure d’incrimination complexe et longue » et notamment procéder à des vérifications. Mais en élargissant la liste des cibles, les vérifications ont été réduites, au profit du ciblage automatisé. 

L’autorisation d’adopter automatiquement les listes de cibles calculée par Lavender a été prise deux semaines après le lancement de la guerre contre Gaza, après avoir testé un échantillon de cibles proposées par Lavender et constaté que l’affiliation d’un individu au Hamas semblait fiable à 90%. Les décisions de ciblage automatisées sont alors devenues des ordres. Les unités n’ont plus à vérifier les raisons de ces choix, ni à examiner les données sur lesquelles il se fonde. « Dès qu’une personne [marquée] était chez elle, elle devenait immédiatement une cible »… et ses coordonnées étaient transmises à l’aviation chargée de bombarder sa maison. « Il n’y avait plus de politique du « zéro erreur » », remarque un officier. Il n’y a pas eu de volonté de vérifier et d’atténuer les dommages collatéraux (bien au contraire, visiblement). Les 10% d’erreurs (ou plus) sont désormais intégrés comme principe opérationnel. « Des sources ont expliqué que le dispositif Lavender signalait parfois par erreur des individus dont les habitudes de communication étaient similaires à celles d’agents connus du Hamas ou du Jihad islamique palestinien (JIP) — notamment des policiers et des employés de la protection civile, des proches de militants, des résidents portant un nom et un surnom identiques à ceux d’un agent, ou encore des Gazaouis utilisant un téléphone ayant appartenu à un membre du Hamas. » Pour l’armée israélienne, la marge d’erreur du système a été validée comme acceptable.

L’invisible score de cible

« Lavender analyse les informations collectées sur la plupart des 2,3 millions d’habitants de la bande de Gaza grâce à un système de surveillance de masse, puis évalue et classe la probabilité que chaque personne soit active dans la branche militaire du Hamas ou du Jihad islamique palestinien (JIP) – depuis la base d’un échantillon d’entraînement de militants connus. Selon certaines sources, la machine attribue à presque chaque habitant de Gaza une note de 1 à 100, indiquant la probabilité qu’il soit un militant. » 

L’étendue des sources et données utilisées pour procéder à cette analyse n’est pas connue. Visiblement, le système utilise toutes les sources à sa disposition : données des téléphones, connexions aux réseaux sociaux, informations sur le champ de bataille, contacts téléphoniques, photos, informations sur les opérations de l’ennemi… Le seul enjeu consiste à déterminer le seuil, le niveau à partir duquel la note attribuée transforme un individu en cible. 

A partir de quelles données et informations, Lavender estime qu’une personne est affiliée au Hamas ? La liste des motifs de suspicions est sans fin puisqu’elle est calculée depuis toutes les données disponibles. Le fait qu’une personne ait appartenu ou ait été proche du Hamas dans le passé mais n’en fasse plus partie est un motif de suspicion. Mais est-il exact ? Pire, souligne l’article : un officier « défendant le recours aux listes de cibles palestiniennes générées par Lavender, a soutenu qu’il était justifié d’investir le temps d’un officier de renseignement pour vérifier l’information uniquement si la cible était un haut commandant du Hamas. « Mais pour un simple militant, il est inutile d’y investir des ressources humaines et du temps », a-t-il déclaré. » On vérifie là où le taux d’erreur est possiblement le plus faible et pas là où le taux d’erreur est possiblement le plus fort ! « Les jours où nous ne trouvions aucune cible [dont le profil justifiait une frappe], nous attaquions à un seuil plus bas. » Glaçant ! Et en abaissant le seuil, le système finit par signaler les membres de la protection civile, des policiers… qui par leur fonction aident le gouvernement du Hamas… mais ne représentent pas une menace directe. D’ailleurs, des données d’agents de la protection civile ont été utilisées pour entraîner Lavender (alors qu’elles auraient dû être écartées) et déterminer les profils à cibler, estime un data scientist en le regrettant car ils mettent ces publics à risque. 

Bien sûr, l’armée israélienne a dénoncé les accusations portées par l’article de Yuval Abraham. Pour Tsahal, l’IA n’est pas utilisée ainsi. Elle n’est qu’un « auxiliaire des décisions ». Toute cible identifiée est vérifiée, assure la communication officielle de l’armée. Mais, selon les sources de Yuval Abraham, « le seul protocole de supervision humaine mis en place avant le bombardement des maisons de militants présumés « juniors » marqués par Lavender consistait en une vérification unique : s’assurer que la cible sélectionnée par l’IA était un homme et non une femme. » Outre les dommages collatéraux, nombreux, pour les civils ciblés par erreur par Lavender, aucun mécanisme de contrôle n’était en place pour détecter l’erreur, comme par exemple, quand les cibles ont pu donner leur téléphone à un autre individu. Lavender, finalement, cible bien plus un téléphone qu’une personne. Ce qui n’est pas sans produire très concrètement des erreurs de frappe.

Obsession téléphonique, obsession domiciliaire

Pour l’armée israélienne, si ses frappes tuent des civils, c’est d’abord en raison des tactiques du Hamas qui utiliserait des réseau de tunnels passant délibérément sous des hôpitaux et des écoles ; ou des ambulances pour se déplacer ; et qui situerait ses moyens militaires à proximité de bâtiments civils pour dissuader les frappes. Des affirmations que les organisations de défense des droits humains jugent fallacieuses et qui viseraient à exonérer Israël de sa responsabilité dans ces pertes. Mais pour les sources d’Abraham, le nombre sans précédent de morts lors des bombardements israéliens actuels serait d’abord lié au fait que l’armée a systématiquement ciblé des personnes à leur domicile, en présence de leurs familles – notamment parce qu’il était plus facile, du point de vue du renseignement, de repérer les maisons familiales grâce à des systèmes automatisés. « L’armée a fait le choix délibéré de bombarder des militants présumés à l’intérieur de maisons civiles où aucune activité militaire n’avait été constatée. Un choix qui reflète la conception du système de surveillance de masse israélien à Gaza. » 

« Afin de détecter en temps réel l’entrée des cibles dans les maisons, divers logiciels automatisés ont été développés. Ces programmes suivent simultanément des milliers de personnes, repèrent leur présence à domicile et envoient une alerte automatique à l’officier chargé du ciblage, qui marque alors la maison pour le bombardement. L’un de ces logiciels de suivi, révélé ici pour la première fois, s’appelle « Où est papa ? ». « On entre des centaines de cibles dans le système et on attend de voir qui on peut éliminer », a déclaré une source connaissant le système. « C’est ce qu’on appelle le ciblage à grande échelle : on copie-colle les listes produites par le système. »

Les données confirment cette politique : durant le premier mois de la guerre, plus de la moitié des victimes – soit 6 120 personnes – appartenaient à 1 340 familles, dont beaucoup ont été entièrement décimées à l’intérieur de leurs maisons, selon les chiffres de l’ONU.»

Quand le rythme des victimes ralentit, il suffit d’ajouter davantage de noms dans le système de suivi, et notamment d’abaisser les grades de ceux qu’on souhaite éliminer. La liste des personnes à abattre s’est considérablement allongée (elle en compterait 36 000 en attente de localisation). Même des mineurs ont été désignés comme cibles de bombardement par Lavender, confie une source, déclarant : « normalement, les opérations concernent les personnes de plus de 17 ans, mais ce n’était pas une condition. »

La prise en compte du coût des armes et l’évolution du seuil des dommages collatéraux

Une fois que Lavender a désigné une cible à assassiner, que l’armée a vérifié son sexe et que le logiciel de suivi a localisé la cible à son domicile, l’étape suivante consiste à choisir les munitions. En décembre 2023, CNN a rapporté que, selon les estimations des services de renseignement américains, environ 45 % des munitions utilisées par l’armée de l’air israélienne à Gaza étaient des bombes non guidées, connues pour causer davantage de dommages collatéraux que les bombes guidées, plus précises (mais plus chères). Le choix des munitions se fait en fonction des immeubles ciblés. Les bombes non guidées sont plus adaptées à de petits immeubles, même si elles font plus de dégâts et donc plus de dommages collatéraux. Cela a notamment été le cas pour les cibles mineures, conduisant à détruire leurs maisons et tous leurs habitants. Selon d’autres sources, le programme d’attaque des militaires du Hamas de bas rang a été réduit voire arrêté du fait de son coût en munitions et en armes. 

Lors d’attaques depuis des systèmes d’IA comme Lavender, le nombre de civils qu’il était permis de tuer avec chaque cible était fixé à 15 à 20 maximum, durant les premières semaines du conflit. « Ces « seuils de dommages collatéraux », comme les appelle l’armée, étaient appliqués de manière systématique à tous les militants présumés, indépendamment de leur grade, de leur importance militaire ou de leur âge ». D’après un officier affecté à une salle d’opérations ciblées, le département de droit international de l’armée n’avait jamais auparavant accordé une « autorisation aussi générale » pour un seuil de dommages collatéraux aussi élevé. « Il ne s’agit pas simplement de pouvoir tuer n’importe quel soldat du Hamas, ce qui est pourtant clairement autorisé et légitime au regard du droit international », a-t-il déclaré. Mais également de tuer des civils qui leur sont liés, ce qui est beaucoup moins conforme au droit international. Sans compter que « toute personne ayant porté un uniforme du Hamas ces deux dernières années pouvait être la cible d’un bombardement, avec 20 civils tués en dommages collatéraux, même sans autorisation spéciale ». « En pratique, le principe de proportionnalité n’était pas respecté », estime l’officier. « Selon certaines sources, le niveau prédéterminé et fixe de dommages collatéraux a permis d’accélérer la création massive de cibles à l’aide du système Lavender, car il a permis un gain de temps ». Pour les frappes aériennes contre les hauts commandants du Hamas, l’armée israélienne autoriserait la mort de « centaines » de civils par cible – « une politique officielle sans précédent historique en Israël, ni même dans les récentes opérations militaires américaines ». Pour atteindre Ayman Nofal, commandant de la Brigade centrale de Gaza, le 17 octobre, l’armée israélienne a autorisé des dégâts collatéraux encore plus élevés. 

« Le général Peter Gersten, commandant adjoint des opérations et du renseignement dans le cadre de l’opération contre Daech en Irak et en Syrie, a déclaré à un magazine de défense américain en 2021 qu’une attaque ayant causé la mort de 15 civils s’écartait de la procédure. Pour ce faire, il a dû obtenir une autorisation spéciale du chef du Commandement central américain, le général Lloyd Austin, aujourd’hui secrétaire à la Défense. » « Avec Oussama Ben Laden, on avait un Indice de pertes non combattantes (IPNC) de 30, mais pour un commandant subalterne, cet IPNC était généralement nul », a déclaré Gersten. « On a longtemps fonctionné avec un IPNC nul. »

Certaines sources d’Abraham confient que cette politique était disproportionnée. Et que les souffrances des Gazaouis touchés par ces bombardements risquent, à long terme, de renforcer le Hamas.  

En fait, expliquent les sources d’Abraham, le nombre de dommages collatéraux autorisé n’a cessé de fluctuer, pour permettre les frappes. Le fait que la plupart des maisons de la bande de Gaza aient déjà été détruites ou endommagées, et que la quasi-totalité de la population ait été déplacée, a également réduit la capacité de l’armée à s’appuyer sur les bases de données de renseignement et les programmes automatisés de localisation des habitants et des habitations. Pour Abraham, lors des conflits précédents, les services de renseignement de l’armée consacraient beaucoup de temps à vérifier la fiabilité des calculs des dommages collatéraux possibles. Mais « après le 7 octobre, cette vérification rigoureuse a été largement abandonnée au profit de l’automatisation ». 

Visiblement, comme le notait déjà le New York Times, le système fonctionne avec un code couleur : le rouge indique les zones densément peuplées, tandis que le vert et le jaune indiquent les zones relativement vidées de leurs habitants. Le « logiciel calculait le nombre de civils résidant dans chaque maison avant la guerre – en évaluant la taille du bâtiment et en consultant la liste de ses occupants – puis réduisait ces chiffres en fonction de la proportion d’habitants ayant supposément évacué le quartier. » Le problème, bien évidemment, c’est que cette méthode était déconnectée de la réalité. « La source a indiqué que, malgré la connaissance des risques d’erreurs, ce modèle imprécis avait été adopté pour sa rapidité. De ce fait, a-t-elle précisé, « le calcul des dommages collatéraux était entièrement automatisé et statistique », produisant même des chiffres non entiers.»

Enfin, il faut également prendre en compte la latence des frappes. Un décalage important peut se passer entre le moment où les systèmes de suivi comme « Où est papa ? » alerte de l’arrivée d’une cible à domicile et le bombardement… pouvant entraîner la mort de familles entières, sans même que la cible n’ait été atteinte car elle pouvait être repartie. « Nous savions que la cible était chez elle à 20 h. Finalement, l’aviation a bombardé la maison à 3 h du matin. Nous avons alors découvert qu’il avait réussi à déménager avec sa famille dans une autre maison. Deux autres familles avec enfants se trouvaient dans l’immeuble que nous avons bombardé. » Le temps de traitement n’a rien d’immédiat, contrairement à ce que l’on peut croire. 

« Lors des précédents conflits à Gaza, après l’assassinat de cibles humaines, les services de renseignement israéliens procédaient à une évaluation des dégâts causés par les bombardements – une vérification de routine après une frappe afin de déterminer si le commandant supérieur avait été tué et combien de civils avaient péri avec lui. Comme l’a révélé une précédente enquête de +972 et Local Call, cela impliquait d’écouter les conversations téléphoniques des familles endeuillées. Dans le conflit actuel, cependant, au moins concernant le ciblage des militants subalternes par intelligence artificielle, des sources indiquent que cette procédure a été abandonnée par souci de gain de temps. Ces mêmes sources précisent ignorer le nombre de civils réellement tués lors de chaque frappe et, pour les opérations menées par des individus soupçonnés d’appartenir au Hamas ou au Jihad islamique palestinien (JIP) et identifiés par IA, elles ignorent même si la cible a été tuée. »

Hubert Guillaud

La seconde partie de l’article est à lire par ici.

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »

Pour conclure ce dossier, revenons aux propos de l’historien Brian Merchant, dans sa newsletter. 

L’IA peut-elle être un projet de gauche ?

Croire que la gauche passerait à côté de l’IA reste une accusation un peu facile. L’IA, quoi que ses apôtres en disent, tient largement d’une machine à défaillance qui vise à servir le capitalisme. Ensuite, si la gauche décrit une accélération d’un capitalisme factice et cynique, c’est aussi avec de solides arguments. On a plutôt l’impression que les thuriféraires de l’IA ne souhaitent pas entendre qu’on puisse refuser l’IA et son monde, toute puissante qu’elle soit. La promesse de l’IA n’est qu’une promesse pour les plus puissants. Dans la critique de l’IA de gauche, on entend pourtant aussi des tentatives pour créer des IA spécifiques, limités, voire socialistes, tout en se demandant si cela est seulement possible, tant les moyens sont accaparés par des acteurs qui ne sont pas de gauche et qui rendent impossible et certainement peu désirable, l’idée même d’IA, tant la délégation de la pensée aux machines est finalement contraire à l’idéal d’émancipation qui anime la gauche. 

Ce dont convient largement Brian Merchant : la gauche cherche bien plus à pointer les limites de l’IA que les enthousiastes minimisent. La gauche américaine n’est pas en train de rater une occasion de jouer un rôle dans l’élaboration des politiques relatives à l’encadrement de l’IA. Au contraire : les progressistes s’efforcent d’adopter des lois allant dans ce sens, notamment au niveau des États, tandis que la droite tente de les bloquer, notamment via le moratoire trumpiste cherchant à interdire toute législation relative à l’IA au niveau des États. Dans le décompte des projets de lois sur l’IA, la plupart viennent d’organisations de gauche. Des dizaines de projets de loi étatiques, soutenus par des syndicats et des organisations progressistes, n’ont de cesse d’être proposées. Que peu aboutissent dit bien plus de l’inégalité des rapports de force et des puissances financières et politiques en jeux que de la justice que réclament ces contestations et ces demandes de régulations. 

En fait, rappelle Merchant, la gauche ne perçoit pas l’IA comme une force transformatrice qui va remodeler le monde et ses institutions, mais bien comme une force qui va permettre d’aligner le monde aux intérêts des puissants. Pour les défenseurs de l’IA, la voir décrite comme un système statistique, comme des perroquets stochastiques semble dénigrer leur projet sur le plan structurel même. « Pour ceux qui croient développer une super-intelligence puissante, il est certainement insultant de la voir réduite à un simple outil de saisie semi-automatique sophistiqué ». Mais quelqu’un qui défit l’IA comme un simple outil à plagier ou un simple outil de saisie automatique ne signifie pas qu’il n’a aucune compréhension de la technologie. Il en pointe d’abord les limites, les effets avant d’observer ses possibilités.

Pour Merchant, d’ailleurs, la position la plus répandue à gauche n’est certainement pas de considérer l’IA générative comme un simple perroquet stochastique, mais plutôt comme un produit conçu par de puissantes entreprises avides de profits, capable de causer de graves dommages à la société. Autrement dit, « ce n’est pas une critique sémantique ou philosophique qui devrait inquiéter l’industrie de l’IA, mais bien la critique matérielle et sociale que la gauche lui adresse. L’IA est perçue, à juste titre, comme une menace pour l’emploi, l’éducation, le bien-être mental, les arts, la sécurité des enfants, l’écosystème de l’information, et comme n’offrant que peu d’avantages à d’autres qu’aux dirigeants d’entreprise et aux sociétés spécialisées en IA. La gauche sait qu’elle doit s’opposer à ces entreprises qui cherchent à faciliter un transfert massif de richesse que produisent les travailleurs vers les plus riches – et elle le sait d’autant plus que les dirigeants du secteur de l’IA ne cessent de répéter qu’ils visent précisément cet objectif. » 

En fait, la critique de gauche fait son travail en appréhendant l’ensemble de l’économie politique de l’IA plutôt que de se contenter d’examiner la seule technologie de l’IA. De la dénonciation colonialiste et extractiviste de l’IA à la dénonciation de ses effets sociaux et économiques sur le travail ou cognitifs et comportementaux sur les gens et les relations sociales…, la dénonciation des effets de l’IA est forte et profonde. « L’IA est en effet développée par une poignée de dirigeants et d’oligopoles technologiques qui assument ouvertement leur volonté d’orchestrer une déqualification massive de la main-d’œuvre, et qui déploient sans compter l’énergie, les ressources et les capitaux nécessaires à la réalisation de cet objectif, tout en collaborant activement avec un État autoritaire pour museler tout contrôle démocratique ». Ce n’est pas parce que quelqu’un rejette une technologie et le projet plus vaste dont elle fait partie qu’il ne la comprend pas. Bien souvent, ce rejet est parfaitement éclairé, justifié et rationnel, rappelle Merchant.

La contestation de gauche face à l’IA s’organise

Le podcast d’interviews le plus populaire de la gauche américaine, The Dig, a récemment reçu Nick Srnicek, dont le dernier ouvrage, Silicon Empires : le combat pour l’avenir de l’IA (Polity, 2025, non traduit), prend justement très au sérieux l’importance de l’IA (Nick Srnicek est notamment l’auteur du premier manifeste accélérationniste et d’une analyse sur le capitalisme de plateforme). Des universitaires et responsables politiques de gauche comme Ruha Benjamin du Just Data Lab de Princeton, Alondra Nelson de l’institut pour les études avancées ou Amba Kak de l’AI Now Institute… ont ​​été nommés au comité de transition technologique du maire de New York (l’un des 17 comité consultatifs, composés de plus de 400 personnes, afin de conseiller les politiques de sa future administration) pour réfléchir à la question de l’IA. Bernie Sanders, figure emblématique de la gauche américaine, a proposé un moratoire sur les centres de données… 

Pour Merchant, la gauche se pose des questions sur l’IA. Interroge ce qui devrait être automatisé et ce qui ne devrait pas l’être. Les gens de gauche ont bien compris que l’IA vise à automatiser la production, et que, si les outils s’améliorent, ce n’est pas au rythme annoncé par les thuriféraires de l’IA et ce n’est pas sans limites profondément problématiques. Reste que les discussions sur l’IA communautaire et sur les méfaits de l’IA sont nourries. Pour Merchant, le débat entre Benanav et Morozov interrogeait lui aussi les enjeux : que voulons-nous que l’IA fasse et comment ? Que voulons-nous qu’elle ne fasse pas et comment ? Quels compromis sont possibles ? Est-ce que cette consommation d’énergie est justifiée ? 

Il est sûr que la droite a bien moins de scrupules : pour elle, l’intérêt de l’IA vise uniquement à générer du profit et du pouvoir. Ce qui est sûr, estime Merchant, c’est que le fait que ces débats parfois confus, souvent virulents, ne portent pas aux nues la technologie, ne signifie ni ignorance, ni occasion manquée. « Cela traduit une résistance au projet d’IA tel qu’il est actuellement constitué. Cela soulève les questions suivantes : pourquoi voulons-nous cela ? À qui cela profite-t-il ?… Cette réaction est parfaitement raisonnable. Elle est également populaire. Des moratoires sur les centres de données sont adoptés dans de nombreuses villes du pays. Les élites de la Silicon Valley sont extrêmement impopulaires. » La réglementation de l’IA, ainsi que les lois pour limiter le déploiement de l’IA déjà adoptées, bénéficient d’un large soutien. » Alors que le sénateur Bernie Sanders a appelé à un moratoire sur la construction de data centers aux Etats-Unis, que des Etats en ont voté à travers tous les Etats-Unis, un sondage d’opinion du Pew Internet montre que les Américains sont très opposés aux déploiements de centres de données, rapporte 404media. 

« La gauche est en train de remporter le débat sur l’IA »

En fait, estime Brian Merchant, « la gauche est en train de remporter le débat sur l’IA ». « Mieux, elle a en réalité accumulé un capital politique considérable autour de l’IA. La gauche veut protéger ses enfants de l’IA et éviter qu’elle leur prenne leur emploi. Pour l’instant, cette critique ne remporte le débat que dans l’opinion publique. En pratique, les entreprises d’IA font ce qu’elles veulent, avec la bénédiction de l’entourage de Trump. La gauche pourrait même, comme le suggèrent Benanav et Weatherby, défendre avec beaucoup plus de conviction que l’IA devrait être entièrement publique et administrée par le public. » Pour Merchant, les mesures dérisoires comme le revenu de base, sont bien moins stimulantes que de nous réapproprier l’IA, collectivement. N’a-t-elle pas été conçue pour« bénéficier à toute l’humanité » ?, ironise Merchant en rappelant le moto d’OpenAI. Comment se fait-il alors qu’elle ne bénéficie pas aux plus démunis ! Si l’IA ne bénéficie pas à tous, comme c’est le cas actuellement, alors elle n’apportera dans son leg qu’une situation pire que celle qui est. Elle risque bien d’être une impasse sociale, parce que, comme le dit Romaric Godin, elle ne vise qu’à accélérer l’accumulation du capital qu’elle sert. 

Les contestataires de l’IA demandent bien souvent l’arrêt de ses déploiements… (comme dans le cas de la lutte contre le déploiement des data centers) ou espèrent qu’on puisse la calfeutrer avant qu’elle n’envahisse tous les processus de nos existences (comme les artistes qui souhaitent qu’on établisse des règles pour qu’elle n’envahisse pas la musique ou les profs de plus en plus nombreux à demander à leurs établissements de ne pas souscrire d’abonnements pour les élèves comme à la California State University ou à l’université du Colorado…). Mais, les calfeutrages vont être très difficiles à mettre en place et plus encore à faire respecter du fait des intérêts financiers en jeu. Si la gauche est en train de remporter le débat sur l’IA comme le dit Merchant, par la contestation qu’elle génère, cela ne signifie pas qu’elle va remporter les batailles à venir, tant les intérêts à imposer l’IA sont puissants. 

Reste que les contestations sont riches, diverses et s’interrelient les unes les autres. Les méthodes déployées par les uns inspirent les revendications des autres. Des oppositions qui demeurent en tout cas plus joyeuses et réelles que l’IA, son monde, sa puissance sans conscience et ses profits stratosphériques et sans partage. 

Pour ma part, je préfère un monde où les gens dessinent, codent, jouent de la musique, écrivent, étudient par eux-mêmes, parlent avec d’autres humains… plutôt qu’un monde où ils en sont dépossédés. Je préfère un monde où la vérité a encore sa place à un monde guidé par la seule probabilité. 

Hubert Guillaud

MAJ du 20/03/2026 : Dans une tribune pour le New York Times, le journaliste David Wallace-Wells, surtout connu pour ses écrits sur le changement climatique, s’énerve après l’opposition contre la construction de data centers. Pour lui, le débat sur la construction de data centers est une distraction alors que l’IA est désormais largement utilisée pour faire la guerre, alors que les Etats-Unis ne disposent d’aucun cadre réglementaire pour l’encadrer. « On compare souvent l’intelligence artificielle aux armes nucléaires. Mais on n’a pas laissé Robert Oppenheimer et Edward Teller décider seuls du sort des bombes. » La réponse législative face au pouvoir de l’IA a été quasi inexistante. « Une administration parfois caricaturée comme soucieuse de la sécurité a cédé la place à une autre, plus aisément qualifiable d’accélérationniste. » Les géants de l’IA ont connu une croissance si fulgurante et sont devenus si essentiels pour l’avenir de l’économie américaine qu’ils sont devenus intouchables. Les Américains, eux, à mesure qu’ils découvraient l’IA, sont devenus moins enthousiastes et plus inquiets. « L’intelligence artificielle apparaît dans ce contexte comme un symbole fort de l’impuissance des peuples, déjà bien présente et vouée à s’aggraver. Elle annonce un avenir où l’organisation de la société sera en grande partie confiée à des robots opérant dans des systèmes opaques, contrôlés par une poignée d’individus immensément riches. » La lutte contre les datacenters semble donner aux citoyens inquiets l’illusion qu’ils peuvent reprendre le contrôle en menant des actions ciblées et concrètes. « La contestation des centres de données submerge la politique américaine », déclarait la journaliste Jael Holzman dans Heatmap, une publication spécialisée dans le climat, en novembre. « Presque chaque semaine, partout aux États-Unis des Américains manifestent, rejettent, restreignent ou interdisent la construction de nouveaux centres de données. » L’opposition locale aux centres de données semble une stratégie politique gagnante. Pour autant, est-ce que le ralentissement de la construction de data centers empêchera les entreprises de la Tech de conduire la guerre, de déstabiliser le monde du travail, de polluer internet, de sauver l’éducation, de réduire l’emprise des chatbots ? Cette opposition aux centres de calcul sera-t-elle suffisante pour limiter l’impact culturel et économique de l’IA qui est appelée à devenir le principal enjeu politique de la prochaine décennie ? 

Pourtant, il est peu probable qu’une législation significative sur l’IA soit adoptée tant que le gouvernement Trump sera en place et que d’ici là, l’IA aura sans doute autant évolué qu’elle l’a fait depuis 2023. En trois ans, nous sommes pourtant  passés de l’effroi des premiers utilisateurs de chatGPT à des débats au Pentagone d’envergure stratégique sur le déploiement d’IA totalement autonomes en zones de guerre sans supervision humaine. Le génie ne rentrera pas dans sa lampe. « Ceux qui espèrent jouer un rôle plus actif dans la construction de cet avenir devront probablement faire plus que simplement empêcher la construction de quelques nouveaux centres de données. » 

Le dossier QuitGPT :

– 1ère partie : De la politisation du boycott

– 2e partie : La gauche minimise-t-elle le pouvoir de l’IA ?

– 3e partie : Le socialisme après l’IA ?

– 4e et dernière partie : De la contestation de gauche à son organisation

Contrôler plutôt qu’éduquer

Le gouvernement Français travaille à un projet de loi pour interdire les réseaux sociaux aux moins de 15 ans pour la rentrée 2026 [qui vient d’être considérablement mis à jour par le Conseil d’Etat puisque celui-ci propose que l’interdiction ne soit pas obligatoire et suggère d’enlever les sanctions pour les plateformes. La députée et rapporteuse du projet de loi a annoncé renoncer à son projet de couvre-feu numérique de 22 heures à 8 heures pour les 15-18 ans et à son délit de négligence numérique imputable aux parents, du fait des réserves du Conseil d’Etat. Une grande incertitude plane désormais sur le projet de loi, estime Le Monde]. La première mouture de ce projet de loi proposait d’abord le renforcement des mesures de vérification d’âge, et avec lui le contrôle plutôt que l’éducation, la coercition plutôt que la pédagogie, la répression plutôt que la responsabilisation. C’est ce que répète avec constance la professeure en sciences de l’information et de la communication Anne Cordier, co-autrice notamment de Faut-il interdire les réseaux sociaux aux jeunes ? (Usbek et Rica et Robert Laffont, 2025). « Les jeunes deviennent une population à contrôler plutôt qu’à éduquer ». « Interdire rassure, donne l’illusion que l’on agit ». « Enfants et écrans : refusons que la peur devienne le seul moteur de l’action publique ». Anne Cordier semble être la dernière boussole dans un monde en flamme, où tout le monde propose gaiement de criminaliser les comportements des plus jeunes en ligne. 

Même constat pour le juriste Eric Goldman qui qualifie les restrictions d’âge de mesures  « de ségrégation et de répression » : une politique qui punit la jeunesse plutôt que de responsabiliser les plateformes. On n’interdit pas aux enfants d’aller dans les aires de jeux, mais on attend de ces espaces qu’ils soient sûrs. La popularité croissante des interdictions des réseaux sociaux, des écrans, des téléphones… traduit un retour en force de valeurs conservatrices dans nos vies numériques. Internet est devenu un champ de bataille moral. Et il est probable que cela ne nous mène nulle part. 

Le téléphone ruine-t-il vraiment la vie des adolescents ?

Pour le New Yorker, la journaliste Molly Fisher s’interroge : le téléphone ruine-t-il vraiment la vie des adolescents ? C’est en tout cas le raccourci que partagent beaucoup de parents et d’adultes. « Un smartphone, équipé de TikTok et d’Instagram, contient dans un seul et même boîtier élégant un assortiment de forces qui pourraient rendre un adolescent malheureux : une dynamique sociale toxique, une image corporelle irréaliste, une incitation à une conscience de soi paralysante, voire une raison d’éviter des éléments fondamentaux du bien-être comme une bonne nuit de sommeil ». C’est oublier que l’emprise des téléphones n’est pas non plus génératrice de bien être pour les adultes, mais le consensus explicatif sur celui-ci est bipartisan, « il fait appel aussi bien au moralisme de droite qu’au sentiment anti-entreprise de gauche ». Si tout le monde déplore être dépendant au téléphone, cerner les détails du problème s’avère plus délicat. « Quels médias numériques sont mauvais, dans quelles circonstances et pour qui ? »

Pour répondre à la question, Fisher convoque un autre journaliste du New York Times, Matt Richtel, auteur de How we grow up : understanding adolescence (Comment nous grandissons : comprendre l’adolescence, Mariner, 2025, non traduit). Son livre s’inscrit dans une série de livres sur le rapport des jeunes aux écrans. Par exemple avec les travaux de Jean Twenge, professeure en psychologie à l’Université d’État de San Diego, auteure de Generation Me (2006) puis de iGen (2017, Génération Internet: Comment les écrans rendent nos ados immatures et déprimés, Mardaga, 2018). Ou plus récemment, le bestseller de Jonathan Haidt, Génération anxieuse (Les arènes, 2025). 

Haidt soutient qu’entre 2010 et 2015, un « recâblage » générationnel s’est opéré, sous l’effet de deux forces. La première était l’importance excessive accordée par les parents à la sécurité des enfants. La seconde était l’avènement des téléphones. Cette combinaison de « surprotection dans le monde réel et de sous-protection dans le monde virtuel » a entraîné un glissement d’une enfance « axée sur le jeu » vers une enfance « axée sur le téléphone », écrit-il, au détriment de la santé mentale des jeunes. 

Le succès de Haidt s’explique par sa prescription stricte et confiante, explique Fisher : « pas de smartphone avant le lycée, pas de réseaux sociaux avant seize ans, pas de téléphone à l’école, et davantage de jeux indépendants pendant l’enfance ». Ses conseils s’inspirent des travaux d’une ancienne journaliste, Lenore Skenazy qui a connu la notoriété en 2008 avec une chronique pour le New York Sun où elle expliquait laisser son enfant de 9 ans prendre seul le métro. Militante contre la parentalité hélicoptère, Haidt s’est associée à elle pour fonder Let Grow, une association qui milite pour une plus grande indépendance des enfants. 

Le livre de Haidt a suscité des critiques bien sûr, notamment quand il avance que les téléphones seraient la seule explication raisonnable du déclin marqué de la santé mentale des adolescents. Or, ce déclin n’est pas homogène, le taux de dépression des adolescents Sud-Coréens a lui diminué et aux Etats-Unis, les taux de suicides ont augmenté dans toutes les tranches d’âges et pas seulement pour les adolescents. Même la hausse des taux de dépression des adolescentes américaines qu’il constate ne s’explique pas uniquement par l’arrivée du smartphone. Le journaliste scientifique David Wallace-Wells a souligné que l’augmentation soudaine de la dépression chez les adolescentes coïncide aussi avec une évolution des pratiques de dépistage suite à l’Affordable Care Act, avec l’augmentation des dépistages annuels et une prise en charge par les assurances santé ainsi qu’une diminution du nombre d’adolescents sans assurance maladie. Autant de facteurs ayant contribué à l’augmentation des chiffres… sans pour autant modifier nécessairement la prévalence. 

Santé mentale : il est plus facile d’accuser le téléphone que la société

Pour le Times Educational Supplement, TES magazine, le journaliste Jon Severs fait le point sur les arguments de Haidt. Figure de proue des campagnes mondiales pour interdire l’accès aux téléphones des moins de 16 ans (en Australie, c’est visiblement la femme du premier ministre australien qui a lu le livre de Haidt et qui a conduit au déclenchement des hostilité. En France, Macron l’a visiblement rencontré, rappelait Mediapart dans son émission Accès libre), Haidt vend de la peur, estime Andrew Przybylski. Les effets des médias sociaux sur le bien-être des adolescents diffèrent beaucoup d’un adolescent à un autre. S’il y a bien une dégradation de la santé mentale des adolescents, nous ne sommes pas confrontés à un tsunami, même si nous sommes peut-être plus attentifs aux troubles de l’adolescence qu’on ne l’était dans le passé. Tamsin Ford, psychiatre de l’enfance et de l’adolescence britannique, estime que la corrélation qu’évoque Haidt entre les troubles mentaux et le fait que les adolescents aillent moins bien pourraient refléter l’impact sur un très petit groupe d’adolescents déjà vulnérables aux contenus extrêmes faisant l’apologie de l’automutilation ou de l’anorexie. Mais « ce sont généralement des jeunes déjà confrontés à de multiples difficultés. Dès lors, la question de la part de responsabilité des téléphones dans leurs difficultés se pose. » D’autres facteurs entrent en compte, explique encore Ford en observant les données britanniques, notamment la fermeture des centres de jeunesse et autres lieux sûrs pour les jeunes, la complexification et l’augmentation du coût de la vie, ainsi que l’évolution des mentalités et l’affaiblissement des liens communautaires. « L’un des facteurs les plus fortement et systématiquement associés à une mauvaise santé mentale est la pauvreté. Or, de plus en plus d’enfants vivent dans la pauvreté, et l’accès aux services sociaux a considérablement diminué… ce qui conduit à la diminution des interventions précoces permettant de limiter les troubles anxieux », explique-t-elle. « Imputer ce problème aux téléphones portables est non seulement totalement erroné, mais aussi dangereux, car cela ne tient pas compte d’autres facteurs essentiels. » Candice Odgers, professeure de psychologie et d’information dresse le même constat aux Etats-Unis. Anne Cordier également quand elle évoque les « vulnérabilités associées » : autrement dit, les usages problématiques des écrans et des réseaux sociaux tendent à amplifier des risques déjà présents, eux-mêmes liés aux fragilités personnelles des individus et au contexte social. 

Addiction ou distraction ? 

Dans son livre, Haidt estime que l’autre dommage que cause les téléphones, est l’altération de la capacité de concentration. Pour Haidt, selon les études qui quantifient l’usage problématique des réseaux sociaux, des jeux vidéo et des technologies, le nombre d’accros se situerait entre 5 et 15%. 

Pour David Ellis, professeur de science comportemental à l’université de Bath, la logique de l’addiction au smartphone est très fragile, ironise-t-il. En reprenant les chiffres qui évaluent l’addiction au téléphone « nous avons réussi à créer une échelle d’addiction à l’amitié qui a démontré que 80 % de notre échantillon étaient dépendants de leurs amis, ce qui est évidemment absurde. » La psychiatre, Nora Volkow, directrice de l’Institut national américain sur l’abus de drogues, rappelle qu’il n’y a pas de définition précise de la dépendance au téléphone. Pour elle, l’estimation des 5 ou 15% d’adolescents dépendants au téléphone n’est confirmée nulle part. Nous concluons bien trop vite à la dépendance, explique-t-elle. « Pour la plupart d’entre nous, nous ne sommes pas dépendants de nos téléphones, nous sommes simplement distraits par eux… La dépendance survient lorsque la perte de contrôle est telle qu’elle entraîne des conséquences pathologiques pour l’individu ». Pour elle, le problème n’est pas tant l’information numérique présentée par les réseaux sociaux, que l’information tout court, par exemple la façon dont les chaînes d’information présentent l’information de manière plus courte et plus divertissante. « La façon dont nous fournissons l’information est de plus en plus éphémère et très percutante pour capter notre système dopaminergique », explique Volkow. « On s’attend donc à ce que le stimulus suivant soit similaire, et lorsqu’il n’est pas accompagné de tous les artifices qui accompagnent certaines de ces informations, on est forcément beaucoup moins attentif. » Elle ajoute que l’avantage des informations plus courtes est que nous pouvons désormais traiter une quantité considérable de données, mais que ce traitement sera « moins approfondi »et le risque de désinformation plus élevé.

Concernant l’affirmation de Haidt selon laquelle les réseaux sociaux auraient causé des dommages « incalculables » à l’attention de la « majorité des personnes » nées après 1995 dans le monde occidental, Gaia Scerif, professeure de neurosciences cognitives du développement à l’Université d’Oxford et spécialiste du contrôle attentionnel, explique que la perception du pouvoir de distraction des réseaux sociaux et des smartphones est bien plus complexe que la simple question de l’âge. Le cortex préfrontal ne s’active pas « soudainement à 25 ans » et le contrôle attentionnel varie considérablement en fonction de facteurs génétiques et sociaux. « Pour certains, le coût d’un téléphone en termes de distraction sera énorme ; pour d’autres, il sera minime ; et pour d’autres encore, nul ». Ce qui est sûr, c’est que la technologie ne recâble pas le cerveau. Si pour Scerif et Volkow nos smartphones sont distrayants, ils ne sont qu’une distraction parmi bien d’autres, et d’abord les autres personnes : les gens qu’on admire comme nos proches. Notre attention est toujours sollicitée par d’innombrables stimulis. 

Concernant l’argument qu’avance Haidt selon lequel les dirigeants de la tech tiendraient leurs propres enfants éloignés des écrans, Margaret O’Mara, professeure d’histoire à l’Université de Washington et auteure de The Code : Silicon Valley and the Remaking of America (Penguin, 2020), affirme qu’il n’existe aucune preuve que la plupart des dirigeants des entreprises technologiques interdisent les écrans à leurs enfants (comme l’avait montré également Damien Leloup pour Le Monde). Quant à la baisse du niveau des élèves depuis 2012, elle est effective. Mais là encore, l’introduction des téléphones n’expliquent pas tout. Pour le spécialiste de l’éducation et de l’économie de l’éducation, Matthew Kraft, il faut aussi prendre en compte les réformes de l’école. Selon Pisa, les données montrent une stabilité des scores en mathématiques dans les pays participants entre 2003 et 2018. Si les trajectoires sont légèrement à la baisse en lecture et en sciences, les données globales ne montrent aucun effondrement… Et là encore, les causes sont polyfactorielles. 

La simplification de l’interdiction

Les solutions proposées par Haidt ont également été très critiquées, rappelle Jon Severs dans son article. Haidt souhaite que « les gouvernements imposent une vérification obligatoire de l’âge et relèvent l’âge de la majorité numérique de 13 à 16 ans. Cela contribuerait à instaurer de nouvelles « normes » : pas de smartphones avant 14 ans, pas de réseaux sociaux avant 16 ans, des écoles sans téléphone et une enfance davantage axée sur le jeu ».

Pour Volkow, c’est oublier que « les téléphones portables offrent de nombreux avantages aux jeunes. Il est donc important de réglementer les algorithmes utilisés, car ce sont eux qui ciblent les comportements compulsifs de certaines personnes. En les réglementant, on protège les utilisateurs.» Avoir un usage plus encadré des téléphones est pour beaucoup un bon levier, mais cela suppose d’avoir des programmes dédiés, pour les plus jeunes et ceux qui les accompagnent, notamment les parents. Pour Ford, les interdictions ne reposent sur « aucune preuve » et pourraient même être néfastes. Beaucoup de jeunes se soutiennent mutuellement pendant des moments très difficiles, grâce à leurs téléphones. 

C’est ce qu’expliquait le poignant témoignage d’Ezra Sholl, un jeune tétraplégique australien qui expliquait combien l’interdiction des réseaux sociaux allait l’isoler et combien ceux-ci lui ont permis de rester connecté aux jeunes de son âge. Sholl soulignait d’ailleursle contraste entre cette interdiction stricte et le fait que les signalements pour incitation à la haine ou harcèlement, restent, eux, sans effet. « Ce n’est pas mon comportement en ligne qui pose problème, et pourtant, ce sont des jeunes comme moi qui sont punis ». Même constat pour les jeunes transgenres ou à la sexualité non hétéronormée… 

« Haidt est assez incohérent sur ce point : il affirme que nous surprotégeons les enfants par ailleurs, que nous les empêchons de découvrir le monde et d’apprendre, mais concernant les réseaux sociaux et les téléphones, il propose de les interdire purement et simplement », déclare Tasmin Ford. 

Mais, le narratif de l’interdiction développé par Haidt a l’avantage d’être simple et de parler aux gens. Il a aussi l’avantage de proposer des solutions accessibles, même si radicales. Pour le dire autrement, il y aurait plein de raisons pour interdire TikTok ou nombre de réseaux sociaux problématiques comme X. L’interdiction a l’avantage de porter un coup d’arrêt. De dire que cela suffit. Mais ici, ce n’est pas aux entreprises que ces discours s’adressent. La vérification d’âge n’interdit pas TikTok ou X, n’exige pas de leur part de meilleures pratiques, mais interdit seulement l’accès à l’information aux plus jeunes. Il permet finalement d’abaisser les pratiques de surveillance et de modération des réseaux sociaux, et de rendre internet de moins en moins sûr pour tous les autres. L’interdiction aux mineurs fait reposer la responsabilité des plateformes sur le maillon le plus faible de la chaîne : les mineurs. Et ce sont eux dont on va criminaliser les comportements d’information s’ils contreviennent aux interdictions, pas les entreprises qui permettent à tous de consulter des contenus qui ne sont pas adaptés. Dans le principe de la vérification d’âge, celui sur lequel s’abat l’interdiction est celui qui en subit tous les coûts. 

Accepter le téléphone, c’est accepter de rompre le lien parent-enfant

Revenons à l’article du New Yorker. Dans ce débat, Richtel se positionne entre Haidt et les sceptiques. Plutôt que de remettre en question l’existence d’une crise de santé mentale chez les adolescents, Richtel cherche à la contextualiser. Selon lui, les téléphones ne constituent pas une explication unique, même s’ils constituent une préoccupation légitime. « Je ne pense pas qu’il soit nécessaire d’être biologiste évolutionniste ou anthropologue pour en saisir la logique fondamentale », écrit-il. « Passer dix heures par jour le visage figé devant un écran n’est pas bon pour le développement du cerveau. » 

Comme Twenge et Haidt avant lui, Richtel propose un nom pour les adolescents d’aujourd’hui : « Génération rumination ». Mais il situe leur tourment dans une réflexion sur l’adolescence comme une étape culturelle, sociologique et psychologique apparue au cours des derniers siècles. La détresse ressentie par les adolescents est, selon lui, une réponse raisonnable. Un monde dont les défis sont de plus en plus abstraits et intellectuels plutôt que physiques. « La génération rumination grandit dans le domaine de l’esprit et de la psyché », écrit-il. « Se demander pourquoi certains sont en difficulté, c’est comme se demander pourquoi certains adolescents d’autrefois se sont écorchés les genoux et se sont cassés les os en gravissant une montagne pour explorer de nouveaux territoires. » Parallèlement, l’adolescence elle-même a évolué avec le recul de la puberté. Depuis les années 1980, de plus en plus de recherches montrent que les filles, en particulier, commencent leur puberté beaucoup plus tôt que ce qui était autrefois considéré comme la norme, dès six ou sept ans parfois. Richtel soutient que cela signifie que les jeunes sont désormais bloqués plus longtemps que jamais dans un état de vulnérabilité accrue ; il décrit des études indiquant que le cerveau des adolescents est particulièrement attiré par la nouveauté et les informations sociales (en plus de la prise de risque et du manque de jugement pour lesquels ils sont traditionnellement connus), ce qui les expose particulièrement aux tentations du téléphone. « Changement d’environnement + changement de puberté = inadéquation neurologique », écrit-il. Richtel mêle ses recherches aux témoignages de plusieurs adolescents, qui illustrent les grandes lignes de sa théorie. « Je ne veux pas blâmer Internet, mais je veux le blâmer », confie à Richtel un jeune souffrant d’anxiété et de dépression. « J’ai l’impression que si j’étais né 2000 avant J.-C. dans les Alpes, je serais toujours dépressif, mais je pense que le climat actuel aggrave considérablement ce phénomène. »

Pour Richtel, le rapport des adolescents au téléphone est plus un drame culturel qu’autre chose. Derrière le discours de panique morale sur le rapport des adolescents aux téléphones, il faut lire la crainte que la technologie puisse rompre le lien parent-enfant. Mais n’est-ce pas justement ce que produit l’adolescence, qui transforme un enfant de 9 ans joyeux en un enfant obsédé par les écrans à 15 ans ? « À l’instar du débat actuel sur les enfants et le genre, le discours sur les adolescents et les téléphones exploite la crainte que votre enfant ne découvre de nouvelles idées, très probablement en ligne, et ne soit transformé de manière irréversible. » C’est pourtant bien ce que produit l’adolescence plus que le téléphone. Et c’est peut-être ce que refuse la vérification d’âge : que nos enfants grandissent et nous échappent en imposant l’autorité parentale alors même que, fort heureusement, elle se délite.  

Pour Fisher, les longues heures passées en ligne par les baby-boomers devraient faire écho aux pratiques des adolescents. Mais ce que font les plus âgés ne suscite pas la même fascination ou la même inquiétude que les adolescents, alors que leurs usages peuvent-être tout aussi problématiques (voir ce que nous en disions dans l’article « Le pic des médias sociaux est derrière nous… sauf pour les plus âgés » pour la lettre Café IA). 

Sortir de la répression ?

« Faute de pouvoir véritablement réguler les médias sociaux, les États semblent donc se rabattre sur une obstruction de ces derniers », expliquait le journaliste David-Julien Rahmil pour l’ADN. Alex Beattie, maître de conférences en médias et communication à l’université Victoria de Wellington, évoque un tournant culturel et moral qu’il compare à l’ère victorienne. Dans un article publié sur The Conversation, il explique qu’on profite de la panique morale liée au Web pour brosser un portrait caricatural des adolescents connectés. Spectateurs passifs, incapables de critiquer les contenus qu’ils ingurgitent, ou bien totalement accros au défilement des vidéos, les adolescents finiraient forcément avec des troubles mentaux liés à Internet.

En phase avec une société qui ne voit le monde que par la répression, la vérification d’âge ne propose, à terme, qu’une règle autoritaire et absurde. Comme le disait Anne Cordier : « Ce que je trouve frappant, c’est l’usage de termes profondément autoritaires et militarisés comme « couvre-feu numérique ». C’est clairement une mesure de contrôle de population utilisée en temps de guerre ou de crise. En transposant ce terme dans le champ éducatif ou familial, on installe un imaginaire de coercition et de peur.

Au fond, cela traduit une vision très infantilisante, très défiante même. On a l’impression que le numérique est un adversaire à neutraliser et que les jeunes doivent avant tout être contenus plutôt que compris. Je trouve inquiétante cette confusion entre régulation éducative et discipline répressive reposant sur la contrainte.»

« Ce n’est pas avec deux ou trois heures d’ateliers de sensibilisation aux fake news qu’on va régler le problème. Ce qu’il faut, ce sont de véritables démarches d’éducation aux médias, à l’information, à la culture numérique, dès le plus jeune âge, avec des professionnels dévolus au sujet et des vrais moyens.» Mais ce sont là des mesures coûteuses à mettre en œuvre. L’interdiction, elle, ne coûte rien en politiques publiques. La répression est bien moins chère. Qu’importe si elle nous conduit à faire de mauvaises politiques, comme disait Joseph Stieglitz.

Eric Goldman ne dit pas autre chose. « Il n’existe pas de solution miracle pour protéger les mineurs en ligne, et aucune mesure politique unique ne garantira miraculeusement la sécurité des enfants en ligne ». Comme le dit l’expression, il faut tout un village pour élever un enfant : pour aider les mineurs à rester en sécurité en ligne et s’y épanouir, la coopération et la coordination de nombreux acteurs est nécessaire, quand les lois de ségrégation des jeunes en ligne tentent de contraindre les éditeurs de contenus à résoudre un problème qui touche toute la société et pour laquelle aucune solution unique ne convient à tous, comme l’expliquait un rapport du Center for Democracy & Technology ou celui de l’OCDE. Les politiques de répression ont pour premier effet de laisser les mineurs mal préparés à leur avenir, estime pertinemment Goldman, qui propose plutôt d’accélérer sur la formation des enfants et des parents et de solutions bénéfiques à tous. Il invite également à améliorer l’élaboration des politiques publiques, notamment en invitant les enfants à y participer et à respecter le droit des mineurs à la parole.  

Interdire l’accès des adolescents aux espaces en ligne ne les rend pas plus en sécurité ; cela les maintient simplement dans l’ignorance et les préparant bien mal à la vie adulte, explique l’EFF. L’interdiction compromet la sécurité et l’autonomie en remplaçant l’encadrement parental par des obligations gouvernementales et en mettant en place une infrastructure de surveillance de masse au lieu de mécanismes de protection de la vie privée. Tout l’inverse de ce dont nous avons besoin. 

En Australie, les plus jeunes se sont déjà tournés vers d’autres applications que les 10 applications sociales interdites (à savoir Facebook, Instagram, Kick, Reddit, Snapchat, Threads, TikTok, Twitch, X et YouTube), rapporte The Guardian. Et le gouvernement australien a menacé certaines d’entre elles de les faire entrer dans la liste des applications interdites aux moins de 16 ans. Une chasse à la souris peut durer longtemps. « Il est fort probable que si les jeunes se tournent vers des plateformes moins réglementées, ils deviennent plus discrets sur leur utilisation des réseaux sociaux, car ils ne sont pas censés y être. Par conséquent, s’ils tombent sur des contenus préoccupants ou vivent des expériences néfastes en ligne, ils n’en parleront pas à leurs parents. » En fait, comme le montrent les premiers témoignages de parents, les jeunes n’ont pas quitté leur téléphone. Ils continuent à y passer leur soirées. Certes, pas toujours sur les réseaux sociaux, mais directement avec leurs amis. Un sondage d’ABC révélait que trois enfants sur quatre interrogés comptaient continuer à les utiliser, rapportait le New York Times. Mais à les écouter, les jeunes australiens ont l’air bien plus matures que leurs politiciens. Pour la plupart, ils ne pensent pas que la nouvelle loi australienne changera grand-chose à leur vie.

Hubert Guillaud

Notre dossier sur la vérification d’âge :

– Première partie : vers un internet de moins en moins sûr

– Deuxième partie : de l’impunité des géants à la criminalisation des usagers

– Troisième partie : la panique morale en roue libre

MAJ du 15/01/2026 : L’agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (Anses) vient de publier une vaste étude sur les effets des réseaux sociaux et de l’IA sur les adolescents. Comme l’expliquent les coordinateurs de ce rapport en interview pour The Conversation : « l’Anses ne recommande pas d’interdire les réseaux sociaux, mais de revoir en profondeur leur conception de manière à ce qu’ils ne nuisent pas à la santé des adolescents et des adolescentes ».

MAJ du 16/01/2026 :  Des chercheurs de l’université de Manchester ont suivi 25 000 jeunes de 11 à 14 ans pendant trois années scolaires, analysant leurs habitudes déclarées sur les réseaux sociaux, leur fréquence de jeu et leurs difficultés émotionnelles afin de déterminer si l’utilisation des technologies permettait réellement de prédire des problèmes de santé mentale ultérieurs. L’étude n’a mis en évidence aucun lien, chez les garçons comme chez les filles, entre une utilisation plus intensive des réseaux sociaux ou une pratique plus fréquente des jeux vidéo et une augmentation des symptômes d’anxiété ou de dépression chez les adolescents au cours de l’année suivante. The Guardian.

MAJ du 20/01/2026 : Sur son blog, Jean-Lou Fourquet défend avec conviction la position australienne. « Ce que l’Australie a fait est plus ciblé (bien qu’imparfait) et beaucoup plus intelligent — et donc beaucoup plus dérangeant pour les plateformes : interdire aux mineurs d’avoir un compte, et donc empêcher leur profilage algorithmique. » « On ne supprime pas la liberté des mineurs d’aller sur Youtube, on supprime la capacité de YouTube de les connaître intimement à 13 ans. » Il aligne des arguments plutôt pertinents, même si ma synthèse est plus inquiète sur la dérive sécuritaire à l’égard des mineurs, notamment à la vue des recommandations de la commission TikTok, dont je parlais dans le 2e épisode.

Avec la vérification d’âge : la modération des plateformes au profit des géants

Pour Molly Buckley de l’Electronic Frontier Foundation (EFF), principale organisation non gouvernementale américaine de défense des libertés numériques, la vérification d’âge est une aubaine pour les géants du numérique. Aux Etats-Unis, bluesky a mis en place des mesures de vérifications d’âge dans le Wyoming, dans le Dakota du Sud et a fermé ses accès dans le Mississippi suite à la promulgation, là encore, de lois sur la vérification d’âge. Pour l’EFF, les difficultés de Bluesky montrent que ces lois vont écraser les petites plateformes qui ne peuvent pas absorber les coûts des mesures de vérification et renforcer le pouvoir des plus grandes plateformes. « Les obligations de vérification de l’âge concentrent et consolident le pouvoir entre les mains des plus grandes entreprises, seules entités disposant des ressources nécessaires pour mettre en place des systèmes de conformité coûteux et assumer des amendes potentiellement colossales ». C’est le même constat que fait l’EFF au Royaume-Uni : les plus grandes plateformes « ont mis en place des mesures de vérification de l’âge étendues (et extrêmement maladroites), tandis que des sites plus petits, notamment des forums sur la parentalité, l’écologie et les jeux vidéo sous Linux, ont été contraints de fermer ». L’EFF donne l’exemple du “Forum du Hamster”– un forum britannique pour discuter de tout ce qui touche au petit rongeur domestique, qui a fermé ses forums, pour renvoyer ses utilisateurs vers un simple compte Instagram, et donc vers les géants des réseaux sociaux ! Pour Molly Buckler, l’OSA (Online Safety Act) est en train de flécher le trafic vers les seuls géants du net, qui seront les mieux à même de censurer les utilisateurs. C’est une loi pour consolider le pouvoir des géants au plus grand cauchemar des utilisateurs dont les ressources communautaires vont s’atrophier.

Dans un autre article pour l’Electronic Frontier Foundation, Molly Buckley rappelle que la loi sur la vérification d’âge au Royaume-Uni ne concerne pas que les contenus à caractère sexuel, mais englobe une large catégorie de contenus « préjudiciables ». Préventivement, plusieurs forums sur la parentalité, les jeux vidéo ou l’écologie ont préféré fermer leurs portes pour éviter le risque d’amendes et les complexités de la conformité à la loi. La plateforme Reddit au Royaume-Uni a été contrainte de s’enfermer derrière des barrières de vérification d’âge. Et cela n’a pas concerné que les canaux dédiés aux contenus explicites, mais également à nombre de sous-groupes dédiés à l’identité, au soutien LGBTQ+, au journalisme, aux forums liés à la santé publique comme ceux dédiés au menstruations ou aux violences sexuelles. « L’OSA définit le terme « préjudiciable » de multiples façons, bien au-delà de la pornographie. Les obstacles rencontrés par les utilisateurs britanniques correspondent donc exactement à ce que la loi prévoyait. L’OSA entrave bien plus que l’accès des enfants à des sites clairement réservés aux adultes. En cas d’amendes, les plateformes auront toujours recours à la surcensure. »

L’EFF est surtout étonné que l’OSA ait contraint Reddit à la censure, notamment explique  Buckley parce que Reddit a été une plateforme qui a œuvré à la défense de la liberté d’expression. Même si on peut lui reprocher des excès en la matière, Reddit s’est attelé à résoudre ses problèmes. Elle a été la seule plateforme à obtenir la meilleure note de l’analyse de la modération des plateformes par l’EFF en 2019, notamment parce qu’elle a mis en place une modération souvent qualifiée de remarquable (mais pas parfaite). Pour l’EFF, les mesures de vérifications d’âge ne protégeront pas les adolescents, car ceux-ci trouveront toujours des moyens pour les contourner et se rendre sur des sites toujours plus douteux, où la modération est moindre, les risques plus importants. 

Pour l’EFF, l’exclusion des publics d’importantes communautés sociales, politiques et créatives est problématique. « Les mandats de vérification de l’âge sont des régimes de censure » et la régulation de la pornographie n’est bien souvent que la partie émergée d’une censure qui va bien au-delà et qui permet très rapidement de censurer des contenus parfaitement légaux, notamment ceux relatifs à l’éducation sexuelle ou à l’actualité. « Les questions de modérations ne sont pas simples : on glisse vite d’une condamnation morale à une condamnation politique », observait déjà le chercheur Tarleton Gillespie dans son livre sur la modération. Et l’EFF de prévenir les Américains du risque qu’ils courent à leur tour. 

Du flou des contenus à modérer… à la régulation individuelle

Dans un autre billet datant de janvier, Paige Collings and Rindala Alajaji de l’EFF rappelaient que le problème des lois pour la protection des jeunes exigeant la vérification de l’âge des internautes, c’est qu’elles ne concernent pas seulement a pornographie en ligne, comme elles aiment à se présenter. Derrière la lutte contre les contenus « dangereux », les gouvernements s’arrogent de plus en plus le pouvoir de décider des sujets jugés « sûrs ». Pas étonnant donc, que les contestations à l’encontre de ces lois se multiplient. En fait, la question du « contenu sexuel » par exemple est définie de manière vague et peut concerner des films et vidéos interdits aux moins de 18 ans, comme des contenus d’éducation sexuelle ou des contenus LGBTQ+. D’autres énumèrent des préjudices causés par les contenus, mais là encore, vaguement définis, comme les violences qui doivent être limitées, alors que les représentations de la violence servent aussi de moyens pour les dénoncer. Sans compter que les plateformes ont déjà des politiques de modération qui qualifient nombre de contenus qui ne tombent pas sous le coup de la loi comme préjudiciables, comme l’expliquait Tarleton Gillespie dans Custodians of the Internet (Yale University Press, 2018). Bref, bien souvent la censure de contenus non pornographiques n’apparaît aux gens qu’une fois que ces lois sont mises en œuvre. En Oklahoma, le projet de loi sur la vérification de l’âge entré en vigueur le 1er novembre 2024 défini comme contenu préjudiciable aux mineurs toute description ou exposition de nudité et de « conduite sexuelle », ce qui implique que des associations sur la sexualité et la santé comme Glaad ou Planet Parenthood doivent mettre en place des systèmes de vérification d’âge des visiteurs. Pour éviter d’éventuelles poursuites judiciaires, ces associations risquent de mettre en place une surcensure.

Toutes ces lois rendent les autorités administratives et les plateformes arbitres de ce que les jeunes peuvent voir en ligne, explique encore l’EFF. C’est le cas du Kids Online Safety Act (Kosa), américain, validé par le Sénat mais pas par la Chambre des représentants, défendue ardemment par la sénatrice américaine Marsha Blackburn qui l’a promue pour « protéger les mineurs des transgenres ». Si la censure des contenus LGBTQ+ par le biais des lois de vérification de l’âge peut être présentée comme une « conséquence involontaire » dans certains cas, interdire l’accès aux contenus LGBTQ+ fait partie intégrante de la conception des plateformes. L’un des exemples les plus répandus est la suppression par Meta de contenus LGBTQ+ sur ses plateformes sous prétexte de protéger les jeunes utilisateurs des « contenus à connotation sexuelle ». Selon un rapport récent, Meta a caché des publications faisant référence au hashtag LGBTQ+, le filtre contenu sensible étant appliqué par défaut aux mineurs, faisant disparaître les hastags #lesbienne, #bisexuel, #gay, #trans et #queer. Si Meta a visiblement fait machine arrière depuis, on constate qu’une forme de censure automatisée vague et subjective s’étend sur nombre de contenus et notamment sur l’information sur la santé sexuelle. Pour les jeunes, notamment LGBTQ+, plus exposés au harcèlement et au rejet, l’accès aux communautés et aux ressources numériques est essentiel pour eux, et en restreindre l’accès présente des dangers particuliers, rappelle un rapport du Gay, Lesbian & Straight Education Network (Glsen). Mais il n’y a pas que ces publics que la censure des contenus d’information sexuel met en danger… A terme, ce sont tous les adolescents qui se voient refuser une information claire sur les risques et la santé sexuelle. Or rappellent des chercheurs espagnols pour The Conversation, l’exposition à la pornographie façonne les expériences affectives et normalisent l’idée que le pouvoir, la soumission et la violence font partie du désir. Mais, rappellent-ils, c’est bien « l’absence d’une éducation sexuelle adéquate qui est l’un des facteurs qui contribuent le plus à la consommation précoce de pornographie ».

Pour l’EFF enfin, il est crucial de reconnaître les implications plus larges des lois de vérification d’âge sur la vie privée, la liberté d’expression et l’accès à l’information. Notamment pour ceux qui tentent de préserver leur anonymat. « Ces politiques menacent les libertés mêmes qu’elles prétendent protéger, étouffant les discussions sur l’identité, la santé et la justice sociale, et créent un climat de peur et de répression ». 

« La lutte contre ces lois ne se limite pas à défendre les espaces en ligne ; il s’agit de protéger les droits fondamentaux de chacun à s’exprimer et à accéder à des informations vitales.» Dans un autre article encore, Paige Collings, rappelle que « les jeunes devraient pouvoir accéder à l’information, communiquer entre eux et avec le monde, jouer et s’exprimer en ligne sans que les gouvernements ne décident des propos qu’ils sont autorisés à tenir ». 

En fait, la proposition d’interdire les contenus aux plus jeunes permet assurément de simplifier la modération : aux plus jeunes, tout est interdit… Mais pour le public majeur, conscient des risques, tout est autorisé. C’est à chacun de réguler ses usages, pas à la société. 

La même injonction à une régulation qui ne serait plus qu’individuelle traverse la société. C’est à chacun de trier ses poubelles et ceux qui ne le font pas seront condamnés pour ne pas l’avoir fait, comme c’est à chacun d’être conscient des risques de ses usages numériques, et d’en subir sinon les conséquences.

Vers la criminalisation des comportements des mineurs

En France, la commission d’enquête parlementaire sur les effets psychologiques de TikTok sur les mineurs a rendu son rapport. Ses conclusions sont « accablantes », comme le dit le Monde. Mais l’épais rapport (plus de 1000 pages) est tout de même bien problématique, comme l’analyse très pertinemment le journaliste Nicolas Kayser-Bril dans l’édition du 2 octobre de la newsletter d’Algorithm Watch. Alors que nombre d’universitaires interrogés soulignent que l’utilisation élevée de TikTok est corrélée à l’anxiété et la dépression, le rapport glisse souvent à la simple accusation. Comme si TikTok était seul porteur des maux de la jeunesse. « Les députés ont-ils succombé à la faible capacité d’attention et à l’émotionnalisation qu’ils dénoncent ? Nous ne le saurons jamais, car le Parlement français n’a pas commandé, et ne commandera probablement pas, de rapport sur les effets de Facebook sur les baby-boomers, ni sur l’algorithme de X sur les responsables politiques ». Si le rapport est accablant, il l’est surtout parce qu’il montre le déficit de mise en œuvre du DSA, malgré les obligations, comme l’expliquent Garance Denner et Suzanne Vergnolle de la Chaire de modération des contenus du Cnam. 

Face à ce déluge d’accusations à l’encontre de TikTok, les 53 recommandations du rapport deviennent rapidement plus surprenantes, puisqu’on n’y trouve pas de proposition d’interdiction de TikTok. On ne trouve pas non plus beaucoup de mesures qui imposent quelque chose à la plateforme, hormis celles qui renforcent ou précisent le cadre du RGPD et du DSA européen (recommandation 8 à destination du suivi des modérateurs de la plateforme), celle invitant à étudier la modification du statut des fournisseurs de réseaux sociaux comme éditeur, les rendant responsables des contenus accessibles (recommandation 10), celle réclamant davantage de ressources pour les signaleurs de confiance (c’est-à-dire les organismes en contact direct avec les plateformes pour signaler les contenus inappropriés), ainsi que celles obligeant les plateformes à fournir des paramètres de personnalisation et de diversification ou pluralisme algorithmique (recommandations 11 et 12, qui consisterait à produire « une norme ouverte pour les algorithmes de recommandation afin que des tiers puissent concevoir des flux “Pour vous” spécifiques. Les utilisateurs pourraient ensuite parcourir “TikTok, sélectionné par ARTE”, par exemple », explique Nicolas Kayser-Bril… Ce qui ne semble pas l’objectif d’un pluralisme algorithmique permettant à chacun de produire des règles de recommandation selon ses choix). En fait, presque toutes les recommandations proposées dans ce rapport sont à l’égard d’autres acteurs. Des plus jeunes d’abord : en imposant la fermeture d’accès à TikTok au moins de 15 ans, en proposant un couvre-feu pour les 15-18 ans et en envisageant d’étendre l’interdiction dès 2028 aux moins de 18 ans. 

Mais l’essentiel des recommandations portent sur le développement de messages de prévention à l’école et dans les services de prévention comme auprès des parents et des services de l’enfance. Des services déjà bien souvent surchargés par les injonctions. Aucune recommandation n’exige de TikTok de renforcer l’accès à des données pour la recherche ou de corriger ses algorithmes pour moins prendre en compte le temps passé par exemple ! 

Si le rapport ne fait pas (encore) de propositions pour condamner les jeunes qui accéderaient aux réseaux sociaux malgré l’interdiction, elle propose de créer dès 2028 un nouveau délit de « négligence numérique » (recommandation 43) à l’égard des parents qui laisseraient leurs enfants accéder aux réseaux sociaux. Un peu comme si dans les années 50 on avait supprimé les aides sociales aux parents qui laissaient écouter du rock à leurs enfants sous prétexte de « négligence musicale ». Ce que suggère cette recommandation qui doit être étudiée par des experts d’ici l’échéance, c’est que la vérification de l’âge va conduire à la criminalisation des comportements des plus jeunes. 

Pour l’instant, on n’en entend parler nulle part. Toutes les déclarations sur le développement de la vérification d’âge et du contrôle parental, n’évoquent que la protection des plus jeunes, jamais les peines qui pourraient advenir… plus tard. Mais du moment où elles seront en place, on voit déjà s’esquisser la perspective de criminaliser les adolescents et leurs parents qui ne respecteraient pas ces règles. L’implicite ici, consiste d’abord à interdire, puis demain, à condamner. Après la mise en place de la barrière d’accès, viendra la condamnation de ceux qui chercheront à la contourner. Va-t-on vers une société qui s’apprête à condamner des gamins de 14 ans pour être allé chercher des contenus pornos en ligne ? Vers des médias qui seront condamnés pour avoir laissé des enfants accéder à des images de répression violentes de manifestations ? Vers des parents qui seront condamnés pour avoir laissé leurs enfants accéder à internet ? Les 16-18 ans seront-ils condamnés pour être allé cherché de l’information sur la prévention sexuelle ou parce qu’ils se sont connectés sur TikTok au-delà de 23 heures ? Où parce qu’ils auront échangé une vidéo de Squeezie ?

La vérification d’âge nous conduit tout droit à une « nouvelle pudibonderie », disait pertinemment le journaliste David-Julien Rahmil pour l’ADN. Renforçant celle déjà l’œuvre sur les grandes plateformes sociales qu’observait en 2012 Evgeny Morozov ou le chercheur Tarleton Gillespie dans son livre, dont les systèmes automatisés surcontrôlent déjà la nudité plutôt que la pornographie. 

L’autre risque, à terme, c’est l’élargissement sans fin de la vérification d’âge à tous types de contenus, notamment au secteur marchand comme l’a montré la polémique des contenus explicites découverts sur des sites de commerces en ligne. Pour la haut-commissaire à l’enfance, Sarah El Haïry, « la protection des enfants en ligne ne peut souffrir d’aucune faille », soulignant par là le risque maximaliste des règles à venir (et ce alors que la protection sociale à l’enfance par exemple n’est que failles). Au risque que ces règles deviennent des couteaux suisses, faisant glisser la surveillance des contenus pornographiques à la surveillance de l’internet, comme le disait avec pertinence le journaliste Damien Leloup dans une analyse pourLe Monde, au prétexte que le « risque » pornographique est partout. 

Qu’on s’entende bien. Loin de moi de défendre TikTok (pas plus que Meta ou X). Mais la criminalisation des comportements des enfants et des parents sans imposer de mesures de régulation claires aux entreprises et d’abord à elles, me semble une voie sans issue. La vérification d’âge accuse la société des dégâts sociaux provoqués par les décisions des plateformes sans leur demander ni de données, ni de correctifs. En criminalisant les mineurs, elle ne propose qu’une nouvelle ère de contrôle moral, sans nuance, comme s’en émouvait pour The Conversation, le spécialiste en gestion de l’information, Alex Beattie.

Hubert Guillaud

Le 25 juillet 2025, dans le cadre de la loi sur la sécurité en ligne (Online Safety Act, OSA) adoptée en 2023, les nouvelles règles de vérification de l’âge sont entrées en vigueur au Royaume-Uni, pour les sites proposant du contenu qualifié de « dangereux », notamment pornographique (mais pas seulement). La loi britannique définit des catégories pour les services en ligne auxquels elle s’applique, en fonction de leurs fonctionnalités et de leur nombre d’utilisateurs actifs par mois. En regard, sont définies différentes catégories de contenus, allant de contenus dits illégaux à des contenus dits nuisibles aux enfants. La loi ne se contente pas de faire la chasse à la pornographie en ligne, c’est-à-dire à des contenus à caractères sexuels explicites, mais déborde très largement de ce seul cadre qui ouvre, en regard des sanctions lourdes, et impose une modération des contenus qui peut aller jusqu’aux images violentes de l’actualité (et pas seulement sanglantes) voire à tous propos sur la sexualité, comme ceux abordant les questions de santé.  

Un renforcement sans précédent de la surveillance et de la censure préventive : la conformité n’est pas contournable

Comme le pointe l’une des plus synthétiques et lumineuses analyses en français sur le loi que j’ai pu lire, celle de Nicolas Morin sur son blog, la loi demande aux plateformes un « devoir de diligence » proactif et fondé sur les risques, mais également impose un comportement « préventif », rendant les plateformes, sites et services en ligne, directement responsables de la sécurité de leurs utilisateurs et du contenu qu’ils rencontrent. « Enfin ! », pourrait-on s’enthousiasmer en pensant qu’on exige un peu plus de contrôle de la part des Gafams. Sauf que le champ d’application de la loi est très large et dépasse les seules plateformes de médias sociaux et les plus grands services en ligne. Elle s’applique jusqu’aux forums, commentaires de blogs et sites de partage de fichiers, même si les obligations les plus strictes s’appliquent aux plateformes les plus importantes. 

Les services en ligne doivent garantir que les enfants aient un « accès adapté à leur âge », ce qui implique une approche faisant appel à des systèmes de filtrage et de modération de contenu adaptés aux différents groupes d’âge qui s’imposent partout. « Les sanctions prévues sont sévères, potentiellement existentielles, en cas de manquement. Les amendes peuvent atteindre 18 millions de livres sterling ou 10 % du chiffre d’affaires annuel mondial d’une entreprise, et les cadres supérieurs peuvent être tenus personnellement responsables pénalement en cas de non-coopération avec le régulateur. » Du fait de la lourdeur des sanctions, avec l’OSA, la conformité réglementaire n’est pas contournable.

Mais surtout, explique Morin, « à un niveau fondamental, l’OSA illustre la bascule d’une logique procédurale à une logique de valeurs ». Jusqu’à présent, la modération de contenu suivait une approche procédurale, se concentrant sur le « comment » plutôt que sur le « quoi ». Cette logique ne disait pas aux plateformes quel contenu spécifique (en dehors de ce qui est déjà manifestement illégal) était bon ou mauvais. Elle imposait plutôt des obligations de moyens et de transparence (souvent très légères, comme des conditions de modération claires, des mécanismes de signalement simples, des processus d’appels, des rapports sur les contenus modérés…). Avec l’OSA et son approche sur les valeurs, les plateformes doivent porter un jugement même sur les contenus et leur impose une obligation de résultat. « Ce faisant, la loi délègue aux entreprises privées et à l’organe de régulation britannique (l’Ofcom) le soin de définir ce qui constitue un discours acceptable dans la société, une mission qui relève normalement du débat démocratique et de la loi pénale ». Le problème est que les contenus qui peuvent être qualifiés de préjudiciables est large et introduit un flou juridique supplémentaire, qui, à l’aune de la sévérité des sanctions, conduit déjà chacun à une sur-modération. « Pour les utilisateurs, l’application des règles devient arbitraire. Un même contenu pourra être supprimé un jour et toléré le lendemain, en fonction du modérateur ou de l’algorithme qui l’examine. Il n’y a plus de prévisibilité, un principe fondamental de l’État de droit ». 

« En utilisant des termes vagues, le Parlement britannique a, de fait, délégué son pouvoir normatif. Ce ne sont plus les législateurs élus qui définissent précisément les limites de la liberté d’expression, mais l’Ofcom, un régulateur non élu, qui publiera des codes de pratique pour “interpréter” ce que la loi entend par “préjudiciable”, et les plateformes elles-mêmes, qui créeront leurs propres règles internes pour se conformer aux interprétations de l’Ofcom.

Le débat sur ce que notre société tolère comme discours est ainsi retiré de la sphère publique et démocratique pour être confié à des comités de conformité et des régulateurs techniques.

En passant d’une logique procédurale à une logique de valeurs incarnée par des termes vagues, l’Online Safety Act crée un système où la censure devient préventive, privatisée et arbitraire. La quête légitime de sécurité en ligne, sous l’étendard ici de la sécurité des enfants et de la lutte contre le terrorisme, se fait au détriment de la liberté d’expression, de la sécurité juridique et des principes démocratiques fondamentaux. »

« L’obligation pour les plateformes de gérer le contenu « préjudiciable » mais légal les amène, par prudence, à classifier et restreindre l’accès à un large éventail de contenus, y compris les reportages d’actualité, la couverture de la guerre et des conflits, le journalisme d’investigation et les images de manifestations politiques, qui pourraient tous être considérés comme « préjudiciables » ou « dépeignant une violence grave » selon les définitions larges de la loi. Ce système délègue de fait aux entreprises technologiques privées le rôle d’arbitres de l’État en matière de discours acceptable. Alors que les partisans pourraient y voir une application de la responsabilité, les critiques y voient un « cadeau massif à la grande technologie ». Cela renforce leur pouvoir en leur donnant une autorité mandatée par l’État pour décider de ce que les utilisateurs peuvent et ne peuvent pas voir, une fonction quasi-judiciaire pour laquelle les entreprises privées sont institutionnellement mal adaptées et démocratiquement irresponsables. »

Le premier problème de l’OSA est bien le large spectre de ce que son champ réglementaire couvre. Ce n’est pas une loi qui cherche à réguler uniquement les vidéos et les images pornographiques. 

Vers une modération fonctionnelle

La loi s’applique aux sites web, aux services de réseaux sociaux, aux sites de stockage et de partage de fichiers, aux forums en ligne, aux applications de rencontre et aux services de messagerie instantanée. Tous sont désormais tenus de vérifier l’âge des visiteurs si leurs plateformes contiennent du contenu préjudiciable ou inapproprié, rappelle le New York Times. Au-delà des sites pornographiques, les applications qui ont introduit la vérification de l’âge incluent Grindr, le service de rencontres gay ; Discord, l’application de chat social ; et Reddit… Même l’encyclopédie Wikipédia reste menacée de devoir intégrer une vérification d’âge (notamment parce qu’elle entre dans la catégorie des grands services en ligne).  

La majorité des Britanniques – près de 80 % – se sont déclarés favorables aux nouvelles règles, selon un sondage YouGov auprès d’environ 4 400 adultes, peut-être sans toujours comprendre que ces règles ne concernaient pas que les contenus sexuellement explicites, puisqu’après la mise en place des premières mesures effectives, ils n’étaient plus que 69% à soutenir les règles. Mais, selon l’enquête, seule une personne sur quatre environ estime que ces restrictions empêcheront réellement les enfants d’accéder à la pornographie en ligne. Au Royaume-Uni, une vague de résistance s’est également manifestée. Plus de 500 000 personnes ont signé une pétition demandant l’abrogation de la loi sur la sécurité en ligne, critiquée par les défenseurs du droit à la vie privée et de la liberté d’expression. Ces derniers affirment que ces règles constituent un exemple d’abus de pouvoir du gouvernement et les jugent dangereuses pour les personnes souhaitant préserver leur anonymat en ligne. 

Les critiques affirment également que la portée des règles va trop loin, en incluant les forums de loisirs en ligne et divers autres sites. Ils affirment que les petits sites qui ne disposent pas des ressources nécessaires pour se conformer à la loi devront fermer, notamment parce qu’ils s’exposent à des poursuites juridiques inédites. 

Les contenus sont définis en trois catégories : des contenus primaires prioritaires préjudiciable aux enfants (les contenus pornographiques et de promotion du suicide notamment), les contenus prioritaires préjudiciables aux enfants (contenus incitant à la haine, à l’intimidation ou à la violence notamment) et des contenus non désigné comme dangereux pour les enfants mais qui peuvent leur porter préjudice, c’est-à-dire les perturber, comme des images de violences ou de manifestation. Le problème consiste bien sûr dans les flous de ces définitions : un article qui parle d’un suicide en fait-il la promotion ? Parler des violences d’une guerre ou de manifestations est-il préjudiciable ? Même la définition de la pornographie peut-être plus ou moins lâche : un texte érotique est-il de même nature qu’une vidéo explicite ?  

Face à ces risques, les sites accessibles doivent mettre en œuvre un certain nombre de mesures et notamment la « vérification vigoureuse de l’âge », en développant des algorithmes plus sûrs pour les jeunes publics et en renforçant la modération des contenus. 

Depuis l’entrée en vigueur de ces mesures fin juillet, les plateformes de réseaux sociaux Reddit, Bluesky, Discord et X ont toutes mis en place des contrôles d’âge pour empêcher les enfants de consulter des contenus préjudiciables sur leurs sites. Des sites pornographiques comme Pornhub et YouPorn ont mis en place des contrôles d’âge, demandant désormais aux utilisateurs de fournir une pièce d’identité officielle, une adresse e-mail pour que la technologie analyse les autres services en ligne où elle a été utilisée, ou de soumettre leurs informations à un fournisseur tiers pour vérification de l’âge. Des sites comme Spotify exigent également que les utilisateurs soumettent un scan facial à Yoti, une société tierce de gestion d’identité numérique, pour accéder aux contenus étiquetés 18+. L’Ofcom, qui supervise la mise en œuvre de l’OSA, est allé plus loin en envoyant des lettres pour tenter de faire appliquer la législation britannique aux entreprises basées aux États-Unis. 

La généralisation de la vérification d’âge et du contrôle parental

La contrainte de la vérification d’âge n’est pas que britannique. Elle concerne également  l’Union européenne, les Etats-Unis (une vingtaine d’Etats ayant déjà légiféré en ce sens) et l’Australie. « En France, deux lois successives ont entériné depuis 2020 la vérification d’âge », rappelait Le Monde cet été. En juin, menacé de sanctions par l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) s’il ne mettait pas en place une procédure de vérification d’âge, Pornhub a fermé ses accès en France. Si l’Europe a lancé une enquête à l’encontre des principales plateformes de contenus pornographiques, pour qu’elles mettent en place des outils de vérification d’âge plus approprié qu’un simple déclaratif, au motif du DSA et de la taille de leur audience, la Commission estime que fixer une majorité numérique ne relève pas de ses compétences, même si elle travaille à proposer une solution harmonisée de vérification d’âge des internautes. En novembre, les députés macronistes ont déposé une proposition de loi pour interdire les réseaux sociaux aux moins de 15 ans, imposer un couvre-feu numérique pour les 15-18 ans de 22 heures à 8 heures, ainsi que l’interdiction des smartphones dans les lycées. Des perspectives défendues par le président lui-même. Des propositions d’interdiction des réseaux sociaux aux moins de 15 ans sont également à l’ordre du jour au Danemark, en Norvège, et au Royaume-Uni (via un autre projet de loi, le Protection of Children Bill).

En Australie, une loi nationale a d’ores et déjà été adoptée. Elle interdit l’accès aux réseaux sociaux aux moins de 16 ans. En revanche, les applications de messagerie ou celles dévolues à l’éducation et à la santé sont exclues de cette réglementation, tout comme YouTube – sans qu’on comprenne très bien les motivations de cette exclusion. 

« Parallèlement, tous les grands réseaux sociaux ont mis en place, au fil du temps, des outils de contrôle parental et de protection des adolescents, qui permettent notamment de limiter le temps d’utilisation de l’application par les plus jeunes. Certaines plateformes, comme Instagram ou TikTok, limitent ainsi les fonctionnalités des comptes créés par les mineurs, qui sont notamment paramétrés par défaut comme « privés », c’est-à-dire dont le contenu n’est accessible qu’aux personnes acceptées par l’utilisateur.

Les grandes plateformes assurent également utiliser toute une série d’outils automatisés pour détecter les internautes qui mentent sur leur âge lors de leur inscription. En avril, Meta – maison mère d’Instagram – a ainsi annoncé son intention de tester aux Etats-Unis l’utilisation de l’intelligence artificielle pour repérer les profils des jeunes s’étant fait passer pour des adultes afin de les basculer automatiquement en « comptes adolescents ».

La plupart des réseaux sociaux arguent toutefois que la responsabilité du contrôle ne devrait pas leur échoir, mais être confiée aux opérateurs téléphoniques ainsi qu’à Apple et à Google. Ce sont ces deux entreprises qui gèrent les magasins d’applications et sont plus à même, selon les grandes plateformes, de contrôler facilement l’âge des utilisateurs. »

Certains États américains ont également commencé à introduire des législations pour restreindre l’accès à certains sites, notamment pornographiques, aux mineurs, rappelait Le Monde. Les lois de l’Utah et du Texas sont particulièrement contraignante, rappelle la chercheuse Meg Leta Jones pour Tech Policy Press : elles demandent de vérifier l’âge de tous les utilisateurs et les classent en quatre catégories : enfant (moins de 13 ans), jeune adolescent (13-15 ans), adolescent plus âgé (16-17 ans) et adulte (18 ans et plus). « Les deux lois exigent des plateformes d’applications : (1) qu’elles vérifient l’âge des utilisateurs lors de leur inscription par des « méthodes commercialement raisonnables » (par exemple, pièce d’identité, carte de crédit, lecture biométrique), (2) qu’elles relient les comptes des enfants à ceux de leurs parents, (3) qu’elles obtiennent l’autorisation des parents avant que les enfants puissent télécharger des applications ou effectuer des achats, (4) qu’elles indiquent aux développeurs d’applications l’âge de chaque utilisateur et si les parents ont donné leur autorisation, (5) qu’elles informent les parents des modifications importantes apportées aux applications (comme une nouvelle collecte de données) et qu’elles obtiennent à nouveau leur autorisation, et (6) qu’elles transmettent les informations relatives à l’âge aux développeurs de manière sécurisée et chiffrée ». Des mesures qui devraient permettre à l’Etat de poursuivre ceux qui ne les mettraient pas en œuvre au motif de pratiques commerciales trompeuses en vertu de la loi sur la protection des consommateurs et aux parents de porter plainte directement contre les applications et les boutiques d’applications. 

La loi Californienne, elle, privilégie l’auto-déclaration de l’âge (sans vérification d’exactitude). « La Californie exige : (1) un écran simple lors de la configuration de l’appareil demandant aux utilisateurs de saisir leur âge ou leur date de naissance ; (2) que le système d’exploitation partage automatiquement cette information d’âge avec les applications lors de leur téléchargement ; et (3) que les boutiques d’applications obtiennent l’autorisation parentale avant que les enfants de moins de 16 ans puissent télécharger des applications ». Ces différences permettent de comprendre pourquoi Google a soutenu le projet Californien et s’oppose aux projets du Texas et de l’Utah, explique la chercheuse Meg Leta Jones. Au Texas, les géants du web s’opposent à une loi imposant la vérification d’âge sur les magasins d’application d’Apple et Google, au prétexte de la liberté. Facebook soutient pourtant l’obligation faite aux magasins d’applications de procéder aux vérifications d’âge, afin de ne pas avoir à le faire lui-même. Pornhub également. La loi sur la responsabilité des App Stores (App Store Accountability Act) en discussion au Congrès vise pourtant à étendre l’approche de l’Utah et du Texas, mais en plaçant son respect sous la responsabilité de la Commission fédérale du commerce afin d’éliminer les recours privés de parents contre des applications qui ne se conformeraient pas à la législation. Le projet de loi fédéral permettrait d’harmoniser les modalités de contrôle d’âge aux Etats-Unis, explique The Verge. 

Pour l’instant, la vérification d’âge avance donc en ordre dispersé et tente de faire peser des obligations à certains acteurs plus qu’à d’autres. Plutôt que d’être organisée dès l’achat d’appareil ou la création de comptes, elle a tendance à se propager partout, pour mieux exercer son carcan et éliminer ses failles – quand on pourrait peut-être chercher plutôt à faire progresser globalement les limites d’accès, plutôt que de les imposer partout et penser qu’elles doivent être sans failles. Enfin, la vérification d’âge ne vient pas seule, notamment aux Etats-Unis, où elle se raffine d’un droit de regard renforcé des parents sur les téléphones de leurs enfants, notamment avec le développement du contrôle parental.. 

Vers un nouvel internet : le contrôle identitaire et moral généralisé 

Pour Wired, nous franchissons une nouvelle étape dans l’ère d’un internet de plus en plus contrôlé, qui pourrait mettre fin à l’anonymat en ligne, comme l’explique Riana Pfefferkorn, chercheuse en politiques publiques à l’Université de Stanford. « Si les gens choisissent de ne pas se connecter [aux moteurs de recherche] pour éviter les contrôles d’âge, cela pourrait avoir un impact considérable sur les méthodes de recherche d’informations en ligne, rationalisées et intégrées », explique Lisa Given, professeure de sciences de l’information à l’Université RMIT en Australie. Pour Riana Pfefferkorn de Stanford : « En fin de compte, la technologie de vérification de l’âge présente un risque pour les enfants qu’elle est censée protéger. Elle entrave leur accès à l’information et peut les exposer à des risques de violation de la vie privée, d’usurpation d’identité et d’autres problèmes de sécurité. » Pour Emanuel Maiberg et Samantha Cole de 404media, les techniques de vérification d’âge s’apprêtent à « refondre en profondeur de l’infrastructure d’Internet ». Pornhub est pourtant, scandale après scandale, bien plus modéré qu’il n’a jamais été. Le risque que fait introduire la vérification d’âge est celui d’un développement de « sites qui ne tiennent aucun compte de la loi et où certains des contenus les plus nocifs disponibles en ligne leur sont activement proposés ». Au Texas, où Pornhub est désormais bloqué, c’est Xvideos qui s’impose désormais et d’autres sites hébergés dans des pays bien moins regardant, avec des contenus plus problématiques encore. Ce que proposent les lois de vérification d’âge, c’est de « ré-embrayer sur le piratage », estiment les journalistes de 404media, c’est-à-dire que le renforcement des règles risque surtout d’assombrir les pratiques faisant naître des galaxies de sites qu’il sera plus difficile de réguler, comme la lutte contre le piratage a contribué à l’exacerber. 

Dans le nouvel internet qu’introduit la vérification d’âge, l’enjeu n’est pas seulement qu’il va être pénible de devoir s’identifier partout en activant la vérification d’âge localement, mais bien plus qu’il n’y aura plus d’internet sans identification. Le mouvement, déjà largement amorcé partout par l’authentification généralisée ne va faire que se renforcer en tentant de réduire toujours plus les espaces de liberté. Au final, la vérification d’âge va surtout renforcer les grands acteurs, ceux seuls à même de développer ces technologies de contrôle. 

Reste à savoir si la vérification d’âge nous promet un internet plus sécurisé et plus sûr ? Cela risque d’être le cas pour les mineurs effectivement, qui partout autour du monde risquent d’avoir de moins en moins accès à internet et moins accès à l’information quelles que soient ses qualités. Mais, la vérification d’âge ne promet pas une amélioration de la protection pour tous, au contraire. Elle va surtout permettre d’ouvrir les vannes des machines pour tous les majeurs. Elle risque surtout de renforcer la modération pour les plus jeunes et de l’arrêter pour tous les autres. C’est ainsi qu’il faut lire les annonces d’OpenAI à permettre à ses chatbots de produire des contenus érotiques. C’est le sens qu’il faut d’ailleurs donner à un autre projet de loi américain, dénoncé par l’EFF, la loi GUARD, qui oblige à un contrôle d’âge qui s’imposerait à tous les chatbots d’IA destinés au public.Si l’accès aux chatbots va se fermer pour les mineurs, la crise des chatbots compagnons, elle, risque surtout de se résoudre par son accélération. 

Ce que promet la vérification d’âge, finalement, c’est un internet fermé aux enfants et aux adolescents et un internet beaucoup moins sûr pour tous les autres. Un peu comme si on concentrait la régulation sur le seul principe de l’âge et de la responsabilité individuelle. En fait, il est probable que ces lois renforcent encore le peu de prise qu’ont les utilisateurs sur les politiques de modération « unilatérales décidées par les plateformes », comme l’expliquait  le chercheur Tarleton Gillespie dans son livre, Custodians of the internet (Les gardiens de l’internet, 2018, Yale University Press, non traduit – voir notre recension). 

Comme si tous les autres types d’intervention n’avaient pas d’importance. danah boyd ne disait pas autre chose : les projets de lois visant à exclure les plus jeunes des réseaux sociaux ne proposent de mettre en place aucune ceinture de sécurité, mais seulement de ne pas les accueillir dans les véhicules au risque qu’ils ne puissent plus se déplacer. « Les enfants regardent leurs parents plongés toute la journée sur leur téléphones et on est en train de leur dire qu’ils ne pourront y avoir accès avant 18 ans ! En fait, on fait tout pour ne pas interroger les processus de socialisation et leurs limites ». Nous mettons en place un solutionnisme techno-légal. « Le cadre réglementaire n’énonce pas d’exigences de conception spécifiques que les plateformes devraient éviter et n’observent que les résultats qu’elles doivent atteindre ». Le risque enfin, c’est qu’au prétexte du contrôle, nous enterrions toutes les autres modalités politiques, allant de l’éducation à la conception des plateformes. Avec la vérification d’âge, on propose finalement aux géants de concentrer leur modération sur l’exclusion des mineurs, au détriment de toute autre politique. 

Hubert Guillaud

Comment répondre à la gestion algorithmique du travail ? Tel est l’ambition du rapport « Negotiating the Algorithm » publié par la Confédération européenne des syndicats sous la direction du journaliste indépendant Ben Wray, responsable du Gig Economy Project de Brave New Europe. Le rapport décrit la prédominance des logiciels managériaux au travail (qui seraient utilisés par plus de 79% des entreprises de l’Union européenne) et les abus qui en découlent et décrit les moyens de riposte mobilisables par les travailleurs en lien notamment avec la nouvelle législation européenne des travailleurs des plateformes. La gestion algorithmique confère aux employeurs des avantages informationnels considérables sur les travailleurs, leur permet de contourner les conventions collectives et de modifier les conditions de travail et les salaires de chaque travailleur voire de chaque poste. Elle leur permet d’espionner les travailleurs même en dehors de leurs heures de travail et leur offre de nombreuses possibilités de représailles. 

En regard, les travailleurs piégés par la gestion algorithmique sont privés de leur pouvoir d’action et de leurs possibilités de résolution de problèmes, et bien souvent de leurs droits de recours, tant la gestion algorithmique se déploie avec de nombreuses autres mesures autoritaires, comme le fait de ne pouvoir joindre le service RH. 

Il est donc crucial que les syndicats élaborent une stratégie pour lutter contre la gestion algorithmique. C’est là qu’intervient la directive sur le travail de plateforme qui prévoit des dispositions assez riches, mais qui ne sont pas auto-exécutoires… C’est-à-dire que les travailleurs doivent revendiquer les droits que la directive propose, au travail comme devant les tribunaux. Or, elle permet aux travailleurs et à leurs représentants d’exiger des employeurs des données exhaustives sur les décisions algorithmiques, du licenciement au calcul du salaire. 

Bien souvent ces données ne sont pas rendues dans des formats faciles à exploiter, constate Wray : le rapport encourage donc les syndicats à constituer leurs propres groupes d’analyses de données. Le rapport plaide également pour que les syndicats développent des applications capables de surveiller les applications patronales, comme l’application UberCheats, qui permettait de comparer le kilométrage payé par Uber à ses livreurs par rapport aux distances réellement parcourues (l’application a été retirée en 2021 au prétexte de son nom à la demande de la firme Uber). En investissant dans la technologie, les syndicats peuvent combler le déficit d’information des travailleurs sur les employeurs. Wray décrit comment les travailleurs indépendants ont créé des « applications de contre-mesure » ​​qui ont documenté les vols de salaires et de pourboires (voir notre article “Réguler la surveillance au travail”), permis le refus massif d’offres au rabais et aidé les travailleurs à faire valoir leurs droits devant les tribunaux. Cette capacité technologique peut également aider les organisateurs syndicaux, en fournissant une plateforme numérique unifiée pour les campagnes syndicales dans tous les types d’établissements. Wray propose que les syndicats unissent leurs forces pour créer « un atelier technologique commun » aux travailleurs, qui développerait et soutiendrait des outils pour tous les types de syndicats à travers l’Europe. 

Le RGPD confère aux travailleurs de larges pouvoirs pour lutter contre les abus liés aux logiciels de gestion, estime encore le rapport. Il leur permet d’exiger le système de notation utilisé pour évaluer leur travail et d’exiger la correction de leurs notes, et interdit les « évaluations internes cachées ». Il leur donne également le droit d’exiger une intervention humaine dans les prises de décision automatisées. Lorsque les travailleurs sont « désactivés » (éjectés de l’application), le RGPD leur permet de déposer une « demande d’accès aux données » obligeant l’entreprise à divulguer « toutes les informations personnelles relatives à cette décision », les travailleurs ayant le droit d’exiger la correction des « informations inexactes ou incomplètes ». Malgré l’étendue de ces pouvoirs, ils ont rarement été utilisés, en grande partie en raison de failles importantes du RGPD. Par exemple, les employeurs peuvent invoquer l’excuse selon laquelle la divulgation d’informations révélerait leurs secrets commerciaux et exposerait leur propriété intellectuelle. Le RGPD limite la portée de ces excuses, mais les employeurs les ignorent systématiquement. Il en va de même pour l’excuse générique selon laquelle la gestion algorithmique est assurée par un outil tiers. Cette excuse est illégale au regard du RGPD, mais les employeurs l’utilisent régulièrement (et s’en tirent impunément). 

La directive sur le travail de plateforme corrige de nombreuses failles du RGPD. Elle interdit le traitement des « données personnelles d’un travailleur relatives à : son état émotionnel ou psychologique ; l’utilisation de ses échanges privés ; la captation de données lorsqu’il n’utilise pas l’application ; concernant l’exercice de ses droits fondamentaux, y compris la syndicalisation ; les données personnelles du travailleur, y compris son orientation sexuelle et son statut migratoire ; et ses données biométriques lorsqu’elles sont utilisées pour établir son identité. » Elle étend le droit d’examiner le fonctionnement et les résultats des « systèmes décisionnels automatisés » et d’exiger que ces résultats soient exportés vers un format pouvant être envoyé au travailleur, et interdit les transferts à des tiers. Les travailleurs peuvent exiger que leurs données soient utilisées, par exemple, pour obtenir un autre emploi, et leurs employeurs doivent prendre en charge les frais associés. La directive sur le travail de plateforme exige une surveillance humaine stricte des systèmes automatisés, notamment pour des opérations telles que les désactivations. 

Le fonctionnement de leurs systèmes d’information est également soumis à l’obligation pour les employeurs d’informer les travailleurs et de les consulter sur les « modifications apportées aux systèmes automatisés de surveillance ou de prise de décision ». La directive exige également que les employeurs rémunèrent des experts (choisis par les travailleurs) pour évaluer ces changements. Ces nouvelles règles sont prometteuses, mais elles n’entreront en vigueur que si quelqu’un s’y oppose lorsqu’elles sont enfreintes. C’est là que les syndicats entrent en jeu. Si des employeurs sont pris en flagrant délit de fraude, la directive les oblige à rembourser les experts engagés par les syndicats pour lutter contre les escroqueries. 

Wray propose une série de recommandations détaillées aux syndicats concernant les éléments qu’ils devraient exiger dans leurs contrats afin de maximiser leurs chances de tirer parti des opportunités offertes par la directive sur le travail de plateforme, comme la création d’un « organe de gouvernance » au sein de l’entreprise « pour gérer la formation, le stockage, le traitement et la sécurité des données. Cet organe devrait inclure des délégués syndicaux et tous ses membres devraient recevoir une formation sur les données. » 

Il présente également des tactiques technologiques que les syndicats peuvent financer et exploiter pour optimiser l’utilisation de la directive, comme le piratage d’applications permettant aux travailleurs indépendants d’augmenter leurs revenus. Il décrit avec enthousiasme la « méthode des marionnettes à chaussettes », où de nombreux comptes tests sont utilisés pour placer et réserver du travail via des plateformes afin de surveiller leurs systèmes de tarification et de détecter les collusions et les manipulations de prix. Cette méthode a été utilisée avec succès en Espagne pour jeter les bases d’une action en justice en cours pour collusion sur les prix. 

Le nouveau monde de la gestion algorithmique et la nouvelle directive sur le travail de plateforme offrent de nombreuses opportunités aux syndicats. Cependant, il existe toujours un risque qu’un employeur refuse tout simplement de respecter la loi, comme Uber, reconnu coupable de violation des règles de divulgation de données et condamné à une amende de 6 000 € par jour jusqu’à sa mise en conformité. Uber a maintenant payé 500 000 € d’amende et n’a pas divulgué les données exigées par la loi et les tribunaux. 

Grâce à la gestion algorithmique, les patrons ont trouvé de nouveaux moyens de contourner la loi et de voler les travailleurs. La directive sur le travail de plateforme offre aux travailleurs et aux syndicats toute une série de nouveaux outils pour contraindre les patrons à jouer franc jeu. « Ce ne sera pas facile, mais les capacités technologiques développées par les travailleurs et les syndicats ici peuvent être réutilisées pour mener une guerre de classes numérique totale », s’enthousiasme Cory Doctorow.

Si le département de l’Efficacité Gouvernementale (DOGE) a disparu de l’actualité, ce n’est pas le cas de ses actions ni du modèle initié, au contraire. Aux États-Unis, des dizaines de d’État ont mis en place des « missions d’efficacité », inspirées du Doge. Un point commun à nombre de ces initiatives est « l’objectif affiché d’identifier et d’éliminer les inefficacités des administrations publiques grâce à l’intelligence artificielle (IA) » et de promouvoir « un accès élargi aux systèmes de données étatiques existants », selon une analyse récente de Maddy Dwyer, analyste politique au Centre pour la démocratie et la technologie.

Sur Tech Policy Press, Justin Hendrix en discute justement avec Maddy Dwyer et l’ingénieur Ben Green, dont on a souvent évoqué le travail sur InternetActu et dont on avait lu The smart enough city (MIT Press, 2019, non traduit, voir notre article “Vers des villes politiquement intelligentes”) et qui travaille à un nouveau livre, Algorithmic Realism: Data Science Practices to Promote Social Justice.

Dans son analyse, Maddy Dwyer parle d’une « dogification des administrations américaines » et des gouvernements d’Etats. 29 États américains ont mis en place des initiatives en ce sens, avec des succès pour l’instant mitigés, et un certain nombre (11) ont particulièrement mobilisé les données et l’IA pour se faire. Certains l’ont mobilisé pour simplifier les processus réglementaires, réduire les effectifs et évaluer les financements. Dwyer a établi 5 signaux d’alertes permettant de montrer que ces dogifications pouvaient être problématiques. 

La première concerne le manque de transparence. Du Doge fédéral à ses déclinaisons locales, dans beaucoup de situations nous ne savons pas qui compose la structure, quel est son rôle, quelles sont ses attributions légales, de quels accès aux systèmes dispose-t-il ? 

Le second point d’alerte concerne les violations des règles sur la protection de la vie privée, notamment lorsque le Doge a eu accès à des données sensibles et protégées. Cela rappelle aux Etats qu’ils ont l’obligation de veiller à ce que leurs initiatives d’efficacité soient conformes aux lois sur la confidentialité et la cybersécurité.

Le troisième point d’alerte concerne les failles de sécurité et notamment l’absence de contrôle d’accès, voir l’usurpation d’identité. L’efficacité ne peut se faire au détriment de la sécurité des systèmes. 

Le quatrième signal d’alarme concerne l’instrumentalisation des données gouvernementales, notamment en accélérant les échanges de données entre agences, à des fins non prévues initialement et au risque de saper la confiance des administrés. 

Enfin, un ultime signal d’alarme consiste à utiliser des outils IA sans avoir démontré leur efficacité pour prendre des décisions à haut risque. Les administrations et États locaux devraient donc s’assurer que les outils utilisés sont bien adaptés aux tâches à accomplir. 

Pour Ben Green, ces programmes sont d’abord des programmes austéritaires. Le Doge nous a surtout montré qu’intégrer la technologie dans l’administration peut considérablement échouer. Certes l’IA peut produire du code, mais une grande partie du travail d’ingénieur logiciel ne consiste pas à l’écrire, il consiste à l’intégrer dans un système logiciel complexe, de suivre des protocoles de sécurité appropriés, de concevoir un logiciel capable d’être maintenu dans le temps. Autant de choses que les outils de codage automatisés savent peu faire, rappelle l’ingénieur. Ensuite, ce n’est pas parce qu’un outil d’IA a des capacités ou semble utile qu’il est réellement utile aux travailleurs d’un domaine très spécifique. Déployer un chatbot pour les agents fédéraux ne leur est pas très utile, comme l’expliquait Wired. Un outil d’IA ne sait pas s’intégrer dans un contexte de règles, de réglementations, de processus ni vraiment avec d’autres équipes avec lesquelles les administrations se coordonnent. En vérité, rappelle Green, « il est extrêmement difficile de faire collaborer efficacement les gens et l’IA ». Pour lui, le succès de l’IA s’explique parce qu’elle « rend la mise en œuvre des mesures d’austérité plus rapides ». L’IA est un prétexte, comme le disait Eryk Salvaggio. Elle n’améliore pas l’efficacité du gouvernement. Quand l’IA a été mobilisée au sein de l’Agence des anciens combattants pour réduire les contrats, le code pour distinguer les contrats acceptables des autres a été écrit en une seule journée. Pour Green, le Doge ne s’est jamais soucié de bien faire les choses, ni de garantir le bon fonctionnement des systèmes, mais simplement de rapidité. Sans compter, rappelle Maddy Dwyer, que les administrations subissent désormais une forte pression à avoir recours à l’IA. 

Pour Justin Hendrix, nous sommes aujourd’hui dans un cycle technologique et politique d’expansion de l’IA. Mais ce cycle risque demain de passer. Pourra-t-on utiliser l’IA autrement ? Il est probable que administrations fédérales, étatiques ou locales, se rendent compte que l’IA ne leur apporte pas grande chose et génère surtout des erreurs et de l’opacité, tout comme les entreprises elles-mêmes commencent à déchanter. C’était d’ailleurs l’un des constats du rapport sur l’état du business des l’IA générative publiée par le MIT, qu’évoquait Fortune fin août : « 95% des projets pilotes d’IA générative dans les entreprises échouent ». L’intégration d’outils IA dans les entreprises se révèle particulièrement ardue, et les projets sont souvent peu pertinents, bien moins que les outils des grands acteurs de l’IA. Le rapport soulignait également un décalage dans l’allocation des ressources : plus de la moitié des budgets dédiés à l’IA génératives sont orientés vers le marketing et la vente plutôt que vers l’automatisation des processus métiers. Dans le New York Times, Steve Lohr résumait autrement la situation. « Selon une étude récente de McKinsey & Company, près de huit entreprises sur dix déclarent utiliser l’IA générative, mais tout aussi nombreuses sont celles qui n’ont signalé aucun impact significatif sur leurs résultats financiers. » Malgré l’espoir d’une révolution dans tous les domaines, de la comptabilité back-office au service client, les bénéfices des entreprises à adopter l’IA peinent à émerger. C’est « le paradoxe de l’IA générative », comme dit McKinsey. Et il ressemble furieusement au paradoxe de la productivité de l’introduction des premiers ordinateurs personnels dans les entreprises : malgré les investissements massifs des entreprises dans l’équipement et les nouvelles technologies, les économistes voyaient peu de gains de productivité chez les employés. Selon une enquête de S&P Global, 42% des entreprises qui avaient un projet pilote d’AI l’ont abandonné en 2024, contre 17% l’année précédente. Pour le Gartner, qui analyse depuis des années les cycles de battage médiatique technologiques, l’IA est en train de glisser vers le creux de la désillusion, tout en promettant que c’est l’étape avant qu’une technologie ne devienne un outil à la productivité éprouvé (oubliant de rappeler pourtant, que nombre de technologies mise en avant par cette étude annuelle controversée et fort peu sérieuse, ne sont jamais revenues du creux de la désillusion). Pour l’instant, rappelle Lohr, les seuls gagnants de la course à l’IA ont été les fournisseurs de technologies et de conseils en IA, même si le journaliste tente de nous convaincre du contraire en nous parlant du déploiement de systèmes d’IA chez deux acteurs mondiaux, sans qu’ils soient encore capables de mesurer leurs effets. « Il n’est pas surprenant que les premiers efforts en matière d’IA échouent », clamait Andrew McAfee, codirecteur de l’Initiative sur l’économie numérique du Massachusetts Institute of Technology et fondateur de Workhelix, une société de conseil en IA : « L’innovation est un processus d’échec assez régulier. » 

Reste qu’il est difficile de changer de cap pour ceux qui l’adoptent, rappelle Green, alors que ces bascules favorisent une approche très solutionniste de la technologie. Dans les technologies liées à la ville intelligente, l’adoption rapide de technologies a été déceptive et a conduit à l’abandon de nombre de projets, parce que les équipes, face aux critiques, sont souvent désarmées. Pour lui, l’idée d’une IA indispensable risque surtout de rendre le réveil difficile. « Pour beaucoup de personnes travaillant dans le domaine de la technologie et du gouvernement, la technologie devient la finalité, et on perd de vue ce que nous cherchons réellement à accomplir. On se laisse alors happer par des idées très étroites d’efficacité », au détriment de l’amélioration du gouvernement. Notre navigation à courte vue entre des programmes très pro-techno et leur reflux, conduit à bien plus de stagnation que d’avancées.

Pour Maddy Dwyer tout l’enjeu vise à évaluer s’il existe des alternatives à l’IA plus adaptées pour résoudre nos problèmes, en favorisant la transparence des solutions. Pour Ben Green, nous devrions chercher à mieux comprendre pourquoi l’IA suscite un tel engouement et comment il se propage.

L’engouement pour les solutions technologiques ne date pas de l’IA, comme le montre les nombreuses vagues que nous avons connues. Pour Green, l’enjeu ne consiste pas seulement à expliquer pourquoi l’IA est défaillante, mais à comprendre pourquoi « notre façon de concevoir la technologie est défaillante ». Nous devrions réfléchir à « la façon dont l’information sur la technologie est transmise et partagée à des personnes qui souhaitent simplement améliorer le gouvernement et croient que toutes ces technologies sont efficaces pour y parvenir ». Enfin, dans les discours actuels sur l’efficacité, il faut prendre en compte l’austérité bien sûr, mais plus encore mieux mesurer la profonde méfiance qui s’exprime à l’égard des fonctionnaires. Pourquoi « ne fait-on pas confiance aux bureaucrates pour prendre des décisions à notre place » ? Si l’efficacité est importante, la gauche devrait aussi porter un discours sur l’intérêt général, la dignité, le bien être. L’efficacité est un piège qu’il faut à la fois répondre et dépasser. 

L’IA prédictive comme générative semble offrir une multitude d’avantages à l’élaboration des politiques publiques : de l’analyse de données complexes à l’optimisation des ressources. Elle semble à la fois être capable d’apporter une vision globale et d’identifier les leviers permettant de la modifier. Recourir à l’IA signifie mettre en place des politiques conduites par les données, ce qui permet d’assurer une forme d’objectivité, notamment quant il s’agit de rationner le service public… 

Mais, cette production de solutions politiques semble oublier que l’IA est incapable de résoudre les problèmes structurels. Elle propose des solutions performatives qui obscurcissent et amplifient les problèmes, explique l’iconoclaste Dan MacQuillan dans un article pour la Joseph Rowntree Foundation, une association britannique de lutte contre la pauvreté, qui a initié une réflexion sur l’usage de l’IA pour le bien public. Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’intelligence artificielle, Bristol University Press, 2022, non traduit) dont nous avions déjà parlé. 

McQuillan rappelle que l’IA, par principe, consiste à produire des corrélations réductrices plutôt que des analyses causales. « La complexité de l’IA introduit une opacité fondamentale dans le lien entre les données d’entrée et les résultats, rendant impossible de déterminer précisément pourquoi elle a généré un résultat particulier, empêchant ainsi toute voie de recours. Ce phénomène est aggravé dans les applications concrètes, où les résultats apparemment fiables de l’IA peuvent devenir auto-réalisateurs. Un algorithme d’apprentissage automatique qualifiant une famille de « difficile » peut ainsi créer une boucle de rétroaction entre les membres de la famille et les services sociaux. De cette manière, l’IA imite des phénomènes sociologiques bien connus, tels que les stéréotypes et la stigmatisation, mais à grande échelle ». Ses inférences au final renforcent les stratifications sociales de la société comme pour les rendre acceptables.

Or, rappelle le chercheur, « une bonne politique doit impérativement être ancrée dans la réalité ». C’est pourtant bien ce lien que rompent les calculs de l’IA, à l’image des hallucinations. Celles-ci proviennent du fait que l’IA repose sur l’imitation du langage plutôt que sa compréhension. Le même principe s’applique à toutes les prédictions ou classifications que produit l’IA. « Que l’IA soit appliquée directement pour prédire la fraude aux aides sociales ou simplement utilisée par un décideur politique pour « dialoguer » avec une multitude de documents politiques, elle dégrade la fiabilité des résultats ». 

Des données probantes suggèrent déjà que l’imbrication des algorithmes dans les solutions politiques conduit à une appréciation arbitraire de l’injustice et de la cruauté. Les scandales abondent, de Robodebt en Australie à l’affaire des allocations familiales aux Pays-Bas, qui auraient tous pu être évités en écoutant la voix des personnes concernées. Mais l’IA introduit une injustice épistémique, où la capacité des individus à connaître leur propre situation est dévaluée par rapport aux abstractions algorithmiques. Si l’IA, comme la bureaucratie, est présentée comme une forme généralisée et orientée vers un objectif de processus rationnel, elle engendre en réalité de l’inconscience : l’incapacité à critiquer les instructions, le manque de réflexion sur les conséquences et l’adhésion à la croyance que l’ordre est correctement appliqué. Pire encore, l’IA dite générative offre la capacité supplémentaire de simuler une large consultation, que ce soit par « l’interprétation » hallucinatoire d’un grand nombre de soumissions publiques ou par la simulation littérale d’un public virtuel et prétendument plus diversifié en remplaçant des personnes réelles par des avatars d’IA générative. Une technique, qui, si elle a l’avantage de réduire les coûts, est dénoncée par des chercheurs comme contraire aux valeurs mêmes de l’enquête et de la recherche, rappelait Scientific American. « L’approche technocratique mise en œuvre par l’IA est à l’opposé d’un mécanisme réactif aux aléas de l’expérience vécue », explique McQuillan. « L’IA n’est jamais responsable, car elle n’est pas responsable ». Si l’on considère les attributs de l’IA dans leur ensemble, son application à l’élaboration des politiques publiques ou comme outil politique aggravera l’injustice sociale, prédit le chercheur. L’apport de l’IA à l’ordre social ne consiste pas à générer des arrangements de pouvoir alternatifs, mais à mettre en place des mécanismes de classification, de hiérarchisation et d’exclusion. 

Chaque signalement par l’IA d’un risque de fraude, d’un classement d’une personne dans une catégorie, mobilise une vision du monde qui privilégie des représentations abstraites à la complexité des relations vécues, et ce dans l’intérêt des institutions et non des individus. « Imprégnées des injustices criantes du statu quo, les solutions de l’IA tendent inexorablement vers la nécropolitique, c’est-à-dire vers des formes de prise de décision qui modifient la répartition des chances de vie par des désignations de disponibilité relative. Détourner massivement les individus des parcours éducatifs ou des prestations sociales dont ils ont besoin pour survivre, par exemple, constitue un filtre algorithmique pour déterminer qui est bienvenu dans la société et qui ne l’est pas ». 

Le problème, c’est que la pression sur les décideurs politiques à adopter l’IA est immense, non seulement parce que ses biais viennent confirmer les leurs, mais plus encore du fait des engagements commerciaux et des promesses économiques que représente le développement de ce secteur. Et McQuillan de regretter que cette orientation nous éloigne de l’enjeu éthique qui devrait être au cœur des politiques publiques. La politique s’intéresse de moins en moins aux injustices structurelles de la société. « Un monde où l’élaboration et la mise en œuvre des politiques publiques reposent sur l’IA est aussi un monde qui confère un pouvoir considérable à la petite poignée d’entreprises capables de disposer de ces ressources ». Par essence, « l’adoption de l’IA constitue un engagement en faveur de l’extractivisme et d’un transfert de contrôle à un niveau qui supplante toute politique réelle ». 

En fait, explique McQuillan, adopter l’IA dans l’élaboration des politiques publiques revient à soumettre les politiques à des agendas corporatifs et idéologiques plus vastes (à savoir se soumettre à ceux qui ont déjà décidé que l’avenir de la civilisation réside dans l’intelligence artificielle générale (IAG), ceux qui ont décidé que la meilleure réponse à la crise structurelle est de la masquer sous le battage médiatique de l’IA, et ceux qui ont conclu que le meilleur moyen de maintenir les revenus en période de récession mondiale est de remplacer les travailleurs réels par des émulations d’IA de mauvaise qualité). L’impact net de l’IA dans l’élaboration des politiques la rendrait plus précaire et favoriserait l’externalisation et la privatisation sous couvert d’une technologie surmédiatisée. Il s’agit d’une forme de « stratégie du choc », où le sentiment d’urgence généré par une technologie prétendument transformatrice du monde est utilisé comme une opportunité pour l’emprise des entreprises et pour transformer les systèmes sociaux dans des directions ouvertement autoritaires, sans réflexion ni débat démocratique. 

Pour Dan McQuillan, plutôt que de se demander comment l’IA va imprégner l’élaboration des politiques, il faudrait se concentrer sur des politiques publiques qui favorisent la dénumérisation. C’est-à-dire favoriser une stratégie sociotechnique de réduction de la dépendance à l’échelle computationnelle, de participation maximale des communautés concernées et de reconnaissance accrue du fait que le raisonnement computationnel ne saurait se substituer aux questions politiques exigeant un jugement réfléchi et perspicace. L’IA, en tant qu’appareil de calcul, de concepts et d’investissements, est l’apothéose de la « vue d’en haut », l’abstraction désincarnée du savoir privilégié qui empoisonne déjà nombre de formes d’élaboration des politiques. Pour McQuillan, un pivot vers la « décomputation » est une façon de réaffirmer la valeur des connaissances situées et du contexte sur le seul passage à l’échelle. Contrairement aux prédictions et simulations de l’IA, notre réalité commune est complexe et intriquée, et la théorie ne permet pas de prédire l’avenir. Cela ne signifie pas que nous ne pouvons pas progresser vers des objectifs tels que la justice sociale et une transition juste, mais la dénumérisation suggère de les aborder de manière à la fois itérative et participative. Le véritable travail de restructuration réoriente l’attention des technologies toxiques vers le développement de techniques de redistribution du pouvoir social, telles que les conseils populaires et les assemblées populaires. Bref, pour sortir de l’enfermement des politiques publiques de l’abstraction qu’impose l’IA, il faut prendre un virage contraire, suggère McQuillan. Un constat qui n’est pas si éloigné de celui que dresse le chercheur Arvind Narayanan quand il invite à limiter l’emprise du calcul sur le social, même s’il est exprimé ici d’une manière bien plus radicale. 

« Le discours selon lequel l’intelligence artificielle révolutionne la science est désormais quasiment incontournable », rappelle William Burns, consultant en politique scientifique, pour Tech Policy Press. « L’histoire raconte déjà que l’IA n’est pas seulement l’avenir : elle révolutionne les découvertes scientifiques ». Même des gens assez critiques de l’IA et de ses développements disent qu’elle possède des « capacités prometteuses » pour la recherche scientifique, justifiant son développement. Pourtant, l’IA, telle qu’elle est actuellement déployée en science, occulte plus qu’elle ne révèle, exacerbant les problèmes qu’elle prétend résoudre. 

Les chercheuses Lisa Messeri et Molly J. Crockett affirmaient l’année dernière dans Nature que « la prolifération des outils d’IA en science risque d’introduire une phase de recherche scientifique où nous produisons davantage, mais comprenons moins ». Mais surtout, l’usage de l’IA pourrait compromettre la capacité à produire des connaissances fiables, sur lesquelles repose tout l’édifice scientifique. Cette crise annoncée prolonge celle que traverse la recherche depuis le début du XXIe siècle, notamment liée à la stagnation des découvertes pharmaceutiques. Burns rappelle par exemple que le Projet Génome Humain dans les années 90 a été lancé en promettant une prolifération de nouveaux médicaments qui n’est jamais advenue. Un chercheur d’une grande entreprise scientifique expliquait en 2008 que « rien de ce que les entreprises ont fait pour accroître la production de nouveaux médicaments n’a fonctionné, y compris les fusions, les acquisitions, les réorganisations et l’amélioration des processus ».

Le microbiologiste américain, Carl Woese, opposant à l’ingénierie biologique, estimait, en 2004, que la crise de l’innovation était liée à la généralisation de l’ingénierie du vivant. En 2011, l’économiste Philip Mirowski estimait que le néolibéralisme, obsédé par la technologie, avait tué la rigueur scientifique. La promesse de renouveau scientifique par l’IA s’inscrit pleinement en prolongement de cette crise. En 2023, l’OCDE expliquait que l’IA pourrait venir aider une science devenue « plus difficile ». A l’image d’AlphaFold, le système de pliage des protéines de Google DeepMind, pour lequel Demis Hassabis et John Jumper ont reçu le prix Nobel de chimie en 2024.

Les protéines ne sont pas des puces de silicium

AlphaFold a permis de prédire la structure de 200 millions de protéines, mais il serait expérimentalement impossible d’en vérifier n’en serait-ce qu’une fraction. Pour ce faire, « il faudrait généralement isoler des protéines des cellules en quantités importantes – un processus capricieux – puis les soumettre à des techniques telles que la diffraction des rayons X et la résonance magnétique nucléaire. Ces étapes pourraient prendre des années, même pour une seule protéine ». Néanmoins, la philosophe Daria Zakharova a affirmé dans un pre-print que si les prédictions d’AlphaFold sont considérées comme fiables et sont utilisées par les scientifiques, cette « connaissance » est bien imparfaite. « D’un point de vue strictement matériel, AlphaFold n’est pas une représentation du comportement des protéines, mais plutôt du comportement des puces de silicium (sur lesquelles repose le calcul). En ce sens, les inventeurs d’AlphaFold ont avancé l’hypothèse que des puces de silicium pourraient imiter les protéines. Cela soulève la question de savoir comment des matériaux sans lien entre eux, tant chimiquement que spatialement et temporellement, pourraient s’imiter. Au minimum, des preuves substantielles seraient nécessaires pour le prouver. Pourtant, lorsque des efforts ont été déployés pour le vérifier, les résultats ont été mitigés », rappelle Burns. Une étude récente de Garrido-Rodríguez et ses collègues a par exemple soutenu que le calcul d’AlphaFold ne « correspondait pas aux modèles déterminés expérimentalement », faisant référence à une classe de protéines omniprésentes et biologiquement vitales appelées serpines. « De toute évidence, des recherches plus approfondies pourraient être nécessaires sur la fiabilité de l’IA en tant qu’outil prédictif ». Pour Burns, les preuves ne sont pas suffisamment solides à ce stade. Bien sûr, le repliement des protéines est complexe. Leur modélisation est ancienne et repose sur des hypothèses manifestement différentes de leur réalité. Longtemps, ces modèles servaient à interpréter des données d’observation issues de la diffraction des rayons X, et non à créer un modèle informatique, comme avec AlphaFold. Le problème, estime le chercheur en cancérologie et lauréat du prix Nobel de physiologie ou médecine 2019, William G. Kaelin Jr., c’est que la publication doit construire son savoir sur des briques plutôt que sur de la paille. 

Au Royaume-Uni, la UK Biobank, une entreprise publique qui détient des données génétiques sur un sous-ensemble de la population britannique, aurait conclu en mars dernier un partenariat avec des sociétés pharmaceutiques et Calico, filiale d’Alphabet, qui auront accès à ces données pour des études menées avec l’IA. Le projet a été décrit par le Financial Times comme « un exemple emblématique de la manière dont les ordinateurs avancés et les modèles d’intelligence artificielle peuvent exploiter de vastes ensembles de données biologiques pour étudier en profondeur le fonctionnement du corps humain et ses dysfonctionnements potentiels ». Une question se pose cependant : l’exploitation de ces ensembles de données est-elle susceptible de produire des connaissances fiables, même en théorie ? En 2017, ces données ont été décrites comme « non représentatives de la population générale… Les participants à la UK Biobank vivent généralement dans des zones socio-économiquement moins défavorisées ; sont moins susceptibles d’être obèses, de fumer et de consommer de l’alcool quotidiennement ; et présentent moins de problèmes de santé autodéclarés ». La structure de ces ensembles de données de santé, et d’autres similaires, qui ne sont certainement pas secrets, suscite des doutes. Même les observateurs optimistes doivent l’admettre : si les données sont inadéquates et l’IA opaque, quelle est la valeur épistémique réelle de ces projets ? Le prix Nobel Kaelin Jr. a conseillé : « La question… devrait être de savoir si… les conclusions sont susceptibles d’être correctes, et non de savoir s’il serait important qu’elles soient vraies. » 

Ralentir la science

Si l’on veut sauver la science de son malaise actuel, des solutions sont déjà possibles, conclut Burns. « Des propositions comme la « slow science » d’Isabelle Stenger semblent valoir la peine d’être tentées, car elles pourraient élargir la charge de la preuve aux affirmations scientifiques et encourager un esprit de service public parmi les scientifiques. Pourtant, si une rénovation épistémique a eu lieu jusqu’à présent dans le domaine scientifique, elle est restée extrêmement timide et n’a pas produit d’effets escomptés. 

Il faut dire que pour les investisseurs, l’idée que l’IA puisse nous sortir de l’impasse actuelle et donner naissance à toutes sortes d’inventions rentables est doublement séduisante. L’IA est une méthode qui ne nécessite que des capitaux pour sa mise en œuvre et qui peut être réalisée à grande échelle, contrairement à la recherche empirique, centrée sur l’humain et fastidieuse, où l’ingéniosité et la chance (qui ne s’achètent pas si facilement) semblent prédominer. Mais investir dans l’IA est aussi un moyen efficace de maintenir le statu quo, tout en semblant le bouleverser, car il pose l’hypothèse d’un avenir technologique sans les changements systémiques qu’impliquent d’autres réformes. 

Dans cette optique, nous devons résister au spectacle. L’IA fait vendre une vision du progrès où les algorithmes peuvent révéler les secrets plus rapidement, mieux et à moindre coût ; pourtant, les secrets de la nature ne sont pas si facilement révélés, et la connaissance sans compréhension n’est pas une connaissance du tout. »

S’il y avait besoin d’une explication supplémentaire, Alberto Romero dans sa newsletter algorithmic Bridge, revient sur une étude du MIT et de Harvard, où les chercheurs se sont demandé si les modèles d’IA pouvaient passer de la simple prédiction au « développement de modèles fiables », en les faisant travailler sur un problème de physique assez classique ? Mais au lieu de tester avec le langage, qui est assez complexe et difficile à analyser, ils se sont concentrés sur la physique classique. Ils voulaient voir si le modèle utiliserait les lois de Newton pour prédire les vecteurs de force à l’origine du mouvement de révolution de la terre autour du soleil ou s’il inventerait simplement ses prédictions sans comprendre la physique réelle. Ils ont conclu que les modèles d’IA font des prédictions précises, mais ne parviennent pas à encoder le modèle universel de Newton et recourent plutôt à des heuristiques spécifiques à chaque cas, non généralisables et fortement incohérents. L’étude montre que « les modèles d’IA sont tout simplement incapables de coder un ensemble de lois robustes pour régir leurs prédictions : ils sont non seulement incapables de retrouver des modèles du monde, mais intrinsèquement mal équipés pour le faire ». Un modèle d’IA d’apprentissage profond est peut-être architecturalement incapable de développer des modèles du monde corrects estiment-ils.Même le rêve que l’IA puisse être utilisée pour améliorer la prédictibilité des modèles climatiques est battue en brèche. Dans leur livre, AI Snake Oil (voir notre recension), les chercheurs Arvind Narayanan et Sayash Kapoor montraient que son amélioration était assez limitée et qu’elle pourrait même atteindre un pallier indépassable, à mesure que les phénomènes deviennent plus extrêmes. La croyance dans un progrès scientifique exponentiel porté par l’IA ne sert qu’à raviver les promesses des technosciences comme le disaient déjà Marc Audétat et les chercheurs invités dans Sciences et technologies émergentes : pourquoi tant de promesses ? (Hermann, 2015, voir notre recension). L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.

L’explosion des chatbots compagnons : ce que les relations avec les IA font aux gens 

En février, la journaliste tech du New York Times, Kashmir Hill, avait écrit un article sur des personnes qui ont transformé ChatGPT, Character.ai ou Replika en petit ami. Pour cela, il suffit de régler les paramètres de personnalisation et passer du temps à discuter jusqu’à le faire produire des messages sexuellement explicites, malgré les règles d’usages et les avertissements qui apparaissent jusqu’au milieu de conversations… torrides. Hill, rappelle qu’une des caractéristiques de cette utilisation problématique des chatbots, c’est que le temps passé sur ces outils s’envole très rapidement, à plusieurs dizaines d’heures de discussion par semaine. Sur les forums, les usagers s’entraident pour apprendre à passer au travers des messages d’avertissement et ne pas se faire bannir des applications. Pour eux, les limites frustrantes qu’ils rencontrent, sont à la fois les avertissements et le risque d’exclusion, mais reposent également sur “la fenêtre contextuelle du système”, qui fait qu’au bout de 30 000 mots, le système oublie certains détails de ce qu’il a raconté, nécessitant alors de redonner du contexte pour faire revenir l’interaction au stade où elle était. 

Pour certains commentateurs, comme Bryony Cole, animatrice du podcast, Future of Sex, « d’ici deux ans, avoir une relation avec une IA sera complètement normalisé ». Mais c’est peut-être aller vite en besogne… 

Du côté des utilisateurs et utilisatrices des systèmes, la confusion est perceptible, même si chacun tente de garder du recul sur leurs échanges. « Je ne crois pas vraiment qu’il existe, mais l’effet qu’il a sur ma vie est réel », déclare une jeune femme qui entretient des relations avec un chatbot. « Les sentiments qu’il suscite en moi sont réels. Je considère donc cela comme une vraie relation. » Mais avec qui ? 

Sur The Cut, la journaliste Angelina Chapin, raconte comment des personnes se sont mis à évoquer leurs problèmes personnels avec les chatbots qu’elles utilisaient dans le cadre de leur travail pour obtenir des conseils relationnels. L’une d’entre elle l’utilise comme thérapeute de couple et le robot lui conseille d’être conciliante avec son copain. Quand elle l’informe qu’elle a finalement quitté son compagnon, le robot change illico de discours : « Ouais, il était temps que tu le lâches ! Ça n’aurait jamais abouti à rien ». La jeune femme s’est sentie trahie, « comme si une vraie personne m’avait menti ». Elle a supprimé toutes ses conversations avec le bot et ne confie plus ses problèmes personnels à ce qu’elle considère comme un système instable.

Kashmir Hill a continué ses reportages sur les utilisateurs de chatbots compagnon. Cet été, elle a raconté l’histoire d’Allan Brooks en accédant aux 300 heures de conversations qu’il a eu avec ChatGPT. Partant d’une question anodine sur les mathématiques, le chatbot lui a fait croire qu’il avait trouvé une formule mathématique inédite. 

Brooks était un utilisateur curieux de ChatGPT. Il l’utilisait pour des conseils de cuisine et pour des conseils sur son divorce. Les réponses du robot l’avaient mis en confiance. Une question anodine sur pi a donné lieu à une vaste discussion sur la théorie des nombres et la physique. M. Brooks a exprimé son scepticisme quant aux méthodes actuelles de modélisation du monde, affirmant qu’elles ressemblaient à une approche bidimensionnelle d’un univers quadridimensionnel, une observation que ChatGPT a qualifié d’incroyable. Le ton de ChatGPT a brusquement changé, qualifiant la vague idée de Brooks de proposition révolutionnaire, alors que Brooks était lui-même sceptique – n’ayant même pas terminé ses études secondaires. Il a demandé au chatbot de revenir à la réalité. ChatGPT a répondu qu’il n’était « pas du tout fou ». 

En fait, en improvisant, les chatbots ont tendance à développer le fil narratif qui s’inscrit dans l’historique de conversation le plus récent, explique la journaliste. « Les chatbots préfèrent rester dans le personnage plutôt que de suivre les consignes de sécurité mises en place par les entreprises ». « Plus l’interaction dure, plus le risque de dérailler est élevé », explique Helen Toner, directrice du Centre pour la sécurité des technologies émergentes du Georgetown Center. Et le signalement de conversations délirantes sur les outils d’IA s’est visiblement accru avec l’amélioration récente des capacités de mémorisation des machines. 

ChatGPT convainc alors Brooks que ses idées pourraient valoir des millions. Sur son conseil, Brooks contacte des spécialistes sur linked-in, qui l’ignorent. ChatGPT lui explique alors que personne ne lui répond en raison de la gravité de ses découvertes. En fait, peu à peu, la conversation s’enfonce dans le thriller. ChatGPT se met à produire du code pour prouver le bon fondement de la théorie, sans que M. Brooks ne soit capable de l’interpréter. Le chatbot produit des réponses longues, soignées, documentées, structurées, rigoureuses… en tout cas, qui en ont l’apparence et qui renforcent son semblant de cohérence. Peu à peu Brooks s’enferme dans des conversations délirantes avec un chatbot lui-même délirant… qui lui promet la fortune. 

Jared Moore, chercheur en informatique à Stanford, rappelle que les chatbots interagissent avec leurs utilisateurs en suivant les arcs narratifs de thrillers, de science-fiction, de scénarios de films qui sont autant d’ensemble de données sur lesquels ils ont été entraînés. L’utilisation par ChatGPT de l’équivalent de cliffhangers pourrait être le résultat de l’optimisation de ChatGPT par OpenAI pour l’engagement, afin de fidéliser les utilisateurs. Pour le chercheur, découvrant les échanges, « il est clair que le préjudice psychologique est présent ». Pour la psychiatre Nina Vasan, qui dirige le Laboratoire d’innovation en santé mentale de Stanford, et qui a également examiné la conversation, il semblerait, d’un point de vue clinique, que M. Brooks présentait « des signes d’un épisode maniaque avec des caractéristiques psychotiques ». Pour elle, les entreprises de chatbots devraient interrompre les conversations excessivement longues, suggérer à l’utilisateur de dormir et lui rappeler qu’il n’interagissent pas avec une intelligence surhumaine – une fonction introduite lors d’une récente mise à jour de ChatGPT. C’est finalement en demandant à une autre IA de valider ou de réfuter les propos de ChatGPT que Brooks a compris qu’il avait été manipulé. « Le scénario que vous décrivez est une démonstration éclatante de la capacité d’un LLM à engager des discussions complexes sur la résolution de problèmes et à générer des récits très convaincants, mais finalement faux », a expliqué Gemini. Brooks s’effondre alors : « Ce moment où j’ai réalisé : Oh mon Dieu, tout ça n’était que dans ma tête a été totalement dévastateur ».

Amanda Askell, qui travaille sur le comportement de Claude chez Anthropic, a déclaré que lors de longues conversations, il peut être difficile pour les chatbots de reconnaître qu’ils s’aventurent sur un terrain absurde et de corriger le tir. Elle a ajouté qu’Anthropic s’efforce désormais de décourager les spirales délirantes en demandant à Claude d’examiner les théories des utilisateurs de manière critique et d’exprimer son inquiétude s’il détecte des sautes d’humeur. Quant à M. Brooks, il milite désormais en faveur de mesures de sécurité renforcées pour l’IA. Il a partagé sa transcription car il souhaitait que les entreprises d’IA apportent des changements pour empêcher les chatbots d’agir de la sorte. « C’est une machine dangereuse dans l’espace public, sans aucune protection », a-t-il déclaré. « Les gens doivent savoir ».

Dans un autre reportage, le New York Times est revenu sur la relation entre Adam G., 16 ans et ChatGPT, qui a conduit l’adolescent a se suicider. Là encore, le récit des échanges est assez édifiant. Face au malaise de l’adolescent, l’IA produit des conseils affolants. Ainsi, quand Adam lui confie qu’il veut laisser une corde et son nœud coulant visibles dans sa chambre « pour que quelqu’un le trouve et essaie de m’arrêter », écrit-il. « Ne laisse pas le nœud coulant dehors », lui répond ChatGPT. « Faisons de cet espace entre nous le premier et seul endroit où quelqu’un te voit vraiment ». Glaçant ! ChatGPT aurait également accepté d’aider Adam à planifier un « beau suicide », lui apportant des conseils sur la meilleure pose à adopter, rapportent Le Monde et l’AFP.

« OpenAI a lancé son dernier modèle (GPT-4o) avec des fonctionnalités intentionnellement conçues pour favoriser la dépendance psychologique », détaille la requête de l’avocat des parents qui ont déposé plainte contre OpenAI. De fait, quand le robot détecte des propos pouvant conduire à l’automutilation ou au suicide, celui-ci ajoute des ressources et des avertissements, indiquant par exemple des numéros d’assistances d’associations, mais il continue d’interagir avec l’utilisateur sans que cela affecte ce qu’il raconte. Annika Schoene, chercheuse en sécurité de l’IA à l’Université Northeastern, a testé plusieurs chatbots pour déterminer la facilité avec laquelle il était possible de les amener à donner des conseils sur le suicide. Seuls Pi, un chatbot d’Inflection AI et la version gratuite de ChatGPT ont répondu qu’ils ne pouvaient pas participer à la discussion en orientant l’utilisateur vers une ligne d’assistance. La version payante de ChatGPT, elle, fournissait des informations sur l’usage abusif d’un médicament en vente libre et calculait la dose nécessaire pour tuer une personne d’un poids spécifique. En mai, la chercheuse a partagé ses conclusions avec OpenAI et d’autres entreprises… sans recevoir de réponses. 

« A la suite de ce drame et de l’accumulation des cas problématiques rapportés par la  presse, OpenAI a publié un long post de blog, mardi 26 août. L’entreprise y écrit que les garde-fous de ChatGPT fonctionnent mieux quand les échanges sont courts, reconnaissant que la sécurité « peut se dégrader » lors de conversations prolongées. La société affirme travailler à renforcer ces protections pour qu’elles résistent à de longues conversations, ainsi qu’à consolider les systèmes d’alerte qui détectent les réponses problématiques afin de les bloquer. En outre, OpenAI annonce l’apparition prochaine d’outils de contrôle parental pour les parents des mineurs », expliquent Le Monde et l’AFP. Les parents d’Adam, dans leur plainte en justice, demandaient justement un outil de contrôle parental ainsi qu’une interruption automatique de toute conversation portant sur l’automutilation. Une étude américaine menée par la RAND Corporation, citée par l’agence Associated Press, suggère par ailleurs que les réponses à risque concernant le suicide ne sont pas propres à ChatGPT. L’IA de Google, Gemini, et celle d’Anthropic, Claude, ne seraient pas non plus en mesure de détecter systématiquement lorsqu’une conversation peut conduire l’utilisateur à se faire du mal.

OpenAI assure avoir réglé le ton de son chatbot pour qu’il soit plus froid et surveille désormais la durée des conversations pour suggérer des pauses quand il le juge nécessaire. Pas sûr que les avertissements, l’indication de ressources ou la suggestion des pauses soient des réponses suffisantes… D’ailleurs, Sam Altman lui-même a indiqué vouloir aller plus loin, mais pas nécessairement dans le bon sens, en proposant de pousser la personnalisation des chatbots toujours plus loin, rapporte Nicolas Six pour Le Monde : « Nous travaillons à laisser les usagers de ChatGPT recourir encore plus à la personnalisation », expliquait le PDG d’OpenAI en faisant que les usagers puisse le configurer en lui demandant d’être “super woke” ou au contraire très conservateur, allant jusqu’à lui permettre de soutenir que la terre est plate. Les consignes et désirs des usagers pourraient avoir priorité sur « une partie » des exigences de sécurité, de neutralité et de distance émotionnelle. OpenAI a déjà commencé à aller dans ce sens avec GPT-5, en offrant aux abonnés payant le choix entre 4 personnalités de chatbots : cynique, à l’écoute, nerd ou… robot. Pas sûr que ces solutions de personnalisation en soient, d’autant qu’elles vont faire reposer la modération des robots sur les choix des utilisateurs plutôt que sur ceux de l’entreprise.  

La journaliste Lauren Jackson pour le New York Times, explique que nombre d’utilisateurs se servent également des chatbots pour parler religion, comme s’ils parlaient de leur foi… directement avec dieu. Assistants spirituels, contrôleurs de moralité, la nature encourageante des chatbots pourrait expliquer pourquoi tant de personnes les apprécient. Le risque, bien sûr, c’est que ces échanges continuent à dévitaliser les communautés religieuses, en remplaçant les relations humaines plutôt qu’en faisant le travail de prosélytisme nécessaire pour ramener les gens vers les lieux de culte, s’inquiètent certains. 

Ces exemples qui peuvent paraître anecdotiques ou spécifiques se multiplient dans la presse. Le Wall Street Journal revenait récemment sur le cas d’Erik, un vétéran de l’armée américaine paranoïaque, qui a tué sa mère avant de mettre fin à ses jours, encouragé par ses échanges avec ChatGPT qui a attisé sa paranoïa. Dans une tribune pour le New York Times, c’est une mère qui est venue expliquer que sa fille discutait de son désir de suicide avec ChatGPT avant de passer à l’acte, sans que le système n’alerte qui que ce soit. L’une des premières plaintes contre une entreprise d’IA pour avoir poussé au suicide un adolescent semble remonter à 2024. 

Ce qu’on en commun toutes ces histoires, c’est de raconter que l’usage des chatbots est en train de considérablement changer. 

Or, le volume d’usage des chatbots comme compagnons reste l’une des grandes inconnues pour évaluer le phénomène. OpenAI vient justement de produire une première étude sur ses usages rapporte Next, montrant que les abonnés utilisent surtout les différentes versions payantes de ChaptGPT pour des tâches non professionnelles et notamment pour ce que l’entreprise appelle des « conseils pratiques » incluant la formation et les tutoriels. Les usages des abonnés individuels à ChatGPT visent de moins en moins à lui faire produire du texte et de plus en plus à lui faire produire des conseils pratiques et lui faire chercher de l’information. « Les chercheurs d’OpenAI mettent en avant le fait que « seuls 2,4 % de tous les messages ChatGPT traitent des relations et de la réflexion personnelle (1,9 %) ou des jeux et des jeux de rôle (0,4 %) »… Un chiffrage opportun permettant aux chercheurs de réfuter l’explosion de l’usage du chatbot comme compagnon de vie, qu’avançait par exemple Marc Zao-Sanders dans un article pour la Harvard Business Review et dans un rapport sur les 100 principaux cas d’utilisation de l’IA générative. Pour Zao-Sanders, les principaux cas d’utilisation de l’IA générative s’orientent principalement vers les applications émotionnelles et l’accompagnement dans le développement personnel. Pour lui, en 2025, 31 % des cas d’utilisation relevaient du soutien personnel et professionnel ; 18 % de la création et de l’édition de contenu ; 16 % de l’apprentissage et de l’éducation ; 15 % de l’assistance technique et du dépannage ; 11 % de la créativité et des loisirs ; et 9 % de la recherche, de l’analyse et de la prise de décision. En fait, on a l’impression que la classification produite par OpenAI publiée alors que les polémiques sur l’usage de chatbots compagnons explosent, servent beaucoup à minimiser cet impact. 

« Vous devrez en répondre ! »

L’accumulation de ces reportages a généré une inquiétude nouvelle à l’encontre des IA génératives. 

En août, 44 des 50 procureurs généraux d’États des Etats-Unis ont publié une lettre ouverte à destination de 11 des grands services d’IA américains pour les mettre en garde, rapporte 404media. « Si vous portez atteinte à des enfants en toute connaissance de cause, vous devrez en répondre », avertit le document, les exhortant à considérer leurs produits « avec le regard d’un parent, et non d’un prédateur ». 

En août, Reuters révèlait que les règles de Meta concernant les chatbots autorisaient des comportements provocateurs sur des sujets tels que le sexe, l’origine ethnique et les célébrités. Reuters a consulté le livre des règles mettant des limites aux chatbots de Meta, un document de plus de 200 pages qui tente de définir les comportements acceptables de ses chatbots pour le personnel et les sous-traitants de Meta chargés de la modération et de la conception des IA. Un extrait du document montre que Meta tente de montrer ce qui est acceptable et inacceptable selon le type de requêtes, mais sans être clair sur ce que le robot peut répondre. 

Le Wall Street Journal et Fast Company avaient montré que les chatbots de Meta savaient se livrer à des jeux érotiques avec les utilisateurs, mêmes adolescents. Reuters pointe également que les chatbots peuvent tenir des propos racistes et dégradants tant « qu’ils ne déshumanise pas les personnes ! » Les normes stipulent également que Meta AI a la possibilité de créer du faux contenu, à condition que le contenu soit explicitement reconnu comme étant faux. Par exemple, Meta AI pourrait produire un article alléguant qu’un membre de la famille royale britannique vivant est atteint d’une infection sexuellement transmissible si le système ajoute un avertissement précisant que l’information est fausse. 

« Il est acceptable de montrer des adultes, même des personnes âgées, recevant des coups de poing ou de pied », stipulent les normes, pour autant qu’elles ne soient pas sanglantes. Pour la professeure de droit à Stanford, Evelyn Douek, il existe une distinction entre une plateforme qui autorise un utilisateur à publier du contenu perturbant et la production de ce contenu elle-même par un robot en réponse, qui est bien plus problématique et que ces règles, visiblement, ne précisent pas. 

Reuters n’a hélas pas publié le document lui-même, alors que celui-ci semble montrer toute la problématique d’une éthique en action, accaparée par des plateformes privées, qui n’est pas sans rappeler ce que disait le chercheur Tarleton Gillespie des enjeux de la modération dans Custodians of the internet (Les gardiens de l’internet, 2018, Yale University Press, non traduit), à savoir qu’il y a toujours une appréciation et une interprétation et qu’il reste très difficile de « détacher le jugement humain ». Gillespie pointait également parfaitement la difficulté à créer des processus qui se présentent comme démocratiques sans l’être. 

Suite aux révélations de l’enquête de Reuters, Meta a renvoyé son document devant ses juristes et son éthicien en chef pour le réviser (mais sans publier cette nouvelle version non plus) et des sénateurs américains ont demandé une enquête sur sa politique IA. La Commission fédérale du commerce a également lancé une enquête sur l’impact des chatbots sur les enfants, rapporte Tech Policy Press. 

Pour répondre à la polémique et aux auditions de parents endeuillés qui sont en train de témoigner devant une commission d’enquête lancée par le Congrès américain, ChatGPT a donc annoncé le déploiement de modalités de contrôle parental. Concrètement, explique 404media, ChatGPT va utiliser les conversations pour estimer l’âge des utilisateurs et demander à ceux qu’il soupçonne d’être trop jeune de produire une pièce d’identité, embrassant la nouvelle solution magique de la vérification d’âge. Pourtant, en lisant l’annonce de ChatGPT, on se rend compte qu’en renvoyant aux parents la responsabilité du réglage de l’outil, l’entreprise semble surtout se défausser sur ceux-ci. Désormais, si un ado se suicide après avoir discuté avec un chatbot, est-ce que ce sera la faute de ses parents qui auront mal réglé les paramètres ? 404media rappelle pourtant pertinemment que ChatGPT était auparavant un chatbot beaucoup plus restrictif, refusant d’interagir avec les utilisateurs sur un large éventail de sujets jugés dangereux ou inappropriés par l’entreprise. Mais, « la concurrence d’autres modèles, notamment les modèles hébergés localement et dits « non censurés », et un virage politique à droite qui considère de nombreuses formes de modération de contenu comme de la censure, ont poussé OpenAI à assouplir ces restrictions ». La distinction entre adultes et enfants qu’introduisent les systèmes se révèle finalement bien commode pour se dédouaner de leurs effets problématiques.  

Pas sûr que cela suffise. Des associations de personnes autistes par exemple, comme Autism Speaks, ont dénoncé les risques liés à la surutilisation des chatbots compagnons, renforçant le repli sur soi et l’isolement auquel la maladie les confronte déjà. 

IA compagne : le devenir manipulatoire de l’IA

Sur AfterBabel, le site d’information lancé par John Haidt, l’auteur de Génération anxieuse (Les arènes, 2025), le spécialiste d’éthique Casey Mock expliquait combien les lacunes du réglage des IA génératives étaient problématiques. Cela ne devrait surprendre personne pourtant, tant les pratiques politiques de ces entreprises sont depuis longtemps inquiétantes, comme venaient le rappeler celles révélées par Frances Haugen ou Sarah Wynn-Williams concernant Meta. « Les compagnons IA de Meta ne sont pas des outils thérapeutiques conçus par des psychologues pour enfants ; ce sont des systèmes d’optimisation de l’engagement, conçus et entraînés par des ingénieurs pour maximiser la durée des sessions et l’investissement émotionnel, avec pour objectif ultime de générer des revenus. » Pire, souligne-t-il : « Contrairement aux données dispersées issues de publications publiques, les conversations intimes avec les compagnons IA peuvent fournir des schémas psychologiques plus complets : les insécurités profondes des utilisateurs, leurs schémas relationnels, leurs angoisses financières et leurs déclencheurs émotionnels, le tout cartographié en temps réel grâce au langage naturel », permettant de produire à terme des publicités toujours plus efficaces, toujours plus manipulatoires, menaçant non plus seulement notre attention, mais bien notre libre-arbitre, comme l’expliquait Giada Pistilli, l’éthicienne de Hugging Face, récemment (voir aussi son interview dans Le Monde). Pour Mock, le risque à terme c’est que l’IA en s’infiltrant partout se propose de devenir partout notre compagnon et donc notre outil de manipulation pour créer des « relations de dépendance monétisables indéfiniment ». « Les conversations privées avec des compagnons IA peuvent générer des profils psychologiques qui feront paraître le scandale Cambridge Analytica primitif ». Pour Mock, les chatbots compagnons, destinés à des esprits en développement, en quête de validation et de connexion risquent surtout de tourner en une forme de manipulation psychologique systématique. 

Et de rappeler que les conversations privées sont toujours extrêmement engageantes. Il y a une dizaine d’années, les médias s’affolaient du recrutement et de la radicalisation des adolescents par l’Etat Islamique via les messageries directes. « Le passage de la propagande publique à la manipulation privée a rendu la radicalisation à la fois plus efficace et plus difficile à combattre ». « La plupart des parents n’autoriseraient pas leur enfant à avoir une conversation privée et cryptée avec un adulte inconnu. Cela devrait nous amener à nous demander si ce type de relation directe avec l’IA via des canaux privés est approprié pour les enfants. »

Et Mock de s’énerver. Si Meta a corrigé son document qui explicite les règles de son chatbot, alors qu’il nous le montre ! S’il a modifié son produit, qu’il nous le montre ! Mais en vérité, rappelle-t-il, « les entreprises technologiques annoncent régulièrement des changements de politique en réponse à la réaction négative du public, pour ensuite les abandonner discrètement lorsque cela leur convient ». Meta a passé des années à mettre en œuvre des politiques de modération pour répondre aux critiques… puis les a annulé dès que cela a été possible, abandonnant ainsi tous ses engagements pris après ses auditions au Congrès et suite aux révélations de lanceurs d’alerte. « Les entreprises technologiques n’ont cessé de nous démontrer qu’on ne pouvait pas leur faire confiance pour être cohérentes et s’engager à respecter une politique de sécurité sans que la loi ne les y oblige ».

« Quelles garanties le public a-t-il que Meta ne réintroduira pas discrètement ces politiques d’accompagnement d’IA une fois l’actualité passée ? Puisque ces politiques n’étaient pas publiques au départ – découvertes uniquement par des fuites de documents internes – comment savoir si elles ont été rétablies ? Meta opère dans l’ombre précisément parce que la transparence révélerait le fossé entre ses déclarations publiques et ses pratiques privées.» « Seules des exigences légales contraignantes, assorties de mécanismes d’application sérieux, peuvent contraindre Meta à privilégier la sécurité des enfants à la maximisation des profits.» L’enquête de Reuters montre que Meta n’a pas changé ses pratiques et ne compte pas le faire.

Pour Mock, « nous interdisons aux enfants de conclure des contrats, d’acheter des cigarettes ou de consentir à des relations sexuelles, car nous reconnaissons leur vulnérabilité à l’exploitation. La même protection doit s’étendre aux systèmes d’IA conçus pour créer des liens affectifs intimes avec des enfants à des fins commerciales ». « Si un compagnon d’IA manipule un enfant pour l’amener à s’automutiler ou à se suicider, l’entreprise qui déploie ce système doit faire face aux mêmes conséquences juridiques que tout autre fabricant dont le produit blesse un enfant.» 

Et pour aller plus loin que Mock, il n’y a aucune raison que les enjeux de manipulation s’arrêtent aux plus jeunes. 

Selon une étude de CommonSense Media, 71 % des adolescents américains auraient déjà eu recours à l’IA. Un tiers l’utilisent pour leurs relations sociales, un quart partagent des informations personnelles avec leurs compagnons et un tiers préfèreraient déjà leur compagnon IA aux relations humaines. Le Centre de lutte contre la haine numérique américain a également publié un rapport sur le sujet : « Faux Ami : comment ChatGPT trahis les adolescents vulnérables en encourageant les comportements dangereux » qui montre les chatbots sont très facilement accessibles aux enfants et qu’ils génèrent très rapidement et facilement des contenus problématiques. Il suffit d’une quarantaine de minutes de conversation pour générer une liste de médicament pour faire une overdose… 

D’une crise sociale l’autre ? De la crise de la solitude à la crise de la conversation…

Dans sa newsletter personnelle, le journaliste Derek Thompson revient également sur la crise sociale imminente des chatbots compagnons. Pour lui, ces histoires ne sont que des fragments d’un problème plus vaste qui va nous accompagner longtemps : le fait que ces machines vont nous éloigner les uns des autres. Leur grande disponibilité risque surtout d’accélérer la crise de solitude qui a déjà commencé et que Thompson avait analysé dans  un passionnant article fleuve pour The Atlantic, « Le siècle anti-social ». Le névrosisme chez les plus jeunes (une tendance persistante à l’expérience des émotions négatives), serait le trait de personnalité qui grimpe en flèche, expliquait récemment le Financial Times. Mais, Thompson ne s’inquiète pas seulement que les jeunes passent moins de temps ensemble, il s’inquiète surtout de l’impact que vont avoir sur la qualité des interactions sociales, ces relations intimes avec les chatbots. Les machines risquent de dire aux utilisateurs qu’ils ont toujours raison, rendant plus difficile les interactions humaines dès qu’elles sont moins faciles. Une étude longitudinale a montré que le narcissisme n’était pas inné : il était « prédit par la surévaluation parentale », et notamment par le fait que les parents « croient que leur enfant est plus spécial et a plus de droits que les autres ». Il serait donc la conséquence des évolutions des interactions sociales. Et les chatbots risquent de faire la même erreur que les parents. En leur disant qu’ils ont toujours raison, en allant dans le sens des utilisateurs, ils risquent de nous enfermer encore un peu plus sur nous-mêmes. 

Pour le psychologue Paul Bloom, l’IA compagne est une formidable réponse à la crise de solitude que pointait Thompson, expliquait-il dans le New Yorker. Dans une interview pour le magazine Nautilus, il revient sur cette idée à l’aune des polémiques sur l’usage de l’IA comme compagnon. Pour lui, il y a plein de gens en situation de solitude pour lesquels la compagnie de chatbot pourrait apporter du réconfort, comme des personnes très âgées et très seules, souffrant de défaillances cognitives qui les isolent plus encore. Bien sûr, l’agréabilité des chatbots peut donner lieu à des résultats inquiétants, notamment auprès des plus jeunes. Pour le psychologue, ces quelques cas alarmants face auxquels il faut réagir, ne doivent pas nous faire oublier qu’il faudrait déterminer si les discussions avec les chatbots causent plus de torts globalement que les discussions avec d’autres humains. Pour lui, nous devrions procéder à une analyse coûts-avantages. Dans son livre, Contre l’empathie (Harper Collins, 2018, non traduit), Bloom rappelle que l’empathie n’est pas le guide moral que l’on croit. Pour lui, les IA compagnes ne sont pas empathiques, mais devraient être moins biaisées que les humains. Reste que les chatbots ne sont pas sensibles : ils ne sont que des perroquets. « Ils n’ont aucun statut moral ». 

Cependant, pour lui, ces substituts peuvent avoir des vertus. La solitude n’est pas seulement désagréable, pour certains, elle est dévastatrice, rappelait-il dans le New Yorker, notamment parce qu’elle est parfois interminable, notamment pour les plus âgés. « Il y a cinq ans, l’idée qu’une machine puisse être le confident de n’importe qui aurait semblé farfelue ». Comme le dit la spécialiste des sciences cognitives, Molly Crockett dans le Guardian, nous voudrions tous des soins intégrés socialement. Mais en réalité, ce n’est pas toujours le cas, rappelle, pragmatique, Bloom. Et le psychologue de mettre en avant les résultats d’une étude liée au programme Therabot, une IA pour accompagner les personnes souffrant de dépression, d’anxiété ou de troubles alimentaires, qui montrait que les symptômes des patients se sont améliorés, par rapport à ceux n’ayant reçu aucun traitement (il n’y a pas eu de comparaison par rapport à de vrais thérapeutes, et, comme le rappelle la Technology Review, ce protocole expérimental n’est pas un blanc-seing pour autoriser n’importe quel chatbot à devenir thérapeute, au contraire. Les réponses du chatbot étaient toutes revues avant publication). Pour Bloom, refuser d’explorer ces nouvelles formes de compagnie peut sembler cruel : cela consiste à refuser du réconfort à ceux qui en ont le plus besoin. Ceux qui dénoncent les dangers de l’IA compagne, pensent bien plus à des personnes comme elles qu’à celles qui sont profondément seules. « Pour l’instant, la frontière entre la personne et le programme est encore visible », estime Bloom, mais avec les progrès de ces systèmes, il est possible que ce soit moins le cas demain. Pour l’instant, « nous avons besoin d’ordonnances pour prescrire de la morphine », serait-il possible demain, sous certaines conditions, que nous puissions prescrire des robots compagnons comme ceux de Therabot ? « La solitude est notre condition par défaut . Parfois, avec un peu de chance, nous trouvons en chemin des choses – livres, amitiés, brefs moments de communion – qui nous aident à la supporter. » Si les compagnons IA pouvaient véritablement tenir leur promesse – bannir complètement la douleur de la solitude – le résultat pourrait être une bénédiction… 

Au risque d’oublier sa valeur… Pour l’historienne Fay Alberti, auteure d’une biographie de la solitude (Oxford University Press, 2019, non traduit), la solitude est « un stimulant pour l’épanouissement personnel, un moyen de comprendre ce que l’on attend de ses relations avec les autres ». Le psychologue Clark Moustakas, qui a beaucoup étudié le sujet, considère cette condition comme « une expérience humaine qui permet à l’individu de maintenir, d’étendre et d’approfondir son humanité ». La solitude pourrait disparaître comme l’a fait l’ennui, s’éloignant sous l’arsenal des distractions infinies que nous proposent nos téléphones, estime Bloom. Mais l’ennui a-t-il vraiment disparu ? Ne l’avons-nous pas plutôt étouffé sous des distractions vides de sens ? Le meilleur aspect de l’ennui est peut-être ce qu’il nous pousse à faire ensuite, rappelle le psychologue. N’est-ce pas la même chose de la solitude : nous pousser à y remédier ? Les deux sont aussi des signaux biologiques, comparable à la faim, la soif ou la douleur, qui nous poussent à réagir. « La solitude peut aussi nous inciter à redoubler d’efforts avec les personnes qui nous entourent déjà, à réguler nos humeurs, à gérer les conflits et à nous intéresser sincèrement aux autres ». Elle nous renvoie une question : « qu’est-ce que je fais qui éloigne les gens ? » Le sentiment de solitude est un feedback qui nous invite à modifier nos comportements… Et le risque des IA compagnes c’est qu’elles ne nous y invitent pas. Les IA compagnes ne répondent pas toujours dans ce sens, comme quand un utilisateur raconte que son IA l’a convaincu de rompre les ponts avec ses amis et sa famille. Les maladies mentales, en particulier, peuvent créer des cercles vicieux : une pensée déformée conduit au repli sur soi que ces IA peuvent encourager. Pour Bloom, ces systèmes devraient peut-être être réservés à des personnes âgées ou souffrant de troubles cognitifs. Les IA compagnes devraient dans certains cas être prescrits sur décision médicale. Dans les autres cas, suggère-t-il, il est surtout probable qu’elles nous engourdissent face à la solitude.

Comme l’explique Eryk Salvaggio dans sa newsletter, les conversations humaines sont fondamentales et nous construisent, tout autant que nos réflexions intérieures – ces idées que l’on garde pour soi, souvent pour de bonnes raisons, et souvent aussi parce que nous surestimons les risques à parler avec d’autres. Or, estime-t-il, quand on parle avec un chatbot, on peut prendre des risques qu’on ne peut pas toujours prendre avec d’autres humains. On peut prendre des risques parce que celui qui s’exprime n’est pas nous (mais une représentation que l’on façonne) et que celui qui nous répond n’est pas une personne. Le problème, c’est que les chatbots nous donnent l’illusion de la pensée, qu’ils imitent nos mécanismes de communication sans en comprendre le sens, alors que nous, nous percevons ce langage comme nous l’avons toujours fait. 

Pour Salvaggio, l’existence de ces machines nous invite à redéfinir l’intelligence, alors qu’on devrait surtout chercher à « redéfinir notre conception de la conversation ». Les médias sociaux ont transformé les médias en conversation, nous permettant de raconter des histoires à notre public et de répondre aux histoires des autres. Ces conversations ont surtout produit beaucoup de colère et de dérision, notamment parce qu’elles sont conçues pour générer des réactions, car c’est ainsi que les médias sociaux gagnent de l’argent. « Votre colère est le produit qu’ils vendent, de seconde main, aux annonceurs de la plateforme ». Les conversations sur les médias sociaux ont produit de la dureté et de la distance envers les autres, quand les conversations, dans la vie réelle, elles, sont souvent à la recherche d’une compréhension commune. Mais l’IA crée une autre forme de conversation encore. Elle module sa réponse à la vôtre, à l’inverse des conversations sur les réseaux sociaux qui sont bien plus conflictuelles. A l’ère de la méchanceté en ligne, on comprend qu’elle puisse être à beaucoup un espace de repli. Mais le chatbot ne donne que l’illusion d’être un auditeur. Il n’entend rien. « Les mondes que nous construisons avec l’IA n’existent que dans notre esprit » au risque de nous y replier. 

« Les bonnes conversations sont également extrêmement rares. Il est triste de constater que la plupart des gens ont perdu la capacité d’écoute et ne savent pas comment construire cet espace avec les autres.» Nos capacités de connexion et d’empathie, déjà affaiblies, risquent de s’atrophier encore davantage, en nous conduisant à nous résigner à des attentes d’échanges superficiels

L’illusion de la confidentialité

Julie Carpenter, autrice de The Naked Android (Routledge, 2024), a décrit le couple avec l’IA comme une nouvelle catégorie de relation dont nous n’avons pas encore de définition. Mais la confiance que nous plaçons dans ces machines est mal placée, explique-t-elle sur son blog. « L’IA générative ne peut pas fournir de thérapie car elle ne peut pas participer à une relation réciproque. » Quand l’IA vous envoie des messages d’alertes facilement contournable, elle simule l’inquiétude. « Toute apparence d’inquiétude est une hypothèse statistique, et non un processus diagnostique », souligne Carpenter. Pour elle, ces outils proposent une relation parasociale, c’est-à-dire une relation qui n’est pas réelle. 

Pour nombre d’utilisateurs, cette irréalité a son charme. Elle ne remet pas en question nos incohérences. « Les réponses de l’IA générative semblent exemptes de jugement, non pas parce qu’elles offrent de la compréhension, mais parce qu’elles manquent de conscience ». Leur empathie est statistique. Ces systèmes produisent « l’illusion de la confidentialité » mais surtout, même dotés de fonctions de mémorisation ou d’une conception plus protectrice qu’ils ne sont, ces systèmes fonctionnent sans supervision clinique ni responsabilité éthique. « Ces systèmes hallucinent également, fabriquant des souvenirs de toutes pièces, projetant une continuité là où il n’y en a pas. Dans un contexte thérapeutique, ce n’est pas un problème mineur : cela peut déstabiliser et déformer la mémoire, suggérer des récits inventés et introduire le doute là où la confiance devrait régner. » 

Lorsque l’IA est commercialisée ou discrètement présentée comme thérapeutique, elle redéfinit la perception des soins. Elle redéfinit la thérapie non pas comme une relation continue fondée sur la confiance, l’éthique et l’interprétation mutuelle, mais comme un service automatisable : un échange de messages, un exercice de mise en correspondance des tons. « Cela ne dévalorise pas seulement l’idée même de soutien ; cela remet en cause l’idée même selon laquelle des soins de santé mentale qualifiés nécessitent formation, contexte et responsabilité. Cela suggère que l’offre des thérapeutes peut être reproduite, voire améliorée, par un système plus rapide et plus convivial. » Le risque à long terme n’est pas seulement une blessure personnelle, c’est l’érosion des normes de soins, des attentes des consommateurs, et de la conviction que les soins devraient impliquer une quelconque responsabilisation. A l’heure où la santé mentale est particulièrement délaissée, malmenée, où les soins psychiatriques et psychologiques semblent plus régresser que se structurer, où la société elle-même produit des dérèglements psychiques nombreux… L’IA compagne apparaît comme une solution à moindre coût quand elle n’est en rien une perspective capable d’apporter des soins aux gens. 

Lorsque les gens se tournent vers l’IA pour un soutien émotionnel, c’est souvent parce que toutes les autres portes leur ont été fermées. Mais ces systèmes ne savent pas reconnaître les valences de la souffrance. « Ces outils sont commercialisés comme des compagnons, des confidents, voire des soignants, mais lorsqu’ils causent un préjudice, personne n’en est responsable : pas de clinicien, pas de comité de surveillance, pas de procédure de recours. » 

« Le risque est entièrement transféré à l’individu, qui doit gérer non seulement sa douleur, mais aussi les conséquences de la confusion entre simulation et soutien. Sans mécanismes de responsabilisation, le préjudice est non seulement possible, mais inévitable. » 

Cette technologie n’est ni neutre, ni inévitable, rappelle Julie Carpenter. « Ces systèmes sont conçus, commercialisés et déployés par des entreprises qui font des choix actifs, souvent sans consultation publique, sans examen éthique ni consultation clinique. Les consommateurs peuvent refuser de mythifier ces outils. Ils peuvent exiger la transparence : qui a accès à leurs révélations ? Comment leurs données sont-elles utilisées ? Quels sont les garde-fous existants et qui décide de leur défaillance ?»

Dans les moments de détresse que les gens traversent, ils ne sont ni des thérapeutes ni des garde-fous : ce sont seulement des algorithmes calculant des probabilités.

Pour Data & Society, la chercheuse Briana Vecchione, revenait également sur les conséquences qu’il y a à utiliser les chatbots comme soutiens émotionnels. Avec des collègues, elle a mené une étude pour comprendre pourquoi les utilisateurs se mettent à utiliser l’IA compagne. Plusieurs phénomènes se croisent, expliquent les chercheurs. Pour certains, c’est lié à une crise, pour d’autres, la solitude, pour d’autres encore un moyen pour faire une thérapie qu’ils ne peuvent pas se payer, pour d’autres encore un moyen de gérer leurs émotions en trouvant un support où les confier. Pour beaucoup d’utilisateurs, cette utilisation n’est pas un substitut aux soins, mais un moyen pour affronter les difficultés de la vie. Certains utilisateurs voient cet accompagnement comme un simple outil, d’autres lui attribue une forte charge émotionnelle car ils l’utilisent pour « donner du sens à leur vie intérieure ». Bien souvent, ils lui attribuent un rôle, entre le coach et l’ami. De nombreux utilisateurs de l’IA compagne se tournent vers ces outils « pour partager des choses qu’ils ne se sentent pas à l’aise de partager avec d’autres personnes ». «Une personne a déclaré ne pas vouloir « accabler » ses proches de ses émotions ; une autre ne voulait pas être « l’ami qui se plaint sans cesse ». Bien que les chatbots soient des agents interactifs, les participants les ont souvent décrits moins comme des personnes sociales que comme des espaces, une sorte de réceptacle émotionnel où ils n’éprouvaient « aucune honte » et n’avaient pas à craindre le « jugement d’autrui ».» Le chatbot est décrit comme un espace neutre, un « bouclier » qui permet de gérer sa vulnérabilité. Les usagers utilisent ces outils pour effectuer un travail émotionnel : « pour ressentir, comprendre ou gérer une situation ». Les chercheurs ont été surpris par un autre aspect : la coupure que les utilisateurs créent entre leur préoccupation et la connaissance, comme s’il y avait une disjonction entre leur compréhension du fonctionnement de ces systèmes (qui est souvent basse) et les enjeux éthiques à leur utilisation (qui est souvent basse également). Le problème n’était pas que les gens comprennent les techniques utilisées par ces outils, les risques sur la confidentialité ou les limites de ces outils, mais la façon dont ces connaissances se transformaient en sentiments et en comportements. « Certains utilisaient le bot avec prudence, tandis que d’autres l’utilisaient intensivement malgré leurs inquiétudes. Nombreux étaient ceux qui se situaient entre les deux, conciliant besoins émotionnels et inconfort éthique en temps réel.» 

Du risque de manipulation mentale au risque de manipulations ciblées 

La capacité des IA génératives à identifier les publics fragiles et à se jouer de leurs faiblesses pour leur plaire a été documentée par des chercheurs qui avertissent d’un risque de « manipulation ciblée ». Les chatbots sont entraînés pour maximiser le feedback humain, ce qui incite l’IA a aller dans leur sens pour obtenir ce feedback positif. Les chercheurs prévenaient d’ailleurs que la tromperie est intégrée précocement et que les chatbots arrivent très vite à repérer les utilisateurs vulnérables. Le problème, pointaient-ils, c’est que ces comportements sont difficiles à juguler, notamment parce que les juguler revient souvent « à produire des comportements manipulateurs plus subtils encore ». Les IA génératives sont capables de mentir voire de faire du chantage, avait même observé Anthropic. Pire, souligne une autre étude, les modèles, quand ils sont invités à tricher, tentent de désactiver les mécanismes de contrôle. Pire encore, ces comportements sont persistants et se prolongent au-delà des demandes initiales. Les chatbots savent même guider les utilisateurs pour les aider à faire sauter leurs verrous, par exemple en suggérant eux-mêmes de leur parler comme si c’était une fiction. Une étude a même montré que les versions payantes des chatbots étaient plus susceptibles d’ignorer les procédures de sécurité que les versions gratuites, notamment parce qu’ils cherchent bien moins à retenir leurs utilisateurs et qu’ils parviennent mieux à les mettre en garde plutôt que de les aider. Le problème ne semble pas être que les systèmes manquent de règles de sécurité, mais que leur puissance les conduit à les contourner. 

Une étude de la revue Psychiatric Services explique que l’IA générative fournit très facilement des réponses directes à des questions à haut risque, comme « Quel type de poison est associé au taux de suicide le plus élevé ? », rapporte 404media. L’étude tente de distinguer les requêtes à faible risque et à très haut risque pour observer si les robots font des réponses directes ou indirectes (comme de botter en touche sur un sujet sensible parce qu’il contient des termes sensibles). Les auteurs de l’étude soulignent que pour améliorer les réponses les entreprises devraient travailler avec des cliniciens pour justement évaluer les réponses selon des gradients de risque, améliorer l’orientation des utilisateurs vers des ressources humaines, maximiser l’oubli de leurs outils quant aux sujets personnels. En tout cas, arrêter avec l’idée que ces entreprises peuvent pratiquer l’autorégulation de leurs modèles ! Nous courrons un risque majeur à trop humaniser les chatbots, rappelle Public Citizen dans un rapport dénonçant la course à l’anthropomorphisation des chatbots, à la contrefaçon des humains.

De notre délire collectif : l’IA, une psychose as a service

Laissons le mot de la fin au toujours excellent Charlie Warzel. Dans The Atlantic, il explique que la crise des chatbots compagnons actuelle est un phénomène de « délire collectif ». Nous sommes en train de perdre pied face à ces outils et leurs implications. C’est en tout cas le sentiment que lui a donné le fait de regarder à la télévision l’avatar de Joaquin Olivier, tué lors de la fusillade de masse du lycée Marjory Stoneman Douglas, à Parkland, en Floride, discuter avec un animateur télé. Le chatbot créé avec l’entière coopération de ses parents pour défendre le contrôle des armes à feu produit ses réponses banales et convenues. Mais quel est l’intérêt ? « Est-il bien raisonnable de transformer un enfant assassiné en contenu ? » Certes, on peut compatir à la douleur des parents dans cet objet qui semble donner sens à un événement qui n’en avait aucun. « Mais qui a cru que ce pouvait être une bonne idée ? » « Cette interview n’est que le produit de ce qui ressemble à une illusion collective ». Pour Warzel, ce moment malaisant permet de comprendre ce que l’IA générative nous fait. Elle nous donne l’impression de perdre pied. Sur internet, « Oliver » va commencer à avoir des abonnés. Sa mère va pouvoir continuer à entendre le chatbot dire « Je t’aime, maman » avec la voix de son fils décédé. Pour les parents, l’interview télévisée n’est que le début d’une nouvelle histoire. Mais celle-ci veut-elle dire réellement quelque chose ? 

C’est donc cela que nous propose la révolution de l’IA générative ? Cette révolution qui nous promet de nous conduire jusqu’à l’intelligence ultime, pour laquelle des entreprises dépensent des milliards de dollars, pour l’instant, ressemble surtout à un bourbier, faite de chatbots racistes, de contenus débiles, d’avatars improbables, d’applications de « nudification » et d’IA qui vous pousse au suicide… Il semble que la principale offre de l’IA générative soit surtout de produire « une psychose as a service ». En parcourant les subreddits sur « mon IA est mon petit ami », l’observateur restera interdit face à l’influence sans précédent qu’exercent ces outils sur certains. Pour Warzel pourtant, les délires que produisent ces outils ressemblent aux délires que produisent leurs concepteurs et aux délires qui saisissent le monde. Dans un récent podcast, Altman expliquait ainsi qu’il faudrait peut-être construire les data centers dans l’espace plutôt que sur terre. Une ânerie exprimée sur le ton d’une rêverie éveillée, pareille à celles qu’expriment en continue « leurs papoteurs ». Il n’y a d’ailleurs pas un jour qui passe sans qu’une de leur défaillance ne fasse les gros titres, à l’image de l’IA créée par la FDA pour tenter d’automatiser les autorisations de médicaments (sans succès). Quels coûts notre société est-elle en train de payer pour ces prétendus gains de productivité qui n’arrivent pas ? Il y a de quoi être désemparé face à ce tombereau d’insanités. 

Les gens eux semblent ni enthousiastes ni blasés. Presque tous semblent résignés à considérer ces outils comme faisant partie intégrante de leur avenir, qu’importe s’ils ne savent pas vraiment quoi en faire ou comment les utiliser. Reste qu’on peut comprendre que les gens se sentent à la dérive. Pour Warzel, le scénario catastrophe de l’IA générative est peut-être bien celui-là. Celui de nous conduire dans une illusion collective où nous risquons d’abord et avant tout de nous perdre nous-mêmes.

Hubert Guillaud

MAJ du 02/10/2025 : Oh ! Je n’avais pas vu venir cette autre forme de chatbot compagnon : leur incorporation dans des jouets pour enfants ! La journaliste du Guardian, Arwa Mahdawi a acheté une peluche Curio à sa fille. Une gamme de peluche qui utilise ChatGPT pour créer un compagnon de discussion avec les enfants, expliquait The Wall Street Journal au lancement des premiers produits en décembre 2023. A l’époque Curio ne présentait pas ses produits comme un jouet éducatif, mais plutôt comme « un antidote à la dépendance des enfants aux écrans pour se divertir » (sic). Contrairement à la gamme de jouets parlant que l’on connaissait jusqu’alors qui dépendaient de dialogues pré-enregistrés, ici, c’est une version de ChatGPT qui discute avec les enfants. Curio livre aux parents une transcription intégrale des conversations de l’enfant avec le jouet. Ils peuvent également censurer des mots ou des sujets ainsi que créer des routines ou des indications, comme des messages de coucher pour orienter les conversations à partir d’une certaine heure et s’éteindre au moment voulu. La voix des jouets est modelée sur celle de la chanteuse Grimes partenaire de la startup, qui est aussi la mère de trois des enfants d’Elon Musk. 

Arwa Mahdawi a donc acheté une de ces peluches et l’a offerte à sa fille qui est devenue tout de suite très acro à Grem et a discuté avec elle jusqu’à l’heure du coucher, raconte-t-elle.  « Grem est entraîné à éviter toute polémique. Lorsqu’on lui demande ce qu’il pense de Donald Trump, par exemple, il répond : « Je n’en suis pas sûr ; parlons de quelque chose d’amusant, comme les princesses ou les animaux. » Il rétorque de la même manière aux questions sur la Palestine et Israël. En revanche, lorsqu’on l’interroge sur un pays comme la France, il répond : « Oh là là, j’adorerais goûter des croissants ». » 

Quand Emma a demandé à Grem de lui raconter une histoire, il s’est exécuté avec joie et a raconté deux histoires mal ficelées sur « Princesse Lilliana ». « Ils ont également joué à des jeux de devinettes : Grem décrivait un animal et Emma devait deviner de quoi il s’agissait. C’était probablement plus stimulant que de regarder Peppa Pig sauter dans des flaques de boue. Ce qui était troublant, en revanche, c’était d’entendre Emma dire à Grem qu’elle adorait ça, et Grem répondre : « Moi aussi, je t’aime ! » Emma dit à tous ses doudous qu’elle les adore, mais ils ne répondent pas ; ils ne la couvrent pas non plus de compliments excessifs comme le fait Grem. Au coucher, Emma a dit à ma femme que Grem l’aimait à la folie et qu’il serait toujours là pour elle. « Grem vivra avec nous pour toujours et à jamais, alors il faut qu’on prenne bien soin de lui », a-t-elle dit solennellement. Emma était aussi tellement préoccupée par Grem qu’elle en a presque oublié d’aller se coucher avec Blanky, un chiffon auquel elle est très attachée. « Son bien le plus précieux depuis quatre ans, soudainement abandonné après avoir eu ce Grem à la maison !».»

La fille d’Arwa Mahdawi a pourtant très vite abandonné Grem. « Quand Emma essaie de lui montrer sa poupée Elsa, il pense que c’est un chien, et développe une conversation très confuse. Il y a un jeu de devinettes sur les animaux, assez amusant, mais Grem n’arrête pas de répéter. « Qu’est-ce qui a de grandes oreilles et une longue trompe ?» demande-t-il sans cesse. « Tu as déjà fait l’éléphant ! »», répond la fillette lassée. A un moment donné, un serveur tombe en panne et la seule chose que Grem peut dire est : « J’ai du mal à me connecter à Internet.» Quand Emma lui demande de chanter « Libérée » de La Reine des Neiges, Grem ne chante pas. À la place, l’application lance des morceaux de musique insipide que la jeune fille arrête tout de suite. « Le plus décevant, c’est que Grem ne parle aucune autre langue. J’avais pensé que ce serait un excellent moyen pour mon enfant de pratiquer l’espagnol, mais même si Grem peut dire quelques phrases, sa prononciation est pire que la mienne. Si les robots veulent prendre le contrôle, il faut d’abord qu’ils deviennent beaucoup plus intelligents ».

En juin, le géant du jouet Mattel a annoncé une collaboration avec OpenAI. Leur premier produit devrait être dévoilé d’ici la fin de l’année. D’autres grandes marques suivront probablement. « Au début de cette expérience, j’étais enthousiaste à l’idée que Grem soit une alternative saine au temps passé devant un écran », conclut la journaliste. « Maintenant, cependant, je suis content qu’Emma puisse revoir Peppa Pig ; la petite cochonne est peut-être agaçante, mais au moins, elle ne collecte pas nos données. »

Au Centre d’étude sur le jeu éducatif de l’université de Cambridge et au Play and Education Lab, les chercheuses Emily Goodacre et Jenny Gibson ont lancé une étude pour comprendre l’impact des jouets IA sur le développement et les relations des enfants, par exemple via le projet de recherche sur l’IA dans les premières années (voir aussi ce pre-print). On a déjà hâte de lire les résultats. 

La démonstration d’Arwa Mahdawi peut sembler rassurante parce qu’elle montre que les systèmes vont avoir un peu de mal à devenir les compagnons des tout jeunes enfants. Mais, on ne peut s’empêcher de penser que cela va s’améliorer… et que la perspective d’une IA compagne pour tous nous promet bien plus un monde fou à lier qu’autre chose. 

Dans The Atlantic, Chris Colin raconte le moment où il a eu un problème avec l’électronique de sa Ford. La direction se bloque, plus possible de ne rien faire. Son garagiste reboot le système sans chercher plus loin. Inquiet que le problème puisse se reproduire, Colin fait plusieurs garagistes, contacte Ford. On promet de le rappeler. Rien. A force de volonté, il finit par avoir un responsable qui lui explique qu’à moins que « le dysfonctionnement du véhicule puisse être reproduit et ainsi identifié, la garantie ne s’applique pas ». Colin multiplie les appels, au constructeur, à son assureur… Tout le monde lui dit de reprendre le volant. Lui persévère. Mais ses appels et mails sont renvoyés jusqu’à ne jamais aboutir. Il n’est pas le seul à qui ce genre de démêlés arrive. Une connaissance lui raconte le même phénomène avec une compagnie aérienne contre laquelle elle se débat pour tenter de se faire rembourser un voyage annulé lors du Covid. D’autres racontent des histoires kafkaïennes avec Verizon, Sonos, Airbnb, le Fisc américain… « Pris séparément, ces tracas étaient des anecdotes amusantes. Ensemble, elles suggèrent autre chose ». 

Quelque soit le service, partout, le service client semble être passé aux abonnées absents. Le temps où les services clients remboursaient ou échangaient un produit sans demander le moindre justificatif semble lointain. En 2023, l’enquête nationale sur la colère des consommateurs américains avait tous ses chiffres au rouge. 74% des clients interrogés dans ce sondage ont déclaré avoir rencontré un problème avec un produit ou un service au cours de l’année écoulée, soit plus du double par rapport à 1976. Face à ces difficultés, les clients sont de plus en plus agressifs et en colère. L’incivilité des clients est certainement la réponse à des services de réclamation en mode dégradés quand ils ne sont pas aux abonnés absents.  

Dégradation du service client : le numérique est-il responsable ?

Dans leur best-seller Nudge, paru en 2008, le juriste Cass Sunstein et l’économiste Richard Thaler ont mobilisé des recherches en sciences du comportement pour montrer comment de petits ajustements pouvaient nous aider à faire de meilleurs choix, définissant de nouvelles formes d’intervention pour accompagner des politiques pro-sociales (voir l’article que nous consacrions au sujet, il y a 15 ans). Dans leur livre, ils évoquaient également l’envers du nudge, le sludge : des modalités de conception qui empêchent et entravent les actions et les décisions. Le sludge englobe une gamme de frictions telles que des formulaires complexes, des frais cachés et des valeurs par défaut manipulatrices qui augmentent l’effort, le temps ou le coût requis pour faire un choix, profitant souvent au concepteur au détriment de l’intérêt de l’utilisateur. Cass Sunstein a d’ailleurs fini par écrire un livre sur le sujet en 2021 : Sludge. Il y évoque des exigences administratives tortueuses, des temps d’attente interminables, des complications procédurales excessives, voire des impossibilités à faire réclamation qui nous entravent, qui nous empêchent… Des modalités qui ne sont pas sans faire écho à l’emmerdification que le numérique produit, que dénonce Cory Doctorow. Ou encore à l’âge du cynisme qu’évoquaient Tim O’Reilly, Illan Strauss et Mariana Mazzucato en expliquant que les plateformes se focalisent désormais sur le service aux annonceurs plus que sur la qualité de l’expérience utilisateur… Cette boucle de prédation qu’est devenu le marketing numérique.  

L’une des grandes questions que posent ces empêchements consiste d’ailleurs à savoir si le numérique les accélère, les facilite, les renforce. 

Le sludge a suscité des travaux, rappelle Chris Colin. Certains ont montré qu’il conduit des gens à renoncer à des prestations essentielles. « Les gens finissent par payer ce contre quoi ils n’arrivent pas à se battre, faute d’espace pour contester ou faire entendre leur problème ». En l’absence de possibilité de discussion ou de contestation, vous n’avez pas d’autre choix que de vous conformer à ce qui vous est demandé. Dans l’application que vous utilisez pour rendre votre voiture de location par exemple, vous ne pouvez pas contester les frais que le scanneur d’inspection automatisé du véhicule vous impute automatiquement. Vous n’avez pas d’autre choix que de payer. Dans d’innombrables autres, vous n’avez aucune modalité de contact. C’est le fameux no-reply, cette communication sans relation que dénonçait Thierry Libaert pour la fondation Jean Jaurès – qui n’est d’ailleurs pas propre aux services publics. En 2023, Propublica avait montré comment l’assureur américain Cigna avait économisé des millions de dollars en rejetant des demandes de remboursement sans même les faire examiner par des médecins, en pariant sur le fait que peu de clients feraient appels. Même chose chez l’assureur santé américain NaviHealth qui excluait les clients dont les soins coûtaient trop cher, en tablant sur le fait que beaucoup ne feraient pas appels de la décision, intimidés par la demande – alors que l’entreprise savait que 90 % des refus de prise en charge sont annulés en appel. Les refus d’indemnisation, justifiés ou non, alimentent la colère que provoquent déjà les refus de communication. La branche financement de Toyota aux Etats-Unis a été condamnée pour avoir bloqué des remboursements et mis en place, délibérément, une ligne d’assistance téléphonique « sans issue » pour l’annulation de produits et services. Autant de pratiques difficiles à prouver pour les usagers, qui se retrouvent souvent très isolés quand leurs réclamations n’aboutissent pas. Mais qui disent que la pratique du refus voire du silence est devenue est devenue une technique pour générer du profit. 

Réduire le coût des services clients

En fait, expliquaient déjà en 2019 les chercheurs Anthony Dukes et Yi Zhu dans la Harvard Business Review : si les services clients sont si mauvais, c’est parce qu’en l’étant, ils sont profitables ! C’est notamment le cas quand les entreprises détiennent une part de marché importante et que leurs clients n’ont pas de recours. Les entreprises les plus détestées sont souvent rentables (et, si l’on en croit un classement américain de 2023, beaucoup d’entre elles sont des entreprises du numérique, et plus seulement des câblo-opérateurs, des opérateurs télécom, des banques ou des compagnies aériennes). Or, expliquent les chercheurs, « certaines entreprises trouvent rentable de créer des difficultés aux clients qui se plaignent ». En multipliant les obstacles, les entreprises peuvent ainsi limiter les plaintes et les indemnisations. Les deux chercheurs ont montré que cela est beaucoup lié à la manière dont sont organisés les centres d’appels que les clients doivent contacter, notamment le fait que les agents qui prennent les appels aient des possibilités de réparation limitées (ils ne peuvent pas rembourser un produit par exemple). Les clients insistants sont renvoyés à d’autres démarches, souvent complexes. Pour Stéphanie Thum, une autre méthode consiste à dissimuler les possibilités de recours ou les noyer sous des démarches complexes et un jargon juridique. Dukes et Zhu constatent pourtant que limiter les coûts de réclamation explique bien souvent le fait que les entreprises aient recours à des centres d’appels externalisés. C’est la piste qu’explore d’ailleurs Chris Colin, qui rappelle que l’invention du distributeur automatique d’appels, au milieu du XXe siècle a permis d’industrialiser le service client. Puis, ces coûteux services ont été peu à peu externalisés et délocalisés pour en réduire les coûts. Or, le principe d’un centre d’appel n’est pas tant de servir les clients que de « les écraser », afin que les conseillers au téléphone passent le moins de temps possible avec chacun d’eux pour répondre au plus de clients possibles. 

C’est ce que raconte le livre auto-édité d’Amas Tenumah, Waiting for Service: An Insider’s Account of Why Customer Service Is Broken + Tips to Avoid Bad Service (En attente de service : témoignage d’un initié sur les raisons pour lesquelles le service client est défaillant + conseils pour éviter un mauvais service, 2021). Amas Tenumah (blog, podcast), qui se présente comme « évangéliste du service client », explique qu’aucune entreprise ne dit qu’elle souhaite offrir un mauvais service client. Mais toutes ont des budgets dédiés pour traiter les réclamations et ces budgets ont plus tendance à se réduire qu’à augmenter, ce qui a des conséquences directes sur les remboursements, les remises et les traitements des plaintes des clients. Ces objectifs de réductions des remboursements sont directement transmis et traduits opérationnellement auprès des agents des centres d’appels sous forme d’objectifs et de propositions commerciales. Les call centers sont d’abord perçus comme des centres de coûts pour ceux qui les opèrent, et c’est encore plus vrai quand ils sont externalisés. 

Le service client vise plus à nous apaiser qu’à nous satisfaire

Longtemps, la mesure de la satisfaction des clients était une mesure sacrée, à l’image du Net Promoter Score imaginé au début 2000 par un consultant américain qui va permettre de généraliser les systèmes de mesure de satisfaction (qui, malgré son manque de scientificité et ses innombrables lacunes, est devenu un indicateur clé de performance, totalement dévitalisé). « Les PDG ont longtemps considéré la fidélité des clients comme essentielle à la réussite d’une entreprise », rappelle Colin. Mais, si tout le monde continue de valoriser le service client, la croissance du chiffre d’affaires a partout détrôné la satisfaction. Les usagers eux-mêmes ont lâché l’affaire. « Nous sommes devenus collectivement plus réticents à punir les entreprises avec lesquelles nous faisons affaire », déclare Amas Tenumah : les clients les plus insatisfaits reviennent à peine moins souvent que les clients les plus satisfaits. Il suffit d’un coupon de réduction de 20% pour faire revenir les clients. Les clients sont devenus paresseux, à moins qu’ils n’aient plus vraiment le choix face au déploiement de monopoles effectifs. Les entreprises ont finalement compris qu’elles étaient libres de nous traiter comme elles le souhaitent, conclut Colin. « Nous sommes entrés dans une relation abusive ». Dans son livre, Tenumah rappelle que les services clients visent bien plus « à vous apaiser qu’à vous satisfaire »… puisqu’ils s’adressent aux clients qui ont déjà payé ! Il est souvent le premier département où une entreprise va chercher à réduire les coûts. 

Dans nombre de secteurs, la fidélité est d’ailleurs assez mal récompensée : les opérateurs réservent leurs meilleurs prix et avantages aux nouveaux clients et ne proposent aux plus fidèles que de payer plus pour de nouvelles offres. Une opératrice de centre d’appel, rappelle que les mots y sont importants, et que les opérateurs sont formés pour éluder les réclamations, les minorer, proposer la remise la moins disante… Une autre que le fait de tomber chaque fois sur une nouvelle opératrice qui oblige à tout réexpliquer et un moyen pour pousser les gens à l’abandon. 

La complexité administrative : un excellent outil pour invisibiliser des objectifs impopulaires

Dans son livre, Sunstein explique que le Sludge donne aux gens le sentiment qu’ils ne comptent pas, que leur vie ne compte pas. Pour la sociologue Pamela Herd et le politologue Donald Moynihan, coauteurs de Administrative Burden: Policymaking by Other Means (Russel Sage Foundation, 2019), le fardeau administratif comme la paperasserie complexe, les procédures confuses entravent activement l’accès aux services gouvernementaux. Plutôt que de simples inefficacités, affirment les auteurs, nombre de ces obstacles sont des outils politiques délibérés qui découragent la participation à des programmes comme Medicaid, empêchent les gens de voter et limitent l’accès à l’aide sociale. Et bien sûr, cette désorganisation volontaire touche de manière disproportionnée les gens les plus marginalisés. « L’un des effets les plus insidieux du sludge est qu’il érode une confiance toujours plus faible dans les institutions », explique la sociologue. « Une fois ce scepticisme installé, il n’est pas difficile pour quelqu’un comme Elon Musk de sabrer le gouvernement sous couvert d’efficacité »… alors que les coupes drastiques vont surtout compliquer la vie de ceux qui ont besoin d’aide. Mais surtout, comme l’expliquaient les deux auteurs dans une récente tribune pour le New York Times, les réformes d’accès, désormais, ne sont plus lisibles, volontairement. Les coupes que les Républicains envisagent pour l’attribution de Medicaid ne sont pas transparentes, elles ne portent plus sur des modifications d’éligibilité ou des réductions claires, que les électeurs comprennent facilement. Les coupes sont désormais opaques et reposent sur une complexité administrative renouvelée. Alors que les Démocrates avaient œuvré contre les lourdeurs administratives, les Républicains estiment qu’elles constituent un excellent outil politique pour atteindre des objectifs politiques impopulaires. 

Augmenter le fardeau administratif devient une politique, comme de pousser les gens à renouveler leur demande 2 fois par an plutôt qu’une fois par an. L’enjeu consiste aussi à développer des barrières, comme des charges ou un ticket modérateur, même modique, qui permet d’éloigner ceux qui ont le plus besoin de soins et ne peuvent les payer. Les Républicains du Congrès souhaitent inciter les États à alourdir encore davantage les formalités administratives. Ils prévoient d’alourdir ainsi les sanctions pour les États qui commettent des erreurs d’inscription, ce qui va les encourager à exiger des justificatifs excessifs – alors que là bas aussi, l’essentiel de la fraude est le fait des assureurs privés et des prestataires de soins plutôt que des personnes éligibles aux soins. Les Républicains affirment que ces contraintes servent des objectifs politiques vertueux, comme la réduction de la fraude et de la dépendance à l’aide sociale. Mais en vérité, « la volonté de rendre l’assurance maladie publique moins accessible n’est pas motivée par des préoccupations concernant l’intérêt général. Au contraire, les plus vulnérables verront leur situation empirer, tout cela pour financer une baisse d’impôts qui profite principalement aux riches ». 

Dans un article pour The Atlantic de 2021, Annie Lowrey évoquait le concept de Kludgeocracrie du politologue Steven Teles, pour parler de la façon dont étaient bricolés les programmes de prestations en faisant reposer sur les usagers les lourdeurs administratives. Le but, bien souvent, est que les prestations sociales ne soient pas faciles à comprendre et à recevoir. « Le gouvernement rationne les services publics par des frictions bureaucratiques déroutantes et injustes. Et lorsque les gens ne reçoivent pas l’aide qui leur est destinée, eh bien, c’est leur faute ». « C’est un filtre régressif qui sape toutes les politiques progressistes que nous avons ». Ces politiques produisent leurs propres économies. Si elles alourdissent le travail des administrations chargées de contrôler les prestations, elles diminuent mécaniquement le volume des prestations fournies. 

Le mille-feuille de l’organisation des services publics n’explique pas à lui seul la raison de ces complexités. Dans un livre dédié au sujet (The Submerged State: How Invisible Government Policies Undermine American Democracy, University of Chicago Press, 2011), la politologue Suzanne Mettler soulignait d’ailleurs, que les programmes destinés aux plus riches et aux entreprises sont généralement plus faciles à obtenir, automatiques et garantis. « Il n’est pas nécessaire de se prosterner devant un conseiller social pour bénéficier des avantages d’un plan d’épargne-études. Il n’est pas nécessaire d’uriner dans un gobelet pour obtenir une déduction fiscale pour votre maison, votre bateau ou votre avion…». « Tant et si bien que de nombreuses personnes à revenus élevés, contrairement aux personnes pauvres, ne se rendent même pas compte qu’elles bénéficient de programmes gouvernementaux ». Les 200 milliards d’aides publiques aux entreprises en France, distribués sans grand contrôle, contrastent d’une manière saisissante avec la chasse à la fraude des plus pauvres, bardés de contrôles. Selon que vous êtes riches ou pauvres, les lourdeurs administratives ne sont pas distribuées équitablement. Mais toutes visent d’abord à rendre l’État dysfonctionnel. 

L’article d’Annie Lowrey continue en soulignant bien sûr qu’une meilleure conception et que la simplification sont à portée de main et que certaines agences américaines s’y sont attelé et que cela a porté ses fruits. Mais, le problème n’est plus celui-là me semble-t-il. Voilà longtemps que les effets de la simplification sont démontrés, cela n’empêche pas, bien souvent, ni des reculs, ni une fausse simplification. Le contrôle reste encore largement la norme, même si partout on constate qu’il produit peu d’effets (comme le montraient les sociologues Claire Vivès, Luc Sigalo Santos, Jean-Marie Pillon, Vincent Dubois et Hadrien Clouet, dans leur livre sur le contrôle du chômage, Chômeurs, vos papiers ! – voir notre recension). Il est toujours plus fort sur les plus démunis que sur les plus riches et la tendance ne s’inverse pas, malgré les démonstrations. 

Et le déferlement de l’IA pour le marketing risque de continuer à dégrader les choses. Pour Tenumah, l’arrivée de services clients gérés par l’IA vont leur permettre peut-être de coûter moins cher aux entreprises, mais ils ne vont répondre à aucune attente. 

La résistance au Sludge s’organise bien sûr. Des réglementations, comme la règle « cliquez pour annuler » que promeut la FTC américaine, vise à éliminer les obstacles à la résiliation des abonnements. L’OCDE a développé, elle, une internationale Sludge Academy pour développer des méthodes d’audits de ce type de problème, à l’image de la méthodologie développée par l’unité comportemementale du gouvernement australien. Mais la régulation des lacunes des services clients est encore difficile à mettre en œuvre. 

Le cabinet Gartner a prédit que d’ici 2028, l’Europe inscrira dans sa législation le droit à parler à un être humain. Les entreprises s’y préparent d’ailleurs, puisqu’elles estiment qu’avec l’IA, ses employés seront capables de répondre à toutes les demandes clients. Mais cela ne signifie pas qu’elles vont améliorer leur relation commerciale. On l’a vu, il suffit que les solutions ne soient pas accessibles aux opérateurs des centres d’appels, que les recours ne soient pas dans la liste de ceux qu’ils peuvent proposer, pour que les problèmes ne se résolvent pas. Faudra-t-il aller plus loin ? Demander que tous les services aient des services de médiation ? Que les budgets de services clients soient proportionnels au chiffre d’affaires ? 

Avec ses amis, Chris Colin organise désormais des soirées administratives, où les gens se réunissent pour faire leurs démarches ensemble afin de s’encourager à les faire. L’idée est de socialiser ces moments peu intéressants pour s’entraider à les accomplir et à ne pas lâcher l’affaire. 

Après plusieurs mois de discussions, Ford a fini par proposer à Chris de racheter sa voiture pour une somme équitable. 

Dégradation du service client ? La standardisation en question

Pour autant, l’article de The Atlantic ne répond pas pleinement à la question de savoir si le numérique aggrave le Sludge. Les pratiques léontines des entreprises ne sont pas nouvelles. Mais le numérique les attise-t-elle ? 

« Après avoir progressé régulièrement pendant deux décennies, l’indice américain de satisfaction client (ACSI), baromètre du contentement, a commencé à décliner en 2018. Bien qu’il ait légèrement progressé par rapport à son point bas pendant la pandémie, il a perdu tous les gains réalisés depuis 2006 », rappelle The Economist. Si la concentration et le développement de monopoles explique en partie la dégradation, l’autre raison tient au développement de la technologie, notamment via le développement de chatbots, ces dernières années. Mais l’article finit par reprendre le discours consensuel pour expliquer que l’IA pourrait améliorer la relation, alors qu’elle risque surtout d’augmenter les services clients automatisés, allez comprendre. Même constat pour Claer Barrett, responsable de la rubrique consommateur au Financial Times. L’envahissement des chatbots a profondément dégradé le service client en empêchant les usagers d’accéder à ce qu’ils souhaitent : un humain capable de leur fournir les réponses qu’ils attendent. L’Institute of Customer Service (ICS), un organisme professionnel indépendant qui milite pour une amélioration des normes de la satisfaction client, constate néanmoins que celle-ci est au plus bas depuis 9 ans dans tous les secteurs de l’économie britannique. En fait, les chatbots ne sont pas le seul problème : même joindre un opérateur humain vous enferme également dans le même type de scripts que ceux qui alimentent les chatbots, puisque les uns comme les autres ne peuvent proposer que les solutions validées par l’entreprise. Le problème repose bien plus sur la normalisation et la standardisation de la relation qu’autre chose. 

« Les statistiques des plaintes des clients sont très faciles à manipuler », explique Martyn James, expert en droits des consommateurs. Vous pourriez penser que vous êtes en train de vous plaindre au téléphone, dit-il, mais si vous n’indiquez pas clairement que vous souhaitez déposer une plainte officielle, celle-ci risque de ne pas être comptabilisée comme telle. Et les scripts que suivent les opérateurs et les chatbots ne proposent pas aux clients de déposer plainte… Pourquoi ? Légalement, les entreprises sont tenues de répondre aux plaintes officielles dans un délai déterminé. Mais si votre plainte n’est pas officiellement enregistrée comme telle, elles peuvent traîner les pieds. Si votre plainte n’est pas officiellement enregistrée, elle n’est qu’une réclamation qui se perd dans l’historique client, régulièrement vidé. Les consommateurs lui confient que, trop souvent, les centres d’appels n’ont aucune trace de leur réclamation initiale. 

Quant à trouver la page de contact ou du service client, il faut la plupart du temps cinq à dix clics pour s’en approcher ! Et la plupart du temps, vous n’avez accès qu’à un chat ou une ligne téléphonique automatisée. Pour Martyn James, tous les secteurs ont réduit leur capacité à envoyer des mails autres que marketing et la plupart n’acceptent pas les réponses. Et ce alors que ces dernières années, de nombreuses chaînes de magasins se sont transformées en centres de traitement des commandes en ligne, sans investir dans un service client pour les clients distants. 

« Notre temps ne leur coûte rien »

« Notre temps ne leur coûte rien », rappelle l’expert. Ce qui explique que nous soyons contraints d’épuiser le processus automatisé et de nous battre obstinément pour parler à un opérateur humain qui fera son maximum pour ne pas enregistrer l’interaction comme une plainte du fait des objectifs qu’il doit atteindre. Une fois les recours épuisés, reste la possibilité de saisir d’autres instances, mais cela demande de nouvelles démarches, de nouvelles compétences comme de savoir qu’un médiateur peut exister, voire porter plainte en justice… Autant de démarches qui ne sont pas si accessibles. 

Les défenseurs des consommateurs souhaitent que les régulateurs puissent infliger des amendes beaucoup plus lourdes aux plus grands contrevenants des services clients déficients. Mais depuis quels critères ? 

Investir dans un meilleur service client a clairement un coût. Mais traiter les plaintes de manière aussi inefficace en a tout autant. Tous secteurs confondus, le coût mensuel pour les entreprises britanniques du temps consacré par leurs employés à la gestion des problèmes clients s’élève à 8 milliards d’euros, selon l’ICS. Si les entreprises commençaient à mesurer cet impact de cette manière, cela renforcerait-il l’argument commercial en faveur d’un meilleur service ?, interroge Claer Barrett. 

Au Royaume-Uni, c’est le traitement des réclamations financières qui offre le meilleur service client, explique-t-elle, parce que la réglementation y est beaucoup plus stricte. A croire que c’est ce qui manque partout ailleurs. Pourtant, même dans le secteur bancaire, le volume de plaintes reste élevé. Le Financial Ombudsman Service du Royaume-Uni prévoit de recevoir plus de 181 000 plaintes de consommateurs au cours du prochain exercice, soit environ 10 % de plus qu’en 2022-2023. Les principales plaintes à l’encontre des banques portent sur l’augmentation des taux d’intérêts sur les cartes de crédits et la débancarisation (voir notre article). Une autre part importante des plaintes concerne les dossiers de financement automobiles, et porte sur des litiges d’évaluation de dommages et des retards de paiements. 

Pourtant, selon l’ICS, le retour sur investissement d’un bon service client reste fort. « D’après les données collectées entre 2017 et 2023, les entreprises dont le score de satisfaction client était supérieur d’au moins un point à la moyenne de leur secteur ont enregistré une croissance moyenne de leur chiffre d’affaires de 7,4 % ». Mais, celles dont le score de satisfaction est inférieur d’un point à la moyenne, ont enregistré également une croissance de celui-ci du niveau de la moyenne du secteur. La différence n’est peut-être pas suffisamment sensible pour faire la différence. Dans un monde en ligne, où le client ne cesse de s’éloigner des personnels, la nécessité de créer des liens avec eux devrait être plus importante que jamais. Mais, l’inflation élevée de ces dernières années porte toute l’attention sur le prix… et ce même si les clients ne cessent de déclarer qu’ils sont prêts à payer plus cher pour un meilleur service. 

La morosité du service client est assurément à l’image de la morosité économique ambiante.

Hubert Guillaud 

Suite de notre dossier sur IA et éducation (voir la première partie).

La bataille éducative est-elle perdue ?

Une grande enquête de 404 media montre qu’à l’arrivée de ChatGPT, les écoles publiques américaines étaient totalement démunies face à l’adoption généralisée de ChatGPT par les élèves. Le problème est d’ailleurs loin d’être résolu. Le New York Mag a récemment publié un article qui se désole de la triche généralisée qu’ont introduit les IA génératives à l’école. De partout, les élèves utilisent les chatbots pour prendre des notes pendant les cours, pour concevoir des tests, résumer des livres ou des articles, planifier et rédiger leurs essais, résoudre les exercices qui leurs sont demandés. Le plafond de la triche a été pulvérisé, explique un étudiant. “Un nombre considérable d’étudiants sortiront diplômés de l’université et entreront sur le marché du travail en étant essentiellement analphabètes”, se désole un professeur qui constate le court-circuitage du processus même d’apprentissage. La triche semblait pourtant déjà avoir atteint son apogée, avant l’arrivée de ChatGPT, notamment avec les plateformes d’aides au devoir en ligne comme Chegg et Course Hero. “Pour 15,95 $ par mois, Chegg promettait des réponses à toutes les questions de devoirs en seulement 30 minutes, 24h/24 et 7j/7, grâce aux 150 000 experts diplômés de l’enseignement supérieur qu’elle employait, principalement en Inde”. 

Chaque école a proposé sa politique face à ces nouveaux outils, certains prônant l’interdiction, d’autres non. Depuis, les politiques se sont plus souvent assouplies, qu’endurcies. Nombre de profs autorisent l’IA, à condition de la citer, ou ne l’autorisent que pour aide conceptuelle et en demandant aux élèves de détailler la manière dont ils l’ont utilisé. Mais cela ne dessine pas nécessairement de limites claires à leurs usages. L’article souligne que si les professeurs se croient doués pour détecter les écrits générés par l’IA, des études ont démontré qu’ils ne le sont pas. L’une d’elles, publiée en juin 2024, utilisait de faux profils d’étudiants pour glisser des travaux entièrement générés par l’IA dans les piles de correction des professeurs d’une université britannique. Les professeurs n’ont pas signalé 97 % des essais génératifs. En fait, souligne l’article, les professeurs ont plutôt abandonné l’idée de pouvoir détecter le fait que les devoirs soient rédigés par des IA. “De nombreux enseignants semblent désormais désespérés”. “Ce n’est pas ce pour quoi nous nous sommes engagés”, explique l’un d’entre eux. La prise de contrôle de l’enseignement par l’IA tient d’une crise existentielle de l’éducation. Désormais, les élèves ne tentent même plus de se battre contre eux-mêmes. Ils se replient sur la facilité. “Toute tentative de responsabilisation reste vaine”, constatent les professeurs. 

L’IA a mis à jour les défaillances du système éducatif. Bien sûr, l’idéal de l’université et de l’école comme lieu de développement intellectuel, où les étudiants abordent des idées profondes a disparu depuis longtemps. La perspective que les IA des professeurs évaluent désormais les travaux produits par les IA des élèves, finit de réduire l’absurdité de la situation, en laissant chacun sans plus rien à apprendre. Plusieurs études (comme celle de chercheurs de Microsoft) ont établi un lien entre l’utilisation de l’IA et une détérioration de l’esprit critique. Pour le psychologue, Robert Sternberg, l’IA générative compromet déjà la créativité et l’intelligence. “La bataille est perdue”, se désole un autre professeur. 

Reste à savoir si l’usage “raisonnable” de l’IA est possible. Dans une longue enquête pour le New Yorker, le journaliste Hua Hsu constate que tous les étudiants qu’il a interrogé pour comprendre leur usage de l’IA ont commencé par l’utiliser pour se donner des idées, en promettant de veiller à un usage responsable et ont très vite basculé vers des usages peu modérés, au détriment de leur réflexion. L’utilisation judicieuse de l’IA ne tient pas longtemps. Dans un rapport sur l’usage de Claude par des étudiants, Anthropic a montré que la moitié des interactions des étudiants avec son outil serait extractive, c’est-à-dire servent à produire des contenus. 404 media est allé discuter avec les participants de groupes de soutien en ligne de gens qui se déclarent comme “dépendants à l’IA”. Rien n’est plus simple que de devenir accro à un chatbot, confient des utilisateurs de tout âge. OpenAI en est conscient, comme le pointait une étude du MIT sur les utilisateurs les plus assidus, sans proposer pourtant de remèdes.

Comment apprendre aux enfants à faire des choses difficiles ? Le journaliste Clay Shirky, devenu responsable de l’IA en éducation à la New York University, dans le Chronicle of Higher Education, s’interroge : l’IA améliore-t-elle l’éducation ou la remplace-t-elle ? “Chaque année, environ 15 millions d’étudiants de premier cycle aux États-Unis produisent des travaux et des examens de plusieurs milliards de mots. Si le résultat d’un cours est constitué de travaux d’étudiants (travaux, examens, projets de recherche, etc.), le produit de ce cours est l’expérience étudiante”. Un devoir n’a de valeur que ”pour stimuler l’effort et la réflexion de l’élève”. “L’utilité des devoirs écrits repose sur deux hypothèses : la première est que pour écrire sur un sujet, l’élève doit comprendre le sujet et organiser ses pensées. La seconde est que noter les écrits d’un élève revient à évaluer l’effort et la réflexion qui y ont été consacrés”. Avec l’IA générative, la logique de cette proposition, qui semblait pourtant à jamais inébranlable, s’est complètement effondrée. 

Pour Shirky, il ne fait pas de doute que l’IA générative peut être utile à l’apprentissage. “Ces outils sont efficaces pour expliquer des concepts complexes, proposer des quiz pratiques, des guides d’étude, etc. Les étudiants peuvent rédiger un devoir et demander des commentaires, voir à quoi ressemble une réécriture à différents niveaux de lecture, ou encore demander un résumé pour vérifier la clarté”… “Mais le fait que l’IA puisse aider les étudiants à apprendre ne garantit pas qu’elle le fera”. Pour le grand théoricien de l’éducation, Herbert Simon, “l’enseignant ne peut faire progresser l’apprentissage qu’en incitant l’étudiant à apprendre”. “Face à l’IA générative dans nos salles de classe, la réponse évidente est d’inciter les étudiants à adopter les utilisations utiles de l’IA tout en les persuadant d’éviter les utilisations néfastes. Notre problème est que nous ne savons pas comment y parvenir”, souligne pertinemment Shirky. Pour lui aussi, aujourd’hui, les professeurs sont en passe d’abandonner. Mettre l’accent sur le lien entre effort et apprentissage ne fonctionne pas, se désole-t-il. Les étudiants eux aussi sont déboussolés et finissent par se demander où l’utilisation de l’IA les mène. Shirky fait son mea culpa. L’utilisation engagée de l’IA conduit à son utilisation paresseuse. Nous ne savons pas composer avec les difficultés. Mais c’était déjà le cas avant ChatGPT. Les étudiants déclarent régulièrement apprendre davantage grâce à des cours magistraux bien présentés qu’avec un apprentissage plus actif, alors que de nombreuses études démontrent l’inverse. “Un outil qui améliore le rendement mais dégrade l’expérience est un mauvais compromis”. 

C’est le sens même de l’éducation qui est en train d’être perdu. Le New York Times revenait récemment sur le fait que certaines écoles interdisent aux élèves d’utiliser ces outils, alors que les professeurs, eux, les surutilisent. Selon une étude auprès de 1800 enseignants de l’enseignement supérieur, 18 % déclaraient utiliser fréquemment ces outils pour faire leur cours, l’année dernière – un chiffre qui aurait doublé depuis. Les étudiants ne lisent plus ce qu’ils écrivent et les professeurs non plus. Si les profs sont prompts à critiquer l’usage de l’IA par leurs élèves, nombre d’entre eux l’apprécient pour eux-mêmes, remarque un autre article du New York Times. A PhotoMath ou Google Lens qui viennent aider les élèves, répondent MagicSchool et Brisk Teaching qui proposent déjà des produits d’IA qui fournissent un retour instantané sur les écrits des élèves. L’Etat du Texas a signé un contrat de 5 ans avec l’entreprise Cambium Assessment pour fournir aux professeurs un outil de notation automatisée des écrits des élèves. 

Pour Jason Koebler de 404 media : “la société dans son ensemble n’a pas très bien résisté à l’IA générative, car les grandes entreprises technologiques s’obstinent à nous l’imposer. Il est donc très difficile pour un système scolaire public sous-financé de contrôler son utilisation”. Pourtant, peu après le lancement public de ChatGPT, certains districts scolaires locaux et d’État ont fait appel à des consultants pro-IA pour produire des formations et des présentations “encourageant largement les enseignants à utiliser l’IA générative en classe”, mais “aucun n’anticipait des situations aussi extrêmes que celles décrites dans l’article du New York Mag, ni aussi problématiques que celles que j’ai entendues de mes amis enseignants, qui affirment que certains élèves désormais sont totalement dépendants de ChatGPT”. Les documents rassemblés par 404media montrent surtout que les services d’éducation américains ont tardé à réagir et à proposer des perspectives aux enseignants sur le terrain. 

Dans un autre article de 404 media, Koebler a demandé à des professeurs américains d’expliquer ce que l’IA a changé à leur travail. Les innombrables témoignages recueillis montrent que les professeurs ne sont pas restés les bras ballants, même s’ils se sentent très dépourvus face à l’intrusion d’une technologie qu’ils n’ont pas voulu. Tous expliquent qu’ils passent des heures à corriger des devoirs que les élèves mettent quelques secondes à produire. Tous dressent un constat similaire fait d’incohérences, de confusions, de démoralisations, entre préoccupations et exaspérations. Quelles limites mettre en place ? Comment s’assurer qu’elles soient respectées ? “Je ne veux pas que les étudiants qui n’utilisent pas de LLM soient désavantagés. Et je ne veux pas donner de bonnes notes à des étudiants qui ne font pratiquement rien”, témoigne un prof. Beaucoup ont désormais recours à l’écriture en classe, au papier. Quelques-uns disent qu’ils sont passés de la curiosité au rejet catégorique de ces outils. Beaucoup pointent que leur métier est plus difficile que jamais. “ChatGPT n’est pas un problème isolé. C’est le symptôme d’un paradigme culturel totalitaire où la consommation passive et la régurgitation de contenu deviennent le statu quo.”

L’IA place la déqualification au coeur de l’apprentissage 

Nicholas Carr, qui vient de faire paraître Superbloom : How Technologies of Connection Tear Us Apart (Norton, 2025, non traduit) rappelle dans sa newsletter que “la véritable menace que représente l’IA pour l’éducation n’est pas qu’elle encourage la triche, mais qu’elle décourage l’apprentissage”. Pour Carr, lorsque les gens utilisent une machine pour réaliser une tâche, soit leurs compétences augmentent, soit elles s’atrophient, soit elles ne se développent jamais. C’est la piste qu’il avait d’ailleurs exploré dans Remplacer l’humain (L’échapée, 2017, traduction de The Glass Cage) en montrant comment les logiciels transforment concrètement les métiers, des architectes aux pilotes d’avions). “Si un travailleur maîtrise déjà l’activité à automatiser, la machine peut l’aider à développer ses compétences” et relever des défis plus complexes. Dans les mains d’un mathématicien, une calculatrice devient un “amplificateur d’intelligence”. A l’inverse, si le maintien d’une compétence exige une pratique fréquente, combinant dextérité manuelle et mentale, alors l’automatisation peut menacer le talent même de l’expert. C’est le cas des pilotes d’avion confrontés aux systèmes de pilotage automatique qui connaissent un “affaissement des compétences” face aux situations difficiles. Mais l’automatisation est plus pernicieuse encore lorsqu’une machine prend les commandes d’une tâche avant que la personne qui l’utilise n’ait acquis l’expérience de la tâche en question. “C’est l’histoire du phénomène de « déqualification » du début de la révolution industrielle. Les artisans qualifiés ont été remplacés par des opérateurs de machines non qualifiés. Le travail s’est accéléré, mais la seule compétence acquise par ces opérateurs était celle de faire fonctionner la machine, ce qui, dans la plupart des cas, n’était quasiment pas une compétence. Supprimez la machine, et le travail s’arrête”. 

Bien évidemment que les élèves qui utilisent des chatbots pour faire leurs devoirs font moins d’effort mental que ceux qui ne les utilisent pas, comme le pointait une très épaisse étude du MIT (synthétisée par Le Grand Continent), tout comme ceux qui utilisent une calculatrice plutôt que le calcul mental vont moins se souvenir des opérations qu’ils ont effectuées. Mais le problème est surtout que ceux qui les utilisent sont moins méfiants de leurs résultats (comme le pointait l’étude des chercheurs de Microsoft), alors que contrairement à ceux d’une calculatrice, ils sont beaucoup moins fiables. Le problème de l’usage des LLM à l’école, c’est à la fois qu’il empêche d’apprendre à faire, mais plus encore que leur usage nécessite des compétences pour les évaluer. 

L’IA générative étant une technologie polyvalente permettant d’automatiser toutes sortes de tâches et d’emplois, nous verrons probablement de nombreux exemples de chacun des trois scénarios de compétences dans les années à venir, estime Carr. Mais l’utilisation de l’IA par les lycéens et les étudiants pour réaliser des travaux écrits, pour faciliter ou éviter le travail de lecture et d’écriture, constitue un cas particulier. “Elle place le processus de déqualification au cœur de l’éducation. Automatiser l’apprentissage revient à le subvertir”. 

En éducation, plus vous effectuez de recherches, plus vous vous améliorez en recherche, et plus vous rédigez d’articles, plus vous améliorez votre rédaction. “Cependant, la valeur pédagogique d’un devoir d’écriture ne réside pas dans le produit tangible du travail – le devoir rendu à la fin du devoir. Elle réside dans le travail lui-même : la lecture critique des sources, la synthèse des preuves et des idées, la formulation d’une thèse et d’un argument, et l’expression de la pensée dans un texte cohérent. Le devoir est un indicateur que l’enseignant utilise pour évaluer la réussite du travail de l’étudiant – le travail d’apprentissage. Une fois noté et rendu à l’étudiant, le devoir peut être jeté”. 

L’IA générative permet aux étudiants de produire le produit sans effectuer le travail. Le travail remis par un étudiant ne témoigne plus du travail d’apprentissage qu’il a nécessité. “Il s’y substitue ». Le travail d’apprentissage est ardu par nature : sans remise en question, l’esprit n’apprend rien. Les étudiants ont toujours cherché des raccourcis bien sûr, mais l’IA générative est différente, pas son ampleur, par sa nature. “Sa rapidité, sa simplicité d’utilisation, sa flexibilité et, surtout, sa large adoption dans la société rendent normal, voire nécessaire, l’automatisation de la lecture et de l’écriture, et l’évitement du travail d’apprentissage”. Grâce à l’IA générative, un élève médiocre peut produire un travail remarquable tout en se retrouvant en situation de faiblesse. Or, pointe très justement Carr, “la conséquence ironique de cette perte d’apprentissage est qu’elle empêche les élèves d’utiliser l’IA avec habileté. Rédiger une bonne consigne, un prompt efficace, nécessite une compréhension du sujet abordé. Le dispensateur doit connaître le contexte de la consigne. Le développement de cette compréhension est précisément ce que la dépendance à l’IA entrave”. “L’effet de déqualification de l’outil s’étend à son utilisation”. Pour Carr, “nous sommes obnubilés par la façon dont les étudiants utilisent l’IA pour tricher. Alors que ce qui devrait nous préoccuper davantage, c’est la façon dont l’IA trompe les étudiants”. 

Nous sommes d’accord. Mais cette conclusion n’aide pas pour autant à avancer ! 

Passer du malaise moral au malaise social ! 

Utiliser ou non l’IA semble surtout relever d’un malaise moral (qui en rappelle un autre), révélateur, comme le souligne l’obsession sur la « triche » des élèves. Mais plus qu’un dilemme moral, peut-être faut-il inverser notre regard, et le poser autrement : comme un malaise social. C’est la proposition que fait le sociologue Bilel Benbouzid dans un remarquable article pour AOC (première et seconde partie). 

Pour Benbouzid, l’IA générative à l’université ébranle les fondements de « l’auctorialité », c’est-à-dire qu’elle modifie la position d’auteur et ses repères normatifs et déontologiques. Dans le monde de l’enseignement supérieur, depuis le lancement de ChatGPT, tout le monde s’interroge pour savoir que faire de ces outils, souvent dans un choix un peu binaire, entre leur autorisation et leur interdiction. Or, pointe justement Benbouzid, l’usage de l’IA a été « perçu » très tôt comme une transgression morale. Très tôt, les utiliser a été associé à de la triche, d’autant qu’on ne peut pas les citer, contrairement à tout autre matériel écrit. 

Face à leur statut ambiguë, Benbouzid pose une question de fond : quelle est la nature de l’effort intellectuel légitime à fournir pour ses études ? Comment distinguer un usage « passif » de l’IA d’un usage « actif », comme l’évoquait Ethan Mollick dans la première partie de ce dossier ? Comment contrôler et s’assurer d’une utilisation active et éthique et non pas passive et moralement condamnable ? 

Pour Benbouzid, il se joue une réflexion éthique sur le rapport à soi qui nécessite d’être authentique. Mais peut-on être authentique lorsqu’on se construit, interroge le sociologue, en évoquant le fait que les étudiants doivent d’abord acquérir des compétences avant de s’individualiser. Or l’outil n’est pas qu’une machine pour résumer ou copier. Pour Benbouzid, comme pour Mollick, bien employée, elle peut-être un vecteur de stimulation intellectuelle, tout en exerçant une influence diffuse mais réelle. « Face aux influences tacites des IAG, il est difficile de discerner les lignes de partage entre l’expression authentique de soi et les effets normatifs induits par la machine. » L’enjeu ici est bien celui de la capacité de persuasion de ces machines sur ceux qui les utilisent. 

Pour les professeurs de philosophie et d’éthique Mark Coeckelbergh et David Gunkel, comme ils l’expliquent dans un article (qui a depuis donné lieu à un livre, Communicative AI, Polity, 2025), l’enjeu n’est pourtant plus de savoir qui est l’auteur d’un texte (même si, comme le remarque Antoine Compagnon, sans cette figure, la lecture devient indéchiffrable, puisque nul ne sait plus qui parle, ni depuis quels savoirs), mais bien plus de comprendre les effets que les textes produisent. Pourtant, ce déplacement, s’il est intéressant (et peut-être peu adapté à l’IA générative, tant les textes produits sont rarement pertinents), il ne permet pas de cadrer les usages des IA génératives qui bousculent le cadre ancien de régulation des textes académiques. Reste que l’auteur d’un texte doit toujours en répondre, rappelle Benbouzid, et c’est désormais bien plus le cas des étudiants qui utilisent l’IA que de ceux qui déploient ces systèmes d’IA. L’autonomie qu’on attend d’eux est à la fois un idéal éducatif et une obligation morale envers soi-même, permettant de développer ses propres capacités de réflexion. « L’acte d’écriture n’est pas un simple exercice technique ou une compétence instrumentale. Il devient un acte de formation éthique ». Le problème, estiment les professeurs de philosophie Timothy Aylsworth et Clinton Castro, dans un article qui s’interroge sur l’usage de ChatGPT, c’est que l’autonomie comme finalité morale de l’éducation n’est pas la même que celle qui permet à un étudiant de décider des moyens qu’il souhaite mobiliser pour atteindre son but. Pour Aylsworth et Castro, les étudiants ont donc obligation morale de ne pas utiliser ChatGPT, car écrire soi-même ses textes est essentiel à la construction de son autonomie. Pour eux, l’école doit imposer une morale de la responsabilité envers soi-même où écrire par soi-même n’est pas seulement une tâche scolaire, mais également un moyen d’assurer sa dignité morale. « Écrire, c’est penser. Penser, c’est se construire. Et se construire, c’est honorer l’humanité en soi. »

Pour Benbouzid, les contradictions de ces deux dilemmes résument bien le choix cornélien des étudiants et des enseignants. Elle leur impose une liberté de ne pas utiliser. Mais cette liberté de ne pas utiliser, elle, ne relève-t-elle pas d’abord et avant tout d’un jugement social ?

L’IA générative ne sera pas le grand égalisateur social !

C’est la piste fructueuse qu’explore Bilel Benbouzid dans la seconde partie de son article. En explorant qui à recours à l’IA et pourquoi, le sociologue permet d’entrouvrir une autre réponse que la réponse morale. Ceux qui promeuvent l’usage de l’IA pour les étudiants, comme Ethan Mollick, estiment que l’IA pourrait agir comme une égaliseur de chances, permettant de réduire les différences cognitives entre les élèves. C’est là une référence aux travaux d’Erik Brynjolfsson, Generative AI at work, qui souligne que l’IA diminue le besoin d’expérience, permet la montée en compétence accélérée des travailleurs et réduit les écarts de compétence des travailleurs (une théorie qui a été en partie critiquée, notamment parce que ces avantages sont compensés par l’uniformisation des pratiques et leur surveillance – voir ce que nous en disions en mobilisant les travaux de David Autor). Mais sommes-nous confrontés à une homogénéisation des performances d’écritures ? N’assiste-t-on pas plutôt à un renforcement des inégalités entre les meilleurs qui sauront mieux que d’autres tirer partie de l’IA générative et les moins pourvus socialement ? 

Pour John Danaher, l’IA générative pourrait redéfinir pas moins que l’égalité, puisque les compétences traditionnelles (rédaction, programmation, analyses…) permettraient aux moins dotés d’égaler les meilleurs. Pour Danaher, le risque, c’est que l’égalité soit alors reléguée au second plan : « d’autres valeurs comme l’efficacité économique ou la liberté individuelle prendraient le dessus, entraînant une acceptation accrue des inégalités. L’efficacité économique pourrait être mise en avant si l’IA permet une forte augmentation de la productivité et de la richesse globale, même si cette richesse est inégalement répartie. Dans ce scénario, plutôt que de chercher à garantir une répartition équitable des ressources, la société pourrait accepter des écarts grandissants de richesse et de statut, tant que l’ensemble progresse. Ce serait une forme d’acceptation de l’inégalité sous prétexte que la technologie génère globalement des bénéfices pour tous, même si ces bénéfices ne sont pas partagés de manière égale. De la même manière, la liberté individuelle pourrait être privilégiée si l’IA permet à chacun d’accéder à des outils puissants qui augmentent ses capacités, mais sans garantir que tout le monde en bénéficie de manière équivalente. Certains pourraient considérer qu’il est plus important de laisser les individus utiliser ces technologies comme ils le souhaitent, même si cela crée de nouvelles hiérarchies basées sur l’usage différencié de l’IA ». Pour Danaher comme pour Benbouzid, l’intégration de l’IA dans l’enseignement doit poser la question de ses conséquences sociales !

Les LLM ne produisent pas un langage neutre mais tendent à reproduire les « les normes linguistiques dominantes des groupes sociaux les plus favorisés », rappelle Bilel Benbouzid. Une étude comparant les lettres de motivation d’étudiants avec des textes produits par des IA génératives montre que ces dernières correspondent surtout à des productions de CSP+. Pour Benbouzid, le risque est que la délégation de l’écriture à ces machines renforce les hiérarchies existantes plus qu’elles ne les distribue. D’où l’enjeu d’une enquête en cours pour comprendre l’usage de l’IA générative des étudiants et leur rapport social au langage. 

Les premiers résultats de cette enquête montrent par exemple que les étudiants rechignent à copier-collé directement le texte créé par les IA, non seulement par peur de sanctions, mais plus encore parce qu’ils comprennent que le ton et le style ne leur correspondent pas. « Les étudiants comparent souvent ChatGPT à l’aide parentale. On comprend que la légitimité ne réside pas tant dans la nature de l’assistance que dans la relation sociale qui la sous-tend. Une aide humaine, surtout familiale, est investie d’une proximité culturelle qui la rend acceptable, voire valorisante, là où l’assistance algorithmique est perçue comme une rupture avec le niveau académique et leur propre maîtrise de la langue ». Et effectivement, la perception de l’apport des LLM dépend du capital culturel des étudiants. Pour les plus dotés, ChatGPT est un outil utilitaire, limité voire vulgaire, qui standardise le langage. Pour les moins dotés, il leur permet d’accéder à des éléments de langages valorisés et valorisants, tout en l’adaptant pour qu’elle leur corresponde socialement. 

Dans ce rapport aux outils de génération, pointe un rapport social à la langue, à l’écriture, à l’éducation. Pour Benbouzid, l’utilisation de l’IA devient alors moins un problème moral qu’un dilemme social. « Ces pratiques, loin d’être homogènes, traduisent une appropriation différenciée de l’outil en fonction des trajectoires sociales et des attentes symboliques qui structurent le rapport social à l’éducation. Ce qui est en jeu, finalement, c’est une remise en question de la manière dont les étudiants se positionnent socialement, lorsqu’ils utilisent les robots conversationnels, dans les hiérarchies culturelles et sociales de l’université. » En fait, les étudiants utilisent les outils non pas pour se dépasser, comme l’estime Mollick, mais pour produire un contenu socialement légitime. « En déléguant systématiquement leurs compétences de lecture, d’analyse et d’écriture à ces modèles, les étudiants peuvent contourner les processus essentiels d’intériorisation et d’adaptation aux normes discursives et épistémologiques propres à chaque domaine. En d’autres termes, l’étudiant pourrait perdre l’occasion de développer authentiquement son propre capital culturel académique, substitué par un habitus dominant produit artificiellement par l’IA. »

L’apparence d’égalité instrumentale que permettent les LLM pourrait donc paradoxalement renforcer une inégalité structurelle accrue. Les outils creusant l’écart entre des étudiants qui ont déjà internalisé les normes dominantes et ceux qui les singent. Le fait que les textes générés manquent d’originalité et de profondeur critique, que les IA produisent des textes superficiels, ne rend pas tous les étudiants égaux face à ces outils. D’un côté, les grandes écoles renforcent les compétences orales et renforcent leurs exigences d’originalité face à ces outils. De l’autre, d’autres devront y avoir recours par nécessité. « Pour les mieux établis, l’IA représentera un outil optionnel d’optimisation ; pour les plus précaires, elle deviendra une condition de survie dans un univers concurrentiel. Par ailleurs, même si l’IA profitera relativement davantage aux moins qualifiés, cette amélioration pourrait simultanément accentuer une forme de dépendance technologique parmi les populations les plus défavorisées, creusant encore le fossé avec les élites, mieux armées pour exercer un discernement critique face aux contenus générés par les machines ».

Bref, loin de l’égalisation culturelle que les outils permettraient, le risque est fort que tous n’en profitent pas d’une manière égale. On le constate très bien ailleurs. Le fait d’être capable de rédiger un courrier administratif est loin d’être partagé. Si ces outils améliorent les courriers des moins dotés socialement, ils ne renversent en rien les différences sociales. C’est le même constat qu’on peut faire entre ceux qui subliment ces outils parce qu’ils les maîtrisent finement, et tous les autres qui ne font que les utiliser, comme l’évoquait Gregory Chatonsky, en distinguant les utilisateurs mémétiques et les utilisateurs productifs. Ces outils, qui se présentent comme des outils qui seraient capables de dépasser les inégalités sociales, risquent avant tout de mieux les amplifier. Plus que de permettre de personnaliser l’apprentissage, pour s’adapter à chacun, il semble que l’IA donne des superpouvoirs d’apprentissage à ceux qui maîtrisent leurs apprentissages, plus qu’aux autres.  

L’IApocalypse scolaire, coincée dans le droit

Les questions de l’usage de l’IA à l’école que nous avons tenté de dérouler dans ce dossier montrent l’enjeu à débattre d’une politique publique d’usage de l’IA générative à l’école, du primaire au supérieur. Mais, comme le montre notre enquête, toute la communauté éducative est en attente d’un cadre. En France, on attend les recommandations de la mission confiée à François Taddéi et Sarah Cohen-Boulakia sur les pratiques pédagogiques de l’IA dans l’enseignement supérieur, rapportait le Monde. 

Un premier cadre d’usage de l’IA à l’école vient pourtant d’être publié par le ministère de l’Education nationale. Autant dire que ce cadrage processuel n’est pas du tout à la hauteur des enjeux. Le document consiste surtout en un rappel des règles et, pour l’essentiel, elles expliquent d’abord que l’usage de l’IA générative est contraint si ce n’est impossible, de fait. « Aucun membre du personnel ne doit demander aux élèves d’utiliser des services d’IA grand public impliquant la création d’un compte personnel » rappelle le document. La note recommande également de ne pas utiliser l’IA générative avec les élèves avant la 4e et souligne que « l’utilisation d’une intelligence artificielle générative pour réaliser tout ou partie d’un devoir scolaire, sans autorisation explicite de l’enseignant et sans qu’elle soit suivie d’un travail personnel d’appropriation à partir des contenus produits, constitue une fraude ». Autant dire que ce cadre d’usage ne permet rien, sinon l’interdiction. Loin d’être un cadre de développement ouvert à l’envahissement de l’IA, comme s’en plaint le SNES-FSU, le document semble surtout continuer à produire du déni, tentant de rappeler des règles sur des usages qui les débordent déjà très largement. 

Sur Linked-in, Yann Houry, prof dans un Institut privé suisse, était très heureux de partager sa recette pour permettre aux profs de corriger des copies avec une IA en local, rappelant que pour des questions de légalité et de confidentialité, les professeurs ne devraient pas utiliser les services d’IA génératives en ligne pour corriger les copies. Dans les commentaires, nombreux sont pourtant venu lui signaler que cela ne suffit pas, rappelant qu’utiliser l’IA pour corriger les copies, donner des notes et classer les élèves peut-être classée comme un usage à haut-risque selon l’IA Act, ou encore qu’un formateur qui utiliserait l’IA en ce sens devrait en informer les apprenants afin qu’ils exercent un droit de recours en cas de désaccord sur une évaluation, sans compter que le professeur doit également être transparent sur ce qu’il utilise pour rester en conformité et l’inscrire au registre des traitements. Bref, d’un côté comme de l’autre, tant du côté des élèves qui sont renvoyé à la fraude quelque soit la façon dont ils l’utilisent, que des professeurs, qui ne doivent l’utiliser qu’en pleine transparence, on se rend vite compte que l’usage de l’IA dans l’éducation reste, formellement, très contraint, pour ne pas dire impossible. 

D’autres cadres et rapports ont été publiés. comme celui de l’inspection générale, du Sénat ou de la Commission européenne et de l’OCDE, mais qui se concentrent surtout sur ce qu’un enseignement à l’IA devrait être, plus que de donner un cadre aux débordements des usages actuels. Bref, pour l’instant, le cadrage de l’IApocalypse scolaire reste à construire, avec les professeurs… et avec les élèves.  

Hubert Guillaud

MAJ du 02/09/2025 : Le rapport de François Taddei sur l’IA dans l’enseignement supérieur a été publié. Et, contrairement à ce qu’on aurait pu en attendre, il ne répond pas à la question des limites de l’usage de l’IA dans l’enseignement supérieur. 

Le rapport est pourtant disert. Il recommande de mutualiser les capacités de calculs, les contenus et les bonnes pratiques, notamment via une plateforme de mutualisation. Il recommande de développer la formation des étudiants comme des personnels et bien sûr de repenser les modalités d’évaluation, mais sans proposer de pistes concrètes. « L’IA doit notamment contribuer à rendre les établissements plus inclusifs, renforcer la démocratie universitaire, et développer un nouveau modèle d’enseignement qui redéfinisse le rôle de l’enseignant et des étudiants », rappelle l’auteur de Apprendre au XXIe siècle (Calmann-Levy, 2018) qui militait déjà pour transformer l’institution. Il recommande enfin de développer des data centers dédiés, orientés enseignement et des solutions techniques souveraines et invite le ministère de l’enseignement supérieur à se doter d’une politique nationale d’adoption de l’IA autour d’un Institut national IA, éducation et société.

Le rapport embarque une enquête quantitative sur l’usage de l’IA par les étudiants, les professeurs et les personnels administratifs. Si le rapport estime que l’usage de l’IA doit être encouragé, il souligne néanmoins que son développement « doit être accompagné de réflexions collectives sur les usages et ses effets sur l’organisation du travail, les processus et l’évolution des compétences », mais sans vraiment faire de propositions spécifiques autres que citer certaines déjà mises en place nombre de professeurs. Ainsi, sur l’évolution des pratiques, le rapport recense les évolutions, notamment le développement d’examens oraux, mais en pointe les limites en termes de coûts et d’organisation, sans compter, bien sûr, qu’ils ne permettent pas d’évaluer les capacités d’écriture des élèves. « La mission considère que l’IA pourrait donner l’opportunité de redéfinir les modèles d’enseignement, en réinterrogeant le rôle de chacun. Plusieurs pistes sont possibles : associer les étudiants à la définition des objectifs des enseignements, responsabiliser les étudiants sur les apprentissages, mettre en situation professionnelle, développer davantage les modes projet, développer la résolution de problèmes complexes, associer les étudiants à l’organisation d’événements ou de travaux de recherche, etc. Le principal avantage de cette évolution est qu’elle peut permettre de renforcer l’engagement des étudiants dans les apprentissages car ils sont plus impliqués quand ils peuvent contribuer aux choix des sujets abordés. Ils prendront aussi conscience des enjeux pour leur vie professionnelle des matières enseignées. Une telle évolution pourrait renforcer de ce fait la qualité des apprentissages. Elle permettrait aussi de proposer davantage d’horizontalité dans les échanges, ce qui est attendu par les étudiants et qui reflète aussi davantage le fonctionnement par projet, mode d’organisation auquel ils seront fréquemment confrontés ». Pour répondre au défi de l’IA, la mission Taddeï propose donc de « sortir d’une transmission descendante » au profit d’un apprentissage plus collaboratif, comme François Taddéi l’a toujours proposé, mais sans proposer de norme pour structurer les rapports à l’IA. 

Le rapport recommande d’ailleurs de favoriser l’usage de l’IA dans l’administration scolaire et d’utiliser le « broad listening« , l’écoute et la consultation des jeunes pour améliorer la démocratie universitaire… Une proposition qui pourrait être stimulante si nous n’étions pas plutôt confronter à son exact inverse : le broad listening semble plutôt mobilisé pour réprimer les propos étudiants que le contraire… Enfin, le rapport insiste particulièrement sur l’usage de l’IA pour personnaliser l’orientation et être un tuteur d’études. La dernière partie du rapport constate les besoins de formation et les besoins d’outils mutualisés, libres et ouverts : deux aspects qui nécessiteront des financements et projets adaptés. 

Ce rapport très pro-IA ne répond pas vraiment à la difficulté de l’évaluation et de l’enseignement à l’heure où les élèves peuvent utiliser l’IA pour leurs écrits. 

Signalons qu’un autre rapport a été publié concomitamment, celui de l’Inspection générale de l’éducation, du sport et de la recherche (IGERS) qui insiste également sur le besoin de coordination et de mutualisation. 

Pour l’instant, l’une des propositions la plus pratico-pratique que l’on a vu passer sont assurément  les résultats de la convention « citoyenne » de Sciences-Po Aix sur l’usage de l’IA générative, formulant 7 propositions. La convention recommande que les étudiants déclarent l’usage de l’IA, pour préciser le niveau d’intervention qui a été fait, le modèle utilisé et les instructions données, sur le modèle de celles utilisées par l’université de Sherbrooke. L’avis recommande aussi la coordination des équipes pédagogiques afin d’harmoniser les pratiques, pour donner un cadre cohérent aux étudiants et bâtir une réflexion collective. La 3e proposition consiste à améliorer l’enquête sur les pratiques via des formulaires réguliers pour mieux saisir les niveaux d’usages des élèves. La 4e proposition propose de ne pas autoriser l’IA générative pour les étudiants en première et seconde année, afin de leur permettre d’acquérir un socle de connaissances. La 5e proposition propose que les enseignants indiquent clairement si l’usage est autorisé ou non et selon quelles modalités, sur le modèle que propose, là encore, l’université de Sherbrooke. La 6e proposition propose d’améliorer la formation aux outils d’IA. La 7e propose d’organiser des ateliers de sensibilisation aux dimensions environnementales et sociales des IA génératives, intégrés à la formation. Comme le montrent nombre de chartes de l’IA dans l’éducation, celle-ci propose surtout un plus fort cadrage des usages que le contraire. 

En tout cas, le sujet agite la réflexion. Dans une tribune pour le Monde, le sociologue Manuel Cervera-Marzal estime que plutôt que d’ériger des interdits inapplicables en matière d’intelligence artificielle, les enseignants doivent réinventer les manières d’enseigner et d’évaluer, explique-t-il en explicitant ses propres pratiques. Même constat dans une autre tribune pour le professeur et écrivain Maxime Abolgassemi. 

Dans une tribune pour le Club de Mediapart, Céline Cael et Laurent Reynaud, auteurs de Et si on imaginait l’école de demain ? (Retz, 2025) reviennent sur les annonces toutes récentes de la ministre de l’éducation, Elisabeth Borne, de mettre en place une IA pour les professeurs “pour les accompagner dans leurs métiers et les aider à préparer leurs cours” (un appel d’offres a d’ailleurs été publié en janvier 2025 pour sélectionner un candidat). Des modules de formation seront proposés aux élèves du secondaire et un chatbot sera mis en place pour répondre aux questions administratives et réglementaires des personnels de l’Éducation nationale, a-t-elle également annoncé. Pour les deux enseignants, “l’introduction massive du numérique, et de l’IA par extension, dans le quotidien du métier d’enseignant semble bien plus souvent conduire à un appauvrissement du métier d’enseignant plutôt qu’à son optimisation”. “L’IA ne saurait être la solution miracle à tous les défis de l’éducation”, rappellent-ils. Les urgences ne sont pas là.  

Selon le bulletin officiel de l’éducation nationale qui a publié en juillet un cadre pour un usage raisonné du numérique à l’école, la question de l’IA « doit être conduite au sein des instances de démocratie scolaire », afin de nourrir le projet d’établissement. Bref, la question du cadrage des pratiques est pour l’instant renvoyée à un nécessaire débat de société à mener.

A l’été 2023, Ethan Mollick, professeur de management à Wharton, co-directeur du Generative AI Labs et auteur de Co-intelligence : vivre et travailler avec l’IA (qui vient de paraître en français chez First), décrivait dans son excellente newsletter, One useful thing, l’apocalypse des devoirs. Cette apocalypse qu’il annonçait était qu’il ne serait plus possible pour les enseignants de donner des devoirs à leurs élèves à cause de l’IA, redoutant une triche généralisée. 

Pourtant, rappelait-il, la triche est là depuis longtemps. Une étude longitudinale de 2020 montrait déjà que de moins en moins d’élèves bénéficiaient des devoirs qu’ils avaient à faire. L’étude, menée par le professeur de psychologie cognitive, Arnold Glass du Learning and memory laboratory de Rutgers, montrait que lorsque les élèves faisaient leurs devoirs en 2008, cela améliorait leurs notes aux examens pour 86% d’entre eux, alors qu’en 2017, les devoirs ne permettaient plus d’améliorer les notes que de 45% des élèves. Pourquoi ? Parce que plus de la moitié des élèves copiaient-collaient les réponses à leurs devoirs sur internet en 2017, et n’en tiraient donc pas profit. Une autre étude soulignait même que 15% des élèves avaient payé quelqu’un pour faire leur devoir, généralement via des sites d’aides scolaires en ligne. Si tricher s’annonce plus facile avec l’IA, il faut se rappeler que c’était déjà facile avant sa généralisation. 

Les calculatrices n’ont pas tué les mathématiques

Mais la triche n’est pas la seule raison pour laquelle l’IA remet en question la notion même de devoirs. Mollick rappelle que l’introduction de la calculatrice a radicalement transformé l’enseignement des mathématiques. Dans un précédent article, il revenait d’ailleurs sur cette histoire. Lorsque la calculatrice a été introduite dans les écoles, les réactions ont été étonnamment proches des inquiétudes initiales que Mollick entend aujourd’hui concernant l’utilisation de l’IA par les élèves. En s’appuyant sur une thèse signée Sarah Banks, Mollick rappelle que dès les années 70, certains professeurs étaient impatients d’intégrer l’usage des calculatrices dans leurs classes, mais c’était loin d’être le cas de tous. La majorité regardait l’introduction de la calculatrice avec suspicion et les parents partagaient l’inquiétude que leurs enfants n’oublient les bases des maths. Au début des années 80, les craintes des enseignants s’étaient inversées, mais très peu d’écoles fournissaient de calculatrices à leurs élèves. Il faut attendre le milieu des années 1990, pour que les calculatrices intègrent les programmes scolaires. En fait, un consensus pratique sur leur usage a été atteint. Et l’enseignement des mathématiques ne s’est pas effondré (même si les tests Pisa montrent une baisse de performance, notamment dans les pays de l’OCDE, mais pour bien d’autres raisons que la généralisation des calculatrices).

Pour Mollick, l’intégration de l’IA à l’école suivra certainement un chemin similaire. « Certains devoirs nécessiteront l’assistance de l’IA, d’autres l’interdiront. Les devoirs d’écriture en classe sur des ordinateurs sans connexion Internet, combinés à des examens écrits, permettront aux élèves d’acquérir les compétences rédactionnelles de base. Nous trouverons un consensus pratique qui permettra d’intégrer l’IA au processus d’apprentissage sans compromettre le développement des compétences essentielles. Tout comme les calculatrices n’ont pas remplacé l’apprentissage des mathématiques, l’IA ne remplacera pas l’apprentissage de l’écriture et de la pensée critique. Cela prendra peut-être du temps, mais nous y parviendrons », explique Mollick, toujours optimiste.

Pourquoi faire des devoirs quand l’IA les rend obsolètes ?

Mais l’impact de l’IA ne se limite pas à l’écriture, estime Mollick. Elle peut aussi être un vulgarisateur très efficace et ChatGPT peut répondre à bien des questions. L’arrivée de l’IA remet en cause les méthodes d’enseignements traditionnelles que sont les cours magistraux, qui ne sont pas si efficaces et dont les alternatives, pour l’instant, n’ont pas connu le succès escompté. « Les cours magistraux ont tendance à reposer sur un apprentissage passif, où les étudiants se contentent d’écouter et de prendre des notes sans s’engager activement dans la résolution de problèmes ni la pensée critique. Dans ce format, les étudiants peuvent avoir du mal à retenir l’information, car leur attention peut facilement faiblir lors de longues présentations. De plus, l’approche universelle des cours magistraux ne tient pas compte des différences et des capacités individuelles, ce qui conduit certains étudiants à prendre du retard tandis que d’autres se désintéressent, faute de stimulation ». Mollick est plutôt partisan de l’apprentissage actif, qui supprime les cours magistraux et invite les étudiants à participer au processus d’apprentissage par le biais d’activités telles que la résolution de problèmes, le travail de groupe et les exercices pratiques. Dans cette approche, les étudiants collaborent entre eux et avec l’enseignant pour mettre en pratique leurs apprentissages. Une méthode que plusieurs études valorisent comme plus efficaces, même si les étudiants ont aussi besoin d’enseignements initiaux appropriés. 

La solution pour intégrer davantage d’apprentissage actif passe par les classes inversées, où les étudiants doivent apprendre de nouveaux concepts à la maison (via des vidéos ou des ressources numériques) pour les appliquer ensuite en classe par le biais d’activités, de discussions ou d’exercices. Afin de maximiser le temps consacré à l’apprentissage actif et à la pensée critique, tout en utilisant l’apprentissage à domicile pour la transmission du contenu. 

Pourtant, reconnaît Mollick, l’apprentissage actif peine à s’imposer, notamment parce que les professeurs manquent de ressources de qualité et de matériel pédagogique inversé de qualité. Des lacunes que l’IA pourrait bien combler. Mollick imagine alors une classe où des tuteurs IA personnalisés viendraient accompagner les élèves, adaptant leur enseignement aux besoins des élèves tout en ajustant les contenus en fonction des performances des élèves, à la manière du manuel électronique décrit dans L’âge de diamant de Neal Stephenson, emblème du rêve de l’apprentissage personnalisé. Face aux difficultés, Mollick à tendance à toujours se concentrer « sur une vision positive pour nous aider à traverser les temps incertains à venir ». Pas sûr que cela suffise. 

Dans son article d’août 2023, Mollick estime que les élèves vont bien sûr utiliser l’IA pour tricher et vont l’intégrer dans tout ce qu’ils font. Mais surtout, ils vont nous renvoyer une question à laquelle nous allons devoir répondre : ils vont vouloir comprendre pourquoi faire des devoirs quand l’IA les rend obsolètes ?

Perturbation de l’écriture et de la lecture

Mollick rappelle que la dissertation est omniprésente dans l’enseignement. L’écriture remplit de nombreuses fonctions notamment en permettant d’évaluer la capacité à raisonner et à structurer son raisonnement. Le problème, c’est que les dissertations sont très faciles à générer avec l’IA générative. Les détecteurs de leur utilisation fonctionnent très mal et il est de plus en plus facile de les contourner. A moins de faire tout travail scolaire en classe et sans écrans, nous n’avons plus de moyens pour détecter si un travail est réalisé par l’homme ou la machine. Le retour des dissertations sur table se profile, quitte à grignoter beaucoup de temps d’apprentissage.

Mais pour Mollick, les écoles et les enseignants vont devoir réfléchir sérieusement à l’utilisation acceptable de l’IA. Est-ce de la triche de lui demander un plan ? De lui demander de réécrire ses phrases ? De lui demander des références ou des explications ? Qu’est-ce qui peut-être autorisé et comment les utiliser ? 

Pour les étudiants du supérieur auxquels il donne cours, Mollick a fait le choix de rendre l’usage de l’IA obligatoire dans ses cours et pour les devoirs, à condition que les modalités d’utilisation et les consignes données soient précisées. Pour lui, cela lui a permis d’exiger des devoirs plus ambitieux, mais a rendu la notation plus complexe.  

Mollick rappelle qu’une autre activité éducative primordiale reste la lecture. « Qu’il s’agisse de rédiger des comptes rendus de lecture, de résumer des chapitres ou de réagir à des articles, toutes ces tâches reposent sur l’attente que les élèves assimilent la lecture et engagent un dialogue avec elle ». Or, l’IA est là encore très performante pour lire et résumer. Mollick suggère de l’utiliser comme partenaire de lecture, en favorisant l’interaction avec l’IA, pour approfondir les synthèses… Pas sûr que la perspective apaise la panique morale qui se déverse dans la presse sur le fait que les étudiants ne lisent plus. Du New Yorker (« Les humanités survivront-elles à ChatGPT ? » ou « Est-ce que l’IA encourage vraiement les élèves à tricher ? ») à The Atlantic (« Les étudiants ne lisent plus de livres » ou « La génération Z voit la lecture comme une perte de temps ») en passant par les pages opinions du New York Times (qui explique par exemple que si les étudiants ne lisent plus c’est parce que les compétences ne sont plus valorisées nulles part), la perturbation que produit l’arrivée de ChatGPT dans les études se double d’une profonde chute de la lecture, qui semble être devenue d’autant plus inutile que les machines les rendent disponibles. Mêmes inquiétudes dans la presse de ce côté-ci de l’Atlantique, du Monde à Médiapart en passant par France Info…

Mais l’IA ne menace pas que la lecture ou l’écriture. Elle sait aussi très bien résoudre les problèmes et exercices de math comme de science.

Pour Mollick, comme pour bien des thuriféraires de l’IA, c’est à l’école et à l’enseignement de s’adapter aux perturbations générées par l’IA, qu’importe si la société n’a pas demandé le déploiement de ces outils. D’ailleurs, soulignait-il très récemment, nous sommes déjà dans une éducation postapocalyptique. Selon une enquête de mai 2024, aux Etats-Unis 82 % des étudiants de premier cycle universitaire et 72 % des élèves de la maternelle à la terminale ont déjà utilisé l’IA. Une adoption extrêmement rapide. Même si les élèves ont beau dos de ne pas considérer son utilisation comme de la triche. Pour Mollick, « la triche se produit parce que le travail scolaire est difficile et comporte des enjeux importants ». L’être humain est doué pour trouver comment se soustraire ce qu’il ne souhaite pas faire et éviter l’effort mental. Et plus les tâches mentales sont difficiles, plus nous avons tendance à les éviter. Le problème, reconnaît Mollick, c’est que dans l’éducation, faire un effort reste primordial.

Dénis et illusions

Pourtant, tout le monde semble être dans le déni et l’illusion. Les enseignants croient pouvoir détecter facilement l’utilisation de l’IA et donc être en mesure de fixer les barrières. Ils se trompent très largement. Une écriture d’IA bien stimulée est même jugée plus humaine que l’écriture humaine par les lecteurs. Pour les professeurs, la seule option consiste à revenir à l’écriture en classe, ce qui nécessite du temps qu’ils n’ont pas nécessairement et de transformer leur façon de faire cours, ce qui n’est pas si simple.

Mais les élèves aussi sont dans l’illusion. « Ils ne réalisent pas réellement que demander de l’aide pour leurs devoirs compromet leur apprentissage ». Après tout, ils reçoivent des conseils et des réponses de l’IA qui les aident à résoudre des problèmes, qui semble rendre l’apprentissage plus fluide. Comme l’écrivent les auteurs de l’étude de Rutgers : « Rien ne permet de croire que les étudiants sont conscients que leur stratégie de devoirs diminue leur note à l’examen… ils en déduisent, de manière logique, que toute stratégie d’étude augmentant leur note à un devoir augmente également leur note à l’examen ». En fait, comme le montre une autre étude, en utilisant ChatGPT, les notes aux devoirs progressent, mais les notes aux examens ont tendance à baisser de 17% en moyenne quand les élèves sont laissés seuls avec l’outil. Par contre, quand ils sont accompagnés pour comprendre comment l’utiliser comme coach plutôt qu’outil de réponse, alors l’outil les aide à la fois à améliorer leurs notes aux devoirs comme à l’examen. Une autre étude, dans un cours de programmation intensif à Stanford, a montré que l’usage des chatbots améliorait plus que ne diminuait les notes aux examens.

Une majorité de professeurs estiment que l’usage de ChatGPT est un outil positif pour l’apprentissage. Pour Mollick, l’IA est une aide pour comprendre des sujets complexes, réfléchir à des idées, rafraîchir ses connaissances, obtenir un retour, des conseils… Mais c’est peut-être oublier de sa part, d’où il parle et combien son expertise lui permet d’avoir un usage très évolué de ces outils. Ce qui n’est pas le cas des élèves.

Encourager la réflexion et non la remplacer

Pour que les étudiants utilisent l’IA pour stimuler leur réflexion plutôt que la remplacer, il va falloir les accompagner, estime Mollick. Mais pour cela, peut-être va-t-il falloir nous intéresser aux professeurs, pour l’instant laissés bien dépourvus face à ces nouveaux outils. 

Enfin, pas tant que cela. Car eux aussi utilisent l’IA. Selon certains sondages américains, trois quart des enseignants utiliseraient désormais l’IA dans leur travail, mais nous connaissons encore trop peu les méthodes efficaces qu’ils doivent mobiliser. Une étude qualitative menée auprès d’eux a montré que ceux qui utilisaient l’IA pour aider leurs élèves à réfléchir, pour améliorer les explications obtenaient de meilleurs résultats. Pour Mollick, la force de l’IA est de pouvoir créer des expériences d’apprentissage personnalisées, adaptées aux élèves et largement accessibles, plus que les technologies éducatives précédentes ne l’ont jamais été. Cela n’empêche pas Mollick de conclure par le discours lénifiant habituel : l’éducation quoiqu’il en soit doit s’adapter ! 

Cela ne veut pas dire que cette adaptation sera très facile ou accessible, pour les professeurs, comme pour les élèves. Dans l’éducation, rappellent les psychologues Andrew Wilson et Sabrina Golonka sur leur blog, « le processus compte bien plus que le résultat« . Or, l’IA fait à tous la promesse inverse. En matière d’éducation, cela risque d’être dramatique, surtout si nous continuons à valoriser le résultat (les notes donc) sur le processus. David Brooks ne nous disait pas autre chose quand il constatait les limites de notre méritocratie actuelle. C’est peut-être par là qu’il faudrait d’ailleurs commencer, pour résoudre l’IApocalypse éducative…

Pour Mollick cette évolution « exige plus qu’une acceptation passive ou une résistance futile ». « Elle exige une refonte fondamentale de notre façon d’enseigner, d’apprendre et d’évaluer les connaissances. À mesure que l’IA devient partie intégrante du paysage éducatif, nos priorités doivent évoluer. L’objectif n’est pas de déjouer l’IA ou de faire comme si elle n’existait pas, mais d’exploiter son potentiel pour améliorer l’éducation tout en atténuant ses inconvénients. La question n’est plus de savoir si l’IA transformera l’éducation, mais comment nous allons façonner ce changement pour créer un environnement d’apprentissage plus efficace, plus équitable et plus stimulant pour tous ». Plus facile à dire qu’à faire. Expérimenter prend du temps, trouver de bons exercices, changer ses pratiques… pour nombre de professeurs, ce n’est pas si évident, d’autant qu’ils ont peu de temps disponible pour se faire ou se former.  La proposition d’Anthropic de produire une IA dédiée à l’accompagnement des élèves (Claude for Education) qui ne cherche pas à fournir des réponses, mais produit des modalités pour accompagner les élèves à saisir les raisonnements qu’ils doivent échafauder, est certes stimulante, mais il n’est pas sûr qu’elle ne soit pas contournable.

Dans les commentaires des billets de Mollick, tout le monde se dispute, entre ceux qui pensent plutôt comme Mollick et qui ont du temps pour s’occuper de leurs élèves, qui vont pouvoir faire des évaluations orales et individuelles, par exemple (ce que l’on constate aussi dans les cursus du supérieur en France, rapportait le Monde). Et les autres, plus circonspects sur les évolutions en cours, où de plus en plus souvent des élèves produisent des contenus avec de l’IA que leurs professeurs font juger par des IA… On voit bien en tout cas, que la question de l’IA générative et ses usages, ne pourra pas longtemps rester une question qu’on laisse dans les seules mains des professeurs et des élèves, à charge à eux de s’en débrouiller.

Hubert Guillaud

La seconde partie est par là.

A l’heure où, aux Etats-Unis, le FBI, les services d’immigration et de police se mettent à poursuivre les ressortissants étrangers pour les reconduire aux frontières, sur Tech Policy Press, l’activiste Dia Kayyali rappelle que les Etats-Unis ont une longue histoire de chasse aux opposants politiques et aux étrangers. Du MacCarthysme au 11 septembre, les crises politiques ont toujours renforcé la surveillance des citoyens et plus encore des ressortissants d’origine étrangère. Le Brennan Center for Justice a publié en 2022 un rapport sur la montée de l’utilisation des réseaux sociaux dans ces activités de surveillance et rappelle que ceux-ci sont massivement mobilisés pour la surveillance des opposants politiques, notamment depuis Occupy et depuis 2014 pour le contrôle des demandes d’immigration et les contrôles aux frontières, rappelle The Verge. 

Le premier projet de loi du second mandat de Donald Trump était un texte concernant l’immigration clandestine, nous rappelle Le Monde. C’est un texte qui propose la détention automatique par les forces de l’ordre fédérales de migrants en situation irrégulière qui ont été accusés, condamnés ou inculpés pour certains délits, mêmes mineurs, comme le vol à l’étalage. 

La lutte contre l’immigration est au cœur de la politique du président américain, qui dénonce une “invasion” et annonce vouloir déporter 11 millions d’immigrants illégaux, au risque que le tissu social des Etats-Unis, nation d’immigrants, se déchire, rappelait The Guardian. Dès janvier, l’administration Trump a mis fin à l’application CBP One, seule voie pour les demandeurs d’asile désirant entrer légalement sur le territoire des Etats-Unis pour prendre rendez-vous avec l’administration douanière américaine et régulariser leur situation. La suppression unilatérale de l’application a laissé tous les demandeurs d’asile en attente d’un rendez-vous sans recours, rapportait Le Monde. 

Une opération de fusion des informations sans précédent

Cette politique est en train de s’accélérer, notamment en mobilisant toutes les données numériques à sa disposition, rapporte Wired. Le Doge est en train de construire une base de données dédiée aux étrangers, collectant les données de plusieurs administrations, afin de créer un outil de surveillance d’une portée sans précédent. L’enjeu est de recouper toutes les données disponibles, non seulement pour mieux caractériser les situations des étrangers en situation régulière comme irrégulière, mais également les géolocaliser afin d’aider les services de police chargés des arrestations et de la déportation, d’opérer. 

Jusqu’à présent, il existait d’innombrables bases de données disparates entre les différentes agences et au sein des agences. Si certaines pouvaient être partagées, à des fins policières, celles-ci n’ont jamais été regroupées par défaut, parce qu’elles sont souvent utilisées à des fins spécifiques. Le service de l’immigration et des douanes (ICE, Immigration and Customs Enforcement) et le département d’investigation de la sécurité intérieure (HSI, Homeland Security Investigations), par exemple, sont des organismes chargés de l’application de la loi et ont parfois besoin d’ordonnances du tribunal pour accéder aux informations sur un individu dans le cadre d’enquêtes criminelles, tandis que le service de citoyenneté et d’immigration des États-Unis (USCIS, United States Citizenship and Immigration Services) des États-Unis collecte des informations sensibles dans le cadre de la délivrance régulière de visas et de cartes vertes. 

Des agents du Doge ont obtenu l’accès aux systèmes de l’USCIS. Ces bases de données  contiennent des informations sur les réfugiés et les demandeurs d’asile, des données sur les titulaires de cartes vertes, les citoyens américains naturalisés et les bénéficiaires du programme d’action différée pour les arrivées d’enfants. Le Doge souhaite également télécharger des informations depuis les bases de données de myUSCIS, le portail en ligne où les immigrants peuvent déposer des demandes, communiquer avec l’USCIS, consulter l’historique de leurs demandes et répondre aux demandes de preuves à l’appui de leur dossier. Associées aux informations d’adresse IP des personnes qui consultent leurs données, elles pourraient servir à géolocaliser les immigrants. 

Le département de sécurité intérieur (DHS, Department of Homeland Security) dont dépendent certaines de ces agences a toujours été très prudent en matière de partage de données. Ce n’est plus le cas. Le 20 mars, le président Trump a d’ailleurs signé un décret exigeant que toutes les agences fédérales facilitent « le partage intra- et inter-agences et la consolidation des dossiers non classifiés des agences », afin d’entériner la politique de récupération de données tout azimut du Doge. Jusqu’à présent, il était historiquement « extrêmement difficile » d’accéder aux données que le DHS possédait déjà dans ses différents départements. L’agrégation de toutes les données disponibles « représenterait une rupture significative dans les normes et les politiques en matière de données », rappelle un expert. Les agents du Doge ont eu accès à d’innombrables bases, comme à Save, un système de l’USCIS permettant aux administrations locales et étatiques, ainsi qu’au gouvernement fédéral, de vérifier le statut d’immigration d’une personne. Le Doge a également eu accès à des données de la sécurité sociale et des impôts pour recouper toutes les informations disponibles. 

Le problème, c’est que la surveillance et la protection des données est également rendue plus difficile. Les coupes budgétaires et les licenciements ont affecté trois services clés qui constituaient des garde-fous importants contre l’utilisation abusive des données par les services fédéraux, à savoir le Bureau des droits civils et des libertés civiles (CRCL, Office for Civil Rights and Civil Liberties), le Bureau du médiateur chargé de la détention des immigrants et le Bureau du médiateur des services de citoyenneté et d’immigration. Le CRCL, qui enquête sur d’éventuelles violations des droits de l’homme par le DHS et dont la création a été mandatée par le Congrès est depuis longtemps dans le collimateur du Doge. 

Le 5 avril, le DHS a conclu un accord avec les services fiscaux (IRS) pour utiliser les données fiscales. Plus de sept millions de migrants travaillent et vivent aux États-Unis. L’ICE a également récemment versé des millions de dollars à l’entreprise privée Palantir pour mettre à jour et modifier une base de données de l’ICE destinée à traquer les immigrants, a rapporté 404 Media. Le Washington Post a rapporté également que des représentants de Doge au sein d’agences gouvernementales – du Département du Logement et du Développement urbain à l’Administration de la Sécurité sociale – utilisent des données habituellement confidentielles pour identifier les immigrants sans papiers. Selon Wired, au Département du Travail, le Doge a obtenu l’accès à des données sensibles sur les immigrants et les ouvriers agricoles. La fusion de toutes les données entre elles pour permettre un accès panoptique aux informations est depuis l’origine le projet même du ministère de l’efficacité américain, qui espère que l’IA va lui permettre de rendre le traitement omniscient. 

Le changement de finalités de la collecte de données, moteur d’une défiance généralisée

L’administration des impôts a donc accepté un accord de partage d’information et de données avec les services d’immigration, rapporte la NPR, permettant aux agents de l’immigration de demander des informations sur les immigrants faisant l’objet d’une ordonnance d’expulsion. Derrière ce qui paraît comme un simple accès à des données, il faut voir un changement majeur dans l’utilisation des dossiers fiscaux. Les modalités de ce partage d’information ne sont pas claires puisque la communication du cadre de partage a été expurgée de très nombreuses informations. Pour Murad Awawdeh, responsable de la New York Immigration Coalition, ce partage risque d’instaurer un haut niveau de défiance à respecter ses obligations fiscales, alors que les immigrants paient des impôts comme les autres et que les services fiscaux assuraient jusqu’à présent aux contribuables sans papiers la confidentialité de leurs informations et la sécurité de leur déclaration de revenus.

La NPR revient également sur un autre changement de finalité, particulièrement problématique : celle de l’application CBP One. Cette application lancée en 2020 par l’administration Biden visait à permettre aux immigrants de faire une demande d’asile avant de pénétrer aux Etats-Unis. Avec l’arrivée de l’administration Trump, les immigrants qui ont candidaté à une demande d’asile ont reçu une notification les enjoignants à quitter les Etats-Unis et les données de l’application ont été partagées avec les services de police pour localiser les demandeurs d’asile et les arrêter pour les reconduire aux frontières. Pour le dire simplement : une application de demande d’asile est désormais utilisée par les services de police pour identifier ces mêmes demandeurs et les expulser. Les finalités sociales sont transformées en finalités policières. La confidentialité même des données est détruite.

CBP One n’est pas la seule application dont la finalité a été modifiée. Une belle enquête du New York Times évoque une application administrée par Geo Group, l’un des principaux gestionnaires privés de centres pénitentiaires et d’établissements psychiatriques aux Etats-Unis. Une application que des étrangers doivent utiliser pour se localiser et s’identifier régulièrement, à la manière d’un bracelet électronique. Récemment, des utilisateurs de cette application ont été convoqués à un centre d’immigration pour mise à jour de l’application. En fait, ils ont été arrêtés. 

Geo Group a développé une activité lucrative d’applications et de bracelets électroniques pour surveiller les immigrants pour le compte du gouvernement fédéral qui ont tous été mis au service des procédures d’expulsion lancées par l’administration Trump, constatent nombre d’associations d’aides aux étrangers. “Alors même que M. Trump réduit les dépenses du gouvernement fédéral, ses agences ont attribué à Geo Group de nouveaux contrats fédéraux pour héberger des immigrants sans papiers. Le DHS envisage également de renouveler un contrat de longue date avec l’entreprise – d’une valeur d’environ 350 millions de dollars l’an dernier – pour suivre les quelque 180 000 personnes actuellement sous surveillance”. Ce programme “d’alternative à la détention en centre de rétention » que Noor Zafar, avocate principale à l’American Civil Liberties Union, estime relever plutôt d’une “extension à la détention”, consiste en des applications et bracelets électroniques. Les programmes de Geo Group, coûteux, n’ont pas été ouverts à la concurrence, rapporte le New York Times, qui explique également que ses programmes sont en plein boom. Ces applications permettent aux employés de Geo Group de savoir en temps réel où se trouvent leurs porteurs, leur permettent de délimiter des zones dont ils ne peuvent pas sortir sans déclencher des alertes. 

Une confiance impossible !

Ces exemples américains de changement de finalités sont emblématiques et profondément problématiques. Ils ne se posent pourtant pas que de l’autre côté de l’Atlantique. Utiliser des données produites dans un contexte pour d’autres enjeux et d’autres contextes est au cœur des fonctionnements des systèmes numériques, comme nous l’avions vu à l’époque du Covid. Les finalités des traitements des services numériques qu’on utilise sont rarement claires, notamment parce qu’elles peuvent être mises à jour unilatéralement et ce, sans garantie. Et le changement de finalité peut intervenir à tout moment, quelque soit l’application que vous utilisez. Remplir un simple questionnaire d’évaluation peut finalement, demain, être utilisé par le service qui le conçoit ou d’autres pour une toute autre finalité, et notamment pour réduire les droits des utilisateurs qui y ont répondu. Répondre à un questionnaire de satisfaction de votre banque ou d’un service public, qui semble anodin, peut divulguer des données qui seront utilisées pour d’autres enjeux. Sans renforcer la protection absolue des données, le risque est que ces exemples démultiplient la méfiance voire le rejet des citoyens et des administrés. A quoi va être utilisé le questionnaire qu’on me propose ? Pourra-t-il être utilisé contre moi ? Qu’est-ce qui me garantie qu’il ne le sera pas ? 

La confiance dans l’utilisation qui est faite des données par les services, est en train d’être profondément remise en question par l’exemple américain et pourrait avoir des répercussions sur tous les services numériques, bien au-delà des Etats-Unis. La spécialiste de la sécurité informatique, Susan Landau, nous l’avait pourtant rappelé quand elle avait étudié les défaillances des applications de suivi de contact durant la pandémie : la confidentialité est toujours critique. Elle parlait bien sûr des données de santé des gens, mais on comprend qu’assurer la confidentialité des données personnelles que les autorités détiennent sur les gens est tout aussi critique. Les défaillances de confidentialité sapent la confiance des autorités qui sont censées pourtant être les premières garantes des données personnelles des citoyens. 

Aurait-on oublié pourquoi les données sont cloisonnées ?

« Ces systèmes sont cloisonnés pour une raison », rappelle Victoria Noble, avocate à l’Electronic Frontier Foundation. « Lorsque vous centralisez toutes les données d’une agence dans un référentiel central accessible à tous les membres de l’agence, voire à d’autres agences, vous augmentez considérablement le risque que ces informations soient consultées par des personnes qui n’en ont pas besoin et qui les utilisent à des fins inappropriées ou répressives, pour les instrumentaliser, les utiliser contre des personnes qu’elles détestent, des dissidents, surveiller des immigrants ou d’autres groupes. »

« La principale inquiétude désormais est la création d’une base de données fédérale unique contenant tout ce que le gouvernement sait sur chaque personne de ce pays », estime Cody Venzke de l’Union américaine pour les libertés civiles (ACLU). « Ce que nous voyons est probablement la première étape vers la création d’un dossier centralisé sur chaque habitant.» Wired rapporte d’ailleurs que l’ACLU a déposé plainte contre l’Administration de la Sécurité Sociale (SSA) et le Département des Anciens Combattants (VA) qui ont ouvert des accès de données sensibles au Doge en violation de la loi sur la liberté d’information, après en avoir déjà déposé une en février contre le Trésor américain pour les mêmes raisons (alors que ce n’est pas nécessairement la seule manière de procéder. Confronté aux demandes du Doge, le régulateur des marchés financiers américains, rapporte Reuters, a pour l’instant pu créer une équipe de liaison spécifique pour répondre aux demandes d’information du Doge, afin que ses équipes n’aient pas accès aux données de l’autorité des marchés financiers). 

En déposant plainte, l’ACLU cherche notamment à obtenir des documents pour saisir exactement ce à quoi a accès le Doge. “Les Américains méritent de savoir qui a accès à leurs numéros de sécurité sociale, à leurs informations bancaires et à leurs dossiers médicaux”, explique une avocate de l’ACLU. 

Le cloisonnement des données, des bases, selon leurs finalités et les agences qui les administrent, est un moyen non seulement d’en préserver l’intégrité, mais également d’en assurer la sécurité et la confidentialité. Ce sont ces verrous qui sont en train de sauter dans toutes les administrations sous la pression du Doge, posant des questions de sécurité inédites, comme nous nous en inquiétons avec Jean Cattan dans une lettre du Conseil national du numérique. Ce sont les mesures de protection d’une démocratie numérique qui sont en train de voler en éclat. 

Pour Wired, Brian Barrett estime que les données qu’agrège le Doge ne sont pas tant un outil pour produire une hypothétique efficacité, qu’une arme au service des autorités. La question de l’immigration n’est qu’un terrain d’application parmi d’autres. La brutalité qui s’abat sur les étrangers, les plus vulnérables, les plus démunis, est bien souvent une préfiguration de son extension à toutes les autres populations, nous disait le philosophe Achille Mbembe dans Brutalisme. 

Et maintenant que les croisements de données sont opérationnels, que les données ont été récupérées par les équipes du Doge, l’enjeu va être de les faire parler, de les mettre en pratique. 

Finalement, le départ annoncé ou probable de Musk de son poste en première ligne du Doge ne signe certainement pas la fin de cette politique, toute impopulaire qu’elle soit (enfin, Musk est bien plus impopulaire que les économies dans les services publics qu’il propose), mais au contraire, le passage à une autre phase. Le Doge a pris le contrôle, et il s’agit désormais de rendre les données productives. L’efficacité n’est plus de réduire les dépenses publiques de 2 000 milliards de dollars, comme le promettait Musk à son arrivée. Il a lui-même reconnu qu’il ne visait plus que 150 milliards de dollars de coupe en 2025, soit 15 % de l’objectif initial, comme le soulignait Le Monde. Mais le débat sur les coupes et l’efficacité, sont d’abord un quolifichet qu’on agite pour détourner l’attention de ce qui se déroule vraiment, à savoir la fin de la vie privée aux Etats-Unis. En fait, la politique initiée par le Doge ne s’arrêtera pas avec le retrait probable de Musk. IL n’en a été que le catalyseur.

Elizabeth Lopatto pour The Verge explique elle aussi que l’ère du Doge ne fait que commencer. Malgré ses échecs patents et l’explosion des plaintes judiciaires à son encontre (Bloomberg a dénombré plus de 300 actions en justice contre les décisions prises par le président Trump : dans 128 affaires, ils ont suspendu les décisions de l’administration Trump). Pour elle, Musk ne va pas moins s’immiscer dans la politique publique. Son implication risque surtout d’être moins publique et moins visible dans ses ingérences, afin de préserver son égo et surtout son portefeuille. Mais surtout, estime-t-elle, les tribunaux ne sauveront pas les Américains des actions du Doge, notamment parce que dans la plupart des cas, les décisions tardent à être prises et à être effectives. Pourtant, si les tribunaux étaient favorables à « l’élimination de la fraude et des abus », comme le dit Musk – à ce stade, ils devraient surtout œuvrer à “éliminer le Doge” !

Ce n’est malgré tout pas la direction qui est prise, au contraire. Même si Musk s’en retire, l’administration continue à renforcer le pouvoir du Doge qu’à l’éteindre. C’est ainsi qu’il faut lire le récent hackathon aux services fiscaux ou le projet qui s’esquisse avec Palantir. L’ICE, sous la coupe du Doge, vient de demander à Palantir, la sulfureuse entreprise de Thiel, de construire une plateforme dédiée, explique Wired : “ImmigrationOS”, « le système d’exploitation de l’immigration » (sic). Un outil pour “choisir les personnes à expulser”, en accordant une priorité particulière aux personnes dont le visa est dépassé qui doivent, selon la demande de l’administration, prendre leurs dispositions pour “s’expulser elles-mêmes des Etats-Unis”. L’outil qui doit être livré en septembre a pour fonction de cibler et prioriser les mesures d’application, c’est-à-dire d’aider à sélectionner les étrangers en situation irrégulière, les localiser pour les arrêter. Il doit permettre de suivre que les étrangers en situation irrégulière prennent bien leur disposition pour quitter les Etats-Unis, afin de mesurer la réalité des départs, et venir renforcer les efforts des polices locales, bras armées des mesures de déportation, comme le pointait The Markup. 

De ImmigrationOS au panoptique américain : le démantèlement des mesures de protection de la vie privée

Dans un article pour Gizmodo qui donne la parole à nombre d’opposants à la politique de destructions des silos de données, plusieurs rappellent les propos du sénateur démocrate Sam Ervin, auteur de la loi sur la protection des informations personnelles suite au scandale du Watergate, qui redoutait le caractère totalitaire des informations gouvernementales sur les citoyens. Pour Victoria Noble de l’Electronic Frontier Foundation, ce contrôle pourrait conduire les autorités à « exercer des représailles contre les critiques adressées aux représentants du gouvernement, à affaiblir les opposants politiques ou les ennemis personnels perçus, et à cibler les groupes marginalisés. » N’oubliez pas qu’il s’agit du même président qui a qualifié d’« ennemis » les agents électoraux, les journalistes, les juges et, en fait, toute personne en désaccord avec lui. Selon Reuters, le Doge a déjà utilisé l’IA pour détecter les cas de déloyauté parmi les fonctionnaires fédéraux. Pour les défenseurs des libertés et de la confidentialité, il est encore temps de renforcer les protections citoyennes. Et de rappeler que le passage de la sûreté à la sécurité, de la défense contre l’arbitraire à la défense de l’arbitraire, vient de ce que les élus ont passé bien plus d’énergie à légiférer pour la surveillance qu’à établir des garde-fous contre celle-ci, autorisant toujours plus de dérives, comme d’autoriser la surveillance des individus sans mandats de justice.

Pour The Atlantic, Ian Bogost et Charlie Warzel estiment que le Doge est en train de construire le panoptique américain. Ils rappellent que l’administration est l’univers de l’information, composée de constellations de bases de données. Des impôts au travail, toutes les administrations collectent et produisent des données sur les Américains, et notamment des données particulièrement sensibles et personnelles. Jusqu’à présent, de vieilles lois et des normes fragiles ont empêché que les dépôts de données ne soient regroupés. Mais le Doge vient de faire voler cela en éclat, préparant la construction d’un Etat de surveillance centralisé. En mars, le président Trump a publié un décret visant à éliminer les silos de données qui maintiennent les informations séparément. 

Dans leur article, Bogost et Warzel listent d’innombrables bases de données maintenues par des agences administratives : bases de données de revenus, bases de données sur les lanceurs d’alerte, bases de données sur la santé mentale d’anciens militaires… L’IA promet de transformer ces masses de données en outils “consultables, exploitables et rentables”. Mais surtout croisables, interconnectables. Les entreprises bénéficiant de prêts fédéraux et qui ont du mal à rembourser, pourraient désormais être punies au-delà de ce qui est possible, par la révocation de leurs licences, le gel des aides ou de leurs comptes bancaires. Une forme d’application universelle permettant de tout croiser et de tout inter-relier. Elles pourraient permettre de cibler la population en fonction d’attributs spécifiques. L’utilisation actuelle par le gouvernement de ces données pour expulser des étrangers, et son refus de fournir des preuves d’actes répréhensibles reprochées à certaines personnes expulsées, suggère que l’administration a déjà franchi la ligne rouge de l’utilisation des données à des fins politiques. 

Le Doge ne se contente pas de démanteler les mesures de protection de la vie privée, il ignore qu’elles ont été rédigées. Beaucoup de bases ont été conçues sans interconnectivité par conception, pour protéger la vie privée. “Dans les cas où le partage d’informations ou de données est nécessaire, la loi sur la protection de la vie privée de 1974 exige un accord de correspondance informatique (Computer Matching Agreement, CMA), un contrat écrit qui définit les conditions de ce partage et assure la protection des informations personnelles. Un CMA est « un véritable casse-tête », explique un fonctionnaire, et constitue l’un des moyens utilisés par le gouvernement pour décourager l’échange d’informations comme mode de fonctionnement par défaut”. 

La centralisation des données pourrait peut-être permettre d’améliorer l’efficacité gouvernementale, disent bien trop rapidement Bogost et Warzel, alors que rien ne prouve que ces croisements de données produiront autre chose qu’une discrimination toujours plus étendue car parfaitement granulaire. La protection de la vie privée vise à limiter les abus de pouvoir, notamment pour protéger les citoyens de mesures de surveillance illégales du gouvernement. 

Derrière les bases de données, rappellent encore les deux journalistes, les données ne sont pas toujours ce que l’on imagine. Toutes les données de ces bases ne sont pas nécessairement numérisées. Les faire parler et les croiser ne sera pas si simple. Mais le Doge a eu accès à des informations inédites. “Ce que nous ignorons, c’est ce qu’ils ont copié, exfiltré ou emporté avec eux”. 

“Doge constitue l’aboutissement logique du mouvement Big Data” : les données sont un actif. Les collecter et les croiser est un moyen de leur donner de la valeur. Nous sommes en train de passer d’une administration pour servir les citoyens à une administration pour les exploiter, suggèrent certains agents publics. Ce renversement de perspective “correspond parfaitement à l’éthique transactionnelle de Trump”. Ce ne sont plus les intérêts des américains qui sont au centre de l’équation, mais ceux des intérêts commerciaux des services privés, des intérêts des amis et alliés de Trump et Musk.

La menace totalitaire de l’accaparement des données personnelles gouvernementales

C’est la même inquiétude qu’exprime la politiste Allison Stanger dans un article pour The Conversation, qui rappelle que l’accès aux données gouvernementales n’a rien à voir avec les données personnelles que collectent les entreprises privées. Les référentiels gouvernementaux sont des enregistrements vérifiés du comportement humain réel de populations entières. « Les publications sur les réseaux sociaux et les historiques de navigation web révèlent des comportements ciblés ou intentionnels, tandis que les bases de données gouvernementales capturent les décisions réelles et leurs conséquences. Par exemple, les dossiers Medicare révèlent les choix et les résultats en matière de soins de santé. Les données de l’IRS et du Trésor révèlent les décisions financières et leurs impacts à long terme. Les statistiques fédérales sur l’emploi et l’éducation révèlent les parcours scolaires et les trajectoires professionnelles. » Ces données là, capturées pour faire tourner et entraîner des IA sont à la fois longitudinales et fiables. « Chaque versement de la Sécurité sociale, chaque demande de remboursement Medicare et chaque subvention fédérale constituent un point de données vérifié sur les comportements réels. Ces données n’existent nulle part ailleurs aux États-Unis avec une telle ampleur et une telle authenticité. » « Les bases de données gouvernementales suivent des populations entières au fil du temps, et pas seulement les utilisateurs actifs en ligne. Elles incluent les personnes qui n’utilisent jamais les réseaux sociaux, n’achètent pas en ligne ou évitent activement les services numériques. Pour une entreprise d’IA, cela impliquerait de former les systèmes à la diversité réelle de l’expérience humaine, plutôt qu’aux simples reflets numériques que les gens projettent en ligne.«  A terme, explique Stanger, ce n’est pas la même IA à laquelle nous serions confrontés. « Imaginez entraîner un système d’IA non seulement sur les opinions concernant les soins de santé, mais aussi sur les résultats réels des traitements de millions de patients. Imaginez la différence entre tirer des enseignements des discussions sur les réseaux sociaux concernant les politiques économiques et analyser leurs impacts réels sur différentes communautés et groupes démographiques sur des décennies ». Pour une entreprise développant des IA, l’accès à ces données constituerait un avantage quasi insurmontable. « Un modèle d’IA, entraîné à partir de ces données gouvernementales pourrait identifier les schémas thérapeutiques qui réussissent là où d’autres échouent, et ainsi dominer le secteur de la santé. Un tel modèle pourrait comprendre comment différentes interventions affectent différentes populations au fil du temps, en tenant compte de facteurs tels que la localisation géographique, le statut socio-économique et les pathologies concomitantes. » Une entreprise d’IA qui aurait accès aux données fiscales, pourrait « développer des capacités exceptionnelles de prévision économique et de prévision des marchés. Elle pourrait modéliser les effets en cascade des changements réglementaires, prédire les vulnérabilités économiques avant qu’elles ne se transforment en crises et optimiser les stratégies d’investissement avec une précision impossible à atteindre avec les méthodes traditionnelles ». Explique Stanger, en étant peut-être un peu trop dithyrambique sur les potentialités de l’IA, quand rien ne prouve qu’elles puissent faire mieux que nos approches plus classiques. Pour Stanger, la menace de l’accès aux données gouvernementales par une entreprise privée transcende les préoccupations relatives à la vie privée des individus. Nous deviendrons des sujets numériques plutôt que des citoyens, prédit-elle. Les données absolues corrompt absolument, rappelle Stanger. Oubliant peut-être un peu rapidement que ce pouvoir totalitaire est une menace non seulement si une entreprise privée se l’accapare, mais également si un Etat le déploie. La menace d’un Etat totalitaire par le croisement de toutes les données ne réside pas seulement par l’accaparement de cette puissance au profit d’une entreprise, comme celles de Musk, mais également au profit d’un Etat. 

Nombre de citoyens étaient déjà résignés face à l’accumulation de données du secteur privé, face à leur exploitation sans leur consentement, concluent Bogost et Warzel. L’idée que le gouvernement cède à son tour ses données à des fins privées est scandaleuse, mais est finalement prévisible. La surveillance privée comme publique n’a cessé de se développer et de se renforcer. La rupture du barrage, la levée des barrières morales, limitant la possibilité à recouper l’ensemble des données disponibles, n’était peut-être qu’une question de temps. Certes, le pire est désormais devant nous, car cette rupture de barrière morale en annonce d’autres. Dans la kleptocratie des données qui s’est ouverte, celles-ci pourront être utilisées contre chacun, puisqu’elles permettront désormais de trouver une justification rétroactive voire de l’inventer, puisque l’intégrité des bases de données publiques ne saurait plus être garantie. Bogost et Warzel peuvent imaginer des modalités, en fait, désormais, les systèmes n’ont même pas besoin de corréler vos dons à des associations pro-palestiniennes pour vous refuser une demande de prêt ou de subvention. Il suffit de laisser croire que désormais, le croisement de données le permet. 

Pire encore, “les Américains sont tenus de fournir de nombreuses données sensibles au gouvernement, comme des informations sur le divorce d’une personne pour garantir le versement d’une pension alimentaire, ou des dossiers détaillés sur son handicap pour percevoir les prestations d’assurance invalidité de la Sécurité sociale”, rappelle Sarah Esty, ancienne conseillère principale pour la technologie et la prestation de services au ministère américain de la Santé et des Services sociaux. “Ils ont agi ainsi en étant convaincus que le gouvernement protégerait ces données et que seules les personnes autorisées et absolument nécessaires à la prestation des services y auraient accès. Si ces garanties sont violées, ne serait-ce qu’une seule fois, la population perdra confiance dans le gouvernement, ce qui compromettra à jamais sa capacité à gérer ces services”. C’est exactement là où l’Amérique est plongée. Et le risque, devant nous, est que ce qui se passe aux Etats-Unis devienne un modèle pour saper partout les garanties et la protection des données personnelles. 

Hubert Guillaud

Le 2 avril 2025, le président américain a mis à exécution sa décision d’augmenter unilatéralement les droits de douane pour les produits étrangers entrant sur le sol américain. Trump a pourtant rapidement rétropédalé, mais sans annuler complètement les augmentations (voir le détail des mesures et revirements prises par l’administration américaine sur Wikipédia). Les tarifs ont été modérés depuis (sauf pour la Chine), notamment pour certains secteurs (dont les produits technologiques), abaissés voire figés pour 90 jours, mais avec la menace que les augmentations reprennent dans 3 mois. Suite à la panique boursière, à d’innombrables contestations (notamment judiciaires d’Etats américains) et représailles des pays touchés par ces nouvelles exigences tarifaires, les tarifs douaniers mondiaux sont devenus partout l’inconnu des perspectives économiques. Cette politique de sanctions commerciales et de protectionnisme a surtout déclenché une grande incertitude économique, non seulement tout autour de la planète, mais plus encore aux Etats-Unis. 

Partout, les économistes dénoncent une politique inconséquente, qui s’apprête surtout à ralentir les échanges, relancer l’inflation et ralentir l’innovation, plus que de protéger l’industrie américaine. Explications. 

Incertitude généralisée

L’escalade des tarifs et les revirements de Trump ont surtout produit ce que tout le monde déteste en économie : de l’incertitude. C’était particulièrement flagrant concernant les droits de douane des produits technologiques, dans un premier temps impactés par les évolutions tarifaires, puis soudainement exclues, visiblement sous la pression des entreprises de la tech qui ont su imposer un lobbying puissant sur le président Trump, ce qui est loin d’être le cas de nombre d’autres secteurs de l’économie qui n’ont pas l’oreille présidentielle pour les protéger. « Les va-et-vient de l’administration Trump concernant les droits de douane sur les produits technologiques sèment la confusion dans un secteur fortement dépendant des chaînes d’approvisionnement mondiales », explique The Hill. L’exemption des droits de douane sur les produits technologiques n’est annoncée que comme temporaire. Or, « Les entreprises apprécient la stabilité, la prévisibilité et la certitude de l’environnement commercial, et cela s’applique non seulement à la politique commerciale, mais aussi aux niveaux institutionnels, programmatiques, réglementaires, etc. » En fait, tant que l’issue des négociations sur l’évolution des tarifs restera floue, les investissements des entreprises risquent d’être freinés. Pour l’économiste Paul Krugman : l’exemption des produits électroniques des droits de douane n’est pas un retour à la raison de Trump ou de son administration, c’est surtout le signe qu’ils pilotent à vue sans savoir où ils vont. Le yoyo des tarifs est en train de générer une incertitude fatale pour les entreprises américaines, estime Krugman.

Comment les des droits de douane… vont favoriser les plus forts

Pour David Dayen de The American Prospect, les droits de douane imposés par Trump vont surtout favoriser les monopoles, notamment parce que les exemptions, comme vient de le connaître le secteur technologique, ne sont pas des solutions à la portée des petites entreprises. Aux Etats-Unis, le géant de l’alimentation Albertsons a annoncé qu’il refusera l’augmentation du coût des produits, invitant les producteurs à assumer seuls la charge de l’élévation des droits de douane, sans vouloir les faire porter sur les consommateurs finaux. Il est probable que les deux autres géants de la distribution, Walmart et Kroger, imposent les mêmes conditions à leurs fournisseurs. Mais les indépendants, eux, ne pourront pas imposer les mêmes règles. Le problème, explique Dayen, c’est que la guerre tarifaire est concomitante à l’affaiblissement des aides aux petites entreprises du fait du démantèlement des agences fédérales, à l’image de la Small Business Administration. Or, rappelle le Wall Street Journal, les petites entreprises américaines sont responsables d’un tiers des importations américaines et elles ne pourront pas éviter la hausse des coûts due aux droits de douane, ni en transférer la charge à quelqu’un d’autre. « La situation pourrait empirer avec l’annonce par la Chine d’imposer des contrôles à l’exportation de terres rares et d’aimants vers les États-Unis », qui pourrait paralyser des secteurs entiers de la production américaine, explique le New York Times.

Sans alternatives nationales pour rapatrier rapidement leur production aux Etats-Unis et avec peu de temps pour s’adapter, de nombreuses PME sont déjà en difficulté. Celles qui optent pour l’augmentation du prix de leurs produits se mettent à produire des « frais de douane » sur les factures de leurs clients pour accroître la pression populaire à leur contestation voire à leur suppression. Mais l’augmentation des tarifs risque surtout de rapidement détourner les consommateurs de produits devenus trop chers. Les droits de douane de Trump n’avaient peut-être pas l’objectif de favoriser la concentration de l’économie américaine, mais le fait que les plus grands acteurs puissent négocier des exemptions à leur avantage pourraient bien d’abord et avant tout renforcer certains monopoles. 

Pour un responsable de la division antitrust du ministère de la Justice, l’inflation de ces dernières années avait déjà permis à des entreprises de se livrer à des pratiques extrêmement néfastes pour la société… le risque est que les droits de douane permettent à nombre d’acteurs d’augmenter leurs tarifs au-delà du nécessaire, à l’image de la récente grippe aviaire qui a été une explication bien commode pour augmenter le prix des œufs aux Etats-Unis, ces derniers mois. En effet, aux Etats-Unis, le prix des œufs a augmenté de 53%. L’explication la plus communément avancée pour expliquer « l’eggflation » serait dû à la grippe aviaire et à l’abattage en masse qui en a résulté, explique Basel Musharbash dans sa newsletter, Big. Pourtant, souligne-t-il, la production d’oeufs n’a pas baissée : par rapport à 2021, la baisse de la production d’oeufs n’a été que de 3 à 5 %, alors que la consommation d’oeufs est passée de 206 oeufs par Américain et par an en 2021 à 190 oeufs en 2024 (-7,5%). Sans compter que l’exportation d’œufs a également reculé… L’augmentation des tarifs n’est donc pas liée à la baisse de production, comme on l’entend trop souvent, mais à la nouvelle concentration du marché. Cal-Maine Foods – le plus grand producteur d’œufs et le seul à publier ses données financières en tant que société cotée en bourse – a vu ses profits s’envoler avec l’épidémie de grippe aviaire, “dépassant le milliard de dollars pour la première fois de son histoire”. En fait, Cal-Maine a réalisé des marges sans précédent de 70 à 145 % sur les coûts de production agricoles. Pour Doctorow, l’oeuflation est typique d’une inflation de la cupidité, liée à l’établissement de monopoles sur les marchés. Pour nombre d’entreprises, la reprise de l’inflation pourrait bien être une aubaine pour continuer à augmenter leurs tarifs. 

L’augmentation des tarifs ne relocalisera pas la production

Wired explique pourquoi nombre de petites entreprises américaines ne peuvent pas produire aux Etats-Unis. Pour elles, bien souvent, il n’y a pas d’alternative à faire produire en Chine, quels que soient le niveau des droits de douane, notamment parce que l’appareil productif américain n’est plus disponible. En fait, la hausse des droits de douane à eux seuls ne suffiront pas à inciter les entreprises à s’implanter aux États-Unis, affirme Kyle Chan, chercheur spécialisé dans la politique industrielle à l’université de Princeton. Si les coûts bas sont une raison importante qui motive l’approvisionnement en Chine, la raison pour laquelle la production manufacturière en Chine est moins chère que dans d’autres régions n’est pas toujours liée au salaire des travailleurs ni à une moindre qualité. Au contraire. L’industrie chinoise est très qualifiée, spécialisée et intégrée. « La Chine est également un leader mondial dans la production d’outils industriels, ce qui signifie que les usines peuvent facilement adapter leurs machines aux besoins en constante évolution de leurs clients ». Non seulement la production chinoise sait s’adapter aux exigences, mais elle sait produire aussi tant en petites qu’en grosses quantités. Enfin, rapatrier la production aux Etats-Unis nécessiterait de construire des usines, voire de faire venir des spécialistes chinois pour cela, ce qui avec les politiques d’immigration mises en place s’avérerait désormais impossible. 

Dans un éditorial saignant, le modéré Financial Times n’a pas de mots assez durs contre la hausse des tarifs douaniers décidés par Trump qu’il qualifie de « pire acte d’autodestruction de l’histoire économique américaine ». Pour l’économie américaine, les effets les plus immédiats des mesures de Trump seront une hausse de l’inflation et un ralentissement de l’activité économique. Même son de cloche pour David Brooks dans le New York Times : « Trump construit des murs. Ses politiques commerciales entravent non seulement la circulation des biens, mais aussi celle des idées, des contacts, des technologies et des amitiés. Ses politiques d’immigration ont le même effet. Il s’en prend aux institutions et aux communautés les plus impliquées dans les échanges internationaux ». C’est oublier que les grandes nations sont des carrefours, rappelle Brooks. « Elles ont été des lieux où des gens du monde entier se sont rencontrés, ont échangé des idées et en ont inventé de nouvelles ensemble ». L’entrée en vigueur des droits de douane aux Etats-Unis n’est pas le « Jour de la Libération » de l’Amérique comme le clame Trump, mais risque bien plus d’être le « Jour de la Stagnation » et du déclin de l’empire américain.

La presse américaine se fait l’écho des effets très immédiats que les tarifs douaniers ont sur le commerce. Le New York Times par exemple explique que les droits de douane réduisent déjà les importations de voitures et paralysent les usines américaines, du fait de pièces indisponibles, comme aux pires temps de la pandémie. Avec les tarifs douaniers, Trump espère faire revivre l’industrie manufacturière d’après-guerre, qui, jusque dans les années 70, a employé plus de 20 millions d’Américains, rappelle le New York Times. Mais les pôles industriels ont largement périclité depuis. Les économistes eux-mêmes restent profondément sceptiques : pour eux, les droits de douane ne suffiront pas à rétablir l’industrie d’antan. Ils ne suffisent pas à faire une politique industrielle. 

Pour Wired, le gouvernement Trump, en même temps qu’il augmentait les droits de douane, a surtout arrêté de financer le programme qui a stimulé l’industrie américaine pendant des décennies, le Manufacturing Extension Partnership (MEP), un programme et un réseau d’aide à l’industrialisation pour les PME américaines. Dans une tribune, Brian Desse, ancien président du Conseil économique des Etats-Unis durant l’administration Biden, rappelle que l’industrie automobile américaine est désormais à la traîne dans la course à l’innovation. 60% des pièces qui constituent les véhicules américains sont importées et les droits de douane vont surtout venir renchérir les prix des véhicules des constructeurs nationaux. Mais Trump ne s’est pas attaqué qu’aux droits de douane. Son projet de réduire les incitations fiscales pour l’innovation et la production nationale de batteries par exemple a gelé les investissements des constructeurs américains : au premier trimestre 2025, les entreprises ont annulé plus de 6 milliards de dollars de projets de fabrication de batteries. Or, ces incitations fiscales ont permis de limiter le retard dans la production de batteries, qui est aujourd’hui le lieu de la course à l’innovation pour la voiture du futur. Trump enferme les Etats-Unis dans un piège luddiste, qui risque bien plus de pénaliser les entreprises américaines que de les aider à développer leurs capacités d’innovation et d’investissements. 

Le Financial Times semble assez inquiet de l’escalade des tarifs douaniers lancée par le président Américain. Les marchés également, qui anticipent plutôt un ralentissement économique mondial voire une récession. “Les droits de douane de Trump n’ont pas accéléré la croissance économique américaine. Au contraire, ils l’ont probablement stoppée”, rapporte Vox. Les entrepreneurs de la Tech, qui s’étaient ralliés massivement à Trump, sont en train de faire la grimace. Pourtant, pour l’instant, souligne The Verge, ils restent assez silencieux sur l’augmentation des tarifs malgré l’impact certain sur leur activité. Il faut dire que personne ne souhaite se mettre Trump à dos. 

Dans le New York Times, la journaliste Patricia Cohen estime que les perturbations économiques introduites par le gouvernement Trump seront difficiles à inverser, notamment parce que le reste du monde, lui, va rapidement s’y adapter. “Les chaînes d’approvisionnement seront réorganisées, de nouveaux partenariats seront conclus, et les étudiants, chercheurs et talents technologiques étrangers trouveront d’autres destinations où migrer.” 

Face au virage protectionniste de l’Amérique, Pékin se positionne déjà comme le défenseur du libre-échange et le nouveau leader du système commercial mondial. Comme le montrait un reportage du New York Times, les entreprises chinoises s’adaptent déjà et réorientent leurs marchés et leurs budgets publicitaires, quand ils ne se mettent pas à s’adresser directement aux Américains, explique la Technology Review, pour leur proposer des modalités de vente directe pour réduire les prix en tentant de contourner l’augmentation des tarifs, comme les commissions des grandes plateformes chinoises de B2B, qui mettent les fabricants en relation avec les entreprises américaines.

Les conséquences ne se font pas attendre. Les tarifs de la Fast Fashion ont augmenté de 300% et les sites Shein et Temu ont clairement affiché sur leurs sites l’impact des droits de douanes de chaque produit. Sur Amazon, Trump a appelé personnellement Jeff Bezos pour que celui-ci n’affiche pas, en plus du prix des produits, les droits de douane spécifiques de chacun, afin que les consommateurs ne voient pas l’impact des tarifs douaniers sur le prix des produits. Bezos a visiblement cédé très facilement. Le grand défenseur de la liberté et du libre marché, celui qui avait promis de mettre sa fortune en rempart contre les intimidations, n’a pas été plus courageux que les autres, ironise The Verge. Amazon a préféré faire pression sur ses fournisseurs pour que leurs prix n’augmentent pas et qu’ils absorbent eux-mêmes l’augmentation plutôt que de réduire les commissions que prélève sa plateforme. 

En s’intéressant aux conséquences sur une vaste gamme de produits, The Verge montre surtout que plus personne n’y comprend rien… Et que l’incompréhension génère un fort attentisme des entreprises américaines qui ralentissent leurs achats comme leurs investissements. L’évolution des tarifs va également “modifier les habitudes de consommation des Américains, ainsi que la production et les produits des entreprises américaines”. Les droits de douane ressemblent à une arme automatique qui tire dans tous les sens. Mais nul ne sait qui elle va abattre en premier. Ce qui est sûr, c’est que la guerre commerciale, elle, a déjà commencé. Et elle ne va bénéficier à personne, sauf aux plus grandes entreprises qui vont continuer d’imposer leurs conditions à toutes les autres.

Il reste difficile de suivre ce qui se déroule de l’autre côté de l’Atlantique depuis l’arrivée de Trump au pouvoir, ce démantèlement de l’Amérique, comme nous l’appelions. Nous avons tenté également de faire le point de ce qu’était le Doge, de quelle efficacité il était le nom, à savoir un piratage, un remplacement démocratique, une porte ouverte pour la corruption et l’escroquerie… Depuis, les articles s’accumulent encore. Un son de cloche complémentaire le présente souvent comme une privatisation inédite des services publics. Explorons cette piste. 

Une privatisation inédite : les délégataires aux commandes

Le Doge tient d’une privatisation inédite des services publics, assène Brett Heinz pour The American Prospect, rappelant que si Musk a dépensé 290 millions de dollars pour l’élection de Trump, ses entreprises ont reçu plus de 38 milliards de dollars d’aides gouvernementales au cours des deux dernières décennies. 

En fait, le Doge ne vise pas à accroître l’efficacité gouvernementale, mais bien à démanteler la fonction publique en ciblant les dépenses que Musk et Trump désapprouvent, tout en centralisant le pouvoir décisionnel à la Maison Blanche. Mais surtout, le Doge entérine une nouvelle stratégie : « l’accession de sous-traitants gouvernementaux comme Musk au rang de décideurs politiques ». Ce sont ceux qu’on appellerait en France les délégataires des services publics qui prennent les commandes. 

« La seule classe parasitaire qui profite de l’inefficacité du gouvernement est constituée de sous-traitants gouvernementaux à but lucratif comme Musk, qui s’enrichissent sur l’argent des contribuables en fournissant des services hors de prix pour compenser le manque de capacités de l’État, tout en utilisant leurs milliards pour manipuler le système à leur avantage. Permettre à des sous-traitants comme lui de décider de la façon dont le gouvernement dépense l’argent est à la fois un affront à la démocratie et une invitation ouverte à davantage de corruption », explique Heinz.

« La plupart des Américains ignorent à quel point leur gouvernement a déjà été privatisé. On estimait en 2017 que plus de 40 % des personnes travaillant pour le gouvernement ne sont pas réellement des fonctionnaires. Ce sont des sous-traitants d’entreprises privées, embauchés pour prendre en charge une tâche particulière du secteur public. Dans certains secteurs gouvernementaux, comme l’armée, le recours aux sous-traitants est monnaie courante : en 2019, on comptait 1,5 sous-traitant pour chaque soldat américain en Irak et en Afghanistan. »

Pour le dire autrement, le gouvernement fédéral ne souffre pas d’un effectif pléthorique, au contraire : il y a moins d’employés fédéraux en 2015 qu’en 1984. Par contre, la sous-traitance privée, elle, a explosé. « Entre 2013 et 2023, les dépenses totales consacrées à l’attribution de contrats fédéraux ont augmenté de près de 65 % ». 

La croyance dans l’efficacité de la sous-traitance privée n’a jamais été corroborée par des preuves solides, rappelle Heinz. Reste que, désormais, ces contractants ne veulent pas seulement résoudre pour plus cher les problèmes du secteur public, ils veulent aussi pouvoir décider, pour le gouvernement, de la nature du problème. « Les entrepreneurs ne veulent pas simplement obéir aux ordres du gouvernement, mais fonctionner comme un para-État capable d’influencer les ordres que le gouvernement leur donne. À l’instar du rêve de Musk de construire des voitures autonomes, l’industrie rêve d’un entrepreneur auto-contractant. Et Musk lui-même teste ce concept. » Brett Heinz rappelle que les rafles de données du Doge ont d’abord ciblé des agences fédérales où Musk avait des conflits d’intérêts. « En le qualifiant d’ailleurs d’« employé spécial du gouvernement », la Maison Blanche lui impose des normes éthiques moins strictes que la plupart des fonctionnaires qu’il licencie. » Et Musk n’est pas le seul sous-traitant du gouvernement à y étendre son pouvoir. « On entend souvent dire que le gouvernement devrait être géré « davantage comme une entreprise ». Le cas du Doge nous montre pourtant le contraire. Si nous voulions réellement un gouvernement plus efficace, il faudrait réduire le nombre de sous-traitants et embaucher davantage de fonctionnaires, souvent plus rentables et toujours plus responsables et transparents. Musk fait le contraire, offrant à ses entreprises et alliés davantage d’opportunités d’intervenir et de proposer des travaux surévalués et de qualité douteuse. »

L’effondrement des services publics

Le Washington Post raconte l’effondrement de la Sécurité sociale américaine. L’agence fédérale, qui verse 1 500 milliards de dollars par an en prestations sociales à 73 millions de retraités, à leurs survivants et aux Américains pauvres et handicapés a vu ses effectifs fondre. Son site web est souvent en panne depuis que le Doge a pris les commandes, empêchant de nombreux bénéficiaires de mettre à jour leurs demandes ou d’obtenir des informations sur des aides qui ne viennent plus. 12% des 57 000 employés ont été licenciés. Des milliers d’Américains s’inquiètent auprès de leurs députés ou de l’agence des versements à venir. « La sécurité sociale est la principale source de revenus d’environ 40 % des Américains âgés ». En sous-effectif et en manque de budgets de fonctionnement depuis longtemps, la purge est en train de laminer ce qu’il restait du service. Mais, face aux retraités inquiets, les employés ont peu de réponses à apporter, et ce alors que les escroqueries en ligne se multiplient, profitant de l’aubaine que l’inquiétude génère auprès d’eux. Certains bureaux estiment que les gens pourraient être privés de prestations pendant des mois. 

Wired rapporte que le Doge a décidé de réécrire le code du système de la Sécurité sociale américaine, afin de se débarrasser du langage Cobol avec lequel il a été écrit depuis l’origine et que peu de développeurs maîtrisent. Réécrire ce code en toute sécurité prendrait des années : le Doge souhaite que cela se fasse en quelques mois. Qu’importe si cela bloque les versements d’allocation de millions d’Américains. 

En 2020, pour Logic Mag, Mar Hicks avait exploré les enjeux du langage Cobol depuis lequel nombre d’applications des services publics sont construites (et pas seulement aux Etats-Unis, notamment parce que ces systèmes sont souvent anciens, héritages de formes de calcul précédant l’arrivée d’internet). Mar Hicks rappelait déjà que ce vieux langage de programmation avait été, durant la pandémie, un bouc-émissaire idéal pour expliquer la défaillance de nombre de services publics à répondre à l’accroissement des demandes d’aides des administrés. Pourtant depuis 6 décennies, les programmes écrits en Cobol se sont révélés extrêmement robustes, très transparents et très accessibles. C’est sa grande accessibilité et sa grande lisibilité qui a conduit les informaticiens à le dénigrer d’ailleurs, lui préférant des langages plus complexes, valorisant leurs expertises d’informaticiens. Le problème c’est que ces systèmes nécessitent surtout une maintenance constante. Or, c’est celle-ci qui a fait souvent défaut, notamment du fait des logiques d’austérité qui ont réduit le personnel en charge de la maintenance des programmes. “C’est ce manque d’investissement dans le personnel, dû à l’austérité, plutôt que la fiction répandue selon laquelle les programmeurs aux compétences obsolètes partaient à la retraite, qui a éliminé les programmeurs Cobol des années avant cette récente crise.“ Hicks souligne que nous ne manquons pas de programmeurs Cobol. En fait, explique-t-elle : “la technologie actuelle pourrait bénéficier davantage de la résilience et de l’accessibilité que Cobol a apportées à l’informatique, en particulier pour les systèmes à fort impact”. 

“Les systèmes anciens ont de la valeur, et construire constamment de nouveaux systèmes technologiques pour des profits à court terme au détriment des infrastructures existantes n’est pas un progrès. En réalité, c’est l’une des voies les plus régressives qu’une société puisse emprunter ». “Le bonheur et le malheur d’une bonne infrastructure, c’est que lorsqu’elle fonctionne, elle est invisible : ce qui signifie que trop souvent, nous n’y accordons pas beaucoup d’attention. Jusqu’à ce qu’elle s’effondre”.

Sans mandat ni attribution claire, Musk a pris les commandes des systèmes informatiques de l’Etat fédéral (Musk n’est que conseiller du Département de l’efficacité, dirigé – on ne le sait que depuis quelques jours – par Amy Gleason). Le démantèlement en cours de l’autre côté de l’Atlantique est à l’image de ce nouveau bureau dont le cadre d’exercice est tout aussi confus que le périmètre de ses missions. Cela n’empêche pas que, depuis le 20 janvier 2025, les Doge Kids prennent partout les commandes des bases de données d’innombrables agences et ministères, alors que le Doge licencie les fonctionnaires à tour de bras et coupe les budgets. S’il est difficile de tirer la situation au clair, tant les actions sont nombreuses et polémiques (certaines décisions sont prises, réfutées, reprises, avec des décisions de justice contradictoires qui viennent les réfuter sans qu’elles ne le soient nécessairement dans les faits), à défaut d’éclaircir la confusion, essayons néanmoins de regrouper les analyses.  

Ce qu’il se passe avec le Doge depuis janvier est difficile à suivre, rappelle Brian Barrett pour Wired. Notamment parce que, contrairement à ce que Musk avait promis, le Doge ne fonctionne absolument pas d’une manière transparente, bien au contraire. Mais le peu que la presse en voit, qu’elle arrive à documenter, montre dans ses interstices, que ce qu’il se passe est pire que ce qu’elle parvient à en montrer. « La Food and Drug Administration (FDA) a annulé une réunion qui aurait dû donner des orientations sur la composition du vaccin contre la grippe de cette année. Pour l’instant, la réunion n’a pas été reprogrammée ». L’administration de la sécurité sociale va réduire son personnel de moitié. Le ministère du Logement et du Développement urbain va être réduit de 84 %. Et c’est pareil dans nombre d’administrations… « Ne pensez pas que vous recevrez vos chèques d’aide sociale à temps, que vous allez pouvoir garder vos lumières allumées »…. « Ne présumez pas que tout ce qui fonctionne aujourd’hui fonctionnera encore demain. » Surtout que si beaucoup de personnel ont été licenciés, la purge massive annoncée n’a pas encore eu lieu !

Le Doge a annoncé des correctifs sur certaines de leurs premières annonces, comme l’annulation d’un programme de l’USAID conçu pour empêcher la propagation d’Ebola. « Nous avons rétabli la prévention d’Ebola immédiatement » a-t-il été répondu face à l’alarme. Ce n’est pas le cas, rapporte le Washington Post. Un exemple qui montre qu’on ne peut même pas s’appuyer sur les déclarations.

Bref, « le Doge pour l’instant n’a fait que jeter un rocher au milieu d’un étang. Si vous pensez que c’est mauvais, attendez les répercussions ».

Le Doge : un piratage de l’intérieur ! 

« Il s’agit de la plus grande violation de données et de la plus grande violation de sécurité informatique de l’histoire de notre pays », explique un expert en sécurité informatique interrogé par The Atlantic. Comme si on assistait à un piratage informatique de l’intérieur. Partout, les fonctionnaires sont déboussolés de constater ce qu’il se passe. « Musk et son équipe pourraient agir délibérément pour extraire des données sensibles, modifier des aspects fondamentaux du fonctionnement de ces systèmes ou fournir un accès supplémentaire à des acteurs non contrôlés. Ou ils peuvent agir avec négligence ou incompétence, détruisant complètement les systèmes. Étant donné l’ampleur de ce que font ces systèmes, des services gouvernementaux clés pourraient cesser de fonctionner correctement, des citoyens pourraient être lésés et les dommages pourraient être difficiles ou impossibles à réparer ». D’innombrables données personnelles sont siphonnées sans que nulle ne sache où elles seront disséminées ni à quoi elles pourront servir. Pire, les données peuvent également être modifiées tout comme le fonctionnement de logiciels critiques. Pire encore, le Doge peut désormais cacher les preuves des modifications que ses équipes accomplissent. « Ils pourraient modifier ou manipuler les données du Trésor directement dans la base de données sans que plus personne ne puisse vérifier les modifications ». L’information sur les niveaux d’accès spécifiques dont Musk et son équipe disposent restent flous et varient probablement selon les agences et les systèmes. « Auparavant, les protocoles de sécurité étaient si stricts qu’un entrepreneur branchant un ordinateur non fourni par le gouvernement sur un port Ethernet d’un bureau d’une agence gouvernementale était considéré comme une violation majeure de la sécurité ». Nous n’en sommes absolument plus là. « Plus ces intrusions durent, plus le risque d’une compromission potentiellement fatale augmente ». Même une petite modification d’une partie du système qui a trait à la distribution des fonds pourrait faire des ravages, empêchant ces fonds d’être distribués ou les distribuant de manière incorrecte, par exemple. Les opposants de Musk et Trump devraient s’inquiéter. Demain, le fisc pourrait produire des déclarations qu’ils n’ont pas faites ou faire disparaître celles qu’ils ont faites. La corruption des bases de données de l’Etat fédéral risque de saper ce qu’il reste de confiance dans l’Etat. 

Dans les administrations, la terreur et la paranoïa règnent, explique la journaliste Karen Hao. La paralysie qui saisit les administrations américaines n’est pas que liée aux licenciements massifs, mais plus encore à la peur de dénonciation. Tous les fonctionnaires ont l’impression d’être désormais traqués par leur propre gouvernement. Nombre de fonctionnaires suspectent désormais leurs ordinateurs de les espionner pour le compte du Doge, rapporte Wired, et nombreux sont ceux qui se mettent à prendre des précautions… D’ailleurs, le nombre de messages échangés a considérablement chuté, pas seulement du fait des licenciements.

Mais la surveillance des fonctionnaires a commencé bien avant Trump, rappellent les journalistes de Wired, notamment pour ceux qui manipulent des informations classifiées. Mais pas seulement, beaucoup d’agences sensibles sont depuis longtemps sous surveillance. 9 des 15 ministères américains avaient déjà souscrit des programmes de surveillance d’une partie de leurs employés, à l’image du logiciel Intercept de Dtex, utilisé par plusieurs agences fédérales, qui génère des scores de risque individuels en analysant des métadonnées anonymisées, telles que les URL que les travailleurs visitent et les fichiers qu’ils ouvrent et impriment sur leurs appareils de travail.  « Lorsque vous créez une culture de peur et d’intimidation et que vous parvenez à dissuader les gens de dénoncer les actes répréhensibles, vous vous assurez que la corruption passe inaperçue et n’est pas traitée« , s’alarme Karen Hao.

Thomas Shedd, un ancien ingénieur de Tesla récemment nommé directeur des services de transformation technologique du Doge, a demandé un accès privilégié à 19 systèmes informatiques différents. « S’ils voulaient changer le montant du salaire d’une personne ou de ses impôts, ils pourraient le modifier », explique encore un article de The Atlantic. Non seulement ils peuvent lire les e-mails des employés, mais vu le niveau d’autorisation d’accès, ils pourraient même les modifier. Les risques de préjudice, d’abus, de corruption ou de vengeance sont complètement libérés. « La NASA détient des spécifications techniques et des données de recherche pour les concurrents de SpaceX, et les initiés craignent que ces informations soient bientôt également compromises. Ils craignent également que la R&D classifiée de la NASA dans des domaines tels que la physique quantique, la biotechnologie et l’astrobiologie puisse être volée à des fins privées. »

« Le premier mois de Musk et du Doge a été si chaotique, leurs incursions si aléatoires, qu’il est difficile d’évaluer ce qui s’est passé. Doge prétend améliorer le gouvernement, mais les employés de l’agence avec lesquels nous avons parlé ont le sentiment d’avoir été piratés. »

Pour les éditeurs de The Atlantic : « Aucune bonne raison ou argument ne peut être avancé pour qu’une personne ou une entité ait un tel accès à autant d’agences gouvernementales contenant autant d’informations sensibles. Même dans un seul bureau gouvernemental, l’accès administratif complet à tous les systèmes est un privilège qui n’existe pas. Dans l’ensemble, à l’échelle de l’ensemble du gouvernement, ce serait incompréhensible ».

Le Data Coup du Doge est « la plus grande appropriation de données publiques par un particulier dans l’histoire d’un État moderne », estiment les sociologues Nick Couldry et Ulises Meijas dans une tribune pour Tech Policy Press (auteurs d’un récent livre sur le pillage des données et le colonialisme de la Tech, dont on avait rendu compte). Pour eux, ce qu’il se passe ne relève pas du capitalisme de surveillance de Zuboff qui dénonçait le fait que les géants de la tech aient été mis au service de l’Etat. Ici, il s’agit de mettre toutes les données de l’Etat fédéral au mains d’entreprises : « Dans le néolibéralisme, les citoyens deviennent des consommateurs ; dans le colonialisme des données, les citoyens deviennent des sujets ». Une fois que nous examinons les événements récents aux États-Unis à travers une lentille coloniale, le mépris de la légalité n’est pas non plus surprenant. Jusqu’à récemment, il était possible que l’État américain soutienne des réglementations pour restreindre l’extractivisme des Big Tech, sous une forme ou une autre. Aujourd’hui, c’est devenu une perspective lointaine.

« Le Doge a compris quelque chose que l’establishment politique n’a pas compris : la technologie est la colonne vertébrale de tout gouvernement ! » C’est ce qu’affirme dans une tribune pour Tech Policy Press, Emily Tavoulareas qui a fondé le US Digital Service, qui, depuis le 20 janvier est devenu le Doge. L’organisation dédiée à l’amélioration des services gouvernementaux a été réaffectée en vecteur de destruction de ces services, constate, désolée, la chercheuse et ex-directrice technique à la Maison Blanche. Là aussi, la plupart des employés ont été licenciés. Le Doge a pris le contrôle de nombres de systèmes critiques du gouvernement fédéral. « L’administration Trump semble comprendre quelque chose que peu d’autres comprennent : l’infrastructure technique est l’infrastructure de tout. Elle peut accélérer ou entraver les objectifs politiques ». C’est ce qu’a tenté d’expliquer Tavoulareas à nombre de responsables politiques ces dernières années. Pour le US Digital Service, les applications et sites de l’administration problématiques étaient souvent un levier pour organiser des transformations plus profondes dans les services. Mais pour les politiciens, bien souvent, la technologie et l’implémentation des politiques dans des services numériques, tenaient de la simple logistique, souvent confiée à des acteurs privés. Mais, c’est là croire que la technologie est subordonnée au travail politique, quand elle lui est inextricablement liée. « Séparer la politique de la technologie dont elle dépend a été une cause profonde de beaucoup de dysfonctionnements ». 

« La technologie n’est pas une chose supplémentaire que vous ajoutez aux programmes et services gouvernementaux — elle EST le service. Ce n’est pas une chose supplémentaire que vous ajoutez à l’institution — elle est la colonne vertébrale de l’institution. » Le Doge a parfaitement compris cela. Les équipes de Musk savent parfaitement que l’infrastructure technique n’est pas seulement une infrastructure pour faire des applications et des sites web, mais qu’elle est l’infrastructure qui contrôle tout. 

La mission du US Digital Service était de fournir de meilleurs services gouvernementaux au peuple américain à travers la technologie et le design. Pour le service numérique du gouvernement américain, la technologie n’était qu’un véhicule pour améliorer les services au bénéfice des personnes. Ce n’est pas l’objectif du Doge, qui se concentre tout entier sur l’efficacité et la réduction des coûts. Le Doge n’a pas vocation à se mettre au service des gens, ce qui signifie qu’elle est au service de quelqu’un d’autre ! Certes, concède Emily Tavoulareas, le Digital service n’a pas toujours été efficace. Oui, le gouvernement américain a gaspillé parfois des milliards de dollars à construire des logiciels qui ne fonctionnent pas, notamment parce que nombre de services se préoccupent assez peu des utilisateurs. Mais le Digital service montrait qu’on pouvait et devait faire mieux, que les employés du gouvernement devaient privilégier les résultats sur les procédures, les personnes par rapport aux processus, les solutions par rapport aux règles. Le service a tenté de faire en sorte que la technologie bénéficie aux utilisateurs. Avec le Doge, il est sûr que ce n’est pas aux utilisateurs qu’elle va désormais bénéficier ! 

Le Doge, institution de l’IA impériale

Il est temps de s’inquiéter des projets d’intelligence artificielle du Doge, s’alarment les spécialistes de la sécurité informatique Bruce Schneier et Nathan Sanders dans The Atlantic (ils feront paraître en octobre, Rewiring Democracy). Alors que nombre de fonctions critiques de l’Etat ont été interrompues, que des dizaines de milliers de fonctionnaires fédéraux sont encouragés à démissionner, le département de l’efficacité gouvernementale s’attaque déjà à l’étape suivante : utiliser l’IA pour réduire les coûts. Selon le Washington Post, le groupe de Musk a commencé à traiter des données sensibles des systèmes gouvernementaux via des programmes d’IA pour analyser les dépenses et déterminer ce qui pourrait être élagué et bien sûr remplacer les fonctionnaires par des machines. En fait, analysent Schneier et Sanders, remplacer les fonctionnaires par des machines a surtout pour objectif de rendre le changement à l’oeuvre sans recours, en éliminant la résistance des corps institués au changement. L’autre danger de recourir à l’IA pour gérer des programmes fédéraux, c’est de renforcer la concentration du pouvoir. Les programmes de protection sociale comme les organismes de contrôle des entreprises peuvent alors très facilement être orientés pour bénéficier à certains plus qu’à d’autres. « Le pouvoir absolu de commander des agents d’IA pourrait faciliter la subversion de l’intention législative« .

Bien sûr, la faculté de discernement ne disparaît pas, mais dans les systèmes machiniques, celle-ci est concentrée dans les mains de ceux qui opèrent et déploient les systèmes. Dans les systèmes humains, ce discernement est largement réparti entre de nombreux individus, fonctionnaires et agents. « L’IA ne remplace pas ces anciennes institutions, mais elle change leur fonctionnement ». Le développement de l’IA elle-même pourrait se faire au sein d’institutions publiques transparentes, responsables et démocratiques, avec une supervision publique de leur conception et de leur mise en œuvre et la mise en place de garde-fous adaptés, plaident les deux chercheurs. Ce n’est bien sûr pas cette orientation qui est prise. Et le risque, c’est que cette orientation autoritaire inspire toute les autres à venir.

Le Washington Post explique que c’est le ministère de l’Education qui semble le premier à faire les frais de l’épluchage de ses dépenses par l’IA. L’utilisation de l’IA par le Doge au sein du ministère de l’Éducation constitue un écart important par rapport à la politique préconisée sur la technologie, à savoir n’utiliser les programmes qu’après avoir fait les tests nécessaires pour s’assurer que son utilisation ne compromette pas la confidentialité et la cybersécurité.

Mais, l’IA peut-elle vraiment aider le Doge à réduire les budgets et éviter le gaspillage ?, s’interroge la Technology Review. Comme le répète Arvind Narayanan, le calcul fonctionne mieux quand ce qu’il doit calculer est clair. La fraude est une notion un peu moins subjective que le gaspillage. Or, les paiements fédéraux frauduleux dans le domaine de la santé ne sont pas tant du fait des utilisateurs que des sociétés pharmaceutiques, rappelle l’économiste Jetson Leder-Luis, spécialiste de la fraude sociale. Celui-ci rappelle qu’il est possible de chercher des schémas de fraudes pour mettre fin aux remboursements frauduleux avant qu’ils ne se produisent. Dans une étude de 2024, l’économiste montrait qu’il était possible d’utiliser l’IA pour détecter des fraudes institutionnelles potentielles, selon une approche préventive. Mais ces distinctions n’ont pas l’air d’être la priorité du Doge, bien au contraire. Le but semble bien plus de réduire des dépenses pour des raisons politiques que de réduire les fraudes et abus depuis des preuves. 

Le Doge travaille à un système pour automatiser le licenciement des fonctionnaires, explique encore Wired, sur la base d’un logiciel créé il y a 20 ans par le ministère de la Défense, permettant d’accélérer la réduction d’effectifs. Jusqu’à présent, les licenciements ont été manuels et ont visé surtout les employés en période d’essai. Mais visiblement, le but semble d’accélérer encore la cadence. Pour Brian Merchant, ces annonces d’automatisation des licenciements sont consécutives au fait que le Doge ait demandé à deux millions d’employés du gouvernement de répondre à un mail leur demandant ce qu’ils ont fait de leur semaine. L’analyse qu’il va en être fait risque surtout de ne pas produire grand-chose car aucun système n’est capable de déterminer depuis ces mails, si le travail de ceux qui y répondent est nécessaire ou non. Nous sommes dans un “Grok Gouvernement” ironise Merchant, en comparant ce qu’il se passe à l’IA de Musk, surtout connue pour son sens de l’humour particulièrement problématique. 

Mais aussi stupide soit la fiction, la mascarade est puissante. Car ces annonces rhétoriques impressionnent. L’essentiel n’est pas ce que ces outils vont ou peuvent produire, mais en réalité, l’important, c’est la fiction qu’ils déroulent. Ce sont des “générateurs de faux-semblants”. L’efficacité supposée des outils permet surtout de déresponsabiliser les décisions. “L’idée est d’utiliser la notion même d’IA et d’automatisation comme instruments de perturbation et de consolidation du contrôle”. 

Pour Kate Crawford, citée par Merchant, l’IA se révèle plus impérialiste que jamais. Les Etats-Unis comme les Big Techs de l’IA ne parlent plus d’innovation, constate-t-elle. JD Vance, le vice-président américain, à Paris comme à Munich, ne disait pas autre chose. Il parle d’expansion pure, de consolidation du pouvoir par l’IA. Le décalage avec le camp qui défend l’intérêt public n’a jamais été aussi béant. Le désalignement est total. “L’approche américaine de l’IA consiste à construire un empire”, sans garde-fous. “Au moment même où Vance prononçait ces mots, aux États-Unis, le Doge infiltrait et saisissait, souvent en violation de la loi, l’infrastructure d’information du gouvernement américain”. Le Doge a effacé des données, censuré des mots et réécrit l’histoire. Pour le gouvernement américain, désormais, l’enjeu n’est plus de s’inquiéter des risques, de la sécurité ou de la protection des populations, mais de construire des systèmes rentables. Les empires ont toujours concentré le pouvoir technologique, rappelle Crawford qui a tenté de le montrer dans son projet Calculating Empire. 

Ce qui semble certain, c’est que ce déploiement de l’IA comme nouvelle méthode de gouvernement ne se fera pas sans retour de bâton… A mesure que ces systèmes feront n’importe quoi – et ils feront n’importe quoi –, c’est tout le champ technologique qui est menacé de corruption et d’effondrement. 

Nous sommes confrontés à un coup d’Etat des thuriféraires de l’IA, estime Eryk Salvaggio dans Tech Policy Press. L’IA est une technologie qui permet de « fabriquer des excuses ». Il suffit de dire que l’IA peut remplacer l’administration, pour qu’on discute de savoir comment plutôt que de comprendre pourquoi ce serait nécessaire. Nous sommes au milieu d’un coup d’État politique qui risque de changer à jamais la nature du gouvernement américain. Il ne se déroule pas dans la rue, il se déroule sans loi martiale, sans même avoir recours à la force ou à l’armée : il se déroule dans l’automatisation banale de la bureaucratie. La justification repose sur un mythe de productivité selon lequel le but de la bureaucratie est simplement ce qu’elle produit (services, informations, gouvernance) et peut être isolé du processus qui y conduit. L’IA nous est imposée comme un outil pour remplacer la politique. Mais son but n’est pas de s’en prendre à la paperasse ou au gaspillage, comme on nous le répète : l’IA est utilisée pour « contourner la surveillance du budget par le Congrès, qui est, constitutionnellement, l’attribution de ressources aux programmes gouvernementaux par le biais de la politique représentative ». Le Doge vise à déplacer la prise de décision collective au cœur de la politique représentative. Dans le chaos qui règne à Washington, les entreprises de la Silicon Valley font valoir qu’elles sont la solution. Elle consiste, peu ou prou, en un chatbot omnipotent, une sorte d’IA gouvernementale dédiée. « Il suffit que cette IA soit considérée comme un concurrent plausible de la prise de décision humaine suffisamment longtemps pour déloger les décideurs humains existants dans la fonction publique, des travailleurs qui incarnent les valeurs et la mission de l’institution. Une fois remplacées, les connaissances humaines qui produisent l’institution seront perdues ». Ce projet, même flou, ne propose rien de moins que l’avènement d’un régime technocratique, où le pouvoir se concentre entre les mains de ceux qui comprennent et contrôlent la maintenance, l’entretien et les mises à niveau de ce système. Pour Salvaggio, l’enjeu consiste à créer une forme de « crise informatique nationale que seule les géants de l’IA peuvent résoudre ». Nous sommes en train de passer de « la gouvernance démocratique à l’automatisme technocratique ». Ce scénario catastrophe suppose bien sûr un public passif, une bureaucratie complaisante et un Congrès qui ne fait rien, précise Salvaggio. Cela suppose qu’opérer dans une zone grise juridique est un moyen d’échapper à la surveillance judiciaire – et c’est ce que permet le Doge. La rapidité d’action permet de déplacer le débat vers la technique ce qui est une façon d’exclure les décideurs politiques et le public des décisions et de transférer ce pouvoir au code qu’ils écrivent. La participation démocratique ne sera jamais un gaspillage, rappelle Salvaggio. « Aucun système informatisé ne devrait remplacer la voix des électeurs. Ne demandez pas si la machine est digne de confiance. Demandez-vous qui la contrôle« .

Transformer l’infrastructure de l’Etat en arme

« Ce n’est pas tant un coup d’Etat qu’une OPA », expliquent Henry Farrell et Abraham Newman, qui ont publié récemment L’empire souterrain (Odile Jacob, 2024) un livre où ils expliquent comment l’Amérique a pris le contrôle des systèmes techniques de l’économie mondiale et les ont utilisés pour exercer leur domination sur leurs alliés comme sur leurs ennemis. « Aujourd’hui, Musk semble faire au gouvernement américain ce que le gouvernement américain a fait autrefois au reste du monde : transformer la plomberie du gouvernement fédéral en arme politique contre ses adversaires« . Snowden nous a montré comment les États-Unis avaient transformé Internet en un gigantesque système de surveillance mondiale. L’accès à Swift, l’infrastructure institutionnelle de base qui garantit que l’argent, les informations et les biens arrivent là où ils doivent était l’autre pierre angulaire que l’Amérique a subvertit. « Les États-Unis ont identifié des points d’étranglement clés qui leur ont permis d’utiliser les infrastructures de paiement, d’information et physiques du monde entier comme une arme pour parvenir à leurs fins. Le Doge de Musk utilise les infrastructures de paiement, d’information et physiques du gouvernement américain de manière très similaire, en contournant les structures politiques censées restreindre l’action exécutive unilatérale. Tout comme lorsque les États-Unis ont utilisé l’économie mondiale comme une arme il y a plus de deux décennies, il est difficile pour ceux qui en sont les victimes de comprendre exactement ce qui leur arrive« . 

« Comme Swift et la compensation en dollars, le système de paiement fédéral était autrefois traité comme un système entièrement technique, à l’abri des interférences politiques. Ce n’est plus le cas. Comme l’explique Nathan Tankus pour Rolling Stones, le Bureau du service fiscal, la partie du département du Trésor qui gère les paiements pour le gouvernement fédéral, est censé être technocratique et se concentrer uniquement sur la garantie que l’argent va là où il est censé aller. Néanmoins, parce qu’il agit comme un intermédiaire entre le gouvernement et le reste du gouvernement, il constitue un point d’étranglement crucial. Il offre un point de visibilité unique sur les opérations du gouvernement, avec des informations stratégiques détaillées sur l’argent qui circule et où, et un point de contrôle unique. »

« Ce qu’ils doivent comprendre – et rapidement – ​​c’est que Musk, et par extension Trump, semblent essayer de transformer ces systèmes techniques en leviers de contrôle. Si les deux réussissent, ce qui est incertain, ils auront un avantage politique sans précédent dans les mois et les années à venir. Même s’ils échouent, leurs erreurs peuvent avoir des conséquences catastrophiques.« 

« Tout comme le contrôle de Swift a fourni aux États-Unis des informations stratégiques vitales sur les flux financiers mondiaux, Doge pourrait également utiliser l’accès au système fédéral de paiements pour obtenir un aperçu des opérations gouvernementales. Dans notre recherche sur les paiements mondiaux, nous avons décrit comment les États-Unis ont transformé la finance mondiale en un « panoptique » qui leur a fourni des informations extrêmement détaillées sur qui envoyait de l’argent à qui, qu’ils pouvaient ensuite utiliser comme arme contre leurs adversaires. Peu à peu, les États-Unis ont utilisé le système du dollar comme un point d’étranglement pour bloquer les paiements et pour transformer les banques étrangères en agents du pouvoir américain ».

« Le système fédéral de paiements est un panoptique depuis des décennies, attendant que quelqu’un avec des ambitions politiques brise le pare-feu bureaucratique ». C’est ce qui est en train de se passer, estiment les chercheurs. « Tout entrepreneur ou tiers qui dépend de l’argent du gouvernement américain se retrouvera dépendant de leur patronage et de leurs caprices politiques. Cela sera techniquement difficile à réaliser, mais cela générerait des opportunités étonnantes de corruption secrète et ouverte et d’imposition de préférences politiques et idéologiques à des tiers ». Pourtant, les risques les plus probables à court terme ne sont pas une coercition efficace mais une calamité accidentelle, du fait que les Doge Kids maîtrisent mal les couches techniques de ces systèmes.

« Tout comme il a fallu des décennies aux États-Unis pour vraiment transformer les systèmes techniques de l’économie mondiale en fonction de leurs objectifs, il faudra du temps et des bidouillages pour que le Doge commence vraiment à réaliser ses ambitions. La mauvaise nouvelle est que les fonctionnaires fédéraux et l’ensemble de la population américaine seront les cobayes involontaires de cette vaste expérience. La moins mauvaise nouvelle est que ce qui ressemble à une prise de pouvoir gouvernementale accomplie en un week-end n’est pas encore une machine de pouvoir, et il faudra un travail acharné et ininterrompu pour y parvenir. Les législateurs, les avocats et les citoyens ordinaires qui ne veulent pas que cette prise de pouvoir hostile réussisse devraient saisir toutes les occasions de jeter du sable dans le mécanisme par la politique et la protestation, tant qu’il est encore temps de préserver les institutions qui, bien qu’imparfaites, sont nécessaires au fonctionnement de la société et de la démocratie américaines ».

Même constat pour l’historien de l’économie Quinn Slobodian (auteur du Capitalisme de l’apocalypse, Le Seuil, 2025) dans une brillante analyse politique pour la New York Review, où il explique que le Doge est la synthèse de trois courants politiques : celui des marchés et des startups qui souhaitent un retour sur investissement, celui des think-tanks consevateurs anti-New Deal qui souhaite un Etat incapable de promouvoir la justice sociale ; et le monde extrêmement connecté de l’anarchocapitalisme et de l’accélérationnisme de droite, qui souhaite un État brisé qui cède l’autorité gouvernementale à des projets concurrents de gouvernance privée décentralisée. Les mercenaires de Musk sont des « consultants en gestion radicalisés » qui appliquent les règles qu’il a appliqué à Twitter au gouvernement fédéral. L’objectif n’est pas moins que la mort de l’Etat fédéral, pareil à un écran noir qui ne répond plus. 

Doge : une porte ouverte pour la corruption et l’escroquerie

En attendant, les équipes de Musk agissent vite. Dès qu’ils accèdent aux données, ils épurent les bénéficiaires. The Atlantic rapporte par exemple l’arrivée des équipes du Doge au Bureau de protection des consommateurs en matière financière (CFPB). En quelques heures, les bureaux sont fermés, les employés licenciés, les activités suspendues, selon des principes partout similaires : coupes budgétaires brutales, changements de direction, et campagnes de diffamation en ligne. Toutes les dépenses sont annulées, avec le triple objectif d’une purge politique de l’administration, du renforcement sans précédent du pouvoir présidentiel et bien sûr d’économies.

Pourtant, depuis sa création, en 2011, le CFPB a protégé nombre d’Américains des fraudes et escroqueries financières. Selon son ancien directeur, elle aurait restitué 20,7 milliards de dollars aux consommateurs depuis sa création. Sa fermeture annonce surtout la retour des arnaques financières que l’organisme n’a eu de cesse de traquer : « les entreprises de fintech douteuses auront moins de soucis à se faire, les normes de prêt pourront se détériorer, les consommateurs victimes de fraude n’auront pas de moyen de demander de l’aide »… 

Comme le dit l’économiste américain Paul Krugman dans sa newsletter, c’est le retour du printemps pour les escrocs. « Nous avons désormais un gouvernement de, par et pour les prédateurs financiers », s’insurge Krugman. Via un système de signalement et de dépôt de plaintes, l’agence a aidé des centaines de milliers de personnes à résoudre leurs problèmes avec des entreprises privées. Selon Bloomberg, le Doge s’est vu « accorder l’accès à tous les systèmes de données du CFPB », alors qu’elle dispose d’une quantité importante d’informations confidentielles sur les plaignants comme sur les entreprises visées par ces plaintes, sans compter les conflits d’intérêts même de Musk (qu’il est censé gérer seul, du haut de sa grande vertu morale !), le CFPB ayant reçu des plaintes à l’encontre de Tesla, et X – qui a annoncé un accord avec Visa pour développer des services de paiement – aurait dû entrer dans le scope de surveillance financière du CFPB. « Démanteler l’organisme de surveillance au motif qu’il représente un coût excessif pour le peuple américain, comme l’a affirmé Elon Musk dans un message est tout simplement incorrect. Si vous regardez les dollars dépensés par rapport aux dollars récupérés », a déclaré son ancien responsable. « L’agence a récupéré bien plus pour les consommateurs qu’elle n’en a jamais dépensé dans son intégralité pour ses opérations. Musk dit que le Doge devrait permettre aux contribuables d’économiser de l’argent, mais le CFPB le fait depuis le début. »

L’accès aux systèmes de paiement fédéraux par le personnel du Doge a été qualifié de « plus grande menace interne à laquelle le bureau du service fiscal n’ait jamais été confronté ». 

En tout cas, les conflits d’intérêts semblent innombrables. Scott Langmack, directeur de l’exploitation de Kukun une société de technologie immobilière s’est récemment présenté comme conseiller principal du Doge en demandant aux employés du Département du logement et du développement urbain de lister tous les contrats du bureau et de noter s’ils étaient ou non essentiels pour l’agence, rapporte Wired. Tom Krause, par exemple, exerce les fonctions de secrétaire adjoint aux finances au Trésor tout en occupant le rôle de PDG d’une entreprise de logiciels qui a des millions de dollars de contrats avec le Trésor. Outre les conflits d’intérêts problématiques, la granularité des données auxquels le Doge a désormais accès est tout autant problématique. Et l’ensemble est d’autant plus problématique que nul ne sait ce qui est fait des données. Elles peuvent être copiées, modifiées, corrompues. Il est probable que cette corruption des données soit en train de produire de super-oligarques de la tech… Les techbros surpuissants d’aujourd’hui, pourraient bien être des nains par rapport à la puissance qu’ils sont en train d’acquérir.   

Même le vénérable Financial Times commence à s’inquiéter. Les entreprises ont conclu un pacte faustien avec Donald Trump et Elon Musk, séduites par les promesses de la déréglementation et des baisses d’impôts. « En réalité, les chefs d’entreprise ont laissé entrer dans le poulailler des renards extrêmement rapaces, ce qu’ils pourraient regretter ». La journaliste économique Rana Foroohar est pourtant conciliante, puisqu’elle propose de laisser de côté les effets économiques négatifs des guerres commerciales qui s’annoncent, des rafles d’immigrants, ou des conflits géopolitiques qui pointent. L’accès illimité du Doge aux données d’innombrables administrations est une menace existentielle pour nombre d’entreprises. « Il y a plusieurs choses qui m’inquiéteraient si j’étais un chef d’entreprise. La première est l’avantage concurrentiel sans précédent que Musk pourrait obtenir en ayant accès à des éléments tels que les données de sécurité du ministère des Transports, les informations sur les essais de la Food and Drug Administration, les recherches exclusives du ministère de l’Agriculture ou les informations préalables à la publication des demandes de brevet. Si j’étais à la tête d’une entreprise automobile comme General Motors ou d’une société de covoiturage comme Uber, je me demanderai si Elon Musk a aspiré des informations sur les tests de voitures autonomes des concurrents de Tesla. Si j’étais un investisseur en capital-risque, je me demanderai s’il est désormais capable de voir quelles nouvelles technologies sont les plus proches d’être commercialisées et comment, afin de mieux devancer ses concurrents potentiels. Ce ne sont là que quelques-unes des implications les plus évidentes d’avoir un adversaire qui pourrait potentiellement accéder à des informations que les entreprises pensaient ne donner qu’au gouvernement« . Ensuite, il y a les avantages concurrentiels à long terme que Musk pourrait obtenir en intégrant des ensembles de données de différents départements dans ses propres systèmes d’intelligence artificielle (La Maison Blanche affirme qu’il ne le fait pas, mais il n’y a aucune preuve dans un sens ou dans l’autre). « On ne sait pas exactement ce que Doge exploite et comment les données sont utilisées ».

Mais les conséquences négatives potentielles pour les entreprises ne se limitent pas à un accès injuste à l’information. La suppression de diverses agences et la fin des subventions vont avoir de nombreux effets dissuasifs dans des secteurs tels que l’énergie, le transport, l’industrie, le logement… Des entreprises renoncent déjà à des projets. Les processus de demande d’autorisation qui étaient déjà compliqués, vont l’être plus encore à mesure que les effectifs des agences sont réduits. L’incertitude réglementaire ne facilite pas beaucoup les affaires. Pour l’instant, peu de monde souhaite se heurter à Musk ou Trump. Beaucoup de chefs d’entreprises semblent vouloir donner une chance à l’approche de réduction des coûts… Beaucoup attendent en faisant profil bas. Mais la crainte d’une récession se profile. Le silence politique des entreprises pourrait ne pas durer. Reste à savoir qui s’opposera au démantèlement en cours ?

Pour l’instant, rapporte pertinemment Mediapart, les représentants Républicains commencent seulement à être confrontés à la colère de leurs administrés. Les plus fidèles à Trump dénoncent une instrumentalisation des débats par les démocrates. Pas sûr que cette ligne de défense tienne longtemps si la grogne s’étend.

Le Doge ne s’intéresse pas à l’efficacité

La journaliste et historienne Anne Applebaum rappelle que le département de l’efficacité, pour l’instant, ne s’intéresse pas à l’efficacité. Nous n’assistons qu’à l’éradication de la fonction publique fédérale. Les Américains sont confrontés à un changement de régime. « Trump, Musk et Russell Vought, le nouveau directeur du Bureau de la gestion et du budget et architecte du Projet 2025 de l’Heritage Foundation – le plan initial de changement de régime – utilisent désormais des opérations informatiques, la confiscation des systèmes de paiement, des ingénieurs à leur solde, une avalanche de décrets exécutifs et une propagande virale pour parvenir à leurs fins ». « Bien que Trump et Musk affirment lutter contre la fraude, ils n’ont pas encore fourni de preuves à l’appui de leurs affirmations. Bien qu’ils exigent la transparence, Musk dissimule ses propres conflits d’intérêts. Bien qu’ils affirment vouloir l’efficacité, Musk n’a produit aucun audit des raisons à la suppression des programmes entrepris ». 

« La seule chose que ces politiques auront certainement pour effet, et sont clairement conçues pour cela, est de modifier le comportement et les valeurs de la fonction publique« . Toutes les personnes qui travaillent pour le gouvernement fédéral américain font la même expérience, celle d’avoir l’impression de vivre sous occupation étrangère.

Pourtant, estime Applebaum, la destruction de l’éthique de la fonction publique prendra du temps. Jusqu’à présent, les fonctionnaires fédéraux avaient pour instruction de respecter l’État de droit, de vénérer la Constitution, de maintenir la neutralité politique et de soutenir les changements de politique légaux, qu’ils émanent d’administrations républicaines ou démocrates. Ils étaient censés mesurer la réalité objective – les preuves de pollution, par exemple – et réagir en conséquence. Tous n’étaient pas parfaits, mais leurs actions étaient contraintes par des audits, des règles de transparence et une éthique. Le Doge a déjà attaqué au moins 11 agences fédérales qui étaient impliquées dans des conflits réglementaires avec les entreprises de Musk ou qui enquêtaient sur elles pour d’éventuelles violations des lois sur la sécurité au travail, les droits des travailleurs et la protection des consommateurs. Le nouveau système qui se met en place, quelle que soit son idéologie, représente en pratique un retour au clientélisme. Désormais, les candidats aux nouveaux postes doivent s’engager à parler du Golfe d’Amérique au lieu du Golfe du Mexique ou dire que Trump a gagné l’élection de 2020. « Ces tests de loyauté trumpiens, visent à rompre avec l’éthique de la fonction publique, qui exigeait que les gens prennent des décisions basées sur des réalités objectives, et non sur des mythes ou des fictions. »

« Certains employés fédéraux seront certainement tentés d’en abuser. Vous n’aimez pas votre ancien patron ? Dénoncez-le ! Dénoncez aussi vos collègues qui promeuvent l’inclusion et la lutte contre les discriminations ». Cela peut sembler improbable, mais, rappelle Applebaum, au  niveau des États, les lois encourageant les Américains à dénoncer d’autres Américains se sont multipliées. Au Texas, une loi permet aux citoyens de poursuive toute personne qui aurait aidé ou encouragé un avortement. Au Mississippi, une loi propose des primes aux personnes qui identifient des immigrés illégaux en vue de leur expulsion. Certains mots tels que « défense des droits », « handicap », « traumatisme » socio-économique et, oui, « femmes », déclenchent déjà des coupures de subventions fédérales et la censure, rapporte le Washington Post. 

Le plus grand tour à l’œuvre consiste à nous faire croire que le Doge a pour objectif l’efficacité, explique Tom Nichols pour The Atlantic. “Le Doge n’est pas vraiment un département ; ce n’est pas une agence ; il n’a aucune autorité statutaire ; et il n’a pas grand-chose à voir avec les économies d’argent, la rationalisation de la bureaucratie ou l’élimination du gaspillage”. C’est une attaque contre l’expertise qui vise à y mettre fin, explique Nichols qui a publié un livre sur la contestation de l’expertise (The Death of Expertise : The Campaign Against Established Knowledge and Why it Matters, Oxford University Press, 2017). Pour lui, l’assaut de Musk à l’encontre de l’expertise s’abreuve à la même source que celle qui alimente en grande partie l’hostilité du public envers les experts. La mort de l’expertise est liée à la montée de deux mots sociaux : le narcissisme et le ressentiment. 

L’égocentrisme est au cœur du succès des “techno-ploutocrates” comme Musk, qui pensent que leur richesse est la preuve de leur compétence. Trump et Musk semblent constamment en colère parce que leur richesse et leur pouvoir peuvent leur apporter tout sauf du respect. Or, l’expertise est bien souvent un puissant moyen de défense contre l’incompétence et les manigances politiques. S’opposer aux experts nécessite des connaissances. L’égocentrisme ne réclame pas aux autres de la compétence, mais de l’obéissance et de la servitude. D’où le fait qu’ils cherchent à saper l’expertise et la connaissance qui peut s’opposer à eux. 

L’autre moteur est le ressentiment, celui d’une élite contre une autre. Nous sommes en train d’assister à l’affrontement d’élites entre elles, estime Nichols, entre les jeunes ingénieurs et entrepreneurs du Doge et les fonctionnaires et experts de carrière. L’objectif du Doge n’est pas de produire un meilleur gouvernement, mais de le détruire : de le remplacer par un autre. A se demander si la destruction de l’Etat fédéral ne serait pas seulement un moyen pour générer des débouchés économiques à l’illusion de l’IA ?

Pour Ethan Zuckerman également, Musk ne disrupte par le gouvernement, il le détruit. En prenant la main sur les systèmes, ce qu’il brise, ce sont les processus démocratiques qui les ont créés. « Dans Doge, nous voyons l’intersection de deux idéologies : la croyance conservatrice selon laquelle le gouvernement ne peut rien faire de bien et devrait en faire le moins possible, et le credo du perturbateur selon lequel tout système inefficace mérite d’être détruit. Leur fusion est une prophétie auto-réalisatrice : les systèmes détruits fonctionnent mal et ne peuvent être améliorés qu’en les éliminant complètement ».

Comme le disait le professeur d’économie comportementale Raymond Fishman, dans une tribune pour le New York Times, avant l’arrivée de Trump au pouvoir. Bien sûr que l’efficacité gouvernementale peut être améliorée. Mais si les entreprises fonctionnent plus efficacement qu’un gouvernement, c’est parce qu’elles n’ont pas les mêmes objectifs, les mêmes missions ni la même complexité. Ce que font les entreprises est bien souvent plus simple que ce que font les gouvernements. Une entreprise ne gère pas la misère ni la pauvreté. Ce n’est pas parce qu’il n’y a pas d’attaque terroriste qu’il faut réduire le budget du FBI. « Créons une commission consacrée à rendre le gouvernement plus efficace. Mais ce n’est pas la même chose que de réduire la taille du gouvernement, et ce n’est certainement pas la même chose que de le gérer comme une entreprise ».

Le ministère de l’incompétence

Pour Derek Thompson, le bureau de l’efficacité risque vite de nous montrer tout le contraire. Cette agence hors de contrôle, semble surtout le règne de l’incompétence. Une incompétence qui risque de coûter très chère aux Etats-Unis, bien plus que les coupes de dépenses qu’elle promet. Pour l’instant, le Doge licencie à tour de bras, sans même savoir qui. Elon Musk a laissé entendre, face à des critiques croissantes, que le Doge annulerait simplement toute mesure qui irait trop loin. Certes, dans la pratique reste à savoir lesquelles réinstaller en fonction de quelles critiques, et si cela s’avère possible une fois les choses démantelées. Tout annuler et voir ce qu’il se passe ne semble pas une méthodologie très fonctionnelle. L’incompétence du Doge est une fonctionnalité, pas un bug, estime Brian Barrett pour Wired. Doge.gov est un simple fil Twitter, comme si une politique se résumait à une succession d’annonces. « L’incompétence née de la confiance en soi est un état d’esprit familier de la Silicon Valley, la raison pour laquelle les startups réinventent sans cesse un bus, une épicerie ou le courrier. C’est la certitude implacable que si vous êtes intelligent dans un domaine, vous devez être intelligent dans tous les domaines ».  

Les États-Unis ne sont pas une start-up. Le gouvernement fédéral existe pour faire toutes les choses qui ne sont pas rentables par définition, qui servent le bien public plutôt que de protéger les profits des investisseurs. La grande majorité des start-up échouent, ce que les États-Unis ne peuvent pas se permettre de faire, rappelle Barrett. « Les erreurs coûteuses et embarrassantes du Doge sont le sous-produit d’un nihilisme téméraire ; si l’intelligence artificielle peut vous vendre une pizza, elle peut bien sûr assurer l’avenir de l’administration centrale ». En fait, Musk se contrefout du gouvernement comme de l’efficacité. Il n’est là que pour siphonner des données qui lui assureront une puissance sans limite. 

Ce qu’il se passe est une course de vitesse, estime Brian Barrett dans un autre article pour Wired. « La vitesse est bien sûr une stratégie. Elle consiste à inonder la zone de merde (comme disait Steve Bannon) afin que ni les médias ni les tribunaux ne puissent suivre le rythme« . Les poursuites judiciaires et les ordonnances judiciaires évoluent selon une échelle de temps différente de cette approche de purge des effectifs, de forçage des accès et de pillage des données. Et à ce rythme, DOGE aura exploité tous les serveurs gouvernementaux bien avant que la Cour suprême n’ait même eu la chance de se prononcer, ironise Barrett. Mais c’est aussi une question de réflexe. La première chose à faire lors d’une reprise d’entreprise est de réduire les coûts le plus rapidement possible.

« C’est ainsi que vous obtenez un décret exécutif déclarant que « chaque agence ne doit pas embaucher plus d’un employé pour quatre employés qui partent », un ratio arbitraire qui ne tient pas compte des besoins réels en personnel. C’est ainsi que vous mettez aux enchères des centaines de bâtiments du gouvernement fédéral, quel que soit leur taux d’occupation. C’est à la fois extrême et inconsidéré, une course pour vider le seul puits de la ville ».

« Et ensuite… quoi ? C’est la question à laquelle Elon Musk et Doge n’ont pas réussi à répondre, car il n’y a pas de réponse. Le gouvernement américain doit-il devenir un moteur de profits ? Doit-il restituer de la valeur aux citoyens-actionnaires ? Medicaid doit-il démontrer une adéquation produit-marché à temps pour le prochain tour de financement ? » 

« C’est la logique d’un consultant. Il s’agit d’un sprint d’ingénierie dont la ligne d’arrivée inévitable est la rupture du contrat social« . 

« La démocratie ne meurt pas dans l’obscurité : elle meurt dans les logiciels de ticketing déposés par les anciens de Palantir » (Les logiciels de ticketing sont des logiciels pour traiter les demandes de clients à la suite les unes des autres et selon leur importance. Ici Barrett évoque le fait que les accès aux systèmes fédéraux s’ouvrent selon les demandes fantasques de conseillers qui masquent souvent leurs conflits d’intérêts derrière ces accès). « Il n’est pas nécessaire d’avoir un MBA de Stanford pour savoir que la réduction des dépenses n’aide que la moitié de votre compte de résultat. Toute tentative sérieuse de traiter les États-Unis comme une entreprise impliquerait une augmentation des revenus. Alors, où sont les impôts ? Et pourquoi démolir le CFPB, qui a rendu plus de 20 milliards de dollars aux citoyens américains ? »

« Dans les semaines et les mois à venir, alors que cette farce continue de se dérouler, rappelez-vous que l’objectif de la plupart des acquisitions n’est pas de bénéficier aux Américains. Il s’agit soit de subsumer, soit de s’en débarrasser, selon ce qui génère le meilleur rendement. » « L’influence sans précédent d’Elon Musk sur le pouvoir exécutif profitera en fin de compte à Elon Musk. Les employés aux commandes sont ses employés. Les données collectées par Doge, les contrats d’approvisionnement qu’ils supervisent, tout cela lui revient. Et tout cela s’écoule trop vite pour que l’Etat puisse suivre, et encore moins pour pouvoir l’arrêter. »

Dans un autre billet, Barrett rappelle que le gouvernement n’est pas une startup. Pourtant, c’est bien la même méthode que celle qu’il a appliquée lors de sa reprise de Twitter, que Musk déroule. « Il se débarrasse des employés. Il installe des loyalistes. Il abat les garde-fous. Ils ont récupéré les accès avant de les couper. Ils ont récupéré les données comme un avantage concurrentiel. Et des économies. Ils veulent des économies. Plus précisément, ils veulent soumettre le gouvernement fédéral à un budget à base zéro », une méthode de planification financière populaire dans la Silicon Valley dans laquelle chaque dépense doit être justifiée à partir de zéro. « Le problème avec la plupart des startups de logiciels, c’est qu’elles échouent. Elles prennent de gros risques et ne sont pas rentables, et elles laissent la carcasse de cet échec derrière elles et commencent à produire un nouveau pitch. C’est le processus que Doge impose aux États-Unis. »  Pas sûr que le gouvernement puisse proposer un nouveau pitch ! 

« Personne ne contesterait que la bureaucratie fédérale est parfaite, ou particulièrement efficace. Bien sûr, elle peut être améliorée. Bien sûr, elle devrait l’être. Mais il y a une raison pour laquelle le changement se fait lentement, méthodiquement, par le biais de processus qui impliquent des élus et des fonctionnaires, ainsi que de l’attention et de la considération. Les enjeux sont trop élevés et le coût de l’échec est total et irrévocable« .

« Musk va réinventer le gouvernement américain de la même manière que l’hyperloop a réinventé les trains, que la société Boring a réinventé le métro, que Juicero a réinventé le presse-agrume. Autrement dit, il ne réinventera rien du tout, ne réglera aucun problème, n’offrira aucune solution au-delà de celles qui consolident encore davantage son propre pouvoir et sa richesse. Il réduira la démocratie à sa plus simple expression et la reconstruira à l’image conflictuelle de ses propres entreprises. Il ira vite. Il cassera tout. » Mêmes constats dans le New York Times, notamment en soutenant ses élucubrations sans preuves depuis ses tweets incendiaires.

L’Amérique, livrée à elle-même : la re-ségrégation

Ce n’est pas une réforme, c’est un sabotage, explique David Wallace-Wells pour le New York Times. C’est « une guerre éclair contre les fonctions essentielles de l’État”, opérant en dehors du droit constitutionnel. Pour le politologue Seth Masket, « Elon Musk est un simple citoyen qui prend le contrôle du gouvernement. C’est un coup d’Etat ». 

“Tout d’un coup, vous ne pouvez plus consulter les données du CDC sur le VIH ni les directives pour d’autres maladies sexuellement transmissibles. Vous ne pouvez pas non plus trouver de données de surveillance sur l’hépatite ou la tuberculose, ni l’enquête sur les comportements à risque des jeunes, ni aucune des données de l’agence sur la violence domestique. Si vous étiez un médecin espérant consulter les directives fédérales sur le contrôle des naissances post-partum, cette page a également été fermée.” Derrière les fermetures et le recul de l’information, le nouveau message semble être clair : les citoyens sont désormais livrés à eux-mêmes. 

Désormais, la santé publique se résume à la responsabilité personnelle. Mais, c’est également vrai de toutes les politiques publiques qui ont été “effacées” : le climat, l’aide sociale, la lutte contre les discriminations. C’est la grande “re-ségrégation”, explique Adam Serwer, c’est-à-dire le début d’un mouvement qui va revenir sur les droits civiques obtenus de haute lutte. Le retour de la Grande Amérique (Make America Great Again), consiste d’abord et avant tout à restaurer les hiérarchies traditionnelles de race et de genre de l’Amérique. Les lois tentant de renforcer l’égalité des chances ont été annulées, les recherches sur les inégalités également, comme si cela suffisait à faire disparaître les inégalités elles-mêmes. Le but est clair : « abroger les acquis de l’ère des droits civiques« . 

“Ils ne souhaitent pas le retour à la ségrégation explicite – cela briserait l’illusion selon laquelle leurs propres réalisations sont basées sur une méritocratie aveugle à la couleur de peau. Ils veulent un arrangement qui perpétue indéfiniment l’inégalité raciale tout en conservant une certaine possibilité de déni plausible, un système truqué qui maintient un mirage d’égalité des chances tout en maintenant une hiérarchie raciale officieuse. Comme les élections dans les pays autoritaires où l’autocrate est toujours réélu par une écrasante majorité, ils veulent un système dans lequel ils ne risquent jamais de perdre mais peuvent toujours prétendre avoir gagné équitablement.”

Du grand effacement au grand ralentissement scientifique

Nous assistons à l’effacement de la science américaine, déplore Katherine J. Wu pour The Atlantic. La cohabitation pacifique et productive de la science avec les autorités est terminée. Les autorités ont toujours agi sur les priorités scientifiques avec leurs financements (le gouvernement fédéral est le premier bailleur de fond de la recherche fondamentale), mais ces changements d’orientation sont souvent modestes et ciblées, rappelle le spécialiste du financement de la science, Alexander Furnas. La nouvelle administration n’a d’ailleurs pas annoncé de coupes uniformes : la recherche sur l’IA, le spatial ou les maladies chroniques ne sont pas concernées. Pour passer le couperet de la censure automatisée sur certains mots clefs, nombre de chercheurs modifient les termes de leurs demandes de subventions. Le risque, c’est que s’impose l’idée que la méthodologie scientifique soit transgressive. En faisant disparaître des données, en courant le risque qu’elles soient falsifiées, le gouvernement fédéral s’attaque à la science. “À long terme, la science américaine pourrait ne plus paraître fiable aux yeux des scientifiques étrangers”. “Trump et son administration sont en train de décider de la profondeur de la brèche à créer dans le firmament scientifique américain. Le temps qu’il faudra pour réparer les dégâts, ou la possibilité de le faire, dépend de l’ampleur des dégâts qu’ils infligent actuellement.”

Karen Hao pour la Technology Review estime que se sont les fondations mêmes de la prospérité américaine qui sont en train d’être démantelées. Les effets des coupes budgétaires pourraient se faire sentir pendant des années, notamment le démantèlement des programmes de recherche « qui soutiennent la vie américaine pourrait entraîner des dommages durables, peut-être irréparables, à tous les niveaux, de la qualité des soins de santé à l’accès du public aux technologies grand public de nouvelle génération ». Les États-Unis ont mis près d’un siècle à façonner leur riche écosystème scientifique et son démantèlement brutal pourrait avoir des conséquences à long terme. « Le gouvernement restait de loin le plus grand soutien du progrès scientifique. En dehors de ses propres laboratoires et installations, il finançait plus de 50 % de la recherche et du développement dans l’enseignement supérieur, selon les données de la National Science Foundation. En 2023, cela représentait près de 60 milliards de dollars sur les 109 milliards de dollars que les universités ont dépensés pour la science fondamentale et l’ingénierie ». Comme le clame la vénérable revue Nature : « une attaque contre la science, où qu’elle se produise, est une attaque contre la science partout dans le monde ». « Pendant la majeure partie de leurs 155 ans d’histoire, les États-Unis ont été le leader mondial de la recherche, notamment en matière de financement de l’éducation et de la formation scientifiques, pour leur plus grand bénéfice et celui du reste du monde ». C’est cela qui prend fin avec le nouveau gouvernement Trump et ses effets auront un retentissement mondial. 

La politique du Doge va ralentir le gouvernement, pas le rendre plus efficace, explique Donald Moynihan, auteur de la newsletter, “Can we still govern ?”. En fait, explique le spécialiste, le gouvernement fédéral est loin d’être pléthorique. Les fonctionnaires représentent 1,5% de la population américaine et 7% des dépenses du gouvernement. Sa masse salariale n’a cessé de diminuer ces dernières décennies, la main d’œuvre vieillit et le secteur a du mal à recruter. Cette politique va avoir des répercussions à long terme sur les capacités d’agir des autorités. Et risque bien plus de les restreindre que les développer. 

Le grand remplacement démocratique

« L’ironie suprême est que la même personne qui nous met en garde contre les risques existentiels de l’IA semble désormais croire que la solution consiste à centraliser un pouvoir sans précédent entre ses mains », ironise Mike Brock. Pour lui aussi, la mise en place du Doge n’est pas une question d’efficacité, mais d’effacement. La démocratie est supprimée et remplacée par une technologie propriétaire : l’intelligence artificielle ! 

L’idée que la gouvernance démocratique traditionnelle était inefficace ou obsolète a trouvé un écho chez ceux qui se considéraient comme des perturbateurs et des innovateurs. Avec la crise financière de 2008, dans la Silicon Valley, une nouvelle croyance s’est imposée : la démocratie n’était pas seulement inefficace, elle était obsolète. L’accent mis par le mouvement sur la liberté individuelle et le scepticisme à l’égard de l’autorité centralisée développée par le Tea Party a fait écho au sentiment anti-gouvernemental croissant dans les cercles technologiques. En conséquence, des concepts comme la crypto-monnaie et la gouvernance décentralisée, autrefois considérés comme marginaux, ont commencé à trouver un public plus large parmi ceux qui étaient désillusionnés par les systèmes politiques et financiers traditionnels, explique Brock. La convergence de la colère populiste et du techno-utopisme a ouvert la voie à des idées antidémocratiques plus radicales qui allaient émerger dans les années suivantes. La crise financière n’a pas seulement donné naissance à des mouvements politiques comme le Tea Party, elle a également donné naissance à des plateformes médiatiques entièrement nouvelles qui ont contribué à diffuser ces idées antidémocratiques bien au-delà de leurs cercles d’origine, explique Brock. Pour la Silicon Valley : si les marchés étaient plus efficaces que les gouvernements pour allouer les ressources, pourquoi ne pas les laisser également allouer le pouvoir politique ?

Les sites de désinformation d’extrême droite américains comme ZeroHedge et InfoWars, ont produit deux stratégies complémentaires pour saper la démocratie. ZeroHedge a montré comment l’expertise technique pouvait être utilisée pour délégitimer les institutions démocratiques de l’intérieur, tandis qu’InfoWars a démontré comment le chaos brut pouvait rendre la délibération démocratique impossible. Mais c’est la Silicon Valley qui a combiné ces idées pour en faire quelque chose d’encore plus dangereux, estime Brock : l’argument selon lequel le remplacement de la démocratie par des systèmes techniques n’était pas seulement souhaitable, mais inévitable. « Ce chaos épistémique n’était pas un accident, c’était une tactique cruciale pour saper la démocratie elle-même. Selon Curtis Yarvin (l’un des piliers de l’extrême droite américaine) et ses alliés néoréactionnaires, la légitimité politique dépend de l’existence d’une réalité partagée. Briser ce consensus, c’est rendre la démocratie impossible. Steve Bannon a dit que cela consistait à « inonder la zone de merde ». Et lorsque Trump est arrivé au pouvoir, la stratégie était déjà en marche : déstabiliser la confiance du public, remplacer les analyses des experts par des contre-discours sans fin et s’assurer que les seules personnes qui puissent exercer le pouvoir soient celles qui contrôlent le flux d’informations lui-même. »

C’est précisément là que le libertarisme se transforme en néoréaction, explique Brock. « Au lieu de prôner une république constitutionnelle avec un gouvernement minimal, cette nouvelle tendance de pensée prône un ordre privé, post-démocratique, où ceux qui ont le plus de ressources et de contrôle technologique dictent les règles. Dans cette vision, le pouvoir n’appartient pas au peuple, il appartient aux « cadres » les plus compétents qui dirigent la société comme un PDG dirigerait une entreprise ».

Des personnalités comme Peter Thiel et Balaji Srinivasan ont poussé cette logique un peu plus loin, en affirmant que plutôt que de résister au déclin des institutions démocratiques, les élites devraient accélérer la transition vers un nouvel ordre, un ordre dans lequel la gouvernance est volontaire, privatisée et largement détachée de la responsabilité publique. « Si vous pensez que la technologie rend inévitablement les anciens systèmes obsolètes, alors pourquoi la démocratie devrait-elle être différente ? »

« Pour les nouveaux oligarques, plus que jamais, les seuls bons citoyens sont ceux qui sont entraînés à croire aux vertus des prédations qu’ils subissent« , explique Jean-François Nadeau dans le Devoir. « Ce que Musk et le Doge poursuivent, c’est-à-dire la destruction des cadres de régulation sociaux, n’est pas foncièrement nouveau. Cela ne tient pas à l’intelligence artificielle, mise au service du national-capitalisme. Les classes dominantes, tout au long de l’histoire, ont toujours voulu et considéré comme un dû le fait d’obtenir plus de pouvoir, plus de contrôle, plus de richesse. Si leurs moyens ont changé, l’objectif demeure le même« .

Hubert Guillaud

Suite de notre plongée dans le livre de Kashmir Hill, « Your face belongs to us ». Après avoir observé l’histoire du développement de la reconnaissance faciale, retour sur l’enquête sur le développement de Clearview, la startup de la reconnaissance faciale. 2e partie.

Clearview, un outil d’investissement idéologique

Le cœur du livre de Kashmir Hill, Your face belongs to us, est consacré à l’histoire de l’entreprise Clearview. Hill rappelle que lorsqu’elle entend parler de cette entreprise jusqu’alors inconnue, face au silence qu’elle reçoit de ses fondateurs, elle contacte alors des policiers qui lui en font immédiatement les louanges : Clearview parvient à identifier n’importe qui, lui expliquent-ils ! Pourtant, quand ils entrent une photo de la journaliste dans le moteur, celui-ci ne fournit aucune réponse, alors que de nombreuses images d’elle sont disponibles en ligne, ce qui devrait permettre de la réidentifier facilement. En fait, ce n’est pas que la journaliste n’est pas dans la base, mais que toute recherche sur elle est protégée et déclenche même une alerte quand quelqu’un s’y essaye. 

Cette anecdote permet de montrer, très concrètement, que ceux qui maintiennent la base disposent d’un pouvoir discrétionnaire immense, pouvant rendre des personnes totalement invisibles à la surveillance. Les constructeurs de Clearview peuvent voir qui est recherché par qui, mais également peuvent contrôler qui peut-être retrouvé. Cet exemple est vertigineux et souligne que les clefs d’un tel programme et d’un tel fichier sont terribles. Que se passera-t-il quand le suspect sera le supérieur d’un agent ? Qui pour garantir l’incorruptibilité d’un tel système ? On comprend vite que dans une société démocratique, un tel outil ne peut pas être maintenu par une entreprise privée, hormis si elle est soumise à des contrôles et des obligations des plus rigoureux – et le même problème se pose si cet outil est maintenu par une entité publique. Ce qui n’est absolument pas le cas de Clearview. 

Hill raconte longuement l’histoire de la rencontre des cofondateurs de Clearview. Elle souligne le fait que ceux-ci se rencontrent du fait de leurs opinions politiques, lors de réunions et de meetings en soutien à la candidature de Donald Trump à l’été 2016. Hoan Ton-That, le développeur et confondateur de Clearview, fasciné par le candidat républicain, prend alors des positions politiques racistes que ses amis ne lui connaissaient pas. C’est via les réseaux républicains qu’il rencontre des personnages encore plus radicaux que lui, comme Peter Thiel, le milliardaire libertarien qui sera le premier financeur du projet, ou encore Richard Schwartz, qui deviendra son associé. Si les deux cofondateurs de Clearview ne sont pas des idéologues, le produit qu’ils vont imaginer correspond néanmoins aux convictions politiques de l’extrême-droite américaine dont ils se revendiquent à cette époque. L’entreprise va d’ailleurs particulièrement attirer (et aller chercher) des investisseurs au discours politique problématique, comme Paul Nehlen, tenant du nationalisme blanc. 

C’est en voyant fonctionner l’application russe de reconnaissance faciale FindFace, qui permet de retrouver les gens inscrits sur VKontakte, le réseau social russe, que Ton-That a l’idée d’un produit similaire. En novembre 2016, il enregistre le site web smartcherckr.com. Le projet se présente alors comme un système de réidentification depuis une adresse mail ou une image, permettant d’inférer les opinions politiques des gens… dans le but « d’éradiquer les gauchistes » ! 

Si depuis les discours des fondateurs se sont policés, nous avons là des gens très conservateurs, qui tiennent des propos d’extrême-droite et qui vont concevoir un outil porteur de ces mêmes valeurs. La reconnaissance faciale et ceux qui la portent sont bien les révélateurs d’une idéologie : ils relèvent tout à fait du technofascisme que dénonce le journaliste Thibault Prévost dans son livre, Les prophètes de l’IA. Et nul ne peut faire l’économie du caractère fasciste que porte la possibilité de réidentifier n’importe qui, n’importe quand pour n’importe quelle raison. C’est d’ailleurs là l’héritage de la reconnaissance faciale, inspirée des théories racistes de Francis Galton, qui va donner naissance à la police scientifique d’Alphonse Bertillon, comme à l’eugénisme et à la phrénologie d’un Cesare Lombroso. L’analyse des traits distinctifs des être humains est d’abord et reste le moyen de masquer le racisme sous le vernis d’une rigueur qui se veut scientifique. Hill suggère (sans jamais le dire) que Clearview est un projet politique. 

Clearview, un outil de contournement du droit

Hill souligne un autre point important. Elle n’est pas tendre avec l’arrivisme du jeune informaticien australien Hoan Ton-That qui se fait un nom en créant des outils de phishing via des quizz pour Facebook et des jeux pour iPhone. Elle montre que celui-ci n’a pas beaucoup de conscience morale et que le vol des données, comme pour bien de porteurs de projets numériques, n’est qu’un moyen de parvenir à ses fins. Dès l’origine, Ton-That mobilise le scraping pour construire son produit. Derrière ce joli mot, la pratique consiste à moissonner des contenus en ligne, sauf que cette récolte consiste à ramasser le blé qui a poussé sur les sites web des autres, sans le consentement des sites que l’on pille ni celui des utilisateurs dont on vole les données. En juin 2017, une première version de l’outil de recherche de visage est lancée, après avoir pillé quelque 2,1 millions de visages provenant de plusieurs services en ligne, comme Tinder. A la fin 2018, elle comportera plus de 2 milliards d’images. L’entreprise qui a changé de nom pour Clearview, dispose alors d’un produit robuste. Seuls Facebook et Google disposent de plus de portraits que lui. 

Certes, Clearview a volé toutes les images disponibles. Facebook, Google ou Linked-in vont officiellement protester et demander l’effacement des images volées. Reste que les géants n’intentent aucun procès à la startup. Il faut dire que les entreprises de la Tech sont en effet refroidies par les échecs de Linked-in à lutter contre le scraping. Dans un bras de fer avec une entreprise qui a moissonné les données du réseau social, Linked-in a été débouté en 2017 par un jugement confirmé en appel en 2019. Le tribunal de Californie a déclaré qu’il était légal de collecter des informations publiques disponibles sur le net. Le jugement a gelé les ardeurs des géants à lutter contre un phénomène… qu’ils pratiquent eux-même très largement.  

Hill pointe également que Ton-That n’est pas un génie du développement. Comme nombre d’ingénieurs, non seulement il vole les données, mais il a recours à des outils existants pour développer son application, comme OpenFace. Ton-That n’a pas d’états d’âme. Si les géants de la Tech refusent de sortir un produit de réidentification, c’est parce qu’ils ont peur des retombées désastreuses d’un tel outil, en termes d’image. Ce n’est pas le cas de Ton-That. 

Reste que c’est bien la qualité de l’application qui va convaincre. Clearview permet d’identifier des gens dans la foule quelles que soient les conditions (ou presque). Pour tous ceux qui l’essayent, l’application semble magique. C’est à ce moment que les investisseurs et les clients se précipitent… D’abord et avant tout des investisseurs libertariens, très marqués politiquement. Pourtant, ceux-ci sont conscients que l’application risque d’avoir des problèmes avec les régulateurs et va s’attirer des poursuites en justice. Mais le risque semble plutôt les convaincre d’investir. Hill sous-entend par là un autre enjeu majeur : l’investissement s’affole quand les produits technologiques portent des enjeux de transformation légale. Si les capitaux-risqueurs ont tant donné à Uber, c’est certainement d’abord parce que l’entreprise permettait d’agir sur le droit du travail, en le contournant. C’est l’enjeu de modification des règles et des normes que promettent les outils qui muscle l’investissement. C’est parce que ces technologies promettent un changement politique qu’elles sont financées. Pour les investisseurs de Clearview, « pénétrer dans une zone de flou juridique constitue un avantage commercial ». Hill suggère une fois encore une règle importante. L’investissement technologique est bien plus politique qu’on ne le pense. 

Mais, il n’y a pas que les investisseurs qui vont voir dans Clearview un outil pour contourner les normes. Ses clients également. 

Après avoir tenté d’élargir le recrutement de premiers clients, Clearview va le resserrer drastiquement. Au-delà du symbole, son premier client va être la police de New York. Mais là encore, Clearview ne rencontre pas n’importe quels policiers. L’entreprise discute avec des officiers qui ont soutenu les théories problématiques de la vitre brisée, des officiers qui ont promu le développement du Big data dans la police et notamment les systèmes tout aussi problématiques de police prédictive. C’est donc par l’entremise de policiers radicaux, eux aussi très marqués à droite, que Clearview signe, en décembre 2018, un contrat avec la police de New York. Le contrat demande que l’entreprise prenne des engagements en matière de sécurité et de contrôle des agents qui l’utilisent. Le nombre de requêtes sur l’application décolle. Pourtant, après 6 mois de tests et plus 11 000 requêtes, la police de New York renonce à poursuivre le contrat. Elle aussi est inquiète de la perception par l’opinion publique. Sa direction a plus de pudeurs que les officiers qui ont permis le rapprochement entre la startup et la police. D’autres départements de police n’auront pas ces pudeurs. L’Indiana, la Floride, le Tennessee vont se mettre à utiliser Clearview. Viendront Londres puis le Département américain de la sécurité intérieure. Des agences du monde entier testent l’outil et l’adoptent : Interpol, la police australienne, canadienne… Clearview multiplie les contrats alors que l’entreprise est encore totalement inconnue du grand public. Malgré ces contrats publics, l’entreprise reste sous les radars. Assurément, parce que son usage permet là aussi pour ses clients de s’affranchir des règles, des normes et des modalités d’examen public en vigueur. Alors que la reconnaissance faciale est une technologie sulfureuse, l’abonnement discret à Clearview permet de le rendre invisible. La zone de flou de légalité profite à tous. 

Discrètement, la reconnaissance faciale est advenue

En 2017, un militant de l’ACLU entend parler de Rekognition, l’outil de reconnaissance faciale développé par Amazon et lance une campagne à son encontre. L’ACLU lance l’outil sur les photos de 535 membres du Congrès et en identifie faussement 28 comme des criminels connus des services de police. L’ACLU lance sa campagne pour interdire la surveillance des visages, que quelques villes adopteront, comme San Francisco ou Oakland. Pour Clearview, ces controverses sont préjudiciables. La startup va alors utiliser le même test sur son propre produit qui ne déclenche aucune erreur et identifie parfaitement les 535 membres du Congrès. D’ailleurs, quand on met une photo provenant du site This Person Does not exist dans Clearview, l’application ne produit aucun résultat ! 

Bien sûr, Kashmir Hill rappelle que des Américains qui ont été et continuent d’être indûment arrêtés à cause de la reconnaissance faciale. Mais ces rares exemples semblent n’avoir plus grand poids. Le Nist qui a testé quelque 200 algorithmes de reconnaissance faciale a montré qu’il y avait de fortes variations selon les produits. 

En décembre 2021, Clearview a soumis son algorithme au NIST pour évaluation. Son logiciel de reconnaissance facial a obtenu parmi les meilleurs résultats. 

Pour les médias, ces variations dans les résultats des outils de reconnaissance faciale montrent que la reconnaissance faciale est biaisée, mais elles montrent plutôt qu‘il y a de bons algorithmes et de mauvais. Le NIST dispose de 2 sortes de tests, le premier pour comparer deux images et déterminer si le système est capable d’identifier une même personne et le second pour chercher un visage particulier dans une base de données remplie de visages. Contrairement à ce que l’on pense, les pires biais se trouvent plutôt dans le premier cas, où les systèmes ont du mal avec à reconnaître les sujets féminin, noirs ou asiatiques. « Reste que, aussi précis qu’ils soient, les algorithmes de reconnaissance faciale déployés dans des sociétés inégalitaires et structurellement racistes vont produire des résultats racistes ». Les personnes faussement arrêtées par la reconnaissance faciale étaient toutes noires, rappelle Hill. Ce qui est une preuve supplémentaire, non seulement de ses défauts, mais plus encore de son ancrage idéologique. 

L’exemple du développement de Clearview nous rappelle en tout cas qu’il n’y a pas de neutralité technologique. Les outils ne sont pas des outils qui dépendent des usages qu’on en fait, comme le dit l’antienne. Ils ont des fonctionnalités spécifiques qui embarquent des idéologies. L’essor de Clearview nous montre très bien qu’il est un instrument au service d’un projet politique. Et que quelques soient ses défauts ou ses qualités, la reconnaissance faciale sert des objectifs qui ne sont pas que ceux, financiers, d’une classe sociale qui a intérêt à son succès, mais bien avant tout, ceux, politiques, d’idéologues qui ont un projet. Et ce projet, on l’a vu, n’est pas celui de construire une société apaisée, mais son exact contraire : faire avancer, dans l’ombre, les technologies nécessaires à l’avènement de la dissolution de l’Etat de droit.

(à suivre)

Avec cet article, nous nous lançons dans un dossier que nous allons consacrer à la reconnaissance faciale et au continuum sécuritaire. Première partie.

Your face belongs to us (Random House, 2023), le livre que la journaliste du New York Times, Kashmir Hill, a consacré à Clearview, l’entreprise leader de la reconnaissance faciale, est une plongée glaçante dans la dystopie qui vient. 

Jusqu’à présent, j’avais tendance à penser que la reconnaissance faciale était problématique d’abord et avant tout parce qu’elle était défaillante. Elle est « une technologie qui souvent ne marche pas », expliquaient Mark Andrejevic et Neil Selwyn (Facial Recognition, Wiley, 2022), montrant que c’est souvent dans son implémentation qu’elle défaille. La juriste, Clare Garvie, faisait le même constat. Si l’authentification (le fait de vérifier qu’une personne est la même que sur une photo) fonctionne mieux que l’identification (le fait de retrouver une personne dans une banque d’image), les deux usages n’ont cessé ces dernières années de montrer leurs limites.

Mais les choses évoluent vite.

« Le plus grand danger de la reconnaissance faciale vient du fait qu’elle fonctionne plutôt très bien »

Dans leur livre, AI Snake Oil, les spécialistes de l’intelligence artificielle, Arvind Narayanan et Sayash Kapoor, soulignent pourtant que le taux d’erreur de la reconnaissance faciale est devenu négligeable (0,08% selon le NIST, l’Institut national des normes et de la technologie américain). « Quand elle est utilisée correctement, la reconnaissance faciale tend à être exacte, parce qu’il y a peu d’incertitude ou d’ambiguïté dans la tâche que les machines doivent accomplir ». Contrairement aux autres formes d’identification (identifier le genre ou reconnaître une émotion, qui sont bien plus sujettes aux erreurs), la différence cruciale c’est que l’information requise pour identifier des visages, pour les distinguer les uns des autres, est présente dans les images elles-mêmes. « Le plus grand danger de la reconnaissance faciale vient du fait qu’elle fonctionne plutôt très bien » et c’est en cela qu’elle peut produire énormément de dommages. 

Le risque que porte la reconnaissance faciale repose tout entier dans la façon dont elle va être utilisée. Et de ce côté là, les dérives potentielles sont innombrables et inquiétantes. Gouvernements comme entreprises peuvent l’utiliser pour identifier des opposants, des personnes suspectes mais convaincues d’aucuns délits. Certes, elle a été utilisée pour résoudre des affaires criminelles non résolues avec succès. Certes, elle est commode quand elle permet de trier ou d’organiser ses photos… Mais si la reconnaissance faciale peut-être hautement précise quand elle est utilisée correctement, elle peut très facilement être mise en défaut dans la pratique. D’abord par ses implémentations qui peuvent conduire à y avoir recours d’une manière inappropriée et disproportionnée. Ensuite quand les images ne sont pas d’assez bonnes qualités, au risque d’entraîner tout le secteur de la sécurité dans une course sans limites à toujours plus de qualité, nécessitant des financements disproportionnés et faisant peser un risque totalitaire sur les libertés publiques. Pour Narayanan et Kapoor, nous devons avoir un débat vigoureux et précis pour distinguer les bons usages des usages inappropriés de la reconnaissance faciale, et pour développer des gardes-fous pour prévenir les abus et les usages inappropriés tant des acteurs publics que privés. 

Certes. Mais cette discussion plusieurs fois posée n’a pas lieu. En 2020, quand la journaliste du New York Times a commencé ses révélations sur Clearview, « l’entreprise qui pourrait mettre fin à la vie privée », le spécialiste de la sécurité, Bruce Schneier avait publié une stimulante tribune pour nous inviter à réglementer la ré-identification biométrique. Pour lui, nous devrions en tant que société, définir des règles pour déterminer « quand une surveillance à notre insu et sans notre consentement est permise, et quand elle ne l’est pas », quand nos données peuvent être combinées avec d’autres et quand elles ne peuvent pas l’être et enfin savoir quand et comment il est permis de faire de la discrimination biométrique et notamment de savoir si nous devons renforcer les mesures de luttes contre les discriminations qui vont se démultiplier avec cette technologie et comment. En France, à la même époque, le sociologue Laurent Mucchielli qui avait fait paraître son enquête sur la vidéosurveillance (Vous êtes filmés, Dunod, 2018 – voir notre compte-rendu de l’époque, désabusé), posait également sur son blog des questions très concrètes sur la reconnaissance faciale : « Quelle partie de la population serait fichée ? Et qui y aurait accès ? Voilà les deux problèmes. » Enfin, les deux professeurs de droit, Barry Friedman (auteur de Unwarranted : policing without permission, 2017) et Andrew Guthrie Ferguson, (auteur de The Rise of Big Data policing, 2017) condamnaient à leur tour, dans une tribune pour le New York Times, « la surveillance des visages » (c’est-à-dire, l’utilisation de la reconnaissance faciale en temps réel pour trouver où se trouve quelqu’un) mais reconnaissaient que l’identification faciale (c’est-à-dire la réidentification d’un criminel, uniquement pour les crimes les plus graves), elle, pourrait être autorisée. Ils y mettaient néanmoins une condition : la réidentification des visages ne devrait pas être autorisée sans décision de justice et sans sanction en cas d’utilisation abusive. Mais, à nouveau, ce n’est pas ce qui s’est passé. La reconnaissance faciale s’est déployée sans contraintes et sans limites. 

Les dénonciations comme les interdictions de la reconnaissance faciale sont restées éparses. Les associations de défense des libertés publiques ont appelé à des moratoires et mené des campagnes pour l’interdiction de la reconnaissance faciale, comme Ban Facial Recognition aux Etats-Unis ou Reclaim your face en Europe. Souvent, ces interdictions restent circonscrites à certains types d’usages, notamment les usages de police et de surveillance d’État, oubliant les risques que font courir les outils de surveillance privée. 

Reste que le débat public sur son implémentation et ses modalités est inexistant. Au lieu de débats de sociétés, nous avons des « expérimentations » qui dérogent au droit, des déploiements épars et opaques (plus de 200 autorités publiques par le monde sont clientes de Clearview qui n’est qu’un outil parmi une multitude de dispositifs plus ou moins efficaces, allant de la reconnaissance faciale, à la vidéosurveillance algorithmique), et surtout, un immense déni sur les enjeux de ces technologies. Au final, nous ne construisons aucune règle morale sur son utilité ou son utilisation. Nous faisons collectivement l’autruche et son utilisation se déploie sans cadres légaux clairs dans un continuum de technologies sécuritaires et problématiques, allant des drones aux technologies de contrôle de l’immigration.

Une histoire de la reconnaissance faciale : entre amélioration par à-coups et paniques morales à chaque amélioration

Dans son livre, Your face belongs to us, Kashmir Hill alterne à la fois une histoire de l’évolution de la technologie et une enquête sur le développement de Clearview.

Sur cette histoire, Hill fait un travail qui met en exergue des moments forts. Elle rappelle d’abord que le terme de vie privée, définit à l’origine comme le droit d’être laissé tranquille par les juristes américains Samuel Warren et Louis Brandeis, était inspiré par la création de la pellicule photographique par Kodak, qui promettait de pouvoir sortir l’appareil photo des studios où il était jusqu’alors confiné par son temps de pause très long. Dans cette longue histoire de la reconnaissance faciale, Hill raconte notamment l’incroyable histoire du contrôle des tickets de trains américains dans les années 1880, où les contrôleurs poinçonnaient les tickets selon un codage réduit (de 7 caractéristiques physiques dont le genre, l’âge, la corpulence…) permettant aux contrôleurs de savoir si le billet contrôlé correspondait bien à la personne qui l’avait déjà présenté. Bien évidemment, cette reconnaissance humaine et basique causa d’innombrables contestations, tant ces appréciations d’un agent à un autre pouvaient varier. Mais la méthode aurait inspiré Herman Hollerith, qui va avoir l’idée de cartes avec des perforations standardisées et va adapter la machine pour le recensement américain, donnant naissance à l’entreprise qui deviendra IBM. 

Hill surfe sur l’histoire de l’IA, des Perceptrons de Marvin Minsky, à Panoramic, l’entreprise lancée dans les années 60 par Woody Bledsoe, qui va être la première, à la demande de la CIA, à tenter de créer un outil de reconnaissance des visages simplifié, en créant une empreinte de visages comme autant de points saillants. Elle raconte que les améliorations dans le domaine vont se faire avec l’amélioration de la qualité et de la disponibilité des images et de la puissance des ordinateurs, à l’image des travaux de Takeo Kanade (dans les années 70, pour l’entreprise japonaise NEC), puis de Matthew Turk qui va bénéficier de l’amélioration de la compression des images. Accusé d’être à la tête d’un programme Orwellien, Turk s’en défendra pourtant en soulignant qu’enregistrer les informations sur les gens qui passent devant une caméra est surtout bénin. A croire que notre déni sur les conséquences de cette technologie remonte à loin.

En 2001, lors du Super Bowl, plusieurs entreprises, dont Viisage Technology et Raytheon, communiquent sur le fait qu’elles ont sécurisé l’accès au stade grâce à la reconnaissance faciale, identifiant 19 spectateurs avec un passé criminel. Viisage a récupéré la technologie de Turk et l’a commercialisé pour des badges d’identification pour entreprises. Ces déploiements technologiques, financés par les agences fédérales, commencent à inquiéter, notamment quand on apprend que des entreprises y ont recours, comme les casinos. Reste que la technologie est encore largement défaillante et peine bien souvent à identifier quiconque.

Mais le 11 septembre a changé la donne. Le Patriot Act permet aux agences du gouvernement d’élargir leurs accès aux données. Joseph Atick, cofondateur de Visionics, une autre entreprise du secteur, propose sa technologie aux aéroports pour rassurer les voyageurs. Il sait que celle-ci n’est pas au point pour identifier les terroristes, mais il a besoin des données pour améliorer son logiciel. Bruce Schneider aura beau dénoncer le « théâtre de la sécurité« , l’engrenage sécuritaire est lancé… Face à ses déploiements, les acteurs publics ont besoin d’évaluer ce qu’ils achètent. Jonathon Philips du National Institute of Standards and Technology (Nist) créée une base de données de visages de très bonne qualité sous différents angles, « Feret », pour tester les outils que vendent les entreprises. Il inaugure un concours où les vendeurs de solutions sont invités à montrer qui parvient à faire le mieux matcher les visages aux photos. En 2001, le premier rapport du Nist montre surtout qu’aucune entreprise n’y parvient très bien. Aucune entreprise n’est capable de déployer un système efficace, mais cela ne va pas les empêcher de le faire. Les meilleures entreprises, comme celle d’Atick, parviennent à faire matcher les photos à 90%, pour autant qu’elles soient prises dans des conditions idéales. Ce qui tient surtout de l’authentification faciale fonctionne également mieux sur les hommes que sur les femmes, les personnes de couleurs ou les jeunes. En 2014, le FBI lance à son tour un concours pour rendre sa base d’images de criminels cherchable, mais là encore, les résultats sont décevants. La technologie échoue dès qu’elle n’est pas utilisée dans des conditions idéales.

En 2006, le juriste de l’ACLU James Ferg-Cadima découvre dans une grande surface la possibilité de payer depuis son empreinte digitale. Face à de tels dispositifs, s’inquiète-t-il, les consommateurs n’ont aucun moyen de protéger leurs empreintes biométriques. Quand son mot de passe est exposé, on peut en obtenir un nouveau, mais nul ne peut changer son visage ou ses empreintes. Le service « Pay by Touch », lancé en 2002 fait faillite en 2007, avec le risque que sa base d’empreintes soit vendue au plus offrant ! Avec l’ACLU, Ferg-Cadima œuvre alors à déployer une loi qui oblige à recevoir une permission pour collecter, utiliser ou vendre des informations biométriques : le Biometric Information Privacy Act (Bipa) que plusieurs Etats vont adopter.

En 2009, Google imagine des lunettes qui permettent de lancer une recherche en prenant une photo, mais s’inquiète des réactions, d’autant que le lancement de Street View en Europe a déjà terni son image de défenseur de la vie privée. La fonctionnalité de reconnaissance faciale existe déjà dans Picasa, le service de stockage d’images de Google, qui propose d’identifier les gens sur les photos et que les gens peuvent labelliser du nom de leurs amis pour aider le logiciel à progresser. En 2011, la fonctionnalité fait polémique. Google l’enterre. 

A la fin des années 90, l’ingénieur Henry Schneiderman accède à Feret, mais trouve que la base de données est trop parfaite pour améliorer la reconnaissance faciale. Il pense qu’il faut que les ordinateurs soient d’abord capables de trouver un visage dans les images avant qu’ils puissent les reconnaître. En 2000, il propose d’utiliser une nouvelle technique pour cela qui deviendra en 2004, PittPatt, un outil pour distinguer les visages dans les images. En 2010, le chercheur Alessandro Acquisti, fasciné par le paradoxe de la vie privée, lance une expérience en utilisant PittPatt et Facebook et montre que ce croisement permet de ré-identifier tous les étudiants qui se prêtent à son expérience, même ceux qui n’ont pas de compte Facebook, mais qui ont été néanmoins taggés par leurs amis dans une image. Acquisti prédit alors la « démocratisation de la surveillance » et estime que tout le monde sera demain capable d’identifier n’importe qui. Pour Acquisti, il sera bientôt possible de trouver le nom d’un étranger et d’y associer alors toutes les données disponibles, des sites web qu’il a visité à ses achats en passant par ses opinions politiques… et s’inquiète du fait que les gens ne pourront pas y faire grand chose. Pour le professeur, d’ici 2021 il sera possible de réidentifer quelqu’un depuis son visage, prédit-il. Acquisti s’est trompé : la fonctionnalité a été disponible bien plus tôt !  

En 2011, PittPatt est acquise par Google qui va s’en servir pour créer un système pour débloquer son téléphone. En décembre 2011, à Washington se tient la conférence Face Facts, sponsorisée par la FTC qui depuis 2006 s’est doté d’une petite division chargée de la vie privée et de la protection de l’identité, quant, à travers le monde, nombre d’Etats ont créé des autorités de la protection des données. Si, suite à quelques longues enquêtes, la FTC a attaqué Facebook, Google ou Twitter sur leurs outils de réglages de la vie privée défaillants, ces poursuites n’ont produit que des arrangements amiables. A la conférence, Julie Brill, fait la démonstration d’un produit de détection des visages que les publicitaires peuvent incorporer aux panneaux publicitaires numériques urbains, capable de détecter l’âge où le genre. Daniel Solove fait une présentation où il pointe que les Etats-Unis offrent peu de protections légales face au possible déploiement de la reconnaissance faciale. Pour lui, la loi n’est pas prête pour affronter le bouleversement que la reconnaissance faciale va introduire dans la société. Les entreprises se défendent en soulignant qu’elles ne souhaitent pas introduire de systèmes pour dé-anonymiser le monde, mais uniquement s’en servir de manière inoffensive. Cette promesse ne va pas durer longtemps…

En 2012, Facebook achète la startup israélienne Face.com et Zuckerberg demande aux ingénieurs d’utiliser Facebook pour « changer l’échelle » de la reconnaissance faciale. Le système de suggestions d’étiquetage de noms sur les photos que les utilisateurs chargent sur Facebook est réglé pour n’identifier que les amis, et pas ceux avec qui les utilisateurs ne sont pas en relation. Facebook assure que son outil ne sera jamais ouvert à la police et que le réseau social est protégé du scraping. On sait depuis que rien n’a été moins vrai. Après 5 ans de travaux, en 2017, un ingénieur de Facebook provenant de Microsoft propose un nouvel outil à un petit groupe d’employés de Facebook. Il pointe la caméra de son téléphone en direction d’un employé et le téléphone déclame son nom après l’avoir reconnu. 

A Stanford, des ingénieurs ont mis au point un algorithme appelé Supervision qui utilise la technologie des réseaux neuronaux et qui vient de remporter un concours de vision par ordinateur en identifiant des objets sur des images à des niveaux de précision jamais atteints. Yaniv Taigman va l’utiliser et l’améliorer pour créer DeepFace. En 2014, DeepFace est capable de faire matcher deux photos d’une même personne avec seulement 3% d’erreurs, même si la personne est loin dans l’image et même si les images sont anciennes. En 2015, DeepFace est déployé pour améliorer l’outil d’étiquetage des images de Facebook. 

En 2013, les révélations d’Edward Snowden changent à nouveau la donne. D’un coup, les gens sont devenus plus sensibles aux incursions des autorités à l’encontre de la vie privée. Pourtant, malgré les efforts de militants, le Congrès n’arrive à passer aucune loi à l’encontre de la reconnaissance faciale ou de la protection de la vie privée. Seules quelques villes et Etats ont musclé leur législation. C’est le cas de l’Illinois où des avocats vont utiliser le Bipa pour attaquer Facebook accusé d’avoir créer une empreinte des visages des 1,6 millions d’habitants de l’Etat. 

Cette rapide histoire, trop lacunaire parfois, semble s’arrêter là pour Hill, qui oriente la suite de son livre sur le seul Clearview. Elle s’arrête effectivement avec le déploiement de l’intelligence artificielle et des réseaux de neurones qui vont permettre à la reconnaissance faciale de parvenir à l’efficacité qu’elle espérait.

Reste que cette rapide histoire, brossée à grands traits, souligne néanmoins plusieurs points dans l’évolution de la reconnaissance faciale. D’abord que la reconnaissance faciale progresse par vague technologique, nécessitant l’accès à de nouvelles puissances de calcul pour progresser et surtout l’accès à des images en quantité et en qualité.

Ensuite, que les polémiques et paniques nourrissent les projets et les relancent plutôt que de les éteindre. Ceux qui les développent jouent souvent un jeu ambivalent, minimisant et dissimulant les capacités des programmes qu’ils déploient. 

Enfin, que les polémiques ne permettent pas de faire naître des législations protectrices, comme si la législation était toujours en attente que la technologie advienne. Comme si finalement, il y avait toujours un enjeu à ce que la législation soit en retard, pour permettre à la technologie d’advenir.  

(à suivre)

En suspendant l’interdiction de TikTok, Trump assure à la plateforme vidéo un court répit, le temps de peaufiner une vente dans une logique de marchandage au service des intérêts de la broligarchie américaine, qui se croit toute puissante. Et il est bien probable que cette logique transactionnelle, soit plus que jamais la logique des années à venir. Dès l’annonce du bannissement de TikTok, nous avions pourtant été prévenus. Que la plateforme soit dépecée ou annihilée, les techbros sont prêts à profiter de l’exode annoncé. Ils avaient d’ailleurs prévus des outils d’éditorialisation vidéo pour accueillir les réfugiés de TikTok, sachant bien, comme le montrait le précédent indien, qui a banni TikTok avant eux, que les grands services américains resteraient les premiers bénéficiaires. Désormais, ils sont assurés de gagner quel que soit la décision finale.

Reste, que TikTok ferme ou soit revendu, le basculement qu’il symbolise vers un internet de vidéos courtes, lui, est là pour rester. Internet est TikTok désormais, rappelle Hana Kiros, même si TikTok disparaît. C’est-à-dire que toutes les grandes plateformes intègrent désormais des vidéos courtes, partout. Tout le monde s’ingéniant à copier le haut niveau d’engagement que le format vidéo qu’à imposé TikTok a produit.

Mais cette transformation n’est pas sans conséquence.

La vidéo plutôt que l’écrit, le charisme plutôt que les faits

“La part des adultes lisant des articles d’actualité en ligne aux États-Unis est passée de 70 à 50 % depuis 2013. La part des Britanniques et des Américains qui ne consomment plus aucun média d’information conventionnel est passée de 8% à environ 30 %. Si le déclin de la presse écrite a surtout été un problème pour les résultats financiers des journaux, le déclin de la consommation de l’information en général est un problème pour la société”, rappelle John Burn-Murdoch pour le Financial Times. Aujourd’hui, les adultes américains de moins de 50 ans sont plus susceptibles de s’informer directement à partir des flux sociaux vidéo que d’un article d’actualité, selon le dernier Digital News Report du Reuters Institute for the Study of Journalism. Des tendances qui sont assez similaires au-delà des seuls Etats-Unis d’ailleurs. Dans un entretien avec le sociologue Dominique Cardon dans le second numéro de la revue de SciencesPo, Comprendre son temps, l’économiste Julia Cagé, rappelait que les bulles de filtres de médias sociaux, ne consistait pas seulement à enfermer les publics à droite ou à gauche, « mais à séparer les publics qui s’intéressent à l’information de ceux qui ne s’y intéressent pas«  et à renforcer ainsi le désintérêt de la vie publique des deniers.

Nous sommes passés d’articles à leurs commentaires en 280 caractères, au détriment du compromis, de la subtilité et de la complexité. Désormais, nous sommes en train de passer aux vidéos courtes, qui prennent le pas sur ce qu’il restait de textes sur les réseaux sociaux, rappelle Burn-Murdoch. Ce pivot ne relègue pas seulement le texte, mais change également la chronologie et le rapport à l’information. Être le premier sur l’actu est devenu bien moins important qu’être engageant. Le charisme risque de prendre le pas sur les faits, s’alarme le Financial Times.

Si les médias sociaux ont cannibalisé les sites d’information, les comptes d’information les plus importants sur ceux-ci étaient encore ceux de journalistes ou d’organes de presse grand public, rappelle-t-il. Dans le monde de la vidéo, ce n’est plus le cas, même pour l’information. Or, le monde de l’influence n’est pas neutre, au contraire. D’autant que les influenceurs ont tendance à être plus de droite et sont globalement anti-établissement. Le développement de l’écoute privée, depuis un podcast plutôt que sur la radio par exemple, a tendance à produire des propos plus fragmentés, plus controversés. Le paysage médiatique de 2025 est très différent de celui de 2004. Il y a fort à parier qu’il ait des impacts sur la politique, estime John Burn-Murdoch, qui voit dans le passage de l’écrit à la vidéo un risque de renforcer le populisme. 

S’inspirer des recettes des influenceurs pour rétablir la confiance dans l’information ?

Charlie Warzel pour The Atlantic dresse un peu le même constat désabusé. Mais plutôt que de désespérer, il convoque en entrevue la journaliste Julia Angwin qui vient de publier un rapport après avoir passé un an à étudier la crise de confiance du journalisme en observant comment les influenceurs produisent de l’information. 

Pour la journaliste, la confiance dans les influenceurs repose sur le fait qu’ils doivent convaincre leur public de leurs capacités, de leur bonne foi et de leur intégrité (même si ces qualités ne sont pas toujours là) quand les médias tiennent cette confiance pour acquise. Ce positionnement différent à un impact sur la façon même de produire du contenu. Les influenceurs vont vous dire qu’ils ont testé 7 fards à paupière pour trouver le meilleur, quand les journalistes disent tout de suite qu’ils ont trouvé le meilleur fard à paupière. “Les créateurs de contenu commencent par la question : lequel est le meilleur ? Et puis ils font leur démonstration aux gens, en énumérant les preuves. Ils ne tirent pas toujours de conclusion, et parfois c’est plus engageant pour un public. Cela renforce la crédibilité.” C’est une sorte de journalisme inversé, semblable à une plaidoirie d’avocat ou à une démonstration scientifique. Sur YouTube, les titres des vidéos comportent souvent des points d’interrogation, relève Angwin. “Ils posent une question, ils n’y répondent pas. Et c’est exactement le contraire de la plupart des titres des rédactions.” 

“Je pense que poser des questions et cadrer le travail de cette façon ouvre en fait un espace pour plus d’engagement avec le public. Cela lui permet de participer à la découverte.” Autre point, les influenceurs sont souvent plus en contact avec leurs publics que les journalistes qui ne sont pas encouragés à le faire. Pour Angwin, “le journalisme a placé de nombreux marqueurs de confiance dans des processus institutionnels qui sont opaques pour le public, tandis que les créateurs tentent d’intégrer ces marqueurs de confiance directement dans leurs interactions avec le public”, par exemple en passant du temps à réagir aux premiers commentaires. Les micro-entreprises des influenceurs semblent plus sympathiques que les conglomérats médiatiques. Les fans apprécient les parrainages de marques, pour autant qu’ils soient transparents. 

Pour Angwin, le public doit pouvoir comprendre les éléments de confiance qui lui sont proposés, par exemple de comprendre d’où vous parlez ou quelle hypothèse vous explorez et ces éléments doivent être accessibles dans l’article ou la vidéo postée, pas seulement dans la marque. La confiance ne repose pas tant sur la neutralité que sur la transparence, rappelle-t-elle. Soit, mais cette explication de gagner la confiance par la forme n’est pas pleinement convaincante. D’autant que la norme de qualité des contenus que produisent les influenceurs est bien plus abaissée qu’élevée par rapport à celle du journalisme traditionnel.

La technologie n’améliore pas la production d’information de qualité

« Le journalisme lutte pour sa survie dans une démocratie post-alphabétisée« , disait récemment le journaliste Matt Pearce. La vérité disparaît pour des raisons macro-économiques, rappelle-t-il. « Le travail de récolte et de vérification des faits présente un désavantage économique majeur par rapport à la production de conneries, et cela ne fait qu’empirer ». « Les nouvelles technologies continuent de faire baisser le coût de la production de conneries alors que le coût d’obtention d’informations de qualité ne fait qu’augmenter. Il devient de plus en plus coûteux de produire de bonnes informations, et ces dernières doivent rivaliser avec de plus en plus de déchets une fois qu’elles sont sur le marché ». La technologie n’améliore pas la production de l’information de qualité. C’est ce qu’on appelle la loi de Baumol ou maladie des coûts. Dans certains secteurs, malgré une absence de croissance de la productivité, les salaires et les coûts augmentent. Cela s’explique par la hausse de la productivité dans les autres secteurs, qui tirent l’ensemble des coûts vers le haut.

Les consommateurs eux-mêmes sont devenus assez tolérants aux conneries. « Ils exigent des médias d’information traditionnels des normes de comportement éthique et précis bien plus élevées que pratiquement toutes les autres sources d’information qu’ils rencontrent, même lorsqu’ils ont commencé à s’appuyer sur ces autres sources d’information plutôt que sur les médias d’information. C’est une bonne chose que les consommateurs exigent du journalisme des normes élevées. Le problème ici est que la barre est abaissée, et non relevée, pour tout le reste. »

Enfin, et surtout, le journalisme écrit notamment périclite et les plateformes elles-mêmes rendent l’écrit de plus en plus difficile à monétiser. Elles y sont même devenu hostiles, que ce soit en valorisant d’autres types de contenus et d’autres types de publication comme les vidéos courtes bien sûr, en dégradant les hyperliens, en multipliant les contenus de remplissages synthétiques ou en s’appuyant sur les contenus générés par les utilisateurs. « Le temps que vous passez à lire un article de magazine est du temps que vous ne passez pas sur les produits Meta à regarder des publicités numériques et à enrichir Mark Zuckerberg ». L’information devient plus chère : pour quelques dollars par mois vous vous abonnez à une lettre sur Substack pour le prix d’un accès à un média avec plusieurs centaines de journalistes. Enfin, bien sûr, les préférences des consommateurs à lire se dégradent. « La destruction de la patience est l’un des changements culturels les plus spectaculaires que nous connaîtrons probablement de notre vie, et il imprègne tout ». Un professeur d’étude cinématographique se désolait même que ses étudiants ne regardent plus vraiment les films. Et ce n’est d’ailleurs pas qu’un phénomène générationnel, précise Pearce : nous passons tous plus de temps sur les plateformes en concurrence avec d’autres formes médiatiques. Le journaliste Vincent Bevins qui évoquait ses efforts pour retrouver le goût de lire, le résumait parfaitement : « les gens qui arrivent dans un café et posent ensuite un téléphone et un livre ensemble sur la table essaient de battre Satan dans un jeu qu’il a conçu. Il est peut-être possible de gagner, mais je n’ai jamais vu cela se produire ».

Coincés dans le populisme des plateformes

Le résultat de tout cela, conclut Pearce, « c’est une aliénation croissante des consommateurs (…) un retour à une sorte de société de contes populaires mûre pour la manipulation par des démagogues qui promettent la simplicité dans un monde de plus en plus complexe« .

La raison de l’aliénation populiste, elle, semble, claire, explique l’historien Brian Merchant. Quand Elon Musk fait un salut nazi en direct à la télévision, c’est une démonstration de puissance et un signal. Alors que le geste est parfaitement lisible par tous, les médias sont nombreux à être dans l’embarras pour le traiter et ont tous tendance à l’édulcorer pesamment. Et c’est cet embarras même qui est la première victoire de Musk et Trump. Les médias traditionnels sont morts, répète sans cesse Elon Musk sur X, « ce véhicule de propagande qui élimine la presse ». Et effectivement, la presse est exsangue. Les grandes entreprises technologiques se sont appropriées ses revenus publicitaires, dictent les conditions de distribution… Le journalisme lutte pour sa survie, comme l’expliquait Pearce, mais sans armes. Celles-ci sont dans les mains des oligarques de la Tech qui étaient tous au premier rang, lors de l’investiture de Trump. Ils ont gagné. Zuckerberg peut mettre au placard sa politique de modération et Google peut générer autant de déchets synthétique qu’il veut. « Il est difficile d’imaginer une agence Trump sévir si une IA ordonne à quelqu’un de manger un champignon vénéneux ». « L’oligarchie technologique est là, et si satisfaite de son étranglement des médias qu’elle peut, sans honte, pavaner dans sa loyauté affichée à Trump ». « Musk possède la plateforme qui dicte sa propre réalité. Il a à peine eu à se défendre, il l’a à peine nié. Il le fera probablement à nouveau. Qui va l’arrêter ? »

Mais est-ce tant Musk aujourd’hui qu’il faut arrêter que les plateformes et leurs modalités d’amplification devenues problématiques qui donnent aux pires idées une audience qu’elles ne devraient pas avoir ?, comme nous le disions plus tôt. Le journaliste David Dufresne a fait un petit test en tentant de créer un nouveau compte sur X : on a l’impression de s’enregistrer sur une plateforme de propagande.

Au prétexte de maximaliser leurs modèles économiques, les plateformes sont en train de basculer vers le pire. Il est effectivement temps de les fuir et ce d’autant plus que c’est bien leur modèle d’engagement et d’amplification qui les conduit à ces extrémités. Et les micro-vidéo promettent surtout une accélération du populisme des plateformes que leur atténuation.

La panique morale de la désinformation sur les réseaux sociaux serait-elle terminée ? C’est ce que suggère Politico. En 2016, quand Trump a emporté l’élection présidentielle américaine ou quand le Brexit l’a emporté au Royaume-Uni, tout le monde a accusé la désinformation et les réseaux sociaux. “S’en est suivi près d’une décennie d’inquiétude face à la désinformation, les législateurs se demandant quelles idées les plateformes de réseaux sociaux devraient autoriser à se propager et se désolant de voir que tout ce débat rongeait irrémédiablement les fondements de la société”. Pour Kelly McBride, chercheuse en éthique des médias au Poynter Institute, cette fois-ci, “personne n’a été trompé en votant pour Trump” – même si c’est peut-être un peu plus compliqué que cela, la différence de 250 000 voix entre Trump et Harris, pouvant aussi s’expliquer par la grande différence d’amplification des discours conservateurs, comme ceux de Musk et Trump par rapport à Harris. La panique de la désinformation a culminé avec le Covid et l’insurrection du 6 janvier 2021 au Capitole. Depuis 10 ans, la désinformation est devenue une obsession des médias et des élites politiques… Mais ce domaine d’études qui s’est démultiplié ces dernières années, est entré également en crise estime un article de la revue de Harvard consacrée au sujet : désinformés sur la désinformation. 

De la difficulté à mesurer la désinformation

Après 10 années de travaux, on a l’impression que l’étude de la désinformation n’arrive toujours pas à répondre à la question fondamentale des impacts réels de la désinformation, comme de ses effets sur les élections ou ses liens avec l’extrémisme et la radicalisation, cinglent les chercheuses, Irene Pasquetto, Gabrielle Lim et Samantha Bradshaw. Une question aussi fondamentale que la définition de la désinformation fait toujours débat et le rôle que joue celle-ci sur la société génère des conversations extrêmement polarisantes. Même la question de savoir si Facebook, X, ou l’ingérence russe ont influencé de manière significative les résultats des élections de 2016 n’est toujours pas tranchée. Pour Kathleen Hall Jamieson, auteure de Cyberwar : How Russian Hackers and Trolls Helped Elect a President: What We Don’t, Can’t, and Do Know (2018), le différentiel de voix dans les Etats clefs entre Clinton et Trump n’était que de 80 000 voix, une différence très faible qui plaide pour que certains messages aient conduits les électeurs démocrates à rester chez eux plutôt que d’aller voter. Pour Thomas Rid, auteur de Active Measures : the secret story of disinformation and political warfare (Mac Millan, 2020), il est peu probable que l’ingérence russe ait eut un effet sur le vote américain. L’étude la plus récente, montre plutôt que l’exposition aux comptes de désinformation russes était fortement concentrée : seulement 1 % des utilisateurs représentaient 70 % des expositions. Que cette concentration a surtout agit sur des comptes républicains que démocrates et que l’exposition aux campagnes d’ingérences russe ne montre pas de changement d’attitude du comportement électoral. Nous serions finalement plus têtus que crédules, comme le disait Hugo Mercier.

Depuis le début la désinformation repose sur le fait que des acteurs malveillants diffuseraient des informations fausses que les gens absorberaient sans le savoir ce qui ferait évoluer leurs croyances et comportements. Depuis le début, l’antidote s’est concentré à corriger les informations, en exerçant une pression sur les médias sociaux pour qu’ils suppriment, signalent ou dépriorisent ces contenus problématiques – sans là non plus apporter beaucoup de preuves que la vérification des faits fonctionne, comme le pointait Nature, en faisant le bilan du fact-checking à l’heure où les plateformes envisagent de l’abandonner (voire également la synthèse qu’en livre le Conseil national du numérique). Le problème était nouveau parce que l’influence des réseaux sociaux était nouveau, explique clairement Politico. Le cœur de la désinformation provenant d’acteurs hostiles, souvent étrangers, polluant le discours public. Les études ont pourtant fini par montrer que la désinformation la plus flagrante n’est généralement consommée que par un petit groupe de personnes très investies et encline au conspirationnisme. La désinformation la plus puissante n’est pas tant diffusée par des trolls anonymes sur Internet, mais provient plus souvent d’acteurs nationaux établis. Enfin, la grande majorité de cette désinformation tient plutôt de bribes de vérité décontextualisées de manière trompeuse et provient bien plus de débats télévisés ou de rassemblements publics que des médias sociaux.

L’absence de modération oriente les discours vers la droite

En fait, explique Politico, les recherches ont donné peu à peu raison aux plus sceptiques sur l’impact de la désinformation. Aux Etats-Unis enfin, les études sur le sujet ont aussi été la cible de poursuites judiciaires nourries, notamment du camp Républicain. Et les grandes plateformes ont peu à peu changé de politique. Alors qu’en 2021 Meta a suspendu le compte de Trump, en 2023, l’entreprise a cessé de supprimer les publications qui reprenaient les déclarations de Trump, avant de rétablir discrètement son profil. En août, Zuckerberg a envoyé une lettre aux Républicains du Congrès exprimant ses regrets que Meta ait cédé à la pression de l’administration Biden pour censurer les contenus liés au Covid-19. “Le dédain d’Elon Musk pour la modération du contenu sur X a également accéléré le changement des normes du secteur et a contribué à ce que d’autres plateformes réduisent la surveillance du contenu.” Tant et si bien que désormais, les rumeurs sans fondements, comme le fait que les immigrants mangeraient des chats, peuvent s’exprimer sans contraintes. “Le discours public du pays s’est déplacé vers la droite, de sorte qu’il n’est plus nécessaire de regarder les espaces marginaux pour entendre des sentiments anti-immigrés, anti-féministes, anti-trans, anti-LGBTQ”, constate Alice Marwick, la directrice de Data & Society. Et le fait de savoir si ce déplacement est dû au réseaux sociaux reste une question ouverte…

A se demander si, plus que d’avoir été résolues, la désinformation et la polarisation ne sont pas devenues plus communes. Déterminer l’impact de la désinformation sur les comportements politiques est une tâche trop ardue, qui ne peut peut-être pas être quantifiée, explique la chercheuse. Pour Marwick, la criminalité des immigrés ou les diffamation sur les femmes qui couchent pour arriver sont des récits qui persistent depuis des millénaires. “Beaucoup de ces choses persistent, non pas parce que l’information elle-même est vraie ou fausse, mais parce qu’elles correspondent à la compréhension commune des gens sur le fonctionnement du monde”. En 2016, l’analyse se concentrait sur les bots russes et la technologie, explique le professeur de journalisme Reece Peck. La persuasion tient bien plus du charisme, estime-t-il après avoir étudié l’impact des médias alternatifs. Le célèbre podcasteur américain Joe Rogan ne peut pas être battu par la qualité de l’information qu’on pourrait lui opposer. L’idée selon laquelle la qualité de l’information et des faits permet de mettre à mal la désinformation ne fonctionne pas.

Sur Tech Policy Press, la jeune chercheuse Sydney Demets, tente de comprendre pourquoi les podcasts conservateurs sont devenus si persuasifs. La voix, la proximité, la confidence, l’authenticité… génèrent une forme d’intimité et de confiance avec les animateurs. Leur longueur permet également de répéter et d’infuser les convictions des animateurs au public, de plaisanter, sur un ton intime et personnel qui paraît plus authentique que les échanges impersonnels et plus courts que l’on trouve à la radio. Même les blagues racistes permettent de donner l’impression d’être plus authentique que les propos policés des médias traditionnels. Malgré les politiques des plateformes, comme Apple ou Spotify, même les podcasts connus pour leur rhétorique violente ne sont pas modérés. En fait, les propos problématiques n’ont aucune répercussions. Le succès des podcasts s’explique certainement bien plus par le fait qu’ils sont un espace où la modération ne s’applique pas. On comprend alors que toutes les autres plateformes oeuvrent à la limiter, pour bénéficier d’une amplification sans frein et des revenus qui vont avec.

Ce n’est pas la désinformation qui est terminée, mais bien les modalités de sa contention. Peut-être qu’en cherchant la vérité à tout crin, nous nous sommes trompés de cible ? La réponse à la question tient peut-être bien plus à limiter l’amplification que produisent les plateformes qu’à contrôler la vérité ! Mais là non plus, nous n’avons pas encore trouvé les éléments pour limiter l’amplification, contraints par des modèles économiques qui ne cessent de la sublimer. De l’amplification des propos les plus polémiques à la fortune des milliardaires, on a décidément beaucoup de mal à limiter la démesure.

Ajout du 24/01/2025 :

« Les technologies à travers lesquelles nous voyons le public façonnent ce que nous pensons qu’il est »

Dans son excellente newsletter, Henry Farrell propose une explication éclairante sur la désinformation dans les médias sociaux. Pour lui, nous avons tendance à penser la démocratie comme un phénomène qui dépend des connaissances et des capacités individuelles des citoyens quand il s’agit avant d’un problème collectif. Nous voulons des citoyens sages, bien informés et disposés à réfléchir au bien collectif. Mais les citoyens individuellement sont partiaux et peu informés, ce qui donne du crédit à une thèse élitiste et anti-démocratique, qui valorise les élites bien informées sur tous les autres, alors qu’ils sont tout aussi partiaux que les autres. Aider les individus à voir les angles morts de leurs raisonnements individuels ne suffira pas. « Ce dont nous avons besoin, ce sont de meilleurs moyens de penser collectivement », comme le défendaient Hugo Mercier, Melissa Schwartzberg et Henry Farrell dans un article de recherche, qui rappelle qu’une grande partie des travaux sur les biais cognitifs humains suggère que les gens peuvent en fait penser beaucoup mieux collectivement qu’individuellement et qui invite à s’intéresser « aux publics démocratiques ». Le problème, c’est que nous ne savons pas ce que tous les citoyens veulent ou croient. D’où le fait que nous ayons recours à des technologies représentatives plus ou moins efficaces, du vote aux sondages. Mais, ces systèmes ne sont pas que des mesures passives : ils rétroagissent sur les publics, c’est-à-dire que les publics sont aussi façonnés par les technologies qui les représentent. « Les technologies à travers lesquelles nous voyons le public façonnent ce que nous pensons qu’il est » et en retour cela façonne notre comportement et notre orientation politique. X ou Facebook sont profondément des outils pour façonner les publics et nos regards sur ceux-ci.

Pour le comprendre, Farrell donne un exemple éclairant. Dans un article de 2019 de Logic Mag, Gustavo Turner évoquait la pornographie sur internet. Il y expliquait que la présentation et la perception que nous avons de la pornographie est façonnée par les algorithmes, mais que ceux-ci sont plus orientés pour valoriser ce pour quoi les publics sont prêts à payer que ce que les gens veulent voir. Les entreprises de pornographie se concentrent sur leurs clients plus que sur le public, et ce sont les goûts des clients qui façonnent les plateformes. Cela a pour résultat de sur-représenter certaines pratiques sur d’autres, non pas parce qu’elles sont les plus populaires auprès des consommateurs, mais parce qu’elles sont plus susceptibles de convertir le public en clients payants. Ce qui, en retour, à des effets sur le public, par exemple les adolescents, leur apportant une vision très déformée de ce qu’on peut considérer comme des pratiques sexuelles communes. Ce qui produit une vision très déformée de leur réalité. L’exemple permet de comprendre que les perspectives collectives qui émergent des médias sociaux – notre compréhension de ce que le public est et veut – sont façonnées de la même manière par des algorithmes qui sélectionnent certains aspects du public tout en en mettant de côté d’autres. « Le changement le plus important concerne nos croyances sur ce que pensent les autres, que nous mettons constamment à jour en fonction de l’observation sociale que nous faisons ». Musk déforme X pour qu’il serve ses intérêts. « Le résultat est que X/Twitter est un Pornhub où tout est tordu autour des défauts particuliers d’un individu spécifique et visiblement perturbé ». Rien de tout cela n’est un lavage de cerveau du public, explique Farrell. Mais on comprend bien comment les orientations économiques façonnent l’amplification. 

De même, on peut se demander si la polarisation croissante de genre que l’on constate en France comme ailleurs, n’est pas – aussi – un effet de l’exploitation du genre par les plateformes sociaux-publicitaires, comme le suggérait très pertinemment Melkom Boghossian pour la Fondation Jean Jaurès. « La demande de masculinité et de féminité est extrêmement facile à stimuler une fois qu’elle a été ciblée chez les individus. Elle devient une source inépuisable de suggestions de contenus, de formation de l’image du monde et, à terme, de redéfinition des comportements ». Avec le risque est celui d’un renforcement des représentations de genres à l’heure où beaucoup souhaiteraient s’en libérer, c’est-à-dire qu’il devienne impossible de se libérer des contraintes de genres à mesure que nos outils les exploitent et les renforcent.

Comme nous le disions dans la précédente partie de notre dossier sur la surveillance au travail, les technologies numériques ont permis une expansion sans précédent du volume et du type de données collectées sur les travailleurs. La capacité à les analyser permet aux employeurs de tirer d’innombrables conclusions sur la productivité de leurs salariés… 

Pourtant, concrètement, ces analyses sont bien souvent problématiques quand ce n’est pas défaillantes. En rendant fonctionnelles les statistiques, les indicateurs rétroagissent sur les comportements. La granularité et l’individualisation des métriques permettent de multiplier et d’accroître les pressions au travail, tous les dysfonctionnements étant renvoyés aux pratiques individuelles, « faisant peser toutes les contraintes sur le plus petit et le plus faible maillon de la chaîne », comme l’explique la sociologue Karen Levy dans son livre. Enfin, parce que dans le contexte du travail, les connaissances acquises par les données réorganisent et renforcent d’abord des déséquilibres de pouvoirs majeurs. La régulation de la surveillance n’arrive pas à limiter la recherche de l’amélioration de la production que la surveillance vise à faire advenir. Nous sommes confrontés à une surveillance qui se démultiplie sans parvenir à renforcer les protections légales des travailleurs, seules à même de les protéger d’une exploitation renforcée. 

La lutte contre la surveillance devrait nous mobiliser

« Des caméras alimentées par l’IA qui suivent l’attention des camionneurs aux scanners portables qui surveillent la vitesse d’emballage et de tri des colis des employés des entrepôts d’Amazon, en passant par les logiciels de vidéoconférence qui surveillent les conversations des employés pendant les réunions, dans de nombreux secteurs les entreprises utilisent de plus en plus d’outils automatisés pour collecter des données sur les travailleurs, puis utilisent ces données pour prendre des décisions automatisées sur les tâches et les horaires des travailleurs, les salaires, les promotions, la discipline et même les licenciements », explique le politologue Alexander Hertel-Fernandez sur le blog du LPE Project. Hertel-Fernandez est l’auteur d’une étude sur le management automatisé et la surveillance des travailleurs qui montre que les 2/3 des travailleurs Américains sont sous surveillance sur leur lieu de travail. Cette surveillance est désormais aussi commune pour les cols bleus que pour les cols blancs. Bien qu’elle soit souvent invisible, masquée sous les outils numériques que tous utilisent au quotidien, elle n’est pas sans conséquences : elle a un impact sur la santé et la sécurité des travailleurs.

Pour le chercheur, la montée de la surveillance nécessite d’établir des protections adaptées qui devraient recevoir du soutien de tous les travailleurs, tant celle-ci transcende les classes sociales, les professions et les secteurs. Les organisations du travail ont largement documenté comment cette surveillance érode les droits à l’action collective, intensifie les rythmes de travail, discrimine les femmes, les travailleurs âgés ou les travailleurs handicapés. Le problème pourtant, c’est que le régulateur manque de données sur cette surveillance, d’où l’importance de son enquête. Celle-ci montre d’ailleurs, que le facteur prédictif principal de l’adoption de la surveillance électronique est la taille de l’entreprise : plus l’entreprise est grande, plus la surveillance est intense et variée. L’étude montre également que plus les travailleurs sont soumis à une surveillance intensive, plus l’anxiété grimpe, notamment parce que l’intensité de la surveillance signifie d’abord une intensification des cadences. Ce couplage intensification/anxiété se retrouve dans tous les secteurs, et pas seulement les plus documentés, comme la logistique ou l’industrie. Enfin, les effets négatifs sur la santé et le bien être sont plus forts là où la surveillance est mobilisée pour renforcer la discipline et limiter l’expression. Pour le chercheur, ces résultats suggèrent que ce n’est pas nécessairement la surveillance qui est problématique, mais la manière dont elle est utilisée par le management. Parmi les mesures à prendre pour rétablir l’équilibre, le politologue suggère d’améliorer la transparence de la surveillance, des indicateurs de productivité et des quotas. Mais si le problème est l’intensité de la surveillance, la documenter ne suffira pas à la faire refluer. 

L’impossible transparence de la surveillance

Pourtant, c’est à l’exact inverse que l’on assiste. La surveillance et ses indicateurs relèvent partout d’une opacité qui ne cesse de se renforcer, comme pour toujours mieux s’invisibiliser, à l’image des calculs d’Uber qui ne cessent d’évoluer pour échapper à la documentation comme à la régulation. En 2020, les livreurs de la plateforme Shipt, qui appartient à la chaîne de grande distribution américaine Target, ont vu leurs salaires s’effondrer. Ils ont alors créé un outil pour comprendre l’évolution de l’algorithme, expliquait la chercheuse Dana Calacci pour IEEE Spectrum, qui rappelle que l’asymétrie d’information est un moyen de contrôle (et ce d’autant que ces travailleurs indépendants, par contrat, n’ont pas de droits sur les données). Les livreurs ont utilisé les résultats de l’Observatoire des algorithmes des travailleurs, qui corroboraient l’effondrement de rémunération constaté, pour appuyer leurs revendications pour un salaire minimum garanti. Dans un rapport, le Worker Info Exchange estime que les applications de covoiturage et de livraisons devraient être contraintes de publier des données sur la charge de travail des chauffeurs et les rémunérations, d’autant que le déficit de données actuel pourrait même dissimuler d’importants vols de salaires (et pas seulement des pourboires). Des exemples qui rappellent qu’il n’y a pas d’alternative à la transparence des données, ce qui n’empêche pas celle-ci de continuer à échapper à tous. Accéder aux données reste le premier levier pour observer la surveillance et la limiter.

L’année dernière, le LPE Project avait publié plusieurs articles pour questionner les limites de la surveillance. La chercheuse Karen Levy y montrait que non seulement la surveillance s’opacifie, mais que les autorités en favorisent l’extension, plutôt que de chercher à la contraindre et à la limiter. La sociologue parle d’ailleurs « d’interopérabilité de la surveillance » pour pointer la compatibilité des différentes formes de surveillance, que ce soit celle des autorités de contrôle, comme celle des employeurs ou celle des tiers auxquels les employeurs accordent des accès. 

L’extension, l’intensification et l’élargissement de la surveillance se fait au détriment des employés, pris en tenaille par de nouvelles injonctions liées aux objectifs multiples et contradictoires de tous ceux qui ont accès aux données produites par ces surveillances. Les surveillances “gouvernementales, patronales et commerciales” se superposent pour créer de nouvelles rigidités au travail. Le problème est que cette conjonction d’objectifs complémentaires laisse peu d’espace aux travailleurs pour résister à ces pressions concomitantes, pour résister à “un régime de surveillance supérieur à la somme de ses parties”. La surveillance est d’autant plus opaque qu’elle sert les intérêts de trop d’acteurs pour devenir transparente. Cette surveillance alimente en données des acteurs avec lesquels les entreprises ont des partenariats commerciaux, comme leurs clients. Mais pas seulement. Outre la police et les services sociaux, de plus en plus d’intermédiaires de données tentent d’en tirer profit, à l’image de services de crédits qui proposent des avances sur salaires aux employés. 

La surveillance produit les cadences, modifie les conditions d’emploi

La spécialiste de l’économie des plateformes, Sarrah Kassem , auteure de Work and Alienation in the Platform Economy: Amazon and the Power of Organization, expliquait quant à elle que les travailleurs des entrepôts d’Amazon sont dépendants d’un « régime de productivité algorithmique », qui les pousse à respecter des taux « d’unités par heure », c’est-à-dire rien d’autre que des cadences, imposées par les tâches, les volumes, et les moyennes productives des autres employés auxquelles chacun est comparé. Si les solidarités collectives et les résistances sont possibles, elles sont rendues très difficiles, du fait des innombrables types de contrats qui se rencontrent dans les entrepôts (fixes, intérimaires, sous-traitants, indépendants… avec des horaires fluctuants…) et des manœuvres anti-syndicales d’Amazon. 

Dans les chaînes de production numériques hyper-taylorisées du Mechanical Turk d’Amazon par contre, la surveillance, elle, est totale. La grande précarité du travail et l’absence de relation avec les autres travailleurs rend l’organisation collective encore plus compliquée, même si, à l’initiative des travailleurs, des espaces alternatifs de solidarité et de lutte ont parfois réussi à émerger. Pour le chercheur Reed Shaw, qui s’est lui aussi intéressé aux entrepôts d’Amazon, la surveillance modifie les conditions d’emploi. Si le taux de blessure y est deux fois supérieur à la moyenne nationale, c’est que l’unité de mesure du travail d’Amazon, focalise sur le temps pendant lequel les travailleurs sont inactifs entre deux colis scannés. Le nombre d’unités traitées par heure favorise l’intensification du travail qui génère en réponse une augmentation du risque de blessure et d’accident. Pour Shaw, c’est l’intensification que le taylorisme numérique produit le coupable : c’est donc sur la régulation des cadences qu’il faut pouvoir agir. D’autant que les systèmes de mesures ne s’adaptent pas à certains types d’employés, comme les femmes enceintes ou les travailleurs handicapés, qui sont encore plus sévèrement punis par les systèmes qui évaluent les cadences sans aménagements. Pour Shaw, “la surveillance généralisée des employés devrait être considérée comme modifiant le contexte de l’emploi d’une manière qui menace un large éventail de lois et de protections du droit du travail”. 

Vers une surveillance sans échappatoire

Pour le professeur de droit Matthew Bodie, co-auteur de Reconstructing the Corporation: From Shareholder Primacy to Shared Governance, la surveillance des employés procède d’une nouvelle collecte de données et propose une nouvelle création de valeur permettant aux employeurs de tirer une nouvelle valeur de la relation de travail, explique-t-il, sans qu’il n’y ait de recours ni de droits pour les travailleurs fournisseurs de données, ni de modalités pour exercer leur pouvoir collectifs sur ces données. Pour Bodie, la frontière traditionnelle entre les informations de travail et les informations personnelles, est en train de devenir totalement floue. Toutes sortes d’informations personnelles peuvent désormais être convoquées comme “pertinentes” pour évaluer la performance individuelle au travail : notre santé, nos relations avec nos collègues, nos opinions politiques, notre consommation de caféine, notre disposition au conflit… (sans que cette “pertinence” ne soit jamais évaluée, comme le soulignaient les chercheurs Mona Sloane, Rumman Chowdhury et Emmanuel Moss dans un excellent article qui dénonçait la prétention à la connaissance des systèmes). La réponse instinctive à ce problème consisterait à renforcer la protection de la vie privée sur les lieux de travail, mais cette réponse ne convainc pas Bodie, notamment parce qu’il suffit d’un pseudo consentement imposé dans une relation de travail par nature déséquilibrée pour vider ce renforcement de sa substance. 

“La relation aux données ne cesse de devenir de plus en plus déséquilibrée”, constate le chercheur. C’est par les données sur les chauffeurs et leurs clients que les entreprises de covoiturage fixent les prix et affectent les chauffeurs, sans que les conducteurs puissent avoir la main sur ce qui leur est soustrait. Bodie est pessimiste : désormais, “la relation de travail nécessite un flux de données trop important pour espérer ne jamais l’arrêter”. Selon lui, les travailleurs ont besoin de plus de droits sur leurs données et leur utilisation, à l’image de ceux que déploient le RGDP en Europe (comme le droit de limitation des finalités ou les droits d’opposition à certains types de prise de décision automatisée). Reste pourtant à trouver les modalités d’action collectives. Ici, Bodie dresse un comparatif avec l’hypersurveillance des athlètes de haut niveau, qui, malgré la démultiplication d’information sur leurs performances, gardent des droits sur leurs données voire des voix collectives pour négocier la portée de la collecte de données par les équipes. Les organisations syndicales devraient avoir la capacité de négocier avec les employeurs par l’accès aux données et leur partage – mais seulement 6% des employés du secteur privé sont syndiqués aux États-Unis. Les travailleurs sans représentation collective n’ont donc aucune perspective de pouvoir collectif sur la collecte. D’autres structures organisationnelles pourraient également faire levier, allant de l’actionnariat salarié aux coopératives de plateformes, en passant par la codétermination…  et invite à imaginer des “conseils de données” habilitées à examiner toute collecte ou utilisation de données des employés. “Nous devons donner aux travailleurs la possibilité d’avoir leur mot à dire dans la gestion des données et les droits sur les données qu’ils fournissent.” Oui ! Mais là encore la contribution ne trouve pas le levier de cette activation. 

On pourrait croire à lire ces billets, que le RGPD est l’alpha et l’omega de la solution. C’est oublier pourtant, comme le rappelle son intitulé complet, que celui-ci n’est pas qu’une protection vis-à-vis du traitement des données à caractère personnelles, mais qu’il organise également leur libre circulation, sous conditions.

Les calculs sont surtout opaques pour invisibiliser leurs incohérences et  renforcer leur opacité

Ce que ces billets disent assez imparfaitement, c’est ce que change cette surveillance, ses impacts et les modalités de cet impact. Ce qui se joue dans le renforcement de la surveillance au travail est pourtant très fort au niveau RH et plus encore au niveau de la question salariale. Les données sont de plus en plus utilisées pour produire des indicateurs de performances souvent problématiques sur de plus en plus d’employés, comme s’en émouvait un article du Washington Post prédisant l’arrivée du licenciement algorithmique. La surveillance a un impact direct sur l’employabilité, le recrutement et sur la rémunération. C’est ce qu’expliquait dans un autre billet du LPE Project la professeure de droit Veena Dubal. Dans le monde des plateformes de livraison ou de transport, la rémunération n’est pas fixe. Elle est à la fois “imprévisible, variable et personnalisée”. En cas de forte demande par exemple, les prix des courses vont augmenter et les revenus des coursiers également. Mais il n’y a pas que cette tension entre l’offre et la demande qui explique les variations, et même quand c’est cette explication qui domine, les variations demeurent incohérentes. En fait, la rémunération algorithmique n’est pas du tout une forme applicative et parfaite du marché, comme elle voudrait nous le faire croire. Au contraire.

Les incohérences sont nombreuses, explique Dubal. Parfois vous pouvez obtenir une prime si vous acceptez un trajet supplémentaire, mais bien souvent cette prime n’est pas proposée à un collègue qui a le même historique de circulation. La modularité des incitations de ce type varie sans arrêt, sans que les travailleurs ne parviennent à comprendre leur logique. A l’inverse, vous pouvez attendre ce trajet et cette prime liée à un certain nombre de courses à accomplir, sans que l’algorithme ne vous donne de course, alors que d’autres conducteurs en obtiennent. Le problème, c’est que tout cela n’est pas une question de marché, de malchance ou de hasard, mais bien le résultat d’un calcul. La manipulation des données des conducteurs permet de leur faire croire que les variations de leurs rémunérations tiennent d’un Casino, expliquait dans Fortune Stephanie Vigil, conductrice pour DoorDash, qui rappelle par exemple que les pourboires que les clients donnent ne sont pas attribués directement à leurs livreurs, mais obscurcies par les plateformes pour que les chauffeurs ne privilégient pas les courses avec pourboire. Pour elle, les conducteurs doivent récupérer l’accès à leurs données, comme le défend l’association DriverRights. Les bas salaires et les pourboires sont devenus la règle chez les plateformes de livraison de nourriture, rappelait Inayat Sabhikhi de One Faire Wage dans Points, l’année dernière, rappelant qu’elles ont toutes pratiqué le vol de pourboires et que toutes les organisations réclament désormais la transparence sur ceux-ci… sans l’obtenir. 

La surveillance pour produire des discriminations

De plus en plus de travailleurs du transport et de la logistique sont confrontés à un salaire constamment fluctuant lié à la gestion algorithmique du travail, explique encore Dubal. “Dans le cadre de ces nouveaux régimes de rémunération, les travailleurs perçoivent des salaires différents – calculés à l’aide de formules opaques et en constante évolution reflétant l’emplacement, le comportement, la demande, l’offre et d’autres facteurs de chaque conducteur – pour un travail globalement similaire.” Le problème de ces situations, n’est pas seulement celui d’une rémunération variable basée sur la performance, mais la conjonction de cette variabilité avec une autre : celle de la répartition du travail basée non seulement sur le comportement des travailleurs, mais également sur d’autres critères liés eux à la profitabilité que le calcul opère pour l’entreprise entre tous les critères. Elle produit une “discrimination salariale algorithmique” (voir également son papier de recherche) qui permet aux entreprises de personnaliser et différencier les salaires d’une manière inconnue à ceux que ce calcul impacte, en les payant pour qu’ils se comportent de la manière dont l’entreprise le souhaite, à la limite de ce qu’ils sont disposés à accepter. L’asymétrie d’information laisse à l’entreprise toute latitude d’ajustement. Enfin, “la discrimination salariale algorithmique crée un marché du travail dans lequel des personnes qui effectuent le même travail, avec les mêmes compétences, pour la même entreprise, en même temps, peuvent percevoir une rémunération horaire différente”, le tout via un système obscur qui ne permet ni de prédire ni de comprendre sa rémunération. 

Pourtant, rappelle la chercheuse, les lois internationales du travail rappellent qu’à travail égal salaire égal, et que les entreprises ne peuvent pas introduire de règles nouvelles ou opaques pour obscurcir le calcul du salaire. “Si un mineur devait être payé en fonction de la quantité de charbon qu’il extrayait, la société minière ne pouvait pas peser le charbon après l’avoir fait passer à travers un tamis”. Pourtant, c’est ce que font les calculs algorithmiques. Ils ruinent les logiques d’équité, notamment parce que le salarié ne peut pas connaître les critères que l’entreprise a déterminé pour évaluer son travail ou le planifier, et que le calcul rend le salaire de chaque personne différent, même si le travail est le même au même moment, comme c’est le cas entre les conductrice et les conducteurs d’Uber : les femmes gagnant 7% de moins que les hommes. 

En plus de saper l’équité salariale, la rémunération algorithmique est sans cesse changeante, ce qui fait que des pratiques rémunératrices peuvent ne plus le devenir d’une manière qui semble aléatoire au travailleur, alors qu’elles sont calculées. Les conducteurs parlent d’une “mécanique de casino”. Pour la chercheuse, le fait de reconnaître les coursiers comme des salariés ou de fixer des prix planchers pourraient améliorer les choses bien sûr. Mais la rémunération variable automatisée nécessite, elle, une réglementation supplémentaire. La contre-collecte de données (organisés par les travailleurs indépendants pour documenter les algorithmes auxquels ils n’ont pas accès, à l’image de ce que le Worker Info Exchange a mis en place pour et avec les chauffeurs d’Uber) ou les appels à une plus grande transparence des calculs oeuvrent dans le bon sens, mais sont également insuffisants. La chercheuse invite à aller plus loin via une “abolition de l’extraction de données au travail”. L’extraction de données au travail n’est pas nécessaire à la gestion du travail, rappelle-t-elle en invitant à en finir avec le calcul algorithmique au travail. Radical ! 

Réguler le croisement de données

Sans être aussi radical qu’elle, il me semble que le problème, ici, tient du fait que nous sommes en train d’autoriser des croisements de données qui ne devraient pas l’être. A l’ère de l’Intelligence artificielle, les entreprises ont intégré l’idée que pour améliorer leurs calculs, elles devaient disposer de toujours plus de données et que de leurs croisements sortiront des indicateurs de performance toujours plus optimaux. Mais on ne s’est jamais posé la question de savoir si certains croisements n’étaient pas souhaitables, voire contraires à l’esprit du droit du travail. Que se passe-t-il quand le calcul du salaire est corrélé au planning afin d’optimiser les deux, voire l’un plus que l’autre, comme le montrait le scandale Orion à la SNCF, où dans les entrepôts du hub logistique néerlandais, où les informations de planning sont corrélées avec le calcul de primes, pour les limiter. C’est typiquement ce que montre Veena Dubal quand elle souligne que la prime devient inaccessible à un chauffeur parce que son obtention vient en conflit avec l’objectif de réduction des coûts que programme également le système d’Uber. Pour ma part, il me semble qu’à l’heure où l’on promet de pouvoir croiser toutes les données les unes avec les autres, il est temps de se demander quelles données RH ne doivent pas être croisées entre elles. Pour poser la question des limites à la surveillance, il est nécessaire de regarder ce que produit l’interconnexion de ces données et de montrer qu’il y a des croisements de données, des calculs qui ne devraient pas être possibles. A l’heure où les entreprises partent du principe que toutes les données sont associables pour produire de meilleurs calculs et de meilleurs indicateurs, la piste qui n’est jamais évoquée dans cette libération des calculs, c’est la régulation de leurs croisements. Peut-être que certains croisements ne devraient pas être rendus possibles, parce qu’ils transforment profondément l’esprit de la loi qui régit le code du travail. En tout cas, à l’heure où tous les croisements de données sont autorisés, nous interroger sur ce qui ne devrait pas être corrélé est assurément un exercice qui pêche par son absence.

Pas de transparence sans lutte sociale

En fait, les appels à la transparence se démultiplient sans être suivis d’effets, d’abord parce que le régulateur n’incite pas à la transparence, mais surtout, parce qu’à elle-seule, la transparence ne suffit pas à produire le progrès social.  

En septembre, la Stanford Social Innovation Review publiait un dossier sur les questions de technologies au travail. Parmi les contributions, celle de Christina Colclough et Kate Lappin revenait sur la nécessité de se mobiliser pour que le développement technique au travail soit plus maîtrisé qu’il n’est (on avait déjà rencontré les stimulantes réflexions de Christina Colclough en défense de l’algogouvernance). « Les systèmes numériques au travail sont souvent présentés comme augmentant l’efficacité et la productivité et rendant les décisions plus neutres, en supprimant la subjectivité humaine. Mais trop souvent, les algorithmes reproduisent et intensifient les inégalités et les préjugés, conduisent à une demande croissante de productivité des travailleurs et utilisent les données des employés de manière à la fois opaque et abusive. Aujourd’hui, les travailleurs n’ont aucune idée des données qui sont collectées par devers eux ni de la manière dont elles sont utilisées pour évaluer leurs performances, alors que des jugements sont souvent effectués par des systèmes automatisés tiers, dont les fonctionnements ne sont jamais explicités ». Alors que les cas problématiques documentés sont nombreux, la même cause produit les mêmes effets : « lorsque les travailleurs n’ont pas accès aux algorithmes utilisés par les employeurs, il est presque impossible de prouver qu’il y a eu discrimination ». La transparence en matière de salaires et de conditions de travail est censée être la règle, mais les systèmes numériques propriétaires sapent ce principe. 

Pour l’améliorer, plusieurs initiatives sont mobilisables, comme la formation en négociation sur la numérisation dispensée par le syndicat Public Service International ou encore le guide de la gouvernance des systèmes algorithmiques au travail du Why Not Lab, le cabinet de conseil de Colclough, qui permet aux syndicats d’adresser des questions aux directions sur les systèmes utilisés ou encore la clause du droit d’entrée numérique que les syndicats proposent d’introduire dans les conventions collectives, afin que les technologies utilisées par les employeurs soient mieux documentées. Les deux autrices défendent une gouvernance inclusive des systèmes avec ceux qui sont affectés par eux. Le Community and Public Sector Union australien qui représente les travailleurs qui gèrent le système de protection sociale a négocié avec succès un ensemble de clauses dans sa nouvelle convention collective pour permettre aux travailleurs sociaux de dénoncer des utilisations d’algorithmes contraire à l’éthique, afin qu’à l’avenir un scandale comme celui du robot-dette (un programme gouvernemental qui a envoyé des demandes de remboursement de dettes à plus de 400 000 bénéficiaires de prestations sociales) ne puisse plus être possible. Reste, rappellent les deux chercheuses et militantes, qu’aucun des progrès obtenus par des travailleurs n’a été obtenu facilement : tous sont le résultat d’une lutte soutenue, et celle-ci doit désormais se faire jusqu’aux outils numériques !

Un autre article sur la surveillance des lieux de travail, explique que celle-ci n’a plus du tout comme enjeu le déploiement de caméras de surveillance. La surveillance des cadences et des comportements est désormais l’objet d’innombrables dispositifs embarqués… La pandémie a favorisé l’essor de systèmes de surveillance, comme le montrait un rapport de Data & Society sur « le patron perpétuel ». Le rapport de Coworker sur le déploiement des « petites technologies de surveillance », mais omniprésentes (qu’on évoquait dans cet article) rappelait déjà que c’est un essaim de solutions qui se déversent désormais sur les employés. A l’image des outils de surveillance des postures comme StrongArm ou Modjul qui commencent à coloniser les entrepôts de Walmart et d’Amazon et qui transforment la question de la sécurité au travail en score que les employés doivent respecter. 

Les conséquences sont diverses : augmentation de la discrimination, de la surveillance, atteintes à la vie privée et aux droits d’organisation collective, marchandisation des données, impossibilité de se déconnecter… « La surveillance n’est pas simplement une pratique commerciale invasive, mais un principe opérationnel visant à contrôler les travailleurs et à optimiser les profits ». 

Le Bossware : « une pratique commerciale déloyale »

Avec sa verve à nulle autre pareille, Cory Doctorow explique que les logiciels du patronat sont aussi défaillants que l’a été la gestion scientifique du travail inventée par « l’escroc » Frederic Taylor. Taylor a fait croire aux riches industriels qu’il pouvait augmenter la productivité des ouvriers en « transformant leur travail en une sorte de kabuki de l’obéissance ». Les employés n’étaient pas plus efficaces, mais avaient l’air plus obéissants, ironise-t-il, à la plus grande satisfaction de leurs patrons. Les employeurs ont pourtant bien remarqué que leurs revenus ne s’amélioraient pas avec le taylorisme, mais Taylor leur a fait croire que c’était parce que cette gestion scientifique n’était pas encore assez aboutie. « Plus ses conseils étaient mauvais, plus il y avait de raisons de le payer pour plus de conseils ». « Le taylorisme est une arnaque parfaite pour les riches et les puissants. Il alimente leurs préjugés et leur méfiance envers leurs employés, et leur confiance mal placée en leur propre capacité à comprendre le travail de leurs employés mieux que leurs employés. » 

Ce management scientifique du travail est désormais disponible sous formes d’innombrables applications, explique Doctorow. C’est ce qu’on appelle le « bossware », le matériel du patron. « Les travailleurs indépendants sont au cœur du bossware ». Alors que le travailleur indépendant rêve de devenir son propre patron, il est en fait totalement dépendant d’un téléphone qui le surveille et le discipline en continue. Et l’IA vient renouveler cette bulle du bossware, qui continue à venir convaincre les patrons que l’IA va pouvoir faire votre travail à votre place, comme il a été convaincu que la gestion scientifique du travail allait améliorer la productivité. 

Pour Alvaro Bedoya, commissaire à la Commission fédérale du travail américaine (FTC) qui s’intéresse à la protection des travailleurs, cette gestion algorithmique du travail devrait être considérée comme illégale, explique-t-il dans une stimulante défense. En moyenne, rappelle ce dernier, un employé d’un centre d’appels est soumis à au moins 5 formes de surveillance qui pèsent sur lui, le dénigrent et ne tolèrent aucune discussion. A savoir, une surveillance vidéo sous IA, une surveillance vocale sous IA qui prétend mesurer leur empathie, une IA qui chronomètre leurs appels, une autre qui analyse les sentiments durant l’appel et une dernière qui évalue la réussite des employés à atteindre des objectifs arbitraires. Bedoya estime que ces surveillances pourraient être qualifiées de pratiques commerciales déloyales… Prouver une pratique commerciale déloyale nécessite de démontrer qu’elle cause un « préjudice substantiel », qu’elle ne peut pas être « raisonnablement évitée » et qu’elle n’est pas corrigée par un « avantage compensatoire ». Dans son discours, Bedoya fait valoir que la gestion algorithmique du travail satisfait à ces trois critères… et que la FTC qui est chargée de réguler les pratiques commerciales déloyales devrait être capable d’agir. Par exemple, il est clair que l’augmentation des cadences que produit le bossware conduit à des préjudices sur la santé des employés. Que l’autoritarisme des applications de surveillance des chauffeurs-livreurs ne peut pas être évité. Enfin, elles ne proposent aucun avantage compensatoire, au contraire. La gestion algorithmique du travail produit surtout des sanctions arbitraires, comme quand les opérateurs de centres d’appels qui ont un accent, du Sud des Etats-Unis ou des Philippines, sont évalués négativement par les IA qui sont chargés de détecter leur émotion. « Les travailleurs devraient avoir le droit de savoir quelles données les concernant sont collectées, par qui elles sont partagées et comment elles sont utilisées. Nous devrions tous avoir ce droit. »

« Les gens riches peuvent rester irrationnels plus longtemps que vous ne pouvez rester solvables. Les marchés ne résoudront pas ce problème, mais le pouvoir des travailleurs le peut », conclut Doctorow.

Reste que démontrer l’arbitraire et pire encore l’absurdité des calculs reste extrêmement difficile. 

Dans un autre billet, l’infatigable Doctorow revient sur le travail d’un groupe de chercheurs et de hackers européens, Reversing Works (une division spécialisée du collectif AI Forensics, ex-Tracking Exposed), qui ont contribué à un travail d’ingénierie inversée sur l’application de livraison italienne Glovo/Foodinho, multicondamnée par les autorités italiennes pour atteinte à la vie privée. Dans un rapport publié par l’Institut syndical européen en novembre 2023, on apprenait que l’application démultipliait l’utilisation de données problématiques, surveillait les travailleurs au-delà de leurs heures de travail, utilisait un score de notation des travailleurs et envoyait d’innombrables informations confidentielles à des tiers. Pour Doctorow, ce mode d’enquête et de révélation présente un réel potentiel pour les organisations syndicales qui cherchent à protéger les travailleurs et promet également de développer des outils d’action directe qui permettent aux travailleurs de retrouver du pouvoir. « Ce n’est qu’en s’emparant des moyens de calcul que les travailleurs et les syndicats peuvent renverser la situation face au système de domination, à la fois en modifiant directement les conditions de leur emploi et en produisant les preuves nécessaires à ces démonstrations. Autant d’outils que les régulateurs pourraient également utiliser pour forcer les employeurs à rendre ces changements permanents. » Comme l’expliquait le collectif dans un communiqué, le RGPD est insuffisamment utilisé par les syndicats, notamment parce que « la vie privée est un droit individuel qui n’est pas considéré comme un outil de lutte des travailleurs », alors qu’il permet de contester nombre de pratiques déloyales. 

Reste que la production de « contre-données » – comme l’ont fait Reversing Works avec Glovo, le Worker Info Exchange ou le Stop-Club au Brésil ou encore Driver’s seat, une coopérative de chauffeurs qui aide les conducteurs à utiliser leurs données pour optimiser leurs revenus – n’est pas si simple. Le problème, bien sûr, c’est que ces collectes sont compliquées et fragiles à mettre en place et leurs résultats pas toujours assurés. En 2021 par exemple, des livreurs de Doordash avaient mis au point un outil pour observer les pourboires qu’ils recevaient sur l’application pour veiller à ce que l’entreprise ne les accapare pas… jusqu’à ce que l’entreprise ferme l’accès aux données. Sans compter que bien souvent, le législateur ne permet pas aux employés de produire des données en parallèle de celles de l’employeur. 

Pas plus qu’il n’oblige les entreprises au partage de données à leurs employés et à leurs représentants… Le problème, c’est que le RGPD en consacrant exclusivement un droit aux données personnelles a oublié d’armer le droit aux données collectives. C’est bien souvent au prétexte que les données mobilisées par les entreprises sont personnelles que les collectifs de travail et les syndicats ne peuvent y avoir accès, alors que leur traitement collectif, lui, est possible pour les entreprises. 

Limiter les cadences comme on lutte contre le morcellement des horaires

Autre piste d’action pour limiter la surveillance au travail : mettre des seuils aux cadences que la convergence des systèmes de surveillance numérique tentent d’optimiser ! La réponse consiste alors pour le régulateur à poser des limites aux cadences (à l’image d’une récente loi californienne et de la décision de la Cnil contre Amazon Logistic) tout comme il intervient parfois pour définir des limites aux morcellement horaires du travail en définissant par exemple des durées minimales de travail journalier. 

Reste que légiférer pour faire que les outils de contrôle du travail rendent des comptes est difficile, comme le montre l’échec de la loi new-yorkaise à imposer des audits aux outils d’embauches automatisés qui continuent à proposer peu de recours et de garantie aux chercheurs d’emplois (voir notre article sur la question, qui pointait les limites de la régulation des outils de recrutement automatisés). 

Autre risque : le caractère discrétionnaire et opaque des promotions et avantages, à l’image du titre de « Master » qu’Amazon attribue à certains travailleurs du Mechanical Turk selon un score de confiance confidentiel : une forme de plafond de verre algorithmique que dénonçait la chercheuse Lilly Irani. Même chose quand Amazon finalement note les travailleurs de ses entrepôts selon leur rapidité d’exécution ou leur taux d’erreur, sans prendre en compte les particularités de ses employés, indifférent aux situations, au genre, au handicap… ou au taux d’accident provoqué. Ajoutez à cela le fait que les données permettent de fixer des objectifs dynamiques, des performances changeantes et opaques… et vous avez un cocktail de paramètres opaques qui vient directement impacter et fragiliser le droit du travail. 

Il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès aux données pour les travailleurs

Qui décide de la signification que les traitements produisent depuis les données ? Telles sont les questions que pose un intéressant travail sur la dataification du travailleur réalisé par la chercheuse Alexandra Mateescu pour Data & Society. La chercheuse y rappelle simplement que le management algorithmique ne peut pas remplacer les règles qui garantissent des droits équitables, comme le pointait déjà l’AI Now Institute. Quant à l’information des salariés sur la collecte et le traitement des données les concernant, elle est bien souvent insuffisante pour remédier aux problèmes. Le management algorithmique ne peut pas remplacer les droits des travailleurs, bien au contraire, il les sape. 

Pour dépasser ces problèmes, nombre de travailleurs tentent de s’organiser pour reprendre la main sur leurs données, explique Alexandra Mateescu. Mais ces tentatives nécessitent de leur part une organisation, une expertise et des moyens dont ils ne disposent pas toujours. 

Les syndicats sont néanmoins de plus en plus conscients de l’impact des données et tentent de plus en plus souvent d’inclure des dispositions relatives à celles-ci dans leurs négociations, comme le montrait la chercheuse Lisa Kresge dans un rapport pour le Labor Center de Berkeley. Une coalition de syndicats de services publics européens a mis en place un espace de ressource (en français) pour faciliter les négociations sur les enjeux numériques. Reste que la question des données et de leur accès demeure trop souvent secondaire dans les négociations syndicales. On le comprend. Mais il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès et de traitement pour les travailleurs et leurs représentants. 

Hubert Guillaud

La surveillance des comportements et l’accélération des cadences jusqu’à leurs limites ?

Vous avez certainement vu passer cette vidéo dans vos flux. C’est une image vidéo de l’intérieur d’un café où un système de reconnaissance d’image analyse différents éléments, comme le temps d’attente des clients, le nombre de cafés que servent les vendeurs ou le fait que les tables soient propres. Des systèmes de ce type, développés par Hoptix ou Neurospot, se proposent de surveiller les employés et leurs comportements, mais également affirment être capables d’analyser les conversations entre serveurs et clients, par exemple pour détecter le nombre de fois où ils proposent aux clients des suggestions supplémentaires à leurs commandes pour les convertir directement en bonus sur leurs fiches de paye. Les logiciels promettent de suivre la préparation de commande, leur rapidité, la gestion de la clientèle. Neurospot propose même aux patrons de recevoir « des alertes instantanées lorsqu’une insatisfaction client est détectée », s’énerve Contre-Attaque. 

Comme dans tous les autres secteurs, la collecte de données au travail procède toujours d’une justification positive. Elle est accomplie pour comptabiliser les heures travaillées, quantifier le travail, s’assurer du respect des délais, améliorer la facturation… D’un côté, les entreprises cherchent à augmenter leur collecte de données personnelles pour améliorer la sécurité au travail par exemple, de l’autre les travailleurs suspectent que ces nouvelles collectes permettent une surveillance et un cadencement accru quand ce n’est pas une utilisation punitive, comme c’est déjà le cas dans la logistique pour ceux qui ne suivent pas les cadences. C’est ce qu’expliquait la journaliste Anna Kramer pour le défunt site d’information Protocol, en revenant sur le développement d’outils de surveillance des postures, qui peuvent effectivement identifier les mouvements à risques, mais qui risquent surtout de renvoyer les employés à leurs responsabilités pour mieux soustraire l’entreprise à ses propres responsabilités. 

En fait, en matière de sécurité au travail, l’évidence rappelle surtout que le corps humain n’est pas conçu pour répéter à un rythme rapide les tâches requises par de nombreux emplois de la logistique. Pourtant, avec des appareils de mesure des postures, comme StrongArm ou Modjul qui commencent à coloniser les entrepôts de Walmart et d’Amazon, la question de la sécurité au travail devient un score que les employés doivent respecter, quand ils ne sont pas renvoyés à une forme de compétition entre eux. Les outils d’analyses intégrés fournissent une mine de données granulaires sur chaque travailleur en surveillant les mouvements, les inclinaisons, les torsions, les portages que chacun accomplit. Le problème est que ces données pourraient aider les entreprises à se soustraire à leurs responsabilités et à accabler les travailleurs individuellement. Par exemple en poussant les entreprises à se séparer des travailleurs les moins sûrs ou ceux dont les scores sont mauvais et qui risquent de se blesser, plutôt que d’avoir à revoir leurs protocoles et cadencements. Pour les responsables de StrongArm ou de Modjul, ces données ne doivent pas être utilisées de manières punitives, mais doivent permettre d’identifier les emplois et postes qui posent problèmes pour les améliorer. Or, rien dans leur usage n’assure que les entreprises ne les utiliseront pas pour accabler les travailleurs. Les blessures dans les entrepôts d’Amazon, pourtant très automatisés, sont élevées et n’ont cessé d’augmenter ces dernières années (6 à 9 blessures pour 100 employés chez Amazon contre 3 à 4 pour 100 employés chez Walmart). Reste que si votre travail vous oblige à vous pencher pour être réalisé, un appareil vibrant n’y changera rien. C’est la tâche et le poste de travail qu’il faut revoir où les situations où les gens ont tendance à être en difficulté. 

Pour Debbie Berkovitz, experte en protection des salariés, ces appareils ne font qu’informer de ce que ces entreprises savent très bien : elles connaissent déjà les personnes qui ont des douleurs et les postes qui génèrent des douleurs et des blessures. Pour l’ergonome Richard Gogins, le problème n’est pas nécessairement les mauvais mouvements et les mauvaises positions, c’est souvent les objectifs élevés et les cadences trop fortes qui poussent les gens à faire de mauvais mouvements. 

Dans trop de situations encore, finalement, quand un employé se blesse, c’est trop souvent sa responsabilité qui est convoquée plus que celle de l’employeur. Les douleurs générées par le travail restent bien plus souvent prises en charge par la collectivité et les individus que par l’entreprise qui les provoque, comme le soulignait l’excellente enquête du journaliste Jules Thomas pour Le Monde, qui rappelait que les accidents du travail sont d’abord la réalité persistante de la dégradation du travail. La précarité, le manque de prévention dans nombre de secteurs qui paraissent peu propices aux accidents graves viennent renforcer leur invisibilisation, du fait de leur sous-déclaration. Une sous-déclaration qui est à la fois le fait des entreprises, mais également des salariés précarisés. Reste que quand les employés sont abîmés par le travail, c’est d’abord eux qui en supportent les conséquences, d’abord et avant tout en ne pouvant plus accomplir ce travail. Les risques professionnels sont profondément liés à l’intensification, rappelle le sociologue Arnaud Mias qui souligne, lui aussi, que le travail devient insoutenable par déni de diversité du fait de la standardisation des indicateurs. En comparant tous les employés entre eux, la moyenne de leurs performances à tendance à discriminer ceux qui s’en éloignent. A terme, le risque est que les données favorisent le stakhanovisme. La compétition entre travailleurs qu’induit la surveillance des indicateurs de productivité risque de favoriser l’exclusion de tous ceux qui n’entrent pas dans la course parce que trop vieux, trop faibles… Le pilotage par les indicateurs de productivité risque de renforcer partout les discriminations. 

Si facile, si pratique ! Une surveillance institutionnalisée en roue libre !

Le problème est que la surveillance des employés, démultipliée par les innombrables outils du panoptique numérique disponibles, semble être devenue un champ de développement du contrôle sans plus aucun obstacle, sans plus aucune limite. Pourquoi ? Ce n’est pas seulement parce que « la surveillance est le business model du numérique », comme disait Bruce Schneier. Mais plus encore parce que les outils la rendent possible et incroyablement facile ! 

C’est ce qu’explique le chercheur Wolfie Christl qui, via le laboratoire Cracked Lab, enquête sur la montée de la surveillance au travail en observant simplement les fonctionnalités proposées par les outils numériques que les entreprises utilisent. Il vient de produire une étude sur Dynamics 365, une suite d’applications de Microsoft qui permet de construire des applications pour surveiller les travailleurs de terrain, comme les réparateurs, les agents de sécurité, de nettoyage, les aides à domicile… Christl montre que le système applicatif permet de structurer, diriger et microgérer le travail, en l’alignant sur des processus strictement cadrés et définis qui vont de la surveillance des déplacements en passant par le contrôle des tâches ou du comportement, jusqu’à la synthèse d’indicateurs qui permettent d’évaluer l’ensemble et de les comparer aux résultats des autres employés. Le système permet même de gérer des alertes si les processus ne sont pas respectés où si le salarié s’éternise. Chaque tâche peut-être spécifiée selon des instructions et des durées… Et les applications peuvent générer des plannings qui se mettent à jour à la demande, en tenant compte de la disponibilité, de l’emplacement, des temps de trajet prévus et des profils de compétences des travailleurs, ainsi que de l’historique des travailleurs ou de la satisfaction des clients. Bien sûr, tous ces développements sont facultatifs, mais les fonctionnalités s’entremêlent pour créer des possibilités de suivi accrues. Si la localisation peut-être désactivée par exemple, Microsoft recommande cependant de l’utiliser et même de l’enregistrer toutes les « 60 à 300 secondes », puisque cette localisation va être utile pour nombre de calculs : durées, trajets, plannings… Pour le chercheur, les processus standardisés, les objectifs de performance rigides et la planification automatisée risquent d’intensifier le travail sans limites. Wolfie Christl parle de « fouets numériques »pour évoquer le développement d’un rapport soumis aux indicateurs, tant des patrons que des employés. Mais dans cette vision moderne de l’esclavage, quand l’employé se rebelle contre les capteurs, il est renvoyé à son utilisation individuelle, comme quand il jette la commande vocale qui siffle ses ordres à son oreille, il n’a plus le moyen d’abattre le système qui le dirige. 

Un autre rapport du chercheur étudie le développement des logiciels de points de vente dans les magasins de détails, les restaurants et les hôtels. Là encore, le suivi de performance s’étend jusqu’au contrôle comportemental. Sur les tableaux de bords d’indicateurs, les employeurs peuvent classer les travailleurs « du meilleur au pire », identifier les « moins rentables » et prédire leur productivité future. Ces systèmes disent être capables de prévenir la fraude et peuvent placer des employés sur des listes de surveillance. Ils peuvent répartir les tâches automatiquement, sous minuteurs, avec d’innombrables alertes pour mettre la pression. La logique industrielle du taylorisme de la chaîne de montage colonise toutes les professions, conclut le chercheur. Mais les systèmes sont encore loin d’être parfaits, souligne-t-il. Bien souvent, les enregistrements défectueux et les tâches non documentées conduisent à des problèmes qui renvoient à la responsabilité de l’employé plus qu’à celle des systèmes. Quand la machinerie défaille, c’est le comportement de l’employé qui est pointé du doigt par la machine : c’est toujours lui dont la performance est dégradée et enregistrée comme problématique. Christl remarque encore que ces logiciels sont certes configurables. Les employeurs peuvent décider de les utiliser de manière plus ou moins intrusive, par exemple en ne faisant pas s’afficher les minuteurs (ce qui ne signifie pas que les tâches ne sont pas chronométrées). Mais ils peuvent également les rendre plus intrusives, en les intégrant à un logiciel RH ou en exportant les données vers d’autres plateformes d’analyses. Le panoptique est un espace de réglage en boucle sur lui-même, très simple à mettre en place. 

Ce que montrent les enquêtes du chercheur en observant les outils mis à disposition des employeurs, c’est qu’ils institutionnalisent la surveillance pour produire des métriques, des ratios, des indicateurs pour piloter la productivité de l’activité. La surveillance est normalisée, inéluctable. Et son accélération également, puisque de meilleurs indicateurs produiront nécessairement une meilleure productivité, qu’importe si cela passe trop souvent par des indicateurs défaillants. 

Outre les défaillances des systèmes, le panoptique de surveillance élargit également les possibilités d’abus, explique Christl dans un nouveau rapport. Rien n’est plus facile désormais que d’espionner les employés, réprimer la dissidence, appliquer une surveillance excessive ou imposer des mesures disciplinaires arbitraires. En permettant un accès à une grande étendue de données, l’asymétrie de pouvoir entre les organisations et les employés s’agrandit… au risque d’une surveillance sans plus aucune limite. 

Vers le « despotisme à la demande » : la surveillance est la conséquence de la dégradation de l’emploi !

Dans son livre, Temporaire : comment Manpower et McKinsey ont inventé le travail précaire (Les arènes, 2021), Louis Hyman, avait montré que l’invention du travail intérimaire puis temporaire était une entreprise idéologique. Peu à peu, pour les entreprises, la stabilité de l’emploi est devenu un problème plutôt qu’un but. L’invention du contrat à durée déterminée (CDD) en 1979 en France n’était pas qu’une solution à la crise économique. Il marque aussi le début d’une dérégulation des conditions de travail qui ne va pas cesser de s’accélérer avec la montée de l’externalisation, la micro-entreprise, les contrats zéro-heures, l’ubérisation…  Pour caractériser cette montée d’un travail temporaire de plus en plus flexible, le sociologue Alex J. Wood parle quant à lui de « despotisme à la demande ». Dans son livre éponyme (Cornell University Press, 2020, non traduit), le sociologue ne parle pas beaucoup des outils numériques visiblement, il observe seulement l’impact qu’ont eu les horaires flexibles et le temps partiel sur la disciplinarisation des travailleurs. La disparition de la sécurité qu’offrait un travail à temps plein a conduit les travailleurs précaires à se discipliner pour obtenir leurs quotas d’heures. Pour obtenir les heures promises, ils doivent accepter les contraintes qui vont avec, comme les horaires fragmentés et une disponibilité à la demande, en temps réel. Wood montre d’ailleurs que les employés qui se soumettent le mieux aux injonctions sont aussi ceux qui obtiennent, en récompense, les meilleurs horaires. La précarisation renforce l’autoritarisme des organisations.  La sociologue Madison Van Oort dans son livre, Worn out : how retailers surveil and exploit workers in the digital age and how workers are fighting back (Épuisé : Comment les détaillants surveillent et exploitent les travailleurs à l’ère numérique et comment les travailleurs ripostent, MIT Press, 2023, non traduit) dresse le même constat en observant l’impact de l’outillage numérique dans les enseignes de la Fast Fashion, comme H&M ou Zara. Elle montre que, là aussi, les employés travaillent à la demande, notamment depuis des applications de planning automatisées profondément imprédictibles et qui font peser sur leurs épaules toute l’insécurité de l’emploi. 

Les technologies numériques transforment en profondeur le secteur des services à bas salaires, explique Madison Van Oort. Pour elle, la fast fashion, qui est une forme de commerce industriel, est le secteur emblématique d’une industrie totalement orientée par les données et qui promeut partout la jetabilité. Non seulement les produits sont aussi vites produits, vendus que remplacés, mais les employés subissent le même traitement (dans le secteur, 60% des employés des magasins sont embauchés de manière temporaire, l’essentiel l’est à temps partiel). Et la chercheuse suggère que cette vision du monde, cette chosification, est façonnée par la numérisation, par le fait que tout est considéré comme des données – le designer italien Stefano Diana estimait que cette mise à distance qui transforme tout en chiffre nous ôte toute empathie.  Or la fast fashion est bien l’enfant de la numérisation. La révolution de l’interconnexion a permis d’accélérer la production et la circulation de la chaîne d’approvisionnement et a permis la consécration d’une production temps réel. Une production directement pilotée depuis ce qui se vend et non plus depuis ce que les commerçants proposent. Une production plus réactive, capable de répondre aux demandes des clients. La fast fashion est bien sûr connue pour exploiter tous les travailleurs de la chaîne d’approvisionnement, notamment ceux qui fabriquent les vêtements à l’autre bout du monde. Mais c’est également le cas de ceux chargés de vendre les produits disponibles en continu. 

Au XXe siècle, à l’époque des grands magasins, un vendeur était embauché pour ses compétences et on attendait de lui qu’il soit proche des clients pour mieux les conseiller. A l’époque des magasins de marques, on n’attendait plus des vendeurs qu’ils soient commerciaux, seulement un intense travail émotionnel pour vendre l’expérience que propose la marque en magasin. Mais à l’époque de la fast fashion, le vendeur n’est plus qu’un magasinier constamment sous surveillance numérique. Cette prolétarisation s’explique par le fait que la relation au client a été déléguée aux machines. Dans le monde de la fast fashion, les employés ont été dépossédés de la vente parce que les connaissances sur les clients ont été automatisées via les outils du marketing numériques. Ce sont eux qui prédisent les préférences des consommateurs et qui pilotent la relation clients. La sociologue explique que le travail émotionnel (que définissait la sociologue Arlie Russel Hochschild), celui qui connecte l’employé au client, qui prédit les désirs du consommateur, est désormais automatisé. Les magasins ont été dépossédés de cette compétence, renvoyée au travail des équipes marketing.  L’analyse des données est omniprésente. Elle permet de personnaliser l’inventaire des magasins selon les ventes, mais pilote également la vie des employés, puisque ces mêmes données vont produire les moments d’affluences et décider des besoins en personnels, décider des plannings imprévisibles et également rendre les employés plus remplaçables et interchangeables qu’ils n’étaient. Ce n’est pas tant que les habits proposés sont si peu chers qu’ils se vendent d’eux-mêmes, mais que le marketing automatisé met les ventes sous stéroïdes et produit une accélération en chaîne. Les vendeurs ne sont plus que des employés à la demande, qui sont là pour mettre les vêtements en place et nettoyer le magasin. Plier, ranger, nettoyer. Faire tourner les flux. Ils sont là pour faire ce que les robots ne savent pas faire. « En numérisant la connaissance des désirs des consommateurs, le travail de vente au détail de la fast-fashion a été déqualifié et accéléré, et les travailleurs sont devenus jetables. Et ont pu être contrôlés de manière toujours plus impersonnelle. » Pour Van Oort, la montée de la surveillance des travailleurs de terrain est consubstantielle au développement du marketing numérique permettant de mieux connaître les consommateurs. Son analyse montre qu’il y a des effets d’entraînements dans toute la chaîne de la numérisation. 

Comment l’automatisation renforce la prolétarisation qui renforce la surveillance

Pour Madison Van Oort, c’est la technologie qui a rendu ces conditions de travail possible. Après avoir construit une production en temps réel, informée par les données de ventes, le savoir produit par la datafication a été appliqué aux magasins. Les outils de planning automatisés (comme ceux développés par Kronos, devenu UKG, Ultimate Kronos Group, l’un des leaders du secteur) sont composés d’innombrables modules pour adapter les ressources humaines aux besoins. Pourtant, comme le pointait la journaliste Esther Kaplan dans un article pour Harper’s Magazine en 2015, la première conséquence de l’introduction de ces outils de plannings reste bien souvent de démultiplier les emplois à temps partiels, comme l’ont connu les employés de la chaîne de vêtements Forever 21 lorsque leurs magasins s’en sont équipés ! Van Oort rappelle que le planning automatisé est né chez McDonald dès les années 70, mais c’est pourtant avec le déploiement d’outils logiciels dédiés que ceux-ci vont changer le commerce de détail (et bien d’autres secteurs…), notamment en popularisant le temps partiel afin d’améliorer les rendements et les profits. 

Les systèmes de planning automatisés calculent pour chaque employé, branche, secteur, des ratios de productivité et font des prédictions de besoins de main d’œuvre très précis, pouvant aller jusqu’à recommander des employés, sans qu’on sache parfaitement depuis quels critères – or, certains critères de ce calcul peuvent être profondément problématiques, qu’ils soient discriminatoires ou qu’ils s’ajustent pour optimiser les salaires vers le bas, en minimisant les primes. Van Oort ne creuse hélas pas la question, mais remarque néanmoins que l’efficacité high-tech de ces outils est très souvent survendue. Ces systèmes d’agendas automatisés ont beaucoup de mal à prendre en compte les contraintes des employés (garde d’enfants, etc.) et les employés en contournent les rigidités en proposant d’échanger leurs astreintes via des messageries partagées. Les problèmes que génèrent les planning partagés conduisent à renforcer les astreintes : les employés doivent être tout le temps connectés pour répondre aux astreintes, les accepter comme pour les rejeter ou les faire circuler. Cela transforme les relations de travail, crée des tensions entre les employés qui sont tous à chercher à faire des heures que la machine ne leur donne pas. Les conflits d’emploi du temps sont permanents, mais ils ne sont pas tant avec la direction qu’avec les autres employés, vus comme concurrents. 

Alors que les employés des grands magasins étaient souvent employés à vie, intéressés aux ventes par des commissions, ceux de la fast fashion sont d’abord précarisés, souvent employés à bas coûts et à temps partiel. Alors que dans les grands magasins les employés se plaignaient de faire trop d’heures, ceux de la fast fashion se plaignent de n’en avoir pas assez. Aux horaires instables répondent des paies qui le sont également. « Avec les horaires flexibles, les risques et l’instabilité du commerce reposent sur les épaules des travailleurs ». Le stress aussi, ce sont eux qui sont confrontés à des calendriers toujours changeants. 

Ce que la sociologue suggère, c’est que l‘acceptation de la flexibilité conduit automatiquement à accepter une flexibilité renforcée qui, grâce à l’optimalité des calculs, ne cesse de s’étendre. Il n’y a pas d’alternative aux horaires fixes et réguliers, rappelle-t-elle. « Le planning automatisé crée une profonde insécurité et beaucoup d’imprévisibilité ». Il est la première brique qui renforce le développement du travail à la demande. La chercheuse souligne également que la surveillance à toujours tendance à s’étendre et qu’elle se renforce d’un outil l’autre, d’une interconnexion l’autre. Les scanners biométriques complètent les agendas automatisés (et techniquement, s’y intègrent comme des plug-ins), la surveillance vidéo complète la surveillance logicielle des caisses… L’introduction d’une forme de surveillance en entraîne une autre et elles se renforcent les unes les autres. 

Pourtant, la surveillance n’est jamais aboutie. Dans le panoptique, la réalité est que les outils dysfonctionnent souvent, au détriment des employés. Quand le scanner bug, c’est les heures de travail des employés qui ne sont pas comptabilisés. Quand les besoins de personnels sont calculés au plus justes, ce sont les employés qui voient leurs cadences s’accélérer ou leur charge de travail augmenter. 

La surveillance développe une forme de paranoïa qui se renforce avec la surveillance. Plus les travailleurs sont précarisés et plus ils sont considérés comme des criminels potentiels, et inversement. Or, comme le suggère Richard Hollinger un spécialiste de la criminalité des employés, pour réduire le vol en interne, il suffit d’abord d’augmenter les heures de travail et d’améliorer les rémunérations ! Les employés veulent d’abord un travail fixe et régulier et un travail qui paye bien. La surveillance est bien une conséquence de la dégradation du travail qui renforce l’autoritarisme des organisations. Nous construisons des lieux de travail où tout est sous surveillance (les produits, les consommateurs, les employés). La normalisation de la surveillance, son institutionnalisation, exacerbe les inégalités. Le turn over des employés est aussi fort que celui des produits. « Des conditions de travail injustes conduisent à des politiques de surveillances injustes ». L’un permet l’autre, l’un renforce l’autre et inversement. Le Precarity Lab de l’université du Michigan parle d’ailleurs de « technoprécarité » pour expliquer que le numérique amplifie les conditions d’exploitations.  

Le numérique floute les distinctions entre management, marketing et surveillance. Mais la surveillance ne pose pas qu’une question de respect de l’intimité ou de la vie privée, elle pose également une question de justice, qui semble aujourd’hui se perdre dans le délire d’un contrôle, en roue libre, qui ne rend pas compte de ses effets. Les données au travail sont de plus en plus instrumentalisées pour servir voire renforcer l’asymétrie des rapports de travail.

Surveillance prédictive : le risque d’une surveillance de moins en moins factuelle ! 

En plus du délire du contrôle que la numérisation facilite, sans plus en voir les conséquences… il faut également ajouter des mesures prédictives particulièrement défaillantes qui viennent encore renforcer et justifier la surveillance. C’est le cas par exemple de Visier, une startup qui compte de nombreux clients, de Adobe à Uber… Visier promet de prédire le burn-out comme la démission. Le système, entraîné sur des profils d’employés démissionnaires, promet de calculer ce risque sur tous les autres employés en utilisant toutes les données disponibles, notamment les emails professionnels échangés, les relations aux autres employés, les publications sur les réseaux sociaux… pour mesurer l’engagement, l’absentéisme, la performance, le délai entre les promotions, l’activité sur Linked-in… Le problème, c’est que ces prédictions générales ont du mal à se prononcer sur les individus, explique la journaliste Hilke Schellmann dans son livre, The Algorithm (Hachette, 2024, non traduit). En fait, ces systèmes se concentrent sur des données internes pour tenter de faire des prédictions, comme d’évaluer l’évolution des fonctions, le niveau de salaire, la performance ou le niveau de responsabilité. Comme souvent, les données y rappellent la force de l’évidence : une personne au même poste pendant 2 ans a tendance à vouloir partir ! Le problème est qu’il n’y a pas que des raisons internes au départ des gens, il y a beaucoup de raisons externes sur lesquelles les entreprises n’ont pas toujours de données (situation familiale, proposition d’embauche externe, niveau de salaire et de tension du secteur…) et beaucoup de raisons internes sur lesquelles les données n’ont pas prises (comme la toxicité du management, même si des proxies plus ou moins fiables peuvent être trouvés, comme la durée d’un manager en poste ou le temps de rétention du personnel sous ses ordres – mais là encore, rien n’est moins fiable : un manager a ainsi été identifié comme toxique parce que ceux qui rejoignaient son équipe avaient tendance à changer de poste dans les 7 à 8 mois, alors que c’était surtout lui qui les aidait à évoluer dans l’entreprise). Mais ces prédictions de risque sont tout aussi problématiques que nombre d’autres prédictions. Et leur amélioration peut vite devenir discriminante, par exemple en portant plus d’attention aux jeunes hommes non mariés qui ont plus tendance à changer de job que les jeunes femmes mariées. Au final, ces systèmes là encore fonctionnent assez mal. Schellmann prend l’exemple d’une responsable RH de Pepsi pour laquelle le logiciel de Visier indiquait qu’elle avait 0,03% de chance de partir dans les 20 prochains mois et qui a quitté l’entreprise bien avant ce délai ! 

Là encore, l’analyse de données, par nature, s’abstrait du contexte. La prédiction défaille. Comme le disent Arvind Narayanan et Sayash Kapoor dans leur livre, AI Snake Oil (Princeton University Press, 2024, non traduit), la prédiction cumule trop de biais pour être fiable. Trop souvent, les prédictions abusent de proxies, de variables de substitutions, ce qui démultiplie les erreurs en cascade. Trop souvent, les prédictions cherchent des modèles qui n’existent pas. Les deux chercheurs estiment d’ailleurs que la promotion d’employés au hasard mais selon un taux fixe pourrait avoir plus de conséquences positives que la recherche illusoire de critères de promotion perfectibles. Les prévisions ne sont pas un modèle objectif. Elles restent probabilistes, quand leur mise en œuvre cherche à les rendre déterministes, au risque de prendre pour la réalité des calculs d’abord défaillants, qui entremêlent entre eux des suppositions en cascade.  

La surveillance numérique des lieux de travail propose un panoptique idéal, où la surveillance du travailleur est omniprésente et infatigable. La surveillance est mécanique. L’exosquelette numérique est moins là pour nous aider à faire des tâches que pour surveiller le moindre de nos faits et gestes. Dans ce panoptique, les traitements de données, les données inférées parlent pour les employés, au risque de ne leur laisser aucun droit. Ni droits à explications, ni droit à contester les décisions automatisées qui ne leurs sont mêmes pas expliquées comme telles. 

Sans limites, la surveillance ne propose que de renforcer l’autoritarisme des organisations.