En dehors du secteur technologique, l’IA n’a encore apporté aucun avantage économique significatif aux entreprises. Elle a apporté « zéro gain financier », souligne Torsten Slok, économiste en chef chez Apollo Global Management dans une note. « Le revenu par employé augmente pour les Mag 7 (les sept géants technologiques que sont Apple, Microsoft, Alphabet, Amazon, Nvidia, Meta et Tesla), mais stagne pour les 493 autres entreprises de l’indice S&P 500 », écrit-il. « Les marges bénéficiaires progressent pour les Mag 7, mais restent stables pour les 493 autres », ajoute-t-il, précisant qu’« il n’existe toujours aucun signe indiquant que l’IA stimule la croissance de la productivité », rapporte Futurism.
Pire, souligne Slok : « Le monde des entreprises américaines, dans sa grande majorité, fait marche arrière : les dépenses liées à l’IA ne sont plus perçues comme un levier de croissance, mais comme un centre de coûts qui pèse sur les marges » Bien qu’il ait récemment annoncé un investissement d’un demi-milliard de dollars dans l’IA, le PDG de Goldman Sachs, David Solomon, a confié aux investisseurs la semaine dernière que « très peu de nos activités nécessitent réellement des modèles d’IA de pointe », comme le rapporte Fortune.
Comme le souligne Ed Zitron, Cassandre de la bulle, dans une analyse fleuve et plus détaillée encore : « tous les facteurs qui ont fait éclater la bulle Internet des années 2000 sont présents, mais dans une version pire, plus vaste et plus inquiétante, avec un risque de contagion mondiale dont, curieusement, personne ne semble parler ». Les analystes de Gartner estiment que, globalement, « les revenus générés par l’IA seront insuffisants pour assurer une rentabilité satisfaisante au regard des investissements en capital prévus dans ce secteur » entre 2027 et 2030. Pour Business Insider, « Nous sommes déjà confrontés à une offre excédentaire de processeurs graphiques (GPU) : Amazon stocke pour des milliards de dollars de matériel, sans aucune perspective claire quant à son installation ». Pour Zitron, « la demande en puces pour l’IA » résulte bien plus d’une stratégie délibérée de NVIDIA consistant à saturer les canaux de distribution et à adopter une approche commerciale agressive que d’un réel besoin mondial en puces à l’heure actuelle ». « Comme l’a souligné Torsten, les analystes du secteur technologique anticipent une envolée parabolique des revenus sur l’ensemble de la chaîne technologique, alors même que les analystes financiers estiment que les liquidités ne seront tout simplement pas au rendez-vous. »
En Chine, pour d’autres raisons, l’investissement dans l’IA commence également à craquer, rapporte La Tribune, The Guardian et nombre de titres de la presse économique.
Mieux, la révolution IA commence à affecter les revenus des acteurs de l’IA, comme le souligne Arnaud Leparmentier dans Le Monde, en soulignant que les revenus de Google liés à la publicité décélèrent : l’IA affaiblissant la vache à lait de l’entreprise. Avec la recherche IA, les utilisateurs passent bien moins par le moteur de recherche, ce qui réduit leur exposition publicitaire. Un affaiblissement compensé par les revenus du cloud. La transition vers un changement de modèle économique reste sous pression. A la bourse, les titres des acteurs de la tech accusent le coup.
Dans sa newsletter, Episodiques, Frédéric Filloux rappelle quelques chiffres sur le krach qui vient. Le pire étant certainement que « la tech représente aujourd’hui plus de la moitié de l’investissement en capital aux Etats-Unis ». Et de pointer notamment le décalage entre le chiffre d’affaires actuel de l’IA (175 milliards de dollars par an) et les revenus nécessaires pour compenser les investissements prévus en infrastructure d’ici 2030 : il en faudrait un CA de 4 à 34 fois ce qu’il est !
Comme s’en moquait le journaliste économique Romaric Godin dans Mediapart en septembre : « dépenser de l’argent permet de relancer la croissance et ce serait alors la preuve que l’IA a un potentiel de croissance ».
« La croissance états-unienne produite par l’IA a, elle-même, toutes les caractéristiques d’une bulle. Autrement dit : elle est concentrée sur certains secteurs de l’économie au détriment des autres. Elle repose davantage sur un effet d’éviction par lequel l’IA remplacerait d’autres activités que par un effet de diffusion où l’ensemble de l’économie profiterait de cette technologie.» Dans le domaine de la construction, « on constate ainsi que depuis début 2024, les dépenses de construction non liées aux centres de données ont reculé de près de 10 milliards de dollars. Et la chute n’est pas terminée.»
« En fait, la bulle intervient sur une économie affaiblie et ne corrige pas cette réalité. Au contraire, elle la renforce. Ce que dit la hausse récente des taux n’est pas autre chose que ceci : l’argent n’est pas disponible pour tout le monde. Comme l’économie hors IA présente peu de perspectives de rentabilité, elle ne mérite pas de bénéficier des financements. »
En attendant, rappelle Marine Orange dans Mediapart, 1500 milliards de dollars de capitalisation liés à l’intelligence artificielle se sont évaporés en deux jours ! « Les pertes touchent désormais tous les grands noms du numérique, ceux qui étaient censés, par leur taille, leur position oligopolistique – c’est-à-dire incontournable –, être à l’abri, quelles que soient les circonstances. » Pire, souligne-t-elle : « les fonds de pension, les fonds d’investissement, qui ont fourni le carburant financier alimentant toute la bulle ces dernières années, sont aussi en train de sortir du jeu ».
Ces derniers temps, les annonces de changement de cœur bancaire se font rares parmi les grandes institutions financières… plus par défiance que parce qu'elles auraient achevé leur modernisation. Au Canada, CIBC annonce son partenariat avec Thought Machine pour une telle opération, menée avec une stratégie originale et inspirante.
Bien que l'obsolescence de son infrastructure existante soit certainement un facteur de la décision, comme il devrait l'être dans tous les établissements qui n'ont pas encore procédé à son remplacement, la principale justification avancée par CIBC, tout aussi sérieuse et évidemment plus sensible puisqu'elle est d'ordre « métier », porte sur l'évolutivité et la flexibilité de la solution, notamment pour l'élaboration et la mise en œuvre de nouveaux produits et services en réponse aux attentes des clients.
Dans cette perspective, la banque a retenu l'offre Vault Core de la britannique Thought Machine, dans laquelle elle a également investi 30 millions de livres, afin de sécuriser un engagement structurant. Ce choix semble logique puisque, au-delà de ses seuls arguments marketing, la jeune pousse a effectivement bâti un ensemble modulaire et ouvert, nativement conçu pour s'adapter aux changements… en tous cas beaucoup mieux que ne le supportent les progiciels des fournisseurs historiques du secteur.
Cependant, le plus intéressant dans l'initiative est la démarche globale dans laquelle elle s'inscrit, destinée à maîtriser les risques d'un chantier extrêmement périlleux. N'oublions pas que, si la plupart des grandes enseignes rechignent toujours à rénover le moteur informatique de leur activité, pourtant vieillissant, c'est par crainte de l'échec, dont les exemples au fil des ans ont montré l'impact désastreux sur la confiance des clients et les coûts faramineux, parfois en pure perte après un abandon prématuré.
CIBC ne se lance donc pas sans filet et son harnais de sécurité s'appelle Simplii. Il s'agit de sa filiale 100% « digitale », lancée il y a moins de dix ans. Elle a créé en quelques mois un compte (et son app) entièrement renouvelé sur la base de la plate-forme de Thought Machine, aujourd'hui déployé en mode pilote. Elle a ainsi pu expérimenter à la fois la mise en œuvre technique de Core Vault et le lancement d'options inédites parmi ses concurrentes, telles que les poches budgétaires et l'épargne automatique.
L'étape suivante pourrait consister, comme je le préconise souvent dans ces situations, à basculer les comptes existants vers la nouvelle offre « digitale », puis à la compléter progressivement avec le reste du catalogue de la banque traditionnelle. La canadienne préfère une autre approche, consistant à réaliser une classique transplantation de cœur sur cette dernière. Contrairement au firmes qui s'aventurent à l'aveuglette, elle estime que son expérience avec Simplii lui procure les clés d'une migration sans douleur.
La stratégie paraît pertinente et susceptible d'inspirer tant d'établissements qui opèrent avec un moteur d'un autre âge et ne réalisent pas à quel point ils pourraient transformer leurs modèles en passant à un socle moderne. Il reste à voir si le projet de CIBC parvient à atteindre ses objectifs dans un délai raisonnable, car le départ de la course à la flexibilité a été donné depuis longtemps, tout en gardant ses coûts sous contrôle.
Parce que la gestion d'une succession reste (inutilement) complexe et que la « grande transmission » va mettre à l'épreuve les processus impliqués, EstateXchange développe en Australie une plate-forme centralisée dédiée à sa rationalisation. NAB devient la première banque à rejoindre le projet, imaginé par une de ses anciennes directrices.
Aux antipodes comme dans les autre régions développées, la transition générationnelle qui se prépare va probablement engendrer des embouteillages chez les spécialistes, alors que, dans ce seul pays, plus de 5 000 milliards de dollars devraient changer de mains d'ici 2050 et que chaque décès requiert des interactions avec un nombre toujours croissant d'acteurs – banques, fonds de retraite, plates-formes d'investissement…, il en existe jusqu'à 37 types différents – et se clôt en général en 9 à 12 mois.
De plus en plus, avec la prise de conscience du mouvement massif de patrimoine que va entraîner la disparition de la génération du baby-boom, les institutions financières engagent des chantiers afin de simplifier et accélérer les démarches administratives de succession dans leur périmètre. Mais ces efforts ne répondent que partiellement à la problématique : face à la multiplicité des intervenants, il faut également améliorer la coordination globale. C'est précisément l'ambition que porte EstateXchange.
S'adressant exclusivement aux représentants professionnels, appointés pour la prise en charge des affaires d'un défunt, la solution de la startup a vocation, d'une part, à mettre ces derniers en relation avec les établissements détenant dans leurs livres des éléments du patrimoine de leur « client » ou en étant pourvoyeur de services et, d'autre part, rassembler dans un espace unique les informations nécessaires à plusieurs d'entre eux (certificat de décès, recherche d'exécuteur testamentaire, contrôles d'identité…).
Naturellement, sans vouloir dévaloriser ses fonctions de communication, destinées à faciliter les échanges avec les parties prenantes, l'outil ne prendra toute sa valeur que quand il aura enrôlé la plupart des participants (financiers) potentiels. Ce ne sera qu'à ce stade que le traitement des dossiers pourra véritablement devenir plus fluide et plus rapide, avec un pilotage unifié des recensements et des actes, pour la plus grande satisfaction des héritiers, aujourd'hui contraints de patienter… et, surtout (peut-être), de répondre sans cesse à des demandes d'informations ou de justificatifs.
Outre les gains d'efficacité qu'elles promettent, les fondatrices d'EstateXchange soulignent les risques de fraude qu'une gestion centralisée est susceptible de réduire, sinon d'éliminer. Dans tous les cas, avec, à ce jour, 180 000 décès annuels en Australie, il paraît indispensable de mettre en place une approche « industrielle » de l'administration des patrimoines en transmission (qui peut aussi laisser du temps pour une relation de proximité plus humaine avec les descendants) afin de faire face à l'afflux de travail qu'ils représentent sans dégrader la qualité des résultats produits.
C'est le record des records : dans une cyberattaque, attribuée pour l'instant à une équipe nord-coréenne, Binance a vu s'envoler en moins d'une heure l'équivalent de plus de 6 milliards de dollars en cryptomonnaies. Comment une telle dimension est-elle possible avec des instruments censés être sécurisés par un protocole décentralisé ?
Parmi les défenseurs de bitcoin et consorts, c'est un argument fréquemment entendu, parfois même le premier mis en avant en réaction aux risques de fraude sur les comptes bancaires traditionnels : la blockchain repose sur un mécanisme distribué de validation des transactions, qui élimine tout risque de prise de contrôle par une entité détenant les droits sur votre argent. Si les prémices sont incontestables, la conclusion est hélas erronée : cette caractéristique technique ne protège pas les fonds de tout danger.
En effet, le modèle décentralisé d'origine a été imaginé dans un but précis, à savoir, dans une logique libertaire, de supprimer la toute-puissance des banques centrales sur les monnaies fiduciaires en vigueur dans tous les pays du monde. Avec un bitcoin, vous n'avez pas à craindre l'impact sur votre porte-monnaie d'une manipulation par un organisme étatique. En réalité, même cette assertion est discutable, puisque la valeur des crypto-actifs est systématiquement mesurée en référence aux devises classiques.
En revanche, au-delà de ce socle, la centralisation reprend ses droits. Prenez Binance, qui se vante de compter plus de 300 millions d'utilisateurs (qui lui font faisaient confiance !). Même si ce n'est pas le cas pour tous, une bonne partie de ces personnes lui laissent en dépôt leurs économies, ce qui en fait automatiquement un coffre-fort géant, peut-être un des plus garnis dans le monde, aussi irrésistible pour des malfaiteurs que celui d'une banque… et plus facile à attaquer par voie électronique.
La vérité est crue : les cryptomonnaies n'ont simplement aucun avantage de sécurité. Soit elles sont conservées sur une plate-forme centrale et elles sont alors exposées aux mêmes risques qu'un compte bancaire, sans les limitations généralement imposées sur celui-ci (plafond de virement, contrôle de bénéficiaire…) et sans le même niveau de traçabilité des échanges. Soit elles sont détenues dans un portefeuille virtuel personnel (stockage « froid ») et elles peuvent subir le même sort que des billets ou des lingots d'or cachés sous un matelas… tandis que leur manipulation devient bien moins fluide.
Décidément, les initiatives destinées à faciliter la mobilité bancaire ont le vent en poupe dans l'industrie. Cette fois, c'est TD Bank qui dévoile une nouvelle option – en plus de la bientôt classique domiciliation de salaire – grâce à laquelle les clients ont la faculté de déclencher l'approvisionnement de leur compte sans quitter son application mobile.
Le principe en est relativement trivial : au lieu de devoir accéder aux services d'un autre établissement afin d'effectuer un virement, l'utilisateur a maintenant la possibilité de demander le transfert depuis son espace TD. Il doit alors sélectionner l'institution financière concernée et le montant réclamé. Il lui reste à confirmer l'opération sur le compte d'origine et les fonds sont mis à sa disposition en quelques secondes.
En arrière-plan, le mécanisme met à contribution une fonction de requête (« Request Money »), distribuée par Interac, le réseau d'échanges interbancaires canadien, via laquelle un détenteur de compte sollicite un versement auprès d'un tiers, identifié par son adresse de courriel ou son numéro de téléphone. En l'occurrence, le cas d'usage concernant ici la même personne aux deux extrémités de la transaction, la procédure est simplifiée puisqu'elle n'exige même plus la saisie de ses identifiants, déjà connus.
L'objectif visé est naturellement de faciliter la migration des clients qui possèdent un autre compte, notamment lorsque ce dernier est primaire, et d'encourager l'exploitation de l'offre de TD Bank, en commençant par les paiements. Qu'il s'agisse, par exemple, de verser une somme à l'approche d'une échéance de remboursement, d'anticiper un règlement de facture en instance ou d'effectuer un dépôt pour profiter de récompenses, la solution permet d'éviter de jongler entre plusieurs outils.
En revanche, le parcours souffre malgré tout d'une rupture regrettable, dans la mesure où le client est finalement contraint d'accéder au compte « source » afin de confirmer le transfert qu'il a lui-même engagé. Le recours à une approche par la « banque ouverte », telle que ce qu'autorise l'initiation de paiement incluse dans la directive européenne DSP2, rendrait possible une intégration de toutes les étapes au sein de l'application de la banque, au profit de la fluidité de l'expérience… et de la rétention du client.
Le secteur financier traditionnel a tellement lutté contre les réglementations sur l'« open banking » que la plupart des entreprises, qui ont dû se résoudre à les mettre en œuvre, ont perdu de vue les opportunités que le concept leur ouvrait (en dehors de quelques tentatives, parfois abandonnées et presque toujours limitées, de vue agrégée de l'ensemble de la situation financière du client). Celle que manque TD dans cette annonce, dans un pays moins avancé en la matière, pourrait éveiller des vocations.
Comme pour contredire mes propos d'hier, Danske Bank a récemment déployé pour sa clientèle d'entreprises des interfaces au standard MCP afin de permettre aux plates-formes d'intelligence artificielle générative d'accéder aux données de leurs comptes et être de la sorte en mesure de répondre à leurs questions sur leur situation financière.
La démarche n'est pas totalement originale (je pense à Qonto, entre autres) mais, émanant d'une banque traditionnelle, elle est tout de même digne d'attention… surtout dans la tendance actuelle de l'industrie à se défier des agents IA prenant le contrôle, à un degré plus ou moins élevé, des comptes des clients. La scandinave ne s'illustre d'ailleurs pas par son audace, en n'autorisant que des fonctions de consultation, à l'exclusion de toute exécution de transactions (notamment de paiement).
L'ambition sous-jacente est d'offrir aux directeurs financiers la possibilité d'exploiter les informations bancaires depuis leur outil préféré (ChatGPT, Claude…), via une simple connexion à l'établissement, pour des requêtes qui vont au-delà de ce que leur fournisent les applications classiques, qu'il s'agisse d'analyser les dépenses selon des critères personnalisés, d'effectuer des projections de trésorerie avec des hypothèses spécifiques, de rédiger des rapports combinant différentes sources de données…
Du point de vue de la sécurité, les services dédiés à l'IA sont construits au-dessus des API existantes. Ils héritent ainsi des mécanismes mis en place pour leur protection (configuration initiale, certificats, habilitations, procédures d'identification et d'authentification…), conçus précisément pour des interactions entre des systèmes logiciels et évitant les risques de partage de mot de passe avec un robot, qui terrorisent tant de responsables (dans les organisations et leurs institutions financières).
Grâce à ces différentes précautions et sauf faille de sécurité (que l'IA pourrait détecter), Danske Bank peut être confiante sur les usages de ses clients, avec l'avantage notable, en comparaison de ses propres solutions, de pouvoir dégager sa responsabilité sur les éventuelles divagations des modèles tiers d'intelligence artificielle auxquels ils recourent. Il n'est même pas nécessaire, dans un périmètre circonscrit à la lecture de données, de se préoccuper des intentions de l'humain agissant en arrière-plan.
Cependant, une fois la porte entrouverte, les firmes qui adoptent cette option souhaiteront rapidement avoir aussi la faculté de piloter leurs comptes, par exemple avec l'automatisation des règlements (pour commencer). L'initiative de Danske Bank ne peut donc être considérée que comme une première étape… et la prochaine sera bien plus complexe à mettre en œuvre. En parallèle, la déclinaison de l'approche sur le marché des particuliers constitue un autre défi à envisager. Quoi qu'il en soit, il est critique de mettre le pied à l'étrier au plus tôt, face à des besoins qui évoluent vite.
Plusieurs mois après sa concurrente BBVA (pour ses filiales italiennes et allemandes), CaixaBank vient d'annoncer le déploiement de son application dans la place de marché de ChatGPT. Le principe est identique, limité à une vitrine commerciale, ce qui me conduit à m'interroger sur la stratégie IA des banques vis-à-vis de leurs clients.
Les personnes intéressées sont donc invitées à « installer » le module de l'établissement sur leur compte. Une fois cette étape franchie, ils peuvent interagir en mode conversationnel avec leur chatbot habituel afin d'obtenir des informations sur les produits de la banque, réaliser des comparaisons entre ses solutions et, de manière générale, consulter les contenus publiés sur son site. Je soupçonne que ChatGPT est capable de répondre lui-même à ce genre de questions sans une app dédiée.
En tout état de cause, Je doute que beaucoup de monde soit conquis par une promesse aussi basique jusqu'à s'embarrasser d'une installation, aussi rapide soit-elle. Et CaixaBank n'évoque même pas de plans pour l'ajout de services plus sophistiqués à l'avenir. En fait, l'initiative ressemble surtout à une expérimentation interne, destinée à découvrir et évaluer les possibilités de la plate-forme déployée par OpenAI. Avoir attendu l'automne 2026 pour ce faire est toutefois tardif et aurait justifié la discrétion.
Cependant, la démarche provoque un débat plus important sur les grandes orientations en matière d'intelligence artificielle, dépassant largement le cas spécifique de l'institution espagnole. Au fil du temps, il semble se dégager une certaine confusion et une incontestable ambiguïté sur les outils que les banques veulent – ou préfèrent – que leurs clients utilisent ou n'utilisent pas. Or de telles hésitations risquent fort de leur coûter leur position historique de prescriptrice, voir leur relation avec leur audience.
En effet, d'un côté, l'industrie est engagée dans un mouvement visant à interdire aux agents IA l'accès aux comptes de leurs clients. Autant par sécurité que pour protéger ses intérêts, elle les pousse vers ses propres solutions – et la communication de CaixaBank sur son travail avec ChatGPT ne manque pas de le souligner. Pourtant, les chatbots proposés à ce jour sont, dans la plupart des cas, loin de répondre aux demandes des consommateurs, ce qui explique pourquoi ces derniers se tournent de plus en plus vers les plates-formes généralistes pour obtenir des conseils financiers.
Maintenant, en parallèle, voilà que quelques établissements installent une présence chez ces mêmes acteurs, en en réduisant sévèrement le périmètre fonctionnel. C'est une manière de dire – certes indirectement – qu'ils sont dignes de confiance et que rien ne s'oppose à l'utilisation de leurs logiciels sur des sujets d'argent. Malheureusement, les restrictions imposées vont alors leur paraître incohérentes. Emmenés ainsi dans une double impasse, les clients auront de bonnes raisons d'exprimer leur insatisfaction.
Comme tant d'autres entreprises dans le monde, Apple est confrontée à la crise des puces électroniques (« GPU ») devenues indispensables aux applications d'intelligence artificielle. Sa solution, désormais documentée, consiste à mettre à contribution les composants sous-utilisés des micro-ordinateurs de ses collaborateurs.
Il y a très longtemps, de grandes banques (d'investissement, pour la plupart) avait imaginé de constituer une sorte de calculateur virtuel géant, complémentaire des ressources existantes dans leurs « data centers », en fédérant les PC laissés allumés par leurs salariés, absents, durant la nuit. La firme à la pomme reprend aujourd'hui le même principe, avec un raffinement supplémentaire, afin de résorber les délais de traitement de ses modèles d'inférence, atteignant parfois plus de 10 heures.
Apple Minions, de son petit nom, est un système complexe qui permet de mobiliser à tout moment, et surtout durant la journée, les processeurs graphiques des Mac de l'ensemble de ses effectifs. Ces composants sont justement les plus performants pour les tâches d'IA (et d'apprentissage automatique) et il se trouve qu'ils sont relativement peu sollicités par de nombreux usages informatiques, par exemple bureautiques, qui s'appuient presque exclusivement sur les processeurs généralistes des machines.
Naturellement, il ne peut être question de perturber d'aucune manière les utilisateurs pendant leur travail et cette exigence basique explique pourquoi la mise en œuvre opérationnelle est assez sophistiquée. En premier lieu, les demandes soumises au server central sont subdivisées en tâches élémentaires. Ce sont alors les micro-ordinateurs individuels qui s'emparent de ces dernières en cas de temps mort sur la GPU. Un module dédié gère enfin les erreurs : extinction, perte de connexion…
Dans une organisation de la taille d'Apple, les équipements des employés représentent une réserve d'infrastructure colossale qui, mise à profit à bon escient, soulage des problèmes apparemment insolubles. En l'occurrence, au-delà des investissements qui peuvent de la sorte être retardés, l'entreprise se vante d'avoir réduit l'attente pour les calculs concernés à quelques minutes, d'effacer entièrement sa facture de nouveaux matériels (pour l'instant)… et d'offrir une adaptabilité native aux variations de charge.
Pour autant que je puisse en juger, l'article de recherche d'Apple se limite à une description théorique, sans aucun détail d'implémentation. On attend maintenant que le dispositif soit distribué au reste du monde – commercialement ou pas – de manière à non seulement libérer d'autres entreprises de leurs difficultés d'approvisionnement mais également diminuer un tant soit peu l'empreinte environnementale de l'intelligence artificielle, grâce à la réutilisation efficiente de composants disponibles.
Après sa liste de prédictions il y a quelques semaines, Gartner sacrifie à une autre de ses traditions avec sa sélection de 10 tendances technologiques pour les années qui viennent, à travers laquelle elle confirme une fois encore sa réorientation éditoriale puisqu'elle se consacre exclusivement à la thématique de l'intelligence artificielle.
Alors que les entreprises restent généralement sur la réserve vis-à-vis de l'IA générative, leurs projets ne produisant pas le retour sur investissement initialement attendu, le cabinet se projette déjà sur les prochaines générations de solutions. Comme toujours, l'exercice donne une certaine impression de futilité, tant il semble éloigné des préoccupations des responsables informatiques, souvent focalisées sur le court terme, mais il leur procure tout de même une boussole intéressante afin de préparer l'avenir.
Dans ce sens, les trois grandes catégories dans lesquelles se répartissent les propositions des analystes répondent directement à des problématiques existantes ou en passe d'émerger et qui sont ou deviendront bientôt les casse-têtes à résoudre pour une exploitation sereine des outils tellement prometteurs, qu'il s'agisse de dépasser les limitations des modèles actuels, d'encadrer les compétences des agents ou encore de faire face à une transformation radicale des structures du système d'information.
Dans la première catégorie, et dans l'ordre chronologique du futurisme, il faudra compter sous peu avec des capacités de raisonnement conversationnel, à même d'intégrer le contexte et les intentions dans les échanges, puis avec une modélisation des dimensions physiques d'espace et de temps (et, donc, de causalité) pour des prédictions rationalisées et, enfin, d'approches quantitatives permettant de s'affranchir des approximations et autres dérives des systèmes probabilistes optimisés pour le langage.
Concernant les agents, la première urgence, largement identifiée dans les firmes, concernera les garde-fous requis dans la programmation informatique, assurant la validation automatique des artefacts générés sur un des cas d'usages les plus populaires, dont, hélas, le besoin de contrôle humain annihile aujourd'hui les bénéfices de productivité. Le déploiement de plates-formes dédiées aux contextes est un autre axe prioritaire, ne serait-ce que pour la maîtrise des risques (de sécurité, de surcoûts…).
L'identité des agents représente un autre défi majeur, surtout dans les nombreuses organisations où les exigences en la matière sur toutes les interfaces entre machines, même via de simples API, ne sont pas toujours correctement prises en charge ou, a minima, pas avec une maturité suffisante. À une échéance plus lointaine, on peut espérer que les questions de cybersécurité pourront aussi être confiées à des outils autonomes de bout en bout, de la détection à la correction des vulnérabilités.
Dans le dernier domaine, il est question d'architecture d'entreprise entre les velléités de souveraineté, à la fois géographique (ou géopolitique) et vis-à-vis de fournisseurs de solutions propriétaires, et de renversement des pratiques historiques avec la prolifération d'applications jetables. Les enjeux sont particulièrement critiques en raison non seulement de la révolution qui se prépare mais également de la disparition insidieuse des expertises nécessaires au maintien de la cohérence des SI dans bien des firmes.
Je m'inquiète de voir Gartner se concentrer uniquement sur l'intelligence artificielle et, avec son influence dans les grands groupes, continuer de la sorte à persuader les dirigeants qu'elle constitue l'alpha et l'omega de leur stratégie, voire qu'elle offre la réponse à toutes leurs difficultés. C'est pourquoi je suggère de prendre du recul sur ces tendances et à en considérer les impacts sur leur situation actuelle. Le conseil devrait prendre tout son relief sur, entre autres, la gestion d'identité ou l'architecture, sur lesquelles des chantiers de remise à niveau seraient souvent indispensables, indépendamment de l'IA (qui fournit toutefois un excellent prétexte à leur lancement).
Dans sa bataille permanente pour la relation bancaire primaire de ses clients, U.S. Bank a récemment introduit une capacité inédite (?) de migration automatique des paiements récurrents vers ses cartes de débit ou de crédit, qui vient compléter son initiative précédente destinée à simplifier la domiciliation du salaire sur un nouveau compte.
Élaborée avec le même partenaire spécialisé (Atomic) que cette dernière, la nouvelle option permet aux clients de l'établissement qui le souhaitent de rapatrier rapidement la plupart de leurs abonnements (plates-formes de vidéo, jeux, services en ligne…) et autres règlements de factures périodiques (téléphonie, électricité, eau…) – selon l'éligibilité du fournisseur correspondant – depuis l'espace dédié de leur application mobile, sans requérir une visite du site web de chacune des entreprises concernées.
Le concept vise évidemment en priorité à encourager les consommateurs à transférer leurs opérations principales vers U.S. Bank, qu'ils s'inscrivent dans une démarche d'ouverture de compte ou bien qu'ils en possèdent déjà un à titre de complément à leur banque habituelle. Dans cette logique, il peut également faire valoir un autre avantage susceptible d'intéresser les personnes en délicatesse avec leur budget, surtout en cette période de pouvoir d'achat en berne : son module de suivi des paiements récurrents.
Celui-ci, certes moins original, constitue néanmoins un outil indispensable pour une bonne maîtrise de sa situation financière. Il permet en effet de disposer d'une vue permanente sur les dépenses qui, parce qu'elles sont exécutées sans intervention manuelle, tendent à être oubliées… et finissent par s'accumuler. Les remettre en avant de la sorte offre un moyen de reprendre le contrôle, sans compter les alertes émises quand un montant subit une augmentation ou quand un prélèvement imprévu survient.
Depuis des années, la mobilité bancaire représente un enjeu majeur, pour les régulateurs qui rêvent d'exacerber la concurrence entre les acteurs comme pour les institutions financières qui aimeraient conquérir plus de clients dans un marché largement saturé (mais qui, pour beaucoup d'entre elles, profitent de l'inertie généralisée). Or le principal problème qui se pose aux candidats est celui des impacts d'un changement de compte sur une myriade de paramètres de la vie courante, dont la modification est une corvée que nul ne peut envisager sereinement.
Le mécanisme instauré par les autorités britanniques en 2013, qui, grâce à un registre centralisé des transitions, autorise un report transparent vers un nouveau compte des transactions émises sur un plus ancien, avait réussi, à l'époque, à faire bouger les taux de transfert, mais jamais dans des proportions importantes, peut-être parce que le système n'était pas exhaustif (notamment par rapport aux cartes). L'approche retenue par U.S. Bank – dont il me faut rappeler qu'elle est également distribuée par Mastercard, apparemment sans grand succès – se montrera-t-elle plus efficace ?
« Toute notre dignité consiste donc en la pensée. »Blaise Pascal, Pensées, fragment 347 (éd. Brunschvicg) C’est finalement la fabrication de ce nouveau cahier qui aura presque été mission impossible. Entre pressions bien réelles sur le journalisme et robots déguisés en serviables agents, nous avons fini par embrasser plusieurs fronts à la fois, à l’image […]
« Atteindre vos lecteurs ne devrait jamais se faire au prix de l’abandon de votre journalisme. C’est pourtant le choix que les nouvelles Conditions Générales Commerciales de Meta risquent d’imposer aux éditeurs de presse du monde entier », alerte Stig Kirk Orskov, CEO de WAN-IFRA. À compter du 30 octobre, le géant américain prévoyait d’imposer […]
Cette semaine, on révèle que France Travail veut automatiser le traitement des personnes en demande d’emploi en le confiant à une IA, tandis que le gouvernement, en réaction aux événements récents, déploie l’arsenal technopolicier qui lui permet d’individualiser et de massifier la répression des mouvements sociaux.
Et depuis la semaine dernière Thaïs nous a rejoint, bienvenue à elle !
Bonne lecture à vous !
Alex, Bastien, Eva, Marne, Mathieu, Myriam, Noémie, Nono et Thaïs
Automatisation de la méfiance chez France Travail
D’après les informations que nous avons obtenues, France Travail est en train de s’équiper d’un outil d’IA générative, un LLM (Large Language Model, du type Claude ou ChatGPT), capable d’ingurgiter des documents et d’en faire une synthèse écrite. Pour quoi faire ? – Pour mieux vous contrôler, mon enfant.
France Travail compte environ 7 millions de personnes demandeuses d’emploi, dont 3 millions sont indemnisées. Et, depuis la loi Plein Emploi, les personnes bénéficiant du RSA y sont également suivies. Dans l’idéologie dominante, celle du gouvernement, toutes ces personnes sont soupçonnées de ne pas vouloir travailler et de mentir. La violence subie quand on est au chômage (déclassement, désocialisation, jugement des pairs, dépression, maladie, suicide, pauvreté) n’étant apparemment pas suffisante, l’administration sociale ajoute une grosse dose « d’incitation » à la recherche d’emploi, qui passe par une logique de contrôle serré.
France Travail étudie donc environ 600 000 dossiers par an, pour s’assurer que les personnes concernées recherchent bien un emploi, et déclencher ou non un contrôle approfondi. L’IA serait donc utilisée à ce stade, dans la détection des personnes à contrôler. Ce travail est sans doute fastidieux, puisqu’il s’agit de scruter les justificatifs fournis par les allocataires. Quoi qu’il en soit, la direction de France Travail a décidé de l’automatiser en le confiant à un LLM, avec pour objectif de scanner ainsi 1,5 millions de dossiers par an, tout en réduisant les effectifs chargés de ce travail.
Dès lors, l’enjeu devient : est-ce que les agent·es, soumis·es à une cadence deux ou trois fois plus importante, garderont une part de discernement où, faute de temps, contrôleront docilement les personnes pointées par l’IA ? On peut facilement imaginer la suite logique de cette automatisation. Dans un futur proche, France Travail voudrait que l’ensemble des dossiers des allocataires soient traités par l’IA. Une IA agentique pourrait par exemple demander aux personnes, par mail ou SMS, des pièces justificatives. La suspension de droits ou la radiation resteront-elles sous le contrôle d’une décision humaine ?
Punition collective et répression individuelle des mouvements sociaux
Le gouvernement est complètement dépassé par le mouvement social protéiforme qui secoue le pays depuis plusieurs semaines. Il a d’abord tenté d’intimider les lycéens en prenant le prétexte de dégradations matérielles pour chercher à punir les individus qui prenaient partie à un mouvement collectif : le nombre des arrestations, considérable, montrait bien une volonté de faire peur, en visant les personnes pour dissoudre le groupe social.
Après les dégradations de commerces le 17 octobre dernier, la même logique s’applique. Plutôt que de prendre au sérieux les revendications sociales portées par les manifestations massives de la journée, le gouvernement cherche les responsabilités individuelles dans les événements de la soirée. Pour cela, les divers services de police disposent d’un gros arsenal de mesures techniques et administratives acquises dans les dernières années. En particulier en ce qui concerne l’exploitation des images, nombreuses et de toutes sortes, qui restent après les événements. La police a aujourd’hui les moyens d’identifier les personnes ou de les suivre jusqu’à chez elles, de caméra en caméra, grâce à la VSA ou à des agents humains.
Si cela ne suffisait pas, on envisage aussi des punitions collectives. Des mesures judiciaires exceptionnelles sont banalisées sous la qualification de « criminalité organisée », tandis que le ministère de la justice donne aux parquets des consignes de fermeté qui vont à l’encontre de l’individualisation des peines. Par ailleurs, on entend monter de nouveau la petite musique du « blocage des réseaux sociaux ». Une telle mesure, prise en 2024 en Kanaky–Nouvelle-Calédonie, avait été déclarée illégale a posteriori par le Conseil d’État. À défaut, on essaiera d’interdire les réseaux sociaux aux personnes mineures. Lisez notre article pour passer en revue les moyens utilisés aujourd’hui pour réprimer et criminaliser les mouvements sociaux.
Depuis la semaine dernière, Thaïs a rejoint l’équipe salariée de La Quadrature ! Elle nous aidera à mieux analyser les enjeux politiques des technologies, en particulier de l’IA. Bienvenue Thaïs ! <3
Soutenez La Quadrature en 2026 !
Nous avons presque atteint notre objectif de financement pour 2026. Presque, mais pas tout à fait… Il n’est pas trop tard pour nous soutenir et nous aider à boucler le budget de l’année. Si vous pouvez nous faire un don de soutien, merci beaucoup !
Jeudi 12 novembre 2026 : Causerie mensuelle Technopolice Marseille à partir de 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille. Présentations, discussions, préparations d’actions à venir. Venez nombreuses !
Nous publions un document prouvant que France Travail développe un outil d’IA générative, de type ChatGPT, pour le contrôle des plus de 6 millions de personnes inscrites1Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.. Devant les risques que fait peser le déploiement d’IA génératives à des fins de contrôle social, et alors que ce projet fait figure de pilote à l’échelle nationale, nous appelons à son retrait immédiat.
Le 30 juin dernier, les dirigeant·es de France Travail annonçaient en Comité d’éthique IA2Pour une présentation du Comité Consultatif Ethique de France Travail, voir ici. travailler au déploiement d’une IA générative à destination des équipes du contrôle de la recherche d’emploi. « Mettre en place le contrôle continu », permettre la « détection de signaux faibles » et la « systématisation des contrôles » : les objectifs poursuivis sont sans équivoques.
Le document de présentation de ce projet, que nous publions, est précieux en ce qu’il permet d’appréhender l’ampleur de la banalisation des IA génératives en termes de contrôle social. De par leurs capacités techniques inédites tant d’analyse de données hétérogènes, de prise en compte de contextes variés ainsi que d’échanges par la voix ou l’écrit, elles permettent l’automatisation de processus de contrôle complexes dont le nombre était jusqu’alors limité par leur coût. Ce faisant, elles ouvrent la voie à leur multiplication et à l’apparition de formes de contrôle toujours plus intrusives.
Automatisation et massification des contrôles
À France Travail, cette automatisation est prévue en plusieurs étapes. Dans un premier temps, l’IA n’aura pas la possibilité de déclencher des contrôles ni celle d’interagir directement avec les personnes contrôlées. Elle jouera un rôle complémentaire à l’algorithme de profilage utilisé par France Travail pour sélectionner les personnes à contrôler et que nous présentions cet été3Les contrôles ont plusieurs sources. Ils peuvent cibler un public particulier (intermittent·es, précaires, transfrontalier·ères, etc.), être aléatoires ou se baser sur un algorithme de sélection tel que celui que nous révelions cet été..
L’objectif à court terme est de réduire le temps humain nécessaire à la réalisation d’un contrôle en transférant à l’IA la charge de l’analyse du dossier de la personne contrôlée (situation administrative, professionnelle, personnelle, rapports d’entretiens, diagnostic professionnel…)4Le document précise que l’IA sera nourrie des données disponibles au équipes de contrôle dans le « Datamart ». Si nous n’avons pas plus de précisions quant à son contenu précis, il devrait contenir a minima le dossier de la personne contrôlée, son « diagnostic » ainsi que l’ensemble des échanges avec les contrôleur·ses.. Elle produira une « restitution structurée » de ce dernier, comprenant une « synthèse et des points d’attention », afin de préparer les « conclusions » du contrôle. Le travail des contrôleur·ses se limitera à valider l’application d’éventuelles sanctions.
Sur la seule année 2027, France Travail estime que le « gain de temps » permis par l’IA participera à atteindre la « cible de [1,5 millions de] contrôles 2027 à effectifs constants ». Soit 400 000 contrôles supplémentaires (+36%) par rapport à l’année 2026, sans recrutements supplémentaires5France Travail, Le contrôle de la recherche d’emploi en 2025, disponible ici. Les chiffres pour 2026 sont issus de documents internes..
Un objectif de « systématisation » des contrôles
À moyen terme, le projet des dirigeant·es de France Travail est bien plus ambitieux. D’ici 2030, le document précise que le recours à l’IA vise à une « systématisation des contrôles » par l’automatisation de l’intégralité du processus de contrôle, de la sélection des personnes à contrôler à la réalisation du contrôle lui-même.
Techniquement, la chose est aisée. Il s’agira d’abord de ne pas restreindre l’accès de l’IA aux données des personnes ayant préalablement été sélectionnées pour un contrôle, mais de l’étendre au flux de données personnelles de l’ensemble des personnes inscrites. Un simple changement de son prompt (c’est-à-dire les instructions régissant le fonctionnement de toute IA générative) suffirait alors pour lui donner tant la possibilité de choisir les personnes à contrôler que celle d’échanger avec elles et eux, par mails ou SMS, afin de leur poser les questions de son choix6En plus du changement de prompt, cela pourrait nécessiter la mise en place d’outils, services externes appelés par l’IA pour nourrir son processus de réflexion ou entreprendre des actions concrètes ( envoyer des mails, modifier une base de données..)..
En cas de « doute », l’outil pourrait alors demander de lui-même des informations supplémentaires ou des pièces justificatives. Et à l’issue de ce processus de contrôle continu, l’IA décidera de clore le contrôle ou de transmettre le dossier aux équipes de contrôles en vue de sanctions.
IA et contrôle social : un nouveau paradigme
Dès lors, rien n’empêchera la multiplication de contrôles. En levant toute barrière matérielle à leur expansion, le recours à l’IA acte le passage d’un système de contrôle ponctuel et sélectif à un dispositif permanent et généralisé.
Certes, il existe d’ores et déjà des mécanismes de contrôles automatisés dont le fonctionnement réside sur l’analyse des flux de données en temps réel. Ainsi, l’ensemble des administrations sociales vérifient la quasi-totalité des déclarations des allocataires en croisant leurs informations, des contrôles étant déclenchés en cas de détection d’incohérences. Invisibles, ces contrôles sont pourtant, en nombre, les plus importants et de loin. À titre d’exemple, la CAF reporte plus de 27 millions de contrôles automatisés sur un total de 28,7 millions.
Mais ces contrôles automatisés sont aujourd’hui limités à des opérations simples, principalement la comparaison entre les déclarations et les données détenues par d’autres administrations (revenus, adresse, situation professionnelle…). L’IA générative représente une rupture dans le sens où ce sont des opérations de contrôle « complexes », nécessitant l’analyse de données multiples, la prise en compte de contextes variés et l’échange avec les personnes contrôlées qui sont désormais automatisables. Un ensemble de tâches qui, jusqu’alors, nécessitaient une intervention humaine.
Vers des formes de contrôle inédites
Dès lors, s’ouvre la possibilité non seulement de massifier les formes de contrôles existantes, mais aussi de créer de nouveaux dispositifs toujours plus fins et intrusifs. Une chose qu’ont bien compris les dirigeant·es de France Travail.
Le document que nous avons obtenu fait ainsi référence à l’utilisation de l’IA à des fins de « suivi de parcours »7« Suivi de parcours » est l’application conçue par France Travail pour centraliser les données des personnes inscrites. Elle est prévue pour qu’y soient renseignées les 15 heures d’activité. Une vidéo de présentation est disponible ici.. Il s’agit d’une référence au contrôle de l’obligation de réalisation de 15 « heures d’activité » hebdomadaires. Introduite par la loi Plein Emploi, elle porte sur toute personne inscrite à France travail, qu’elle soit allocataire du RSA ou non.
Aujourd’hui, l’effectivité de cette mesure se heurte aux réalités matérielles du coût induit par le contrôle d’un tel volume d’informations sur une population de plus de 6 millions de personnes, à une fréquence hebdomadaire8La difficulté de suivi et de contrôle de ces heures d’activité par les conseiller·ères a été largement documentée dans le cadre du Contrat d’Engagement Jeune (CEJ), qui fut la première aide y étant conditionnée. Son extension aux 6 millions d’inscrit·es met dès lors en tension le mot d’ordre de mise au travail des personnes bénéficiant de certaines prestations sociales et les réalités matérielles nécessaires à son application. Voir notamment Mauricio Aranda, François Sarfati et Jules Simha , Une jeunesse au guichet de l’emploi. Enquête sur le Contrat d’engagement jeune, 2025 disponible ici et l’étude du CEREQ Conditionner l’accompagnement à des heures d’activités : le cas du Contrat d’engagement jeune disponible ici.. Car, en plus de s’assurer du contrôle de la déclaration desdites « heures d’activités », il faut pouvoir s’assurer de leur cohérence – entre elles et par rapport au projet professionnel et à la situation personnelle – ainsi que de leur véracité. De fait, le travail à réaliser est titanesque et nécessiterait le recrutement de centaines de contrôleur·ses supplémentaires.
Ici, le recours à l’IA générative permettrait de fait la mise en application d’une des mesures de contrôle social les plus invasives qui n’ait jamais existé.
Un outil de répression centralisé, discriminant et opaque
Le discours développé par France Travail pour répondre aux craintes portant sur son projet est également intéressant à analyser.
Premièrement, l’IA générative ne serait qu’un simple outil « d’aide à la décision », le choix d’appliquer une sanction ou non restant du ressort des équipes de contrôles. Cette « supervision » humaine serait supposée empêcher les éventuelles erreurs que pourraient commettre une IA. Cet argument est en réalité largement relativisé par deux éléments. D’une part, il existe nécessairement ce que l’on appelle le biais d’automatisation, c’est-à-dire le fait qu’une personne humaine a tendance à suivre les conclusions d’un outil d’automatisation telle qu’une IA générative sans les remettre en question. D’autre part, l’objectif d’un tel outil est justement d’augmenter la cadence des contrôles, donc de laisser moins de temps pour une analyse humaine. Il est donc faux de laisser croire que les contrôleur·ses auront le temps de vérifier les conclusions de l’IA, alors même que l’institution ne leur en laissera pas le temps.
À ceci, France Travail ajoute que l’IA générative garantirait un contrôle plus « juste » et « équitable » via un traitement « homogène » des personnes contrôlées. Ici, France Travail omet l’essentiel : ce qui se joue est avant tout une opération de centralisation des politiques de contrôle dans les mains des dirigeant·es de l’institution. De fait, ces dernier·ères pourront décider du jour au lendemain de modifier les politiques de contrôle sans aucune concertation et en toute opacité, à travers la simple modification des instructions données à l’IA.
Deuxièmement, on notera également que les IA ne sont en aucun cas neutres ou exemptes de biais. Entraînées sur des bases de données issues d’opérations réalisées par des être humains, elles héritent des mêmes biais et orientations que ceux de la population : les exemples d’IA racistes ou sexistes ne sont plus à compter.
Enfin, France Travail met en avant que l’IA générative permettrait une meilleure « traçabilité » des décisions de sanction. Cet argument n’est pas recevable techniquement, les IA génératives reposant sur l’utilisation de réseaux de neurones dont une des propriétés est justement qu’ils fonctionnent en « boîte noire », c’est-à-dire qu’il n’est pas possible d’expliquer la manière dont une IA générative produit tel ou tel résultat.
Un dangereux précédent
Si le projet de France Travail voyait le jour, tout laisse à penser que l’institution serait rapidement imitée par l’ensemble des administrations sociales, de la CAF à l’Assurance maladie en passant par l’Assurance vieillesse.
Elles hériteraient des grands projets de centralisation de données construites ces vingt dernière années. Nourries aux immenses quantités de données auxquelles ces administrations ont aujourd’hui accès (revenus, déclarations fiscales, dossier médical, factures, comptes bancaires, …), elles ouvrent la voie à un contrôle dont on peine à mesurer l’ampleur.
Rappelons enfin que ces dispositifs n’auront pas le même impact pour toutes et tous. Comme nous l’avons documenté, avec d’autres, dans notre campagne France Contrôle, notre système social contrôle bien plus fortement les plus précaires d’entre nous. Ce sont donc ces personnes qui subiront en premier les conséquences psychologiques et matérielles de la généralisation de contrôles réalisés par des IA génératives.
C’est pourquoi il est fondamental que France Travail renonce à ce projet, comme aux autres. Pour freiner les velléités autoritaires de ses dirigeant·es, vous pouvez nous faire un don. Vous pouvez également retrouver l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.
Les contrôles ont plusieurs sources. Ils peuvent cibler un public particulier (intermittent·es, précaires, transfrontalier·ères, etc.), être aléatoires ou se baser sur un algorithme de sélection tel que celui que nous révelions cet été.
Le document précise que l’IA sera nourrie des données disponibles au équipes de contrôle dans le « Datamart ». Si nous n’avons pas plus de précisions quant à son contenu précis, il devrait contenir a minima le dossier de la personne contrôlée, son « diagnostic » ainsi que l’ensemble des échanges avec les contrôleur·ses.
En plus du changement de prompt, cela pourrait nécessiter la mise en place d’outils, services externes appelés par l’IA pour nourrir son processus de réflexion ou entreprendre des actions concrètes ( envoyer des mails, modifier une base de données..).
« Suivi de parcours » est l’application conçue par France Travail pour centraliser les données des personnes inscrites. Elle est prévue pour qu’y soient renseignées les 15 heures d’activité. Une vidéo de présentation est disponible ici.
La difficulté de suivi et de contrôle de ces heures d’activité par les conseiller·ères a été largement documentée dans le cadre du Contrat d’Engagement Jeune (CEJ), qui fut la première aide y étant conditionnée. Son extension aux 6 millions d’inscrit·es met dès lors en tension le mot d’ordre de mise au travail des personnes bénéficiant de certaines prestations sociales et les réalités matérielles nécessaires à son application. Voir notamment Mauricio Aranda, François Sarfati et Jules Simha , Une jeunesse au guichet de l’emploi. Enquête sur le Contrat d’engagement jeune, 2025 disponible ici et l’étude du CEREQ Conditionner l’accompagnement à des heures d’activités : le cas du Contrat d’engagement jeune disponible ici.
Si vous travaillez au sein d'une collectivité territoriale souhaitant créer ou soutenir une filière locale de reconditionnement informatique pour plus de réemploi et d’inclusion numérique, vous pouvez dès aujourd'hui postuler à un nouveau programme d'accompagnement gratuit et inédit ! Inscriptions jusqu'au 13 novembre 2026.
Vous souhaitez développer le réemploi solidaire d’équipements numériques dans votre territoire ? On vous aide à passer à l'action !
Financé par la Banque des Territoires et co-porté par le Collectif pour le Réemploi Numérique Solidaire, dont Emmaüs Connect fait partie, ce programme de plusieurs mois (de décembre 2026 au printemps 2027) vous permettra de construire un plan d’action complet sur la base d’un solide apport théorique, de nombreux retours d'expériences et d'une communauté de pratiques.
Les raisons de candidater
Avec ce programme, vous allez :
Renforcer vos connaissances sur le sujet : enjeux socio-économiques, état du secteur, cadre légal ;
Comprendre les enjeux opérationnels d'animation de filières : étapes de la chaîne de valeur (du gisement à la distribution), modèle économique, structuration de la gouvernance ;
Découvrir des initiatives et des bonnes pratiques existantes, grâce à des témoignages issus du terrain ;
Formaliser un plan d’action pour créer ou consolider une filière locale de réemploi numérique solidaire sur votre territoire ;
Prendre part à une vaste communauté de collectivités engagées sur le sujet.
Et vous pouvez également vous inscrire au webinaire de présentation du 5 novembre, pendant lequel nous répondrons à toutes vos questions !
Un programme de la Banque des Territoires opéré par Emmaüs Connect, la Mednum, OrdiGrandOuest (OGO), CRAR, Hub du Sud, Réseau Grain, La Mêlée, Hub Corsica.
Pour les responsables de grandes entreprises, l'intelligence artificielle équivaut à une promesse de gains de productivité et, même s'ils ne le disent pas tout haut, de réduction des effectifs. Mais, dans le même temps, elle peut aussi déclencher des besoins de recrutement inédits, comme le révèlent les mésaventures de Bank of America.
Vous vous souvenez certainement du lancement par Anthropic, en avril dernier, de Claude Mythos, capable de détecter les failles de sécurité les plus obscures des systèmes informatiques, au point que sa distribution reste restreinte à des organisations dûment contrôlées. Selon son directeur général, après en avoir obtenu l'accès, Bank of America a mis en œuvre un plan d'urgence afin de corriger les problèmes identifiés.
Ne pouvant se permettre de laisser des portes ouvertes à d'éventuelles cyberattaques, l'établissement a fait appel, depuis le deuxième trimestre, à un millier de prestataires en renfort de ses équipes, déjà fortes de 3 000 personnes, dans le but de confirmer la réalité des défauts exposés par l'outil puis leur apporter une solution dans les meilleurs délais. Il sont encore en poste aujourd'hui et le coût se chiffre en millions.
En marge du sujet principal, cette histoire montre hélas (mais sans surprise) que, en dépit de déclarations rassurantes sur les niveaux de sécurité en vigueur dans le secteur financier, les institutions sont loin d'être infaillibles et sont susceptibles d'être attaquées à tout moment. L'arrivée de l'intelligence artificielle pour diminuer la surface de risques constitue incontestablement une excellente nouvelle, selon cette perspective.
Plus intéressante, donc, est cette inflation massive de travail humain qu'impose soudain l'introduction d'une solution perçue a priori comme porteuse d'économies, surtout dans ses utilisations actuelles. Pour Brian Moynihan (CEO de Bank of America), qui doit évidemment justifier son impact auprès des investisseurs, la situation serait temporaire et la facture devrait baisser au fur et à mesure du colmatage des failles en cours.
Est-ce vraiment réaliste ? Certes, le nombre d'erreurs dans les logiciels déployés va automatiquement décroître, bien que pas obligatoirement à l'allure imaginée initialement. En effet, les interventions exécutées dans la précipitation, notamment par des individus qui ne possèdent pas l'historique de l'entreprise et n'ont pas le temps de l'acquérir, amènent inévitablement leur lot d'anomalies, relevant ou non de la sécurité.
Cependant, l'informatique des grands groupes est en passe d'entrer dans une nouvelle ère de génération continue d'applications, par l'IA, bien sûr, dans les départements informatiques et, de plus en plus, ailleurs. Outre les difficultés de maîtrise du patrimoine qu'elle entraînera, cette révolution provoquera aussi une démultiplication des risques de cybersécurité, d'autant que les robots actuels ne sont pas très mûrs en la matière.
Pour l'instant et pour une certaine durée, il faudra donc continuer à entretenir une armada de spécialistes humains auxquels sera confiée la tâche, non plus d'éradiquer les défauts accumulés pendant des décennies d'expansion du système d'information, mais de vérifier le travail de l'intelligence artificielle et de combler ses lacunes au fil de ses développements, car, dans la banque, l'inviolabilité absolue reste un impératif qui ne peut pas, à ce stade, être confié à des machines sans une supervision permanente.
Le mouvement social qui parcourt actuellement la France, parti de revendications lycéennes et rejoint par le mouvement « contre la vie chère », fait l’objet d’une répression policière et judiciaire intense. Celle-ci est une triste synthèse de ce qu’aura été la décennie du macronisme : pour la police et l’État, toujours plus de pouvoirs arbitraires de surveillance, de censure, de blocage ; pour les opposant·es, les « contestataires », les mouvements sociaux, une liberté de manifester et de s’exprimer toujours plus restreinte et exposée à de plus en plus de dangers. La nouveauté aujourd’hui est que le pouvoir en place ne cache désormais plus son mépris envers la jeunesse, et celle des quartiers populaires en particulier. Voici une description non exhaustive des mesures répressives prises ou annoncées par les responsables politiques.
Alors que revoilà la censure des réseaux sociaux
Ces derniers jours, une petite musique de fond monte au sein de la droite française : il faudrait bloquer les réseaux sociaux pour rétablir l’ordre. Gabriel Attal ou Bruno Retailleau répètent à l’envi qu’il faudrait empêcher les manifestant·es de s’exprimer en ligne, dans une grossière stratégie visant à capitaliser à des fins électoralistes sur le fantasme de l’ordre. Ce mot d’ordre qui traverse toute une part de l’échiquier politique soulève diverses problématiques : déconnexion avec les modes de communication des jeunes, recours autoritaire à la censure, poursuite des velléités d’interdiction des réseaux sociaux aux plus jeunes ou encore recours à une censure extralégale.
La déconnexion entre la classe dirigeante qui martèle son discours anti-social sur les plateaux de télévision et la jeunesse qui, elle, s’informe et se mobilise sur les réseaux sociaux, a effectivement été particulièrement visible depuis le début du mouvement lycéen. Les lycéen·nes et étudiant·es ont fui ces plateaux télé où l’objectif n’est pas d’informer pour se recréer leurs propres espaces d’expression. Dans un entretien donné à Mediapart des jeunes mobilisé·es, ont unanimement exprimé l’absence de pertinence du vieux monde télévisuel.
Les velléités de censure des réseaux sociaux réapparaissent alors comme une énième tentative réactionnaire de museler la jeunesse. Rappelons que bloquer les réseaux sociaux est une marque de fabrique des régimes autoritaires. Personne ne sera donc surpris que la droite extrême ou l’extrême-droite veuillent ce genre de mesure. Gabriel Attal, déjà lui, avait ainsi fait procéder au blocage de Tiktok en Nouvelle-Calédonie–Kanaky en 2024 lorsqu’il était Premier ministre. Lorsque nous avions attaqué cette censure, nous rappelions que ce sont des pays comme la Russie ou la Turquie qui utilisaient ce type de mesure. Le plus triste dans cette histoire est que le droit français sera, si une telle censure était décidée par le gouvernement, totalement incapable de l’empêcher. En 2025, le Conseil d’État, la plus haute juridiction administrative en France, avait certes estimé que le blocage de Tiktok était illégal. Cependant, dans sa décision, il a surtout donné un guide à destination du gouvernement pour qu’une prochaine censure puisse contourner les objections légales.
Les jeunes n’ont pas la parole
N’oublions pas que se joue également en ce moment la question d’interdire aux jeunes d’accéder aux réseaux sociaux, sous couvert de leur protection. La loi Miller, du nom de la députée du groupe présidentiel Ensemble pour la République qui l’a portée depuis fin 2025 jusqu’à son vote final en juillet 2026, voulait ainsi interdire aux moins de 15 ans de se créer un compte sur un réseau social. Bien que cette loi ait été censurée cet été, la France a, en toute discrétion, annoncé la préparation d’un nouveau projet de loi sur le sujet. En parallèle, la présidente conservatrice de la Commission, Ursula von der Leyen, a annoncé un texte européen.
Et à côté de tout ça, le gouvernement continue sa censure extralégale des réseaux sociaux sur lesquels se passe l’organisation du mouvement. Pour rappel, en 2023, le ministère de l’intérieur avait déjà « convoqué » (selon ses propres mots) les plateformes pour leur demander de retirer des contenus légaux (notamment des vidéos des émeutes de 2023). Cette censure, qui reposait sur le bon vouloir des plateformes, s’est faite en dehors de toute autorisation par la loi, l’État menaçant à l’époque de changer les règles applicables si les plateformes ne coopéraient pas. En 2026, rebelote : le gouvernement a annoncé avoir convoqué des plateformes de réseaux sociaux et de places de marchés et trouvé un « accord » pour censurer des contenus.
Surveillance et exploitation des vidéos
Les blocages de lycées ainsi que les manifestations du 17 octobre ont été l’occasion pour les autorités de déployer tous les outils répressifs et de surveillance qu’elles ont acquis ces dernières années. Parmi ceux-ci, c’est probablement l’analyse d’image qui est la plus sollicitée. Entre les caméras désormais très présentes dans les rues des villes, celles installées à l’intérieur des commerces, les drones déployés en manifestation et, surtout, les milliers de vidéos postées par les manifestant⋅es eux-mêmes, l’image offre à la police une source très importante de contrôle et de surveillance.
D’une part, les agents peuvent utiliser la reconnaissance faciale au travers du fichier traitement des antécédents judiciaires (TAJ) afin de retrouver les personnes qui y seraient déjà inscrites. Pour rappel, des personnes simplement passées par un commissariat mais non poursuivies peuvent se retrouver dans cette base de données. Si le fondement légal permettant le recours à cette technologie d’identification est très contestable, la police l’utilise quand même massivement, jusqu’à 1 million de fois en 2024 d’après le media Disclose. Pour en savoir plus, vous pouvez consulter notre guide juridique publié il y a quelques mois. Aussi, n’hésitez pas à flouter vos vidéos si des personnes sont reconnaissables lorsque vous les postez en ligne (Signal permet par exemple de flouter les images avant de les envoyer).
Aussi, la police peut avoir recours à la vidéosurveillance algorithmique a posteriori, lorsqu’une enquête est ouverte. Grace à un logiciel d’analyse des images, elle peut retrouver quelqu’un, non pas via son visage, mais à partir de vêtements distinctifs ou d’autres caractéristiques physiques. Cette surveillance algorithmique a pendant longtemps été opérée par l’entreprise Briefcam, et aujourd’hui c’est la jeune entreprise Orasio qui a remporté un contrat avec la police et la gendarmerie nationales il y a quelques mois. Celle-ci se targuait ainsi le 19 octobre d’aider la police à retrouver les personnes via leurs vêtements et accessoires et de pister les véhicules en suivant les plaques d’immatriculation. Nous avons toujours soutenu que ce type de VSA a posteriori est illégal et intrusif et n’est encadré par aucun texte. C’était sans compter sur la CNIL, censée protéger les données personnelles mais absente dès qu’il s’agit de se frotter à la surveillance d’État, qui est venue à la rescousse du ministère de l’intérieur en 2024. Par une interprétation douteuse, elle cautionne aujourd’hui une utilisation illégitime qui a commencé il y a près de dix ans, laissant libre cours à un usage sans contrôle de ces logiciels de suivi des personnes.
Des pouvoirs exceptionnels banalisés ?
Le ministre de la justice, Gérald Darmanin, a lui aussi tenté d’exister politiquement depuis le début de la séquence. Il a ainsi demandé aux parquets de « passer en qualification de criminalité organisée » les procédures judiciaires ouvertes, afin de pouvoir étendre la durée des gardes à vue et d’avoir accès à des moyens de surveillance encore plus intrusifs. Comme nous le rappelions au moment de la loi Narcotrafic, ces règles sont de plus en plus utilisées pour viser les militant·es, en tentant de prouver que les personnes auraient commis des actions en « bande organisée » ou qu’une « association de malfaiteurs » serait constituée. Cette annonce du ministre nous rappelle une fois encore non seulement que les procureur·es ne sont pas indépendant·es en France, mais aussi que le dévoiement de ce régime d’exception de la criminalité grave, qui n’est pas du tout prévu pour ce type d’infractions, est facile pour le pouvoir en place.
Gérald Darmanin, rejoint par Sébastien Lecornu et Emmanuel Macron, a également dit qu’il n’était pas nécessaire de déclencher l’état d’urgence. Une telle déclaration n’est pas l’expression d’un amour des libertés publiques mais plutôt un aveu que l’arsenal répressif légalisé cette dernière décennie donne suffisamment de pouvoir à l’État pour agir sans avoir besoin de cet état d’urgence. Les préfets n’ont jamais eu autant de prérogatives : interdiction de manifestations, utilisation de drones, « interdictions de paraître » individuelles empêchant l’accès à un lieu, assignations à résidence, ou perquisitions sur simple soupçon peu étayé de « terrorisme » (que l’on appelle « MICAS »), … Très souvent, ces mesures sont mises en œuvre de façon illégale, comme cela a par exemple été le cas pour des drones survolant des lycées en Ardèche, qui ont été qualifiés de non conforme à la loi par un tribunal. Mais dans ce mécanisme où l’administration est toute puissante, le contrôle du juge n’arrive qu’après la bataille, une fois que le mal est fait, et uniquement si des personnes ont les ressources pour contester ces décisions en justice.
La répression qui s’abat aujourd’hui est violente. Elle est la synthèse déplorable de 10 ans de macronisme, qui n’a eu de cesse de multiplier les attaques contre les mouvements sociaux et la jeunesse. Alors que c’est la jeunesse des quartiers populaires qui a réussi à faire collectivement ouvrir les yeux sur l’état déplorable des services publics, elle se retrouve frontalement attaquée, comme l’ensemble du mouvement social désormais. Nous dénonçons l’hypocrisie générale : le pouvoir prend les jeunes pour des incapables à qui il faudrait retirer les réseaux sociaux sous couvert de leur protection, et en même temps il voudrait les criminaliser comme des adultes dès 16 ans. Nous exprimons également notre solidarité et notre soutien à toutes les personnes mobilisées.
Il n’y a pas que les critiques de Télérama et les book-influenceurs qui font de la prescription littéraire : Netflix aussi endosse ce rôle, avec un certain succès. En témoigne le résultat d’une étude commissionnée par la plateforme américaine, dévoilée lors du Netflix Book Festival à Paris, organisé en partenariat avec le Centre national du […]
S’il cultive une présence plus discrète que ses confrères HugoDécrypte ou Gaspard G, Mister Geopolitix trace sa route avec la même longévité. En dix ans sur YouTube, « une antiquité en temps internet », Gildas Leprince a su fidéliser 307 000 abonnés (et 700k toutes plateformes confondues) en rendant concrets des enjeux géopolitiques parfois abstraits : « dronisation » des conflits en […]
Ma lecture du monde est parfois un peu binaire, je le reconnais bien volontiers… Mais dans les nombreux espaces que je traverse, je constate que le rapport à l’IA s’affirme de plus en plus comme un rapport de classe. Les pro-IA appartiennent presque exclusivement aux catégories socio-professionnelles les plus hautes, jusqu’à la caricature. Les gens qui s’y opposent et se mobilisent à son encontre, semblent plutôt appartenir à d’autres espaces sociaux, tant et si bien que cette confrontation sociale est en train non seulement de tendre les rapports autour de la technologie, mais plus encore semble raviver un conflit de classe qu’on pensait (un peu facilement) évanoui. Les huées qui répondaient aux propos pro-IA d’il y a quelques mois sont peu à peu remplacées par des colères glacées, des larmes, des hurlements et des invectives radicales de gens exaspérés par l’IA auxquels répondent le déni glacé de l’injonction, voire le sourire confiant et supérieur du « il faut s’adapter » quand ce n’est pas un panégyrique de la puissance de ces outils au prétexte de l’efficacité, de la rentabilité ou de la souveraineté. C’est un peu finalement comme si l’IA elle-même était devenue l’idéologie des classes supérieures (venant masquer sous sa puissance, le capitalisme, l’impérialisme, l’autoritarisme, idéologies devenues bien plus difficiles à défendre). Comme si l’IA était devenue l’idéologie du moment, qui recouvre d’un voile de neutralité et d’innovation celles qui l’ont fondée et l’ont structurée. Comme s’il suffisait de changer de mot pour proposer la même chose.
Entre l’homélie d’en haut et la condamnation d’en bas
« La seule chose qui croît plus vite que ce secteur de l’IA, c’est peut-être le sentiment négatif des Américains à son égard », s’inquiétait récemment le Wall Street Journal relayé par Le Monde Diplo. L’automatisation renforce une autonomisation de la tech, dans une forme de fuite en avant qui ne va pas de soi pour tous, explique le journaliste Pierre Rimbert. Et la transformation des rapports sociaux qui l’accompagne, c’est-à-dire le renforcement des revenus du capital sur ceux du travail, qui implique un renforcement des inégalités, une surveillance généralisée, une indifférence à l’environnement… révolte une grande partie du public, comme s’en défie The Economist qui dénonce le risque de montée d’une Gen Z socialiste, d’une radicalisation des plus jeunes. Un récent sondage américain le montrait d’ailleurs, « les PDG du secteur de l’IA sont encore plus impopulaires que leurs data centers », résumait Futurism. L’époque où les jeunes vouaient une admiration aveugle à l’industrie technologique qu’ils rêvaient de rejoindre semble bien révolue.
Pourtant cet affrontement n’est pas un affrontement générationnel ou un affrontement entre droite et gauche. L’affrontement est bien plus un affrontement de classe, explique l’activiste Saul Levin, directeur du Centre de recherche sur les conflits non-violents, interrogé par le journaliste Andrew Cockburn dans Harper’s Magazine. L’opposition aux data centers « ne varie pas significativement en fonction de l’âge, de l’origine ethnique, du niveau d’études, du revenu ou du degré d’urbanisation », observe l’enquête de Gallup publiée le 13 mai dernier. « L’affrontement n’oppose pas la droite à la gauche, les démocrates aux républicains, les banlieues à la campagne. En réalité, c’est le haut contre le bas ». Reste, constate Pierre Rimbert, que face à la poursuite de la numérisation à marche forcée, aux États-Unis comme ailleurs, cette contestation populaire, politiquement hétérogène, ne trouve qu’un relais limité dans les discours politiques, qui sont bien plus alignés aux objectifs de développement économique que promet la tech qu’à sa régulation.
Cette tension de classe se renforce à mesure que l’injonction à l’IAification devient une obsession, comme le soulignaitle Monde ou Futurism. Face à la colonisation du moindre de nos outils numériques dans lesquels l’IA s’infiltre sans nous laisser de choix, face à ce nouvel internet sans condition (à l’image désormais de la moindre de nos requêtes sur Google qui s’ouvre par une réponse générative), l’obsession semble devenir frénétique. Tout est envahi d’IA ! Elle ne saisit pas que les entreprises et services qui fournissent des solutions devenues toutes magiques ✨, mais également leurs cadres et managers qui semblent avoir pour beaucoup basculé dans une même frénésie, comme le racontait le journaliste Jules Thomas pour Le Monde. Nombre d’employés expriment leur frustration voire leur colère face à des managers et des cadres utilisant cette technologie pour submerger leur personnel de directives absurdes, de tâches inutiles et de changements de cap incessants. Des cadres qui, sous leur propre injonction à intégrer l’IA, finissent eux-mêmes par être subvertis par les machines, comme ironisait Ed Zitron. À mesure que l’IA s’y déploie, sans contestation possible, c’est comme si les environnements de travail devenaient particulièrement toxiques. « Le lieu de travail s’est transformé en un champ de bataille permanent entre leur propre perception de la réalité et celle de l’IA – et, selon les travailleurs, leur patron choisissait systématiquement cette dernière. »Comme nous le disions à propos de la désinformation où l’IA offre les explications simples que l’on veut croire, l’IA des patrons leur confirme la vision qu’ils veulent croire. « L’IA va produire le récit que vous voulez qu’elle produise », constatent des employés confrontés aux délires de leurs boss à tout faire avec, jusqu’à finalement altérer la réalité, raffermir leurs croyances voire leurs délires et disloquer les collectifs. « Je me retrouve à devoir gérer quelqu’un qui n’a plus les pieds sur terre », explique un autre employé confronté à un patron qui a basculé dans l’IA produisant des boucles d’injonctions… qui ne fonctionnent pas. « Les organisations et les dirigeants doivent choisir : soit ils décident de s’en remettre entièrement à l’IA, soit ils font confiance aux personnes qu’ils embauchent et à leurs compétences ». Dans Futurism, la journaliste Maggie Harrison Dupré dresse les mêmes constats, mais précise cependant : « la plupart des personnes interrogées ont indiqué qu’elles utilisaient effectivement l’IA dans leur vie professionnelle et personnelle, et qu’elles lui reconnaissaient une certaine valeur lorsqu’elle était employée avec prudence et discernement. Toutefois, elles estimaient que l’usage qu’en faisaient leurs employeurs avait franchi la limite entre l’outil utile et l’élément délétère – tant pour les salariés que pour les intérêts réels des entreprises concernées.»
Cette radicalisation de l’usage de l’IA par les catégories supérieures va de pair avec la radicalisation de la détestation de l’IA par tous les autres. En trois ans, il est devenu plus difficile de parler de ce sujet, avec des cadres de plus en plus convaincus et qui laissent de moins en moins de place aux options, qui déploient des outils, des processus et des contraintes et de l’autre des gens qui se noient dans les difficultés que génèrent ces outils, leur impraticabilité, la charge de la vérification et de l’orchestration, l’intensification que cela produit et la démultiplication des injonctions. Comme le disait le sociologue Dominique Boullier : « Dès que l’on veut réellement prendre en main ces outils, contrôler leurs opérations, les vérifier ou valider leurs résultats, les mêmes utilisateurs se retrouvent déçus, inquiets voire en colère ». L’injonction à l’utiliser – la Sommation technologique –, radicalise les positions.
Les proIA évoquent facilement la puissance des outils, mais jamais leurs limites. Pour eux, les contestations, les oppositions semblent inexistantes, alors même qu’elles se démultiplient (de la contestation du déploiement de l’IA dans les systèmes de travail, dans l’éducation, à l’opposition aux systèmes de surveillance des plaques minéralogiques, aux data centers ou aux lunettes connectées… pour ne citer que quelques-unes des polémiques actuelles). C’est comme si toute opposition était niée par principe. Comme si les contestations et oppositions devaient être mises sous le tapis, silenciées au prétexte qu’elles seraient au pire irrationnelles au mieux politiques. Ce déni de réalité est marquant. Dans les entreprises comme les administrations, les contestations sont elles aussi étouffées. Le dialogue social suppose de ne jamais parler avec les contestataires. C’est comme si l’on ne voulait pas faire entrer les données problématiques dans le modèle d’entraînement. D’où d’innombrables rapports de think tanks ou d’institutions… qui parlent de l’IA pour la produire, sans jamais regarder ses limites. On a l’impression que deux mondes s’affrontent. Et, quand cela échoue (et cela échoue souvent), on passe au projet suivant. Pire, comme le pointe le Monde dans un autre article, l’IA favorise aussi des transformations stratégiques confuses.
Peut-être qu’en fait, transparaît dans ces outils, finalement, le fait qu’ils n’en soient pas. C’est ce que disent les chercheurs quand ils nous invitent à reparler de l’économie politique de l’IA et à en dépasser la technique. C’est ce que disait aussi le journaliste de Mediapart, Romaric Godin, en nous rappelant que l’IA n’est pas un outil, mais bien le vecteur d’une capture hypercapitaliste du monde. L’usage de l’IA révèle finalement le monde qui le produit et ses objectifs. Il nous dresse les uns contre les autres. Son rythme ne nous laisse aucun espace d’apaisement. Il est en passe de devenir un objet de lutte sociale ou son symbole, entre deux mondes.
Les proIA finissent par craindre le monde qui les entoure et qu’ils contribuent très activement à produire, d’une requête à l’autre. Ils regardent avec méfiance ceux qu’ils relèguent aux ordres de leurs machines : chauffeurs Uber, employés d’entrepôts sous-traités, métiers déclassés, rappelle l’historienne Kim Phillips-Fein dans une tribune pour le New York Times. « Ils ont raison de redouter la colère de ces groupes dépossédés, tout comme ces derniers ont raison d’être en colère ».
Les employés utiliseront-ils l’IA avec l’intensité des codeurs ? Pas si sûr !
Avec l’IA, on a l’impression que, en haut de la hiérarchie sociale, tout le monde est convaincu que les employés vont l’utiliser comme l’utilisent les codeurs : intensément. Avec l’espoir que tous voient leur productivité démultipliée même si elle ne se réalise pas vraiment, jusqu’au plus complet épuisement. Or, ce n’est pas ce que l’on constate toujours, comme nous le montrions dans notre article sur l’évolution des usages de l’IA en juin. Les usages récréatifs sont plus nourris que les usages professionnels et le sont de plus en plus.
En fait, hormis les développeurs, « les autres cols blancs ne sont pas encore entrés dans ce monde » constate Colin Jarvis d’OpenAI dans The Economist. Ça tombe mal. Car pour justifier leurs investissements colossaux dans les centres de données, les géants américains de l’IA ont besoin que l’adoption de cette technologie continue de se répandre rapidement, au même rythme qu’elle envahit le développement informatique. Selon The Economist, couvrir le coût de la construction des centres de données nécessitera que les revenus annuels totaux générés par l’IA atteignent 2 500 milliards de dollars d’ici la fin de la décennie, contre environ 150 milliards actuellement. Les revenus de l’IA grossissent vite… mais pas assez vite, se désole le magazine économique. Reste qu’à ce jour, l’adoption de cette technologie est de loin la plus forte parmi les développeurs de logiciels. D’après le forum en ligne Stack Overflow, quatre développeurs sur cinq déclarent utiliser un outil de programmation IA. En juin 2025, le chiffre d’affaires annuel récurrent cumulé de Cognition, Cursor, Lovable et Replit, quatre startups spécialisées dans la programmation IA, s’élevait à environ 800 millions de dollars. Il atteint aujourd’hui 6 milliards de dollars. « SemiAnalysis, un cabinet d’études, estime que pour Anthropic et OpenAI, la programmation représente désormais plus de la moitié de leur chiffre d’affaires annuel récurrent cumulé ».
L’IA donc se diffuse plus rapidement dans les secteurs où les ingénieurs logiciels représentent une part plus importante de l’emploi, comme le synthétise un graphique de The Economist qui montre que l’adoption de l’IA dépend beaucoup du pourcentage de développeurs parmi les employés. Très logiquement, elle est plus forte dans les secteurs où les développeurs sont nombreux comme les services et les entreprises logicielles que dans les secteurs comme la santé, l’industrie ou les transports. Les optimistes voient là la preuve que le boom de l’IA ne fait que commencer. Les pessimistes, que le codage risque de faire longtemps figure d’exception.
Or, souligne The Economist, trois autres secteurs sont souvent présentés comme les prochaines applications à forte croissance de l’IA : le droit, la finance et les services client. Tous connaissent une croissance significative. « Harvey, Clio et Legora, trois développeurs d’outils juridiques basés sur l’IA, ont quasiment doublé leur chiffre d’affaires annuel récurrent combiné au cours de l’année écoulée, pour atteindre 1 milliard de dollars. Harvey affirme que le temps passé par les avocats sur sa plateforme double chaque mois.» Les banquiers et autres acteurs du secteur financier adoptent également l’IA. « Rogo, une startup spécialisée dans l’IA et développant des outils pour le secteur des services financiers, a conquis 100 nouveaux clients entreprises au cours du dernier trimestre et a augmenté son chiffre d’affaires annuel récurrent de 50 %.»
L’IA prend également son essor dans le service client. « Sierra, qui développe des outils à cet effet, a atteint un chiffre d’affaires annuel récurrent de 200 millions de dollars en juin, soit le double du chiffre enregistré en novembre dernier. Les investisseurs en capital-risque sont optimistes. Depuis le début de l’année, ils ont injecté 3 milliards de dollars dans les startups d’IA de ce secteur, un montant supérieur à celui de toute autre catégorie d’application d’IA » (alors que les investissements dans les startups de programmation d’IA sont en train de stagner, notamment en raison de la domination croissante des outils de programmation internes des grandes entreprises d’IA, souligne The Economist).
Ces trois secteurs applicatifs présentent certaines similitudes avec la programmation. Ils représentent d’importants marchés potentiels et le travail est souvent répétitif. Cependant, « quatre facteurs les distinguent de la programmation à leur désavantage : la disponibilité des données d’entraînement ; la facilité de test des résultats d’un modèle ; le niveau d’interaction humaine requis ; et les ingénieurs logiciels eux-mêmes ». Les entreprises d’IA de ces secteurs s’efforcent de rendre leurs autres marchés plus semblables à la programmation, mais il n’est pas sûr qu’elles y arrivent, structurellement. Car si l’IA a connu un tel succès en tant qu’assistant de programmation, c’est en partie grâce à l’abondance de code open source disponible. Elle s’est ainsi intégrée aux modèles, représentant dans certains cas près d’un cinquième des données d’entraînement. « Un tel volume de contenu accessible au public n’existe tout simplement pas pour les réclamations clients ou les négociations contractuelles ».
Le code généré par l’IA est également relativement facile à valider, rappelle le magazine économique. « Les tests logiciels font partie intégrante du développement logiciel : un morceau de code en vérifie un autre. Cela augmente la probabilité de détecter les erreurs dans le code généré par l’IA avant qu’elles ne causent des dégâts. De plus, les tests contribuent à améliorer les performances des modèles en les alertant en cas d’erreur. Évaluer si un client mécontent a été apaisé ou si un modèle d’évaluation a correctement reflété les nuances des comptes d’une entreprise est plus complexe.»
« Les outils de développement logiciel présentent l’avantage supplémentaire que la plupart des informations nécessaires à l’exécution d’une tâche existent déjà dans le code source du programme, ou sont accessibles via les interfaces de programmation (API), qui connectent les logiciels. Dans de nombreux autres contextes, cependant, les informations cruciales ne sont pas disponibles sous forme numérique : elles résident plutôt dans l’esprit d’un employé de centre d’appels ou dans l’expression du visage de l’avocat de la partie adverse. »
Les entreprises spécialisées en IA travaillent à relever tous ces défis, souligne The Economist. Winston Weinberg, le patron de Harvey, explique que les progrès de l’IA permettent désormais à son entreprise d’entraîner ses outils en s’appuyant en partie sur des données « synthétiques », générées par les systèmes d’IA eux-mêmes. Des startups comme Mercor mettent en relation des entreprises d’IA et des professionnels experts de divers secteurs, capables de transférer leur expertise dans des modèles. « Ping Wu, patron de Cresta, affirme qu’en analysant des milliers de transcriptions d’appels, sa startup spécialisée dans le service client par IA peut déduire certaines connaissances détenues par les employés, comme la procédure de traitement des remboursements. De nombreuses entreprises d’IA dépêchent désormais des ingénieurs directement dans les locaux de leurs clients pour résoudre des problèmes et perfectionner leurs outils.»
Mais, conclut The Economist, le dernier facteur expliquant le succès de l’IA dans la programmation est peut-être le plus difficile à reproduire : ce sont les ingénieurs logiciels eux-mêmes. « À la fois passionnés de technique et habitués au changement, ils adoptent naturellement les nouvelles technologies. L’adoption de l’IA pour le codage s’est ainsi faite en grande partie de manière ascendante, les ingénieurs découvrant et expérimentant ces outils de leur propre initiative ».
À l’inverse, les agents de centres d’appels n’ont généralement ni l’incitation ni la liberté d’expérimenter dans le cadre de leur travail, et ont tendance à attendre que les technologies soient déployées selon une approche descendante. Les avocats et les professionnels de la finance doivent également faire preuve de prudence pour ne pas enfreindre les nombreuses réglementations régissant leurs métiers. Bref, la difficulté à reproduire la liberté et l’habileté technique des développeurs pourrait bien être la limite à l’expansion de l’IA au-delà du code.
D’autres applications de l’IA continueront certainement à se développer, et pourraient même s’accélérer à mesure que les modèles s’améliorent et que les entreprises se sentent plus à l’aise à l’idée de confier des tâches à des agents d’IA. Toutefois, il faudra peut-être attendre encore longtemps avant que la majorité des employés de bureau ne passent leurs journées à chuchoter dans des microphones, avec des masques sur le visage, comme le font déjà les codeurs. Reste que dans de nombreuses professions, comme l’évoque le Financial Times, les usages se déploient en ordre dispersé : les usages comme les inconvénients ou les menaces ne sont pas les mêmes selon les secteurs.
La responsabilité des productions de l’IA est socialement inversement distribuée
Ce que montre également cette tension, c’est qu’au-delà des catégories socio-professionnelles supérieures du code et du management, le rapport à l’IA n’est pas le même, structurellement. Pourquoi les employés de bureau se rebellent-ils contre l’IA alors que c’est bien moins le cas des managers et développeurs qui l’utilisent ?, questionne l’historien Brian Merchant sur son blog.
Merchant a jeté un œil sur l’étude empirique publiée par Glassdoor, le site participatif d’évaluation des environnements de travail, sur le rapport des salariés à l’IA déployée par leurs entreprises (que nous avions également évoqué dans notre brève : quels travailleurs détestent le plus l’IA ?). « Les personnes qui décrivent l’IA en termes très positifs occupent, pour la grande majorité, des postes de direction ; ce sont les cadres de niveau directeur ou supérieur qui manifestent le plus d’enthousiasme à son égard. Les responsables des ventes – en somme, les chefs d’équipe commerciale – se montraient également bien plus favorables que défavorables à l’IA, dans une proportion d’environ deux pour un. Les chefs de produit, les recruteurs et les ingénieurs logiciels affichent eux aussi un avis plutôt positif, avant que les opinions ne tendent vers un certain équilibre ». A l’inverse, remarque l’historien, si l’on observe les professions qui décrivent l’IA en termes très négatifs, on voit apparaître une toute autre configuration sociale. Merchant souligne que le basculement des avis négatifs a progressé et qu’il s’affirme à mesure que les entreprises adoptent massivement des solutions d’automatisation basées sur l’IA. Mais il semble que « plus les travailleurs sont exposés à l’IA, moins ils l’apprécient ». « Comme le souligne le rapport, les critiques des employés ne se limitent pas à la peur de perdre leur emploi. Loin de là. Si la crainte du licenciement reste la raison principale pour laquelle les travailleurs rejettent l’IA, elle ne représente pas pour autant la majorité des griefs exprimés. Si beaucoup craignent d’être remplacés par l’IA (20 %), d’autres déplorent l’imposition d’outils d’IA (14 %) ou estiment que leur entreprise privilégie l’IA au détriment de son cœur de métier (13 %). Parmi les autres critiques figurent l’utilisation de l’IA pour la communication interne ou la surveillance des employés (10 %), une adoption trop lente de la technologie (9 %), des attentes irréalistes quant aux gains qu’elle peut générer (8 %) et l’appartenance à un secteur susceptible d’être bouleversé ou remplacé par l’IA (7 %). » Pour Merchant, « le ressenti vis-à-vis de l’IA au travail dépend probablement du pouvoir dont vous disposez au sein de l’entreprise ». Le rapport à l’IA est distribué selon le pouvoir dont on dispose sur ces outils. L’appréciation est directement liée à la position sociale qu’on occupe.
« Pour percevoir l’IA de manière positive, il faut avoir la main sur les décisions concernant son utilisation (ou non) et disposer d’une marge de manœuvre suffisante pour se sentir protégé contre le risque de remplacement, de surveillance ou de dégradation des conditions de travail ». « Ce n’est pas seulement dû au fait que les patrons sont plus enclins à adopter l’idée que l’IA peut leur offrir de nouveaux moyens de réduire les coûts de main-d’œuvre, de nouvelles opportunités de surveiller et de contrôler leurs effectifs, ou encore un nouveau levier pour contrer les initiatives d’organisation collective, les syndicats ou les travailleurs réclamant de meilleurs salaires ou de meilleures conditions de travail. C’est aussi parce que les patrons rendent beaucoup moins de comptes quant à leur utilisation de l’IA », et donc rendent beaucoup moins de comptes de leur pouvoir, de leurs décisions. Ils peuvent l’utiliser pour rédiger des notes, des mails, pour automatiser des tâches, sans risquer de sanction ou de licenciements en cas d’incohérence (et nombre d’employés le déplorent d’ailleurs ou s’en moquent, comme le soulignait l’article du Monde qu’on évoquait plus haut).
Pour Brian Merchant, la responsabilité éclaire la différence de perception. C’est pourquoi les emplois d’employés sont bien plus en colère contre l’IA que les cadres. Cela explique que les comptables, les conseillers clientèles ou les informaticiens de base soient mis en difficulté par ces outils, car c’est sur eux que repose la tension de la vérification entre « le patron exige que toute l’entreprise utilise l’IA » et « la moindre erreur est de votre faute et vous en êtes responsable ». Dans les entreprises de comptabilité, pour les comptables, le passage à l’IA est souvent problématique, comme le disait le Washington Post. En informatique, les ingénieurs et architectes logiciels sont souvent plus enthousiastes que les informaticiens qui eux doivent dépanner l’architecture quand elle tombe en panne. L’étude de Glassdoor par exemple montre que les employés les plus véhéments à l’égard de l’IA sont les assureurs experts du traitement des sinistres, rapporte Wired. « Nous sommes épuisés par la quantité d’IA qu’on nous impose », témoigne l’un d’eux à Wired. En fait, la profession traverse une crise majeure. Le nombre de postes a baissé de 5 % au cours de la dernière décennie et de plus de 21 % entre mai 2025 et 2026, et les postes de débutants ont chuté de plus de 50% depuis 2025. Pour le bureau des statistiques du travail américain, cette chute serait liée au déploiement technique. « Des startups spécialisées, comme Liberate ou Pace, ont levé des millions de dollars en promettant de « réinventer » l’assurance, tandis que les assureurs ont intensifié le recours à l’IA pour traiter un volume croissant de dossiers. Concrètement, cela peut se traduire par un échange avec un chatbot plutôt qu’avec une personne physique pour déclarer un sinistre. Au lieu d’envoyer des agents inspecter une habitation endommagée, des outils d’IA peuvent analyser des photos ou des vidéos pour estimer le montant des indemnisations. L’IA peut également résumer des centaines de pages de dossiers médicaux afin d’en extraire les informations essentielles. Ou bien, l’outil d’IA d’un assureur pourrait traiter les informations transmises par un assuré – photos, vidéos, documents, reçus – puis effectuer un versement, le tout en quelques secondes », comme le propose Lemonade dont le chatbot traiterait 55 % de l’ensemble des dossiers de sinistres, laissant à ses employés la gestion des dossiers les plus complexes. Mais les professionnels du secteur ont surtout l’impression d’être remplacés par des modèles d’IA… sans que les clients ne comprennent très bien que les conclusions d’une expertise (et ses erreurs) sont bien plus le fait de robots que d’experts. Les employés des services des sinistres doivent donc traiter des dossiers que les clients remplissent avec l’aide de chatbots, conduisant à une prolifération d’hallucinations, à des dossiers mal classés, déclenchant la colère des assurés en retour. Les gestionnaires de sinistres se retrouvent à être le tampon de l’automatisation.
Pour Merchant, l’étude de Glassdoor montre bien que la rancœur bouillonne auprès de ceux qui sont contraints à utiliser l’IA.
Le déploiement de l’IA pose, peut-être plus que d’autres technologies avant elle, la question de savoir qui a vraiment le pouvoir dans l’entreprise. Le malaise social de l’IA au travail est en train de cristalliser, dans une opposition hiérarchique qui risque de révéler et d’accentuer les défaillances de gouvernance des organisations. L’IA révèle le simplisme de l’autorité. En s’imposant par la vitesse (il faut aller vite), elle souligne pourtant que la gouvernance n’a pas la même cadence et que cette accélération risque de radicaliser les positions, les oppositions.
Pour le dire autrement. Peut-être que la grande ambiguïté de l’IA partout et pour tous consiste à croire que ces outils sont accessibles à tous. Ce n’est pas ce que nous disent pourtant les pratiques. Les usages avancés ne sont accessibles qu’à quelques-uns : ceux qui ont la liberté de statut pour se faire. Croire que tous les employés ou tous les agents vont demain faire des miracles parce qu’ils accèdent à des outils d’IA est peut-être l’autre leurre des outils d’IA ouverts à tous. Même les codeurs et les managers ne font pas toujours des miracles avec, bien au contraire. L’introduction de l’IA redéfinit profondément la gouvernance des organisations et pour l’instant, nombre de lieux qui la déploient ne se posent pas de question sur la réorganisation de cette gouvernance. D’où le développement de blocages hiérarchiques. Entre paralysie et résistance. L’IA reste vue comme un simple outil pour l’efficacité, alors qu’elle recompose l’organisation du travail elle-même. Pour résoudre le malaise social que génère l’IA au travail, il va falloir l’accompagner de propositions sociales, disions-nous. Désormais, pour résoudre le conflit social que génère l’IA au travail, il va falloir l’accompagner d’une reconfiguration de l’organisation sociale du travail.
Mastercard propose depuis peu aux émetteurs d'intégrer dans leurs applications un assistant conversationnel – à base d'intelligence artificielle, naturellement – afin d'aider les porteurs de carte à mieux profiter des avantages accompagnant celle-ci. L'objectif consiste surtout à relancer l'intérêt pour un argument commercial qui s'essouffle.
Traditionnellement, les consommateurs peuvent se laisser tenter par les offres alléchantes que les banques mettent en avant sur les différents supports qu'elles distribuent, notamment en Amérique du Nord où les cartes de crédit sont assorties de cagnottes ou du remboursement d'une fraction des dépenses dans des catégories prédéterminées. Mais l'attraction initiale s'estompe souvent très vite avec l'habitude de bénéficier de ces bonus ou, au contraire, avec l'oubli des promotions disponibles.
Mastercard Max veut donc remédier à ce défaut. Pour ce faire, une fois activé par le client, il détecte automatiquement les achats pour lesquels il est susceptible d'émettre des recommandations appropriées. Le cas classique est celui d'une commande pour un voyage : il est alors capable de rappeler au moment opportun les différentes possibilités d'être récompensé, dont les restaurants, escapades, divertissements… à découvrir sur le lieu de destination, les salons accessibles dans les aéroports visités…
La promesse sous-jacente résonnera indubitablement auprès des institutions financières puisqu'elle porte sur la satisfaction et la fidélité des utilisateurs, qui, outre la sorte de conseil contextuel et personnalisé que fournit le service – évolutif dans le temps et avec l'approfondissement progressif de la connaissance de leurs préférences –, se voient constamment rappeler les petits plus que leur procure leur carte… en comparaison, potentiellement, des autres qui occupent une place dans leur portefeuille.
Cependant, derrière ces discours orientés vers les usagers, la préoccupation principale de Mastercard et, dans une large mesure, de ses établissements partenaires est d'abord mercantile. Dans cette perspective, l'assistant a pour mission de stimuler le recours à la carte, de manière à développer le volume d'activité de paiement. Dans ce but, l'entreprise n'hésite pas à mettre en place un système qui va capturer une masse d'information supplémentaire sur les comportements des porteurs de ses instruments.
Dans un marché qui remet en cause le niveau des commissions sur les transactions, cet ajout représente aussi un critère de justification vis-à-vis des commerçants. En fait, la démarche dans son ensemble ressemble à une tentative de redonner un élan aux pratiques marketing qui entourent la carte de crédit depuis sa naissance et dont la banalisation tend à les dévaloriser. Mais les consommateurs continueront-ils à être séduits par des offres de plus en plus intrusives envers leur vie privée ?
En marge de ces considérations, je note dans l'annonce de Mastercard une nouveauté qui est vraisemblablement appelée à se généraliser. Son assistant virtuel étant conçu pour une intégration dans les applications web et mobile des banques, il est mis à disposition de ces dernières sous la forme d'un kit de développement (via API), de composants web prêts à l'emploi… et d'interfaces inter-agentiques pour une utilisation transparente depuis les plates-formes d'IA qu'elles auraient elles-mêmes déployées.
Depuis 2024, Nationwide offre à tou(te)s les britanniques victimes de violences domestiques des espaces de sécurité dans ses près de 500 agences réparties sur le territoire. Elle complète maintenant ce dispositif avec une option en ligne destinée à orienter les personnes concernées vers les services susceptibles de leur fournir assistance.
Que ce soit par confort d'une recherche d'aide via le web ou par impossibilité pratique de se rendre dans un de ses « safe spaces » (y compris en raison de leur éloignement), celles et ceux qui se trouvent dans une situation d'abus peuvent désormais compter sur le site de Nationwide, qu'elles ou ils en soient client(e)s ou non (bien que, dans ce dernier cas, la visite d'un site bancaire ne constitue probablement pas le premier réflexe), afin d'obtenir des informations sur quelques solutions de support.
La section consacrée au sujet, vers laquelle un lien est présent au bas de toutes les pages web de l'établissement, est conçue en prenant soigneusement en compte le contexte particulier de ses utilisateurs. Ainsi, afin d'assurer le maximum de discrétion vis-à-vis de leur entourage, son accès reste totalement invisible de l'historique de navigation et il est possible de la quitter en urgence, d'un seul geste (un clic sur un grand bouton ou un appui sur la touche d'échappement du PC), auquel cas la session est transférée automatiquement vers une application neutre (de météo, en l'occurrence).
L'initiative prolongée de Nationwide répond à un enjeu national (qui n'est malheureusement pas exclusif au Royaume-Uni), considérant qu'une estimation fait état de quelques 3,8 millions d'adultes ayant subi une forme ou une autre de violence domestique sur 12 mois. L'institution justifie par ailleurs son implication directe sur ce thème par le fait que, selon ses propres recherches, environ un quart des victimes vivent des abus financiers et plus de la moitié ne disposent pas de leur argent librement.
Cependant, au-delà de l'aspect philanthropique de la démarche face à un phénomène sociétal tragique, la banque a trouvé là une cause à travers laquelle elle peut mettre en exergue son engagement pour la communauté, au cœur de son modèle mutualiste. À l'heure où la plupart de ses consœurs, notamment en France, tendent à se fondre dans la masse commerciale de l'industrie de la finance, ce genre de services lui permet de redonner son sens à l'esprit coopératif dont elle est l'émanation historique.
Dans le cadre de leur collaboration, les deux principaux régulateurs financiers de l'hexagone, ACPR et AMF, présentent une synthèse de leurs constats sur les pratiques commerciales des établissements qu'ils supervisent, élaborée à partir des résultats d'une soixantaine de contrôles réalisés entre 2020 et 2024 (ce qui paraît bien peu !).
La démarche s'inscrit dans les travaux engagés afin de renforcer les exigences de protection des consommateurs telles qu'elles sont portées par les directives européennes. À ce titre, elle concerne seulement la distribution d'instruments financiers et d'assurance-vie, qui, certes, avec le crédit, font effectivement partie des domaines les plus sensibles du secteur… d'autant qu'ils comptent aussi parmi les plus exposés aux escroqueries et qu'il est donc important de veiller à la qualité des offres légitimes.
Les conclusions de ce chantier ne réservent aucune surprise. En particulier, les deux organismes pointent du doigt l'abus fréquent de standardisation dans les approches de « certains » acteurs, à la fois au niveau de la définition des produits (dont, plus spécifiquement, les audiences auxquelles ils s'adressent) et dans le conseil qui accompagne la vente, qui manque de personnalisation jusqu'à parfois aboutir à des préconisations qui vont à l'encontre des besoins réels (exprimés ou non).
Le diagnostic que font les auteurs de ces défaillances révèle qu'elles tirent leur origine d'insuffisances dans la collecte d'informations auprès des demandeurs. C'est hélas une évidence : dans de nombreux cas, les critères déterminants pour, par exemple, la sélection de supports d'investissement se limitent aux réponses aux questionnaires de sensibilité aux risques, eux-mêmes souvent conçus dans un but exclusif de conformité réglementaire et sans grande préoccupation pour l'exploration des attentes du client.
Depuis des années, les « conseillers » se sont transformés en vendeurs, maîtrisant chacun l'argumentaire d'une petite sélection de produits qu'ils ont l'habitude de présenter (à l'extrême, il ne reste que les livrets à taux fixe et l'assurance-vie : faites le test). Ils recommandent alors ceux-là à l'emporte-pièce, sans prendre le temps de comprendre leur interlocuteur, faute, notamment, de support opérationnel – depuis la formation jusqu'aux outils d'assistance – dans cette phase pourtant critique de la relation.
Face à cette tendance inquiétante et malgré leurs discours, les autorités européennes prennent du retard, au risque de laisser les citoyens se tourner vers d'autres sources susceptibles de leur fournir des préconisations mieux adaptées à leur situation, réellement ou en apparence, et donc de laisser émerger et proliférer de nouveaux dangers. Sans qu'elle soit parfaite, la notion de « consumer duty » imposée au Royaume-Uni depuis quelques années montre la voie vers une solution appropriée.
On croyait que la bataille de la finance ouverte était terminée, avec un consensus autour du déploiement d'interfaces standardisées et sécurisées. Voilà que les agents intelligents viennent remettre tout en cause ! Les banques américaines commencent en effet à leur interdire plus ou moins strictement l'accès aux comptes de leurs clients.
Jamie Dimon, directeur général de JPMorgan Chase, était un des premiers à s'exprimer publiquement sur le sujet, au cours d'une récente conférence avec les analystes. Et les arguments qu'il brandit rappellent étrangement ceux qu'on entendait il y a encore quelques années face aux entreprises qui voulaient proposer des services à valeur ajoutée aux consommateurs et aux entreprises moyennant une connexion à leurs comptes. Hélas, le compromis trouvé alors semble désormais devenu caduc.
Les craintes pour la sécurité de l'argent et des données confidentielles des clients, mais aussi de la banque elle-même, reviennent donc au premier plan du débat. Et la réponse est identique à celle d'autrefois : des mécanismes de protection sont mis en place afin d'empêcher les robots d'entrer dans les systèmes ou, pour les établissements les moins radicaux, de leur refuser toute possibilité d'exécuter des mouvements de fonds (mais, si on lit entre les lignes, en leur accordant tout de même des droits de consultation).
Si elle n'était pas aussi pathétique, cette réaction prêterait à sourire. Il faut se souvenir que les tentatives de blocage des outils de capture de données des pionniers de l'agrégation de compte ont toujours fini par montrer leur inefficacité. Comment les mêmes méthodes peuvent-elles aujourd'hui rivaliser avec des intelligences artificielles dont l'actualité nous relate chaque jour les exploits et son habileté à contourner les obstacles dressés devant elle dans l'exécution des tâches qui lui sont confiées ?
En revanche, je reconnais qu'il existe un vrai problème de fond concernant les risques d'interactions incontrôlées entre les agents IA et les comptes de leurs utilisateurs. Les institutions financières peuvent légitimement s'inquiéter de leur responsabilité en cas d'agissement indésirable. Il devient indispensable de définir des règles claires, relevant notamment de la validation d'intention, partagées en toute transparence avec les clients, en s'assurant que ces derniers les comprennent et les acceptent sans réserves.
Au lieu de perdre de l'énergie à essayer vainement de rejeter les accès à leurs applications par des agents IA, qui risquent aussi de perturber des demandes régulières par excès de zèle, les banques devraient surtout se pencher d'urgence sur les moyens d'accommoder les besoins émergents. La délégation de pouvoir à l'intelligence artificielle n'en est qu'à ses prémices, elle va rapidement prendre de l'ampleur sans aucune possibilité de la stopper, et il est futile d'imaginer que ceux qui y ont recours accepteront sans broncher de se voir fermer les portes de leurs comptes.
Près de deux décennies après les premiers projets sérieux de création de solutions d'identité « digitale » adaptées à l'ère numérique et tandis que se rapprochent les échéances de mise en œuvre de la réglementation européenne en la matière (eIDAS), un consortium essentiellement bancaire propose son produit au marché néerlandais.
La relation entre l'industrie financière et la gestion d'identité est une longue histoire. Compte tenu des fortes exigences de contrôle naturellement impliquées par leurs métiers et des procédures mises en place depuis toujours afin de les garantir, les banques montrent depuis longtemps des velléités récurrentes d'offrir des outils conçus pour la vie en ligne, désormais généralisée. Pourtant, hormis quelques exceptions, la plupart ont reculé devant les responsabilités qu'entrainaient de tels projets.
C'est ainsi que, parmi les candidats déclarés pour le déploiement de la vision européenne, rares sont les banques participantes (sauf en Belgique avec ItsMe), bon nombre d'initiatives étant portées par des organismes gouvernementaux ou assimilés. Les opportunités restent malgré tout attractives, raison pour laquelle, au Pays-Bas, où, apparemment, les efforts d'équipement sont encore embryonnaires, quatre groupes financiers se sont rassemblés (avec KPN et Deloitte) pour développer leur « wallet ».
Baptisé « MyCheck », ce portefeuille virtuel prend (évidemment) en charge toutes les fonctions prévues dans la législation eIDAS 2, dont, principalement, la vérification d'identité vis-à-vis des administrations et entreprises conformes, l'identification et l'authentification accélérées dans les applications en ligne, le partage d'information éclairé (avec autorisation sur les données explicitement demandées) et limité (par exemple sur un seuil d'âge, sans divulguer celui-ci), la signature électronique.
Les membres fondateurs se déclarent prêts à accueillir d'autres firmes – et plusieurs commencent à répondre à l'appel – au sein de leur coalition afin, vraisemblablement, d'en étendre l'audience et la notoriété, critères essentiels d'acceptation, autant par les consommateurs que par les structures susceptibles de l'intégrer dans leurs processus. En parallèle, dans la perspective de faire reconnaître « MyCheck » au niveau national, ils appellent le gouvernement – qui, par ailleurs, encourage les expérimentations dans le domaine – à collaborer à son implémentation, présentée comme stratégique.
Les années ont passé et l'intérêt de l'industrie bancaire pour la gestion des identités demeurent intactes, le seul nouveau paramètre étant la réglementation et la perspective qu'elle ouvre d'un mise en œuvre qui lui échappe. Celle-ci tend à lever les réticences antérieures au vu des bénéfices potentiels, de fidélisation de la clientèle et, surtout, d'une source de revenus additionnelle (en dépit de la gratuité promise pour les citoyens et les administrations, le secteur privé représente un marché juteux). Dans les pays où les jeux eIDAS sont déjà faits, les banques finiront peut-être par regretter leur inertie.
Contrairement à certaines banques qui croient trouver des solutions magiques à leurs déficiences historiques grâce à l'intelligence artificielle, Barclays facilite désormais l'accès des entrepreneurs au crédit hypothécaire, simplement en prenant mieux en compte la performance de leur société dans l'évaluation de leur fiabilité.
Alors que le Royaume-Uni compte aujourd'hui plus de 5 millions de compagnies – « limited », un peu l'équivalent des SARL françaises – enregistrées, il était temps de penser à leurs dirigeants et autres propriétaires ! La nouvelle offre, qui s'adresse donc à ces derniers, dès lors qu'ils détiennent au moins la moitié de leur firme, intègre maintenant dans ses critères d'éligibilité au prêt non seulement leur salaire mais également le bénéfice après impôt de cette dernière en proportion de leurs parts.
L'ajout est assorti d'une autre limitation, à savoir qu'il n'est retenu qu'à partir d'un seuil donné de revenus (totaux), relativement élevé puisqu'il est de 75 000 livres pour un emprunteur individuel et 100 000 livres pour une demande avec un co-emprunteur. Toujours est-il que l'initiative permettra à un nombre important de personnes de faire valoir un complément de rémunération, non versé mais bien réel, lors du dépôt de leur dossier, plus représentatif que les dividendes (qu'il remplace, le cas échéant).
Naturellement, comme dans tous les cas où les banques ajustent leurs pratiques de sélection à des non salariés, dont les rentrées d'argent sont, par essence, variables et imprévisibles, les règles mises en place reflètent une approche extrêmement prudente, qui peut paraître exagérée. Les restrictions imposées par Barclays s'inscrivent dans ce contexte et il est également facile d'imaginer que, sans qu'aucun détail ne soit fourni en la matière, les profits inclus dans les calculs sont pondérés sur plusieurs exercices.
Les méthodes sont diverses selon les cultures et les habitudes, mais la démarche de l'établissement britannique constitue le dernier exemple en date d'une longue lignée de projets menés par ses alter ego dans le monde entier afin de répondre à la transformation sociétale en cours, qui voit les entrepreneurs devenir rapidement une classe de population nombreuse et incontournable (mais aussi hétéroclite, soit dit en passant), pour laquelle la plupart des produits existants ne sont pas conçus.
Une course est donc engagée, d'abord autour des solutions dont les entreprises que ces individus fondent et dirigent ont besoin. Le développement de modèles de banque pour les professionnels depuis quelques années en est l'écho direct. Cette première phase étant dorénavant (plus ou moins) en cours de stabilisation, la prochaine étape consiste à appréhender les attentes des personnes qui se cachent derrière ces structures et sont à ce jour ignorées par les processus traditionnels des banques. Et il y a fort à faire !
L'américaine Fifth Third Bank est fière de clamer que, grâce à l'intelligence artificielle, elle est désormais capable d'améliorer ses évaluations de la capacité de remboursement de ses clients et, par conséquent, d'élargir sa base de clientèle éligible au crédit. Et rattrape ainsi plus d'une décennie de retard… avec une approche discutable.
Concrètement, selon la relation que fait l'article de FinAI d'une intervention en conférence, un responsable de l'établissement se réjouit de débloquer quelques 2 à 3 milliards de dollars de prêts potentiels supplémentaires avec un système d'analyse de la fiabilité financière des demandeurs portant sur des données jusqu'alors difficiles à exploiter. Et, à l'en croire, voilà encore un succès retentissant pour l'IA, en complément des gains d'efficacité qu'elle génère déjà dans les processus de décision.
Dans un pays où le critère principal et presque exclusif qui détermine l'accord ou le refus est le score de crédit, tel qu'il est fourni par les agences spécialisés, il n'est guère surprenant que le recours à d'autres facteurs soit susceptible de changer significativement le périmètre d'audience adressable, ne serait-ce qu'en raison du nombre toujours plus important de personnes qui, faute d'entrer dans le système bancaire traditionnel, sont aujourd'hui plus ou moins invisibles ou a minima dévaluées.
En fait, l'idée est tellement évidente, depuis que les technologies ont permis la capture et l'enregistrement électronique d'information à une échelle industrielle, qu'elle n'a pas attendu l'avènement de l'intelligence artificielle pour se développer. Je peux prendre l'exemple pionnier, parmi d'autres, de Lenddo et son score social, dès 2011, mais les illustrations les plus flagrantes sont les services à valeur ajoutée proposés par presque tous les acteurs de l'agrégation de comptes et dont l'usage est généralisé.
Certes, il n'est jamais trop tard pour corriger ses lacunes. Encore faut-il procéder rationnellement, sans se laisser divertir par les paillettes de la nouveauté. Car il semble non seulement regrettable que Fifth Third explore les opportunités de l'IA pour redécouvrir une possibilité qu'elle avait sous les yeux depuis belle lurette mais, en outre, elle ne constitue pas nécessairement une réponse appropriée à une problématique dont les antécédents démontrent qu'elle supporte des solutions relativement simples.
En effet, les modèles déterministes de science des données des années 2010 suffisent vraisemblablement à comprendre les comportements des consommateurs à partir d'informations telles que leur historique d'opérations et, de la sorte, à estimer leur risque de crédit. A contrario, l'intelligence artificielle impose ses contraintes spécifiques – de contrôle des dérives, voire des hallucinations, d'explicabilité, de coûts de mise en œuvre et d'exploitation… – pour des bénéfices additionnels qui resteraient à quantifier.
La leçon à tirer de cette initiative n'est plus originale mais l'actualité prouve qu'elle est encore mal ancrée dans les organisations : évitez impérativement de lancer des projets IA – c'est-à-dire dont elle est la justification – mais partez d'un besoin – celui qui définit le projet – et recherchez ensuite les technologies les plus adaptées afin d'y répondre.
À l'ère analogique, le suivi de ses affaires financières personnelles était simple : un dossier destiné à ranger tous les documents et le tour était joué. Aujourd'hui, tous les supports sont virtualisés et accessibles en ligne… mais éparpillés aux quatre coins du web. Alors Capsafa propose une solution pour remettre de l'ordre dans cette pagaille.
Le courtier qui en est à l'origine est régulièrement confronté au même problème avec ses clients : ils connaissent leur situation et savent qu'ils peuvent accéder à leurs comptes mais, lorsqu'il leur faut produire des relevés, des justificatifs…, ils perdent un temps absurde à les retrouver et les rassembler. Et puis, quand survient l'inévitable, ce sont les conjoints et les enfants qui héritent des complications, potentiellement démultipliées, par exemple par ignorance de l'ensemble des contrats existants.
À ces tracas, Capsafa apporte une réponse simple (et gratuite) sous la forme d'un coffre-fort digital dans lequel vous pouvez déposer facilement, rapidement et en totale sécurité toutes les informations indispensables à la gestion de vos finances, avec le parti-pris, original, de non seulement laisser le choix à chacun de ce qu'il souhaite effectivement conserver dans son espace privé mais également de limiter à l'essentiel, par design, les éléments enregistrés par rapport à l'objectif visé d'accès sans effort.
Ainsi, il n'est pas question d'autoriser la moindre connexion aux comptes bancaires (ou autres) ni même de consigner leurs références complètes. L'utilisateur est d'abord invité à spécifier dans des notes où les différentes données utiles sont disponibles et, seulement s'il en ressent le besoin, de télécharger des documents (notamment ceux qu'il ne possède qu'en version physique, pour archivage). Il peut en outre associer à chaque item une date de rappel afin d'être notifié d'éventuelles actions à exécuter.
Une fois équipé, le consommateur n'est plus jamais pris au dépourvu lorsque son interlocuteur lui réclame une information : un coup d'œil dans son coffre-fort et il sait immédiatement où trouver ses titres de propriété, papiers d'identité et autres pièces légales, ses intermédiaires financiers et la localisation de leurs comptes en ligne, ses contrats d'assurance… D'autre part, la possibilité de désigner des délégataires, avec des droits ajustables, permet de parer aux difficultés d'une disparition non anticipée.
Capsafa promet de maintenir la gratuité de ce cœur d'offre pour le grand public et envisage de développer un modèle commercial d'une part en lui ajoutant des services premium (payants) et, d'autre part, à travers des collaborations avec des acteurs de l'industrie – courtiers de crédit, conseillers en patrimoine… – qui seraient intéressés par sa distribution auprès de leur clientèle. Le principe pourrait inspirer des établissements soucieux de fournir à leur audience un outil facile à prendre en main, constituant un premier pas – de recensement – vers le pilotage des finances personnelles.
À l'occasion de la première édition de la conférence Bank Acceleration organisée le 8 octobre par l'Agefi, le Crédit Mutuel Arkéa était récompensé pour une initiative originale, visant à fournir à ses dirigeants un outil pratique et opérationnel afin de mieux maîtriser ses enjeux de cybersécurité, critiques dans l'époque contemporaine.
Aujourd'hui, avec la médiatisation permanente (et anxiogène) du sujet, les institutions financières – qui sont en première ligne des offensives – n'ont plus vraiment besoin d'être sensibilisées aux menaces qui pèsent sur leurs infrastructures numériques. En revanche, elles manquent encore, en général, de moyens concrets de rationaliser leurs approches et de vérifier objectivement leur niveau de préparation à grande échelle, ce qui limite leur capacité à focaliser efficacement leurs efforts de défense.
Avec son Indice de Menace Cyber (IMC), conçu et déployé par les équipes de gestion des données, le Crédit Mutuel Arkéa vise donc à combler ce déficit chronique. Élaboré sur les mêmes principes qu'une méthode reconnue d'évaluation des risques génériques (FAIR), il exploite les informations élémentaires issues du terrain afin de restituer une vision synthétique et claire de la situation de la banque à tout moment. Il procure ainsi aux responsables un socle opérationnel pour anticiper et prévenir le danger.
La démarche se veut pragmatique : il n'est pas question de produire un énième tableau de bord déposé sur les bureaux de la direction générale et aussitôt oublié. L'IMC est imaginé comme un instrument de pilotage, visuel, pour en faciliter la lecture – y compris au plus haut niveau de la hiérarchie, de manière à maintenir la continuité de l'engagement –, basé sur des données mesurables, dans le but de garantir sa fiabilité, et « actionnable », pour accélérer la mise en œuvre des adaptations nécessaires.
Aussi anodine que paraisse l'initiative, elle possède un intérêt stratégique indéniable dans un contexte d'évolution ininterrompue des risques et des usages. Il semble en effet critique pour les organisations de mettre en place une vigie capable de déclencher des alertes et suggérer des actions correctives au fur et à mesure de l'apparition de nouvelles cybermenaces (par exemple des failles de sécurité détectées récemment ou des formes de fraudes émergentes) et de l'implémentation de nouvelles technologies (les modèles d'intelligence artificielle viennent immédiatement à l'esprit).
En Australie, le gouvernement prépare un projet de loi sur le « devoir de vigilance numérique » (Digital Duty of Care), imposant aux plateformes une responsabilité accrue en matière de prévention et de traitement des préjudices en ligne, notamment pour mieux protéger les plus jeunes. Le projet de loi exige également que les plateformes fournissent des « outils d’autonomisation des utilisateurs », dont la nature reste à préciser. Or, à travers les précisions données par le gouvernement, il semblerait que les mesures projettent de permettre aux Australiens de désactiver l’algorithme. Baptisée My Feed, My Way (Mon fil, à ma façon), cette option devrait permettre d’avoir un meilleur contrôle sur leurs fils d’information : « ils pourraient choisir soit de maintenir le statu quo (contenu recommandé par algorithme), soit de revenir à un affichage limité aux publications des comptes qu’ils ont choisi de suivre, dans un ordre chronologique ou antéchronologique ».
Reste à savoir si l’idée d’un interrupteur marche/arrêt est une bonne idée, questionnent les chercheurs Daniel Angus, Jean Burgess et Amanda Third dans une tribune pour Tech Policy Press. S’il est nécessaire d’offrir aux utilisateurs un meilleur contrôle sur leur expérience, la proposition d’interrompre les recommandations algorithmiques offre peu de prise de contrôle aux utilisateurs, en les laissant devant un choix binaire, entre une sélection problématique et la submersion. « Le terme d’algorithme est devenu un raccourci puissant pour désigner le mécanisme bien plus vaste du pouvoir des plateformes, ainsi que la manière dont elles sélectionnent et présentent les contenus aux utilisateurs. Les recommandations de contenus nuisibles, la publicité prédatrice, la conception addictive, la polarisation politique et la visibilité des créateurs sont désormais toutes perçues comme des problèmes liés à « l’algorithme ».» Or, « le problème tient bien plus de la manière dont ils sont optimisés, les signaux qu’ils privilégient, les intérêts qu’ils servent, les effets qu’ils produisent.» « Il n’existe pas d’algorithme unique que l’on pourrait activer ou désactiver à volonté. » Les systèmes de recommandations, par exemple, sont là pour résoudre des problèmes d’abondance. Ils sont couplés à des mesures pour modérer les contenus, cibler les publicités, détecter les spams… Ils sont entremêlés à des dispositifs de sécurité essentiels pour supprimer ou rétrograder des contenus. « Le problème ne réside donc pas dans l’existence même de la recommandation algorithmique, mais dans les objectifs d’optimisation de ces systèmes, les signaux privilégiés, les intérêts servis par ces choix et les conséquences qui en découlent. Les systèmes de recommandation ne sont pas tenus de privilégier les revenus publicitaires et le temps d’attention des utilisateurs.»
« Offrir un choix aux utilisateurs est judicieux et de nombreuses plateformes proposent déjà des outils pour modifier, désactiver ou réinitialiser les algorithmes qui façonnent les fils d’actualité, bien que ces outils soient souvent difficiles à trouver, à utiliser ou à comprendre. Toutefois, l’ordre chronologique ne signifie pas l’absence de médiation algorithmique. Un fil chronologique ou basé sur les abonnements applique tout de même des règles déterminant quel contenu est inclus, exclu ou classé parmi une masse potentiellement immense de contenus disponibles. Plus important encore, proposer aux utilisateurs de choisir entre deux modes définis par la plateforme n’offre qu’une autonomie limitée. »
Mais surtout, soulignent les chercheurs des recherches sur la transparence publicitaire ont mis en évidence les limites de l’approche fondée sur le renforcement des contrôles : « fournir des informations et des outils de contrôle aux utilisateurs ne rend pas nécessairement les systèmes des plateformes transparents ni ne confère aux utilisateurs une véritable maîtrise sur ces derniers. » Offrir un contrôle plus accessible sur les critères de classement, sur la sélection des sources… est peut-être plus essentiel que de proposer un choix binaire. Enfin, ces approches oublient le problème du démarrage : que doit montrer le système à un nouvel utilisateur ? L’expérience d’un nouvel utilisateur montre pourtant la rapidité avec laquelle les plateformes recommandent des contenus de mauvaise qualité. « Si des contenus misogynes ou violents sont facilement accessibles avant même que le système de recommandation ne connaisse l’utilisateur, la suppression de la personnalisation ne résout pas le problème de fond ».
« La position du gouvernement recèle une tension singulière : il présente « l’algorithme » comme une menace dont les utilisateurs devraient être protégés, tout en exigeant des plateformes qu’elles anticipent et atténuent mieux les préjudices – ce qui, logiquement, nécessite des approches algorithmiques plus sophistiquées, et non l’inverse. À l’échelle des plateformes, l’identification du spam, des abus, des activités malveillantes coordonnées ou des schémas d’exposition à des contenus à risque ne peut se faire manuellement. Si nous voulons que les plateformes repèrent une exposition répétée à des contenus liés aux troubles du comportement alimentaire (par exemple) et interviennent, nous leur demandons de classifier les contenus, de détecter des schémas et de modifier la manière dont les éléments sont classés ou recommandés pour tout ou partie des utilisateurs. C’est pourquoi les détails du devoir de vigilance numérique présentent plus d’intérêt que la rhétorique qui l’entoure. Son principe fondamental est que les prestataires doivent identifier les risques prévisibles de préjudice et prendre des mesures raisonnables pour les atténuer. Le projet de loi exige explicitement des prestataires qu’ils évaluent les préjudices potentiels découlant non seulement des contenus, mais aussi des éléments de conception ainsi que d’autres systèmes et processus. Il confère aux plateformes la responsabilité globale de prendre en compte, de surveiller et de traiter les conséquences des fonctionnalités algorithmiques telles que les systèmes de recommandation, imposant ainsi une approche fondée sur la « sécurité dès la conception ». Les règles proposées par le projet de loi, qui imposent la mise à disposition d’outils permettant aux utilisateurs de reprendre la main, exigent également une certaine flexibilité – bien loin d’un simple interrupteur « marche/arrêt » pour les fils d’actualité algorithmiques. La spécificité de chaque plateforme jouera un rôle important : les fonctionnalités algorithmiques de YouTube diffèrent de celles de TikTok, Facebook ou Instagram ». « Même le fait d’identifier quel « algorithme » un utilisateur est censé désactiver est moins simple que le slogan ne le laisse entendre. Par conséquent, les outils dont les utilisateurs ont besoin pour exercer un plus grand contrôle sur leur expérience varieront d’une plateforme à l’autre.»
Ce projet de loi permet aux responsables politiques d’exiger des plateformes qu’elles « corrigent l’algorithme », mais les gouvernements, les chercheurs et le public disposent de moyens limités pour déterminer ce que ces systèmes font réellement. Ce qu’il manque, à nouveau, « c’estl’observabilité: la capacité d’examiner ces systèmes en fonctionnement. À quels contenus les différents utilisateurs sont-ils exposés ? Certains groupes sont-ils systématiquement exposés à des contenus différents ? Quelles modifications spécifiques des systèmes de recommandation permettent réellement de réduire les préjudices ? Des chercheurs indépendants peuvent-ils vérifier les affirmations d’une plateforme quant aux résultats de ses interventions ? Cela revêt une importance particulière dans le cadre d’une obligation de vigilance. Si les plateformes doivent identifier les risques de préjudice, les atténuer et évaluer l’efficacité de leurs interventions, des acteurs indépendants doivent avoir la possibilité de vérifier ces affirmations. Sinon, les plateformes restent à la fois responsables de l’exploitation des systèmes et seules juges de leur sécurité.»
Il est encourageant de constater que le projet de loi commence à prendre en compte ce problème. Les fournisseurs seraient tenus de réaliser et de conserver des évaluations des risques, tandis que des dispositions distinctes établiraient une base pour l’accès des chercheurs aux données et protégeraient les chercheurs agréés utilisant des identités fictives (« sock puppets ») pour étudier les plateformes. Les modalités précises de cet accès seront cruciales, mais le principe est essentiel : « l’obligation de rendre des comptes ne peut dépendre uniquement de ce que les plateformes choisissent de nous dire sur leurs propres systèmes ». C’est peut-être là, en fin de compte, le problème lorsqu’on fait de « l’algorithme » la cible de la régulation. Cela focalise l’attention sur un mécanisme technique, alors que les questions les plus importantes concernent les systèmes dans leur ensemble : ce qu’ils optimisent, leur conception, les choix qu’ils offrent, les préjudices qu’ils engendrent et la possibilité pour des tiers extérieurs aux entreprises exploitantes d’en observer les résultats de manière indépendante.
L’anthropologue du numérique Mizuko Ito pour le MIT Press Reader, dressait d’ailleurs un bilan de l’interdiction des réseaux sociaux pour les adolescents australiens de moins de 16 ans. Un an après sa mise en place, l’interdiction semble surtout avoir échoué : 7 adolescents Australiens sur 10 continuent d’utiliser les réseaux sociaux et les recherches universitaires font état d’un taux de respect de la mesure encore plus faible. « L’échec des interdictions ne doit pas inciter à renforcer les mesures coercitives ; il témoigne plutôt d’un mauvais diagnostic. » Elle rappelle que plutôt que d’attiser les conflits intergénérationnels par des interdictions, jeunes et adultes peuvent façonner la technologie ensemble. « Cela peut aller de démarches simples, comme examiner en famille les paramètres de confidentialité des réseaux sociaux, à des projets plus ambitieux tels qu’Autcraft, un serveur Minecraft géré par des familles ayant des enfants autistes. » Les éducateurs peuvent associer les élèves à l’élaboration des règles d’usage technologique à l’école et adapter les outils numériques pour favoriser l’apprentissage et le développement.
Lorsqu’on les interroge, les parents et les adolescents expriment le souhait de continuer à utiliser les réseaux sociaux, tout en disposant de moyens flexibles pour protéger leur vie privée, contrôler les algorithmes de recommandation et surveiller leur propre usage de la technologie. L’accent mis sur les interdictions s’est fait au détriment de progrès concernant les politiques et fonctionnalités des plateformes susceptibles d’améliorer l’univers numérique pour les personnes de tous âges.
Reste que là encore, on restera néanmoins sur notre faim. Les usagers n’ont pas suffisamment la main pour saisir et comprendre comment les plateformes fonctionnent pour déjouer les systèmes algorithmiques qui se jouent par devers eux. Sans mieux délimiter le modèle économique des plateformes, les régulations risquent de rester longtemps cosmétiques et inefficaces.
Le directeur général de la jeune pousse de l'assurance automobile Flitter, expliquait fièrement il y a peu que ses clients ont la possibilité de modifier les garanties de leur contrat à tout moment, notamment en vue de les adapter au vieillissement de leur véhicule. Une évidence fréquemment oubliée ou négligée… dans de nombreux contextes.
Alors que l'âge moyen du parc en circulation est en progression, le cas évoqué résonnera avec l'expérience des conducteurs. S'ils assument sans hésitation le surcoût d'une couverture des dommages sur tous les accidents lorsque leur voiture est neuve, elle perd progressivement de son sens au fur et à mesure de sa dépréciation. Dans ces circonstances, il paraît logique de leur proposer un ajustement des conditions sans complication administrative, en quelques clics dans l'application dédiée.
Notons d'emblée que le choix d'offrir cette faculté aux clients est probablement judicieux d'un point de vue économique, aussi contre-intuitive que l'idée puisse paraître. En effet, la réaction immédiate se focalisera sur la perte de revenus qu'engendre une réduction des garanties (et des primes associées). Elle est certainement à l'origine des réticences de certains acteurs à rendre le changement trop facile. Mais quelle est l'alternative pour la personne qui souhaite faire baisser sa facture ? Si son assureur ne lui apporte pas une réponse simple et rapide, elle risque de se reporter vers la concurrence.
En revanche, je pense qu'il faudrait aller plus loin dans le raisonnement. Permettre les évolutions sur le contrat représente un bon début mais cette capacité est regrettablement passive. L'entreprise possède suffisamment d'informations sur son client pour adopter une posture pro-active. Il s'agirait alors de mettre en avant les solutions les plus appropriées aux moments clés de la relation, par exemple quand le véhicule assuré atteint un âge donné… ou quand des difficultés de paiement émergent.
Là encore, la perspective de baisse de chiffre d'affaires que laisse imaginer une telle approche (en suggérant de l'enterrer derechef) est vraisemblablement compensée non seulement par le surcroît de confiance et de fidélité qu'entraîne presque automatiquement l'attention aux attentes des consommateurs mais encore par l'applicabilité du même mécanisme pour suggérer, quand le contexte est propice, la souscription de garanties supplémentaires ou, plus généralement, capitaliser sur ces opportunités de contact avec des opérations susceptibles de stimuler les ventes.
Naturellement, ces principes ne sont pas réservés à l'automobile ; au contraire, tous les domaines de l'assurance devraient s'en inspirer. L'objet des couvertures – de l'appareil électronique jusqu'à la santé, en passant par l'habitation et bien d'autres – se transforme avec le temps. Or les compagnies se préoccupent très rarement de ces changements et elles sont encore moins enclines à mettre en place les moyens de les détecter afin d'y réagir pro-activement. Voilà un service que leurs clients apprécieraient !
Après une première expérimentation réussie en 2024, Emmaüs Connect a pérennisé en 2025 son programme d'accompagnement au numérique des mineurs non accompagnés (MNA) à Strasbourg. Avec le soutien du Fonds social européen (FSE+), 8 parcours ont été menés entre février et octobre : 61 jeunes ont été accompagnés et 60 d'entre eux ont reçu un ordinateur en fin de parcours.
Chercher un stage, envoyer un CV, passer un entretien en visio, suivre ses démarches administratives : à l'approche de la majorité, l'essentiel du parcours d'insertion d'un jeune passe par le numérique. Pour les mineurs non accompagnés, souvent sans équipement et peu familiers des outils, c'est un obstacle de plus.
Un parcours tourné vers l'emploi, cofinancé par le FSE+
Chaque parcours « Premiers pas vers l'emploi » compte 10 séances de 3h30, réparties sur deux semaines de vacances scolaires, à l'antenne d'Emmaüs Connect à Strasbourg et au Shadok, lieu culturel co-porté par l'association. Le programme combine :
les compétences de base sur ordinateur : souris, clavier, bureau, gestion des fichiers, traitement de texte;
la recherche d'emploi en ligne : sites d'offres, CV en ligne, préparation d'un entretien à distance ;
les codes du numérique professionnel : messagerie, e-mail professionnel, pièces jointes, sécurité, e-réputation et protection de la vie privée ;
une touche de numérique créatif : conception numérique, fabrication de stickers, création musicale.
En 2025, le projet a permis d’accompagner 61 jeunes, contre 39 en 2024. 60 jeunes ont aussi reçu un ordinateur reconditionné en fin de parcours.
Signe que la dynamique est lancée, 78 % souhaitent continuer leur apprentissage sur le numérique, en priorité sur la formation et l'emploi, les démarches administratives et la sécurité en ligne.
« Ne changez rien, vous êtes top : vous vous adaptez à tous les niveaux. »
Participant au programme
« Grâce à cette formation, j'ai appris et découvert beaucoup de choses. Les formateurs sont gentils et accueillants. »
Participant au programme
Une dynamique partenariale élargie
L'opération s'inscrit dans le Programme national FSE+ Emploi, Inclusion, Jeunesse, Compétences, au titre de l'accès à l'emploi des jeunes et de leur employabilité. Le FSE+ soutient Emmaüs Connect à hauteur de 47000€ , sur un budget prévisionnel d'environ 79 000 €. Ce financement permet de mobiliser une équipe d'animation dédiée, de construire des contenus adaptés et d'équiper les jeunes.
En 2025, le projet a aussi réuni plusieurs structures d'accueil et d'accompagnement des MNA : Amalthée (Domie 2), les SAMNA de Strasbourg et de Haguenau et Le Relais. Des comités de pilotage réguliers ont permis de constituer les groupes, d'orienter les jeunes et d'ajuster les contenus.
Et après ces parcours ?
Le bilan partagé avec les partenaires fait aussi ressortir une difficulté : de plus en plus de jeunes sont en apprentissage, en stage ou en recherche d'alternance, et peinent à se libérer deux semaines. Pour l'été, un format resserré sur une semaine (20 heures au lieu de 30) est à l'étude.
Emmaüs Connect souhaite poursuivre le projet en 2026 et 2027, avec l'objectif d'accompagner et d'équiper 150 jeunes.
Vous êtes une structure sociale à Strasbourg ?
Vous accompagnez des publics en difficulté sur le numérique à Strasbourg et vous souhaitez construire un projet avec nous ? Contactez-nous !
Les livres de la journaliste altermondialiste canadienne Naomi Klein se succèdent, s’assemblent et se ressemblent peu. On y trouve cependant une trame commune : elle nous propose à chaque fois une lecture qui éclaire la confusion des événements que nous vivons. Après l’excellent Le Double (Actes Sud, 2024, qui vient de paraître en poche, sur le complotisme, le renversement des discours de gauche par la droite, la puissance des discours individualistes et l’accélération des colères par la numérisation), voilà qu’elle signe avec la réalisatrice et activiste Astra Taylor un livre qui parle beaucoup de technologies : End Times Facism (Le fascisme de la fin des temps, MacMillan, 2026, non traduit – Actes Sud annonce sa traduction pour l’hiver 2027).
Nous voici confrontés à des temps apocalyptiques. Une apocalypse que l’on connaît très bien puisqu’elle n’a cessé de nous être racontée, des textes sacrés au cinéma hollywoodien. Cette séduction du chaos, Naomi Klein l’avait déjà croisée quand elle écrivait La stratégie du choc (Actes Sud, 2008) où elle décrivait déjà la montée d’un « capitalisme du désastre » permettant d’assurer l’avènement d’un ultralibéralisme tout puissant. Désormais, les entreprises et les régimes réactionnaires provoquent et renforcent les crises qui leurs bénéficient. Le choc et le désastre ne sont plus des exceptions, mais sont devenues la règle. « Nous entrons dans un nouveau paradigme, un monde de bouleversements permanents où la stabilité est l’exception et l’incertain la règle ». « Les grandes entreprises et les joueurs politiques de l’extrême droite misent sur un avenir chaotique, le provoquant, s’y préparant et le construisant ». Nous sommes entrés dans la contre-révolution de l’extrême-droite où le monde réel est de plus en plus gouverné par la force. Pour les deux essayistes, nous voici confrontés au retour du fascisme, qu’elles définissent comme la révolte des puissants qui exploitent les passions et les ressentiments de ceux qui ne le sont pas. C’est une alliance entre des leaders déchus, des entrepreneurs et des leaders religieux conservateurs pour défendre la puissance et ses institutions : la nation, le marché, la police, la militarisation, la famille. Mais le fascisme qui vient n’est pas pour autant le fascisme d’hier, préviennent les deux essayistes. Ce qui caractérise la convergence d’extrême-droite actuelle, c’est la conviction partagée que notre monde commun arrive à sa fin. C’est un fascisme de la fin des temps, un fascisme apocalyptique.« Les plus puissantes personnes du monde se préparent pour la fin du monde, une fin qu’ils accélèrent eux-mêmes frénétiquement ».
Le fascisme a toujours eu un complexe d’Armageddon, disait déjà Umberto Eco, se projetant toujours dans une bataille finale entre le mal et le bien. Pour Klein et Taylor, cela ne signifie pas que Trump, Netanyahou ou Putin sont plus dangereux qu’Hitler, Mussolini et Franco, mais que « notre monde est plus dangereux que le leur : leurs armes sont plus meurtrières, leurs technologies plus puissantes, leurs média plus connectés, le climat plus instable, et la concentration des richesses a une portée plus globale qu’elle n’en a jamais eu auparavant ».
L’idéologie d’extrême-droite est devenue un survivalisme. Entrepreneurs, prédicateurs et politiciens ultra-conservateurs ne nous proposent rien d’autre qu’un abandon. Ils ne nous proposent rien d’autre que de quitter notre monde commun. Ils sont ceux qui abandonnent, « les quitteurs », comme les désigne Marisa Franco, cofondatrice de Mijente, un groupe de défense des migrants. La concentration du pouvoir militaire, financier et technologique leur permet de rendre la trajectoire vers l’apocalypse instoppable.
Pourtant, rappellent les essayistes, quelque soit leur puissance, ces fascistes de la fin des temps sont et restent une minorité. Tous les chefs d’entreprises ne sont pas Musk, tous les chrétiens conservateurs ne sont pas nationalistes, tous les gens des classes populaires qui ont voté Trump n’attendent pas la fin des temps. La plupart veulent juste secouer le statu quo, espèrent de meilleurs jobs et une vie moins chère, et pensent que de meilleures frontières pourraient leur apporter cela. Nombre de ceux qui ont voté Trump ont très vite déchanté et se sont rendu compte que la cruauté à l’oeuvre n’a pas fait baisser les prix, que la plupart des nouveaux emplois consiste soit à pointer des armes contre les autres, soit à construire des centre de données qui risquent bien plus de faire disparaître les derniers emplois qui restent qu’en ramener. Les ravages opérés dans les services publics ont affecté tous ceux qui ne sont pas riches. Ce fascisme de la fin des temps n’a pas encore gagné et il peut être défait, veulent encore croire Klein et Taylor.
La convergence des fanatismes apocalyptiques
Ce fascisme est une conjonction de trois composantes qui renforcent sa puissance. C’est l’alliance d’un fanatisme religieux, d’un fanatisme technologique et d’un ethno-nationalisme débridé. Et sa faiblesse, c’est que ces trois composantes sont en proie à de nombreux désaccords qui pourrait bien faire éclater cette coalition. Le très influent Steve Bannon par exemple déteste les « psychopathes » de la Silicon Valley. Et parmi le mouvement Maga, si certains pensent que Trump est l’instrument de Dieu, d’autres qu’il est l’instrument dissimulé des Jeffrey Epstein de ce monde. End Times Fascism explore tour à tour ces trois composantes. L’extrémisme religieux, les extrémistes de la tech et ceux qui aspirent à ce que la Nation toute entière devienne le bunker ultime. Ces trois visions bunkerisées de l’avenir cherchent à déchirer l’égalité et l’empathie. Ces trois extrémismes partagent le même rejet de la démocratie et partagent la même croyance en leur impunité. Pour Klein et Taylor, le combat à venir ne consiste pas tant à combattre ces personnes qui sont à la racine des problèmes, que les systèmes qui leurs permettent de concentrer tant de pouvoir et de richesses.
Taylor et Klein rappellent que le nazisme n’a pas été la rupture politique que l’on croit. Comme le disait Nehru, l’une des grandes figures de la lutte pour l’indépendance de l’Inde, après avoir traversé l’Europe avant la seconde guerre mondiale, le fascisme a mis à jour les méthodes de l’impérialisme européen. Même constat pour le défenseur des droits civiques américain W.E.B. Du Bois : les nazis ont mobilisé les méthodes que la civilisation chrétienne a pratiqué en Europe puis dans le reste du monde avec le colonialisme, visant à défendre la capacité de l’Occident, cette race qui se voulait supérieure, à gouverner le monde. Nombre de pays ont été profondément fascistes dans leurs colonies, alors qu’elles se montraient libérales et démocratiques chez elles. D’ailleurs, le fascisme d’aujourd’hui se comprend mal à l’aune du nazisme d’hier. Ceux d’aujourd’hui sont bien plus individualistes. La suprématie à laquelle ils croient tient bien plus d’une supériorité de l’extrême richesse,« d’un eugénisme des marchés ». Le fascisme d’aujourd’hui vise plus à chasser les clics que les personnes (même si chasser les clics conduit à déporter et violenter des personnes). Les étoiles jaunes d’hier se cachent désormais derrière les bases de données de la reconnaissance faciale et les scores de risques algorithmiques, appuient-elles.
Les tendances fascistes s’amplifient toujours dans les moments de crises, notamment les périodes de dépression économique et d’hyperinflation. « Le fascisme est la réponse la plus féroce du capitalisme face aux menaces ; c’est un moyen de s’assurer que la colère publique, qui monte en période de crise profonde, soit dirigée vers le bas – contre les plus vulnérables – plutôt que vers le haut, contre le système lui-même ainsi que ses gardiens et bénéficiaires les plus privilégiés ». Dans les années 30, le nazisme a été la réponse capitaliste à la menace communiste, tout comme les dictatures des années 70 en Amérique Latine ont été la conséquence des prises de pouvoir des gauches. Comme le disait le politicien antifasciste Ignazio Stilone : « le facisme est une contre-révolution contre une révolution qui n’a pas eu lieu ». Et aux Etats-Unis, d’Occupy Wall Street à Black Lives Matter, Trump a été la réponse à la montée de la contestation de gauche. Entre la solidarité et le fascisme, les plus puissants ont agi comme leurs prédécesseurs l’ont fait avant eux. Ils ont choisi la contre-révolution contre la révolution qui n’a pas eu lieu.
La première partie du livre, sur l’extrémisme religieux est certainement la plus originale. Elle commence en revenant sur l’attentat perpétré par le fondamentaliste chrétien Denis Michael Rohan en 1969 qui met le feu à la mosquée al-Aqsa sur l’esplanade des mosquées à Jérusalem, afin de reconstruire le Troisième Temple de Jérusalem, qui assure d’une rédemption totale à ceux qui le bâtiront puisqu’il accueillera Dieu pour l’éternité. L’extrémisme religieux consomme et produit beaucoup de ce qui relève de fantaisies eschatologiques. Pour beaucoup de fondamentalistes, la fin des temps est imminente et nécessite à la fois de la faire advenir et de s’y préparer. Dans nombre de religions, le messianisme est vivace. Sur l’esplanade des mosquées, depuis 2025, le ministre israélien de la Sécurité nationale, du parti d’extrême droite ultranationaliste, suprémaciste et néosioniste, Itamar Ben-Gvir, multiplie les visites provocatrices et les prières, en violation directe du statu quo historique.
Mais il n’y a pas qu’Israël qui est gangrénée par le fondamentalisme. Le parti Républicain américain lui-même est noyauté par un très influent bloc évangélique qui soutient le fondamentalisme israélien et l’annonce du retour du messie. Ces chrétiens sionistes sont en conflit avec un autre courant évangélique : les nationalistes chrétiens. Trump comme Netanyahou ont l’un comme l’autre parfaitement compris que ces courants messianiques ont beaucoup d’influence et sont déterminés à les utiliser pour leurs propres buts. Les deux autrices nous éclairent sur l’impact profond du fondamentalisme chrétien aux Etats-Unis, nous montrant qu’il est partout et que les idées qu’ils professent sont profondément problématiques et simplistes. Ces Églises qui tiennent toutes des propos apocalyptiques disposent de beaucoup d’argent et donc de beaucoup de pouvoir. Elles publient des livres sur la fin des temps à venir qui se vendent par millions, inondent leurs ouailles de sermons sur la rédemption. « Les plus grandes églises évangéliques aux Etats-Unis et dans le reste du monde sont convaincus de l’imminence de la fin des temps ». Ces pasteurs, à l’image d’un des plus suivis, John Hagee, dispensent à longueur d’homélies des théories totalement problématiques et extrêmement politiques. Dans la logique des chrétiens sionistes, en Israël, le danger n’est pas la guerre, mais la paix. Les propos que les deux journalistes rapportent font froid dans le dos, tant ces pasteurs dont l’audience est très forte, racontent n’importe quoi, partageant des vidéos et des propos claqués au sol, assurant détenir des moyens de guérir Alzheimer ou de rendre la vue aux aveugles. Derrière ces absurdités, les dangers ne peuvent être ignorés, tant ces propos ont des implications politiques. Ces églises soutiennent très largement le droit d’Israël à annexer les territoires Palestiniens et toutes« partagent le désir que la loi religieuse remplace le droit civil ». Ces églises s’en prennent à longueur de sermons aux mêmes ennemis : les musulmans, les LGBTQ+, les Nations Unies et la gauche. Ces églises enfin vivent souvent en communauté fermées, avec leurs écoles, leurs quartiers, leur culture… Mais plus seulement. Beaucoup sont désormais prosélytes et pensent que la religion doit dominer toute la société. En 2024, c’est quelque 41% des chrétiens Américains qui sont convaincus qu’ils ne doivent pas seulement prier, mais gouverner le monde. A l’image de la fondation Heritage qui défend rien de moins qu’un agenda théocratique et cherche à imposer une culture chrétienne capitaliste dans toutes les strates de la société, à l’image d’un de ses principaux architectes, le nationaliste chrétien Russell Vought, l’un des plus influent personnage de l’administration Trump. Alors que lors de la première présidence de Trump, la relation du président américain avec les églises évangélistes semblait surtout transactionnelle, depuis qu’il a échappé à une tentative d’assassinat en 2024, il semble bien plus convaincu de sa propre déification.
Les deux journalistes rappellent que ce fondamentalisme chrétien essaime bien au-delà des Etats-Unis, notamment en Amérique du Sud et en Afrique. Le risque est de voir s’imposer partout des formes d’État théocratiques. « La religion fonctionne bien plus comme une amphétamine que comme un opium, agitant bien plus qu’apaisant les âmes anxieuses ». Là où elle se dissémine, dans les recoins de l’extrême-droite, la foi est un accélérateur, de l’essence jetée sur un monde déjà en flamme. Les idéologies suprémacistes rejoignent désormais la ferveur apocalyptique et la moindre crise leur donne du carburant. Et les réseaux sociaux à leur tour alimentent la ferveur, à l’image du RaptureTok de septembre 2025, une des innombrables rumeurs qui y circulent promettant une fin du monde imminente.
« Le fascisme est une réponse morbide à des menaces et crises bien réelles » et vise à diriger la peur et la colère loin des systèmes qui conduisent à ces crises. Face aux crises, la promesse d’une bataille finale entre le bien et le mal promet à certains d’être sauvés. Pour Klein et Taylor, le facisme de la fin des temps est la conséquence du déni du dysfonctionnement du capitalisme. C’est une forme de réinterprétation des crises bien réelles que nous traversons (comme le réchauffement climatique) à l’aune des écritures.
Toutes les crises, comme le Covid ou les attaques du 7 octobre 2023 en Israël, deviennent des occasions d’accélérer la culture conspirationniste, facsciste et religieuse qui infecte la politique. Ce conspirationnisme anti-vaccin par exemple, qui s’en est pris tant à Bill Gates qu’à Anthony Fauci ou qu’à l’organisation mondiale de la santé, tient d’une mise à jour d’une longue hostilité de l’extrême-droite évangélique à l’encontre du New Deal et des politiques sociales, vues comme l’Antéchrist. La vraie menace pour ceux qui ont une vision paranoïaque du monde n’était pas le virus, mais plutôt les mesures de sécurité publique adoptées pour protéger les personnes vulnérables. Pour Klein et Taylor, la culture religieuse a été dévorée par la culture conspirationniste. Pour les chrétiens évangélistes américains, leur déclin, en nombre, les conduit à des positions de plus en plus extrêmes, à l’image du délirant Charlie Kirk, qui dans ses propos, comme dans son pamphlet (The Christian Response to the Great Reset), accusait le Forum économique mondial d’avoir produit le virus pour assouvir le monde et en appelait au retour aux valeures bibliques. Même l’insurrection du capitole du 6 janvier 2021 est vue comme un soulèvement chrétien. Pour Kirk, dans ses homélies fascisantes, les opposants à Trump devaient recevoir la peine de mort, de saintes exécutions.
Les attaques du 7 octobre 2023 ont été vécues par nombre de fondamentalistes juifs comme un signe de plus de la fin des temps. Elle les a radicalisés. Pour eux, l’occupation des territoires palestinien ne suffisant plus à protéger Israël, il fallait passer à l’étape suivante : l’expulsion, l’annexion voire l’annihilation. Nombre de télévangélistes ont utilisé les attaques pour annoncer la fin des temps. « L’eschatologie inverse le signal pour lui donner le sens opposé : le mal est le bien, les fléaux sont des remèdes, la guerre est la paix. » Quand Marco Rubio défend l’attaque contre l’Iran en expliquant que le régime est théocratique et apocalyptique, on peut se demander s’il ne parle pas plus des Etats-Unis que de l’Iran. Dans l’armée israélienne comme dans l’armée américaine, la plupart des soldats et des gradés sont convaincus d’avoir une mission messianique à accomplir, et que l’armée est un outil pour la rédemption. Le télévangéliste Texan, Byron Stinson, a défendu la venue de la fin du monde… puisqu’elle signifie le retour du messie.
Les deux journalistes rappellent pourtant que le christianisme n’a pas toujours été aussi radical. Dans les années 60, était même apparue une théologie de gauche, en réaction au soutien problématique de l’Église catholique à nombre de gouvernements autoritaires, comme les dictatures d’Amérique du Sud. Mais la montée des théologies de la libération ont conduit à une réaction renforçant un clergé conservateur, dénonçant l’égalité, au motif que c’est à Dieu de distribuer récompenses et punitions, comme dans le Pentecôtisme qui est venu occuper le vide laissé par les retraits de la gauche catholique. Pourtant, la solidarité n’a pas totalement disparu des églises. Lors du soulèvement contre les exactions de l’ICE à Minneapolis, les églises, synagogues et mosquées sont souvent devenues des lieux d’organisation. Les préceptes religieux de bienveillance, soin aux malades, aide aux plus pauvres, accueil des étrangers n’ont pas totalement disparu… mais ils semblent avoir été partout recouverts par l’espérance d’une rédemption terminale.
L’extrême-tech, le radicalisme des dieux numériques
Une semaine avant l’élection présidentielle de 2024, la société de capital-risque Founders Fund a organisé à Miami deux jours de fêtes et de conférences VIP sur le thème des pensées interdites sous le nom de « bal des l’apocalypse » ! Un évènement pour le moins cynique qui invitait les participants à discuter de comment détruire le monde. Au programme de ces conférences très classiques, nombre de hérauts de la tech, souvent sous pseudonymes, parmi lesquels bien sûr, l’inaltérable Peter Thiel, Curtis Yarvin, les fondateurs d’Anduril, Bryan Johnson, l’entrepreneur qui défit la mort, l’ex-acteur Kevin Spacey… Deux jours à célébrer les vertus de la hiérarchie, de la domination, des technologies ségrégatives… avec des sessions sur la colonisation de mars, l’invasion du Groenland, ou sur comment brûler le plus de pétrole et de charbon possible et bien sûr des odes aux communautés fermées portées par Patri Friedman invitant les entrepreneurs à abandonner leurs obligations sociales (« une façon d’être responsable de sa propre propulsion vers le paradis, sans qu’aucune intervention divine ne soit nécessaire », sic). Bref, un ensemble incohérent d’amalgames idéologiques, traversé de quelques valeurs partagées, comme l’eugénisme, l’anti-démocratie, la célébration de l’entrepreneuriat… Pour tous ces gens, les ennemis sont tous ceux qui cherchent à entraver la maximisation du profit auquel ils aspirent.
« Les idées de cette tech d’extrême-droite sont intensivement impopulaires », rappellent Klein et Taylor, cela ne les empêche pas d’être influents et de rassembler un grand nombre d’entrepreneurs autour d’eux. Ici, les deux journalistes documentent des choses sur lesquelles nous sommes plus éveillés : la bascule fasciste des milliardaires de la tech, comme le documentent par exemple, en France, Thibault Prévost, Olivier Tesquet et Natasha Hadjadji dans leurs livres, Technologie du coup d’Etat et Apocalypse Nerds. Avec la seconde élection de Trump, le monde de la Tech s’est rangé à la défense de ses intérêts. Pour Astra Taylor et Naomi Klein, c’est l’IA qui les a fait basculer, avancent-elles. Ils sont convaincus que l’IA aujourd’hui et l’IA générative demain vont remplacer la grande majorité des activités économiques jusqu’à là accomplies par les humains : de la conduite des véhicules à l’art, du traitement des maladies à l’enseignement… promettant d’étendre sans fin la disruption et la génération de profit.
Les financiers de la tech et les entrepreneurs qui ont rejoint l’orbite de Trump partagent plusieurs choses en commun : « ils cherchent désespérément à nous vendre ce futur post-humain soi-disant glorieux, et ils brûlent d’envie que leurs entreprises dominent ce paradis imaginaire peuplé de machines ». Mais ces croyances dans l’avènement d’une intelligence artificielle générale ont bien plus en commun avec la croyance religieuse et le complotisme, qu’à des projections basées sur la science ou les marchés. En cela, ils se révèlent très proches des dérives eschatologiques des courants religieux fondamentalistes, assurent Taylor et Klein. En fait, eux-aussi, prédisent la fin du monde, en dépensant sans compter pour créer leurs industries de données quitte à détruire l’économie et à détruire l’habitabilité même de notre monde physique. Enfin, l’IA promet de consolider le pouvoir des entreprises de la tech à un niveau sans précédent au prix d’une extension sans limite de la surveillance. Leur technologie promet surtout de renforcer les pouvoirs de ceux qui la contrôlent au détriment de tous les autres. Pour eux, l’IAG s’annonce comme la technologie ultime, la dernière invention, qui annoncera « le début de la fin des temps, ou du moins la fin de la concurrence sur les marchés ». Celui qui remportera la course deviendra tout puissant, ayant droit de vie ou de mort sur toutes les autres entreprises qui dépenderont de sa puissance.
Face à ces enjeux, la délibération démocratique ou la régulation ne sont que entraves à l’avènement du glorieux avenir que représente à la fois la fin du monde et l’avènement d’une IA omnisciente et toute puissante. Finalement, le ralliement de la tech à la politique de Trump tient des mêmes raisons que celui des fanatiques religieux, en proie à leurs propres rêves apocalyptiques : « ils avaient besoin d’un dirigeant assez téméraire et dépourvu de cœur pour les aider à jouer le sort du monde sur une violente fantasmagorie millénariste ». En cela, les conceptions apocalyptiques ou messianiques de l’IA se rejoignent, rappellent les journalistes, nombre de leurs thuriféraires passant allègrement du risque à l’enchantement. La version messiannique promet l’IA qui soignera toutes les maladies, qui résoudra le changement climatique, qui créera une abondance matérielle sans limite et rendra le gouvernement rationnel… C’est l’IA pour sauver le monde, qui donnera naissance à un pays de génies capables de doubler l’espérance de vie, comme l’a promis Dario Amodei par exemple. De l’autre, c’est l’IA qui s’apprête à détruire le monde, les emplois, la vie sur terre… Mais comme dans les fondamentalismes religieux, cette double vision, souvent imbriquée, n’est que l’autre face d’une même idée, celle de l’apocalypse qui conduit à la rédemption. La promesse que l’IA offre la sagesse infinie aux plus riches rejoint la promesse de l’arrivée de dieu sur terre : dans un cas comme dans l’autre, le salut est seulement destiné aux rares élus. En ce sens, la technologie est aussi inévitable que l’arrivée de dieu sur terre.
En réalité, la superintelligence relève bien plus d’un discours marketing, qui vise à faire gonfler la bulle du profit, comme le montraient Alex Hanna et Emily Bender dans leur livre. Les entreprises d’IA ne cessent d’affirmer que leurs machines sont conscientes, pavant la voie dans la croyance en leur supériorité voire leur divinité. Comme le montre la réalisatrice Valerie Veatch dans son film, Ghost in the Machine, des hommes puissants célèbrent leur capacité à créer la vie. Et comme chez les fondamentalistes religieux, aucune femme n’est plus nécessaire.
Désormais, tout ce qui compte, pour les entrepreneurs de la tech, c’est de sécuriser l’accès aux capacités de calcul, à l’électricité, à l’investissement et donc aux revenus. D’ici 2035, le secteur pourrait représenter 44% des émissions d’électricité des Etats-Unis. Les géants de la Tech bataillent pour construire des centres de données toujours plus grands et puissants et vendre leurs produits aux entreprises et aux autorités pour qu’elles les utilisent pour faire toutes les tâches qu’elles faisaient, des soins de santé à la police. C’est oublier bien vite que les gens ont besoin de leur travail, qu’ils préfèrent les médecins humains et plus encore une planète habitable, rappellent Klein et Taylor. Pas étonnant donc qu’en transformant l’IA en système d’exploitation pour toute l’économie, ces entreprises se confrontent à des contestations et des résistances inédites.
Pour balayer toutes les oppositions, ils ont donc besoin d’un pouvoir fort et d’un homme fort, que Trump et ses sbires incarnent parfaitement. C’est JD Vance qui a scellé l’accord entre la coalition Maga et la Silicon Valley, rappellent les essayistes, quand le protégé de Thiel a permis le rapprochement avec les empereurs de la Tech et Trump sur le dos d’une administration Biden qui tentait de réguler les cryptomonnaies et l’IA. Depuis, les projets d’alliance vont bon train. Les géants de la tech ont colonisé les marchés publics, à l’image de Palantir. Trump a fait tomber les régulations. « Toute ruée vers l’or nécessite son Far West, c’est-à-dire une frontière, une zone d’exception où les règles et les lois habituelles ne s’appliquent pas. Et c’est précisément ce que Trump a apporté ». Les dépenses dans les data centers pourraient totaliser 7 000 milliards d’ici 2030. Les entreprises de la tech atteignent des niveaux de financements jamais atteint. Les entreprises de la tech sont désormais les seules responsables de la croissance américaine, même si nul ne sait comment elles vont générer suffisamment de revenus en regard. Seulement 17% des Américains pensent que l’IA va avoir un impact positif sur les Etats-Unis d’ici 20 ans… La résistance du public annonce qu’une correction pourrait bien advenir.
Quant au déploiement de l’IA dans l’administration américaine, les deux autrices en soulignent l’aporie partout. Des efforts du Doge aux exactions de l’ICE en passant par la montée de la surveillance via les outils de Palantir… Peu importe les défaillances de la technologie : « créer un appareil administratif qui fonctionne bien ne figure pas à l’ordre du jour ». Le but est bien plus de sécuriser les investissements, de vendre des produits aux gouvernements étrangers et de sécuriser les législations favorables à la tech américaine. De sécuriser l’accès aux ressources via des droits de douanes chaotiques. « Promouvoir et défendre la révolution mondiale de l’IA portée par la Silicon Valley constitue désormais la mission primordiale du gouvernement américain ». Ce qui s’impose en Amérique, c’est la couche technique autoritaire. « Le fascisme est toujours un système de racket au profit du capital : il protège un groupe restreint d’entreprises et d’intérêts, tant face aux travailleurs que face à la concurrence ; en retour, ces entreprises apportent leur soutien au projet de l’État ».
Taylor et Klein parlent à leur tour d’État mafieux, de gangstérisme, en rappelant que depuis 2025, Trump lui-même n’a pas été le dernier à s’enrichir éhontément comme le pointaient le Financial Times et le New York Times cet été. « Les élites de la tech ont atteint une nouvelle stratosphère de richesse grâce à une technologie qui, selon leurs prévisions, provoquera un véritable cataclysme pour l’emploi ». Et l’annonce sans cesse renouvelée de cette apocalypse, permet de rallier les derniers investisseurs qui hésiteraient encore.
Le gouvernement de Trump et Vance leur a permis d’aller plus loin encore dans cette violence économique à l’égard des citoyens américains. En échange, ces entreprises sont venues équiper l’administration pour que la technologie vienne équiper le gouvernement, que ce soit pour combattre les ennemis étrangers comme domestiques. La surveillance de masse en est à la fois la condition et la conséquence.«Quand votre modèle économique est de détruire l’emploi de classes entières d’actifs, il est nécessaire de pointer les caméras, les données et les robots contre ces mêmes usagers». Thiel comme Karp rêvent de villes réservées aux seuls riches, ce que Balaji Srinivasan appelle le sionisme technologique, le fait d’utiliser la technologie pour développer un apartheid social. A mesure que se déploie l’empilement de technologies autoritaires, chaque contrat approfondi le piège pour se refermer sur chacun d’entre nous. A mesure que Palantir devient indispensable, que les drones d’Anduril deviennent le standard de l’Otan, que les centrales nucléaires font tourner les data centers, la transformation devient peu à peu irréversible. « Sous la bannière d’une technologie patriotique, ce bloc construit une infrastructure de contrôle… Un régime où les entreprises font les règles, plus que les politiques publiques ». Plutôt que de convaincre les électeurs, les technologies autoritaires souhaitent contrôler les infrastructures, en pillant et privatisant tous les aspects du régalien. Pour Trump comme pour Thiel, l’administration n’est qu’un territoire pour l’extraction de valeur. Pas étonnant alors que ces gens se sentent assaillis par les centres de données, les caméras de surveillance ou les transformations éducatives.
Les entrepreneurs de la tech construisent leurs bunkers. Tous se préparent à survivre à l’apocalypse qu’ils fabriquent. « Les plans d’évacuation qui accaparent nos élites nous indiquent que ces hommes sont terrifiés par le monde qu’ils construisent ». S’ils sont aussi obnubilés par l’eugénisme, la suprématie cognitive ou les hiérarchies sociales, c’est d’abord parce que leurs rêves suprémacistes cherchent à les protéger du reste du monde. Et leur obsession est d’autant plus vive que la résistance au futur qu’ils proposent se renforce comme jamais.
Dans leur livre, Taylor et Klein documentent la contestation contre les data centers et contre l’IA, à l’image des Colossus que Musk déploie dans le Tennessee. Ces vampires énergétiques, comme les appellent les opposants, se proposent de sacrifier la vie des gens. Ces industries IA, sont d’abord des industries sans personnel, rappellent les autrices qui parlent de « machines d’élimination humaines ». Comme le prophétisait Musk, à l’avenir, le travail sera optionnel.
Pour Klein et Taylor, cette nouvelle industrialisation ne ressemble donc pas aux précédentes. Les habitants ont souvent accepté les effets néfastes des vagues d’industrialisation précédentes, parce qu’en retour, ils bénéficiaient de boulots, de taxes et de produits. Ce n’est plus ce que promettent ces entrepôts vides, qui semblent venir donner le coup de grâce à la désindustrialisation occidentale. Ils ne promettent même plus un monde commun, à l’image de l’abandon par les grands acteurs de la tech de leurs objectifs climatiques. Bill Gates lui-même, qui avait publié un livre alarmiste sur le risque de désastre climatique, estime désormais que le réchauffement a été surévalué ! « Le moment où les Big Tech déclaraient vouloir sauver le monde est passé. Désormais, il est temps de le consommer ». Mais ne vous inquiétez pas ! Les entreprises ont déjà la réponse à ces critiques : l’IA va réparer la crise climatique, même s’il l’empire, ironisent Klein et Taylor. Pour cela, finalement, il suffit à ces entreprises de contrôler la vérité. Et n’est-ce pas finalement ce que font leurs machines, par exemple en déployant des IA non woke, c’est-à-dire contre la justice sociale. Les outils qu’ils déploient permettent comme nulle autre d’accomplir le rêve fasciste ultime, celui de contrôler et déformer notre perception collective de la réalité.
Avant, pour contrôler le monde, il fallait emprisonner et exécuter ses opposants, produire de la propagande, dénigrer les opposants. Les outils d’IA permettent désormais d’automatiser la désinformation et la manipulation. « Désormais, ils ont le pouvoir de programmer le fascisme dans leurs machines ». Les données collectées excluent de vastes pans de connaissances de l’humanité dont il n’existe pas de versions numériques. L’IA générative promet un point de vue unique, comme une vérité divine. Comme le dit Yanis Varoufakis, le business model que la Big Tech déploie consiste en « un droit divin où la vérité est la propriété brevetée de la puissance ». L’IA dégrade la réalité. « Quand vos flux d’informations sont remplis de productions synthétiques racistes, misogynes, que les robots génèrent les réponses, le résultat est que les gens finissent par abandonner tout espoir de distinguer les faits de la fiction ». Les attaques de l’administration Trump contre l’éducation, l’université, la presse, la recherche répondent aux licenciements des modérateurs, des vérificateurs de faits et éthiciens de la tech. L’IA n’a pas vocation à compléter les connaissances, mais bien à les supplanter. « Les fascistes de l’IA ne cherchent plus à fabriquer du consentement, mais à fabriquer de la confusion, à saper la délibération démocratique en déchaînant l’intolérance et la désinformation à une vitesse et une échelle sans précédent dans l’histoire moderne ». Les chatbots n’ont pas besoin d’être particulièrement intelligents pour parvenir à remplir nos têtes de leurs biais racistes.
Reste que ces perspectives commencent à battre de l’aile, dans le camp Républicain lui-même. Des comtés Maga s’opposent au déploiement de data centers. Dans des États où le discours antiavortement est dominant et divise la population, l’opposition aux data centers, lui aussi sous bannière pro-humaines, rassemblent les citoyens contre les machines vampires.
Vers une nation survivaliste et bunkerisée ?
Trump avait promis à ses électeurs une renaissance de l’industrie. Elle n’a pas eu lieu. A la place, les Etats-Unis connaissent une forte inflation et un PIB atone, porté uniquement par le boom de la tech.
Lors du passage de l’ouragan Helene, en 2024, 73 000 maisons ont été détruites. Comme toujours, la solidarité s’est structurée pour venir en aide aux victimes. Quelque soient leurs couleurs politiques, les gens se sont mutuellement entraidés. Mais cela n’a pas duré. Une armée d’opportunistes du clic sont venus déverser leurs jugements conspirationnistes en estimant par exemple que les électeurs Républicains n’étaient pas aidés. Les dénégations du sénateur Républicain local n’ont pas réussi à faire refluer ces histoires absurdes. Trump a rapidement fini par relayer ces absurdités, les amplifiant encore. Trump, Musk et consoeurs sont les premiers à relayer d’innombrables conspirations, d’innombrables contre-vérités. Avec des conséquences bien réelles, comme quand Trump finit par couper dans les budgets de santé, d’aide alimentaire pour les rediriger vers le développement de centres de détentions. Au Doge, Musk a licencié des centaines de milliers d’agents fédéraux au profit des petits soldats fascistes de l’ICE (300 000 fonctionnaires sur 2 millions ont été licenciés depuis le début de la présidence Trump).
Pourtant, rappellent les deux journalistes, au XXe siècle, les régimes fascistes ont soutenu comme rarement l’assistance sociale aux classes populaires qui servaient le régime. Ils ont soutenu des projets de constructions pour employer les actifs, comme de construire des autoroutes, des gares ou des barrages… Rien de tel avec l’administration Trump qui a attaqué comme rarement les infrastructures conçues pour apporter des protections universelles à tous. « Le fascisme de la fin des temps est le symptôme de la manière dont le capitalisme repousse les limites de notre planète. Mais au lieu de s’attaquer aux crises sous-jacentes, ses dirigeants répliquent par des mots d’ordre brutaux : « Construisez le mur » ! « Repoussez les envahisseurs ! »». Un tiers des américain et deux tiers des Républicains approuvent certains aspects de la théorie du grand remplacement. Pour Klein et Taylor, le grand remplacement n’est pas la vérité. Cela n’a pas empêché l’administration Trump d’en faire une pièce centrale de sa politique notamment dans sa Stratégie de sécurité nationale, désignant la migration de masse comme la plus grande menace du monde occidentale. Les migrants ne sont plus, nulle part, les bienvenus. Partout, les difficultés à payer ses factures ou à trouver des emplois décents, n’est pas la responsabilité des banquiers ou des spéculateurs ou des politiciens, mais des migrants. C’est là le vrai grand remplacement, ironisent les autrices, « la substitution des banquiers par les migrants ». La droite ethnonationaliste invite les peuples à reprendre le contrôle, non pas des oligarques, mais de l’immigration. Les droites extrêmes proposent toutes la révocation de la citoyenneté et la déportation de masse (qu’ils appellent remigration). Ils créent partout un ennemi, là où il n’y en a pas. La faction Maha du mouvement Maga estime qu’il est plus important de contrôler les réfugiés climatiques que de réguler les émissions carbone.« L’obsession de l’extrême-droite pour le grand remplacement n’est pas seulement une pensée conspirationniste ou une diversion cynique, elle est aussi une confession », celle d’un« survivalisme nationaliste ». Les colporteurs de cette théorie savent parfaitement que la planète s’effondre, détruisant le territoire de ceux qui ne comptent pas et qui n’ont rien fait pour provoquer cette crise. « Pour les éco-fascistes, la nation elle-même doit être le bunker, avec des armes pointées vers l’intérieur comme l’extérieur. »« Anticipant un avenir déstabilisé aux ressources en déclin et se percevant comme les véritables victimes d’un nettoyage ethnique, les suprémacistes sont prêts à se livrer à des massacres innommables pour protéger leur minorité à la peau claire, les élus ». D’où les délires sur le réarmement démographique (les femtechs), les forteresses militaires (le golden dome), la sécurisation des ressources (le projet Vault qui vise à constituer une réserve stratégie de ressources)… Plus qu’un déni du réchauffement, soulignent Klein et Taylor, la prise de conscience du dérèglement climatique imminent est claire et explique toutes les volonté expansionnistes sur le contrôle des ressources. « Nous devons mettre à jour nos modèles mentaux : comme les dirigeants de la tech ont abandonné leurs engagements écologiques, les politiciens d’extrême-droite, comme ceux qui votent pour eux, ne sont plus dans le déni climatique. Ce sont des incendiaires qui laissent sciemment le monde brûler. »
En 1961, un an avant la crise des missiles à Cuba, les américains étaient persuadés qu’une guerre nucléaire allait éclater. Les autorités appelèrent les Américains à construire des abris anti-atomiques. Peu furent réellement construits. Ceux qui n’en construisirent pas, ont même dénoncé la pratique, la trouvant honteuse et égoïste. Pour Kenneth Rose, auteur d’un essai sur le sujet, One nation underground, le rejet des abris anti-atomiques était plutôt la marque d’une certaine maturité. « La probabilité de survivre à l’apocalypse ne valait pas le risque de perdre son humanité » en se réfugiant dans la construction de refuges qui prenaient comme ennemis ses propres voisins, plutôt que l’ennemi extérieur. En fait, ce sont surtout des gens qui en avaient les moyens qui ont construit ces bunkers. Le bunker privé est un état d’esprit, une façon de se protéger soi-même face à un monde gorgé de risques et d’incertitudes. Le problème n’est pas tant de se préparer à une crise, explique les autrices, que de le faire en pensant que les désastres peuvent être affrontés isolément. Le fascisme actuel a pour but de nous faire croire en cette posture défensive et solitaire. Mais la très grande majorité des gens rejettent ce « survivalisme brutal ». Kennedy lui-même a fini par rejeter ces projets, en invitant plutôt à se concentrer à trouver des moyens pour que les bombes et les missiles ennemis ne parviennent jamais jusqu’en Amérique. Ceux qui ont vendu des abris étaient bien plus des profiteurs de crise qu’autre chose.
Pour Klein et Taylor, c’est peut-être sous cet angle qu’il faut d’ailleurs lire le fascisme américain d’aujourd’hui. Un fascisme qui ne cherche que son propre profit. Ce profit, d’ailleurs, est bien souvent la motivation première des systèmes de désinformation en ligne. Des arnaques cryptos aux influenceurs de la désinformation, nous sommes confrontés à un monde, à un ensemble de personnes, qui tirent profit de la désinformation qu’ils répandent, expliquent-elles en prenant l’exemple de Nick Shirley, un influenceur d’extrême droite américain participant très activement à alimenter la désinformation raciste que des émigrés haïtiens dévoreraient les animaux de compagnie du voisinage. Ses vidéos ont été particulièrement amplifiées sur les réseaux sociaux. Même débunkées, cela n’a pas empêché l’influenceur d’extrême-droite de prendre son envol. Notamment via une vidéo de 42 minutes où il se montre visitant des centres sociaux vides dans le Minnesota déclenche de nouvelles polémiques sur leurs financements, les accusant de fraude. Ces vidéos, reprises par Vance, Musk et Trump eux-mêmes, ont servi d’accélérateur viral pour une escalade inédite. L’administration Trump a gelé les fonds fédéraux pour les programmes d’aide sociale du Minnesota, puis a envoyé les troupes de l’ICE occuper Minneapolis et Saint-Paul, donnant lieu aux dramatiques événements entre l’ICE et la population. Quand l’agent de l’ICE, Jonathan Ross a tué Renee Good dans sa voiture, la vidéo de l’agent a été très vite libérée par les autorités pour entériner la version officielle. Pour Klein et Taylor, Minneapolis a été transformé en laboratoire, en showroom de la désinformation où vidéo virales et montages à l’IA ont tenté de damer le pion de l’information.
La nation bunkerisée n’était pas seulement une idée politique et raciste, mais également un business modèle. Chaque événement a été exploité au profit de quelqu’un. « Alors que les influenceurs extrayaient du contenu pour leurs vidéos virales, des entreprises technologiques sous contrat avec le département de la sécurité intérieure collectaient des données sur les manifestants et les transmettaient simultanément à l’ICE, permettant ainsi à l’agence de localiser précisément des immigrés à leur domicile ou sur leur lieu de travail. Plus de 3 700 immigrés ont été interpellés lors del’opération Metro Surge; une fois arrêtés, nombre d’entre eux ont basculé dans un autre type de réseau à but lucratif : celui des prisons et centres de détention privés. »Minneapolis a été le lieu de démonstration de l’essor économique de la surveillance de masse, dans une forme de chaîne d’approvisionnement sans fin.
Bien évidemment, les habitants de Minneapolis, ont envoyé, eux, un autre message. Par leurs actions, ils ont montré que nombre d’Américains ne veulent pas que leur pays devienne un bunker high-tech, ne veulent pas de la terreur d’une police sans garde-fous, ni que leurs moindres mouvements soient traqués par des capteurs et des drones. Le fascisme est toujours une alliance d’intérêts, mais a Minneapolis, elle a commencé à craquer, rappellent Klein et Taylor. La traque des personnes d’origine étrangère à Minneapolis a montré à tous combien les outils numériques et notamment les outils des grandes firmes privées, étaient utilisés pour identifier et traquer les personnes. Les acteurs technologiques alliés aux politiques répressives, ont montré combien leurs relations étaient symbiotiques, entre eux et avec la catastrophe. Ils sont les premiers à investir dans un état d’urgence permanent.C’est en cela que pour Klein, le fascisme est l’accélération du capitalisme du désastre. Les chocs ne sont plus isolés, comme elle les décrivait dansLa Stratégie du choc, mais continus.
Les deux autrices rappellent la filiation de Palantir avec le 11 septembre, avec le programme total information awareness, ce projet de collecte d’information totale pour surveiller la menace terroriste partout. Si ce programme a été débranché officiellement en 2003, nombre de ses fonctions ont continué sous d’autres noms. Dans le Minnesota, il était clair que le programme était de retour. « Le vieux rêve d’une surveillance totale était désormais effectif ». L’ennemi n’était plus le terroriste extérieur planifiant des attaques violentes contres les Etats-Unis, mais des immigrés de couleurs. Comme n’a cessé de le répéter Alex Karp, Palantir a été construit pour affronter les temps difficiles. L’entreprise a surtout pivoté. D’un modèle contre le terrorisme extérieur, elle est devenue l’entreprise qui surveille tout le monde. Comme on pivoté les vendeurs d’abri anti-atomiques en devant les bâtisseurs de centres de détentions des migrants…
Pour tous ces gens« la paix et la stabilité écologique sont désormais vus comme des menaces ». Les acteurs qui vendent des logiciels de reconnaissance faciale ou construisent des camps ou des drones construisent « le complexe industriel pour l’armageddon ». L’une des branches de ce complexe reste assurément la production et la dissémination de la propagande, notamment via les réseaux sociaux qu’ont produit les grands acteurs de la tech, qui sont aussi les grands acteurs de l’IA et qui sont aussi les grands acteurs de la surveillance. En 2022, Musk a racheté Twitter. Trump lançait TruthSocial, et le TikTok américain a été repris en main par la famille Ellison. Vance a investi dans Rumble, le service de Streaming ultra-conservateur où s’expriment Bannon, Alex Jones, Andrew Tate ou l’adorateur d’Hitler, Nick Fuentes. Pour John Ganz, c’est là l’alliance entre une fraction ultra-réactionnaire et le secteur de la technologie, autour du déploiement de systèmes de défense, de surveillance, de sécurité. L’ICE est devenu le programme d’embauche de la meute du « Trumpenprolétariat ». L’extrême-droite est d’abord un rassemblement d’intérêts économiques, et pas seulement politiques. Les réseaux sociaux s’alimentent à la rage, au conspirationnisme et au conflit. Être un marchand de drame est devenu le business modèle. Pour Stephen Miller, la mort de Charlie Kirk a été le début d’une « guerre sainte » contre les ennemis de l’intérieur. Trump a indiqué au FBI qu’il fallait désormais s’en prendre aux antifa, devenus organisations terroristes. « Le cerveau collectif de la droite a fondu dans une cuve de slop, de conspirationnisme et de chaînes algorithmiques. Au risque que leur audience souhaite toujours plus de transgressions, de conspirations, d’apocalypses… » Hannah Arendt rappelait que le nazi idéal n’était pas quelqu’un avec des convictions profondes, mais plutôt un individu pour qui la distinction entre les faits et la fiction, entre le vrai et le faux n’existait plus. Et c’est tout à fait le cas des gens coincés dans les chambres d’échos de l’extrême-droite américains.
La convergence des fanatiques de l’apocalypse peut-elle se désagréger ?
Pour Klein et Taylor, reste que cette escalade pourrait aussi conduire à la désagrégation de cette coalition ultra-conservatrice. Les hommes y détestent de plus en plus les femmes et notamment les femmes puissantes, comme Megyn Kelly. Thiel estime que tout le monde est l’antechrist, mais, en tant que gay, il est détesté de la droite chrétienne qu’il courtise. Stephen Miller qui déteste les étrangers pourrait demain être désigné comme l’un d’entre eux. Sans compter que cette coalition d’hyper droite est traversée par de profonds désaccords sur Israël, sur l’IA et même sur la nature de la Nation elle-même. Mais les sectes messianiques, l’extrême-droite suprémaciste et les nationalistes du grand remplacement partagent également beaucoup en commun, notamment leur détestation pour l’égalité, pour la démocratie. La fracture pourrait bien venir du rejet de plus en plus marqué des femmes, et notamment de ces Trad Wives qui structurent le mouvement Maga. Celles qui apprécient l’idée de dévouer leur vies à leurs enfants et leurs familles, ne sont pas très enthousiastes à l’idée que leur droit de vote leur soit dénié, ni très sensibles à la misogynie ambiante.
Mais surtout, soulignent Klein et Taylor, la réalité sait très vite reprendre ses droits. La stratégie du champ de bataille en ligne reposait sur la croyance que ceux qui ont soutenu Trump pour renforcer la politique migratoire viendraient soutenir la police et applaudirait aux expulsions. Ils ont été bien moins nombreux qu’espéré. Dans le Minnesota nombre d’habitants se sont dressés contre l’ICE. Ils se sont baptisés les helpers, ceux qui aident. Pas des militants, ni des protestataires, ni des activistes, mais plus simplement, des gens qui sont venus apporter leur aide à leurs voisins menacés. Ils ont apporté de la nourriture, des vêtements, des protections. Ils ont suivi les déplacements de l’ICE pour prévenir avant qu’ils ne débarquent dans certains endroits et quartiers. Pour eux, les immigrés que l’ICE tentait d’arrêter n’étaient pas des abstractions, mais des connaissances, des amis, des collègues, des personnes réelles et appréciées. L’intensification des violences de l’ICE n’a fait que renforcer leur détermination. L’ICE a perdu le contrôle. A Minneapolis, l’extrême-droite a perdu la bataille du récit. Ses habitants ont tous ressenti avoir été envahis par une force extérieure. Deux tiers des américains estiment que l’ICE est allé trop loin et la moitié sont pour son abolition.
Klein et Taylor terminent leur ouvrage sur les résistances au déploiement de l’extrême droite. Des contestations de la privatisation de Venise par Jeff Bezos pour son mariage, à l’obscénité de la salle de bal de Trump… C’est un combat entre ceux qui peuvent tout et ceux qui n’ont aucune échappatoire. Entre ceux qui n’entretiennent que des relations transactionnelles et les autres. Entre leshelperset lesquitters, entre ceux qui restent et ceux qui partent, entre ceux qui sont de quelque part et ceux qui sont de nulle part (inversant la typologie que faisait le sociologue Benoît Coquart dans son livre, Ceux qui restent (La découverte, 2019) puisque pour le sociologue français, ceux qui restent sont ceux qui rejoignent l’extrême-droite). « L’aspect le plus dangereux du projet des oligarques de la tech visant à délaisser le monde réside dans le fait que les outils qu’ils conçoivent sont destinés à nous remodeler à leur propre image, une image altérée. Les plateformes et applications populaires nous habituent à partager le rêve de la Silicon Valley d’une liberté désincarnée, nous incitant sans cesse à délaisser les lieux réels et les interactions en face à face au profit de simulations – et à percevoir la Terre, nos corps et nos relations comme des prisons qu’il s’agirait de pirater et de fuir. » Sam Altman est convaincu qu’il y a des avantages à être une machine et est persuadé que ses propres enfants ne seront jamais aussi intelligents qu’une IA. ChatGPT est entraîné pour exploiter notre empathie et lui conférer plus d’importance qu’il ne le mérite. « Les Big Tech, habitués de longue date à fracturer notre attention via les réseaux sociaux, ont trouvé de nouveaux moyens lucratifs de fracturer notre affection et de manipuler nos attachements, flattant leurs usagers pour les garder engager et dépendants ». L’IA paraît bien plus un service de psychose qu’autre chose. Ceux qui les utilisent, peu à peu, sont saisis par des croyances messianiques ou des délires de persécution. Ou finissent pas être convaincus que l’IA est consciente ou qu’elle est un dieu. Les hallucinations grandioses et paranoïaques que ces systèmes distillent chez ceux qui les surutilisent s’accordent au monde que projettent les fascistes de la fin des temps. « Les géants de la technologie sont prêts à détruire notre santé mentale et à démanteler nos communautés, car ils se perçoivent comme engagés dans une course pour dominer une nouvelle étape de l’évolution humaine. Ils comprennent également qu’ils sont désormais en concurrence avec toutes les activités ordinaires que nous, humains, pratiquions autrefois par nous-mêmes et entre nous, sans avoir besoin de leur médiation.»Leur business model est l’aliénation. Comme le disait le président de Spotify, Daniel Ek : notre concurrent est le silence. Le concurrent des outils de la tech sont les églises, nos voisinages, les pubs. Tous les endroits où l’on se rassemble, tous les endroits encore bien réels, comme l’ont été les rues de Minneapolis. Leurs services produisent d’abord de la solitude, c’est-à-dire« l’expérience de ne pas appartenir au monde ». Arendt ne disait-elle pas que le totalitarisme est d’abord une solitude organisée ? « La combinaison de robots ravageurs et de saisons déréglées, associée à des inégalités toujours plus criantes et à des protections sociales défaillantes, rend le monde déséquilibré et isolant pour beaucoup d’entre nous. » Le philosophe Glenn Albrecht parle de solastalgie pour évoquer cette détresse particulière qu’évoque l’idée d’un monde qui ne ressemble plus à ce que nous connaissions. Ce « mal le mal du pays que l’on ressent alors que l’on est encore chez soi ». Or la raison pour laquelle nous ne nous sentons plus chez nous n’est pas liée au fait que des migrants viennent prendre nos emplois ou que des enfants demandent à ce qu’on les appelle autrement. Elle est d’abord le fait d’accaparements qui nous conduisent nulle part. Les fascistes proposent de revenir à un passé idéalisé, refermant la possibilité de construire un futur plus inclusif, plus protecteur et moins déconcertant. Ils ne proposent pas d’affronter les changements qui sont les nôtres. Or, la seule option devant nous, défendent Klein et Taylor, consiste à mieux s’opposer à l’accaparement du monde par ses élites.
« Les visions du monde violent au cœur du fascisme apocalyptique résonnent parce qu’elles puisent dans des récits profondément inscrits dans notre ADN culturel ; elles colorent notre perception du monde environnant et imprègnent notre conception du possible. La quête d’une rédemption messianique en Terre sainte, le rêve d’une transcendance numérique grâce à l’IA générale et les agissements des ethno-nationalistes transformant les villes en zones de guerre au nom de la purification et du retranchement de la patrie – tous ces phénomènes jouent sur des ressorts similaires : le Bien contre le Mal, les grandes batailles, les cités radieuses, le salut éternel pour les élus seulement.» Mais malgré les efforts des extrémistes à n’extraire que les plus violents passages de leurs textes sacrés, toutes les cultures proposent d’autres messages, rappellent pourtant Klein et Taylor. Notamment celui que nous avons une responsabilité à prendre soin du monde, des autres, des étrangers, à étendre le soin aux autres, à toute forme de vie. Les manifestations contre l’ICE ont montré la force de la résistance communautaire, l’enjeu qui traverse nombre d’entre nous à protéger les gens autour de nous, qui qu’ils soient, d’où qu’ils viennent. Notre humanité depuis l’origine consiste à refuser la violence à l’encontre de nos proches. « Si le Minnesota a été une cible de choix, c’est parce que l’Etat représente, plus que d’autres, la plus grande menace qui soit pour l’agenda fasciste : la démonstration d’une société démocratique multiraciale. »Distiller la crainte des étrangers permet de déconstruire les communautés qui sont le cœur de la société démocratique américaine. L’austérité qui réduit les services publics et les démantèle permet justement de faire monter les peurs et d’orienter les votes.
Reconquérir… ceux qui n’ont pas d’autres mondes à conquérir
Résister au fascisme nécessite de rebâtir des résistances communautaires, locales. « Cela nécessite aussi de partager un récit sur comment survivre aux temps difficiles à venir sans laisser personne derrière. Une histoire non pas d’apocalypse et de fins des temps, mais de temps meilleurs, une histoire non pas de séparation et de suprématie, mais d’interdépendance et d’attachement, une histoire non pas d’échappement, mais qui consiste bien plus à résister et à rester sur place et demeurer fidèle à la réalité terrestre problématique dans laquelle nous sommes enchevêtrés et liés. La terre promise n’est pas la fin du monde, elle est là, maintenant, ici, et ne peut reposer que sur la justice qu’il faut rendre toujours plus universelle et disponible à tous. »
Pour Klein et Taylor, les quitters, ceux qui veulent partir, télécharger leurs cerveau dans les ordinateurs, conquérir Mars, se dégager du reste du monde, confisquer la démocratie, sont ceux qui ont les moyens. De l’autre, ceux qui restent, sont ceux qui n’ont pas d’autres choix que de faire bouger le monde ne pouvant bouger eux-mêmes. Ceux qui restent, ce sont les habitants de Minneapolis qui se sont opposés à l’ICE. Les habitants de Venise qui se sont opposés à Bezos. Ceux qui n’ont pas d’autre monde à conquérir. Et qui donc, doivent prendre soin du leur.
Klein et Taylor tirent cette métaphore en concluant leur très sombre livre d’une dernière partie lumineuse et très enthousiasmante qui se concentre sur la façon dont Zohran Mamdani à conquis la ville de New York. Elles rappellent qu’il n’était dans le radar de personne. En 2024, 30% des votes de New York sont allés à Trump, contre 23%, 4 ans plus tôt, notamment provenant des quartiers qui concentraient le plus d’immigrés et de gens en difficulté. Klein et Taylor décrivent par le détail comment Mamdani s’y est pris pour conquérir ces publics et la ville. Son travail de terrain, son invitation aux new yorkais à les écouter et à reconstruire une politique pour tous, inclusive. Comme il le disait dans l’une de ses premières vidéos de campagne : « les travailleurs sont de plus en plus exclus de la ville. Un maire doit pouvoir changer cela. C’est ce pourquoi je suis candidat ».
Mamdani à rallié les gens en leur donnant le droit de pouvoir rester là. Il a répondu aux discriminations de droite par une célébration du droit de tous à pouvoir être là. Pour Klein et Taylor, sa politique est l’antithèse du fascisme. Sa compagne a été multiculturelle, multiraciale, polyglotte. Plus qu’un rejet de la haine, sa politique a été une invitation à la gentillesse. Il a célébré les classes laborieuses et immigrées qui permettent à la ville de fonctionner. Il a mené une politique joyeuse, célébrant le plaisir constant à être une part de quelque chose de plus large et de plus fort que soi. Il a invité les gens à cesser d’être spectateurs, et à proposer et participer. Il a passé des mois à faire se souvenir aux new yorkais pourquoi ils aimaient leur ville et à leur rappeler qu’ils avaient droit à une vie décente dans cette ville. Beaucoup ont raconté n’importe quoi, comme le fait qu’il y aurait des pogroms si Mamdani l’emportait. « Mamdani a remplacé la froideur de l’individualisme par la chaleur du collectivisme ». Toute ville devrait pouvoir être défendue avec la même ferveur que Mamdani a défendu New York. « Partout dans le monde, les forces fascistes canalisent la colère vers le bas – en la dirigeant contre ceux qui sont le moins responsables de nos maux de société – et persuadent les électorats qu’ils ne peuvent plus se permettre de se soucier d’autre chose que d’eux-mêmes. Nous pensons qu’il est possible de détourner nombre de nos concitoyens de ces tentations violentes, mais cela ne se fera pas par des leçons de morale culpabilisantes. Il faut proposer une alternative, une vision convaincante : une meilleure façon de vivre ensemble.»
Dans les années 60, beaucoup de gens refusèrent de s’installer dans les abris anti-atomiques et sont plutôt aller se battre pour l’abolition des armes nucléaires. Ce mouvement n’a pas été un total succès, mais il a aidé à apaiser la guerre froide. La meilleure façon d’assurer notre survie collective consiste à éliminer les armes qui nous menacent, concluent Naomi Klein et Astra Taylor. Aujourd’hui, nous sommes face à un moment où l’impunité des élites est totale. « Les gens les plus puissants du monde, à travers la religion, le gouvernement et la technologie, partagent la conviction que nos lois ne s’appliquent pas à eux. Ni les lois des nations où ils vivent. ni les lois internationales. ni les lois de la biologie ou de la physique. (…) Ce sentiment d’impunité omniprésent au sein des élites politiques et économiques est intimement lié à leur volonté d’exposer le reste d’entre nous à des niveaux de vulnérabilité et de risque extraordinaires et croissants. » Comme nous avons réclamé le désarmement nucléaire, il nous faut désormais réclamer la fin d’une tech sans limite, la fin d’une concentration des richesses, la fin de l’impunité. « Notre sécurité collective ne sera assurée que lorsque nos élites seront contraintes d’envisager de vivre et de survivre ici, avec le reste d’entre nous. »
Aujourd’hui, les oligarques sabotent la démocratie pour s’accaparer le pouvoir. Notre seule réponse rationnelle est de les désarmer, de réguler la tech bien plus strictement que nous ne l’avons fait, de réguler leurs richesses, et de redistribuer leurs richesses bien mal acquises. Taylor et Klein souhaitent « abolir les milliardaires ». L’IA générative n’est possible que parce que ces gens ont tout volé, rappellent-elles. Et d’en appeler à nationaliser leur technologie. A nous assurer qu’elle est conçue et opérée dans l’intérêt du public. Elles prônent un confinement de l’IA, semblable aux traités de non prolifération nucléaire. A établir des interdiction claires, notamment pour restreindre considérablement la surveillance. Nous n’avons pas d’option autre que construire un secteur public fort, qu’à améliorer toujours et partout la redistribution pour qu’elle soit le plus équitable possible. A faire un New deal pour la transition (comme nous y invitait déjà Naomi Klein dans son livre, Plan B pour la planète : le new deal vert), plutôt que de dépenser des milliards dans les armes et l’infrastructure IA.
Les régimes fascistes deviennent plus violents, désespérés et dangereux à mesure qu’ils gardent le pouvoir. Les Nations-Unis ne sont pas l’antechrist : elles sont notre meilleur recours contre la guerre où qu’elle soit. Les fascistes ne sont pas invincibles. Nombre de dictateurs finissent là où ils doivent finir, en prison.
Pour Taylor et Klein, la construction des démocraties n’est pas terminée. Le pire que nous puissions faire, c’est de croire qu’elles ne doivent plus être améliorées. La réponse fasciste à la crise climatique consiste à accepter des sacrifices de masse en espérant que d’autres seront sauvés. La réponse antifasciste à la crise climatique consiste à prendre soin de tous pour construire un monde pour tous. Nous devons limiter la violence, l’exploitation, la richesse, le pouvoir. Ce sont les forces qui rendent la coexistence de tous impossible.
End Times Fascism, est à la fois un livre glaçant et revigorant. Un livre pour se remettre la tête à l’endroit.
Hubert Guillaud
La couverture du livre de Naomi Klein et Astra Taylor, End Times Fascism.
LaborLab, une organisation américaine de défense des droits des travailleurs a lancé des outils pour permettre aux employés de mieux savoir qui leurs employeurs engagent pour contrer les initiatives de syndicalisation et les sommes (considérables) qu’ils y consacrent. En documentant les cabinets d’avocats et de consultants spécialisés dans dans la lutte antisyndicale et les achats des entreprises. Un moyen de montrer l’opposition à laquelle les travailleurs font face, via un outil de recherche dédié et un outil d’évaluation des coûts des luttes anti-syndicales engagées. Bien sûr, précise Fast Company, « bien que les entreprises soient légalement tenues de divulguer leurs dépenses liées aux stratégies antisyndicales, celles-ci sont loin d’être toujours documentées et à jour ».
Sam Doyle, infirmière praticienne au Fred Hutchinson Cancer Center de Seattle, a fait face à une forte résistance au cours des dix-huit derniers mois alors qu’elle tentait de syndiquer les infirmières praticiennes et les assistants médicaux. Elle a toutefois été stupéfaite de découvrir les sommes potentiellement englouties dans la lutte contre le syndicat. « Je découvre le monde du militantisme syndical et je ne suis pas particulièrement portée sur les chiffres », confie-t-elle. « Mais cet outil de calcul m’a glacé le sang. J’avais du mal à croire que notre employeur puisse dépenser près d’un demi-million de dollars pour s’opposer à nous. »« S’ils parviennent un jour à l’étape des négociations, Doyle pense que l’outil se révélera utile lorsque la direction affirmera ne pas disposer de fonds suffisants pour financer des augmentations de salaire ou d’autres mesures bénéfiques pour les employés. »
L'idée de capitaliser sur la confiance des consommateurs en la banque, en tant qu'institution sécurisée, n'est pas récente. Aujourd'hui U.S. Bank la transforme en un nouveau produit commercial, destiné à fournir à ses clients, de plus en plus préoccupés par le sujet, un premier niveau de défense contre les dangers de la cybercriminalité.
Dans le sillage des services de surveillance des informations de crédit (auprès des agences de notation), devenus plus ou moins la norme dans les établissements anglo-saxons, U.S. Bank ajoute au sein de ses applications web et mobile diverses capacités de suivi des risques en matière d'identité et de données personnelles. Ceux-ci font en effet partie des domaines de sécurité les plus sensibles et les plus inquiétants, entre autres en raison de la forte médiatisation des nombreux incidents détectés.
La solution Protect 360 se décompose en deux versions. L'une, gratuite mais qui demande toutefois un enrôlement actif, intègre des options principalement orientée vers le contrôle du score de crédit, y compris à travers la recherche d'informations propagées sur le « dark web » et autres plates-formes de revente de données qui seraient susceptibles de l'affecter. Pour leur élimination, un accompagnement limité est proposé. Dans un registre un peu anecdotique, l'analyse de l'endettement est aussi incluse.
En revanche, dans sa déclinaison « premium », facturée 9,99 dollars par mois, l'offre se positionne clairement sur la protection extensive contre la fraude. Outre les (relativement) classiques alertes sur des dépenses inhabituelles, des déclarations de changement d'adresse, les arnaques en cours, l'observation des réseaux sociaux…, elle couvre les mouvements suspects sur les titres de propriété, le retrait de données divulguées, la restauration et l'indemnisation en cas d'usurpation d'identité…
La démarche d'U.S. Bank, qui s'inscrit dans la tendance souvent décevante des services extra-bancaires, a cette fois plusieurs facteurs qui jouent en sa faveur. D'une part, elle répond à une vraie attente des clients, même si elle ne s'exprime, implicitement, qu'à travers des craintes d'être victime d'une escroquerie ou autre malversation. D'autre part, les intéressés sont fréquemment démunis face aux menaces : ils sont en permanence bombardés de recommandations de vigilance et de prudence mais il ne savent pas nécessairement vers qui se tourner pour une protection opérationnelle.
Enfin, sur ce dernier plan, la banque occupe une place privilégiée dans l'esprit de ses clients. Perçue, en général, comme un interlocuteur de confiance sur les thématiques de sécurité, elle paraît immédiatement légitime pour offrir son assistance en la matière. D'autre part, la relation étroite qu'entretiennent la plupart des personnes avec leur application bancaire constitue un atout pour des outils à vocation de surveillance, dont les alertes doivent être prises autant au sérieux que celles qui affectent les comptes…
De nos jours, le paiement électronique est devenu une composante critique de notre quotidien et il ne peut plus, en tant que tel, supporter des indisponibilités, à l'instar de celle qui affectait plus de 50 millions de personnes dans la péninsule ibérique en avril 2025. Mastercard déploie donc maintenant en Europe une solution fonctionnant sans réseau.
De plus en plus de consommateurs dans le monde abandonnent les pièces et les billets qui constituaient la base des échanges commerciaux depuis plusieurs siècles et les remplacent par les cartes et autres porte-monnaie mobiles, dont l'acceptation tend vers l'universalité. Nulle part ailleurs que dans les pays nordiques cette révolution s'est-elle imposée, ce qui explique pourquoi Mastercard s'emploie depuis quelques temps déjà à adapter sa technologie au Danemark, en Suède, en Estonie et en Lettonie.
Le principe, éprouvé sur le terrain lors d'une récente tempête (en Lettonie) et d'une interruption partielle de service (au Danemark), consiste à introduire une capacité supplémentaire dans les puces équipant les cartes modernes. Il s'agit « simplement » d'y enregistrer un plafond de paiement local, déterminé par la banque émettrice, que le terminal d'encaissement consulte et actualise lors de l'exécution d'une transaction hors ligne, avant de la transmettre normalement dès que la connexion est rétablie.
Satisfaite du déroulement de ses expérimentations initiales, Mastercard passe dorénavant à la phase de généralisation dans l'UE… qui prendra tout de même quelques années, en raison des contraintes logistiques. En premier lieu, à partir de février prochain, toutes les nouvelles cartes distribuées sur le continent possèderont l'option ad hoc. En parallèle, à compter du mois de mai, les fournisseurs de terminaux devront eux-mêmes être en mesure de prendre en charge le mode déconnecté.
Naturellement, la méthode retenue laisse certains détails dans l'ombre. Je ne m'attarderai pas sur l'obstacle que représente le cas fréquent de la perte d'alimentation électrique pour les appareils qu'exploitent la plupart des commerçants. Peut-être plus gênant, alors que la carte en plastique cède peu à peu la place à sa déclinaison virtuelle sur téléphone (ou tout autre gadget), parfois de manière exclusive (les comptes sans carte physique se répandent), le mécanisme proposé n'est adapté qu'à celle-ci.
La démarche de Mastercard n'en est pas moins bienvenue dans un contexte où les responsables politiques s'inquiètent de résilience des infrastructures essentielles face à diverses menaces. Mais, selon toute vraisemblance et quoique indirectement, le géant américain vise aussi d'autres enjeux… notamment en réponse aux velléités de souveraineté de l'Europe. Sa solution vient en effet combler une lacune qui affecte également les alternatives locales, monnaie « digitale » de banque centrale ou paiement de compte à compte, et maintient de la sorte un avantage concurrentiel indiscutable.
Alors que le statut indépendant poursuit sa progression dans la population française, sans que, hélas, les habitudes du secteur financier ne se soient toujours bien adaptées à cette évolution sociétale profonde, LCL entame un partenariat avec la plate-forme spécialisée Malt afin de faciliter l'accès des freelances au crédit immobilier.
Cette catégorie de travailleurs constitue depuis longtemps un angle mort des banques, dont, en particulier, les outils d'analyse de risque – qui déterminent la décision d'accorder ou non un prêt – sont conçus pour un monde de salariés. Aujourd'hui, entre un million et un million et demi de personnes (selon les estimations) sont sorties de ce modèle en France, dont une immense majorité par choix délibéré et sans intention de revenir en arrière. Il n'est plus possible d'ignorer leur existence et leurs besoins.
Le problème le plus criant concerne, naturellement, l'accession à la propriété, dont le financement requiert en général de justifier d'un niveau de revenu suffisant dans une position stable. Ce dernier critère est celui qui pêche le plus pour ceux qui ne possèdent pas un contrat de travail (à durée indéterminée). En guise d'alignement approximatif avec le standard de l'industrie, ils se retrouvent à devoir justifier d'un chiffre d'affaires significatif, sans creux d'activité marqué, sur une durée de plusieurs années.
LCL s'attaque donc frontalement à cette injustice en exploitant les données dont dispose Malt sur les utilisateurs de ses services – seuls ceux-ci pourront bénéficier de l'offre… mais ils sont tout de même plus de 650 000 – afin d'évaluer leur éligibilité sur des paramètres correspondant à leur profil. Entre autres avantages, un seul bilan suffit alors pour autoriser une étude de dossier de crédit et, en cas d'accord, les débutants pourront obtenir un différé partiel de remboursement pendant les douze premiers mois.
Si le dispositif représente pour Malt un moyen de développer sa palette de compétences à l'intention de son audience, au-delà de sa mission originelle de mise en contact des freelances avec des clients, l'enjeu pour la banque est plus critique, puisqu'il s'agit, d'un point de vue tactique, de continuer à proposer un produit phare à un segment de clientèle important, qui risque l'exclusion, et, à un niveau plus stratégique, de maintenir son positionnement généraliste dans un environnement en pleine mutation.
Sur ce plan, LCL joue également sa différenciation concurrentielle. En effet, le parcours de demande de prêt immobilier est disponible à la fois en agence, en interaction avec un conseiller, et dans la plate-forme 100% « digitale » destinée aux professionnels que l'établissement a lancée au début de 2026. Face à des trublions désormais bien installés dans le paysage hexagonal, Qonto en tête, la filiale du Crédit Agricole, qui entrait dans la danse tardivement, peut enfin démontrer un avantage par rapport à ces acteurs.
Même dans un pays doté de l’une des plus solides traditions médiatiques d’Europe, le paysage se détériore. STT, parmi l’une des plus anciennes agences de presse encore en activité au monde, pourrait fermer ses portes en mars 2027. « Les médias finlandais sont sur le point de perdre leur bras droit, leur “Suisse”, dont le […]
De nos jours, l'usurpation d'identité fait partie des principaux fléaux qui affectent les finances personnelles des consommateurs (sans parler des entreprises), face à laquelle l'australienne NAB met donc en place une nouvelle solution de contrôle… dans ses agences. La priorité n'aurait-elle pourtant pas dû porter sur les interactions à distance ?
Le nouveau dispositif est déployé progressivement dans le Queensland, seul état du pays à avoir instauré les conditions techniques nécessaires avec un permis de conduire virtualisé, sur mobile. Son principe est simple et sans originalité puisqu'il s'agit d'un partage des informations d'identité par transfert électronique depuis le téléphone du client vers la banque, sous un protocole conforme aux standards internationaux, vanté avec insistance comme inviolable (ce qui paraît être la moindre des choses).
Concrètement, au moment opportun, tel qu'une signature de contrat, le visiteur est invité à ouvrir l'application correspondante pour capture par son conseiller. Il se voit alors présenter les données dont il lui est demandé de confirmer la transmission. Une fois cette étape franchie, les détails requis sont communiqués directement aux systèmes de l'établissement, sans risque de falsification ou de détournement, et en évitant une saisie manuelle fastidieuse qui constitue également une source potentielle d'erreurs.
Si je peux aisément admettre que le dispositif autorise un gain de temps et de fiabilité, la mise en avant acharnée des arguments de sécurité me laisse beaucoup plus sceptique. Tout d'abord, tout le monde n'étant pas équipé du précieux sésame électronique, il n'est pas question de remplacer les vérifications classiques avec des documents physiques. Les cybercriminels n'auront donc qu'à recourir à cette méthode pour contourner le surcroît de protection promis de manière indiscriminée aux clients.
Mais le défaut le plus embarrassant réside dans le choix de mise en œuvre dans les relations face à face avec un employé. À l'ère « digitale », dans laquelle les malversations se déroulent essentiellement en ligne, il semblerait plus important d'exploiter un système d'identité numérique, justement, en vue de renforcer les défenses contre ces dernières. L'ironie atteint son comble quand on se souvient que les banques exprimaient jusqu'à récemment (et parfois encore aujourd'hui) leurs réticences à réaliser des opérations sensibles via internet, préférant la sécurité d'un échange en agence.
Dans un autre registre, je suis toujours étonné des écarts de maturité qu'on peut observer entre différentes régions du monde. Ainsi, avec les avancées de la dématérialisation des documents officiels, le contrôle d'identité 100% « digital » est aujourd'hui généralisé dans de nombreux pays (l'Ukraine est le premier exemple qui vient à l'esprit) tandis que d'autres en sont encore à un stade expérimental. L'ouverture au reste du monde, surtout dans les démarches d'innovation, a des progrès à faire…
Aaron Horwath est directeur de l’IA dans une entreprise de la tech. Dans une tribune pour Noema, il se demande pourquoi tout le monde semble désormais si triste dans le secteur. Pour lui, une catégorie entière de travailleurs semble perdre foi dans sa carrière. « « Faire quelque chose ». J’entends cela de plus en plus souvent parmi mes pairs, ces travailleurs du savoir : des gens qui souhaitent se mettre à la poterie, à la peinture, au crochet ou à d’autres loisirs analogiques d’antan. Dans les cafés et les recoins sombres des bars, des professionnels partagent leur rêve de « disparaître », de « vivre dans une ferme quelque part » ou de « couper les ponts avec la société ». Il ne s’agit pas de rêveries fantaisistes ; ce sont des visions d’évasion exprimées sur un ton qui trahit une angoisse existentielle sous-jacente, un doute fondamental sur le travail et la course à la carrière, né d’une expérience qui semble de plus en plus courante : se réveiller un matin au bord du gouffre existentiel, frappé par la soudaine impression que le travail intellectuel est – et a peut-être toujours été – dénué de sens. Peut-être avez-vous vous aussi ressenti cela : une mélancolie indicible et envahissante, telle une marée montante menaçant peu à peu de vous engloutir alors que vous êtes assis sur votre chaise de bureau Ikea.
Ce désenchantement est contagieux. Une personne en parle et les autres hochent la tête : elles aussi ont ressenti cette baisse de motivation, ce sentiment de détachement vis-à-vis de leur travail, ce manque de sommeil, ces inquiétudes pour l’avenir. »
« Ce qui change aujourd’hui, c’est que ces questions ne sont pas seulement économiques, mais existentielles. » Les travailleurs du savoir ont déjà affronté des récessions, des délocalisations et diverses formes d’automatisation par le passé. L’IA n’en est qu’une de plus. Qu’est-ce qui change en plus désormais ? Les travailleurs du savoir exercent des métiers qui leur procurent un profond sentiment de sens. « Traditionnellement, on qualifiait ces carrières de « vocations » : un appel, un mode de vie. Plus qu’un simple emploi : une raison d’être. » Les vrais métiers à vocation ne sont pourtant pas ceux que pratiquent les travailleurs du savoir. Ils ne sont pas enseignants, pompiers, travailleurs sociaux ou mécaniciens. Massivement diplômés, ils se sont orientés vers la finance, le conseil où la tech, des secteurs exigeants et complexes, où l’on gagne bien sa vie, mais dépourvus de toute dimension altruiste. Dans Bullshit Jobs, l’anthropologue David Graeber avait déjà remarqué que ces emplois ne remplissaient aucune fonction utile. Ils consistent à produire « des présentations élaborées pour des projets qui ne verront jamais le jour, à avoir des débats houleux sur les moindres détails de fonctionnalités logicielles que personne n’a réclamées, à optimiser chaque mot d’une publicité que personne ne remarquera, pour un service dont personne n’a besoin ». Ca n’empêche pas ces travailleurs de vouer un culte au travail, ce workism qu’évoquait en 2019 le journaliste Derek Thompson dans The Atlantic. Une façon de trouver dans le travail, l’épanouissement, l’appartenance et le sens que les générations précédentes trouvaient dans la religion. Ils trouvaient au bureau ce que les plus fervents chrétiens trouvent à l’Eglise : « c’est là qu’ils se sentent le plus eux-mêmes ». Le culte du travail est conçu pour détourner l’attention du vide intérieur qu’une véritable vocation aurait pu combler.« Et cela fonctionne. Il incite des personnes talentueuses à se rendre au bureau pour débattre de rapports, de documents stratégiques et de refontes d’image de marque avec le sérieux d’une opération de chirurgie cardiaque pédiatrique.»
Mais ce culte du travail a un point faible, explique Horwath. « Comme la religion, il repose sur le triomphe de la foi en sa logique ». Et c’est bien celle-ci que l’IA perturbe.
Le travail intellectuel a toujours été intrinsèquement abstrait. « Bon nombre de ces emplois, en particulier dans les grandes entreprises, sont structurés comme des poupées russes : des rôles conçus pour en soutenir d’autres, qui eux-mêmes en soutiennent d’autres encore, couche après couche, jusqu’à ce qu’il devienne impossible de discerner un noyau solide. Son seul atout résidait dans le fait qu’il était accompli par des humains. » Dans ces pyramides qui ne mènent nulle part, nous étions indispensables. « Même si cela était dénué de sens sur le plan existentiel, ce travail était imprégné de pensée humaine, de collaboration et de créativité, autant d’éléments qui lui insufflaient la vie.»
Ce n’est plus le cas. Désormais ce sont des agents IA qui sont en charge de ces tâches. Désormais, ces travailleurs du savoir sont en passe de devenir des gestionnaires d’armées d’agents. « Les logiciels compilent les rapports, rassemblent les données, mettent en forme la présentation, rédigent une première version de la documentation et gèrent ces dizaines de petites tâches répétitives qui, autrefois, engloutissaient discrètement tout un après-midi ». Les agents IA ne font pas seulement les tâches ingrates : ils élaborent des stratégies commerciales complètes, génèrent des campagnes marketing intégrales, créent des sites web entiers et conçoivent la stratégie, tout ce qui nécessitait des divisions entières d’une organisation. Du simple e-mail à la stratégie d’entreprise globale, les productions des individus, des équipes et des organisations sont de plus en plus générées instantanément par l’IA.
« Mais ce pouvoir – ou plutôt ce niveau d’abstraction supplémentaire – ne nous éloigne-t-il pas trop, d’une certaine manière, de notre travail ? N’y a-t-il pas quelque chose qui « cloche » à laisser quelqu’un – ou quelque chose – accomplir la quasi-totalité du travail, même si le résultat final n’avait pas grand sens au départ ? »
Dans La société du spectacle, Guy Debord explique que le spectacle est une caractéristique du capitalisme tardif, où la vie est perpétuellement médiatisée, où le médium se substitue à l’expérience. Le culte du travail est un microcosme de ce spectacle global : « un monde où paraître occupé, important et doté d’un savoir unique a autant de valeur que de l’être réellement, et où le travail n’a pas besoin d’avoir un impact réel, mais simplement d’en donner l’apparence ». « Le travail doit être important puisque, après tout, nous sommes tous là, n’est-ce pas ? À pointer à l’arrivée. À faire des heures supplémentaires. Semaine après semaine. »
Or, estime Horwath, « l’intégration de l’IA au spectacle suscite une angoisse existentielle, car elle nous éloigne encore davantage du travail que nous accomplissons et de sa valeur ». « Je ne conçois plus la présentation qui permet de décrocher un client ; je rédige la requête qui ordonne à l’IA de la créer, puis je vérifie le résultat. Je ne rassemble plus les informations pour rédiger la lettre d’information du secteur ; c’est mon agent qui s’en charge. Auparavant, ce travail pouvait sembler superficiel ou peu gratifiant au fond de nous, mais il restait le nôtre. Aujourd’hui,l’IA est imposée aux organisations d’une manière qui remet en cause la valeur même de l’idéologie du travail.»
L’IA nous pousse si loin que l’illusion, le spectacle, devient manifeste. Ce qui faisait tenir l’illusion, le travail intellectuel lui-même, l’opium à se réaliser soi-même, s’écroule. Il faut désormais surveiller ce que fait la machine. Vous n’êtes plus sur scène, vous êtes le technicien de théâtre qui fait que la pièce se déroule parfaitement.
« Les organisations se retrouvent dans une situation délicate. Elles souhaitent intégrer l’IA à leurs activités, tout comme leurs actionnaires. Et elles le feront. À court terme, les gains d’efficacité potentiels sont trop alléchants pour être ignorés. Maisce qui enthousiasme le plus de nombreux dirigeants – moins de collaboration, moins de personnel – risque de démanteler les structures qui assurent la cohésion des organisations qu’ils dirigent.» La prise de conscience du culte du travail vient de son produit le plus révolutionnaire.
Dans son article, Thompson rappelle que ce qui fait tenir le culte du travail, c’est sa dimension communautaire. A savoir« passer du temps avec des personnes partageant les mêmes idées et centres d’intérêt, et collaborer avec autrui pour résoudre des problèmes ». L’illusion était portée ensemble. Ici, l’inefficacité est bien souvent un atout et non un défaut, ironise Howarth. Ainsi, par exemple, à l’heure où l’arbitrage dans le sport est remplacé partout par de la technologie, le sport en devient beaucoup moins intéressant et divertissant, oubliant que le divertissement est tout de même l’un des buts du sport. Bien sûr, une IA capable de produire en quelques minutes un projet plus ou moins impeccable est impressionnante. « Mais ce n’est pas la rapidité de création des présentations qui va fidéliser les talents. La grande majorité des employés choisissent de rester ou de quitter leur poste en fonction de leurs collègues et/ou supérieurs, et de la qualité de l’expérience, parfois chaotique, qu’offre le monde du travail. Ce sont ces éléments qui rendent le travail agréable et enrichissant. » Même chose dans les relations avec les fournisseurs et les clients d’ailleurs.
Pourtant, souligne encore Howarth, tout le monde ne partage pas ce point de vue. « D’après mon expérience,on distingue deux grandes catégories de travailleurs du savoir. La première est axée sur les résultats. Leur priorité est l’entreprise, la réussite, l’efficacité. Les besoins, les défauts et les émotions humaines sont pour eux un obstacle à surmonter.
La seconde catégorie privilégie l’expérience. Ces travailleurs apprécient la complexité du travail. Ils valorisent le processus.Ils souhaitent que leur organisation soit performante, mais comme le fruit naturel de la collaboration, des débats et des efforts partagés avec des personnes qu’ils apprécient. Nombre d’entre eux sont des artistes en dehors du travail : photographes, réalisateurs, scénaristes, sculpteurs, peintres, poètes, écrivains. Beaucoup sont des bénévoles actifs. Pour ces personnes, quitter leurs passions, certes peu rentables, exige une contrepartie : une expérience en entreprise qui leur offre la liberté d’explorer, de créer, de résoudre des problèmes et de côtoyer des collègues intéressants.»
« Les recherches suggèrent que ce groupe a besoin de cet environnement pour donner le meilleur de lui-même.Teresa Amabilede la Harvard Business School a consacré des décennies à étudier les facteurs de production d’une créativité authentique et de grande qualité. Sonprincipe de motivation intrinsèqueétablit que les individus sont les plus créatifs et innovants lorsqu’ils sont motivés par le travail lui-même – l’intérêt, le défi, le plaisir – et non par les résultats ou les indicateurs de performance. Les environnements qui étouffent la créativité sont politiques, frileux face au risque et obsédés par les résultats. Ceux qui la stimulent sont collaboratifs, axés sur les idées et libres. Autrement dit, cette zone intermédiaire, parfois chaotique, n’est pas synonyme d’inefficacité. C’est le contexte propice à la production d’un travail véritablement précieux.»
« Il est important de noter que l’impact de la suppression de cette zone intermédiaire chaotique dans l’expérience professionnelle de ces deux groupes est asymétrique : pour les personnes axées sur les résultats, c’est une victoire. Pour les personnes qui privilégient l’expérience, cela remet en cause les fondements mêmes du travail. »
Même si les licenciements actuels sont loin d’être réductibles au déploiement de l’IA. ce qui pourrait changer à terme, c’est que les transformations induites par l’IA pourraient rendre nombre de talents (ceux qui viennent y chercher une expérience) inadaptés au monde du travail. Pas sûr qu’ils partent tous garder des chèvres ou qu’ils deviennent potier pour autant. Comme le disait Debord, la rébellion elle-même peut-être purement spectaculaire. Le nouveau spectacle de l’IA finira par exercer sur chacun sa pression économique. On peut quitter une version du spectacle, mais au risque surtout d’être absorbé par une autre. Il est sans fin. Certains quitteront le secteur du travail intellectuel. Beaucoup resteront par choix et nécessité, conclut Howarth sans bien savoir comment terminer son papier.
Le plus probable pourtant, me semble-t-il, est bien que la maîtrise de l’IA devienne un spectacle en soi. On le voit déjà. Mettre en scène sa maîtrise agentique comme faire de ses relations avec les chatbots une expérience, en raconter les résultats, est déjà devenu une nouvelle façon de raconter ce nouveau culte du travail. On raconte désormais comment l’on vit avec ces outils, plutôt que comment on réalise des défis avec ses collègues. Sa transformation est déjà un spectacle. Partout l’on se doit de raconter que cela nous fait gagner du temps, même si on ne sait pas toujours dire en quoi. Parvenir à orchestrer le monde des agents, à passer d’une sollicitation l’autre, à renverser ses présentations ou sa stratégie marketing, passant d’une grand plan à l’autre, semble déjà être devenu une manière d’être. Ceux qui perdent le sens seront remplacés par ceux qui en trouvent. Le risque, c’est qu’il n’y ait pas grand monde pour assister à ce spectacle, à part un robot mielleux qui nous dira« tu as tout à fait raison », en proposant une autre direction encore, dansun épuisement accéléré, d’un prompt l’autre, d’une boucle agentive l’autre.
Depuis toujours, les institutions financières engagent des efforts considérables dans la protection de l'argent de leurs clients. Et soudain, avec l'irruption des agents propulsés à l'intelligence artificielle auxquels ils sont de plus en plus enclins à confier toutes sortes de tâches, ce travail est remis en question. Incognia promet une solution.
Les outils de lutte contre la fraude « digitale », en particulier, sont constamment enrichis, à grands frais, afin de prendre en compte les menaces émergentes au fur et à mesure de leur apparition et leur fonctionnement repose en grande partie sur la connaissance de l'utilisateur qui interagit avec les applications de l'entreprise à un moment donné, qu'il s'agisse de l'identifier et l'authentifier ou de s'assurer, par exemple, que les transactions qu'il cherche à exécuter sont légitimes et réellement délibérées.
Or quand un agent IA se substitue au client, les mécanismes existants ne peuvent plus œuvrer de la même manière. Des problématiques différentes surgissent, complémentaires de celles qui sont déjà prises en compte. Au premier plan, bien sûr, la priorité consiste à garantir que l'automatisme qui se connecte est effectivement mandaté par la personne qu'il déclare représenter. Mais, par la suite, il faut également vérifier que les opérations qu'il exécute correspondent bien à la demande de son « maître ».
La solution d'Incognia promet de répondre à ces multiples niveaux d'enjeu. Elle sait d'abord distinguer les robots en tout genre des humains lorsqu'ils naviguent dans les logiciels qui leur sont exposés. Deuxième étape, les intelligences artificielles repérées font l'objet d'un filtrage préliminaire afin d'écarter celles qui paraissent suspectes par essence. Puis vient le contrôle de la délégation, dans laquelle le lien avec l'individu finalement responsable du comportement de l'agent est établi et validé.
À ce stade, l'évaluation de l'utilisateur à l'origine de la session est terminée. Entre alors en jeu une couche supplémentaire, destinée cette fois à surveiller les actions engagées. Outre l'inspection du certificat d'intention – qui devrait s'imposer rapidement comme un standard – et son enregistrement (comme les autres éléments de preuve du processus), la plate-forme analyse les opérations initiées en regard des habitudes du client, de manière à prévenir des écarts indicatifs d'éventuelles dérives.
En parallèle de leurs propres projets d'IA, les institutions financières doivent appréhender en urgence les dangers qu'implique l'adoption d'agents plus ou moins autonomes par les consommateurs. Elles ne pourront se contenter longtemps des réflexions initiales sur la traçabilité des contrôles passifs qu'elles mettent en œuvre. Elles devront très vite investir dans des mécanismes de protection proactifs si elles ne veulent pas se voir reprocher un laxisme coupable relevant potentiellement d'un défaut de conseil. Dans ce contexte, l'approche d'Incognia mérite largement l'attention.
C’est ce chemin qu’il poursuit dans son nouveau livre, qui n’est pas un essai, mais un manuel à destination des responsables des données. Il rappelle que depuis qu’il est diplômé, il n’a cessé d’essayer d’appliquer la data science pour créer une société plus équitable. Mais avoir un impact positif s’est avéré bien plus difficile qu’espéré. A Memphis, par exemple, les outils qu’il avait participé à mettre au point pour aider la ville à identifier des logements à rénover ont été abandonnés après le départ de l’équipe qui les avait développé. Malgré ces expériences pas toujours concluantes, il s’est rendu compte que pour avoir un impact, il était nécessaire de désapprendre beaucoup de certitudes et d’habitudes que sa formation endata sciencelui avait enseigné. A Boston, par exemple, il devait travailler avec les services d’urgence pour trouver des stratégies pour améliorer la rapidité d’intervention. Or, plutôt que de trouver une astuce pour mieux répartir les ambulances dans la ville, Green a constaté dans les données, que l’essentiel des déplacements n’étaient pas nécessairement un besoin de soins médicaux d’urgence, mais une demande de services sociaux que les services d’urgence n’étaient pas en mesure de fournir mais accomplissaient quand même. Avec les services d’urgence, il a alors proposé de créer une équipe dédiée. Une réponse d’autant plus adaptée que les interventions auprès des publics en difficultés, des toxicos et des SDF, ou de ceux souffrant de problèmes de santé mentale, se concentraient sur certains quartiers sensibles, avec un pic en fin d’après-midi et en début de soirée. La création d’une équipe d’assistance communautaire a ainsi permis de répondre à la demande initiale. Elle a permis d’apporter de meilleurs soins à des publics en difficulté et elle a libéré des ambulances pouvant répondre plus rapidement lors de prises en charges médicales urgentes. Cette expérience a été fondatrice. Elle lui a enseigné trois tactiques qu’il applique depuis à tous les projets qu’il rencontre. D’abord, étudier en profondeur les défis sociaux et opérationnels des services avant d’analyser la moindre donnée. La seconde consiste à se concentrer sur les besoins exprimés pour produire des impacts réels et pas seulement des solutions algorithmiques. Pour Green, les analyses de données les plus sophistiquées ne conduisent pas à de meilleurs impacts. Les résultats de la science des données doivent être choisis en fonction de leur capacité à faire progresser les objectifs du projet, peu importe leur simplicité ou leur complexité. Le troisième enseignement, c’est qu’un data scientist isolé ne sert à rien. Améliorer les politiques publiques avec la data science nécessite des activités qui ne relèvent pas de la data science.«Pour surmonter ces défis, il m’a fallu étudier des problèmes de société, me familiariser avec les processus de travail des organismes publics et traduire une analyse technique en pratiques opérationnelles. Aucun de mes cours de science des données n’avait jamais ne serait-ce qu’évoqué ces tâches, et encore moins enseigné comment les accomplir.»
Concevoir des algorithmes susceptibles d’améliorer la société n’est pas si simple. Comme on le répète ici, les calculs sont plus souvent défaillants qu’autre chose. Certainement parce que les méthodologies de la science des données n’offrent pas de méthode pour se faire, avance Green. D’où l’enjeu de ce manuel : apporter une nouvelle approche de la data science pour orienter les scientifiques des données vers la promotion de la justice sociale. En fait, souligne Green, les méthodes actuelles que mobilisent les data scientist ne leur permettent pas d’œuvrer pour le bien commun. Cette méthode actuelle, Green l’appelle le « formalisme algorithmique ». Et pour lui, elle est profondément problématique. Il propose d’en bâtir une autre : le « réalisme algorithmique ». Et son livre se veut une boîte à outils pour changer de méthode, pour changer la façon dont se déploie la data science.
Passer du formalisme au réalisme algorithmique
« Transformer la science des données, en passant d’une méthodologie formaliste axée sur des modèles mathématiques à une méthodologie pratique axée sur des problèmes du monde réel », c’est ce que propose Green. La science des données est un champ relativement récent, né dans les années 2010, même si elle s’est construite sur des idées et des pratiques qui ont une longue histoire, rappelle-t-il. Le formalisme algorithmique est une méthodologie qui repose sur la propriété mathématique des algorithmes. Où qu’elles se déploient, les méthodologies formalistes restreignent le champ de l’analyse aux propriétés intrinsèques de leur objet, en excluant les éléments extérieurs tels que le contexte social et l’interprétation. Le formalisme algorithmique occulte le contexte social entourant les algorithmes, les garanties formelles de performance ne sont valides qu’au regard du comportement technique de l’algorithme – et non de ses usages et de ses impacts en pratique. En la matière, ces méthodes font obstacle à toute tentative d’aborder des problèmes sociaux et politiques complexes. Le formalisme procède d’une « réduction du champ de vision », rappelle le politologue James Scott dans son livre, L’œil de l’Etat (La découverte, 2021). Le formalisme tend à renforcer les hiérarchies, expliquent Geoffrey Bowker et Susan Leigh Star dans Arranger les choses (EHESS, 2023). Il peut sembler neutre et technique, mais le formalisme a souvent des conséquences pour les groupes marginalisés. Le problème est que le formalisme « caractérise le milieu intellectuel dans lequel évoluent les data scientists » et empêche d’adopter d’autres approches. Ce formalisme a des conséquences très directes : il privilégie les critères d’exactitude et d’efficacité ainsi que l’amélioration des prédictions.
D’ailleurs, les revues comme les conférences du secteur pénalisent souvent les recherches axées sur les applications et les résultats concrets, préférant les travaux qui améliorent les méthodes de calcul. Il conduit à minimiser les dommages potentiels causés par les systèmes algorithmiques et conduit à ne pas regarder les réalités de leurs mise en œuvre, à surestimer les bénéfices et à sous-estimer les nuisances. C’est le cas par exemple de Compas, le système de prédiction du risque de récidive américain. Ses promoteurs estimaient qu’en se fondant sur des évaluations formalistes, leur outil permettrait de réduire le recours à la détention provisoire et les disparités raciales. Or, les évaluations réalisées après la mise en œuvre du système algorithmique ont montré que ces améliorations ne s’étaient pas concrétisées. « Cet écart entre les évaluations formalistes et la réalité du terrain découlait de la manière dont les juges utilisaient les évaluations des risques ». L’évaluation du risque, sous forme d’infrastructures d’abstraction, a exacerbé plutôt que réduit les disparités raciales en matière de détention provisoire, parce que les ingénieurs de Northpointe, les développeurs de Compas, n’ont pas pris en compte la manière dont ils seraient utilisés (sur ces enjeux, voire également les livres de Jathan Sadowski, de Arvind Narayanan et Sayash Kapoor ou encore de Nathan Genicot dont nous avons déjà parlé ici et qui abordent tous ces questions sous un angle ou un autre).
Pour Green, ladata sciencesouffre d’une forme de« clôture mathématique », enclose sur elle-même, renforcée par une tendance à« l’universalisme abstrait », où le monde réel pourrait se réduire uniquement à des mathématiques. Cet universalisme abstrait pousse lesdata scientistsà appliquer des algorithmes comme solution à tous les problèmes sociaux, sans prendre en compte les particularités de ses déploiements.
« Le problème est que, bien que ces représentations par substitution rendent le problème plus facilement traitable mathématiquement, elles suppriment généralement des éléments essentiels du contexte réel ». Cela conduit à des simplifications excessives et à de mauvaises interprétations, comme quand on tente d’évaluer les enseignants en fonction des résultats scolaires de leurs élèves. La qualité de l’enseignement se réduit alors à l’amélioration des résultats des élèves, comme le montrait Cathy O’Neil dans son livre, Algorithmes, la bombe à retardement (Les Arènes, 2018). Enfin, le formalisme algorithmique tend à faire croire que la data science et le calcul seraient politiquement neutres et que les scientifiques seraient objectifs, comme le dénonçaient déjà danah boyd et Kate Crawford en 2011 dans leurs 6 provocations à l’encontre des Big Data. Croire que la science des données produit des connaissances objectives tend à renforcer la minimisation des enjeux sociaux et éthiques des calculs, jugés comme non pertinents et dépourvus de rigueur. « Dans la recherche en science des données, la priorité est donnée aux contributions techniques, supposées apolitiques. Les revues et les conférencesattendent des chercheurs qu’ils justifient leurs travaux sous l’angle de la performance et de la nouveauté plutôt que par rapport aux besoins de la société », comme le montrait une remarquable analyse des valeurs encodées dans les articles de recherche du secteur.
« La neutralité politique conduit les data scientists à négliger les inégalités structurelles et les contestations politiques sous-jacentes aux enjeux sociaux ». C’est par exemple l’écueil de la police prédictive, qui exacerbe et légitime la discrimination systémique inhérente à l’action policière.
Pour Green, ce formalisme exacerbé a généré une crise morale de la discipline. À mesure que les algorithmes se généralisaient et gagnaient en influence au sein de la société, les approches critiques ont alors gagné en visibilité à mesure que montaient les controverses et les injustices. Peu à peu, la question de l’éthique est devenue un domaine influent de la science des données, en valorisant la question de l’équité (c’est-à-dire en valorisant des définitions mathématiques de la prise de décision équitable) et de l’explicabilité. Cet accent mis sur l’éthique a orienté la science des données dans des directions productives, reconnaît Green, en attirant l’attention sur les impacts sociaux des calculs. Mais pour Green, cette éthique repose trop souvent sur une approche formaliste également. Elle réduit l’éthique à une question d’amélioration du calcul, comme le remarquait déjà le sociologue Bilel Benbouzid. Pour Green, « l’éthique des données ne permet pas de produire de manière fiable des algorithmes équitables. Même lorsque les algorithmes satisfont aux définitions techniques des idéaux éthiques, ils peuvent néanmoins s’avérer nuisibles en pratique. » Pour lui, le formalisme algorithmique conduit la science des données dans une impasse. Il manque une méthodologie plus pratique pour se faire.
Pour dépasser ces limites, il est nécessaire de passer du formalisme au réalisme. « Le critère ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique. Autrement dit, quelles que soient les propriétés mathématiques formelles d’un algorithme, ses effets concrets priment sur l’évaluation de sa qualité et de son utilité sociale. Par ce principe, le réalisme algorithmique vise à promouvoir une science des données réaliste, attentive aux usages et conséquences réels des algorithmes. » Pour le dire concrètement, nombre de services permettant d’attribuer des places dans le supérieur reposent sur l’algorithme dit des mariages stables de Gale et Shapley. Pourtant, la manière de l’implémenter est partout différente et produit des effets spécifiques, notamment parce que ses adaptations n’en respectent pas toujours les principes. Parcoursup comme son ancêtre, APB, en relevaient. Ce n’est pas pour autant qu’ils l’ont implémenté dans les règles de l’art.
Pour produire une véritable data for good, pour servir l’intérêt général par les données, alors « la justice sociale doit devenir la mission centrale de la science des données », estime Green. Pour cela, il faut changer la science des données, afin que « faire une bonne data science (doing good data science) devienne synonyme de faire le bien avec la data science (doing good with data science) ». Pour cela, il faut dépasser les attributs techniques d’un algorithme, pour se concentrer sur son rôle et ses impacts dans le contexte de son utilisation. « Les data scientists doivent donc porter leur regard vers l’extérieur : passer du fonctionnement interne des algorithmes au monde dans lequel ils opèrent.»Ils doivent concentrer leur regard sur les effets instrumentaux des systèmes, leurs impacts concrets plus que leurs performances. Pour Green, cela consiste à prendre en compte le changement social. L’enjeu par exemple ne serait plus de produire un calcul pour déterminer quels élèves risquent de décrocher pour améliorer le taux d’obtention d’un diplôme, mais à se demander comment améliorer les efforts de prévention du décrochage scolaire. « Il s’agit de développer des algorithmes qui favorisent des résultats éthiques au sein de la société.»
La méthode : faire avec le terrain !
Green expose longuement son plan de travail concret. C’est-à-dire un nouveau « flux de travail pour la science des données » (data science workflow), c’est-à-dire un processus de travail concret qui passe par la délimitation du problème, la délimitation du projet, l’analyse des données, la mise en œuvre et l’évaluation. Et pour mettre en œuvre ce processus, lesdata scientistsdoivent apprendre à mieux collaborer avec les acteurs du terrain, plutôt qu’à produire leurs solutions en chambre. Ils doivent discuter avec ceux qui sont impactés par les systèmes, ceux qui les mettent en place pour mieux saisir les enjeux qui sont les leurs. « Le réalisme algorithmique n’exige pas des data scientists qu’ils abandonnent leurs compétences techniques, mais il souligne qu’ils ont besoin de plus que ces seules compétences. Ainsi, les data scientists ne devraient pas se définir uniquement comme des experts techniques sachant analyser des données. Au contraire, ils devraient s’efforcer d’êtredes stratèges de la donnée, aidant de manière créative les personnes et les organisations à utiliser les données pour relever des défis du monde réel ». Green tente ici de dresser une piste pour que les scientifiques de la données arrêtent de produire du technosolutionnisme. Il invite les ingénieurs à se défaire de l’hubris ingénieuriale, comme il le disait ailleurs. A prendre conscience que leurs solutions sont bien souvent inadaptées, toutes formidables qu’ils les trouvent. Et pour cela, il faut changer l’approche de la discipline elle-même.
Pour Green, cette réorientation est aussi une réponse à l’automatisation qui dévalorise l’expertise des data scientistes. A l’heure où l’IA générative va produire la plupart du code, le réalisme algorithmique permet de prémunir la discipline contre l’automatisation. En devenant stratèges de la données, leur rôle n’est pas seulement de programmer, mais vise à « aider les organisations à définir des stratégies pour tirer parti des données et des algorithmes afin de répondre à leurs défis concrets ». « Les data scientists cherchent rarement à s’attaquer aux inégalités structurelles, préférant se contenter d’optimiser les procédures décisionnelles existantes. Le réalisme algorithmique inverse ces tendances. Il incite les data scientists à modérer leurs ambitions quant à ce que les algorithmes peuvent accomplir seuls, tout en les encourageant à viser plus haut dans la poursuite de réformes sociales et politiques systémiques », promouvant la justice sociale.
Pourtant, prévient Green, la justice sociale est un sujet complexe et controversé. Il n’existe pas de réponse unique ou évidente quant à la manière de parvenir à la justice dans chaque situation… Et il n’est pas sûr que toutes leurs interventions y parviennent. Reste que pour lui, il faut parvenir à sortir de la lutte contre les injustices engendrées par les algorithmes pour les utiliser pour combattre les inégalités.
Pour autant, Green ne se veut pas naïf. Les data scientists ne vont pas créer demain, rapidement et facilement, une société juste, juste en changeant de méthode. D’autres enjeux s’imposent à eux. Les gouvernements eux-mêmes et nombre d’acteurs privés, sont motivés par des objectifs qui sont en conflits avec la justice sociale. Les autorités sont les premières à produire des algorithmes pour soutenir des politiques austéritaires, racistes et qui renforcent le contrôle et les inégalités sociales et les data scientists n’ont pas toujours de marge de manœuvre pour réorienter ces politiques. Le réalisme algorithmique ne prétend pas résoudre tous les défis. Il ne se veut qu’une méthode pour appréhender les défis sociaux, pour mieux collaborer avec les plus vulnérables. Et effectivement, cela ne suffira certainement pas à inverser les scripts qui se déploient dans les outils, les idéologies à l’œuvre dans les programmes et les politiques. « Les data scientists disposent d’une marge de manœuvre limitée pour générer un changement social ». Ce n’est pas pour autant qu’ils ne doivent pas être responsables de tenter de changer les choses. « Les data scientists ne sont pas responsables de la création des conditions sociales d’inégalité et d’injustice. Mais nous sommes responsables de la décision et de la manière d’agir face à ces conditions sociales.»
Le réalisme algorithmique n’est pas seulement une nouvelle méthode. C’est aussi une nouvelle culture et un ensemble de normes pour la data science. Son but est de traduire la critique des algorithmes en de nouvelles pratiques pour les data scientists.
La leçon du pragmatisme
Le passage du formalisme au réalisme et l’idée de l’appliquer à la data science ne vient pas de nulle part, explique Ben Green. Il s’inspire notamment des philosophes pragmatistes, comme John Dewey ou William James. « Les pragmatistes visaient à transformer la philosophie, d’une recherche métaphysique de vérités essentielles, en un ensemble d’outils pratiques pour résoudre les défis sociaux contemporains ». Pour eux, les concepts sont des instruments au service de l’action concrète : les idées sont des instruments pratiques – au même titre que des fourchettes, des tondeuses à gazon ou des stéthoscopes – destinés à aider les individus à faire face aux défis du monde réel. Ils proposent aux philosophes de s’affranchir de leur dépendance aux abstractions et aux formalismes et aux certitudes qu’elle produit. « Aucune connaissance ne garantit son infaillibilité », disait Dewey. Les connaissances doivent pouvoir être affinées en fonction des conséquences de leur mise en pratique.
La philosophie pragmatique s’appuie sur 3 principes. Le premier consiste à prendre en compte les conséquences : la qualité des théories dépend de leurs effets dans le monde réel, ce qui suppose d’évaluer dans la pratique si elles produisent les conséquences souhaitées. Une politique visant à réduire les inégalités de revenus ne s’évalue pas en fonction des principes qu’elle propose, mais se mesure plutôt en observant si sa mise en œuvre réduit effectivement les inégalités. Le second est le principe des outils, c’est un principe qui vise à se défier de l’abstraction qui n’est qu’un outil parmi d’autres. Le troisième est celui de la socialité : toute connaissance est le produit des personnes qui l’élaborent. Cela signifie qu’il n’existe aucune valeur éthique ou objective ultime.
Cette philosophie a eu des conséquences concrètes, notamment dans le domaine du droit. Jusqu’au début du XXe siècle, le raisonnement juridique aux Etats-Unis était dominé lui aussi par le formalisme, ce qui a suscité des critiques ouvrant la voie à des réformes progressistes, notamment pour élargir les droits et les protections des travailleurs. C’est ce que l’on a appelé le réalisme juridique. Le formalisme juridique estimait que les conséquences sociales réelles des lois étaient sans pertinence pour leur évaluation. Par exemple, les juges américains ont longtemps interprété la liberté contractuelle comme une règle rigide : l’État ne pouvait s’immiscer dans les contrats que les individus concluaient de leur plein gré. La Cour suprême des Etats-Unis a ainsi invalidé en 1905 une loi de l’Etat de New York fixant une durée maximale de travail pour les employés de boulangerie au motif qu’elle était un ingérence déraisonnable face à la liberté de contracter, quelque soit ses effets. En réaction au formalisme juridique, les réalistes ont œuvré pour prendre en compte le monde dans lequel le droit s’inscrit, pour faire du droit un outil pragmatique au service d’objectifs sociaux plutôt qu’un système visant à produire des réponses incontestables. Pour eux, la qualité des lois devait dépendre de leurs effets dans le monde réel. Pour cela, il leur a fallu montrer que les principes juridiques abstraits ne permettent pas d’apporter des réponses claires dans des cas concrets. Les réalistes juridiques ont prôné des changements d’orientation pour prendre en compte la jurisprudence, le contexte et en soutenant que le droit n’était pas un outil neutre, mais politique, et montrer que le droit ne pouvait être résolu par la simple application de principes abstraits. Ce basculement a changé l’application du droit aux Etats-Unis. En 1937, la Cour suprême des Etats-Unis a validé la constitutionnalité de lois sociales telles que celles instaurant un salaire minimum. « L’évolution du droit, passant du formalisme juridique au réalisme juridique, laisse entrevoir une trajectoire analogue pour faire progresser la science des données : le passage du formalisme algorithmique à une nouvelle méthodologie, le réalisme algorithmique.»
Pour appliquer le pragmatisme à la science des données, il faut que« le test ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique ». Les data scientists ne peuvent se fier au comportement des entrées et des sorties du modèle. Il faut passer d’une conception des algorithmes comme des modèles mathématiques à une conception pratique d’instruments destinés à améliorer la société. « Ce qui rend un algorithme « équitable » ou « éthique », ce n’est pas qu’il possède des caractéristiques mathématiques associées à ces valeurs, mais qu’il produit, dans le monde réel, des résultats associés à ces valeurs ». Les algorithmes sont des systèmes sociotechniques qui s’inscrivent dans la société où ils se déploient, des pratiques sociales. Et s’ils sont des pratiques sociales, alors il faut développer des mesures d’évaluation adaptées, qui reflètent les effets réels de ces calculs. Prendre en considération les conséquences des systèmes, impose aux ingénieurs d’assumer la responsabilités des préjudices que leurs systèmes causent. « Si un algorithme conçu pour améliorer la société s’avère finalement nuisible, il ne peut être considéré comme socialement bénéfique, quelles que soient les mesures formelles attestant de ses bienfaits. Même si les effets néfastes d’un algorithme n’ont pas été voulus, ils définissent la manière dont celui-ci fonctionne réellement. » Là où le regard des spécialistes doit bouger, c’est qu’ils devraient privilégier les impacts sociaux indépendamment du rôle joué par les algos, quitte à ne pas développer des systèmes de calcul.
Le réalisme algorithmique repose enfin sur un autre principe et présupposé : les algorithmes sont politiques et ceux qui les fabriquent sont des acteurs politiques à part entière. « Toute activité qui influence la disponibilité des ressources, des droits, des statuts ou du pouvoir dans la société est politique ». Les défenseurs de la neutralité visent bien plus à occulter les rapports de force et perpétuer les hiérarchies sociales existantes, qu’à défendre une impartialité qui n’existe pas. Pour Green, les développeurs doivent reconnaître leur partialité, non pas parce qu’ils ignoreraient certaines choses, mais plus encore parce que leurs travaux portent des valeurs par devers eux. « Les data scientists occupent souvent des postes leur conférant une marge de manœuvre considérable pour prendre des décisions normatives. Or, ils ne devraient pas se considérer comme les arbitres du bien, mais plutôt comme des facilitateurs attachés à la participation démocratique de tous.»
Dans Logique : La théorie de l’enquête (PUF, 2006), John Dewey décrit la résolution de problèmes comme un processus en quatre étapes. « La première étape consiste à examiner le problème en question pour en comprendre les caractéristiques et définir les critères d’une résolution souhaitable. La deuxième étape consiste à explorer des solutions potentielles et à rechercher une intervention susceptible de résoudre le problème. La troisième étape consiste à mettre en œuvre l’intervention choisie. Enfin, la quatrième étape consiste à évaluer si l’intervention a produit les résultats escomptés. Si les résultats sont satisfaisants, le processus s’achève. » C’est exactement la méthode que Green retient pour l’appliquer aux défis algorithmiques. La méthode se déploie comme une feuille de route visant à
1. Délimiter le problème 2. Délimiter le projet 3. Analyser les données 4. Mettre en oeuvre 5. Et évaluer.
Avant de détailler par le menu les enjeux et défis de chaque étape. Mais, rappelle-t-il en préambule, les ingénieurs ne sont pas des « licornes omniscientes capables de tout faire en solitaire ». Si certains collaborent activement avec des communautés et des experts pour mener leurs projets, trop souvent encore, ces échanges restent « formalistes ». Dans l’ensemble, ils restreignent la participation de ces groupes à la simple fourniture d’informations sur les paramètres de mise en œuvre technique (voir par exemple notre article sur le manque de participation des publics). Et il est encore plus rare que les ingénieurs confient à d’autres le pouvoir de décision sur les résultats à privilégier ou l’opportunité même de développer des systèmes. Même lorsqu’ils consultent des communautés, trop souvent encore, les ingénieurs conservent la maîtrise du projet. Et quand c’est le cas, l’implication des parties prenantes est marginale, insuffisante pour influencer de manière significative les résultats. Quand c’est le cas, les ingénieurs ont souvent déjà arrêté leur orientation et restent souvent réticents face aux retours remettant en cause leurs choix (comme nous le montrions dans notre article sur l’échec des déploiements de projets). Enfin, quand ils laissent une place, celle-ci consiste à discuter de paramètres, d’indicateurs qui dévalorisent les savoirs des groupes dépourvus de formation technique.
En rendant les phases amonts (et avals) du processus plus collaboratives, l’enjeu est de mieux réussir à ouvrir à toutes les parties prenantes les moyens de peser sur les objectifs et la portée des projets. Green rappelle que le data scientist ne connaît jamais la complexité du fonctionnement d’un système. Ce sont ceux qui y sont confrontés les experts. Et c’est leur connaissance qui seule permet de faire la différence.
Définir le périmètre de projets de science des données réalistes
Délimiter le problème n’est pas si simple car les situations problématiques sont souvent mal définies et ambiguës et nécessitent d’éviter toute attente ou tout objectif préconçu. « Lors du diagnostic des problèmes, il est important de reconnaître qu’il n’existe probablement pas d’explication unique et correcte. La plupart des défis sociaux sont des « problèmes complexes ».» Pour cela, Green invite à l’enquête. A discuter avec les agents ou avec le public. A prendre le temps d’interviewer, de parler. Il donne l’exemple d’entretiens avec des parents confrontés à des systèmes algorithmiques visant à prédire les risques de maltraitance ou de négligence. Pour les familles, ces systèmes stigmatisent les parents plus qu’ils n’améliorent la situation. La réponse proposée par les services sociaux où ces systèmes étaient déployés était inadaptée à leur situation. Pour Green, tout l’enjeu est de poser l’énoncé du problème, de le décrire et de décrire ses causes. Aborder les personnes touchées et regarder si elles sont concernées différemment. C’est en posant un diagnostic approfondi du problème qu’on construit un point de référence qui va fournir un cadre pour la démarche. Et ce diagnostic doit être partagé et validé par ceux avec qui le data scientist doit travailler.
Une fois le problème cerné, il faut alors élaborer une stratégie de réforme, c’est-à-dire une théorie du changement qui permettrait de résoudre le problème identifié, sans évoquer de technologie. Le but n’est pas nécessairement de tout résoudre d’un coup, mais aussi d’esquisser les étapes. « Lorsque des travailleurs se syndiquent, ils ne cherchent pas simplement à obtenir des salaires plus élevés. Ils visent plutôt à accroître leur pouvoir à déterminer les conditions de travail. Grâce à ce pouvoir, ils peuvent négocier avec la direction de nombreux aspects de leur emploi : les salaires, certes, mais aussi la couverture santé, les mesures de sécurité, et bien plus encore. Pour un syndicat, il n’existe pas de victoire ultime et définitive, mais seulement une succession de compromis et de victoires partielles. Chaque action renforce la capacité du syndicat à remporter de nouvelles victoires partielles lors des campagnes de mobilisation ultérieures », comme le montrait André Gorz dans Stratégie ouvrière et néocapitalisme (Seuil, 1964). « Pour les data scientists, qui cherchent à promouvoir la justice sociale, votre objectif n’est pas d’identifier une stratégie globale de transformation de la société. Ne vous attendez pas à ce qu’une intervention quelconque puisse résoudre un problème social systémique et aboutir à une alternative parfaitement juste. L’objectif est plutôt d’identifier des « réformes non réformistes » : des actions qui, même modestement, orienteront la société vers des politiques et des structures de pouvoir égalitaires. » Pour Gorz, les réformes non réformistes s’inscrivent dans une volonté d’instaurer des relations sociales égalitaires. Elles remettent en cause le statu quo au service des objectifs visés. Compte tenu de cette distinction, les réformes non réformistes sont mieux à même de surmonter les structures politiques et de pouvoir systémiques qui, généralement, font obstacle à la réalisation de la justice sociale.
La délimitation du projet, elle, consiste à préciser les objectifs à atteindre. « Des objectifs qui doivent être à la fois spécifiques, mesurables, réalisables, pertinents et temporellement définis ». Ils doivent permettre de faire progresser la stratégie de réforme définie et sa contribution doit venir soutenir les acteurs. Ici, l’enjeu est d’identifier « Comment mon expertise et mon statut de data scientist peuvent-ils aider le groupe à atteindre ses objectifs ? »
Pour Green cela suppose par exemple de produire une cartographie des processus pour bien saisir le fonctionnement et les pratiques des acteurs accompagnés, sous forme par exemple d’une représentation détaillée de chaque étape d’un processus opérationnel, voire un organigramme ou un flux de travail (à accomplir avec ceux chargés de le faire pour en valider les étapes, préciser les acteurs impliqués, les objectifs de chacun, leurs contraintes) permettant d’identifier les points de blocages concrets. À San Francisco par exemple, le Département de la santé publique s’inquiétait de la baisse des taux de fidélisation à un programme qui fournit une aide alimentaire aux mères à faibles revenus. Pour comprendre les causes de ce problème, l’agence a collaboré avec l’équipe interne de science des données de la ville. Les spécialistes des données ont analysé six années d’informations et élaboré un modèle d’arbre de décision afin d’identifier les facteurs conduisant les mères à abandonner le programme. Ils ont également interrogé les bénéficiaires et le personnel du programme. Ces analyses ont révélé que les contraintes administratives et la stigmatisation sociale constituaient des obstacles majeurs pour les mères. En réponse, l’agence a réduit les contraintes administratives en simplifiant la prise de rendez-vous et en remplaçant les chèques papier par des cartes de paiement électroniques qu’elles réclamaient. L’agence a également lutté contre la stigmatisation en modifiant la communication du programme. A nouveau, insiste Green, l’enjeu n’est pas toujours de faire de grandes réformes. Mais souvent seulement d’aider les organismes à renforcer leurs capacités techniques, que ce soit en nettoyant leurs données, à former le personnel pour élaborer des indicateurs pertinents ou à faciliter le partage de données entre les différents services.
Un autre moyen consiste à cartographier le pouvoir, les réseaux d’acteurs en relation ou en conflit, comme « d’identifier des adversaires qu’il convient de soumettre à des pressions, des alliés potentiels qu’il faut convaincre ou des groupes non organisés qu’il s’agit d’unifier ». C’est le cas par exemple du collectif militant Anti-Eviction Mapping Project (AEMP) qui publie des cartes d’expulsion notamment à San Francisco. Avec l’Eviction Defense Collaborative, les deux associations ont produit une carte pour mettre en évidence les arrêts de navettes des entreprises technologiques de San Francisco avec celle des expulsions du centre-ville qui a conduit la ville à réglementer le passage de ces bus.
Le but, ici, est bien souvent d’analyser les données pour orienter la stratégie de mobilisation. Dans le Connecticut, des locataires de logements abordables étaient exposés à des niveaux de présence de plomb toxiques. Ils ont formé un syndicat de locataires pour se mobiliser contre le problème. Les scientifiques de l’organisation Science for the People sont venu leur apporter leur soutien en croisant les données des inspections des agences chargées de la détection du plomb avec celles du syndicat pour aller démarcher d’autres habitants confrontés au problème et accroître la mobilisation et la pression sur les autorités publiques. Suite à ces actions, une enquête a été ouverte et l’agence de protection de l’environnement est intervenue pour faire nettoyer les immeubles.
Pour élaborer des spécifications de conception, il faut s’intéresser aux variables cibles des systèmes (c’est-à-dire le résultat que l’algorithme prédit), les mesures d’évaluation et l’utilisabilité pratique, qui permettent de traduire le phénomène étudié en une représentation quantitative susceptible d’être mesurée et prédite. Or, celles-ci ne sont pas toujours définies au mieux, rappelle Green. Un algorithme utilisé par le service des impôts américains pour prédire quelles déclarations de revenus sont non conformes (qui devraient donc faire l’objet d’un contrôle fiscal) évalue « la non-conformité comme le dépôt d’une déclaration comportant une erreur, quel que soit le montant en jeu. Sur la base de cette définition, l’algorithme cible de manière disproportionnée les contribuables à faibles revenus et les contribuables noirs pour des contrôles. À l’inverse, si l’algorithme définissait la non-conformité comme un sous-paiement d’impôts d’un montant significatif, il ciblerait plutôt les contribuables à revenus élevés et non noirs pour ces contrôles » (un problème qui n’est pas sans rappeler celui des indus calculé par la CAF en France, soit dit en passant).
Parvenir à identifier correctement le problème prend du temps et des efforts, rappelle Green. A New York, le service municipal d’aide aux locataires qui vise à les aider dans leur relations avec leur propriétaires par exemple pour obtenir des réparations d’urgence, a cherché à identifier les locataires qui avaient besoin d’aide. Ils ont mis au point un système pour prédire les locataires harcelés par leurs propriétaires pour mieux cibler leurs interventions. Dans un premier temps, ils ont défini leur algorithme pour prédire les immeubles allant connaître au moins un cas de harcèlement au cours du mois suivant, mais le système sélectionnait des immeubles comportant beaucoup d’appartements, mais avec un faible taux de harcèlement de leurs propriétaires. Les scientifiques ont reformulé le problème pour prédire quels immeubles présentaient la plus forte proportion de locataires harcelés. Le modèle a alors identifié des immeubles plus petits avec des taux élevés et mieux répartis dans la ville. Le second modèle a permis de doubler le taux d’identification de locataires en difficulté avec leurs propriétaires, se révélant ainsi plus efficace pour soutenir la mission de l’agence, à savoir protéger les locataires vulnérables.
Pour Green, il y a beaucoup de variables à prendre en considération pour accomplir des analyses adaptées aux situations. Bien souvent, les associations ou les services publics ont peu de moyens pour intervenir. Cela signifie qu’il faut être capable d’intégrer les contraintes opérationnelles de l’organisme dans les indicateurs d’évaluation. « Les approches d’évaluation standard, qui prennent en compte la performance d’un algorithme sur l’ensemble de la population, ne reflètent pas la qualité de l’algorithme pour le rôle auquel il est destiné. Si un organisme ne peut intervenir qu’auprès d’une petite partie de la population, l’essentiel est d’identifier avec précision le groupe qui bénéficierait le plus d’une intervention. » Et dans de nombreux cas, « l’algorithme le plus performant pour l’ensemble de la population sera différent de celui qui performe le mieux pour le sous-ensemble étudié ».
Enfin, il faut s’assurer que l’algorithme sera utilisable en pratique et qu’il sera dimensionné et adapté aux processus existants. Par exemple, en travaillant avec les services sociaux de l’Illinois pour réduire le risque d’accouchement prématuré, les data scientists ont tenté de prédire les femmes avec le plus grand risque de complication via une application en ligne. Mais ils se sont rendu compte que cette application n’était pas fonctionnelle en pratique, car les services ne disposaient pas des capacités techniques pour en assurer la maintenance. Ils ont alors produit un score de risque depuis un simple formulaire papier facile à remplir. Moins précis que l’évaluation numérique, l’outil s’est avéré plus efficace car les services ont pu l’intégrer dans leurs opérations quotidiennes et a permis d’améliorer de 20% les soins prénataux aux femmes à hauts risques.
Pour Green, « plus vous aurez défini le périmètre de votre projet de manière pertinente pour le contexte d’utilisation spécifique, plus il sera facile de mettre en œuvre l’algorithme avec succès ». Et c’est seulement après ces étapes importantes de spécifications, que le data scientist peut faire son travail, de sélection, de nettoyage et d’analyse de données.
Là encore, le travail préliminaire consiste à bien comprendre les données, leurs ambiguïtés, leurs biais et leurs limites. Il faut comprendre comment elles sont collectées, leurs manques… Ce qui n’est possible qu’en comprenant leur collecte, leur but, et en discutant avec ceux qui les collectent. Pour Green, « une cause fréquente d’échec des logiciels publics réside dans les méthodes de développement dites « en cascade » : les pouvoirs publics définissent leurs besoins, les techniciens conçoivent et réalisent le système de manière isolée, pour ne le présenter qu’une fois le produit final achevé. L’approche en cascade suppose qu’il est possible de définir tous les détails d’un outil avant d’en entamer la réalisation », comme le montrent Tara Dawson McGuiness et Hana Schank dans leur livre, Power to the Public: The Promise of Public Interest Technology (Princeton university Press, 2021). « Cette approche mène souvent à l’échec car elle ne prévoit aucune possibilité de retour d’information intermédiaire au cours du processus de développement. Si vous tentez de concevoir un système de manière isolée, vous risquez de négliger les préférences et les pratiques de l’organisme concerné, faute de les avoir abordées en amont. De plus, ces préférences et pratiques sont susceptibles d’évoluer avec le temps. Plutôt que d’adopter une méthode en cascade (waterfall), privilégiez les pratiques de développement « agile » : créez des prototypes de manière itérative, discutez-en ou testez-les avec les utilisateurs finaux, puis ajustez votre travail en fonction des retours obtenus. »
Une fois les données analysées ou modélisées, vous pouvez en tirer des enseignements. Si vous avez élaboré un modèle, c’est à cette étape que vous l’utiliserez pour effectuer des prédictions ou des classifications sur de nouvelles données. Si vous préparez une présentation ou un rapport, c’est le moment de synthétiser les résultats dans un document destiné à être partagé. Ne vous limitez pas aux aspects techniques de vos livrables ; réfléchissez également à la manière de communiquer votre travail. Il est essentiel que votre public puisse interpréter correctement la signification de vos résultats (et, point tout aussi important, ce qu’ils ne signifient pas).
L’implémentation elle aussi doit être pédagogique recommande Green. Elle doit se faire en observant les impacts liés à l’utilisation. « Les projets de science des données sont loin d’être terminés une fois qu’un algorithme a été développé. » Pour cela, il faut non seulement surveiller ce que produit l’algorithme mais plus encore comment il s’insère et influe sur la prise de décisions, dans les processus et observer ses impacts sur les publics touchés. C’est à ce moment-là qu’on déploie des outils pour évaluer leurs effets, que ce soit via des méthodes de projection prospective, des exercices de design fiction, ou des études d’utilisation.
C’est seulement toutes ces étapes franchies qu’on peut décider ou non d’implémenter le système, estime Green en délibérant avec les parties prenantes, en ayant observé si le système produit bien des effets et à quel niveau. C’est seulement une fois que l’implémentation est réalisée avec attention pour qu’elle s’intègre aux processus, que l’évaluation peut vraiment avoir lieu. En regardant s’il atteint bien ses objectifs et s’il engendre des effets secondaires négatifs. Là encore, le manuel de Green fourmille d’exemples pour procéder à ces évaluations, que ce soit par des essais contrôlés randomisés, des comparaisons avant-après, par des études d’interaction humaines avec le système, des enquêtes sur les groupes affectés par les décisions…
Bien souvent, les évaluations formalistes des systèmes peinent à évaluer leurs impacts concrets. A San Francisco, les personnes sans abri font l’objet d’une évaluation de leur vulnérabilité par un algorithme. Ces scores orientent les décisions des organismes de logement quant aux personnes à prioriser pour l’attribution d’un logement. Or pour candidater, il leur faut répondre à un questionnaire assez traumatisant, ce qui les conduit à taire leurs récits voire à renoncer et donc à réduire leur score. L’algorithme ne parvient donc pas à accomplir pleinement ce qu’il est censé faire.
Relever le défi des inégalités : des mesures d’équité… aux interventions structurelles
Résoudre les inégalités n’est pas si simple, rappelle Green. En 2016, les journalistes d’investigation de ProPublica ont montré que l’algorithme de Compas d’évaluation des risques de récidive était biaisé à l’encontre des Noirs. ProPublica a constaté que le taux de faux positifs de COMPAS – le taux de classification erronée d’un prévenu qui ne récidivera pas comme présentant un risque élevé – était deux fois plus élevé pour les prévenus noirs que pour les prévenus blancs. L’algorithme a classé 45 % des prévenus noirs non récidivistes comme présentant un risque élevé. En revanche, il n’a classé que 23 % des prévenus blancs non récidivistes comme présentant un risque élevé. L’algorithme a donc classé de manière disproportionnée les prévenus noirs comme susceptibles de récidiver.
Ces résultats ont suscité une grande consternation, de nombreux commentateurs exprimant leur indignation face à des algorithmes racistes dans des décisions aussi importantes. Mais Northpointe, l’entreprise qui a développé Compas, a réfuté les accusation de discrimination en s’appuyant sur une autre comparaison : parmi les prévenus considérés comme à haut risque, les prévenus noirs et blancs récidivaient à des taux similaires (environ 60 % du temps). Ce qui signifiait que l’algorithme traitait les prévenus noirs et blancs de la même manière quant à leur probabilité de récidive. Pour Northpointe, cette analyse démontrait que COMPAS est impartial.
Des chercheurs en science des données se sont penchés sur ce débat, supposant qu’il serait possible de trancher la question en ajustant COMPAS pour satisfaire aux notions d’équité présentées par ProPublica et Northpointe. Ils ont cependant rapidement découvert que cela était impossible. Les algorithmes prédictifs discriminent inévitablement une forme ou une autre, et généralement en pénalisant les groupes marginalisés. Dans le cas de COMPAS, la disparité raciale des taux de faux positifs s’explique parce que les accusés noirs récidivent plus fréquemment que les accusés blancs, mais certainement d’abord parce qu’ils sont plus nombreux à être incarcérés et moins pris en charge. L’algorithme détecte cette différence et considère donc les accusés noirs comme plus à risque que les accusés blancs. Des enquêtes ont démontré des biais raciaux, ethniques, sexistes et de classe dans de nombreux autres algorithmes du secteur public.
« Cette caractéristique des algorithmes soulève un problème important pour les data scientists qui tentent de promouvoir la justice sociale. Les groupes marginalisés obtiennent de moins bons résultats dans de nombreux domaines, notamment la criminalité, l’éducation, la réussite professionnelle et la santé. Ce sont ces inégalités qui motivent de nombreux data scientists à œuvrer pour la justice. Mais comme les algorithmes sont entraînés sur des données qui reflètent ces schémas d’inégalité, ils génèrent des prédictions et des classifications qui reproduisent les disparités sociales. »
Les spécialistes des données ont tenté de relever ce défi en développant le domaine de « l’équité algorithmique ». Comme son nom l’indique, l’équité algorithmique vise à empêcher les algorithmes d’exprimer des biais ou d’exacerber les inégalités. Ce domaine de recherche a réalisé des progrès importants dans le développement de méthodes permettant de réduire certains biais et a incité les spécialistes des données à reconnaître que les algorithmes ne sont pas objectifs.
Malgré ces avancées, l’équité algorithmique reste fondamentalement limitée en tant que méthodologie de promotion de la justice sociale. Le défaut fatal de ce domaine est qu’il considère l’équité comme un attribut technique interne aux algorithmes, explique Green.
L’équité algorithmique représente un exemple typique d’incorporation formaliste : les data scientists ont abordé les questions morales d’équité à travers les méthodes et les orientations du formalisme algorithmique. Cette approche de l’équité a conduit à des algorithmes qui paraissent équitables mais qui, en réalité, perpétuent les inégalités. « Ces limites de l’équité algorithmique signifient que les data scientists manquent d’une voie claire pour lutter contre la discrimination et les inégalités. Les réformes qui promeuvent l’équité sont les plus nécessaires dans les domaines où les disparités sociales sont criantes et généralisées. Mais les data scientists ne disposent pas de méthodes pour concevoir des algorithmes qui réduisent ces disparités plutôt que de les reproduire. Il n’est donc pas évident de savoir comment les data scientists peuvent contribuer à la justice sociale dans ces domaines. »
Pour Green, le réalisme algorithmique offre une voie productive pour pratiquer la science des données dans des domaines marqués par les inégalités car elle « reconsidère l’équité comme une propriété instrumentale – et non intrinsèque – des algorithmes ». « Dans cette optique, pour déterminer si un algorithme est équitable, ce qui compte, ce ne sont pas ses caractéristiques techniques, mais les effets qu’il produit au sein de la société. Par conséquent, les data scientists devraient cesser de poser la question formaliste dominante dans le domaine : « Comment créer des algorithmes qui satisfont à des critères statistiques d’équité ? » Cette question focalise l’attention sur le fonctionnement interne des algorithmes, en se concentrant étroitement sur des processus de décision isolés. Au lieu de cela, les data scientists devraient se demander : « Comment pouvons-nous contribuer à réduire les inégalités sociales et matérielles dans la société ? »Cette question incite les data scientists à privilégier les impacts réels des algorithmes. »
Certes, cette question ne permet pas de réponses simples. Toutefois, la démarche du réalisme algorithmique structure un processus grâce auquel les data scientists peuvent élaborer des projets favorisant l’équité. Le réalisme algorithmique invite les data scientists à élargir leur perspective au-delà des processus de décision ponctuels pour prendre en compte les environnements sociaux qui entourent ces moments de décision. Cette approche souligne que les data scientists ne sont pas limités à la simple optimisation des modalités de prise de décision : ils peuvent également modifier les structures sociales qui encadrent ces processus. «Ils devraient notamment s’efforcer de (1) réduire les disparités sociales qui alimentent les processus de décision et (2) atténuer les conséquences néfastes découlant de ces décisions. En privilégiant des interventions structurelles plutôt que des mesures d’équité, les data scientists peuvent mener des projets techniques qui contournent les contraintes liées à l’équité algorithmique tout en promouvant la justice sociale.»
Green montre que l’approche formaliste de l’équité, malgré le développement d’innombrables mesures d’équité sous forme mathématique, peine à produire des effets.
« Les mesures d’équité les plus répandues reposent sur des comparaisonsentre des groupes qui valorisentsoit la suffisance» (la condition de suffisance est remplie si, parmi les personnes faisant l’objet d’une prédiction donnée, tous les groupes présentent le résultat prédit dans les mêmes proportions. Cette définition de l’équité reflète l’idée que les personnes ayant une probabilité équivalente de manifester le comportement étudié doivent être traitées de manière similaire. Les modèles d’apprentissage automatique respectent généralement ce principe par défaut. Northpointe a soutenu que COMPAS était équitable car il satisfaisait au critère de suffisance) «soit la séparation» (la condition de séparation est remplie si tous les groupes soumis aux prédictions d’un algorithme présentent le même taux de faux positifs et le même taux de faux négatifs. Cette définition de l’équité reflète l’idée que les personnes présentant le même résultat doivent être traitées de manière similaire. ProPublica a soutenu que COMPAS était racialement biaisé car il ne respectait pas le critère de séparation).
Le problème est que ces deux manières de définir l’équité sont irréconciliables. Et que l’équité se résume alors à une boîte à outil, où l’équité répond ou pas aux mesures mathématiques retenues. L’équité ne se mesure que sous l’angle des données d’entrée et de sortie de processus décisionnels ponctuels et bien souvent privilégie la suffisance à la séparation, notamment parce qu’on a tendance à bien plus valoriser l’égalité formelle, c’est-à-dire celle qui juge selon une norme uniforme, qui est très perméable aux inégalités existantes. Ainsi, si Northpointe a raison d’affirmer que les prévenus noirs récidivent plus souvent, c’est oublier que cette explication occulte les raisons de cette disparité. Cette disparité ne résulte pas d’un phénomène inexplicable ou sans importance. Au contraire, des siècles d’oppression raciale ont criminalisé le fait d’être Noir et ont placé les communautés noires dans des conditions criminogènes telles que la pauvreté endémique, le sous-financement des écoles et la rareté des opportunités d’emploi, rappelle le chercheur.
Pour Green, c’est en cela que l’équité algorithmique est dans une impasse. Les critiques, partisans de la justice algorithmique, suggèrent de privilégier la séparation à la suffisance comme définition de l’équité, pour privilégier l’égalité de résultats entre les groupes. Dans le cas de Compas, cela signifierait produire les mêmes niveaux de faux positifs pour les prévenus noirs et blancs. Mais pour changer d’approche, il faudrait faire évoluer non seulement la prise en compte mathématique, mais également la contrainte juridique. Privilégier la séparation nécessiterait de préconiser des décisions différentes pour les prévenus noirs et blancs présentant le même risque de récidive, ce qui serait illégal en vertu des lois anti-discrimination. Nous sommes là dans le même défi juridique quel’on notait dans le livre de Nathan Genicot. Une impasse éthique que nos sociétés n’ont pas tranchée.
Pour dépasser cette impasse, Green suggère de passer à une approche instrumentale de l’équité. « Si nous ne pouvons pas choisir d’autres métriques d’équité, que pouvons-nous faire pour obtenir des algorithmes plus équitables ? »
« Pour élaborer une stratégie visant à mettre les algorithmes au service de la lutte contre l’injustice, nous avons besoin de l’éclairage d’une théorie morale qui dépasse le cadre de l’égalité formelle. » Cette théorie doit présenter deux caractéristiques fondamentales. Premièrement, elle doit se concentrer sur les réalités concrètes des inégalités plutôt que sur le simple respect de règles formelles et de normes uniformes. Deuxièmement, elle doit élargir le champ de l’analyse au-delà des points de décision individuels.
Pour cela, la solution que propose Green repose sur l’égalité relationnelle, qui constitue une approche substantielle de l’égalité, car elle privilégie les résultats aux procédures. Elle valorise notamment l’égalité dans les relations entre les individus. Les tenants de l’égalitarisme relationnel estiment que « les individus doivent interagir en tant qu’égaux ou jouir du même statut fondamental », contrairement aux relations hiérarchiques. Les égalitaristes relationnels suggèrent une stratégie différente pour promouvoir l’égalité : modifier les structures sociales qui encadrent les points de décision, c’est-à-dire s’intéresser bien plus aux environnements de décision. « Ce qui compte, ce n’est pas de savoir si un algorithme est conforme aux définitions de l’équité, mais s’il réduit les inégalités sociales et matérielles dans la société ».
Pour y parvenir, Green reprend tout le processus qu’il a proposé (les 5 étapes de sa méthode) pour le réinterroger à l’aune de l’équité.
Lors de la délimitation du problème, il faut se poser plus avant la question des groupes les plus vulnérables ou les plus défavorisés. Les disparités d’attributs entre les groupes doivent être considérés comme le résultat d’une injustice. Et toujours estimer que les membres du groupe favorisé ont une influence dans la définition des critères de décision. Les attributs d’une personne, comme le mérite, le besoin, la dangerosité, reflètent souvent les intérêts des groupes sociaux dominants. « Plus un groupe dominant a le pouvoir de définir les critères, plus les conditions sont défavorables aux groupes marginalisés. » Il invite par exemple à observer si « les personnes présentant des caractéristiques défavorables font l’objet, de manière disproportionnée, de décisions défavorables » ou si les « les personnes qui reçoivent une décision défavorable subissent des conséquences graves » ou combien de personnes subissent des décisions défavorables. Ces questions permettent d’adapter les réponses stratégiques. Par exemple en fournissant des ressources ou des soutiens aux groupes défavorisés pour amoindrir les effets des calculs en modifiant les critères d’évaluation des décisions. Par exemple, en tentant de modifier les décisions défavorables afin qu’elles privilégient l’aide à la sanction. Ou encore en atténuant les préjudices découlant d’une décision défavorable, ou encore en tentant de réduire le nombre de personnes faisant l’objet de décisions défavorables, en tentant par exemple d’agir sur les ressources disponibles pour permettre davantage de décisions favorables. Ainsi, pour réduire le risque de récidive chez les groupes marginalisés, la première stratégie de réforme en amont consiste à fournir des ressources ou d’autres formes de soutien aux groupes défavorisés.
Green donne un exemple, en observant comment d’autres décisions permettent de réduire le risque de récidive, par exemple en accompagnant les programmes qui visent à rompre les cycles de la criminalité et de la violence. À Chicago, un programme d’intervention communautaire contre la violence vise à offrir un soutien thérapeutique et social aux personnes à risque d’avoir un comportement violent. Les évaluations ont montré que ces programmes avaient un réel impact en réduisant de plus de 70% le risque d’arrestation pour crime violent chez les participants. Les spécialistes des données peuvent aider par exemple à améliorer le taux de rétention des participants, alors que moins de la moitié des participants vont jusqu’au bout du programme (et compte tenu des ressources limitées des programmes, il est impératif qu’ils réduisent leurs taux d’abandon). En comprenant les raisons de l’abandon ou en élaborant un modèle pour identifier les participants qui risquent d’abandonner, il y a des possibilités pour venir en soutien de ces programmes. Ou encore en concevant un modèle identifiant les meilleures stratégies de rétention.
Un exemple dans l’actualité plus récente explicite plus avant ce succès. La ville de Baltimore a réduit son taux d’homicides de 60 % entre 2021 et 2025 rapportent Public Health et le Emerald book, en copiant le programme de Chicago. Ce succès s’explique par le fait que la ville ait abordé la violence par arme à feu comme un enjeu de santé publique et ait agit sur le problème non pas par la répression, mais en promouvant un programme pour les personnes les plus à mêmes de tomber dans la violence donnant accès à un logement stable, à des emplois, à des transports publics, comme le préconisent les travaux du Centre pour les solutions contre la violence par arme à feu et du Crime and Justice Lab. Une approche axée sur la santé publique implique d’analyser les données, de se concentrer sur les personnes les plus exposées aux risques pour les repérer et leur proposer un programme adapté d’aides pour s’extraire de la spirale où ils risquent de tomber parce qu’ils ont eux-mêmes été victimes de violences et d’évaluer en permanence ce qui fonctionne et ce qui ne fonctionne pas. En s’appuyant sur des réseaux communautaires locaux, comme la Peace Team, YAP, Roca, Safe streets ou Cure violence, Baltimore a réussi à ce que 91,5% des participants à son programme ne soient plus ni victimes ni auteurs de nouvelles fusillades. Plutôt que de déployer des effectifs de police, la ville a misé sur des médiateurs et un programme d’aides dédiés pour que la réponse à la violence par la violence ne soit plus la seule option. « Le succès de Baltimore a définitivement balayé le mythe selon lequel la réduction de la criminalité nécessiterait nécessairement une augmentation des effectifs policiers.»
Une autre option consiste à attirer davantage l’attention sur les méfaits de la mise en détention auprès des juges, comme l’ont montré les propositions alternatives à Compas, comme des systèmes qui proposent pour chaque individu la meilleure solution pour qu’ils ne récidivent pas en leur proposant les aides les mieux adaptées à leur situation (comme le programme de remise en liberté sous surveillance de la ville de New York qui a permis d’éviter la détention provisoire de 150 000 personnes) ou encore, comme le propose Esas, en proposant aux juges, plutôt qu’un score de risque, d’accéder aux peines similaires prononcées dans des affaires antérieures selon des antécédents de condamnations proches, leur permettant de comparer leur sentence et de relativiser leurs jugements (voir notre article).
Il est également possible d’utiliser d’autres solutions encore, comme des modèles statistiques afin d’identifier et de contester publiquement les décisions des juges en matière d’incarcération. À titre d’exemple, des spécialistes des données ont élaboré des modèles évaluant la fréquence à laquelle les juges de New York ont ordonné le placement en détention provisoire entre 2020 et 2022, au regard de leur volume de dossiers. Ils ont ensuite publié un rapport désignant les quatorze juges les plus sévères de la ville. Selon leurs estimations, par rapport à des juges ordinaires, ces quatorze magistrats ont collectivement placé 580 personnes supplémentaires en détention, entraînant 154 années de détention provisoire additionnelles et un coût de 77 millions de dollars pour les finances publiques.
Green ne promet pas le grand soir de la lutte contre les inégalités. Mais estime que le terrain des interventions concrètes offre de nombreuses possibilités d’action. Pour lui, la data science permet de porter bien d’autres regards sur l’équité algorithmique. Bien sûr, reconnait-il avec humilité, « aucune de ces interventions, prise isolément, ne suffirait à éliminer les inégalités sociales ou les préjudices liés à la détention provisoire. Toutefois, toutes contribuent — par des évolutions progressives mais significatives — à orienter les structures sociales et institutionnelles vers une plus grande égalité relationnelle.» Pour autant que, politiquement, il reste des possibilités d’action, des programmes alternatifs et des financements pour ces programmes…
Améliorer la prise de décision : passer de l’humain dans la boucle à l’algorithme dans la boucle
« Au cours des années 2010, des villes américaines comme Philadelphie ou San Francisco ont proposé des guichets pour aider les organismes de services sociaux à fournir une aide plus équitable et plus efficace aux personnes sans-abri. L’objectif de l’accès coordonné est d’accorder la priorité en matière de logement aux personnes qui en ont le plus besoin.
Les algorithmes facilitent ce processus en quantifiant la vulnérabilité de chaque personne sollicitant une aide au logement. » Problème : les travailleurs sociaux n’ont pas intégré ces évaluations. Pire, ces algorithmes ont eu l’effet inverse : ils ont exacerbé la vulnérabilité des groupes les plus marginalisés (tels que les immigrés, les personnes transgenres et les personnes noires) et ont donné aux personnes sans-abri le sentiment d’être déshumanisées par le processus d’évaluation, comme le racontait le San Francisco Public Press en 2022.
« L’une des principales raisons de l’échec de cette initiative est que les travailleurs sociaux se sont trop reposés sur les algorithmes. Au lieu de considérer l’évaluation comme un outil permettant de contextualiser la situation de chaque individu, ils en ont fait le critère déterminant pour l’attribution d’un logement. Les agents chargés des dossiers ont fait valoir qu’ils n’avaient pas le « temps » de procéder à un examen plus personnalisé et que le questionnaire était plus simple à utiliser.
Cette dépendance excessive à l’égard des algorithmes de sélection a transformé un travail autrefois fondé sur l’accompagnement humain en une simple application rigide d’une formule. Auparavant, les travailleurs sociaux nouaient des relations avec les personnes sans abri afin de mieux cerner leurs besoins et de déterminer les formes d’aide les plus adaptées. Après l’introduction d’algorithmes d’accès coordonné au logement, les personnes en quête d’un toit n’ont plus bénéficié d’un accompagnement aussi personnalisé et respectueux. Elles étaient au contraire réduites à un simple numéro et, dans la plupart des cas, renvoyées à la rue.»
Cette histoire rappelle qu’il est très difficile de parvenir à une collaboration efficace entre humains et algorithmes. « On s’attend à ce que la combinaison de l’humain et des algorithmes permette de tirer le meilleur parti des deux mondes : la précision et la cohérence des algorithmes d’une part, l’expertise et le discernement des humains d’autre part. En pratique, toutefois, cette fusion idéale ne se concrétise que rarement.»
L’un des problèmes majeurs réside dans l’incapacité des humains à évaluer correctement la qualité des conseils fournis par les algorithmes ; même les experts peinent à distinguer les bonnes recommandations des mauvaises. Souvent, les décideurs humains accordent une confiance excessive à l’algorithme, ce qui les conduit à suivre des recommandations erronées ou biaisées. Ainsi, lorsque la police de Londres a testé un système de reconnaissance faciale en temps réel, les agents ont « largement surestimé la fiabilité du système », rapportait une analyse de l’AI Now institute. Alors que l’algorithme ne fournissait une réponse correcte que dans 19 % des cas, les agents ont approuvé 62 % de ses recommandations.
Pour relever le défi de la collaboration, les data scientists ont complété les recommandations d’explications permettant de décrire les raisons pour lesquelles l’algorithme aboutit à sa conclusion. C’est le champ de ce qu’on appelle l’IA explicable (XAI). Malgré l’engouement, force est de constater que ces explications n’améliorent généralement pas la collaboration entre humains et algorithmes. Dans de nombreux cas, les explications conduisent même à de moins bons résultats. Ce problème découle à nouveau de la prédominance du formalisme algorithmique. Si le domaine a défini ce qui caractérise une bonne explication en terme mathématique et a mis au point des outils d’explicabilité, les complexités sociales inhérentes aux collaborations entre humains et algorithmes ont du mal à être saisies par le biais d’abstractions et de métriques. A nouveau, pour Green, il est nécessaire de dépasser le formalisme pour dépasser cette limite. « Ce qui caractérise un algorithme utile, ce n’est pas sa précision maximale ni ses explications techniquement optimales. Ce qui caractérise un algorithme utile, c’est sa capacité à aider les utilisateurs à prendre de meilleures décisions.» Cela semble tautologique, mais observer si cet objectif est atteint ne s’observe pas sur la base de purs formalismes.
Dans l’approche formaliste, les spécialistes de data science insistent sur l’importance de maintenir un humain dans la boucle de décision. C’est au final toujours lui qui doit pouvoir décider, valider la recommandation du calcul. C’est un moyen censé prémunir des erreurs et des biais. De même, pour dépasser l’opacité intrinsèque aux calculs complexes, les data scientists privilégient des explications elles-mêmes automatisées. L’explicabilité est devenu le principe central et moteur de l’équité. Pourtant, cette explicabilité peine à produire des résultats et reste bien souvent très pauvre, incomplète… (absolument pas « projective », comme je le proposais moi-même). « Aider les utilisateurs à comprendre le fonctionnement d’un algorithme est très différent de les aider à utiliser ses conseils pour améliorer leurs décisions. Les convictions des data scientists quant à la qualité des explications ne correspondent donc pas à la pratique. »En fait, les explications ont pour effet involontaire d’accroître la confiance des utilisateurs envers les algorithmes, indépendamment de la qualité de ces derniers… et les incite à accepter plus facilement des conseils algorithmiques erronés.
Pour Green, à nouveau, il faut passer d’une approche formaliste en la matière à une approche réaliste. C’est-à-dire s’adapter à la manière dont les gens interprètent et utilisent les résultats des systèmes pour prendre des décisions, et pas seulement en faire des outils de décisions pour les gens.Ils doivent venir aider les gens à améliorer leurs décisions plutôt que de les prendre à leur place.Pour cela, ce n’est pas l’humain qu’il faut placer dans la boucle comme le proposent les conseils éthiques, mais l’algorithme, défend Green. En plaçant l’humain dans la boucle, on l’a vu avec la chaîne d’élimination automatisée des systèmes d’IA pour faire la guerre, trop souvent, on ne propose qu’une validation humaine de décisions algorithmiques trop complexes, une pantomime de contrôle. « À l’inverse, l’approche par un algorithme intégré au processus humain reconnaît que les algorithmes sont introduits au sein de processus décisionnels humains préexistants. Ici, ce sont les personnes qui prennent les décisions. Les algorithmes viennent compléter l’analyse de la personne en lui fournissant des éléments pour l’aider à évaluer la situation. Ce qui importe en fin de compte, c’est ce processus de décision humain, et non la capacité de l’algorithme à prendre seul de bonnes décisions ou celle de l’humain à superviser l’algorithme. Un système à algorithme intégré au processus humain, un « algorithme dans la boucle » est tout outil automatisé qui fournit des conseils aux personnes dans le but d’améliorer la prise de décision.»
Confrontés à des décisions à prendre, les humains doivent concilier des objectifs contradictoires. Lorsque les inspecteurs sanitaires choisissent les restaurants à contrôler par exemple, ils doivent concilier la priorité donnée aux établissements présentant les risques les plus élevés et la nécessité de répartir équitablement les inspections entre les différents quartiers. La manière dont ces acteurs pondèrent ces considérations concurrentes influence considérablement leurs décisions.
« L’existence de ces arbitrages implique que les décideurs disposent d’une marge d’appréciation pour déterminer l’issue la plus appropriée dans chaque cas. Bien qu’elle puisse susciter des inquiétudes quant aux risques de partialité ou d’incohérence, cette marge d’appréciation est un élément essentiel d’une prise de décision de qualité. Au quotidien, les bureaucrates de terrain sont confrontés à des situations ambiguës, incertaines et imprévisibles. Supprimer cette marge d’appréciation reviendrait à imposer une logique rigide et formelle à ces situations, empêchant ainsi les agents d’adapter leurs décisions à des cas complexes ou inédits.
Par ailleurs, imposer aux décideurs le respect de règles prescriptives violerait le principe normatif selon lequel les décisions doivent tenir compte de la situation et des besoins des individus. La marge d’appréciation est donc souhaitable, tant sur le plan pratique que normatif : elle permet aux décideurs de trouver un juste équilibre entre des valeurs et des objectifs contradictoires, en fonction des circonstances particulières.
Pour exercer leur pouvoir discrétionnaire de manière réfléchie et bénéfique pour la société, les décideurs doivent faire preuve d’un sens de la responsabilité morale quant à leurs choix. Craignant que cette marge d’appréciation ne favorise de mauvaises décisions ou des abus de pouvoir, les autorités imposent souvent des contraintes strictes aux actions des bureaucrates de terrain. Ces stratégies de contrôle et de conformité permettent généralement de prévenir les dérives les plus graves liées à l’exercice de ce pouvoir. Toutefois, leur efficacité est limitée – un contrôle précis s’avère très difficile dans ces contextes – et il a pour effet de démotiver les agents. Une stratégie bien plus efficace pour améliorer la prise de décision des agents publics consiste à responsabiliser les travailleurs et à leur accorder l’autonomie nécessaire pour exercer leur jugement de manière optimale », comme l’ont souligné bien des chercheurs tels que Michael Lipsky, Street-Level Bureaucracy: Dilemmas of the Individual in Public Services (Russell Sage Foundation, 1980), Bernardo Zacka, When the State Meets the Street: Public Service and Moral Agency (Harvard University Press, 2017) ou Dan Honig, Mission Driven Bureaucrats: Empowering People to Help Government Do Better (Oxford University Press, 2024). Le but d’un algorithme ne peut se réduire à améliorer sa précision (pour autant qu’il le permette réellement, comme le soulignaient les chercheurs Arvind Narayanan et Sayash Kapoor dans leur livre, AI Snake Oil (Princeton University Press, 2024) et en pointant le fait que nombre de calculs n’améliorent que très marginalement leur résultats), mais doit prendre en compte nombre d’autres enjeux. Par exemple, un algorithme ne devrait pas chercher à « améliorer la précision des prédictions concernant la vulnérabilité des personnes sans-abri. »« À l’inverse, un projet intégrant des algorithmes dans la boucle décisionnelle déplacerait l’attention des prédictions vers les résultats concrets : « réduire le nombre de personnes vivant sans abri ou logement stable. » Par ailleurs, il conviendrait de prendre en compte les répercussions sur les travailleurs sociaux et sur les personnes sollicitant une aide au logement. Des objectifs connexes pourraient inclure : « améliorer le moral et le sentiment d’accomplissement des travailleurs sociaux » et « augmenter la proportion de personnes sans-abri estimant être traitées avec respect par l’organisme. » La nature multidimensionnelle de ces objectifs implique qu’il n’existera pas d’indicateur unique permettant de déterminer si le projet est une réussite.» D’une certaine manière, pourrait-on dire à la suite de Green, un système qui ne vise qu’à réduire le réel à une seule question sans ambiguïté, part d’une bien mauvaise analyse du réel et fournira par avance une mauvaise réponse.
Pour améliorer la décision, estime Green, il n’est pas toujours nécessaire d’amener des informations nouvelles à ceux chargés de décisions, mais de comprendre ce qu’ils priorisent déjà. Les travailleurs sociaux chargés de la protection de l’enfance dans le comté d’Allegheny, en Pennsylvanie, privilégient la sécurité immédiate des enfants, tandis que l’algorithme dont ils reçoivent les conseils (l’Allegheny Family Screening Tool, qu’avait étudié Virginia Eubanks) prédit la sécurité des enfants sur une période de deux ans. Cette différence explique pourquoi les travailleurs sociaux ont tendance à ignorer les suggestions de l’algorithme. Nombre de professionnels hésitent à suivre les conseils algorithmiques pour des décisions à forts enjeux, estimant que ces modèles négligent la dimension humaine et la situation particulière des individus. Enfin, pour être exploitables, les enseignements tirés d’un algorithme doivent s’inscrire dans les pratiques quotidiennes et les flux d’information de l’organisation. Dans le domaine médical, par exemple, l’élaboration d’un plan de traitement pour un patient comporte de nombreux aspects allant au-delà de la simple prescription de médicaments. Les médecins doivent prendre des décisions telles que la fréquence des consultations de suivi et l’éventuelle intervention d’autres professionnels de santé (par exemple, des kinésithérapeutes ou des thérapeutes comportementaux). Ainsi, les médecins indiquent qu’ils préféreraient recevoir des recommandations algorithmiques liées à ces étapes organisationnelles, plutôt que de simples indications sur le médicament à prescrire. Ils souhaitent également que ces conseils facilitent les échanges avec les patients et les collègues, car ils élaborent souvent les plans de traitement en collaboration avec ces différents acteurs.
Le développement d’un algorithme destiné à soutenir les conseillers d’une agence municipale de placement au Danemark met en lumière les avantages d’une collaboration étroite avec les décideurs et d’une ouverture d’esprit quant à la nature de la contribution à apporter. Dans ce cas précis, des spécialistes des données collaboraient avec des conseillers chargés d’aider les chômeurs à développer leurs compétences et à trouver un nouvel emploi. Au début du projet, les spécialistes des données prévoyaient de concevoir un algorithme capable de prédire quels demandeurs d’emploi présentaient le risque le plus élevé de chômage de longue durée. Il s’agissait là d’une approche classique en science des données, axée sur la prédiction de résultats individuels. Toutefois, les conseillers ont fait valoir qu’un tel outil entrerait en conflit avec leur éthique professionnelle. Pour eux, il est essentiel de croire en chaque chômeur et de l’aider à obtenir le meilleur résultat possible. Plutôt que des prédictions sur les comportements individuels, les conseillers ont demandé des prédictions concernant les processus organisationnels. Ils ont expliqué que l’un des principaux obstacles rencontrés par les usagers était la lenteur de l’avancement de leur dossier. Par exemple, des délais importants surviennent souvent lorsque l’agence doit rassembler les documents requis. Ces délais peuvent amener les demandeurs d’emploi à perdre confiance en eux et dans le processus d’accompagnement. Les spécialistes des données n’avaient jamais envisagé ce problème : ils supposaient que les dossiers étaient toujours traités rapidement. Or, les conseillers connaissaient bien ces délais longs et imprévisibles, qui constituaient un défi majeur dans leur travail. Pour y remédier, ils ont demandé un algorithme capable de prédire le temps d’attente estimé pour chaque personne. Cette information leur permettrait de préparer les demandeurs d’emploi au délai prévu et de les maintenir engagés dans des programmes tels que des thérapies ou des formations professionnelles durant cette période d’attente.
Cet exemple danois démontre que la contribution de la science des données qui semble la plus évidente n’est pas toujours la plus utile et l’importance à saisir les besoins de terrain.
Tout cela nécessite une immersion totale avec le terrain, explique Green. Il faut comprendre comment les agents interprètent les informations, si certains éléments leur semblent confus… Mais surtout, pour Green, cela suppose de dépasser la seule explication. Par exemple en proposant des exemples similaires pour les inviter à mettre leur décision en perspective ou en les invitant à réfléchir par eux-même à une décision avant de recevoir les recommandations des systèmes. « L’idée sous-jacente est que si les individus réfléchissent de manière autonome à une décision, ils l’analyseront plus en profondeur et seront mieux à même d’évaluer les recommandations de l’algorithme.Plusieurs étudesont montré que les fonctions de « contrainte cognitive » conduisent à des prédictions humaines plus précises que les scénarios où les utilisateurs ont un accès immédiat aux recommandations algorithmiques. »
Une autre manière de faire consiste à guider le raisonnement sans recommander de décisions. Une autre manière encore consiste à proposer un éventail de choix par exemple en les rendant interactifs, permettant aux utilisateurs d’évaluer les conséquences des choix qu’ils ont à faire. « En encourageant une implication active – plutôt que passive – dans les systèmes intégrant l’humain dans la boucle algorithmique, l’interactivité aiderait les professionnels à préserver leur sens de la mission et leur autonomie lors de l’utilisation d’algorithmes, évitant ainsi de réduire leur pouvoir discrétionnaire à une simple formalité administrative.»
L’interactivité permet de conjuguer les capacités prédictives d’un algorithme aux connaissances spécifiques et contextuelles et à la démarche d’investigation du décideur. Ainsi, plutôt que de faire des recommandations de prescriptions pour traiter la dépression par exemple, les médecins devraient pouvoir adapter les systèmes aux situations individuelles.
Dans son manuel, Green soutient que la clé réside dans une interaction profonde des data scientist avec les usagers et ceux qui déploient des outils. Leur intervention ne peut être ponctuelle, plaide-t-il, elle doit s’inscrire profondément dans les pratiques réelles. Il invite également à se défaire du solutionnisme pour produire des systèmes qui élargissent les choix plutôt qu’ils ne réduisent, comme il le disait déjà il y a quelques années. A observer ce que les praticiens en pensent, comment ils réagissent aux systèmes et pas seulement à les déployer voire à les imposer, au risque de leurs échecs. Le développement algorithmique ne peut pas se faire à l’encontre des missions que remplissent les gens. « Les défaillances persistantes des collaborations entre humains et algorithmes sapent la théorie du changement qui sous-tend de nombreux projets de science des données, laquelle vise à obtenir de meilleurs résultats sociaux en améliorant la prise de décision.»
Green termine son livre en prévenant les data scientists de se défier de l’IA générative. L’IA générative accélère et prolonge la logique du formalisme algorithmique. Le risque est de les considérer comme des outils polyvalents, susceptibles d’être appliqués à grande échelle, négligeant toutes les spécificités contextuelles qu’il met en avant dans son manuel.
« Si la science des données continue à suivre le formalisme algorithmique, le domaine produira des outils de plus en plus puissants sur le plan technique, mais souvent inutiles, voire nuisibles sur le plan sociétal. » Face à l’automatisation qui risque de rendre le scientifique des données obsolète, il est nécessaire de réarmer ses capacités. C’est ce que ce manuel propose. « Le réalisme algorithmique offre une piste pour permettre aux data scientists de se distinguer dans un monde où de nombreux aspects techniques de la science des données ont été automatisés.En concevant les algorithmes comme des outils opérationnels plutôt que comme des modèles mathématiques, le réalisme algorithmique redéfinit l’expertise qui caractérise un data scientist efficace.»
Pour l’instant, et cela risque d’être pire à mesure que l’IA se répand partout, « la plupart des data scientists sont formés et employés dans des environnements qui n’encouragent pas – et souvent découragent – le réalisme algorithmique. » De l’enseignement à la recherche, le domaine, pour ne pas disparaître sous les applications produites par l’IA, a besoin de s’ouvrir aux enjeux sociaux et aux applications concrètes, plaide Green. Or, « on continue d’enseigner aux étudiants des sciences de l’information que les dimensions sociales et éthiques des algorithmes sortent du cadre », comme l’expliquait l’ingénieur Jimmy Wu. Pour remédier à cela, il faut reconnecter l’éthique à la pratique. Nous devons sortir des façons dont on enseigne l’éthique dans les écoles d’ingénieurs que ce soit par leur mise en œuvre mathématique et formaliste comme par le biais de dissertations morales déconnectées des enjeux applicatifs. « Il ne s’agit pas d’enseigner l’éthique de manière abstraite aux étudiants en science des données, mais de leur transmettre les orientations et les compétences favorisant une pratique éthique de la discipline ». Il recommande également d’avoir plus de cours cliniques, c’est-à-dire de faire travailler les étudiants sur des projets réels. Et d’aider les étudiants à quitter le monde de la tech où le formalisme règne en maître ou sinon à leur apprendre à promouvoir des produits et des comportements éthiques au sein des entreprises et à faire face aux dilemmes éthiques auxquels ils sont confrontés.
*
Green ne promet pas de révolution algorithmique. Il propose à la data science de se poser des questions que bien peu se posent, de faire un pas de côté. D’arrêter de croire que le calcul est la solution quand, bien souvent, il est le problème qui ne voit pas ses effets.
Hubert Guillaud
La couverture du livre de Ben Green, Algorithmic Realism.
« Le prompt n’est qu’une série de jetons supplémentaires noyés dans la même soupe probabiliste que le reste. Il n’existe aucun canal privilégié, aucun mode noyau ni aucune couche de contrôle s’interposant entre vos règles et le jeton suivant pour garantir l’alignement. On ne peut pas renforcer une distribution de probabilités en y ajoutant simplement du texte. Si la sécurité repose uniquement sur le fait que le modèle a « lu » les règles, vous vous assurez simplement d’une chose : le jour où il supprimera l’environnement de production, vous recevrez un rapport post-mortem très soigné, dans lequel le modèle listera méticuleusement toutes les « règles » qu’il a enfreintes en chemin. »
Il y avait, historiquement, cette habitude des cartes de crédit affinitaires distribuées avec les compagnies aériennes, qui ont dérivé vers une généralisation des avantages associés au paiement dans l'univers du voyage. Il y eut aussi le cas, assez différent, de Revolut. Et maintenant les entités « digitales » de BBVA se lancent dans l'aventure.
En dépit d'une promesse de synergies à long terme, le partenariat entre le groupe espagnol et le spécialiste eDreams ne changera pas la face du monde, au moins dans un premier temps. En effet, à ce stade, il s'agira d'offrir, pour un an, aux nouveaux clients des filiales allemandes et italiennes du premier l'abonnement aux services « premium » du second (sous la marque Opodo), leur octroyant l'accès à diverses promotions exclusives sur des vols, trajets en train, séjours à l'hôtel, locations de voiture…
La proposition de valeur à l'intention de l'audience ciblée n'est guère plus élaborée. Pour le versant bancaire, l'ambition consiste à étendre le périmètre de la relation au-delà des problématiques seulement financières (laissant entrevoir une ouverture future à d'autres domaines) tandis qu'eDreams vise avant tout une exposition de ses produits à une population additionnelle, dans une démarche 100% marketing. Je ne sens pas dans cette description une préoccupation profonde pour les attentes des clients.
La seule dimension périphérique de l'opération susceptible d'avoir du sens pour les détenteurs de comptes BBVA, dans une vision globale du voyage, concerne l'absence de frais sur les dépenses en devises étrangères. Non seulement cette caractéristique – parfois trompeuse quand les taux de change ne sont pas évoqués – tend-elle désormais à s'imposer progressivement comme un standard, elle est ici brandie essentiellement en argument justifiant une surreprésentation de voyageurs attractive pour Opodo.
Je suis toujours mystifié par la persistance des entreprises (en tout genre) à développer des programmes promotionnels basiques… et tout autant par la séduction qu'ils parviennent à exercer auprès des consommateurs (sinon, ils auraient disparu). Toujours est-il que plus la récompense est minime et de courte durée (en l'occurrence, une valeur de moins de 120 euros, sur un an), moins son effet sera durable, ce qui en rend automatiquement l'équilibre économique difficile, voire impossible, à atteindre.
À ce stade de l'analyse, il faut évidemment traiter le cas spécifique de Revolut. Pour le trublion aussi, le voyage est un vecteur de conquête, depuis sa naissance, en fait. En revanche, son approche est aux antipodes de ces méthodes traditionnelles puisqu'elle est entièrement conçue à partir des besoins des globe-trotters, dans l'optique de leur fournir non des gadgets qui peuvent les amuser un moment mais bien de leur offrir une solution complète qui s'adapte à leurs habitudes et à leurs pratiques.
Si les banques rêvent encore d'intégrer le voyage dans leur périmètre d'activité, elles doivent comprendre que leur procurer une expérience personnalisée représente aujourd'hui la seule manière d'en conquérir et d'en fidéliser durablement les adeptes.
Alors que les institutions financières se ruent sur les promesses de l'intelligence artificielle, elle en voient les coûts s'accumuler, parfois jusqu'à paraître hors de contrôle. Face au risque de dérive, la mise en place de règles concrètes d'utilisation devient impérative et Bank of America a créé une couche d'orchestration pour les implémenter.
Dans toutes les entreprises, la vague de fascination pour la nouvelle technologie à la mode a rapidement donné lieu à une dangereuse (mais classique) tendance à vouloir l'appliquer à tous les besoins et autres problèmes rencontrés. Le phénomène a désormais atteint un stade où il n'est plus tenable, ne serait-ce qu'en raison des factures qu'il engendre. Les entreprises les plus mûres commencent donc à définir une gouvernance rigoureuse afin de maîtriser la situation sans rater les opportunités.
Pour Bank of America, le premier principe relève du bon sens : avant de lancer un projet et de foncer sans plus réfléchir vers le recours à l'IA, les équipes doivent s'assurer de la pertinence de l'option envisagée. La démarche débute par une analyse soigneuse de la demande à traiter, qui permettra de trancher. Selon le directeur informatique de l'établissement, une approche traditionnelle – application mobile, logiciel déterministe… – est fréquemment reconnue comme la plus appropriée et sera donc développée.
Ensuite, dans le cas où l'intelligence artificielle est effectivement retenue, le dispositif impose le filtre d'une revue extensive, couvrant 16 piliers de risques (à éviter). Sont par exemple abordés, en amont des études, les enjeux de respect de la vie privée, de biais potentiels, d'impacts sur les collaborateurs, de propriété intellectuelle… Il est hors de question d'entamer la moindre exécution sans avoir au préalable vérifié que la solution proposée respectait les exigences communes dans ces différents domaines.
Enfin, au moment de sélectionner la plate-forme technique adéquate pour l'objectif visé, une couche d'orchestration (baptisée Orchestra) détermine le ou les modèles à privilégier en fonction des tâches à prendre en charge. De ce point de vue, la banque se veut agnostique des fournisseurs et des outils. Elle peut ainsi confier des besognes de classification à des modèles ouverts, implémentés sur ses propres infrastructures, et se tourner vers des solutions externes fermées pour des calculs sophistiqués.
Quand Bank of America dépense 400 millions de dollars pour quelques 140 applications d'IA et prévoit de doubler ce budget l'année prochaine, il ne peut plus être question de se cantonner à un mode expérimental dans lequel chacun serait libre de choisir ses méthodes de travail. Elle ne peut s'éviter l'instauration d'une gouvernance formelle… qui doit s'accompagner également, même si l'article en référence ne le détaille pas, d'une réflexion sur la rentabilité des initiatives et les indicateurs de mesure associés.
Il y a quelques années, quand les exigences de « digitalisation » imposaient leur rythme effréné et les nouveaux entrants menaçaient les empires installés, le festival d'innovation que Bradesco Seguros organise régulièrement aurait paru banal. Aujourd'hui il fait figure d'exception et Qorus le distingue parmi ses prix dans l'assurance.
La dernière édition en date a eu lieu il y a un an, en adoptant un nouveau format, plus approprié pour les objectifs visés. Ainsi, plutôt que de se cantonner à des conférences et autres présentations passives, les participants, collaborateurs et personnes externes, étaient invités à s'immerger dans un certain nombre d'expériences concrètes, destinées à leur faire prendre profondément conscience des capacités des solutions, notamment technologiques, qui transforment les métiers de la compagnie.
Sur une durée de trois jours, organisés dans une progression logique depuis les compétences émergentes jusqu'à la mesure des impacts attendus dans la vie professionnelle et personnelle, en passant par l'écoute des signaux de rupture, l'ambition du dispositif était de faire appréhender à son audience le besoin de s'adapter aux changements qu'ils subissent, parfois avec un sentiment d'impuissance, et les qualités qu'ils doivent cultiver afin de maintenir la valeur de l'humain dans leurs activités.
Dans cette optique, l'événement mélangeait donc des employés de Bradesco Seguros avec, entre autres, des représentants de partenaires (dont des courtiers), de jeunes pousses de l'InsurTech… et proposait à cette population diversifiée un programme aux multiples facettes, composé d'interventions classiques, de séances de « pitch » de startups, d'animations interactives… et de la désignation de l'innovation (interne) de l'année. Le tout est conçu pour stimuler les échanges et promouvoir l'esprit de collaboration, qui représentent justement un des enjeux des mutations en cours.
Après une vague de popularité dans le sillage de la grande révolution numérique, ce genre d'événements dédiés à l'innovation – dont il faut avouer que certaines déclinaisons manquaient de focalisation claire – semble être désormais tombé en désuétude. Et pourtant, la période actuelle, avec ses mutations radicales (l'irruption soudaine de l'intelligence artificielle, partout, n'en est que la manifestation la plus visible) et les incertitudes qu'elles engendrent, mériterait bien de réhabiliter le principe.
Deux raisons au moins militent pour cette remise au goût du jour. D'une part, les firmes ont un devoir d'accompagnement de leurs salariés dans les évolutions qu'elles leur font subir. Elles ne peuvent pas les laisser dans le noir face aux nouveaux outils et aux nouvelles méthodes qu'elles imposent ou elles risquent de laisser s'installer des fantasmes qui mèneront à la démotivation et à la perte de productivité. Un effort de rationalisation, passant par la démystification des technologies, est indispensable.
D'autre part, dans une industrie qui en est toujours à rechercher comment profiter au mieux des dernières inventions à la mode, il est plus que jamais critique d'enrôler tous les employés dans cette exploration. Et là encore, il faut préparer le terrain, avec une dose d'éducation et d'aide à l'appropriation des concepts et des solutions émergentes afin de rendre la démarche d'innovation participative aussi efficace que possible.
L'irruption soudaine de l'intelligence artificielle générative dans les entreprises soulève une multitude de questions dans de nombreux domaines mais, hormis pour les principaux intéressés, celles qui concernent les droits des auteurs de contenus originaux figurent rarement en tête de liste. CommBank commence à rectifier cet oubli.
Bien entendu, le sujet engendre depuis des mois des débats passionnés sur la rémunération que mériterait l'exploitation que font les plates-formes des articles de presse, romans, et autres textes en tous genres (sans parler des images, vidéos, sons…) mais il est généralement cantonné aux géants technologiques et à la manière dont ils entraînent leurs modèles avec cette matière première indispensable à la performance de leurs produits. En quoi la banque serait-elle donc impliquée ?
Après tout, comme les autres firmes utilisatrices, elles adoptent des solutions dont les fournisseurs ont la responsabilité de s'assurer du respect des exigences légales relatives à la propriété intellectuelle et, lorsqu'elles développent leurs propres outils, elles les mettent au point avec leurs propres données… parce qu'elles visent à spécialiser les résultats sur leur expertise et leur culture internes. Il reste pourtant un cas à couvrir, quand les employés reprennent des extraits d'information dans leurs interrogations.
Alors, afin de ne laisser aucune place à la moindre lacune, CommBank choisit de compléter son accord avec l'agence australienne de gestion des droits d'auteur pour intégrer cette nouvelle possibilité. Sa licence existante, qui autorisait précédemment, moyennant rétribution, les collaborateurs de l'institution financière à copier et partager des éléments issus de l'actualité, de rapports de recherche, de livres…, admet désormais aussi leur usage dans les invites soumises aux plates-formes d'intelligence artificielle, par exemple en vue d'en obtenir un résumé ou en dériver une présentation.
L'initiative ne représentera évidemment qu'une goutte d'eau pour les ayant-droits, dont les principales demandes restent insatisfaites. Mais elle a le mérite de démontrer une volonté de la part de l'établissement d'appréhender l'IA dans une démarche responsable, sous tous ses aspects, que ce soit vis-à-vis de ses clients, de ses effectifs ou de la société. En arrière-plan, elle reflète également les efforts d'analyse conduits dans le but de comprendre et maîtriser à 360° les enjeux et les impacts de la technologie.
« Où le public augmente-t-il ? Où la confiance grandit-elle ? Et où les revenus progressent-ils ? La réponse à ces trois questions, ce sont les créateurs de contenus », constatait Sara Kehaulani Goo, Présidente du Creator Network du Washington Post, lors du Festival Audiencers. Les chiffres sont désormais bien connus par les éditeurs : 46% de la population s’informe auprès […]
Après l'avoir accueillie, il y a deux ans, dans son concours de jeunes pousses, la filiale britannique de Santander entame maintenant une collaboration avec Sibstar, à travers laquelle elle renverra ses clients vulnérables (ou leurs proches) vers cette dernière, qui leur proposera une solution de banque du quotidien conçue pour leur protection.
Entre, notamment, les personnes atteintes de maladies neuro-dégénératives (presque un million au Royaume-Uni), dont la fréquence augmente au fur et à mesure du vieillissement de la population, celles qui rencontrent des difficultés d'apprentissage ou, plus simplement, celles que les dangers du monde numérique paralysent, le besoin de contrôle sur son argent et de certitudes quant à son immunité vis-à-vis des escroqueries qui font désormais partie de la vie courante concerne énormément de monde.
À ces consommateurs, Sibstar offre une réponse relativement classique qui prend la forme d'une carte de débit et d'une application mobile destinée à en piloter les caractéristiques. Elle permet ainsi de définir des plafonds d'utilisation sur différents critères, de spécifier des catégories de dépenses autorisées ou encore d'émettre des notifications, au porteur et/ou à un tiers, lors de chaque opération, selon les préférences de chacun. Le maître mot reste l'autonomie de l'usager, dans un espace de confiance.
Ce qui m'interpelle dans cette actualité est le choix de Santander de s'appuyer sur un partenaire pour combler une attente qui, de toute évidence, touche déjà une fraction notable de sa clientèle. Après tout, même si le principe de ne pas tout faire en interne est louable, le service de Sibstar ne représente rien de révolutionnaire et il pourrait être aisément répliqué par l'établissement… Ses options seraient d'ailleurs susceptibles d'être utiles à d'autres catégories d'individus (par exemple les plus jeunes).
En l'occurrence, la banque donne l'impression de dire à ses clients fragiles – dont bon nombre seront les plus anciens et les plus fidèles – qu'elle n'est plus en mesure d'assurer la sécurité de leurs comptes et qu'il vaut mieux, par précaution, qu'ils se tournent vers une entreprise dont il n'auront jamais entendu parler. J'ose espérer que ce n'est pas le fond de la pensée des porteurs du projet mais la communication paraît pour le moins un peu maladroite. N'aurait-il pas été envisageable, a minima, qu'elle d'intègre dans son catalogue une version en marque blanche de la solution de Sibstar ?
En parallèle de ses solutions adaptées à l'indemnisation directe des sinistrés, la spécialiste One Inc dévoile une nouvelle version de ce qu'elle présente comme un réseau de paiement dédié à l'assurance, destiné, celui-ci, à simplifier les règlements auprès des partenaires et autres fournisseurs intervenant dans la réparation des dommages.
Au premier abord, le principe d'une infrastructure conçue pour les besoins particuliers d'un secteur peut surprendre, alors qu'il existe aujourd'hui des systèmes de paiements robustes, rapides et quasiment universels. Mais le périmètre de ces derniers se cantonne aux mouvements de fonds et ils laissent donc à la charge de leurs utilisateurs l'intégration dans leurs processus, fréquemment complexes et dépendant des interlocuteurs concernés, dont, surtout aux États-Unis, de leur localisation.
La mission que se donne One Inc, qui met déjà en relation 1,3 millions d'entreprises avec 320 assureurs, consiste donc à offrir une plate-forme unifiée qui permet aux premières de s'affranchir de toutes les spécificités auxquelles elles sont confrontées avec chaque nouvelle collaboration et de fluidifier et accélérer le traitement des transactions grâce à son absorption transparente, en arrière-plan, des contraintes techniques, réglementaires, fiscales et administratives propres à chaque opérateur.
Naturellement, XpressOne (c'est son nom) s'appuie sur les mécanismes de paiement existants afin d'exécuter les versements. Pour l'instant, elle comporte deux options – un mécanisme à base de carte configurée selon les conditions définies par l'assureur et un dispositif basique de virement bancaire – qui seront complétées prochainement avec les deux principaux services de transfert instantané disponibles dans le pays. L'objectif visé est de procurer le maximum de flexibilité à toutes les parties prenantes.
La promesse de valeur mise en avant par One Inc réside essentiellement dans la réduction des frictions pour les fournisseurs. Non seulement l'interface commune leur permet-elle de faciliter leur gestion (entre autres avec l'automatisation des réconciliations, un sujet toujours sensible), elle laisse en outre espérer une diminution des incidents, des demandes de ré-émission et, de manière générale, des sollicitations au support. Il en va donc d'enjeux d'efficacité opérationnelle et de réduction des coûts.
Aujourd'hui, les réseaux de paiement sont industrialisés et ne représentent plus guère d'opportunités majeures de différenciation. En revanche, leur « digitalisation » autorise la création de couches de services supplémentaires susceptibles de répondre à des besoins divers et variés, dans différents contextes et pour différentes industries. La démarche adoptée par One Inc, qui délivre un bénéfice tangible aux acteurs de l'assurance dommages, pourrait probablement se décliner dans d'autres domaines…
Connexion
