Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infractions de circulations. 

Pour faire face à la fronde, Flock a fini par réagir et a annoncé une série de changements dans les modalités de partage d’information avec les forces de l’ordre américaine. Des changements surtout cosmétiques, ironise Gizmodo. L’entreprise, en effet, propose désormais que par défaut, la durée de conservation des informations passe de 30 à 7 jours. Mais en fait, précise l’entreprise, « les forces de l’ordre peuvent prolonger ou réduire cette période. Chaque collectivité continuera de choisir la durée de conservation adaptée à sa stratégie de sécurité publique et conforme aux politiques locales ou étatiques. » Elle annonce également un dispositif supplémentaire (le mode « Preuve ») qui permettra à la police de conserver « des données LAPI (systèmes de Lecture automatisée de plaques d’immatriculation) spécifiques à titre de preuve pour une enquête en cours, dans un stockage à long terme ». L’ACLU (American Civil Liberties Union) a publié une réponse moqueuse (« Flock semble davantage viser à résoudre un problème d’image qu’à s’attaquer aux atteintes majeures à la vie privée et aux autres préjudices engendrés par ses produits ») et maintient sa campagne invitant les citoyens à agir pour « se débarrasser du Flock » (Get the Flock out). L’Institut pour la Justice a pour sa part publié une base de données pour recenser les abus d’utilisation des systèmes de lecture automatisée de plaques d’immatriculation. L’ACLU rappelle que si Flock souhaite évaluer l’efficacité de son outil et notamment mieux surveiller les usages abusifs qu’en fait la police, l’entreprise devrait le soumettre à l’analyse d’un évaluateur indépendant. Flock a déjà par le passé annoncé des mesures de sécurité liées au motif de recherche, mais elles n’ont produit aucune amélioration, bien au contraire. Comme, le rappelle Gizmodo, « il est difficile d’imaginer qu’une personne prête à détruire une caméra Flock changera d’avis simplement parce que la durée recommandée de conservation des données passe de 30 à 7 jours ». 

Dans un entretien à la BBC, le PDG de Flock, Garrett Langley, ajoute qu’il s’est rallié à l’idée d’organisations telles que l’ACLU et l’Electronic Frontier Foundation (EFF), selon lesquelles la police devrait disposer d’un numéro de dossier en cours pour pouvoir consulter les données de Flock. Pour Cooper Quentin, de l’EFF, « les requêtes dans les bases de données [de lecteurs automatiques de plaques d’immatriculation], devraient impérativement faire l’objet d’un mandat judiciaire ». Ce n’est pas le cas. 

Alors que le gouvernement américain surveille activement sur les réseaux sociaux les publications anti-Flock devenues virales, rapporte 404 media, et menace le site DeFlock, qui cartographie la présence des caméras, son initiateur, Will Freeman, rappelle qu’il n’a jamais appelé à neutraliser les caméras ni à masquer les plaques d’immatriculation, contrairement à ce qu’affirment les récents bulletins des forces de l’ordre. Le vandalisme montre surtout que les gens sont mécontents de voir ces systèmes installés à leur insu ou sans leur consentement. Mais le sabotage semble surtout assez anecdotique, bien moindre en tout cas que la contestation qui pousse les citoyens à demander des comptes aux autorités locales qui tissent des partenariats avec l’entreprise Flock. 

Comme l’explique une enquête de New Republic sur la montée de la contestation contre les systèmes de caméras LAPI, « Flock constitue un système de surveillance de masse d’une puissance – et d’une rentabilité – stupéfiante. Ses caméras LAPI sont utilisées par plus de 1 000 entreprises et environ un tiers des 18 000 services de police des États-Unis ». L’ACLU l’estime à le nombre de caméras de surveillance des plaques d’immatriculations déployées aux Etats-Unis à 90 000. Quant à l’entreprise, elle a généré un chiffre d’affaires de 285 millions de dollars en 2024. Le géant du capital-risque Andreessen Horowitz a récemment valorisé l’entreprise à 7,5 milliards de dollars. 

Alors qu’il valorise son entreprise en promettant rien de moins que l’élimination de la criminalité des Etats-Unis d’ici une décennie, l’année dernière, Garrett Langley a qualifié DeFlock d’« organisation terroriste ». A l’heure où les actions de résistance anti-tech sont devenues, aux Etats-Unis, une menace terroriste, Will Freeman répond que son site, DeFlock, est surtout un outil de transparence. 

Les études (2019 et 2024), jusqu’à présent, montrent surtout que l’efficacité des caméras à prévenir le crime est plus que douteuse. « En 2022, l’entreprise s’est vantée que ses caméras à San Marino, en Californie, avaient entraîné une baisse de 80 % des cambriolages en cinq mois ; Forbes a révélé par la suite que les cambriolages avaient en réalité augmenté dans les années suivant l’installation des caméras de Flock ». « Même si les caméras et le réseau de surveillance de Flock contribuent à élucider certains crimes, les critiques estiment que le prix à payer en matière de vie privée est trop élevé. La police a été prise en flagrant délit d’utilisation illégale des données de Flock pour localiser une femme cherchant à avorter, pour traquer et harceler des individus, surveiller des manifestations ou prêter main-forte aux services d’immigration de l’ICE pour arrêter des individus depuis de simples suspiscions. » 

« Au minimum, cette surveillance de masse implique le suivi, sans mandat, de toute personne circulant sur la voie publique », a averti l’ACLU. « Au pire, elle instaure un État policier numérique où les forces de l’ordre […] peuvent traquer manifestants, opposants politiques, immigrés, patients et autres personnes non soupçonnées de crime, et utiliser ces informations pour leur nuire. »

Une contestation de droite comme de gauche

Sous la pression populaire d’opposants à Flocks, locaux et actifs, « Austin, au Texas, a suspendu son programme Flock en juin dernier face à la contestation locale, tandis qu’Evanston, dans l’Illinois, y a mis fin en août. Selon la NPR, au moins 30 localités « ont soit désactivé leurs caméras Flock, soit annulé leurs contrats depuis le début de l’année 2025 ». » A Ithaca, les manifestations ont fait reculer la police. Par des pétitions, des interventions publiques et des tribunes dans la presse locale, le collectif local, Flock Off, a quelque peu freiné les activités de l’entreprise. En octobre, le bureau du shérif du comté a cessé de partager les données Flock avec les comtés collaborant avec l’ICE. En février, suite à une  manifestation devant l’hôtel de ville, la police locale a réduit le nombre de services avec lesquels elle partageait les données. « À bien des égards, cela prouve qu’au niveau local, la démocratie peut encore fonctionner », estime le responsable du groupe Flock Off local. Le prochain objectif de Flock Off est de faire résilier purement et simplement le contrat passé avec la ville.

« Si les groupes opposés à Flock émergent généralement de bastions progressistes, certains États dirigés par des républicains ont également pris des mesures pour restreindre la surveillance par ces systèmes. Les libertariens, en particulier, s’opposent à Flock : le magazine libertarien Reason a publié plusieurs articles critiquant l’entreprise, qu’il accuse de mener un programme de surveillance de masse orwellien », rapporte New Republic. 

Le New York Times s’est également intéressé à « ces caméras que la police adore et que les citoyens détestent ». Au Texas, rapportent les journalistes Fernando Alfonso III et Kashmir Hill, « il est un point sur lequel progressistes et conservateurs s’accordent : ils ne veulent pas de caméras braquées sur leurs voitures ». Pourtant, les Américains sont habitués à la vidéosurveillance. « Ils en installent sur leurs sonnettes et les acceptent au coin des rues, dans les bureaux et les restaurants ». Mais, ce qui distingue les caméras Flock, rappellent les journalistes, « c’est qu’elles sont connectées entre elles, formant un vaste réseau national interrogeable ; cette situation surprend souvent les habitants – qui ignoraient que leurs autorités locales avaient souscrit à ce service – et suscite des craintes d’une surveillance digne de « Big Brother ». De plus, il est difficile de ne plus les voir une fois qu’on a commencé à les remarquer. » Le Texas est devenu un baromètre, estiment les journalistes. « Flock a commencé à vendre ses services aux services de police début 2020, en installant quelques dizaines de caméras dans une banlieue de Houston. Six ans plus tard, 700 services de police texans ont passé contrat avec l’entreprise. L’opposition regroupe des progressistes inquiets de la surveillance gouvernementale, des conservateurs méfiants à l’égard de l’extension du pouvoir de l’État, ainsi que des citoyens et des élus soucieux de leur vie privée et préoccupés par les possibles dérives du réseau. » A l’image de Hannah Foust, qui vit à Carrollton (Texas), qui a commencé à publier des messages sur les lecteurs de plaques d’immatriculation dans des groupes Reddit et a lancé une pétition en ligne pour obtenir le retrait de ces caméras de sa commune. Devant le conseil municipal, elle explique : « Je ne commets aucun délit, mais je ne veux pas nécessairement que quiconque – et encore moins des agences gouvernementales ou une entreprise privée – puisse voir où je dépose mes enfants, quel itinéraire je privilégie pour me rendre au travail, si je préfère H-E-B ou Kroger, ou quel lieu de culte je fréquente. » À travers le Texas, l’opposition à ces caméras transcende les clivages partisans. Les contrats de Flock ont ​​été résiliés aussi bien à Austin, ville progressiste, qu’à Bandera, une localité conservatrice de la région de Hill Country comptant environ 900 habitants. « Au Congrès, Keith Self, un républicain dont la circonscription se situe au nord de Dallas, a déposé un projet de loi en juillet. Ce texte imposerait aux agences fédérales chargées de l’application de la loi d’obtenir un mandat avant d’accéder aux données collectées par les systèmes de surveillance étatiques et locaux – notamment les lecteurs de plaques d’immatriculation – ou de les interroger. » Pour un colonel de l’armée à la retraite et ancien juge de comté, « nous sommes en train de basculer vers un État de surveillance », estime-t-il, en flirtant avec des dénonciations que l’on retrouve dans les pire propos conspirationnistes d’extrême-droite, comme ceux que colporte, à longueur d’émission, la War Room de Steve Bannon.

Flock, la plateforme d’hypersurveillance des déplacements

« Flock facture environ 3 000 dollars par caméra et par an, a précisé M. Langley. En contrepartie, l’entreprise installe et entretient les caméras, fournit une base de données consultable répertoriant tous les véhicules qui passent devant elles et envoie des alertes si les caméras repèrent des voitures figurant sur une liste de surveillance prioritaire – comme la base de données du FBI recensant les véhicules volés et les plaques d’immatriculation associées à des personnes disparues ou recherchées. Ces dernières années, grâce aux progrès de l’intelligence artificielle, Flock a ajouté une fonctionnalité permettant de rechercher des voitures en fonction de leur marque, de leur type, de leur couleur ou de détails spécifiques, tels que des autocollants sur le pare-chocs ou des dommages visibles.» 

« Pour effectuer une recherche, les agents précisent le type de délit, allant de la cruauté envers les animaux à l’homicide. Ils saisissent ensuite un numéro de plaque d’immatriculation ou une description du véhicule ainsi qu’un lieu, ou optent simplement pour l’option par défaut : « Tous les réseaux sélectionnés ». La recherche affiche les images des voitures correspondantes, en indiquant précisément l’heure et le lieu où elles ont été repérées, ainsi que le service de police auquel appartenaient les caméras. Par défaut, les photos prises par les caméras sont supprimées au bout de 30 jours, bien que les services de police puissent modifier la durée de conservation.

Si un service de police souhaite accéder à d’autres caméras ailleurs dans l’État ou dans le pays, il doit partager l’accès aux siennes. La plupart des organismes effectuent des recherches et partagent des informations à l’échelle nationale. » 

L’éditorialiste et animateur de télévision de droite radicale américain Tucker Carlson, qui pourrait être candidat à la prochaine élection présidentielle américaine, s’est récemment moqué de l’assimilation faite par M. Langley entre un projet de cartographie participative et le terrorisme. Carlson a déclaré n’avoir pris conscience que récemment de l’ampleur du réseau Flock après avoir consulté le site de DeFlock ; il a confié au New York Times que cette découverte l’avait « horrifié ». Il s’est dit surpris qu’un système de surveillance aussi vaste ait pu se développer en suscitant si peu d’attention de la part du public… Tant et si bien que le PDG de Flock a depuis présenté ses excuses pour ses propos assimilant le site DeFlock au terrorisme. 

« Que l’on soit libertarien, conservateur, partisan du mouvement MAGA ou progressiste, tout le monde a des objections à l’encontre de Flock », a déclaré Chad Marlow de l’ACLU. Reste que si l’opposition au Texas attire peut-être l’attention, elle n’a pas freiné la croissance de Flock. À travers l’État, de nouvelles villes signent des contrats plus rapidement que d’autres ne les résilient, a indiqué Jennifer Szimanski, porte-parole de la Combined Law Enforcement Associations of Texas, un syndicat de police représentant plus de 28 000 agents. Selon elle, la raison repose sur les résultats impressionnants du réseau. Certains services de police texans ont retrouvé des centaines de véhicules volés après avoir installé ces caméras, a-t-elle précisé, et dans les petites municipalités, les vols dans les véhicules ont pratiquement cessé. Pour elle, le risque d’utilisation abusive du système par les policiers texans n’était pas plus élevé qu’avec les autres bases de données auxquelles ils ont accès, et que Flock fournissait un historique de chaque recherche, précisant qui l’avait effectuée et pour quel motif.

La possibilité de rechercher n’importe quel véhicule circulant sur les routes du pays est certes pratique pour les autorités, mais Barry Friedman, professeur de droit et directeur du Policing Project, soutient que la création d’une vaste base de données sur les déplacements des Américains est inconstitutionnelle : « il s’agit d’une collecte de données indiscriminée, et non d’une surveillance ciblant des infractions spécifiques ». « Si le quatrième amendement existe, c’est parce que l’on estimait que le gouvernement ne devrait pas pouvoir s’en prendre à n’importe qui, même en l’absence de tout acte répréhensible. » 

Jusqu’à présent, les tribunaux ont rejeté cette interprétation, tout en laissant entendre que la situation pourrait évoluer à mesure que la technologie se généralise. Dans une affaire où des habitants avaient poursuivi la ville de Norfolk (Virginie) pour l’installation de 172 caméras Flock, un juge fédéral a statué que les lecteurs de plaques pourraient un jour devenir si omniprésents que leur utilisation s’apparenterait à une surveillance de masse indiscriminée et inconstitutionnelle, mais que ce n’était pas encore le cas. « Je ne pense pas que les juges réalisent que le pays est désormais couvert par ces dispositifs et qu’ils sont tous interconnectés », a déclaré Sid Thaxter, de l’Association nationale des avocats de la défense pénale.

En attendant, la police américaine invite les agents à ne plus mentionner le fait qu’ils ont eu recours à une technologie de détection automatique des numéros de plaques d’immatriculations dans leur rapports ou auprès des personnes qu’ils appréhendent, rapporte 404media. « Lorsque les forces de l’ordre utilisent Flock pour procéder à une arrestation dans le comté de Wapello, en Iowa, elles ne souhaitent pas que la personne concernée le sache. Une politique d’utilisation des caméras de lecture automatique de plaques du comté ordonne explicitement à la police de garder ce dispositif secret. » Un moyen de rendre encore plus invisible les abus que Flock annonce vouloir limiter. 

Pour Tech Policy Press, Jake Laperruque responsable du projet « Sécurité et surveillance » au sein du Center for Democracy & Technology (CDT), « les systèmes de lecture automatisée de plaques d’immatriculation en général, et le fournisseur de premier plan Flock en particulier, sont confrontés à un moment de prise de conscience publique aux États-Unis. Cette technologie de surveillance provoque des réactions négatives majeures dans tout le pays et devient un sujet de campagne majeur ». Mais pour Laperruque, les risques actuels liés à la vie privée liés aux systèmes de détection des plaques d’immatriculation ne sont que la pointe de l’iceberg et vont s’étendre considérablement dans les années à venir. « À moins qu’ils ne soient sérieusement maîtrisés, ces systèmes deviendront un outil de surveillance de masse bien plus répandu qu’aujourd’hui ». La raison, notamment : de nouvelles fonctionnalités ajoutées à Flock à partir d’analyses automatisées par l’agence fédérale des douanes créant des alertes sur des comportements de conduite suspects et signalant des véhicules à arrêter, rapporte AP News. Un comportement innocent au volant, comme prendre une route secondaire, conduire à des heures indues ou se rendre dans un endroit inhabituel, pourrait devenir des motifs de contrôle. 404 media a révélé également que les vidéos captées par les caméras étaient utilisées pour identifier des formes ou des conducteurs. Une fonctionnalité de recherche en texte libre permet de trouver des personnes tatouées ou portant des maillots de sport spécifiques ; ces recherches incluent parfois l’origine ethnique de la personne visée. A terme, connectée à la reconnaissance faciale, elle pourrait permettre de rechercher des personnes partout sur les routes. « Ces systèmes risquent fort de se transformer en un « œil omniscient » permettant de rechercher n’importe quel type de véhicule, d’objet ou de personne, avec la même facilité que nous recherchons aujourd’hui des mots dans un fichier texte ». Reste à savoir s’il faut limiter ce pouvoir par une accréditation judiciaire pour chercher dans ces images, comme le propose Laperruque ou limiter le développement du réseau. 

Wired rappelle que Flock Safety, géant de la surveillance des véhicules, affirme depuis des années que sa technologie « ne peut ni reconnaître, ni identifier, ni suivre des individus ». Ses pages dédiées à la confiance du public assurent aux clients que la technologie est conçue pour des enquêtes spécifiques, au cas par cas, et « non pour surveiller les gens ». Ce n’est plus le cas, notamment via l’ajout d’innombrables outils qui donnent accès « aux métadonnées des caméras, aux dossiers d’arrestation, aux dossiers d’enquête, aux journaux d’appels, aux résultats d’analyses balistiques ainsi qu’à des bases de données commerciales contenant des numéros de sécurité sociale, dates de naissance, numéros de téléphone, adresses e-mail, informations sur les proches et les associés ». Les requêtes préconfigurées d’OS Investigate, le logiciel de Flock, inversent la logique de recherche. « Un agent n’a plus besoin de plaque, de nom ou d’infraction pour lancer une recherche : il lui suffit d’indiquer un lieu, une période et un schéma comportemental, et le système identifie les personnes correspondant à ces critères. » Pour utiliser ce moteur de recherche, Flock propose des requêtes préconfigurées, comme «« Trouve-moi des témoins en te basant sur les véhicules les plus aperçus dans [tel quartier] au cours des [X derniers jours] durant [telle plage horaire quotidienne] ». Un agent remplit les champs vides et valide la demande. Le résultat est une liste de plaques d’immatriculation que d’autres outils du logiciel convertissent ensuite en noms et adresses de domicile.»

« Dix-neuf de ces requêtes visent à identifier des schémas comportementaux plutôt qu’à consulter un dossier spécifique. Quatorze d’entre elles ne nécessitent ni plaque d’immatriculation, ni nom, ni description physique ; l’agent indique simplement un lieu, un créneau horaire et un comportement.

Certaines requêtes ciblent des véhicules ayant visité au moins trois commerces dans une ville en trois jours, plusieurs banques en une semaine ou plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces cinq requêtes ne mentionne de cible ou d’incident précis.

L’outil utilisé pour ces recherches intègre un filtre qui exclut les bus, les semi-remorques, les fourgonnettes utilitaires et les remorques ; ainsi, un livreur visitant cinq magasins est retiré de la liste, tandis qu’un conducteur ordinaire effectuant la même tournée y figure toujours. Ce type de recherche s’applique également aux déplacements interurbains : véhicules ayant quitté une ville pour une autre avant d’y revenir dans la semaine, ayant effectué plusieurs allers-retours sur une période de 14 jours ou ayant traversé trois zones successivement.»

Flock se défend en expliquant que ce produit en cours de développement ne proposera pas à terme toutes ces fonctionnalités lors de son lancement commercial. Pour Jay Stanley de l’ACLU : « Nous assistons à un déploiement agressif de l’IA par Flock ; on observe, à certains égards, une frontière très mince entre ce qui est techniquement possible et ce qui est réellement mis en œuvre. » Pour Chad Marlow, avocat à la tête de la campagne « Get The Flock Out » de l’ACLU, le danger est de passer de : « Voyez-vous des schémas criminels ? à Trouvez-moi des schémas criminels, car ces requêtes donneront des résultats différents ». Le risque est de glisser très vite au moment où un agent demandera à une IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Elle ne se fondera pas sur une norme juridique de suspicion criminelle, mais sur ses propres critères internes. » Le code définit déjà les filtres auxquels la requête sera soumise. Le logiciel de Flock associe des recherches de véhicules à des interrogations de fichiers de police classant les individus selon le sexe, la race, l’origine ethnique, la taille, le poids, la corpulence, ainsi que la présence de cicatrices, de marques distinctives et de tatouages. Une fonction permet d’effectuer une recherche uniquement à partir d’une description, en ciblant des enregistrements correspondant à des critères tels que « homme, environ 1,80 m, sweat à capuche noir, tatouage sur l’avant-bras » à proximité d’un lieu donné. L’outil permet à l’agent de délimiter ces critères en choisissant un rayon d’action ou en dessinant des formes libres sur une carte. Selon Stanley, cette pratique s’apparente étroitement à la question examinée par la Cour suprême des États-Unis en juin dernier : la Cour a alors statué que les individus conservent un droit à la vie privée concernant les données retraçant leurs déplacements et que le quatrième amendement s’applique lorsque la police réclame ces informations à une entreprise. Dans le cas présent, les services de police achètent directement cette capacité technologique, ouvrant la voie à des recherches exploratoires (fishing expeditions) d’une ampleur inédite.

L’année dernière, un policier du Texas a effectué des recherches sur plus de 83 000 caméras à travers le pays pour retrouver une femme ayant pratiqué un avortement elle-même, selon des journaux de recherche obtenus initialement par 404 Media. Une enquête récente du Washington Post a révélé qu’une cinquantaine d’agents de police avaient été inculpés ou accusés d’usage abusif des systèmes de lecture de plaques d’immatriculation : 26 d’entre eux les utilisaient pour surveiller leur épouse, leur petite amie, leur ex-compagne ou des femmes qu’ils souhaitaient rencontrer. En août dernier, les autorités de régulation de l’Illinois ont conclu que Flock avait enfreint la loi de l’État en menant un programme pilote – aujourd’hui suspendu – qui donnait au service des douanes et de la protection des frontières accès aux caméras situées dans l’État.

Flock laisse à ses clients le soin de définir la plupart des règles. Les responsables des services décident qui obtient des identifiants, si les données des caméras doivent être partagées au-delà des limites de la ville ou de l’État, et s’il convient d’activer les paramètres proposés par l’entreprise pour prévenir les abus. L’outil d’audit, conçu pour repérer les schémas suspects dans les recherches effectuées par un service, a été lancé en avril 2026 en tant qu’option activable par les forces de l’ordre. Or, selon le Washington Post, de nombreux services de police ont jusqu’à présent peu surveillé les recherches qu’accomplissent leurs agents sur ces systèmes.

L’Electronic Frontier Foundation a examiné des ensembles de données portant sur plus de 12 millions de recherches enregistrées sur une période de 10 mois ; elle a constaté qu’environ 20 % d’entre elles ne mentionnaient qu’un terme vague tel que « enquête », « suspect » ou « requête ». Plus de 50 services ont effectué des centaines de recherches dont le champ « motif » faisait référence à des manifestations.

Comment réguler le changement de nature de la surveillance ?

« Flock ambitionne bien au-delà de la simple lecture automatique des plaques d’immatriculation ; l’objectif est de devenir une plateforme numérique pour le maintien de l’ordre », explique Bob Ferguson, gouverneur de Washington, à l’origine d’une proposition de loi pour réguler le déploiement des caméras. « Nous sommes à l’aube de l’ère de la police automatisée et la capacité à créer des chatbots en langage naturel capables d’effectuer des recherches dans d’immenses bases de données deviendra bientôt la norme. »

Pour Jason Pye, du Due Process Institute, il y a peu de preuves que ces technologies contribuent à faire baisser la criminalité. Il rappelle que, contrairement à ce qu’affirme l’administration Trump, la criminalité violente américaine est en baisse depuis les années 90 (758,2 crimes pour 100 000 habitants en 1991 contre 348,6 en 2024). La raison de cette baisse n’est pas unique, elle n’est pas liée uniquement à l’augmentation de l’incarcération (qui s’est stabilisée dans les années 2000 alors que la criminalité a continué à chuter), mais également à l’amélioration des perspectives économiques, aux mutations des marchés de la drogue, voire même au vieillissement de la population. Si des études montrent que les LAPI peuvent aider la police à identifier des véhicules volés, à générer des pistes d’enquête et, parfois, à élucider des crimes. Établir qu’ils jouent un rôle significatif dans la baisse de la criminalité observée après 2020 est une tout autre affaire, bien plus complexe à démontrer. 

Et Pye de citer deux études portant sur l’effet des LAPI : la première note que le déploiement à Atlantic City est associé à une baisse des fusillades, des vols de véhicules et des atteintes aux bien, mais sans reconnaître que le déploiement des caméras puisse être le seul facteur explicatif. La seconde passe en revue l’ensemble des recherches sur le sujet et montre que les preuves que ces systèmes génèrent des avantages plus larges en matière de lutte contre la criminalité restent mitigées. Pye observe ensuite Atlanta, qui compte plus de 3000 systèmes Flock. Or, malgré ce réseau de surveillance sans précédent, les taux d’élucidation des crimes ne se sont pas améliorés. « Par exemple, une arrestation a eu lieu dans 54,3 % des cas d’homicide en 2021. En 2025, seuls 48 % des homicides ont été élucidés. Il existe toutefois des catégories de crimes pour lesquelles les taux d’élucidation se sont améliorés, notamment les cambriolages et les vols dans des véhicules. » De plus, malgré l’un des plus importants réseaux de surveillance des Etats-Unis, le taux de crimes violents à Atlanta a augmenté entre 2024 et 2025 (mais a beaucoup diminué, elle aussi, depuis au moins 2011). Cela ne signifie pas que les LAPI n’apportent rien à la sécurité publique, estime Pye. Ils peuvent être efficaces pour certaines tâches ou certains crimes, mais cela ne signifie pas qu’ils soient à l’origine de la baisse de la criminalité aux Etats-Unis. Et quand bien même ce serait le cas, la question de savoir quel niveau de surveillance l’Amérique est-elle prête à accepter en contrepartie de sa sécurité reste entière, estime Pye. Qui rappelle qu’avec ces systèmes, « il n’est pas nécessaire d’être soupçonné d’un crime pour que les autorités disposent potentiellement d’un relevé indiquant que votre voiture se trouvait à proximité d’une manifestation politique, d’une église, d’une armurerie, d’une clinique médicale ou du domicile d’un tiers. Il s’agit d’une forme de surveillance fondamentalement différente de celle d’un policier vérifiant ponctuellement une plaque d’immatriculation sur l’autoroute ». Le problème, c’est bien le caractère amplificateur de la surveillance que produit la mise en réseau des caméras et la possibilité de les interroger. « Cette situation soulève des questions quant aux personnes habilitées à consulter ces données, aux justifications requises pour effectuer une recherche, à l’étendue du partage de l’information, à la durée de conservation des données et aux conséquences d’une utilisation abusive du système – une éventualité inévitable. Ces questions ne disparaissent pas pour autant du simple fait que les systèmes de lecture automatique de plaques d’immatriculation aident parfois la police à élucider des crimes. » Reste que c’est « une chose qu’un agent de police voit votre voiture traverser un carrefour. C’est tout autre chose qu’un réseau de caméras enregistre discrètement chaque apparition de votre véhicule, stocke ces informations et les rend consultables dans le temps et entre différentes juridictions ». « La question est de savoir si le gouvernement devrait pouvoir exploiter des millions, voire des milliards, d’observations publiques ordinaires et légales pour en faire une carte détaillée et consultable des déplacements des personnes, sans aucun soupçon individualisé ni contrôle significatif ». 

« Supposons que des preuves plus solides finissent par démontrer que Flock prévient certains crimes. Je resterais néanmoins mal à l’aise avec ce compromis. La sécurité publique est importante, certes, mais ce n’est pas le seul critère essentiel dans une société libre. Le respect de la vie privée et l’autonomie sont tout aussi importants. Pouvoir vaquer à ses occupations quotidiennes sans que le gouvernement n’enregistre discrètement ses déplacements est fondamental. Les caméras de Flock ne se limitent pas aux personnes soupçonnées d’avoir commis des crimes. Elles collectent des informations sur tous les automobilistes qui passent devant elles, dont l’immense majorité n’a absolument rien fait de mal.

Bien sûr, ces informations peuvent être utiles à la police. C’est précisément ce qui rend la question si complexe. Presque n’importe quel système de surveillance peut améliorer la sécurité publique s’il fournit au gouvernement davantage d’informations sur nous. Installez suffisamment de caméras à des endroits stratégiques, conservez suffisamment de données et donnez-y accès à un nombre suffisant d’agences : tôt ou tard, ces informations contribueront à résoudre des crimes. L’argument selon lequel « le gouvernement pourrait trouver cela utile un jour » est un critère inacceptable pour déterminer le niveau de surveillance que les Américains sont prêts à tolérer. » Pour Pye, la surveillance omniprésente ne devrait pas devenir une composante normale de la vie américaine. 

Pour The Conversation, le philosophe et criminologue de l’Institut catholique de Lille, Tony Ferri, rappelait que c’est la nature des systèmes de surveillance, quels qu’ils soient, de s’étendre (même si dans son article, il n’évoque pas les dispositifs de lecture automatisés des plaques d’immatriculation). « Un dispositif de contrôle naît pour une cible précise, dans un contexte qui rend son acceptation facile » (…) « puis, par la force de son infrastructure technique désormais disponible, il s’étend, se prolonge, se banalise, bien au-delà de sa justification initiale ». Pris isolément, ces solutions peuvent paraître légitimes. Mais, comme le disait la CNIL elle-même dans un avis de 2022 : « ces outils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs ». Un changement de nature et pas seulement de degré, face auquel nous avons pour l’instant bien peu de réponses pour en limiter la déflagration à l’encontre des libertés publiques.

Ah, oui, les systèmes LAPI se déploient également en France, même si pour l’instant, ce n’est pas avec la même intensité qu’aux Etats-Unis (on compterait 700 lecteurs en France mis en œuvre par la police nationale, la gendarmerie et les douanes, sans compter ceux des municipalités et des acteurs privés, comme les opérateurs de parkings et d’autoroute). Depuis 2024, un système de traitement central a été mis en place. En 2026, le récent projet de loi RIPOST renforce leur utilisation (par exemple à des fins administratives sans avoir à justifier d’une enquête spécifique), étend le régime d’infraction permettant leur consultation ainsi que la durée de conservation des informations à un an, comme s’en inquiétait, bien légitimement, la Quadrature du Net. La plateforme d’hypersurveillance des déplacements se porte bien chez nous aussi !

Hubert Guillaud

Je me baladais sur les réseaux sociaux (ouais, c'est pas bien, je sais) quand je suis tombé sur un post X en reco avec un tuto Youtube où un mec explique comment gagner un petit peu d'ethers chaque jour. Évidemment, je flaire l'arnaque parce que dans la vie y'a que 3 façons de devenir riche : 1/ Monter sa boite 2/ Être né dans une famille déjà fortunée 3/ Ou se faire adopter par un vieux riche sans enfant afin de faire une magnifique captation d'héritage.

Mais ce que je voulais surtout c'est comprendre comment cette arnaque fonctionnait. Alors j'ai épluché un peut tout ça et j'en profite pour vous expliquer.

La vidéo, je vous la résume parce que franchement elle ne mérite pas un clic. Un type qui se fait appeler Josh Alex, sourire ultra-bright, vous vend l'idée qu'un "outil IA" peut sortir 1700 à 2000 dollars par jour en mode pilote automatique.

Le pitch, c'est qu'il a demandé à ChatGPT de lui pondre le code d'un bot de "sniping" sur Ethereum (c'est de l'arbitrage... en gros, passer devant les autres au bon moment pour gratter quelques dollars sur le mouvement du cours de la cryptomonnaie). Vous copiez ce code dans Remix (un vrai éditeur de smart contracts, parfaitement légitime, et c'est tout le problème), vous compilez en Solidity, vous déployez avec MetaMask, et hop, vous "financez le contrat" avec vos propres ethers.

Et plus vous mettez, plus vous gagnez, qu'il nous explique... Faut savoir que dans ce type d'arnaques, on réclame souvent un demi-ether minimum, genre 1500 - 2000 balles selon le cours du moment, soi-disant pour couvrir les frais de gas. Vous lancez ensuite le bot, vous attendez 3 heures, et magie magie : +30% de profit affiché. Vous cliquez alors sur Withdraw pour retirer les sous et l'argent vous revient avec le bénéf. Ensuite, la vidéo se termine sur deux phrases qui puent l'arnaque, je trouve : "je vais bientôt supprimer cette vidéo, c'est une chaîne privée" et "contactez-moi sur Telegram".

Et voilà...

Mais alors du coup, qu'est-ce qui se passe réellement ?

Hé bien cette combine porte un nom, elle est documentée, et elle a fait très mal. Les chercheurs de SentinelLABS ont disséqué toute une famille de ces "drainers Ethereum" qui se font passer pour des bots d'arbitrage (les vrais bots MEV existent et sont légitime, justement ce qui rend l'arnaque crédible).

Par exemple, une autre vidéo de la même série, intitulée "How to Create Passive Income MEV Bot on Ethereum" (pas exactement celle que j'ai vue, mais le même mécanisme au détail près), a aspiré près de 245 ethers à des victimes. Au cours de l'époque, ça représentait environ 900 000 dollars. Pas mal hein, pour un "tuto gratuit" sur YouTube ! D'autres campagnes du même genre ont siphonné 7 ETH par-ci, 4 ETH par-là et ces vidéos sont souvent générée par IA, avec la voix robotique à 2 balles, les expressions faciales saccadées, les lèvres désynchronisées et j'en passe...

Maintenant, le cœur de cette arnaque c'est que le code que vous collez dans Remix contient en fait une adresse de portefeuille cachée / obfusquée, qui est celle de l'escroc. Elle n'est pas écrite en clair, sinon n'importe qui la verrait mais est reconstituée lors de l'exécution du code, soit en faisant un XOR entre deux constantes anodines (souvent nommées un truc rassurant genre DexRouter et factory), soit en recollant des morceaux de texte, soit en tronquant un énorme nombre. En clair, l'adresse du voleur est coupée en deux bouts d'apparence inoffensive, planqués à deux endroits différents du code, et recollée seulement au moment où le contrat tourne.

Alors quand le mec dans la vidéo vous dit "regardez les lignes 13 et 14, ce sont vos adresses pour recevoir les tokens WETH", c'est de la diversion pure. Il vous donne tout simplement un os à ronger pour que vous vous sentiez rassuré, pendant que la vraie adresse est planquée ailleurs dans le code.

Et là, le piège se referme car au moment où vous financez le contrat et cliquez sur Start, vos ethers partent directement dans le portefeuille de l'escroc. Pire, SentinelLABS a également relevé un mécanisme de secours qui permet à l'attaquant de vider le contrat même si vous ne cliquez jamais sur Start.

Le "+30% de profit" que vous voyez à l'écran ? Bah c'est du flan... de la poudre de perlimpinpin comme dirait l'autre.... Au mieux c'est un faux solde renvoyé par le contrat, au pire c'est carrément du montage vidéo. D'ailleurs, un contrat déployé tout seul ne peut même pas "sniper" la mempool donc techniquement, ça tient pas car ce genre de chose demande un bot externe qui surveille les transactions en attente. Le contrat seul ne fait rien d'autre que transférer votre argent en fait... C'est juste un siphon avec une jolie interface, rien de plus !

Ce qui rend ce truc redoutable, c'est la psychologie derrière. Remix est un outil réputé, donc votre cerveau associe "outil sérieux" à "code sérieux". Et comme vous déployez le contrat vous-même, il vous semble être le vôtre.

On vous donne aussi cette mini-tâche de "vérification" bidon pour endormir votre méfiance et surtout on vous répète "pas besoin de savoir coder", ce qui veut dire en réalité "surtout ne lisez pas ce que vous collez".

C'est ce genre de phrase-là qui devrait déclencher l'alerte rouge dans votre cerveau ! Sans oublier que le tout est saupoudré de hype IA pour faire moderne... Bref, c'est du grand n'importe quoi, mais ça marche à fond la casse. Si vous voulez voir comment des malwares se cachent carrément dans la blockchain elle-même, j'avais aussi décortiqué ce que fait la Corée du Nord avec la blockchain . Le mécanisme est différent, mais c'est le même esprit à savoir détourner une techno légitime pour piéger les gens.

Voilà, alors retenez les règles de base, parce qu'elles valent pour cette arnaque comme pour les mille autres qui sortiront demain. Argent facile et passif : si c'est automatique, sans effort et garanti, c'est une arnaque dans la totalité des cas. Et surtout, la vraie question à se poser est toujours la même : Si ce bot rapportait vraiment 2000 dollars par jour, pourquoi un inconnu vous le filerait gratuitement au lieu de s'enrichir tranquillement dans son coin ? Personne n'offre une machine à billets sans contrepartie !

Puis y'a l'urgence : "je supprime la vidéo bientôt", "offre gratuite aujourd'hui", "dépêchez-vous". Ce compte à rebours vise à court-circuiter votre sens critique pour vous empêcher de réfléchir ou de vérifier. C'est un peu ce que font aussi les escrocs au téléphone quand ils vous disent que votre compte bancaire va être bloqué dans 10 min et que vous allez tout perdre...

Et puis filer de l'argent avant de toucher le moindre gain c'est louche aussi ! Sans oublier le fait qu'on vous pousse vers Telegram ou des DM privés, histoire de laisser le moins de traces et de recours possible.

Quand au fameux "Pas besoin de coder", sur un truc qui touche à votre argent, c'est le drapeau rouge ultime !!! Ne déployez jamais, jamais, jamais du code financier sans le comprendre parfaitement ou le faire auditer par quelqu'un de confiance.

Et si vous vous êtes déjà fait avoir ?

À vrai dire, une fois la transaction confirmée sur la blockchain, récupérer l'argent est en pratique quasi impossible, sauf gel rapide côté plateforme ou intervention judiciaire. Mais bon, c'est pas une raison non plus pour rester les bras croisés.

Par exemple, si vous avez signé des autorisations (avec Metamask par exemple) que vous ne compreniez pas, considérez le portefeuille comme grillé et transférez rapidement ce qu'il vous reste vers un portefeuille tout neuf. Vérifiez et révoquez les approbations de tokens accordées au contrat (avec un outil de type revoke.cash), en sachant évidemment que ça ne récupèrera pas les ethers déjà partis. Ça coupe juste une éventuelle ponction qui arriverait plus tard.

Et surtout, gardez les preuves comme les hash de transaction et les adresses, signalez la chaîne YouTube et le compte Telegram, puis déposez un signalement sur cybermalveillance.gouv.fr ou Pharos. Et prévenez les gens autour de vous... c'est exactement le même réflexe à avoir que face à l'arnaque au QR code piégé , une fois le mécanisme compris, on devient beaucoup plus dur à berner.

Bref, ce genre d'escroquerie ne meurt jamais vraiment... elle change juste de costume. Hier l'arbitrage secret, aujourd'hui c'est l'IA qui va vous rendre riche... Le plus important c'est de garder votre cerveau allumé... ça c'est gratuit et ça rapporte vraiment.

Source

Cinq jours. C'est le temps qu'il a fallu à l'équipe de Calif, une boîte de sécurité informatique, pour faire tourner un exploit fonctionnel sur un Mac équipé de la dernière puce M5 d'Apple. Et pas n'importe quel exploit : c'est la toute première démonstration publique de contournement de MIE, la grande nouveauté sécurité d'Apple sur cette puce.

MIE, c'est pour Memory Integrity Enforcement, c'est une protection câblée directement dans le silicium du M5. L'objectif est simple : empêcher qu'un programme malveillant puisse écrire dans des zones mémoire qui ne lui appartiennent pas, ce qui est la base de la quasi-totalité des grosses failles depuis vingt ans.

BitLocker, c'est le système de chiffrement intégré à Windows qui protège vos disques contre quelqu'un qui mettrait la main sur votre machine. Activé par défaut sur Windows 11 et installé sur des millions d'ordinateurs, il est censé garantir que sans votre mot de passe ou votre code de récupération, personne ne lit ce qu'il y a dessus.

Sauf qu'un chercheur en sécurité, Chaotic Eclipse, vient de publier une démonstration qui réduit cette promesse en miettes.

L'exploit s'appelle YellowKey et c'est une faille zero-day, c'est-à-dire une vulnérabilité connue avant que Microsoft ne sorte de correctif. La méthode est presque insultante de simplicité. Vous copiez un dossier nommé "FsTx", planqué dans le répertoire système "System Volume Information", sur une clé USB.

Vous redémarrez la machine en appuyant sur les bonnes touches. Et là, surprise. Windows vous propose un accès en ligne de commande avec les pleins pouvoirs, et le chiffrement BitLocker est contourné comme s'il n'avait jamais existé.

Pire encore, les fichiers utilisés pour l'attaque disparaissent après usage, ce qui ne laisse quasi aucune trace. Pour Chaotic Eclipse, ce comportement ressemble plus à une porte dérobée laissée par Microsoft qu'à une faille classique. C'est-à-dire un accès secret délibérément intégré au système, plutôt qu'un bug malheureux.

Le chercheur précise au passage que ses précédents rapports de sécurité ont été "apparemment rejetés" par les équipes de Microsoft. Bref, nous ne sommes pas dans de la collaboration sereine.

Côté machines concernées : Windows 11, Windows Server 2022 et 2025. Windows 10 passe entre les gouttes. Microsoft, pour l'instant, n'a fait aucune déclaration publique sur le sujet. Si BitLocker était le seul rempart entre vous et un voleur d'ordinateur, c'est le moment de revoir votre stratégie. 

Les entreprises qui s'appuient sur BitLocker pour leurs flottes de portables vont devoir se poser sérieusement la question d'un complément ou d'une alternative, en attendant un patch officiel qui n'arrive visiblement pas.

La théorie de la porte dérobée volontaire est évidemment difficile à prouver. Il faudrait soit un aveu de Microsoft, soit une analyse approfondie du code source qui n'est pas public.

Mais le profil de la faille (mécanisme trop propre, comportement trop spécifique, fichiers qui s'auto-nettoient) interpelle. D'autant que la fonction utilisée n'a pas de raison technique évidente d'exister dans un système destiné à empêcher l'accès au disque sans authentification.

Vous l'avez compris, une faille à laquelle on accède avec une clé USB et trois touches au démarrage, ça fait beaucoup pour un outil censé protéger des secrets industriels.

Source : Tom's Hardware

Le 11 mai 2026, Google a publié un rapport consacré à l’usage de l’intelligence artificielle dans les menaces cyber. L’entreprise y décrit un cas inédit : des cybercriminels auraient utilisé un modèle d’IA pour développer un exploit zero-day capable de contourner une authentification à deux facteurs (2FA).

Comments

L’ouverture est étroite, mais le signal est fort. En lançant GPT‑5.5‑Cyber en accès limité pour des équipes de défense informatique vérifiées, OpenAI admet implicitement qu’un modèle d’IA peut désormais être assez performant en cybersécurité pour exiger un cadre d’usage nettement plus strict que celui d’un assistant généraliste.

OpenAI réserve son nouveau modèle cyber aux défenseurs des infrastructures critiques

Le 7 mai 2026, OpenAI a annoncé une preview limitée de GPT‑5.5‑Cyber, accessible uniquement à des défenseurs vérifiés chargés de protéger des infrastructures critiques. L’initiative s’inscrit dans un dispositif baptisé Trusted Access for Cyber, présenté comme un régime d’accès spécifique pour des usages de sécurité considérés comme légitimes, sensibles et à forte valeur opérationnelle.

Le choix de restreindre d’emblée l’accès tranche avec la logique habituelle des grands lancements de modèles, souvent pensés pour un public large, puis affinés au fil des retours. Ici, le mouvement est inverse : le modèle cyber n’est pas mis entre toutes les mains, précisément parce que ses capacités sont jugées assez puissantes pour nécessiter un filtrage humain, organisationnel et contractuel.

Dans le même billet, OpenAI distingue explicitement GPT‑5.5 et GPT‑5.5‑Cyber. Le premier reste le modèle généraliste, soumis à des garde-fous classiques. Le second est conçu pour des tâches cyber avancées, mais son accès dépend du niveau de risque, du profil du demandeur et du cadre d’utilisation. En clair, il ne s’agit pas seulement d’une déclinaison technique : c’est aussi un produit de gouvernance.

Une reconnaissance implicite : les capacités cyber de l’IA entrent dans une zone sensible

Le point le plus important n’est peut-être pas le lancement lui-même, mais ce qu’il révèle. OpenAI explique que ses nouveaux modèles ont atteint un niveau de compétence cyber suffisamment sensible pour justifier des garde-fous renforcés. L’entreprise maintient ainsi des restrictions actives contre plusieurs catégories d’abus : vol d’identifiants, persistance, déploiement de malware et exploitation de systèmes tiers.

Ces limites ne sont pas anecdotiques. Elles recouvrent l’essentiel de la chaîne offensive observée dans les intrusions modernes : obtenir un accès, s’ancrer dans le système, déployer des charges malveillantes, puis étendre ou industrialiser l’attaque. En indiquant que ces restrictions restent en place, y compris dans un cadre d’accès spécialisé, OpenAI tente de tracer une frontière entre assistance défensive et facilitation offensive.

Cette position arrive à un moment où les laboratoires d’IA ne peuvent plus se contenter d’arguments abstraits sur “l’usage responsable”. Dans le champ cyber, la dualité des outils est structurelle : une même capacité à analyser une vulnérabilité peut servir à la corriger ou à l’exploiter. Une aide au reverse engineering d’un binaire peut accélérer l’analyse d’un rançongiciel comme la compréhension d’un logiciel légitime pour y trouver un point d’entrée. Toute la difficulté consiste donc à autoriser les usages utiles sans normaliser l’accès aux usages dangereux.

Trusted Access for Cyber assouplit les refus, mais dans un périmètre fermé

OpenAI met en avant un bénéfice concret de Trusted Access for Cyber : la réduction des refus du modèle pour certaines tâches défensives. L’entreprise cite notamment la découverte de vulnérabilités, l’analyse de malware, le reverse engineering binaire et la validation de patchs.

C’est un point central pour les équipes de sécurité. Les modèles généralistes, soumis à des politiques prudentes, ont souvent tendance à bloquer des demandes pourtant légitimes dès qu’elles touchent à l’exploitation, au code bas niveau ou à l’analyse de programmes malveillants. Pour un red teamer interne, un analyste SOC ou une équipe CERT, ces refus peuvent rendre l’outil peu exploitable en conditions réelles.

Le cadre “trusted” cherche donc à résoudre une tension bien connue : un modèle trop permissif devient risqué ; un modèle trop frileux devient inutile. OpenAI semble miser sur une troisième voie, fondée sur la vérification des organisations et la segmentation des capacités selon les cas d’usage. Cette logique rappelle les mécanismes d’accès différencié déjà utilisés dans d’autres domaines sensibles, de la biologie à certains jeux de données gouvernementaux.

Reste une question pratique : quels seront les critères exacts de sélection, d’audit et de maintien de cet accès ? Le billet évoque des défenseurs “vérifiés”, mais l’enjeu réside dans la granularité du contrôle. Une grande entreprise opérant un réseau électrique, un prestataire de réponse à incident, un hôpital, une agence publique ou un fournisseur de sécurité managée n’ont ni les mêmes besoins ni le même profil de risque.

Le passage d’un modèle “grand public” à un outil quasi réservé marque un tournant

Le caractère “Discover” du sujet tient précisément à ce déplacement. Depuis l’explosion des assistants conversationnels, l’IA générative a surtout été racontée comme un produit horizontal : même socle technologique, usages démultipliés, accès élargi. Avec GPT‑5.5‑Cyber, OpenAI prend la direction opposée : spécialiser, fermer, filtrer.

Ce virage dit quelque chose de l’état du marché. Les grands modèles ne sont plus seulement évalués sur leur capacité à rédiger, résumer ou coder. Ils le sont aussi sur leur aptitude à opérer dans des domaines critiques, avec des conséquences immédiates sur la sécurité des organisations. À ce stade, l’enjeu commercial rencontre un enjeu politique : qui peut accéder à ces capacités, dans quel cadre, et avec quelle responsabilité en cas d’abus ?

Le mouvement pourrait aussi faire école. Si l’accès différencié devient la norme pour les usages cyber avancés, d’autres éditeurs suivront avec des offres réservées aux entreprises stratégiques, aux administrations ou aux prestataires certifiés. Cela créerait un marché à deux vitesses : d’un côté, des assistants publics bridés ; de l’autre, des modèles spécialisés disponibles sous conditions, plus utiles mais beaucoup plus surveillés.

Derrière la promesse défensive, une course à l’efficacité opérationnelle

Pour les défenseurs, l’intérêt est tangible. Les cas d’usage cités par OpenAI correspondent à des tâches coûteuses en temps et en expertise : analyser un échantillon malveillant, comprendre un exécutable sans code source, vérifier qu’un correctif ferme réellement une faille, ou accélérer le triage d’une vulnérabilité nouvellement découverte. Dans ces domaines, quelques minutes gagnées sur l’investigation peuvent compter, surtout lorsqu’il s’agit d’environnements industriels, hospitaliers ou énergétiques.

Mais la promesse d’efficacité ne supprime pas le risque de surconfiance. Un modèle spécialisé en cybersécurité peut produire des hypothèses plausibles mais inexactes, interpréter de travers un comportement logiciel ou proposer des conclusions partielles. Dans des chaînes d’analyse très techniques, l’IA réduit le temps de travail, pas la nécessité d’une validation experte. Le bénéfice réel dépendra donc moins des démonstrations marketing que de la qualité observée en preview : précision, taux d’erreur, traçabilité des raisonnements et intégration dans les workflows existants.

Ce que ce lancement prépare pour la suite

Avec GPT‑5.5‑Cyber, OpenAI ne se contente pas d’ajouter un modèle de plus à son catalogue. L’entreprise formalise une doctrine : certaines capacités cyber sont désormais trop sensibles pour relever d’un accès standard, mais trop utiles pour rester bloquées derrière des refus systématiques. La réponse proposée est un accès limité, vérifié et davantage contextualisé.

La prochaine étape sera mesurable. Trois indicateurs compteront : le nombre d’organisations effectivement admises dans Trusted Access for Cyber, la qualité des résultats sur des tâches défensives avancées, et la solidité des garde-fous face aux tentatives de détournement. Si OpenAI élargit progressivement le programme sans incident majeur, le modèle pourrait devenir un outil de référence pour les équipes chargées de protéger des réseaux critiques. À l’inverse, le moindre contournement spectaculaire remettrait immédiatement en cause cette stratégie d’ouverture sélective. Le prochain jalon attendu sera donc moins un lancement grand public qu’un retour d’expérience concret sur les premiers déploiements vérifiés.

L’apparition de l’IA Mythos, présentée comme capable de détecter rapidement des failles informatiques majeures, montre que les capacités offensives dans le cyberespace progressent très vite. Cette évolution pourrait rendre les systèmes nucléaires plus vulnérables et augmenter le risque d’erreurs, de sabotage ou d’escalade accidentelle.

L’apparition de l’IA Mythos, présentée comme capable de détecter rapidement des failles informatiques majeures, montre que les capacités offensives dans le cyberespace progressent très vite. Cette évolution pourrait rendre les systèmes nucléaires plus vulnérables et augmenter le risque d’erreurs, de sabotage ou d’escalade accidentelle.

En 1983, le film WarGames imaginait un adolescent qui, entré par accident dans un système informatique du Pentagone, déclenchait un programme de simulation, lequel était interprété comme un prélude à une guerre nucléaire. Le film avait tant marqué Ronald Reagan qu’il avait interrogé ses conseillers sur la possibilité d’une telle intrusion dans les systèmes américains les plus sensibles. Une semaine plus tard, la réponse était venue : « Monsieur le Président, le problème est bien plus grave que vous ne le pensez. »

Les politiques autour de l’armement nucléaire reposent sur une série de paris, souvent lointains, sur l’avenir de la dissuasion nucléaire. D’abord, les pays dotés de l’arme nucléaire considèrent que la peur de leur riposte suffira toujours à empêcher un adversaire de les attaquer en premier, et qu’ils disposeront toujours de l’expertise et de la chance nécessaires pour prévenir des explosions accidentelles. Ils estiment donc que la possession de l’arme nucléaire sera pour eux, au cours des décennies à venir, source de sécurité et non d’insécurité.

Or, comme nous le montrons avec mes collègues Sterre van Buuren et Benoît Pelopidas, il existe plusieurs scénarios futurs plausibles dans lesquels posséder des armes nucléaires engendrera plus de coûts réels que de bénéfices potentiels dans un monde où la température aura augmenté de plusieurs degrés. Maintenir un arsenal crédible et sûr exigera de faire des choix budgétaires, au détriment d’autres dépenses rendues urgentes par la crise climatique. L’univers des risques existentiels pour un État, qui pourrait justifier l’usage de l’arme nucléaire, peut aussi s’élargir. Des experts s’inquiètent que des risques de pénurie d’eau au Pakistan et en Inde ne deviennent un terrain fertile pour un conflit menant à une escalade nucléaire.

Mais il existe un autre pari, bien plus implicite : celui que les arsenaux nucléaires, qui sont des systèmes technologiques complexes et hautement digitalisées, ne possèdent aucune vulnérabilité cyber qui pourrait être exploitée par un acteur souhaitant empêcher son fonctionnement normal.

La récente percée de l’intelligence artificielle Mythos révèle à quel point les conditions de ce pari peuvent changer sur le long terme.

Mythos et l’avenir de la cybersécurité

Le 7 avril 2026, la compagnie Anthropic – qui commercialise la série de grands modèles de langages (LLM) Claude – annonçait la création de son nouveau modèle d’intelligence artificielle (IA) : « Mythos ». Ce modèle, qui n’a pas été mis sur le marché mais rendu disponible à un groupe de travail restreint composé d’une douzaine des principaux géants américains de la technologie (Google, Microsoft, Apple, NVidia, Amazon Web Services, etc.), obtiendrait un taux de succès sans précédent en matière de détection des failles dans les systèmes informatiques.

Mythos aurait ainsi été capable de détecter, avec un impressionnant taux de succès, des failles « zero-day » dans différents navigateurs informatiques, logiciels ou systèmes d’exploitation. Une faille « zero-day » est une faille de sécurité critique dans un système d’information, contre laquelle aucune protection n’existe pour l’instant, rendant ainsi possible une attaque laissant un délai de « zéro jour » pour réagir. Selon Anthropic, Mythos aurait réussi à développer en un temps record (sans doute moins d’une journée) des méthodes permettant d’exploiter ces failles avec un taux de succès de 72,4 %, largement supérieur aux autres modèles existants.

Si ces informations proviennent de la compagnie elle-même – qui a tout intérêt à exagérer les résultats –, certaines preuves publiques ont toutefois été apportées. Sylvestre Ledru, le directeur de l’ingénierie chez Mozilla responsable du navigateur Firefox, a déclaré que Mythos avait permis de découvrir un nombre « proprement hallucinant » de vulnérabilités dans leurs logiciels. Une faille de sécurité vieille de près de vingt-sept ans, ayant survécu à un grand nombre d’audits, a par exemple été découverte dans un système d’exploitation libre très utilisé par des services de sécurité informatique, OpenBSD.

Mythos révèle un problème de fond : l’augmentation des capacités offensives – non seulement des États, mais aussi d’acteurs privés comme des cybercriminels – dans le cyberspace risque d’être accélérée par le développement de l’IA, et une incertitude émerge quant à la capacité des acteurs défensifs à réagir suffisamment vite pour corriger les vulnérabilités existantes.

Même dans le cas où Mythos ne serait pas à la hauteur des performances annoncées, le développement des LLM depuis le début des années 2020 a montré à quel point leurs performances s’améliorent vite. Nous faisons donc face à une accélération du développement des capacités offensives et de la diffusion de celles-ci à un nombre d’acteurs plus large. Cela signifie une potentielle tendance à la hausse de la probabilité de succès d’une cyberattaque, ainsi qu’une augmentation du nombre absolu de ces attaques.

La vulnérabilité des arsenaux nucléaires

Pour comprendre la vulnérabilité des armes nucléaires aux cyberattaques, il faut avoir à l’esprit le fait que par « arsenal nucléaire », on entend bien plus qu’un stock de têtes nucléaires. Le fonctionnement normal des arsenaux nucléaires modernes repose sur une large configuration de technologies : têtes nucléaires, missiles permettant de transporter ces armes, technologies de communication (permettant d’assurer que l’ordre soit transmis depuis le président jusqu’à l’opérateur chargé d’actionner ces armes), ainsi qu’un ensemble de technologies d’alerte avancée servant à surveiller le ciel à la recherche de potentiels signaux d’une attaque nucléaire adverse. Ces éléments doivent être capables de communiquer entre eux pour assurer le contrôle de ces armes.

Et ils sont plus nombreux qu’on pourrait le penser. Comme le note Herbert Lin, chercheur à l’Université de Stanford et auteur d’une étude sur les cybermenaces contre les armes nucléaires, la métaphore du « bouton nucléaire » est simplifiée : une fois que le président appuie dessus, un ensemble de « cyber-boutons » doivent être pressés pour déclencher les opérations nucléaires, et les contrôler – autant d’échelons où des attaques informatiques pourraient s’insérer pour empêcher, par exemple, l’arrivée de l’information pertinente.

Le président pourrait ne pas recevoir suffisamment d’informations – ou ne pas en recevoir du tout – pour déterminer qu’une attaque est en cours. Ou alors, il pourrait ne pas être en mesure de communiquer à ses forces sous-marines l’ordre de tir. Pis, on pourrait voir se réaliser le scénario catastrophe imaginé depuis les années 1950 : un faux ordre de tir pourrait être communiqué aux opérateurs de missiles.

Les scénarios n’ont pas besoin d’être aussi radicaux : l’ordre pourrait être communiqué, mais avec un retard, ou ne pas être communiqué à l’ensemble des forces, menant à une riposte moindre que celle désirée. Ladite riposte pourrait être bloquée : en 2010, un centre de commandement américain a perdu la communication avec une cinquantaine de missiles nucléaires pendant près d’une heure. Un adversaire pourrait savoir tirer profit de telles failles.

Alternativement, une cyberattaque d’ampleur menée par des acteurs non étatiques pourrait créer l’impression qu’un adversaire cherche à s’en prendre à notre arsenal nucléaire, créant un risque d’escalade par « inadvertance ».

On peut aussi imaginer des actions cyber contre les armes elles-mêmes, le hardware plutôt que le software de l’arsenal. Bien sûr, les acteurs de la sécurité nucléaire ne se contentent pas d’attendre qu’une attaque survienne sur l’un de ces systèmes. Ils développent et testent leurs capacités défensives de manière continue. Le problème est que la complexité des systèmes existants ne permet pas d’affirmer avec certitude qu’il n’existe « aucune vulnérabilité ».

C’est James Gosler, ancien responsable de la sécurité informatique des systèmes nucléaires américains au sein du laboratoire Sandia, qui l’affirme : à partir des années 1980, du fait de la complexification exponentielle des composants internes aux armes nucléaires, « vous ne pouvez désormais plus affirmer que l’ensemble des microcontrôleurs (destinés à assurer le fonctionnement du mécanisme déclenchant l’explosion) sont invulnérables ».

Cela ne signifie pas non plus que des vulnérabilités existent nécessairement. Mais cela veut dire qu’aucun acteur n’est en mesure de savoir s’il y en a. Alors, faut-il craindre que l’arsenal nucléaire français, ou bien n’importe quel autre arsenal ciblant la France, soit « hacké » dans le futur ?

En fait, on ne sait pas. Des scénarios de ce type sont de l’ordre du possible : il n’existe pas de large système d’information complexe dont on puisse garantir, avec une totale certitude, la fiabilité totale. L’évolution des outils permettant des cyberattaques, et leur potentielle diffusion auprès d’un large nombre d’acteurs étatiques et non étatiques, rend ce type de scénario futur potentiellement plus probable et, dans tous les cas, plausible.

Un nouveau pari sur le futur

Mythos met en lumière une nouvelle modalité du pari nucléaire, née du développement des nouvelles technologies et de leur intégration aux arsenaux nucléaires.

Nous parions d’abord sur l’absence de vulnérabilité au sein de ces systèmes – alors même qu’il est impossible de mesurer cette probabilité avec certitude. Elle évolue avec le temps, au rythme des systèmes mis à jour, remplacés, connectés à d’autres. Si une vulnérabilité existe malgré tout, nous parions ensuite sur le fait que, en temps voulu, l’évolution des capacités offensives dans le cyberespace sera constamment égalée, et toujours à temps, par l’évolution des capacités défensives – y compris à l’ère de l’intelligence artificielle. Là encore, cette probabilité est elle aussi indéterminable, puisque le développement de capacités défensives est réactif : il se fait en fonction de la connaissance que l’on a de la nature des capacités offensives et des vulnérabilités existantes, qui sont indéterminables.

Nous faisons donc le pari que nos défenses contre les cyberattaques, et celle des autres États dotés d’armes nucléaires, seront suffisantes. Dans le cas contraire, alors on fait le pari que la chance sera de notre côté et que les vulnérabilités existantes ne seront pas détectées – comme celle qui existait depuis 27 ans dans le code d’OpenBSD. Il s’agit d’un pari sur la chance puisque dans ce scénario, c’est l’incapacité ou l’absence de volonté adverse, sur laquelle nous n’avons aucun contrôle, à développer des capacités efficaces qui nous sauve.

La capacité des pratiques existantes de contrôle à remplir leur tâche est rendue plus incertaine par l’arrivée de grands modèles d’IA capables de détecter des vulnérabilités et concevoir des cyberattaques de façon massive et automatisée. Faire le choix d’une politique de sécurité fondée sur les armes nucléaires revient à parier sur le fait que, dans le futur comme par le passé, la chance restera toujours de notre côté.

Ce travail a été financé par le Conseil Européen de la Recherche (ERC) au titre du programme-cadre de l’Union européenne pour la recherche et l'innovation Horizon Recherche (projet RITUAL DETERRENCE, convention de subvention n°101043468).

Depuis le 25 avril 2026 et la publication de son témoignage sur X, Jer Crane est au cœur d'un débat qui embrase la communauté tech. Le fondateur de PocketOS a vu trois mois de données clients s'évaporer en 9 secondes, la faute à un agent IA. L'entrepreneur tient pour responsables Cursor, Claude Opus et son fournisseur cloud Railway, mais tout le monde n'est pas de son avis.

C'est un benchmark d’un nouveau genre. Selon une étude scientifique publiée le 23 avril 2026, certains modèles de langage (LLM) peuvent activement renforcer les croyances délirantes de leurs utilisateurs. Les écarts de comportement sont considérables d’un modèle à l’autre.

Derrière les notes de mise à jour en apparence banales de Firefox 150 se cache un véritable séisme pour la cybersécurité. En s'alliant avec la nouvelle IA d'Anthropic, Mozilla a débusqué et corrigé près de 300 failles d'un coup. Une avancée historique qui pourrait bien signer la fin des attaques « zero-day » et définitivement inverser le rapport de force entre pirates et défenseurs.

Dans un billet publié le 18 avril 2026, un consultant en cybersécurité affirme que Claude Desktop, l’application de bureau d’Anthropic, préautorise discrètement l’accès aux navigateurs dès l’installation, y compris à ceux qui ne sont pas encore présents sur la machine.

Si vous êtes sous Android, voici une application qui est une imposture technique complète et qui bizarrement vous permet de contourner la censure parfois mieux qu’avec un vrai VPN.

Je vous explique comment ça marche, en fait, ByeByeDPI , c’est une app Android qui utilise ByeDPI localement sur votre téléphone afin de rediriger tout le trafic à travers elle. ByeDPI, si vous ne connaissez pas encore, c’est un proxy qui intercepte les paquets réseau et applique des techniques de désynchronisation afin de contourner tout ce qui est système de deep packet inspection.

Pour rappel, le deep packet inspection (DPI), c’est une techno que le gouvernement et les fournisseurs d’accès internet utilisent pour inspecter le contenu de vos paquets réseau. Donc ça n’analyse pas juste les entête de vos paquets mais également leur contenu. C’est ce qui permet par exemple à certains FAI de ralentir Netflix ou Youtube pour économiser un peu de bande passante.

En fait, tout l’astuce de cette app, c’est qu’elle détourne l’interface VPN d’Android pour rediriger le trafic vers elle-même. Quand vous l’activez en mode VPN, Android va créer une interface TUN (un tunnel virtuel), et envoyer tout le trafic réseau dedans. Normalement, un VPN classique chiffrerait le trafic et l’enverrait vers un serveur VPN distant. Mais BybDPI, lui, intercepte le trafic, le modifie légèrement pour tromper l’ennemi et le renvoie directement sur le net. Comme ça, tout reste en local, il n’y a pas de chiffrement supplémentaire ni de tunnel externe.

C’est donc vraiment un détournement pur et simple de l’API VPNServices d’Android. ByeByeDPI faire croire à Android qu’il est un VPN tout à fait classique, alors qu’en fait il effectue juste une fragmentation et une manipulation de paquets en local.

Voici les techniques qu’il utilise :

Technique 1 : Fragmentation de paquets.

Quand vous tapez par exemple “facebook.com”, votre navigateur envoie un paquet TCP qui contient une requête HTTP avec “Host: facebook.com” dans les headers. Le DPI inspecte alors ce paquet, voit “facebook.com”, et bloque ça.

ByeByeDPI découpe ce paquet en morceaux plus petits comme ça un fragment contient juste “face”, l’autre contient “book.com”. Et comme le DPI reçoit les fragments séparément, il ne reconnaît pas le mot interdit et le laisse passer. Le serveur de destination reçoit alors les deux fragments, les réassemble, et traite la requête normalement.

Technique 2 : Manipulation du TTL (Time-To-Live).

Chaque paquet réseau a un compteur TTL qui se décrémente à chaque routeur traversé. Quand TTL atteint zéro, le paquet meurt. ByeByeDPI envoie de faux paquets avec un TTL trop bas pour atteindre le serveur final, mais assez haut pour atteindre le DPI. Le DPI alors voit ces faux paquets, pense que la connexion échoue ou est corrompue, et laisse passer les vrais paquets qui suivent.

Technique 3 : Désynchronisation.

ByeByeDPI peut injecter des paquets avec des numéros de séquence TCP incorrects, ou des checksums invalides, pour embrouiller le DPI. Ces paquets sont ignorés par le serveur de destination, mais le DPI les traite comme légitimes et autorise la connexion.

Toutes ces techniques exploitent une vraie faiblesse fondamentale du DPI qui doit analyser des milliards de paquets par seconde. Comme il ne peut pas faire d’analyse approfondie sans ralentir massivement le réseau, il doit faire des compromis. Il inspecte donc uniquement tout ce qui est patterns évidents, et les signatures connues… donc si vous fragmentez bizarrement vos paquets, ou si vous envoyez des paquets malformés, le DPI est totalement perdu.

Et le truc fou, c’est que ByeByeDPI fait tout ça SANS chiffrer votre trafic. Votre connexion reste en clair donc votre FAI peut toujours voir votre IP, votre destination, et tout. Mais le système de censure, lui, ne voit que des paquets bizarres et les laisse passer.

Voilà donc comment en simulant une connexion pourrie, on peut contourner de la censure.

L’app propose 2 modes : VPN et Proxy.

En mode VPN, ByeByeDPI utilise l’API VpnService d’Android pour intercepter tout le trafic du téléphone. C’est transparent et toutes vos apps passent par le proxy sans configuration. Le trafic est redirigé via hev-socks5-tunnel , une bibliothèque qui crée un tunnel SOCKS5 local, puis envoyé vers ByeDPI qui applique les techniques de désynchronisation.

En mode Proxy, ByeByeDPI tourne comme un serveur SOCKS5 local sur 127.0.0.1:1080. Vous devez alors configurer manuellement vos apps pour utiliser ce proxy. C’est très utile si vous voulez combiner ByeByeDPI avec d’autres outils, genre AdGuard. Vous lancez ByeByeDPI en mode proxy, vous configurez AdGuard pour utiliser le proxy SOCKS5, et vous avez à la fois le blocage pub et du contournement DPI.

L’app supporte aussi le split tunneling. Vous pouvez créer une whitelist (seules certaines apps passent par ByeByeDPI) ou une blacklist (toutes les apps sauf certaines). C’est important sur Android TV/BOX où l’Ethernet peut planter si tout le trafic passe par un VPN. Là, vous mettez juste YouTube dans la whitelist, le reste du système utilise la connexion normale.

Cette app est née en Russie, où le DPI est massivement déployé depuis 2019 avec le système TSPU (Technical Means for Countering Threats). Comme la Russie bloque des sites avec une combinaison de blocage IP + DNS + DPI, les VPN classiques sont de plus en plus détectés et bloqués. Mais ByeByeDPI, lui, passe sous les radars parce qu’il ne ressemble PAS à un VPN. Il ressemble à du trafic normal avec des problèmes de connexion.

Le développeur original de ByeDPI, c’est ValdikSS , le créateur de GoodbyeDPI pour Windows et ByeDPI c’est le portage Linux/Android de ce même concept. ByeByeDPI quand à lui est un wrapper Android qui rend tout ça utilisable sans avoir à se palucher de la ligne de commande.

Évidemment, ByeByeDPI ne vous protège pas contre la surveillance puisque votre FAI voit toujours tout et un gouvernement peut toujours logger vos connexions. Cette app contourne juste les blocage DPI, mais ne vous rend pas anonyme pour autant, donc si c’est de l’anonymat que vous voulez, utilisez Tor ! Et si vous voulez du vrai chiffrement, utilisez un VPN comme NordVPN (lien affilié). Par contre, si vous voulez juste accéder à un site bloqué par DPI, ByeByeDPI suffira.

Merci à Letsar pour le partage.

Comments

Comments

Que ce soit pour assister dans la traque contre la fraude, ou pour aider les agents de France Services à répondre aux questions des citoyens, l’intelligence artificielle s’insère de plus en plus dans les services publics. Cette irruption fait partie du chantier plus large de la transformation numérique de l’État, qui a pour ambition de rendre les actions de l’État plus efficaces.

En regard des risques de l’IA — qu’ils soient existentiels, ou plus terre à terre et immédiats, et au vu les enjeux posés par leurs utilisations, on cherche aujourd’hui à développer des systèmes d’IA « dignes de confiance » (trustworthy).

L’utilisation de l’intelligence artificielle dans les services publics touche un très grand nombre de domaines. Pendant les Jeux olympiques de Paris 2024, l’intelligence artificielle a été déployée pour identifier des situations dangereuses à partir d’images vidéo.

L’intelligence artificielle aide également à reconnaître des images de conducteurs ne portant pas de ceinture de sécurité, ou à reconnaître le visage des voyageurs se présentant à un dispositif PARAFE pour le contrôle de passeport. Une IA générative dénommée Albert aide les agents de France Services à répondre aux questions des citoyens sur les démarches à suivre. Une IA aide les contrôleurs de la Caisse nationale des allocations familiales (CNAF) à prioriser les enquêtes pour fraude. Une autre analyse des images de satellite pour détecter des constructions non déclarées. Un algorithme d’IA est à l’œuvre dans le dispositif Parcoursup. Des outils contribuent à contrer des cyberattaques, d’autres analysent les données de connexion pour détecter des risques de terrorisme.

En 2022, le Conseil d’État a identifié huit grands champs de déploiement de l’IA par l’État, allant de la défense nationale à la personnalisation de l’accompagnement des demandeurs d’emploi.

Chacun de ces domaines demande une approche individualisée pour comprendre quels sont les risques associés à un déploiement de l’IA et comment les gérer en pratique.

Le terme « IA » recouvre une grande diversité de technologies, d’usages, et donc de risques

Les outils de détection de risque de terrorismes ainsi que l’algorithme Parcoursup s’appuient sur l’IA « à l’ancienne » fondée sur des règles logiques créées par des humains, tandis que les algorithmes utilisés pour le traitement de l’image s’appuient sur des algorithmes d’apprentissage machine supervisé. L’IA générative s’appuie sur une nouvelle technologie d’apprentissage par renforcement appelée « transformeur ».

En plus de cette diversité technologique, les usages de l’IA, et les risques y associés, sont extrêmement variés. Une erreur de prédiction concernant la vidange d’une benne à ordures n’a pas les mêmes conséquences qu’une erreur dans la prédiction d’un risque de terrorisme. L’IA générative nourrit des fantasmes sur la fin du monde. Le Défenseur des droits souligne des risques plus terre à terre sur la discrimination.

Impossible d’adopter une approche unique pour une IA « digne de confiance »

Devant une telle diversité dans les technologies et dans les cas d’usage, il est impossible d’adopter une approche unique pour une IA digne de confiance, sauf à rester à un niveau de généralité élevé.

Le règlement européen sur l’IA ne prescrit donc pas le niveau d’erreur acceptable dans un système d’IA, ni les modalités précises du contrôle humain, ni le type d’explicabilité requise. Les situations sont trop différentes. C’est pour cette raison que le règlement européen délègue ces choix aux régulateurs et acteurs de chaque secteur  : bancaire, santé, transport, justice…

Chaque cas nécessitera une analyse de risques et un programme de gouvernance autour de trois axes  : quels types d’erreurs peuvent se produire et quelles sont leurs conséquences  ? Quel niveau d’explicabilité est nécessaire pour que les humains puissent comprendre et valider les résultats algorithmiques  ? Quel type de contrôle humain est adapté à ce système  ?

L’IA digne de confiance  : des principes importants mais trop génériques pour être applicables concrètement

En octobre 2024, la Cour des Comptes a défini sept principes d’IA de confiance.

Ces principes ne sont pas nouveaux. Ils reprennent ceux élaborés depuis 2019 par l’OCDE, HLEG, et UNESCO, et recoupent en grande partie ceux déjà établis en 2022 par le Conseil d’État pour l’IA publique de confiance, en omettant cependant le principe d’autonomie stratégique qui avait été mis en avant par le Conseil d’État.

Ces principes reflètent un consensus, mais restent tellement généraux qu’ils n’apportent pas de solutions pour des situations concrètes. On veut des systèmes d’IA robustes, non discriminatoires, explicables, et centrés sur l’humain, tout comme on veut un environnement propre et une voiture sûre. Ces principes de haut niveau ne nous disent rien sur les arbitrages nécessaires pour déployer un outil dans un contexte particulier.

À lire aussi : IA : vers des principes éthiques partagés et intégrés dans les algorithmes

Il suffit de penser à l’outil utilisé par la CNAF pour calculer le risque de fraude dans les allocations familiales. Cet outil est actuellement contesté devant le Conseil d’État car il serait discriminatoire, donnant un score de risque plus élevé pour les personnes les plus vulnérables. Selon les auteurs de la plainte, le ciblage de cette population serait contraire aux principes d’équité. En même temps, la population vulnérable est celle qui bénéficie de la majorité des prestations sociales. Prioriser le contrôle de cette population serait donc logique sur le plan statistique. Cet exemple montre le dilemme auquel les déployeurs de systèmes d’IA sont confrontés.

Équité, explicabilité, performance  : des valeurs souvent en concurrence

Un système qui effectue des classements statistiques — pour un contrat d’assurance, un contrat de prêt, ou pour un risque de fraude — va nécessairement paraître inéquitable aux yeux de certains, car les différentes visions d’équité sont incompatibles entre elles. Ainsi, un système équitable par rapport à deux groupes de la population (« l’équité de groupe ») ne sera pas équitable par rapport à deux individus (« l’équité individuelle »).

D’autres dilemmes se présenteront en dehors de la question d’équité. Lorsque l’on choisira le niveau d’explicabilité d’un système d’IA, il faudra mettre en équilibre le besoin d’explicabilité et le besoin de performance, car les algorithmes les plus performants sont souvent les moins explicables. En matière de performance, la question sera de savoir s’il faut exiger un système quasi parfait dans ses prédictions, ou se satisfaire d’une performance qui est « seulement » supérieure à celle d’un humain. En matière de contrôle humain, la question sera de savoir s’il faut systématiquement mettre « l’humain dans la boucle »… même si celui-ci augmente le taux d’erreurs.

Ces dilemmes ne peuvent être résolus simplement par l’application des principes d’IA de confiance. Aucun système ne peut satisfaire pleinement tous les critères en même temps. Prioriser un critère conduit à en détériorer un autre.

Gouverner concrètement les déploiements de systèmes d’IA

Dans cet environnement de vases communicants et de compromis, la Cour des Comptes propose de se concentrer sur les processus de gouvernance dans l’analyse et l’accompagnement des projets d’IA par l’administration. L’idée est de soumettre les grands projets d’IA à une étude d’impact préalable et à un plan de gestion des risques, comme pour un projet de construction d’une éolienne.

Plus précisément, la Cour des Comptes propose une « grille de maturité » qui évalue le niveau de formation du personnel, l’existence ou non de cahiers des charges internes, l’existence de systèmes d’audits, de consultations entre différentes parties prenantes, et surtout l’existence, tout au long de la vie du système, d’un questionnement constant sur l’utilisation des données, le choix du modèle, sa frugalité, les vulnérabilités aux attaques, les risques de discriminations et autres erreurs algorithmiques.

En d’autres termes, puisqu’il est quasiment impossible de fournir une seule « bonne » réponse aux nombreux dilemmes de l’IA de confiance, autant mettre l’accent sur le processus d’analyse et de décision, pour au moins garantir que ce processus est irréprochable.

Des processus de gouvernance deviennent obligatoires pour les systèmes à « haut risque »

Depuis le règlement européen sur l’IA, ces processus de gouvernance deviennent obligatoires pour tout système à « haut risque ». Un grand nombre des systèmes d’IA mis en place par l’administration française tomberont dans cette catégorie, car ils touchent un très grand nombre de citoyens.

Le règlement européen met l’accent sur les normes techniques pour traiter les questions opérationnelles liées à ces systèmes à haut risque. Mais ces normes techniques ne pourront pas résoudre la plupart des dilemmes qui mettent en concurrence différents principes de l’IA responsable.

À lire aussi : Intelligence artificielle: normes techniques et droits fondamentaux, un mélange risqué

Au mieux, ces normes techniques établiront des méthodologies communes pour mesurer différents paramètres tels que l’explicabilité, les biais, et les niveaux de performance. Ces méthodologies permettront au moins de parler le même langage et utiliser les mêmes unités de mesure lorsque l’on examine les différents choix et compromis nécessaires pour la mise en œuvre d’un système.

La recherche scientifique sur l’IA digne de confiance permettra de réduire certains choix cornéliens

Les avancées en matière d’explicabilité permettront, par exemple, d’atteindre un haut niveau d’explicabilité tout en préservant la performance prédictive des grands modèles traditionnellement opaques.

La recherche sur l’IA frugale doit permettre de réduire la consommation énergétique des modèles tout en préservant un niveau élevé de performance.

À lire aussi : Comment faire face à la crise de l’énergie de l’IA ?

Les avancées en matière d’anonymisation de données (« differential privacy ») et d’apprentissage fédéré (« federated learning ») permettront d’entraîner des modèles tout en protégeant les données à caractère personnel.

Mais de nombreux dilemmes perdureront, car ils s’appuient sur des propriétés statistiques immuables, par exemple les définitions de l’équité, ou sur des choix de société nécessitant la mise en équilibre de droits et intérêts en concurrence.

La décision du Conseil d’État dans le contentieux CNAF nous dira comment, dans le cas précis de l’algorithme de notation du risque de fraude aux prestations sociales, cette mise en équilibre sera effectuée.

Winston Maxwell a reçu des financements de l'ANR.