Après l’emballement, le discernement ? Bien que l’IA offre un potentiel d’automatisation et de personnalisation, Nic Newman, co-auteur du Reuters Institute Digital News Report, souligne que son rôle reste limité par rapport à l’ensemble des tâches journalistiques. Le chercheur examine également les divers sentiments au sein des médias, les défis à relever et les implications […]

The post Nic Newman : « Le public n’apprécie pas les labels IA, sauf quand c’est vraiment nécessaire » first appeared on Méta-media | La révolution de l'information.

Lena Situations, Seb la Frite, Simon Puech, Gaspard G, Hugo Décrypte : tous ces créateurs ont bien compris qu’un contenu de qualité nécessite le savoir-faire de journalistes. Ces derniers assurent un travail de fond, souvent dans les coulisses, proche des méthodes classiques de la télévision, comme la programmation et la recherche documentaire. 

Par Alexandra Klinnik du MediaLab de l’Information de France Télévisions

La communication a souvent servi de bouée de sauvetage pour les journalistes en quête de revenus supplémentaires. Aujourd’hui, une opportunité encore peu exploitée s’offre à eux : travailler pour les influenceurs. Et particulièrement sur YouTube. A une époque où les créateurs de contenu devancent les médias traditionnels auprès de la jeune génération, les acteurs du web cherchent activement des compétences journalistiques pour renforcer la crédibilité de leurs productions. Tous, des YouTubeurs divertissants aux plus informatifs, deviennent alors les rédacteurs en chef de journalistes professionnels, œuvrant dans l’ombre. 

Un contexte économique propice

« On va en partie crever. Les médias n'ont plus les moyens de nous payer correctement », lâche Vincent Bresson, journaliste pour Le Pèlerin et collaborateur occasionnel du youtubeur bordelais Simon Puech, spécialisé dans le divertissement. Avec des revenus publicitaires en déclin, une concentration accrue des médias et un marché saturé – entre 2 000 et 2 500 journalistes sont formés chaque année pour seulement 450 départs à la retraite, d’après la Scam – il devient difficile de trouver sa place (et même une place !) et de vivre simplement de sa plume. Plus de 40% des titulaires d’une carte de presse abandonnent la profession au bout de sept ans, selon une étude publiée en 2017 par les Observatoires des métiers de l’audiovisuel et de la presse. La Commission de la Carte d’Identité Professionnelle des Journalistes indique que 66% des journalistes âgés de 30 ans ou moins sont pigistes ou en CDD. Face à une telle précarité, et dans un contexte capitalistique ultra-compétitif, chaque possibilité d’emploi se révèle précieuse. « J’ai commencé à travailler avec les YouTubeurs parce que j’étais en grosse galère de piges. Je ne m’en sortais pas financièrement. J’étais hyper découragée par la presse écrite. Tu es parfois payée 150 balles pour 10 000 signes », témoigne la journaliste Marion Mayer ayant bifurqué un temps vers ce secteur en plein essor.

Des créateurs de contenus en demande

« Nous, on a besoin de débouchés économiques. Eux, sont en demande de gens rigoureux et fiables », constate Vincent Puech. « Depuis le Squeezie gate, tout l’écosystème YouTube fait attention à ses sources », souligne Paul Foucaud, ex-journaliste en alternance chez Hugo Décrypte. En 2019, le plus grand youtubeur français (catégorie formats longs) avait publié une vidéo sur les pyramides où il privilégiait les théories fantastiques au consensus scientifique. « C’était une vidéo de désinformation massive, alors qu’il avait une responsabilité éditoriale », pointe le journaliste média Vincent Manilève (qui a également publié un article sur le sujet). Depuis cet incident, non seulement le public est devenu plus exigeant, mais les youtubeurs ont réalisé l’importance des sources. Aujourd’hui, Squeezie collabore avec des journalistes pour ses vidéos, et leur recrutement suit un processus semblable à celui des rédactions classiques : phases de candidature, pré-sélection de journalistes, tests rémunérés sous forme de piges, où ils doivent par exemple proposer des idées de sujets vidéo. Pour sa vidéo intitulée « Cet agent secret est un énorme mytho », Lucas Hauchard (alias Squeezie) a fait appel à l’expertise de la journaliste Justine Reix, ex responsable société chez Vice. La vidéo, postée il y a deux mois, culmine aujourd’hui à 6,1 millions de vues.

Très contente de cette première collab avec le seul et l'unique @xSqueeZie avec lequel j'ai pu travailler sur sa dernière vidéo Histoire. De plus en plus de YouTubers font appel à des journaliste et on ne peut que les féliciter pour cette exigence d'info … pic.twitter.com/3XhZqBCMAP

— Justine Reix (@Justine_Reix) August 5, 2024

Un score qui fait rêver en comparaison aux chiffres d’audience bien plus modestes des sites d'information. Travailler avec des YouTubeurs n’est pas qu’un choix pragmatique : ce tremplin permet également de toucher un public que les médias traditionnels peinent à atteindre. D’après le Digital News Report 2023 du Reuters Institute, 55 % des utilisateurs de TikTok et de Snapchat et 52 % des utilisateurs d'Instagram s’informent via des influenceurs. « J’ai couvert le phénomène des dark kitchens – ces services de livraison de repas uniquement accessibles en ligne - pour le média Politis et Simon Puech. La vidéo de Simon a donné une tout autre visibilité au sujet. Bien sûr, c’est gratifiant pour l’égo journalistique de travailler pour un grand média, mais je suis encore plus fier d’avoir sensibilisé un public qui ne suit pas les médias traditionnels », rapporte Vincent Bresson. La vidéo « Ce qu’Uber Eats et Deliveroo vous cachent », postée le 13 décembre 2022, a dépassé 1,3 million de vues. « Simon est déçu quand un contenu ne réunit que 300 000 ou 400 000 vues », précise le coauteur du reportage.

Des auteurs appelés à plus de clarté

Pour toucher ce jeune public, les créateurs de contenus réclament aux journalistes le plus de clarté possible. Un défi, comme le reconnaît Vincent Bresson : « Faire simple est bien plus difficile que de faire compliqué ». Leur objectif principal est de rendre l’information à la fois accessible et divertissante : simplifier sans verser dans le simplisme…  Un équilibre que les médias traditionnels n’atteignent pas toujours : pour la presse, le vrai défi n'est pas tant l’intelligence mais l’accessibilité de leurs articles. Et l’attente du public est là. Après le référendum sur le Brexit au Royaume-Uni en 2016, Google avait relevé une explosion de recherches comme « Qu’est-ce que l’Union Européenne ? », ou « Qu’est-ce que le Brexit ? », en pleine nuit.

Les influenceurs comme Gaspard G veillent à rendre les informations compréhensibles pour tous, pas seulement à transmettre des faits. Marion Mayer, ancienne coordinatrice éditoriale du YouTubeur explique à quel point la clarté restait la valeur suprême des contenus diffusés : « Quand Gaspard relit un script, si ce n'est pas parfaitement clair pour lui, s'il trouve que c'est trop complexe, il faut le simplifier. Il est essentiel que les gens ne butent pas sur une expression qu'ils ne comprennent pas. » 

Le journaliste, ce rat de bibliothèque

Écrire des vidéos, mener des recherches sur des sujets techniques, organiser des entretiens, visionner des documentaires, écouter des podcasts, faire le travail d’un « rat de bibliothèque »… Telles sont les missions de ces plumes qui s’activent en arrière-plan pour la marque de créateurs qui ont fondé leur business sur leur visage. « Quand on rejoint Hugo Décrypte, on sait très bien que ça va être comme ça. On est tous des travailleurs de l'ombre et nous n'avons pas cette volonté de prendre la lumière. Il n’y a pas trop de frustration par rapport à cela », assure Paul Bonnaud, ancien journaliste chez Hugo Décrypte. Cette position, aussi humble qu’elle soit, interroge dans un monde médiatique où la visibilité est souvent un facteur de réussite. Bien que les journalistes soient crédités, leur présence à l'écran reste quasi-inexistante. Des créateurs, comme Squeezie et Sofyan, choisissent de ne pas créditer leurs journalistes, de peur de se faire voler leurs « talents ». À une époque où le nom d’une personne est devenu sa carte de visite, cette approche soulève des questions. Le crédit ne relève pas d’une question d’ego : il s’agit d’un indicateur de la valeur perçue qu’une personne apporte à une organisation. Ceux qui sont crédités sont souvent ceux qui se voient offrir le plus d’opportunités, rappelle le NiemanLab.

Ce virage vers l’univers des influenceurs n'est pas qu'une adaptation technique ; c'est une mutation du rôle même du journaliste ou de l'idée que l'on s'en fait. « Je ne suis plus la journaliste qui va vous dire quelle pièce de théâtre regarder, mais une autrice qui va faire de son mieux pour vous faire comprendre quelque chose », confie Marion Mayer. Cette transition n’a pas été sans obstacles. Elle explique : « Il a fallu se désnober. Quand tu viens de la presse écrite et que tu écris pour un YouTubeur, tu redescends de quatre étages. » Cette évolution ne se limite pas à un simple changement de milieu ; elle ressemble plutôt à une « mission humilité », selon ses propres mots. Cela implique de renoncer à certaines aspirations idéalisées du métier pour se concentrer sur un travail plus ancré dans les réalités contemporaines, souvent perçu comme moins nobles. Un rôle pas si éloigné de celui d'un auteur ou d'un programmateur pour une émission de radio ou de télévision. Pour jauger ses attentes en matière de rémunération, un journaliste employé par un créateur de contenu confie ainsi avoir pris comme référence le salaire des auteurs de l’émission de France Inter Affaires sensibles.     

Ce travail en coulisses peut agacer certains, surtout quand les sommes en jeu paraissent dérisoires, et souvent réglées en factures... « On parle de travailler main dans la main entre influenceurs et journalistes, mais en réalité, je pense qu’on demande à des journalistes de travailler sous-payés pour des influenceurs qui gagnent des mille et des cents, afin que ces derniers puissent apparaître comme des journalistes », fustige une ex-collaboratrice. Dans cet univers, tout comme dans le domaine des médias, il n’existe pas de grille salariale transparente. Les montants circulent discrètement entre les journalistes, qui avancent à tâtons. Notons que chez Hugo Décrypte, on assure être bien traités : « Hugo tient à récompenser ses employés quand ils font du bon travail. Il y a régulièrement des augmentations. Des primes ont été versées, en particulier durant la présidentielle, lorsque la charge de travail était plus intense et que la valeur générée pour l’entreprise était plus élevée », affirme Paul Bonnaud, ex-rédacteur en chef chez Hugo Décrypte. 

Des rédacteurs en chef qui savent très bien ce qu’ils veulent

Les créateurs de contenu endossent leur rôle de rédacteur en chef. Au lieu de simplement reproduire le travail des journalistes qu'ils engagent, ils réadaptent constamment ce contenu selon leur propre vision. Lena Situations, animatrice du podcast Canapé Six Places sur Spotify, illustre bien cette approche. Pour la préparation de son podcast, elle collabore avec des journalistes professionnels, tels qu'Oumar Diawara (également présentateur sur France TV Slash), Arièle Bonte et Lucie Frobert entre autres, qui s’engagent à lui fournir un contenu rigoureux et vérifié.  Notons que ces journalistes deviennent auteurs et peuvent parfois être tenus par des contrats de confidentialité. 

« Lena s'appuie sur des journalistes pour mener un travail de fond, qu'elle adapte ensuite. Elle prend toujours le soin de retravailler le contenu, même lorsque les délais sont très serrés », raconte Lucie Frobert, rédactrice brand content chez Brut. En général, le journaliste élabore une trame de questions et organise une session rapide avec l'influenceur avant l'enregistrement pour affiner le contenu et poser des questions pertinentes. Lucie Frobert considère d’ailleurs cette collaboration comme l'une des meilleures de sa carrière, tant pour la fluidité des échanges que pour la gestion administrative. « J’ai été payée rapidement, contrairement à certains grands médias pour lesquels il me faut souvent des mois pour obtenir le règlement d'une facture de 200 euros. Il peut se passer des mois de paperasse, car il faut s’enregistrer sur des plateformes externalisées qui ne sont même pas maîtrisées par les médias pour lesquels tu travailles. Là, tout a été fluide ». 

Des créatrices comme Lena Situations ou encore Sally, spécialisée dans les contenus actu, politique et lifestyle choisissent elles-mêmes des invités et des angles d'approche pour leurs émissions diffusées sur la plateforme de streaming musical. « Les créateurs de contenu savent exactement quelles personnalités intéressent leur communauté et quels sujets s'y rapportent. Leur vision est souvent plus précise et plus pertinente que celle que nous, journalistes, pouvons avoir de l'extérieur », précise Claire Hazan, directrice des podcasts chez Spotify France et Benelux et productrice de Canapé Six Places. On pourrait relever qu’il s’agit plus d’une compétence marketing que journalistique : les créateurs de contenu savent qui inviter pour plaire à leur communauté, sans forcément chercher à explorer le sujet sous un angle inédit. Mais ce souci de l’invité qui « rapporte » se retrouve aussi chez les programmateurs journalistes en quête de gros poissons, ou dans les rédactions écrites qui cherchent le visage à mettre en Une pour vendre.

Les véritables rédacteurs en chef : les plateformes

Bien qu'ils agissent en tant que rédacteurs en chef, la priorité des vidéastes reste avant tout le divertissement. Les titres doivent claquer comme des slogans pour satisfaire les algorithmes qui favorisent souvent les vidéos qui attirent rapidement l'attention et jouent sur le sensationnalisme. « Pour la majorité des créateurs, y compris ceux qui adoptent une approche journalistique, divertir et générer des clics est essentiel. Les miniatures des vidéos illustrent bien ce phénomène. Simon Puech, par exemple, suit les tendances actuelles, ce qui, parfois, peut sembler peu journalistique et même un brin racoleur. Cette surenchère dans le contenu et les titres fait partie du jeu. Sur YouTube, capter l’attention est primordial ; c’est une véritable guerre pour l’attention des spectateurs. C’est différent de mes habitudes journalistiques. C’est sa patte YouTube », témoigne le co-auteur de Simon Puech, Vincent Bresson.

Les miniatures de la chaîne du YouTubeur Simon Puech

Marion Mayer, qui collaborait avec Gaspard G pour « Histoire de » (des vidéos qui racontent “l’histoire d’une personnalité ou d’une affaire qui a marqué la société”) partage un sentiment similaire : « Pour qu'une vidéo soit un succès, il faut impérativement qu'elle attire l'attention, en utilisant des noms qui résonnent avec le public. Cela peut être frustrant, surtout lorsque l'on souhaite traiter une personne moins connue mais tout aussi intéressante ; il est clair que cela attirera moins d’audience. En revanche, des figures de « gros méchants » comme Trump garantissent un bon nombre de vues. »

« Le plus grand défi de notre métier dans les 10 à 15 ans à venir, c’est la dépendance aux plateformes », ajoute Gaspard G, dont la chaîne continue néanmoins de croître, gagnant entre 50 000 et 60 000 abonnés par mois et qui compte plus d’un million d’abonnés sur YouTube. Il attribue ce succès au fait que peu de créateurs de contenu diffusent de l'information de manière “non militante”. Mais les véritables rédacteurs en chef des influenceurs sont les plateformes, comme il l’admet lui-même. Les créateurs doivent s’adapter aux exigences des algorithmes, qui déterminent la visibilité et le succès de leurs contenus. « Le distributeur est américain et chinois. Les Américains ont tendance à une censure économique si je parle d’un sujet comme le terrorisme, un génocide, un viol. Ce sont des mots importants. On ne va pas amoindrir nos mots pour parler de la réalité. Il y aura un amoindrissement des revenus publicitaires parce que c’est non-annonceur friendly. Sur une plateforme chinoise comme TikTok, ils ne s’embêtent pas. Ils enlèvent le contenu quand cela ne leur convient pas », résume-t-il sur le podcast Media Connect de l’AFP. 

Cette forme de censure sur les plateformes incite les créateurs et même les médias traditionnels à éviter certains thèmes sensibles par peur d’être pénalisés ou mal référencés. Cela restreint leur liberté d'expression et oriente les créateurs vers des contenus jugés plus « sûrs », mais souvent moins percutants. Ils assurent ainsi  leur viabilité financière. De nombreux médias ont autocensuré le mot viol par peur d’être sanctionnés par les grandes plateformes. Comment déchiffrer le monde si on ne peut pas correctement le décrire ? « On se cache alors derrière des euphémismes : viOl, vil, l'émoji grappe de raisin (en référence au mot anglais rape). On se plie aux règles implicites ou supposées des plateformes, quitte à invisibiliser la violence, à lui faire perdre ses contours », met en perspective la journaliste Lucie Ronfaut.  Ceux qui utilisent des mots "non conformes" aux critères des plateformes sont souvent victimes d'un "shadowban", ou bannissement silencieux : leur nom devient introuvable dans la barre de recherche, même si leur compte reste actif. Les plateformes ne communiquent jamais ces restrictions. Les utilisateurs ne s'en rendent compte que par la baisse de leurs statistiques, avec une diminution des vues, des partages, et des publications. 

Le modèle économique : un impact sur le travail des journalistes 

Le modèle économique des créateurs de contenu reste fragile. La génération qu’ils ciblent n’a pas l’habitude de payer pour l’information, et ils ne disposent pas d’aides publiques. Ces chaînes n'ont pas accès aux dispositifs de soutien dont bénéficient de nombreux créateurs, comme les aides financières du CNC Talents, qui sont disponibles pour les créateurs de vulgarisation à succès. Gaspard G, qui a même été membre de la commission d’aide aux créateurs vidéo du CNC, n’a pas été sélectionné, expliquant que « ce n’est pas faute d’avoir essayé ».

Dans une vidéo intitulée « Je réponds à mes haters », il détaille son modèle économique et ses résultats. Sur une saison complète, sa chaîne YouTube lui a permis de générer entre 275 000 et 300 000 euros. Toutefois, le coût total de toutes les vidéos produites durant cette période s’élève à environ 260 000 euros, englobant les salaires, le matériel et la location d’espace. « On est tout juste à l’équilibre », déclare-t-il. Ces financements proviennent principalement de l'AdSense – les publicités automatiques sur YouTube, qui lui rapportent environ 50 000 euros – ainsi que de partenariats avec des marques, du brand content. « Je m’attendais à une industrie qui roule sur l’or, mais ce n’est pas vraiment le cas, à part pour Squeezie et Hugo », observe une journaliste.

Les structures sont encore en construction, ce qui rend le paysage très chaotique.  Ce manque de financement influence les sujets abordés par les créateurs de contenu. Gaspard G a dû limiter la couverture internationale de son média à trois voyages sur le terrain en douze mois (Martinique, Nouvelle-Calédonie, Ukraine). « Le coût d’une enquête n’est jamais absorbé par le sponsor », admet-il. « Financièrement, les enquêtes me font perdre de l’argent. On essaie de les vendre à des diffuseurs, le but étant d’avoir une diffusion à la télé, puis de les rendre disponibles gratuitement sur YouTube une semaine après. C’est ce que fait Seb la Frite avec ses documentaires sur TFX, et Hugo avec ses interviews de Face Cachée diffusées sur France Télévisions. Cette stratégie permettrait d'entrer dans une logique rentable. »

Les créateurs de contenu le savent bien : les ressources se trouvent chez les médias traditionnels. Après avoir traversé un Far West en pleine évolution, les plumes des créateurs en sont tout aussi conscientes et tentent leur chance dans les rédactions. Pour Max Laulom, qui a travaillé aux côtés de Gaspard G, « le milieu du numérique n’est pas encore assez structuré financièrement en termes de moyens et de processus pour être un véritable nirvana [NDLR ou plutôt un eldorado] pour les journalistes ». Pour l’instant. Lui-même producteur et journaliste, il a décidé de collaborer à nouveau avec les médias traditionnels : « Il ne faut pas se leurrer, c’est là où se concentrent les plus gros budgets. » C’est aussi l’envie d’interagir avec des sources directes, plutôt que de se limiter à de la curation qui incite certains à rejoindre l’autre rive (même si la sédentarité y est toutefois aussi très présente, avec un travail de desk devenu la norme). L’interaction avec un historien en chair et en os, plutôt qu’avec un livre ou un podcast.

Des médias traditionnels attentifs aux journalistes passés par les créateurs de contenus

Les médias traditionnels portent un intérêt croissant aux journalistes habitués aux codes des créateurs de contenu. Ceux-ci, s'ils se sentent limités dans leurs missions auprès des YouTubeurs, ont moins de mal à décrocher des CDI que leurs collègues, notamment au sein des équipes dédiées aux réseaux sociaux. « Faire du bon travail pour les créateurs de contenus, c’est bon pour le CV. C’est mieux perçu qu’il y a dix ans, quand les gens nous regardaient mal », estime Paul Foucaud, ancien alternant chez Hugo Décrypte et désormais en CDI chez BFM, en tant que responsable de la stratégie éditoriale et community manager.

Le journalisme numérique intègre de plus en plus la culture de l’influence, avec une multiplication des sujets vidéos incarnés, comme on le voit avec Brut, Le Monde ou Le Parisien. Cette évolution reflète un changement de perspective dans les médias traditionnels, qui cherchent à se réinventer et à rendre l'information plus accessible à un jeune public. Alexis Delcambre, directeur adjoint du Monde chargé de la transformation numérique, souligne l'impact des réseaux sociaux sur le recrutement : « Nous portons une attention particulière à la maîtrise des nouveaux formats et à la capacité à connecter avec l'audience pour transmettre un message. » Le sociologue des médias Jean-Marie Charon, dans son enquête sur les jeunes journalistes, a également observé cette tendance. Il note que le moyen le plus simple aujourd'hui d'obtenir un CDI dans le journalisme se trouve dans des niches spécialisées, comme la gestion des réseaux sociaux Snapchat ou TikTok. « Les rédactions parisiennes n'hésitent pas à embaucher rapidement ces profils rares, avec l'intention de les garder », ajoute-t-il.

Paul Bonnaud, ancien rédacteur en chef chez Hugo Décrypte, a lui aussi fait le saut vers un média plus traditionnel en rejoignant l’équipe des réseaux sociaux de L’Équipe, en CDI. « J’ai toujours eu une affection particulière pour L’Équipe et l’envie de vivre les Jeux Olympiques au sein d’un média qui me faisait rêver. Je savais que j’aurais plus de moyens sur certains aspects, mais moins de libertés sur d'autres », confie-t-il. Ce transfert lui permet de retrouver une place dans une rédaction produisant des informations originales, alors qu’il se limitait principalement à de la curation lorsqu’il travaillait pour Hugo Décrypte. « J’avais par ailleurs envie d’être 100% responsabilisé sur mon sujet du début à la fin. Quand j’écrivais une vidéo pour Hugo, je ne pouvais pas forcément accentuer sur certains points. Hugo allait remettre à sa sauce. C’est normal, c’est son image qui est en jeu. Ici, je pousse l’exercice jusqu’au bout, je suis certainement un peu plus libre dans le traitement », poursuit-il.

Il serait finalement réducteur d'opposer ces deux univers, qui dialoguent et s'enrichissent mutuellement. Les allers-retours constants des journalistes entre ces deux mondes en sont la preuve. D'un côté, les créateurs de contenu, en pleine expansion, tâchent de bâtir un modèle économique encore incertain et souvent sans cadre précis. De l'autre, les médias traditionnels, bien que dotés de moyens plus importants, peinent à se réinventer face à des défis majeurs, notamment dans la manière dont leur récit est reçu. Cette tension créative entre ces deux sphères peut générer une dynamique positive, un élan vital nécessaire pour réinventer la production d'information. Comme le souligne Julien Potié, bras droit de Hugo Décrypte et chargé du cours “Nouveaux médias et créateurs” à Sciences Po Paris, « on ne souhaite pas présenter le monde des créateurs comme révolutionnaire, et tirer un trait sur ce qui s'est passé avant.  Si nous avons rejoint cet univers, c'est parce que nous sommes des passionnés des médias ». Le journalisme n'a de toute façon pas le choix. L’intégration des compétences liées aux réseaux sociaux et aux nouveaux formats numériques est une condition de son avenir. À la profession de poursuivre cette transformation tout en sachant préserver ses codes déontologiques et ses lignes rouges.

The post De la presse à YouTube : des journalistes au service des créateurs de contenu first appeared on Méta-media | La révolution de l'information.

Qui est le véritable danger pour la presse et l’information ? Faut-il craindre davantage les GAFAM ou Vincent Bolloré & co ? Cette question a fait l’objet d’une table ronde au Festival de l'info locale de Nantes, qui a eu lieu le 26 et 27 septembre, intitulée “La concentration des médias est-elle compatible avec le pluralisme ?”. 

Par Alexandra Klinnik, MediaLab de l'Information

D'un côté, les plateformes numériques siphonnent les revenus publicitaires et fragilisent la presse, provoquant un véritable “tsunami”. De l'autre, la concentration des médias s'intensifie, illustrée récemment par le rachat de BFM, RMC et La Provence par CMA CGM, dirigé par Rodolphe Saadé, soulevant des questions sur l'indépendance et la diversité de l'information. Face à ces défis, les débats récents des États Généraux de l'Information interrogent : la législation actuelle peut-elle encore protéger les médias ? Dans quel ordre de bataille les médias doivent-ils se positionner ?

Résumé des points clés.

L’éducation aux médias est une urgence !

• Pour Nathalie Sonnac, professeure à l’université Paris Panthéon-Assas, le véritable enjeu reste celui de l’éducation aux médias, à l’heure où les citoyens sont massivement exposés à un flot de désinformation via les plateformes numériques. Cette éducation ne doit pas se limiter aux jeunes mais s’étendre à l’ensemble de la population. Selon la présidente du COP du CLEMI, il est essentiel d’aider les citoyens à comprendre les mécanismes de production de l’information et à identifier les fake news pour renforcer la résilience démocratique. “Les plateformes n’ont pas pour mission de fabriquer une info de qualité à la différence des médias. Nous traversons un véritable big bang médiatique”, alerte-t-elle. 
• Même son de cloche chez David Guiraud, président du conseil de surveillance de Ouest-France, qui dénonce une lutte inégale contre “des monstres, sans foi, ni loi, dont la seule raison d’être n’est pas de relier les gens, mais la puissance et l’argent”, avec aux manettes  “un pirate absolu”, Mark Zuckerberg. 
• Cette éducation est d’autant plus nécessaire car elle peut permettre de recréer un socle commun dans un contexte où chacun vit sa propre réalité. “Quand je regarde les chaînes de l’info continu et la PQR de l’autre côté, on ne parle pas du même monde, de la même chose. On a pas la même vision des choses”, constate David Guiraud. Il faut, comme l'affirmait la philosophe Hannah Arendt, "recréer un réel commun", d'autant plus à l'heure où l'intelligence artificielle et les manipulations informationnelles menacent de plus en plus cette cohésion.

La concentration, un atout face aux géants du numérique ?

• Laurent Guimier, directeur du pôle médias de l’armateur CMA CGM (“les derniers entrants sur le marché” selon les mots de Gilles van Kote du Monde) estime que la concentration peut être un levier nécessaire pour permettre aux médias traditionnels de résister à la montée en puissance des GAFAM. “Il s’agit de se dire comment on constitue un groupe média avec des médias très différents qui peuvent se renforcer les uns les autres, et ainsi tenter de résister à cette transformation terrifiante qui s’attaque à tous, petits, grands médias, médias privés, publics, médias possédés par des riches et très riches. Nous sommes tous égaux devant cette déferlante” assure le président du conseil d’administration du journal La Provence.
• Pour lui, la législation actuelle limite excessivement les stratégies de déploiement des médias, empêchant la formation d’acteurs suffisamment puissants pour s’opposer à cette révolution numérique. “Est-ce que le concurrent de Ouest France, c’est BFM ou TikTok ? Le concurrent de France 3, BFM ou YouTube ? L’adversaire de la démocratie, des propriétaires européens qui mettent des millions dans les médias ou Elon Musk ? ”, s’interroge celui qui invite à repenser les véritables forces en présence. Pour lui, la loi de 1986, socle de la régulation, pensée avant l’internet “bloque le développement de télé locales. C’est la même chose en radio, avec des interdictions de concentration. Le rythme des médias nécessite une révision de la législation” estime-t-il.
• David Guiraud souligne également l'importance de constituer une entité puissante. “On ne peut pas lutter contre des hyperpuissants en étant des nains. Il faut accepter une forme de puissance.” Pour lui, il ne s’agit pas d’une quête de pouvoir pour le pouvoir, mais d'une puissance bâtie sur l’indépendance et la confiance… et la mutualisation des forces internes. La future chaîne de télévision du groupe Ouest-France se construira dans cet esprit avec les confrères locaux. Les studios seront en région. “On doit investir ensemble, sinon on n’y arrivera pas”, souligne-t-il.

Un modèle alternatif de gouvernance ?

• Le groupe Ouest-France souhaite offrir un contre-modèle à la concentration des médias aux mains de grands groupes financiers. Ouest-France appartient à une association à but non lucratif, l’ASPDH (Association pour le soutien des principes de la démocratie humaniste). Ce modèle, estime le président de l’association, montre qu’il est possible de préserver le pluralisme tout en maintenant une puissance économique. En tant que premier quotidien national francophone au monde, Ouest-France repose sur une structure associative régie par la loi de 1901, qui privilégie un capital “éthique”, articulé autour de “valeurs solides” qui guident son fonctionnement.
• “Personne ne peut racheter ce groupe demain. Pour rester indépendant, il faut gagner de l’argent”, explique David Guiraud.  100% des bénéfices du groupe sont réinvestis dans le développement, en particulier dans le numérique, ce qui leur a permis d’atteindre 260 000 abonnés numériques. “On est très loin du succès du New York Times, mais on ne désespère pas de renverser la vapeur. On essaye de s’améliorer en permanence”, lance-t-il.

"Si c'est pour nous dire qu'il faut une concentration maximale pour les affronter, je dis que c'est perdu d'avance !"

• David Assouline, rapporteur de la commission d’enquête sur la concentration des médias,  reconnaît que la puissance des géants du numérique dépasse de loin celles des groupes de presse traditionnels, mais il refuse de voir dans la concentration une solution viable pour leur faire face. Il estime que vouloir concentrer les médias pour rivaliser avec les GAFAM est une illusion. “Tous les groupes sont des nains par rapport à eux, affirme-t-il, "si c'est pour nous dire qu'il faut une concentration maximale pour les affronter, je dis que c'est perdu d'avance ! Leur puissance financière n’est pas rattrapable."
• Selon l’ancien sénateur socialiste, la seule véritable résistance aux géants de la tech américains réside dans la qualité de l’information et l’indépendance des rédactions. La bataille ne peut être gagnée sur le terrain financier ou technologique des GAFAM, mais plutôt en s’assurant que les médias nationaux offrent une information vérifiée, pluraliste et indépendante.
• Il dénonce également les pratiques de certains grands groupes de presse, citant l’exemple de Bernard Arnault. Selon un mémo interne révélé mercredi 18 septembre par La Lettre, le propriétaire du groupe Les Echos-Le Parisien a exigé de ses cadres une « interdiction absolue » de « parler » avec les journalistes de sept médias « dits d’investigation qui se servent de l’attrait du public pour le luxe afin d’attirer de manière racoleuse un nouveau lectorat » : La Lettre, le Canard enchaîné, Mediapart, Glitz Paris, Puck, Miss Tweed et l’Informé. Ainsi que toutes les autres lettres confidentielles du même type qui existent ou pourraient être créées » . “Comment peut-on être un patron de presse et interdire de parler à des journalistes ? Interdire que des journalistes puissent avoir accès à des informations ?”, s’exclame David Assouline. Une pratique totalement incompatible avec les principes de liberté et de transparence qui devraient régir le secteur médiatique. Pour résister aux GAFAM, il faut une “exemplarité”, martèle-t-il.
• Dans un monde où l’information joue un rôle crucial, il est essentiel d’examiner les acteurs qui influencent (et déforment) notre perception de la réalité : “Le problème aujourd’hui ne se limite pas aux GAFAM. Regardez ce que fait Bolloré. Il a fabriqué un candidat présidentiel qui propageait de la haine. Il a un ensemble médiatique dans le monde de l’édition, une majorité de livres scolaires pour les enfants. Qui détient les journaux a son importance. S’il faut des riches pour faire des entreprises puissantes, alors mettons les bons parce qu’on n’est pas en train de fabriquer des brosses à dent, mais de fabriquer de l’information qui est un bien précieux pour les citoyens !”

Comment choisir son directeur de rédaction ?

• Les Etats généraux de la presse ont suscité des attentes, notamment sur la possibilité pour les rédactions de se prononcer sur le nom du directeur de la rédaction. Pour David Guiraud, cette volonté est une fausse bonne idée. Pour lui, un directeur de rédaction doit posséder de nombreuses compétences : être un excellent journaliste, un bon manager, comprendre le digital et avoir une vision stratégique. Or, il estime qu’un collectif de journalistes n’est pas toujours le mieux placé pour identifier un tel profil. Une équipe de direction doit prendre le dessus.
• ll cite l’exemple de The Economist, où le conseil d'administration a créé un comité ad hoc en capacité de choisir un directeur de rédaction. Les membres de ce groupe interrogent tous les journalistes qui répondent de manière confidentielle : “Une fois lus, les documents sont détruits. Cela oblige chaque journaliste à bien réfléchir, à travailler le dossier de façon approfondi”. Le comité regarde ensuite les propositions et nomme le directeur de la rédaction. “Un directeur de la rédaction qui n’est pas adoubé ne pourra pas faire son boulot”, estime David Guiraud.

La lutte contre la domination des GAFAM et la concentration des médias soulève des défis majeurs pour l'avenir de l'information. Si certains prônent la puissance économique pour résister, d'autres insistent sur l'importance de l'indépendance éditoriale et de la qualité de l'information. Face à la désinformation, l'éducation aux médias et un modèle éthique et pluraliste apparaissent comme des clés essentielles pour protéger la démocratie.

The post Festival de l’info locale : “On ne pourra pas lutter contre des hyper puissants en étant des nains” first appeared on Méta-media | La révolution de l'information.

YouTube à la conquête de la télé - Lors de son événement Made On YouTube du mercredi 18 septembre, la plateforme de Google a dévoilé un plan ambitieux de transformation. Ce remaniement s’appuie sur l’intégration de l’intelligence artificielle et l’introduction de nouvelles fonctionnalités conçues pour séduire créateurs et utilisateurs, tout en accentuant la pression sur ses rivaux dans le marché du streaming.

« YouTube est la plus grande chaîne de télévision au monde et un acteur clé de l’écosystème télévisuel. Contrairement à TikTok ou Facebook, YouTube est présent sur les téléviseurs de salon », avait déjà déclaré Evan Shapiro, cartographe de l'écosystème médias, lors d’un débat sur les prévisions 2024 pour le secteur des écrans, à la Royal Television Society à Londres. Malgré les prédictions concernant sa disparition, la télévision reste une composante majeure dans de nombreux foyers à travers le monde, et YouTube s’y implante de plus en plus. 60 % des enfants âgés de 4 à 15 ans au Royaume-Uni regardent YouTube régulièrement sur leur télévision connectée, selon des données de Barb. 

Ce repositionnement de YouTube en tant que chaîne de télévision marginalise progressivement les autres plateformes de streaming. En août, selon Nielsen, YouTube représentait 10,6 % du temps de visionnage sur les télévisions connectées, contre 7,9 % pour Netflix et 3,1 % pour Prime Video. Pour Robyn Summer, directeur commercial à l'agence marketing Essence Mediacom, YouTube pourrait même dépasser Netflix en termes d'audience quotidienne moyenne d'ici décembre 2024.

introducing fresh features to supercharge your creativity, community & business, including:

AI-powered tools to ignite your imagination
deeper ways to connect with *your* people
fun new opportunities to make money pic.twitter.com/0V2yWolR11

— YouTube (@YouTube) September 18, 2024

Dans cette même dynamique, YouTube introduit les « Creator Show Pages », une nouveauté qui s'inspire de la mise en page des plateformes comme Netflix ou Prime Video. D’après le vice-président des produits chez Youtube, cette fonctionnalité permettra aux consommateurs de « voir clairement l’intégralité d’une saison, ce qui pourrait les inciter à continuer à regarder ou même à télécharger la saison entière avant un vol ». Cette nouveauté s’ajoute aux avantages déjà mis en place pour optimiser l’impact des créateurs et faciliter leur portée. La place de Youtube sur les téléviseurs permet aux créateurs de considérer leur programmation, leur contenu et leurs investissements dans leurs communautés avec la même perspective que les médias traditionnels.

L'adoption de l'IA est bien sûr un élément crucial dans ce "pivot to tv". L'un des outils phares permet aux créateurs de recevoir des suggestions de concepts de vidéos, des titres, des miniatures, voire même un plan et les premières lignes du script. Le modèle vidéo de DeepMind, « Veo », désormais intégré à YouTube Shorts, sera principalement utilisé dans la fonctionnalité « Dream Screen », qui révolutionne l’écran vert en générant des arrière-plans virtuels. De plus, un nouveau bouton « Hype » placé à côté du bouton “like” permettra aux spectateurs de soutenir leurs créateurs favoris d’un simple clic, le faisant grimper dans un classement des vidéos les plus populaires.  « YouTube semble convaincu que l'IA peut simplifier presque toutes les facettes du travail des créateurs — et peut-être les inciter à produire encore plus de contenu », relate The Verge.

Malgré ces avancées technologiques prometteuses, YouTube fait encore face à des défis majeurs. Selon Les Echos, le géant de la vidéo en streaming peine encore à s'imposer comme la plateforme privilégiée pour la diffusion de programmes à gros budget. « Il faut un énorme volume de vues pour couvrir les coûts. La plupart des youtubeurs dépendent d'autres sources de revenus en plus des recettes publicitaires ». La prolifération des vidéos générées par l’IA pourrait exacerber cette problématique en rendant la compétition encore plus féroce. Dans une course où l'innovation ne laisse aucune place à l'hésitation, YouTube se prépare non seulement à consolider sa domination, mais à redéfinir les règles du jeu.

CETTE SEMAINE EN FRANCE

• Streaming : Arte multiplie les partenariats de distribution pour sa plateforme (Les Echos)
• La Poste sur le point d’abandonner les tarifs spéciaux pour la presse ? (Phrases)
• Le JDNews, nouveau magazine d’actualité lié au JDD, sort en kiosque ce mercredi (Le Parisien)
• Cafeyn se réinvente (CBNews)
• Les Etats généraux de l’information à la rescousse de la presse locale et de ses journalistes (Laurent Brunel)
• Inoxtag sur l’Everest, un documentaire viral qui rappelle la pollution de la plus haute montagne du monde (Le Monde)
• Thierry Breton démissionne de son poste de commissaire européen en se disant désavoué par Ursula von der Leyen (Le Monde)

Breaking news:

My official portrait for the next European Commission term pic.twitter.com/BolWcdYiPU

— Thierry Breton (@ThierryBreton) September 16, 2024

3 CHIFFRES

• En 2024, seulement 26 % des Américains déclarent obtenir souvent ou parfois des informations via des supports imprimés, d’après le Pew Research Center.
• 94 % des personnes estiment que les journalistes devraient expliquer leur utilisation de l'IA, selon Trusting News.
• Les recettes publicitaires de Spotify devraient atteindre 2,1 milliards de dollars en 2024, selon les prévisions de Warc Media.

LE GRAPHIQUE DE LA SEMAINE

Plus de la moitié des utilisateurs de TikTok se tournent désormais régulièrement vers la plateforme pour s'informer

Source : Pew Research Center

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• Quand vos collègues découvrent que vous êtes un influenceur sur les réseaux sociaux (Wall Street Journal)
• X a été bloqué au Brésil. Est-ce important pour le journalisme ? (Reuters Institute)
• Les nouveaux adversaires des Big Tech en Europe (Wired)
• Le monde de l'Information en 2050 : Des scénarios possibles (INA / EGI)

DISRUPTION, DISLOCATION, MONDIALISATION

• Près de la moitié de la génération Z souhaiterait que TikTok « n'ait jamais été inventé », selon un sondage (Fortune)

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE, DÉSINFORMATION

• Les journalistes de Hong Kong harcelés dans une "attaque systématique et organisée" (The Guardian)
• RSF, CFI, SINGA et la MDJ lancent un projet de soutien des journalistes en exil à Paris : “Voix en Exil” (RSF)
• L’autorité américaine de la concurrence accuse les géants des réseaux sociaux de «surveillance de masse» (Le Figaro)
• LinkedIn a besoin de vos données pour entraîner l'IA (Medium)

LÉGISLATION, RÉGLEMENTATION

• TikTok va bientôt comparaître devant les tribunaux (The Verge)
• Elon Musk qualifie le gouvernement australien de « fasciste » à la suite de sa loi sur la désinformation (Reuters)
• Le gouverneur de Californie signe des lois visant à réprimer les « deepfakes » électoraux générés par l'intelligence artificielle (AP News)
• Publicités en ligne : Google gagne son recours en justice contre l'Union européenne (euronews)

JOURNALISME

• "Good enough is perfect" - The Economist lance des articles en traduction automatique, sans intervention humaine (PressGazette)
• 4 $ pour une semaine ? 7 $ ? 10 $ ? Le Washington Post teste les « paiements flexibles » (NiemanLab)
• Allemagne : le célèbre journal « taz » va arrêter sa version papier en 2025 (Ouest-France)
• Le Guardian en pourparlers pour vendre le plus ancien journal dominical du Royaume-Uni à une start-up numérique (New York Times)
•  La campagne de Harris dit qu'elle rencontrera la presse (selon ses conditions) (New York Times)
• BBC News intensifie sa couverture de l'élection américaine (Adweek)
• Le personnel technique du New York Times menace de faire grève pendant la période électorale (Semafor)

STORYTELLING, NOUVEAUX FORMATS

• Comment Substack transforme l'information locale (inews)
• Substack se fait une place dans le monde de la mode (Washington Post)

ENVIRONNEMENT 

• L'IA a permis à Shein de devenir le plus grand pollueur de la fast fashion (Wired)
• Les scientifiques deviennent une source d'espoir et d'information sur TikTok et Instagram (Los Angeles Times)

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• Instagram rend les comptes des adolescents privés par défaut (New York Times)
• Meta suspend les médias d'État russes pour « activités d'ingérence étrangère » (The Guardian)
• Patreon lance des fonctionnalités pour automatiser la charge administrative des créateurs et les aider à gagner plus d'argent (TechCrunch)
• Kameto, streameur et patron de la KCorp : « Je ne pensais pas être un leader, moi » (Le Monde)

STREAMING, OTT, SVOD

• La ruée vers l'or du streaming à Los Angeles est révolue, laissant les travailleurs du cinéma et de la télévision sur le banc de touche (Sherwood)
• Comment Netflix a gagné la guerre du streaming (Financial Times)

AUDIO, PODCAST, BORNES

• Les narrateurs de livres audio d'Amazon peuvent désormais créer leurs propres clones vocaux en IA (Wired)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Les Nations Unies veulent traiter l'IA avec la même urgence que le changement climatique (Wired)
• BlackRock et Microsoft s'associent pour un nouveau fonds massif d'infrastructure en IA (Wall Street Journal)
• YouTube annonce des fonctionnalités d'IA de Google DeepMind pour les créateurs de Shorts (CNBC)
• Google présente des plans pour vous aider à distinguer les vraies images des fausses (The Verge)

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• Forbes Marketplace : La société SEO parasite essayant de dévorer son hôte (Lars Lofgren)
• Pourquoi Politis devient une coopérative (Politis)

... et une petite dose de "cuteness" fabriquée avec l'IA :

AI's Tiny, elegant white peacock pic.twitter.com/cDIrUnsnvE

— March (@theXofficially) September 19, 2024

Par Kati Bremme, Alexandra Klinnik et Océane Ansah

The post Liens vagabonds : YouTube, le nouveau géant de la télévision ? first appeared on Méta-media | La révolution de l'information.

Des rescapés des grands groupes aux jeunes loups de la start-up nation, une nouvelle vague de médias bouleverse le paysage journalistique. En quête d'impact, ces entrepreneurs de l'info expérimentent de nouveaux modèles économiques et éditoriaux pour s'adapter aux exigences d'une audience en mutation. Mais à quel prix pour l'intégrité éditoriale ? Le futur du journalisme se jouera-t-il avant tout sur les réseaux sociaux ?

Par Alexandra Klinnik du MediaLab de l’Information de France Télévisions

Créateurs de contenu, entrepreneurs, influenceurs, journalistes de formation, rescapés de la bollorisation : les acteurs qui souhaitent lancer leur propre média ne manquent pas !  Chacun a sa définition bien particulière de ce que doit être l’info. Pour les uns, un puissant outil marketing. Pour d’autres, un bien public essentiel. Face à un modèle économique du journalisme traditionnel à bout de souffle, ils expérimentent avec avidité de nouvelles stratégies en ligne, pour s’adapter à une cible jeune qui s’informe prioritairement sur les réseaux. Contrairement aux mastodontes historiques, ces nouveaux entrants bénéficient de structures agiles, leur permettant d’explorer de nouveaux formats et de s’adapter rapidement aux tendances changeantes de leur audience. Comment ces médias parviennent-ils à se financer ? Quels modèles économiques émergent pour répondre aux besoins de l’ère numérique ? Et quels sont les compromis à l’œuvre entre rentabilité commerciale et intégrité éditoriale ?

Les start-uppeurs de l’info

Ce sont les plus visibles sur les réseaux sociaux. Ils ont fait des études de commerce, ont suivi un cursus marketing, communication numérique et média, et aspirent à devenir les Xavier Niel de demain. Imprégnés de la culture « start-up », ils se lancent dans le monde de l’information avec l’ambition de bâtir des empires médiatiques. Pour eux, l’information est un produit, au service d’un business à faire prospérer. C’est ainsi la philosophie totalement assumée du Crayon, un média en ligne créé il y a quatre ans, qui selon France Culture, « taille dans le buzz » et compte près de sept cent mille abonnés sur les réseaux sociaux.

Fondé par quatre jeunes entrepreneurs et créateurs de contenus – Wallerand Moullé-Berteaux, Sixtine Moullé-Berteaux, Antonin Marin (qui lui a fait des études de mathématiques), et Jules Stimpfling (diplômé du master in International Security à l'École des affaires internationales (PSIA)) – ce pure-player vise à donner la parole à tous, au nom de la liberté d’expression. Des personnalités de tous horizons, y compris de l’extrême-droite, y ont été invitées : l’influenceuse et ancienne porte-parole de Génération Identitaire Thaïs d’Escufon, Florian Philippot, et même Éric Zemmour. Quelques jours avant l’élection européenne du 9 juin, Emmanuel Macron a lui aussi pris la parole sur ce média « de débat d’idées et d’opinions », dont l’audience est majoritairement composée de 18-34 ans. L’assurance de toucher une cible jeune, avant ses passages plus traditionnels sur les plateaux de TF1 et France 2. Le Président a compris la force de frappe de ces nouveaux types de médias.

La particularité du média ? Pas de journalistes ! « On traite et analyse des faits, puis on reçoit des personnalités selon les faits. On fait du journalisme mais on n’est pas des journalistes », justifie au micro de Mediarama, Antonin Marin, co-fondateur et directeur « des rédactions » du Crayon, redéfinissant ainsi le concept même du journalisme ! « Un média, tel que défini par Naval Ravikant (une figure emblématique de la Silicon Valley) est une audience ou une communauté qui se retrouve dans une proposition de contenu », précise sur LinkedIn Wallerand Moullé-Berteaux. Le Crayon est considéré comme le « vaisseau amiral » du groupe, aux activités commerciales diversifiées : ad breaks, sponsoring, brand content... Leur agence de RP, le Surligneur, représente 40 % de leur chiffre d’affaires. Ils ont également levé un million d’euros auprès de plusieurs investisseurs et business angels dont Xavier Niel et Pierre-Edouard Stérin, fondateur de Smartbox, et libertarien conservateur. « Nous cherchons à créer une entreprise rentable, d’où nos piliers d’agence. Si on annualise les trois derniers mois, on atteint deux millions de chiffre d’affaires. Nous sommes rentables depuis le début, une obsession qui découle de ma culture du ‘make money’ », affirme Wallerand Moullé-Berteaux, pour qui il s'agit de la troisième entreprise.

Dans les cinq ans, l’entreprise vise à être un « mass media incontournable » en adoptant la philosophie du « media led company » un concept que vulgarise le fondateur du Crayon sur LinkedIn : « La media-led-company est une entreprise qui dirige son développement avec le média comme première brique d’activité pour l’amener vers des business propriétaires à destination de l’audience. » Il cite ainsi l’exemple de Welcome to the Jungle, « qui a révolutionné le monde du recrutement grâce à la puissance de son média ». En d’autres termes, le média sert de vitrine pour faire fructifier d’autres business. « Les prochains leaders du marché ne seront pas ceux qui ont les meilleurs produits, mais ceux qui possèdent un excellent positionnement et un média puissant », expliquait-il dans le podcast Jeunes Branches.

Ces nouveaux entrants remplacent le mot « information » par « contenu », redéfinissant ainsi les fondements même du journalisme traditionnel. Pour une internaute LinkedIn, il s’agit dans d’autres termes « d’une agence de com’ avec la crédibilité d’une agence de com ». Cette remarque souligne la dilution de la frontière entre communication commerciale, influence et information journalistique, rendant les motivations des créateurs de contenu ambiguës. Selon ces jeunes entrepreneurs, la prochaine ère du marketing sera celle des médias. Cette vision pose un défi majeur : comment maintenir une information de qualité, équilibrée et vérifiable, dans un modèle où le contenu est principalement guidé, non pas par une ligne éditoriale et une déontologie professionnelle, mais par des objectifs commerciaux ? Il est crucial de réfléchir aux conséquences de cette transformation sur la démocratie, car l’information, lorsqu’elle est traitée comme un simple outil marketing, risque de perdre sa valeur en tant que bien public essentiel.

Le brand content, une source de revenus pour les nouveaux médias

Le Crayon n'est qu'un exemple parmi d'autres de nouveaux médias souhaitant établir un groupe médiatique grâce à des partenariats commerciaux. Les créateurs de contenu exploitent les plateformes pour diffuser leurs productions, attirant de vastes audiences et générant des revenus grâce à la publicité et aux collaborations avec des marques. HugoDécrypte, avec ses millions de vues sur YouTube et autres réseaux sociaux, illustre parfaitement cette nouvelle forme de média, inspirée par les géants de l’info-divertissement comme Brut et Konbini. Les réseaux sociaux d’HugoDécrypte cumulent désormais plus de 14 millions de followers, surpassant ainsi Le Monde.

Sur la page Instagram d’HugoDécrypte, qui compte 3,6 millions d’abonnés, les publications réalisées pour des marques coexistent, en sandwich, avec des contenus informatifs. Le 12 décembre 2023, Hugo Travers a ainsi fait la promotion de la marque Cartier sur le compte Hugodecrypte.pop (823 000 abonnés), avec une indication de collaboration commerciale. C’est ce qu’on appelle le brand content. Cette proximité peut brouiller la distinction entre information et communication. Pour un jeune public, il peut être difficile de reconnaître un partenariat rémunéré. C'est pourquoi le Clemi a mis à disposition des ressources sur son site pour aider à comprendre ce modèle économique, (également utilisé par les médias traditionnels).

Capture d’écran du compte Instagram Hugodecrypte.pop – Collaboration commerciale Cartier

Des journalistes « traditionnels » accompagnés par des entrepreneurs

À côté de créateurs de contenus, de nombreux journalistes quittent les grands groupes pour lancer leurs propres projets, motivés par le désir de retrouver une certaine liberté éditoriale et de s’engager dans des initiatives plus en phase avec leurs valeurs. Comme le remarque Julie Joly, directrice du Nouvel Obs : « Le lien d’antan entre les journalistes et les rédactions n’existe plus : ils ne sont plus liés à une rédaction du début à la fin de la carrière. » La désillusion peut parfois être un moteur puissant.

Grégory Raymond, ancien de Capital Magazine, Brief.me et Huffington Post, raconte en souriant : « J’ai financé Big Whale avec mon chèque de départ de Prisma, après son rachat par Vivendi. » Avec Raphaël Bloch (ancien de L'Express, Les Échos et Reuters), ils co-fondent le premier média européen dédié à la token économie. Pour compléter leur équipe, ils choisissent, non pas un journaliste mais Dimitri Granger, ancien de Publicis et « crypto believer ». « Il a dix ans de plus que nous et l’expérience de la gestion d’entreprise et de la comptabilité », soit un solide allié pour affronter les nuits blanches et les affres de l’entreprenariat.

Raphaël Bloch est d’ailleurs convaincu que le journalisme et l'entrepreneuriat sont étroitement liés. Selon lui, un bon journaliste est un entrepreneur dans l'âme, même s'il ne s'en rend pas compte. Il explique sur Médianes : « Au risque de choquer, je pense fondamentalement qu'un bon journaliste est un entrepreneur. Quels que soient nos supports, que ce soit radio, télé, écrit, on gère notre sujet, on va chercher nos sources à droite, à gauche, on rend compte de notre travail au quotidien, on est finalement des entrepreneurs qui s'ignorent. » Pour « l’infopreneur », l'entrepreneuriat est non seulement nécessaire pour la survie et le succès des médias modernes, mais aussi une extension naturelle du rôle du journaliste.

Cette vision guide la stratégie et le développement de Big Whale. À trois, ils développent un modèle économique diversifié avec une approche test and learn : abonnements groupés pour des entreprises offrant des fonctionnalités premium, participation payante à des événements où sont présentés des rapports de marché, analyses de projets… Dernièrement, ils réfléchissent à un modèle économique d’un nouveau genre, « sans sacrifice financier, avec un partage de revenus entre la plateforme de publication et la communauté qui l’utilise, avec des incitations économiques pour contribuer ou enrichir les contenus ». Un peu à la manière de Wikipédia où chacun est invité à enrichir une page ? « On peut effectivement y voir un modèle proche, sauf qu’il y aura un protocole blockchain sous l’interface et des incentives financières à participer pour créer du contenu ou de l’améliorer. » À plus long terme, l’ambiance est de « décentraliser la gouvernance de ce système lorsqu’il sera éprouvé ». La communauté joue un rôle central chez Big Whale. Sur leur plateforme Discord, 1 500 abonnés actifs incarnent les « têtes chercheuses » du média, enrichissant, précisant, rebondissant sans cesse sur des informations de l’écosystème. Cette approche participative contraste avec les médias traditionnels, où l'information est émise de manière verticale. « Un média veut dire beaucoup de choses et en même temps presque plus rien. On est tous capables aujourd’hui de produire de l’info », résume Raphaël Bloch.

Ils ne sont pas les seuls journalistes de formation à s’être lancés dans les nouveaux médias financiers. Léa Lejeune, après avoir couvert les rebondissements des entrepreneurs de la Tech pour Challenges pendant de nombreuses années, a créé Plan Cash, une newsletter féministe et gratuite qui parle d’argent… Qui s’est doublée avec le temps d’une plateforme d’éducation féministe « qui parle d’argent aux femmes sans tabou », dont elle fait la promotion sur la page Instagram du média (80 000 abonnés). Dans cette aventure entrepreneuriale, la journaliste est accompagnée de Morgane Dion, plus de 12 ans d’expérience corporate dans les licornes françaises. Le modèle économique repose, entre autres, sur des formations assurées par des « experts certifiés » à « une époque où les influenceurs donnent des mauvais conseils financiers sans avoir le background et sans respecter les règles de l’AMF (Autorité des marchés financiers) » : « Les médias ont du mal à s’en sortir avec un modèle économique dans lequel ils sont dans la délivrance d’infos parce qu’il y a trop de concurrence. L’idée, c’était de gagner de l’argent sur la partie servicielle du média. Aujourd’hui, les gens sont de moins en moins prêts à payer pour de l’information mais ils sont de plus en plus prêts à payer pour des formations », assure-t-elle. Pour l'instant, l'entreprise ne bénéficie pas du statut d'entreprise de presse, car il est nécessaire que plus de 50 % de ses revenus soient issus de la production d'informations pour obtenir cette classification.

Ces nouveaux médias qui ne veulent pas travailler avec les marques

Aujourd’hui, la collaboration avec les marques n’est pas la principale source des revenus des start-ups de l’info. Selon une nouvelle étude publiée par le Centre de recherche sur les médias et le journalisme et la fondation Maharat, elles sont seulement 18 % à indiquer générer des revenus grâce à la pub. En perspective, les abonnements et autres méthodes de financement participatif sont utilisés par 30 % des acteurs. Les médias indépendants se distinguent par leur volonté de préserver une indépendance éditoriale, loin des pressions économiques exercées par les annonceurs ou les grands groupes. Cette indépendance est souvent perçue comme essentielle pour garantir la qualité et l’intégrité de l’information.

Pour assurer leur viabilité économique, les médias indépendants adoptent des stratégies de financement variés. Le financement participatif par exemple est devenu une méthode courante pour lancer de nouveaux projets. La Déferlante, un média féministe sans pub, a réussi à fédérer sa communauté dès ses débuts grâce à une campagne de financement participatif, atteignant 10 000 abonnés et embauchant neuf employés. Elle a permis à son lectorat d’entrer au capital à partir de 100 euros, une initiative qui a séduit 750 personnes. Dernièrement, c’est le média Fracas, lancé par Philippe Vion-Dury, ex-rédacteur en chef de Socialter, qui a réalisé « le plus gros lancement de média indé écolo » : « Dans la catégorie média papier, on se place dans le top 10 des lancements de médias en financement participatif, derrière des médias comme Epsiloon, La Déferlante, SoGood, Zadig ou Ebdo » a écrit Philippe Vion-Dury le 16 mai sur LinkedIn. Le média a ainsi réussi à rassembler pour son lancement 160 000 euros, 1 500 abonnés à la revue papier, et une communauté de 16 000 membres sur Instagram. LinkedIn a notamment joué un rôle dans le succès de la campagne.  Le réseau est selon lui « très indiqué pour bâtir son lectorat et sa campagne : les CSP+ y sont largement représentés, et on ne construit que très difficilement l’équilibre d’un média sans attirer à soi un lectorat capable de soutenir par la dépense ».

Des modèles hybrides, combinant abonnements et dons, permettent également de maintenir une indépendance vis-à-vis des annonceurs. Blast, un média indépendant lancé grâce à une campagne de crowdfunding qui a récolté près d’un million d’euros (contre les 100 000 demandés), en est un exemple notable. Un succès que l’on peut attribuer aussi à la notoriété du fondateur, Denis Robert.

Malgré leur dynamisme, les médias indépendants font face à des défis importants, notamment en termes de pérennité financière et de capacité à maintenir une indépendance éditoriale dans un environnement économique difficile. Pour lancer un média dans de bonnes conditions, il faut par exemple bien compter sur 30 000 euros, selon Philippe Vion-Dury. De plus, la reconnaissance en tant qu’entreprise de presse, nécessaire pour obtenir certaines subventions et avantages fiscaux, peut être difficile à obtenir pour des structures innovantes. Et quand bien même ils toucheraient les aides à la presse, ils n’accèderaient en fait qu’à une part infime du gâteau, comme le souligne le fondateur de Mediapart Edwy Plenel : « les principaux bénéficiaires sont les médias possédés par des milliardaires, notamment le richissime Bernard Arnault », qui a ainsi touché pour ses journaux plus de 14 millions d’euros d’argent public en 2022.

Les nouveaux médias ne sont pas une solution miracle. Ils doivent encore faire face à des obstacles importants, notamment la réticence des utilisateurs à payer pour des informations et la difficulté à obtenir des subventions et des avantages fiscaux réservés aux entreprises de presse traditionnelles. La reconnaissance croissante de la nécessité de soutenir les médias d'intérêt public par les aides publiques, les organismes de réglementation, et les donateurs est un pas dans la bonne direction, mais elle doit s’intensifier pour créer un environnement où ces médias pourraient véritablement prospérer.

En outre, certaines start-ups de l’info traitent le journalisme comme une industrie ordinaire, en mettant l’accent sur le marketing et l’audience. Pas besoin de journalistes, mais de producteurs de contenus couteaux suisses… Peut-on se prétendre média sans son socle fondamental ? Si cette approche apporte de la flexibilité, elle soulève des défis majeurs en termes de crédibilité et d'intégrité. Par ailleurs, les nouvelles plateformes de Web3, encore en phase émergente, promettent de transformer radicalement les usages médiatiques. Bien que leurs impacts concrets se fassent encore attendre, elles offrent des perspectives inédites pour les journalistes et les « consommateurs » d'information, notamment par des modèles décentralisés et participatifs. En fin de compte, l'avenir des nouveaux médias dépendra de leur capacité à innover sans sacrifier l'intégrité de l'information et à s'adapter aux technologies de demain.

The post Les nouvelles start-ups de l'info : le futur du journalisme ? first appeared on Méta-media | La révolution de l'information.

Que nous réserve l’avenir ? Méta-Media a choisi pour vous une série de podcasts pour explorer cette question. Profitez de l'été pour ouvrir vos écoutilles !

Le code a changé

On the Media (OTM)

"On the Media" (OTM) est un podcast américain incontournable pour ceux qui cherchent à comprendre les mécanismes et les enjeux du monde médiatique. Animé par les journalistes Brooke Gladstone et Micah Loewinger, le programme plusieurs fois primé se distingue par sa capacité à décortiquer les complexités médiatiques, allant de la désinformation à l'évolution des mouvements politiques comme le MAGA (Make America Great Again). Par exemple dans l’épisode « How the media created J.D. Vance » du 19 juillet, l'animatrice Brooke Gladstone analyse le rôle des médias dans l'ascension du chouchou et colistier de Donald Trump à la présidentielle. De nombreux sujets sont centrés sur les événements de la semaine précédente et critiquent la manière dont ils ont été couverts par les médias. Cependant, la force d'OTM réside dans sa diversité thématique. Le programme observe à la loupe toute la palette de ce que peut représenter un média en passant par la presse en ligne, la télévision, la radio, les nouveaux médias, Netflix, YouTube, la téléréalité etc. Par exemple, dans l'épisode « Making Fun of Public Radio », Brooke Gladstone s’entretient avec les créateurs de la série télévisée « In the Know », une parodie de NPR (National Public Radio). La série qui met en scène des marionnettes un peu loufoques n’est pas sans rappeler les « Guignols de l’info » diffusé en France jusqu’en 2018. Le but de l’épisode est de décrypter les raisons pour lesquelles la radio publique est un terrain si fertile pour la satire. OTM permet donc à ses auditeurs de naviguer dans l’océan tumultueux de l’information avec un œil plus avisé. Le petit plus ? Des ressources supplémentaires sont toujours données en complément de l’émission pour aller plus loin.

Les épisodes d'environ une heure traitent les sujets les plus brûlants de la semaine, avec des titres foisonnant d’émojis, pour parfaire la ligne éditoriale décalée. Le message est clair. Ici, on parle de sujets sérieux sans se prendre au sérieux. Par exemple, dans l'épisode «  BeReal + Voodoo Du rififi entre OpenAI et Microsoft  Musk touche sa prime », « Silicon Carne » explore l'acquisition de BeReal par Voodoo pour 500 millions d'euros et les tensions entre OpenAI et Microsoft, ainsi que le bonus controversé de 46 milliards de dollars accordé à Elon Musk, illustrant les dynamiques de pouvoir en cours dans l'industrie. Un must à écouter !

The post Podcasts d'été : Nos recommandations first appeared on Méta-media | La révolution de l'information.

Les beaux jours sont là ! A cette occasion, Méta-Media vous suggère une série de livres pour apprendre, vous inspirer, faire une pause  que vous soyez au bord de la mer ou bien chez vous. Bonnes lectures !

The Power of one - Frances Haugen

Frances Haugen est devenue célèbre en 2021 après avoir dénoncé les agissements de Facebook devant le Congrès américain. En tant qu'ancienne cheffe de produit de l'équipe de désinformation civique, elle a révélé comment le réseau social propageait délibérément des informations toxiques et favorisait la violence. Ses révélations, basées sur 22 000 pages de documents internes, ont montré que Facebook était pleinement conscient des dommages qu'il causait.

Après la publication des "Facebook Files", la valeur boursière de l'entreprise a chuté de 75 %, subissant la plus lourde perte en une seule journée jamais enregistrée pour une entreprise américaine cotée en Bourse. Frances Haugen avait rejoint Facebook en 2019, malgré la mauvaise réputation de l'entreprise, dans l'espoir de réduire la désinformation. Elle écrivait alors : “À l’époque, accepter un poste chez Facebook n’apportait aucune valeur ajoutée au CV ; au contraire, cela risquait d’entacher mon image de marque.” Son autobiographie retrace, avec le plus de sincérité possible, son parcours de "nerd", l’absence de considération éthique des boites tech, les risques encourus devant de telles révélations. La lanceuse d’alerte met en garde contre les dangers d'une technologie non régulée et appelle à une plus grande transparence et responsabilité des réseaux sociaux. Elle critique également la dynamique perverse où les compétences acquises par les législateurs sont désormais rapidement récupérées par les géants de la tech avec des offres salariales alléchantes, sapant ainsi les efforts de régulation. Les assistants parlementaires sont ainsi débauchés par les géants de la tech avec des salaires cinq fois supérieurs à ce que leurs sénateurs peuvent se permettre de leur payer… Un récit éclairant sur les “entrailles” de la tech !

Elon Musk - Walter Isaacson

Elon Musk se perçoit comme un « personnage de bande dessinée essayant de sauver le monde », avec des ambitions titanesques et un ego colossal. C’est ce que rapporte Walter Isaacson, qui a suivi l’entrepreneur milliardaire pendant deux ans. Le biographe a ainsi pu observer de près cet « homme capricieux », avec un accès privilégié à certaines réunions, emails et textos de la star de la tech. Il a ainsi été témoin de moments clés tels que le rachat de Twitter, l'explosion en vol de la fusée Starship, et la naissance de plusieurs de ses enfants.

On en retient qu'Elon Musk règne en maître absolu sur ses entreprises. Il impose des réductions drastiques de coûts dans certains domaines tout en insistant pour que d'autres dépenses soient illimitées. Chez Tesla, son obsession pour les détails du design automobile a fait exploser les coûts et vidé la trésorerie de l’entreprise. Lorsqu'il a acquis Twitter, il a licencié 75 % du personnel et s'est réjoui de renvoyer les dirigeants pour les empêcher de percevoir leurs indemnités de départ. Le rachat du réseau social est en partie due à son addiction aux tweets et à son désir de prendre une revanche sur un passé difficile. Ayant été harcelé à l’école en Afrique du Sud, l'entrepreneur souhaitait posséder son « propre terrain de jeu ». Mais comme le souligne le New York Times, « posséder un terrain de jeu ne vous empêchera pas d’être malmené »…

Cette biographie n'est pas une enquête journalistique classique, mais plutôt un exercice d'admiration qui explore les multiples facettes et les démons d’un milliardaire fantasque, qui n’obéit qu’à ses lubies passagères. Divertissant et inquiétant.

Extremely Online : The Untold Story of Fame, Power and Influence on the Internet – Taylor Lorenz

« Je souhaite raconter des histoires qui ont été effacées de l'histoire par Silicon Valley », annonce Taylor Lorenz. Dans son ouvrage, la journaliste tech du Washington Post s'intéresse à un aspect souvent négligé des réseaux sociaux : l'expérience des utilisateurs eux-mêmes. Contrairement à des livres comme Hatching Twitter de Nick Bilton ou No Filter de Sarah Frier, qui se concentrent principalement sur l'aspect corporate des entreprises technologiques, Taylor Lorenz choisit de se pencher sur les individus qui ont façonné et redéfini le paysage des médias sociaux.

L'essai se distingue par son ambition de narrer l'histoire de l'internet social à travers les yeux des utilisateurs, du boom des blogs dans les années 2000 à l'ère de TikTok. La journaliste analyse comment des figures telles que les « mamans blogueuses » ont non seulement influencé le contenu en ligne, mais ont également été des pionnières dans la monétisation de leurs marques personnelles, devenant ainsi les premières influenceuses. « Pendant une grande partie de l'histoire des médias sociaux, Silicon Valley a été extrêmement hostile envers ces utilisateurs influents. Les fondateurs de la tech éprouvaient presque de la rancune face au pouvoir qu'ils exerçaient sur internet. Lorsque la pandémie a éclaté, ils ont commencé à parler de "l'économie des créateurs" comme si c'était quelque chose de nouveau, alors qu'ils l'avaient dénigrée pendant des décennies parce qu'elle était principalement pionnière par des femmes », explique l’ancienne journaliste du New York Times.

Taylor Lorenz explore également comment les adolescents ont réinventé la célébrité à travers des plateformes comme Vine. En mettant en lumière ces acteurs apparemment marginaux, elle révèle comment ils ont perturbé les structures établies du capitalisme moderne, créé de nouveaux secteurs économiques et redéfini les attentes en matière de contenu et de pouvoir.

La journaliste a d’ailleurs appliqué ce qu'elle a observé sur les réseaux sociaux à sa propre promotion. Pour booster la visibilité de son livre, elle a répondu publiquement à un commentaire désobligeant d’Elon Musk : : « En fait, ce qui a vraiment bien fonctionné, c’est quand j’ai répondu à Elon Musk. Il avait dit quelque chose de méchant à mon sujet, et j’ai répliqué en lui suggérant de lire mon livre. Cela m’a rapporté 100 commandes. »

The Anxious Generation – Jonathan Haidt

Chez les jeunes, une crise de la santé mentale est en cours. Jonathan Haidt, dans son livre The Anxious Generation, note une augmentation de 30% des cas de dépression et d’anxiété chez les enfants et les adolescents, qu’il qualifie d' « épidémie de santé mentale ». Selon le psychologue, les parents échouent en surprotégeant leurs enfants dans le monde réel tout en les « abandonnant » dans le monde virtuel.

Dans son essai, le psychologue propose des solutions pour limiter les effets nocifs de la technologie, telles que l’interdiction des smartphones avant le lycée et des réseaux sociaux avant 16 ans. Il compare les écoles sans interdiction de téléphone à une « apocalypse zombie » où les élèves ne communiquent pas.

Cette critique rejoint l’analyse de l’anthropologue David Le Breton dans La fin de la conversation, qui affirme que les smartphones isolent, non seulement les enfants, mais aussi les adultes : « Nous sommes de moins en moins ensemble, mais de plus en plus côte à côte, les yeux rivés sur nos écrans, sans plus nous regarder. On n’a jamais autant communiqué, mais jamais aussi peu parlé ensemble. »

The post Lectures d'été : Nos recommandations (1/2) first appeared on Méta-media | La révolution de l'information.

Fini le mépris de la presse traditionnelle envers les YouTubeurs : le festival de journalisme de Couthures-sur-Garonne, organisé par le groupe Le Monde, et parrainé par Camelia Jordana, a ouvert grand ses portes aux créateurs de contenus dits informatifs.

Par Alexandra Klinnik du MediaLab de l’Information de France Télévisions

Jean Massiet, Gaspard G, et Charlie Danger, entre autres, ont répondu présents pour partager les « secrets de fabrication » de ceux qui captivent les jeunes sur les réseaux sociaux, surpassant ainsi les médias classiques. Leur influence sur l'information est telle qu'un intervenant s'interroge : « Est-il devenu has been, dans l'écosystème médiatique actuel, de raisonner encore en termes de journalisme traditionnel ? ». La frontière de plus en plus floue entre influenceur et journaliste ne mérite-t-elle pas d'être réévaluée ?

Résumé des points clés

Journaliste ou influenceur : une étiquette fluctuante

Jean Massiet, vulgarisateur politique et Gaspard G, YouTubeur 

• Comment se définir par rapport à l’autre ? Pour le créateur Gaspard G – fort de 980 000 abonnés sur sa chaîne YouTube d’information généraliste – la réponse varie en fonction du contexte. « Cela dépend des jours et de la personne à qui je m’adresse », explique-t-il. « Je m’efforce de fournir une couverture des actualités la plus objective possible, entouré de professionnels. » Actuellement, il travaille avec une équipe de cinq salariés ainsi que des prestataires externes pour les recherches et les tâches administratives. Les journalistes qui collaborent avec lui possèdent une carte de presse. Un jeune festivalier a d’ailleurs été surpris de découvrir l’ampleur de son équipe : « Je n’étais pas conscient que tu étais aussi entouré », a-t-il commenté, habitué à ne voir qu’un seul visage (devenu logo) sur les vidéos.
• Jean Massiet, derrière la chaîne Twitch de vulgarisation politique BackSeat, ne s’embarrasse pas d’étiquettes et précise bien qu’il ne rentre pas dans la définition stricte de journaliste : « Mon métier va beaucoup plus loin parce que je suis aussi influenceur, producteur, chef d’entreprise», bref un homme-orchestre aux multiples fonctions, qui souhaite informer avant tout les jeunes. La moyenne d’âge de son public est de 24 ans.
• Les médias traditionnels effacent progressivement la barrière entre leurs mondes et ceux des créateurs de contenu en ligne. « Ce mépris, ce scepticisme que certains médias ont cultivé semble s’estomper aujourd’hui », observe Gaspard G. « Nous faisons notre métier avec sérieux et obtenons des interviews pertinentes, y compris avec Emmanuel Macron. Ils ont peut-être ressenti de la jalousie en voyant Volodymyr Zelenskyy choisir de s’entretenir avec Hugo Travers, 27 ans, plutôt qu’avec Laurent Delahousse ou David Pujadas », sourit-il. Jean Massiet partage ce sentiment et note un effort de la presse écrite, qui publie désormais « d’excellents articles » sur cet univers, avec « des enquêtes approfondies et bien écrites ». Cependant, il souligne que la télévision reste encore « réticente au possible » à l’égard du monde du web, qui bouscule les codes de l’information depuis cinq ans.

• Les médias traditionnels s’allient directement aux créateurs de contenus. France Télévisions collabore ainsi avec Hugo Décrypte pour l'émission "Face Cachée", produite par France 2 et Unfold, la société de production de Hugo Travers et Squeezie. Le partenariat fonctionne de la manière suivante : une semaine après la diffusion de l'émission, France TV perd les droits ou les co-partage pour permettre sa diffusion sur la chaîne privée d'Hugo Décrypte. Cet effort, bien que « louable », ne porte pas ses fruits, estime le journaliste de TF1 Paul Larrouturou, un autre intervenant, pour qui le succès n'est pas au rendez-vous. La recette d’une collaboration réussie reste encore à trouver.

Les partenariats, le bât qui blesse

• Pour faire vivre cette nouvelle manière d’informer sur les réseaux sociaux, la plus grosse problématique reste le financement, estime Gaspard G. Il a dû lui-même limiter la couverture internationale de son média – trois voyages sur le terrain en douze mois (Israël, Nouvelle-Calédonie, Ukraine) – en raison des « coûts astronomiques » de tels projets pour une structure encore fragile. « Aujourd’hui, malheureusement, on ne dispose pas d’aides publiques, et notre génération n’a pas l’habitude de payer pour l’info », estime-t-il. Pour assurer ses arrières, le créateur de contenu n’hésite donc pas à faire appel aux annonceurs. « On fait avec nos armes pour pouvoir créer un modèle de revenu et payer nos équipes », justifie-t-il. Dans ses vidéos d’actualités, il représente ainsi les intérêts de ses clients. « Pendant une minute, il peut m’arriver de parler d’un VPN, d’une marque, d’un service », explique-t-il. C'est pourquoi certains hésitent à le considérer comme un journaliste. Selon la charte de Munich, le "Saint Graal du journalisme", il ne faut "jamais confondre le métier de journaliste avec celui du publicitaire ou du propagandiste ; n'accepter aucune consigne, directe ou indirecte, des annonceurs". « Je te considère comme un confrère. La grande question reste le modèle économique. Moi, je suis salarié d’une rédaction, j’ai le confort d’avoir un salaire qui tombe tous les mois », répond Paul Larrouturou, ancien de Quotidien.

De gauche à droite, Anaïs Carayon, directrice de la rédaction d'Urbania France, Paul Larrouturou, reporter chez TF1 et Gaspard G, créateur de contenus

• Pour Backseat, le fonctionnement repose sur un modèle similaire. L'émission est majoritairement financée par du financement participatif (au moins les deux tiers), tandis que le reste provient de partenariats. En tout, le budget annuel s'élève à un demi-million d'euros. « Mon public ne m'en veut absolument pas pour les partenariats, parce que je leur explique à quoi ils servent. Je m'assure toujours que le partenariat ait un intérêt éditorial. Cela ne m'intéresse pas de faire de la publicité pour une marque dont je me fiche. En revanche, interviewer le PDG d'une entreprise pour poser des questions citoyennes et faire le lien avec ma chaîne où je parle politique, ça m'intéresse », raconte Jean Massiet. Le streamer affirme être l'un des leaders auprès d'un public particulièrement difficile à atteindre : les jeunes. La plupart de ses clients sont des institutions souhaitant s'adresser aux jeunes, « pas forcément pour faire passer des idées, juste pour dire bonjour », comme l'a fait récemment la Cour des comptes.
• En fin de compte, la transparence envers son audience est essentielle. Il s'agit toujours de maintenir la confiance par l'explication et la justification. « L'enjeu, c'est la confiance et la crédibilité envers ton public. Il n'y a pas forcément de règles écrites. Il y a une loi qui encadre les influenceurs, mais elle a été rédigée avec les pieds », estime Jean Massiet. « L'important est de ne pas perdre la confiance que les gens placent en nous. C'est un contrat de confiance, une sorte de common law qui se développe avec le temps entre les influenceurs et leur public, en l'absence de règles plus précises imposées par les plateformes. » Il n'est d'ailleurs pas favorable à ce que les plateformes imposent leurs règles, car ce sont des entreprises américaines avec une culture américaine, dont les règles s'appliquent encore mal en Europe.
• Par ailleurs, cette transparence est de plus en plus demandée par l'audience, rappelle le journaliste Vincent Manilève, notamment depuis les polémiques sur les placements de produits effectués par les « influvoleurs ». Il estime qu'une prise de conscience a eu lieu depuis.

Sourcer ses vidéos : une pratique journalistique devenue indispensable chez les créateurs de contenus

• « Le public est un outil de contrôle démocratique », rappelle Jean Massiet. L’audience exige désormais que les vidéos et les images soient sourcées. Selon une étude du Financial Times, avoir des sources fiables, en lesquelles les jeunes peuvent avoir confiance, arrive en priorité dans les demandes des jeunes.

William Audureau, journaliste au Monde et Jean Massiet, vulgarisateur politique

• Depuis le bad buzz de Squeezie (Lucas Hauchard), la vigilance du public a redoublé, selon Vincent Manilève. En 2019, le plus grand YouTubeur français (catégorie formats longs) a publié une vidéo sur les pyramides où il privilégiait les théories fantastiques aux théories scientifiques. « Ça reste une vidéo "théorie du complot" », s'était-il excusé. « C'était une vidéo de désinformation massive, alors qu'il avait une responsabilité éditoriale », explique le journaliste spécialisé dans Internet. Finalement, Squeezie a présenté ses excuses et supprimé la vidéo, bien qu'elle soit encore disponible sur DailyMotion. Depuis cet incident, il veille à sourcer et citer ses références, notamment le New Yorker.
• Apprendre à utiliser des sources fiables et à respecter le cadre légal est un exercice complexe pour les YouTubeurs. Pour Gaspard G, l'utilisation d'extraits d'archives a été particulièrement ardue. Lorsqu'il a commencé à réaliser des vidéos avec son monteur, il a été plongé dans un « Far West total », ne disposant pas comme dans les grandes rédactions de services juridiques. « Un nombre incalculable de nos vidéos ont été retirées de la plateforme parce que nous n'avions pas tous les droits nécessaires pour citer des archives de TF1, France 2, Blast, Mediapart. Je pensais que cela relevait du droit de citation, mais ce n'était absolument pas le cas », se remémore-t-il. Parfois, la source n’était pas correctement citée ou l'image était zoomée avec une texture superposée, dissimulant ainsi le watermark de la chaîne. En conséquence, ils ont reçu de nombreuses mises en demeure et des vidéos entières ont été supprimées de leur chaîne. Aujourd'hui, le YouTubeur a amélioré ses pratiques et s'appuie sur l'INA, qui propose un forfait permettant aux créateurs de contenus d'utiliser les archives pour un total de 1000 euros par an.
• Pour que l’apprentissage continue de manière pérenne, l’UNESCO a ainsi un mandat sur l’éducation aux médias et met en place un programme pour ces créateurs de contenus qui les aident à « avoir les bons codes pour informer », note Vincent Manilève. Lui-même, en tant que journaliste web spécialisé, est en contact avec une université des Etats-Unis pour les aider à retranscrire et localiser un cours en ligne à destination des influenceurs pour les aider à mieux informer et à suivre les règles de déontologie.

L’avenir ?

• Comment les créateurs de contenu voient-ils l’avenir ? « Pas à la télévision », rétorque Jean Massiet : « Si la télé reste majeure en termes d’audience, en termes de génération, il y a un décrochage qui est absolument phénoménal ». Lors de la saison 2022-2023, l'âge moyen des téléspectateurs du journal télévisé de France 2 était de 63 ans et de 57 ans pour celui de TF1, selon Médiamétrie. Il cite ainsi Ikea qui a fait un rapport sur l’aménagement intérieur des ménages dans les pays développés. Aucune télévision n’était représentée devant les canapés. « Cette modification anthropologique est une très mauvaise nouvelle pour la télévision, qui va disparaître des salons des gens» prédit-il. Plus prosaïquement, il ne voit pas l’avenir de sa chaîne sur le format télévisé en raisons de coûts de production. « C’est scandaleusement cher de maintenir à flot une chaîne de télévision. Sur LCP, Public Sénat, c’est 7,5 millions d’euros d’infrastructures par an ! », dénonce le vulgarisateur.
• Gaspard G anticipe une spécialisation progressive des créateurs de contenus dans les cinq à dix prochaines années. « À l'heure actuelle, Hugo Décrypte fait du JT, je couvre l'actualité froide, et Charles Villa s'intéresse aux sujets d'actualité brûlants… Nous verrons une montée en puissance de YouTubeurs qui choisiront de se spécialiser dans des créneaux particuliers du journalisme. Il est aussi essentiel de permettre à ces jeunes structures de trouver leur équilibre financier, car les coûts peuvent être très élevés », observe-t-il.

Aujourd’hui, les règles du jeu médiatique changent. La crédibilité est non pas donnée, par la profession mais par les gens qui regardent les contenus. Les créateurs, loin d’être de simples diffuseurs de divertissement, jouent désormais un rôle crucial dans la diffusion de l’information, captant un public jeune et diversifié souvent délaissé par les médias traditionnels. En se mettant à leur hauteur, ils parviennent à ouvrir le dialogue, et développent une proximité à la fois en ligne et « in real life »  – Jean Massiet, par exemple n’hésite pas à parcourir la France pour des apéros organisés avec sa communauté sur Discord. Il est crucial que le secteur continue de naviguer entre innovation et rigueur pour assurer la pérennité et la fiabilité de l’information dans cette ère numérique. La question demeure : comment les médias traditionnels et les créateurs de contenu pourront-ils collaborer efficacement pour offrir une information de qualité dans un paysage en perpétuelle mutation ? La réponse pourrait bien façonner le journalisme de demain.

The post Au festival de journalisme de Couthures-sur-Garonne, les créateurs de contenus sur le devant de la scène first appeared on Méta-media | La révolution de l'information.

L’internet, cet océan de connaissances en perpétuelle expansion, est-il en train de se vider de son contenu ? Selon une récente étude du Pew Research Center, de vastes pans de ce réservoir numérique sont en train de disparaître, défiant l’idée que le web est une archive immuable, au moment même où les IA génératives ingurgitent à toute vitesse ce qui en reste pour générer un nouvel Internet.

Le contenu disparaît sous nos yeux

L’étude révèle ainsi des statistiques alarmantes : 38% des pages existantes en 2013 ne sont plus accessibles dix ans plus tard. Même les pages les plus récentes ne sont pas à l’abri de cette tendance, avec 8% des pages existant en 2023 ayant déjà disparu. Cette « dégradation numérique » touche toutes les sphères, des sites gouvernementaux aux médias, en passant par Wikipédia. 23% des pages d’actualités contiennent au moins un lien « brisé ».

En Chine, la situation est critique. Presque toutes les infos publiées sur les portails d’info chinois, les blogs, les forums entre 1995 et 2005 ne seraient plus disponibles, rapporte le New York Times. La journaliste Li Yuan se souvient des « excellentes couvertures médiatiques » du grand tremblement de terre du Sichuan le 12 mai 2008, qui a fait plus de 69 000 morts, une époque où « les journalistes avaient plus de liberté que ne le permettrait généralement le Parti communiste ». Elle ne retrouvé aujourd'hui aucun de ces articles. 

Pourquoi ce fossé qui se creuse ?

Il est d’abord techniquement difficile et coûteux pour les sites web d’archiver du contenu plus ancien, et pas seulement en Chine. Certains sites sacrifient ainsi du matériel ancien sur l’autel de Google, pour améliorer leur référencement. Le moteur de recherche, privilégiant les sites web à chargement rapide. Pour qu’un site soit plus rapide, il suffit donc de se débarrasser de sa substantifique moelle.  « Si certains comprennent ce compromis – qui n’a jamais été agacé par la vitesse de chargement d’un site ? – en revanche, la raison de visiter un site web n’est sûrement pas la bannière pop-up, la demande d’envoi d’alertes, la vidéo qui se lance automatiquement, la multitude de publicités cliquables vous invitant à voir à quoi ressemble une femme qui avait 18 ans et qui en a maintenant 50, réagissait déjà en 2022 l’écrivain Simon Brew, au lieu de réduire tout cela, ce sont les archives qui sont rationnalisées et épurées...».

En Chine, la raison de cet effacement du web est aussi d’ordre politique. Le Parti communiste tient à maintenir à tout prix une pureté politique et une culture « harmonisée » du cyberespace chinois. Les entreprises internet ont ainsi plus d’incitation à la « sur-censure ».

Capture d'écran du site Unofficial Archives

Des actions de résistance

Face à cette menace croissante, des efforts sont déployés pour préserver le contenu en ligne. Des sites comme archive.org, un lieu d’archivages des sites internet, offrent une bouée de sauvetage pour le matériel menacé.  En Chine, le journaliste Ian Johnson a fondé le site web Unofficial Archives, qui cherche à préserver les blogs, les films et les documents en dehors de l’internet chinois. Cependant, ces efforts restent marginaux par rapport à la masse de données effacées quotidiennement.

Cette érosion rend internet moins reconnaissable, un espace qui « n’est plus pour les humains, par les humains », ont récemment alerté les universitaires Jake Renzella et Vlada Rozova sur The Conversation. Les interactions en ligne deviennent dès lors de plus en plus « artificielles » à mesure que l'intelligence artificielle et le contenu généré par des algorithmes gagnent en importance.

CETTE SEMAINE EN FRANCE

• Des fausses nouvelles et des vidéos cherchent à saper les Jeux olympiques de Paris (New York Times)
• La Russie vise les Jeux olympiques de Paris avec une fausse vidéo de Tom Cruise (The Guardian)
• Grève de vingt-quatre heures au sein de l’Agence France-Presse jeudi, au sujet du statut des journalistes hors de France (Le Monde)
• Plus d’un million d’euros ont été récoltés suite à la mobilisation Twitch “Streamers 4 Palestinians” (Ouest France)
• La Sacem atteint un nouveau record de collecte à 1,49 milliard d'euros (Correspondance de la Presse)
• « Il est de plus en plus difficile pour la presse judiciaire d’accomplir son travail » (Le Monde)
• Ten Ten : tout comprendre à l’application au succès surprise, qui inquiète jusqu’au ministère de l’intérieur (Le Monde)
• Européennes : mobilisation contre les violences numériques de genre (Next)

3 CHIFFRES

• 11 % des journalistes scientifiques ont été confrontés à des violences physiques dans le cadre de leur travail, selon le rapport Covering the Planet.
• Le New York Times passe la barre des 2 millions d'abonnés hors des Etats-Unis, dont plus d'un tiers en Europe (incluant le Royaume-Uni).
• Google a réduit l'affichage de ses AI Overviews, passant de 84 % à moins de 15 % des requêtes, selon une analyse de Search Engine Land.

LE GRAPHIQUE DE LA SEMAINE

Le coût de la plupart des grands services de streaming a augmenté de plus de 40 % depuis leur lancement

Source : Axios

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• OpenAI ressemble de plus en plus à Facebook (The Atlantic)
• Alerte rouge pour les médias de services publics", selon Tim Davie, le patron de la BBC (Deadline)
• La vie, la mort et la renaissance d'un média généré par une intelligence artificielle (New York Times)
• À mesure que l'Internet chinois disparaît, "nous perdons des parties de notre mémoire collective"(New York Times)

Capture d'écran du New York Times sur la disparition progressive des contenus sur internet en Chine

DISRUPTION, DISLOCATION, MONDIALISATION

• Le moteur de recherche DuckDuckGo a lancé son propre AI Chat, agent conventionnel anonyme et sécurisé (JustGeek)
• Nvidia, Microsoft et Apple sont plus gros que le marché boursier chinois (Bloomberg)

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE,DÉSINFORMATION 

• Les utilisateurs de TikTok reçoivent des informations trompeuses sur les élections, selon la BBC (BBC)
• Israël cible secrètement les législateurs américains avec une campagne d'influence sur la guerre de Gaza (New York Times)
• Elon Musk ne comprend pas les craintes de l'UE concernant la désinformation sur X, selon une fonctionnaire (The Guardian)

LÉGISLATION, RÉGLEMENTATION

• Italie : Meta écope d'une amende de 3,5 millions d'euros pour « pratiques commerciales déloyales » (La Repubblica)

JOURNALISME

• Le groupe français Keleops (01Net, Journal du Geek, Presse Citron) va racheter le site américain Gizmodo (Les Echos)
• Will Lewis défend sans détour le remaniement du Washington Post (Vanity Fair)
• Facebook supprime les publications d'informations locales et les qualifie de spam (Press Gazette)

STORYTELLING, NOUVEAUX FORMATS

• Facebook et Instagram sont officiellement des plateformes vidéo (Marketing Brew)

ENVIRONNEMENT

• Près de la moitié des journalistes couvrant la crise climatique à l'échelle mondiale ont reçu des menaces (The Guardian)

Capture d'écran du rapport Covering The Planet

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• Donald Trump rejoint TikTok, l'application qu'il avait tenté d'interdire en tant que président (Variety)
• Instagram confirme le test des publicités « inskippables » (TechCrunch)
• X autorise officiellement la pornographie sur sa plateforme (Twitter)
• Le bouton « J'aime » de YouTube ne s'affiche pas pour certains utilisateurs (The Verge)
• Les professionnels des relations publiques abandonnent X pour LinkedIn (Axios)

Source : Axios

STREAMING, OTT, SVOD

• Cauchemar à Hollywood ? Un nouveau service de streaming permet aux spectateurs de créer leurs propres émissions grâce à l'IA (The Hollywood Reporter)
• Le Canada contraint les plateformes de streaming à participer aux contenus locaux (L’Humanité)
• La NBA est proche d'un accord télévisé de 76 milliards de dollars, un moment décisif pour les médias et le sport (Wall Street Journal)

AUDIO, PODCAST, BORNES

• Les clients de Spotify sont les moins susceptibles d'annuler leur abonnement (Bloomberg)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Kling, le Sora chinois proposé par Kuaishou (SCMP)

• Un groupe d'ex ou actuels collaborateurs d'OpenAI dénonce ce qu'ils considèrent comme une culture de désinvolture (New York Times)
• Future you, un chatbot permettant aux utilisateurs de parler à une version “future” d’eux-mêmes (The Guardian)
• Comment diriger une armée de détectives numériques à l'ère de l'IA ? (Wired)
• L'entreprise xAI d'Elon Musk prévoit de construire un supercalculateur d'IA à Memphis (Wall Street Journal)
• Le nouveau conseil de l'IA de Meta est entièrement composé d'hommes blancs (TechCrunch)
• À quoi ressemble une belle femme selon l'IA (Washington Post)
• Le PDG de Zoom veut des clones d'IA en réunion (The Verge)
• OpenAI a corrigé un problème qui a causé une panne globale pour les utilisateurs de ChatGPT, qui a duré plusieurs heure (TechCrunch)

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• L'activité de licence d'IA de Shutterstock a généré 104 millions de dollars l'année dernière (Bloomberg)

Kati Bremme et Alexandra Klinnik

The post Liens vagabonds : Internet, le royaume de l’éphémère first appeared on Méta-media | La révolution de l'information.

Comment se débarrasser de sa peur des nouvelles technologies ? Fatie Toko, directrice de l’innovation du groupe La Poste, propose quelques pistes éclairées dans son essai « techno-optimiste » : Et si la tech pouvait sauver le monde ?

Propos recueillis par Alexandra Klinnik du MediaLab de l'Information de France Télévisions

La société, totalement pervertie par les nouvelles technologies ? « Nos ados sont toujours plus affectés par un chagrin d’amour que par un sevrage temporaire de leur smartphone », nuance Fatie Toko. La directrice de l’innovation du groupe de la Poste veut croire au bien-fondé et aux effets positifs de la tech sur la société. Dans son essai Et si la tech pouvait sauver le monde ?, la franco-ivoirienne choisit de voir « le remède, pas le poison » et fustige les « discours alarmistes de certains médias ». La nouvelle vague d’innovations technologies offre un immense potentiel pour résoudre les crises à venir, assure-t-elle. Celle qui livre un récit « techno-optimiste » mais pas « techno-naïf » déroule les raisons de se réjouir : des plateformes pour accélérer le développement économique durable et la sécurité alimentaire dans les pays à faibles revenus, des capacités d’analyses d’images satellitaires et de données géographiques pour réduire la pollution, la vision par ordinateur pour protéger les écosystèmes terrestres et marins… Entretien sur les initiatives et les défis à venir du monde de la tech.

Que reprochez-vous à la couverture tech des médias ?

Les médias ont un biais négatif général sur les nouvelles technologies. Ils ont tendance à faire appel à des experts, qui complexifient des sujets déjà difficiles à appréhender pour le grand public. Je regrette ce manque de vulgarisation. Les questions posées sont souvent alarmistes : « est-ce qu’il va y avoir des robots tueurs ? », « L’IA va-t-elle nous remplacer ? ». Cette approche détourne l’attention des questions essentielles telles que la manière de s’informer, de se protéger, de tirer profit des nouvelles technologies. La peur n’est pas une fatalité, ni une nécessité absolue. Dans mon travail, je m’intéresse notamment aux initiatives émergentes en Afrique et je refuse de céder à la peur qui entoure souvent les avancées technologiques. Il existe de nombreuses initiatives, tant au niveau de politiques publiques que dans le domaine scientifique, visant à promouvoir des technologies plus éthiques, responsables et durables. Mon livre vise à mettre en lumière ces aspects positifs souvent méconnus et présenter une vision équilibrée des nouvelles technologies.  

Quelles initiatives vous incitent à être aussi optimiste ?   

Des initiatives émergent en matière de santé, d’environnement, de lutte contre les vulnérabilités et l’éducation. J’ai ainsi découvert des couveuses connectées au Cameroun qui permettent de mettre des sondes et des caméras dans les cabines des prématurés pour surveiller les signaux vitaux et la température à l’intérieur. De nombreuses solutions technologiques, des caméras par vision par ordinateur, nous permettent de voir comment les animaux réagissent aux aléas climatiques. Dans le domaine de la santé, le recours à l’intelligence artificielle, l’analyse et la visualisation des données, la réalité augmentée et immersive, permet par exemple de voir l’environnement du « bloc » à travers les yeux d’un chirurgien qui opère. Il s’agit d’une plateforme médicale tout-en-un unique, conçue pour couvrir l’ensemble du cycle d’une intervention. Cette solution peut être une assistance vitale dans la médecine humanitaire et notamment les premiers actes de secours des civils en temps de guerre.   

Si vous évoquez les raisons d’être optimiste, vous mentionnez également les défis à venir. Vous écrivez notamment que la menace la plus importante pour l’État est celle constituée par la concentration inédite des géants du numérique. « Les GAFAM risquent de devenir des véritables États plateformes qui portent atteinte à la souveraineté des nations ». Mais n’est-ce pas déjà le cas ?  

En effet. Elles sont les plus grandes bénéficiaires de la mondialisation. Elles se moquent des lois, car les outils de régulation ne peuvent pas les soumettre. Les problèmes actuels ne sont pas uniquement dus à la technologie, mais aussi à des questions de régulation et d’idéologie favorables à certaines puissances économiques. Les géants du numérique ne sont pas surpuissants juste parce qu’ils exploitent les données, mais aussi parce qu’ils bénéficient d’un environnement mondialisé et de politiques qui les favorisent. Il est crucial de mettre en place des normes mondiales pour protéger les citoyens contre les risques liés à la cybersécurité et à la manipulation de l’information. Cela nécessite une collaboration internationale pour établir une base éthique et réglementaire solide afin de protéger les individus et les consommateurs.   

 La régulation de l’IA par exemple est devenue un énorme défi pour le législateur. Dans son livre que vous citez « Les algorithmes font-ils la loi ? », Aurélie Jean explique que « la réflexion et la conception de lois pour l’encadrement des algorithmes sont fortement impactés par la discipline elle-même. Intangible, complexe et en perpétuelle évolution, elle impose son rythme avec un certain flou artistique sur sa compréhension chez les acteurs de la loi voire les lobbystes eux-mêmes ». Et souligne le manque de formation des élites et du personnel politique…  

La compréhension de ces questions est extrêmement complexe pour ceux qui ne sont pas des data scientistes. Le personnel politique ne possède pas nécessairement les compétences scientifiques requises pour appréhender la complexité de l’intelligence artificielle. L’IA pose un défi en raison de sa complexité multidisciplinaire et de sa convergence de domaines. On est tous fragile face à cette révolution technologique, car elle est difficile à lire.  

Vous expliquez que l’Afrique devient le nouveau terrain de jeu des GAFAM.   

 Le contexte de régulation est très peu contraignant dans ces régions. Cette absence de règles facilite l’adoption de technologies nouvelles. Contrairement à d’autres régions où chaque innovation suscite un débat et des craintes, en Afrique, l’adoption est rapide et sans préambule. Si une technologie démontre son utilité, elle est immédiatement intégrée et déployée. Il n’y a pas ce débat d’experts qui précède l’usage. Sous couvert de philanthropie et au nom de la connectivité, des entreprises installent des centres de données et des laboratoires d’expérimentation sur le continent. La jeunesse de la population et l’absence de régulation offrent un terrain propice à ces essais à grande échelle, à l’instar de Google qui a établi en 2019 son centre de recherche en intelligence artificielle à Accra (Ghana) et installé à Lomé (Togo) en 2022 un câble internet sous-marin dans le cadre de son projet d’infrastructure réseau pour relier l’Afrique à l’Europe. Ces initiatives amplifient les risques en termes de protection de données et de dépendance économique et infrastructurelle.   

Comment adopter une relation plus sereine avec les nouvelles technologies ?  

Il est essentiel de ne pas les craindre. Il faut commencer par chercher à comprendre. Les technologies offrent cet avantage : l’information est accessible à tous. Je mentionne Objectif IA, une formation accessible en ligne pour tous les Français, qui sensibilise et explique l’intelligence artificielle dans notre quotidien, tout en prodiguant des conseils sur l’hygiène numérique et le consentement éclairé. Il s’agit de s’informer encore et toujours. Il est crucial de réfléchir à l’usage que l’on en fait. Prenez l’exemple de ChatGPT : je l’utilise pour gagner du temps dans l’organisation de mes cours, la préparation du matériel pédagogique, la rédaction de scénarios, etc. Enfin un mot pour les jeunes : soyons modestes et tolérants envers la jeunesse. Arrêtons, nous les adultes, d’être nostalgique. Ce ne sont pas eux qui ont l’utilisation la plus compulsive de leurs écrans. Notre devoir est de les guider vers une utilisation intelligente. Le consentement est un aspect souvent négligé : nous devons accompagner les jeunes en leur posant des questions sur les implications de leurs actions en ligne, sur les coûts, les impacts. Trop souvent, nous les culpabilisons. C’est contre-productif et encourage même les jeunes à dissimuler leurs activités numériques à leurs parents, plutôt que d’en parler ouvertement. Cela les pousse à se replier dans un monde virtuel, coupés de la réalité, plutôt que d’engager des conversations sur une utilisation raisonnée des technologies.  

The post Fatie Toko : le bon côté de la tech first appeared on Méta-media | La révolution de l'information.

A chaque mois son nouvel accord entre un média et OpenAI. Le mois dernier, l’accord avec le Financial Times faisait la surprise, aujourd’hui, c’est au tour de News Corp. Que faut-il retenir ? 

• News Corp a annoncé dans un communiqué de presse ce jeudi 22 mai, la signature d’un partenariat historique de plusieurs années avec OpenAI. Le ton de la déclaration se veut enthousiaste : « Les entreprises unissent leurs forces pour enrichir les produits et plateformes d'IA générative d'OpenAI avec un journalisme de qualité ».
   
• Les PDG de News Corp et d’OpenAI se sont tous deux félicités de cet accord : « Nous croyons qu'un accord historique établira de nouvelles normes de véracité, de vertu et de valeur à l'ère numérique » a déclaré Robert Thomson, PDG de News Corp. Sam Altman a quant à lui déclaré : « Ensemble, nous posons les bases d'un avenir où l'IA respecte profondément, améliore et soutient les normes du journalisme de classe mondiale ».
   
• L'accord qui pourrait valoir jusqu'à 250 millions de dollars sur cinq ans, permettra à OpenAI d'accéder au contenu actuel et archivé de toutes les publications de News Corp. Il s’agit notamment du Wall Street Journal, du New York Post, du Times et du Sunday Times.
   
• Faute d'accord global sur les droits des éditeurs, Ils sont de plus en plus nombreux à établir des accords financiers avec OpenAI. A la fin de l’année dernière, OpenAI a conclu un contrat similaire avec Axel Springer, la société mère de Business Insider et Politico. Du côté français, Ouest France et Le Monde ont également passé des accords.  « Il est dans mon intérêt de trouver des accords avec tout le monde », a déclaré Louis Dreyfus, PDG du journal Le Monde, lors d'une interview. « Sans accord, elles utiliseront nos contenus de manière plus ou moins rigoureuse et plus ou moins clandestine, sans aucun bénéfice pour nous ».
   
• Le New York Times a adopté l’approche inverse, et a porté plainte contre OpenAI en décembre dernier pour violation des droits d’auteur.
   
• Cette série d'accords reflète le principe du « winner takes it all », où les principaux éditeurs concluent des accords avec les géants de l'IA, alors que les médias plus modestes et sans intérêt pour OpenAI, restent vulnérables au pillage de leur contenu sans compensation financière. 

• Toutefois, le journaliste Hamilton Nolan souligne que même les médias passant ces accords pourraient ne pas y trouver leur compte. « Les montants d'argent que les entreprises de médias obtiennent dans ces accords semblent intéressants au départ, mais ce sont des cacahuètes pour OpenAI, qui vaut probablement déjà plus de 100 milliards de dollars ». Il illustre : « C’est l'équivalent d'être satisfait de soi pour avoir gagné cinq dollars en vendant vos clés de maison à des cambrioleurs ».  

CETTE SEMAINE EN FRANCE

• Une dotation de 70 millions pour la formation de l'élite de l'IA en France  (Les Echos)
• Pourquoi des groupes médias français vont attaquer Google devant le tribunal de commerce (mindmedia)
• Le groupe Lagardère annonce un protocole d'accord préliminaire en vue de céder Paris Match à LVMH (Le Figaro)
• Elections européennes : une couverture médiatique en nette baisse (Libération)
• Droits voisins : une première victoire en justice pour les médias et l’AFP face à X (mindmedia)
• Lettre ouverte à Squeezie : “Tu as les moyens financiers et humains de sortir de ce cercle infini d’entre-soi masculin sur YouTube” (Causette)
• Cafeyn s’enrichit d’une vingtaine de titres (The Media Leader)
• Meredith Whittaker, présidente de Signal : « L’IA concentre le pouvoir dans les mains des géants de la tech » (Le Monde)
• L'intelligence artificielle, star de la 8e édition de VivaTech (France 24)

  If you are a student interested in building the next generation of AI systems, don't work on LLMs https://t.co/H1qX3gClEu

  — Yann LeCun (@ylecun) May 22, 2024

3 CHIFFRES

• News Corp signe un accord avec OpenAI pour un montant qui s'élèverait à plus de 250 millions de dollars sur cinq ans, selon le Wall Street Journal.
• Spotify a reversé 253 millions d’euros aux ayants droit français de la musique en 2023, selon la filiale française de la compagnie.
• 39 % des Américains estiment qu'il est important, au moins dans une certaine mesure, que les journalistes dont ils obtiennent leurs informations partagent leurs croyances politiques, d’après Pew Research Center.

LE GRAPHIQUE DE LA SEMAINE

L'internet est éphémère

Source: Pew Research Center 

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• Quand la thérapie sur TikTok est plus lucrative que de voir des clients (The Cut)
• Ces faux articles flatteurs qui cachent de vraies publicités (60 millions de consommateurs)
• Apocalypse Google (Arrêt sur Images)
• Les chaînes de télévision accueillent leur public vieillissant avec un nouveau mantra : l'âge ne compte pas (Wall Street Journal)
• Meta a abandonné les actualités. Maintenant, l'entreprise les utilise pour du contenu IA (Washington Post)

DISRUPTION, DISLOCATION, MONDIALISATION

• Céline Galipeau entrevoit la fin des téléjournaux (Le Devoir)
• Selon des chercheurs britanniques, les garde-fous des chatbots d'IA peuvent être facilement contournées (The Guardian)
• Le pape ouvre la voie à la canonisation de « l’influenceur de Dieu »  (BBC News)

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE,DÉSINFORMATION LÉGISLATION, RÉGLEMENTATION

• Tellement facile de diffuser de la désinformation pour les bots d'IA (New York Times)
• Meta soutient que le contenu électoral généré par l'IA n'atteint pas un « niveau systémique » (MIT)
• Les journalistes indiens sont en première ligne dans la lutte contre les « deepfakes » électoraux (NiemanLab)

JOURNALISME

• Google menace de suspendre le financement de Google News Initiative aux États-Unis (Axios)
• Jim VandeHei a eu une vie plutôt agréable. Mais qu'est-ce qu'il faut en retenir ? (Washington Post)
• Newscorp conclut un accord avec OpenAI (Newscorp)
• Vivek Ramaswamy, anti-woke et climatosceptique, prend des parts dans BuzzFeed (Bloomberg)
• Le poids croissant d’Apple News dans le trafic et les revenus des sites d’info américains (Semafor)
• Les médias concluent des accords avec OpenAI qu'elles regretteront (Nolan Hamilton)
• Israël fait marche arrière sur la saisie du matériel vidéo de l'Associated Press après une vive contestation (CNN)

STORYTELLING, NOUVEAUX FORMATS

• La longue et lente mort de l'éditorial (Nieman Reports)

ENVIRONNEMENT

• Avec l’IA, les émissions carbone de Microsoft ont augmenté de 30% (Bloomberg)

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• Linktree dépasse les 50 millions d'utilisateurs (TechCrunch)
• Snap vise la croissance alors que TiKTok est confronté à un avenir incertain aux États-Unis (Digiday)
• YouTube sert toujours d'hôte aux communautés extrémistes (TechTimes)
• TikTok prend des mesures pour limiter la portée des médias russes et chinois en une année électorale importante (New York Times)
• X devrait rétablir les étoiles, et non cacher les « j'aime » (Techcrunch)

STREAMING, OTT, SVOD

• Pixar licencie 175 personnes et se recentre sur le cinéma (New York Times)

AUDIO, PODCAST, BORNES

• Microsoft Edge traduira et doublera les vidéos d'actualité pendant que vous les regardez (The Verge)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Microsoft va bientôt enregistrer toutes vos actions sur votre PC ! (The Guardian)
• Le monde est mal préparé aux percées de l'intelligence artificielle, selon un groupe d'experts de haut niveau (The Guardian)
• Selon le responsable de Meta AI, les grands modèles linguistiques n'atteindront pas l'intelligence humaine (Financial Times)
• La Chine crée son propre chatbot ChatGPT basé sur Xi Jinping (Readwrite)

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• TikTok développe son e-commerce au Mexique et en Europe de l'Ouest (South China Morning Post)

Kati Bremme, Alexandra Klinnik et Aude Nevo

The post Liens vagabonds : News Corp, un deal de plus entre la presse et OpenAI first appeared on Méta-media | La révolution de l'information.

« Les robots conversationnels ont-ils franchi une nouvelle frontière cette semaine ? » Pour la communauté commentatrice de l'actualité IA, il n'y a aucun doute. Lundi et mardi, les deux géants de l’IA générative se sont affrontés en dévoilant leurs nouveautés lors de leurs conférences de presse respectives. Les objectifs des deux entreprises diffèrent légèrement. Bien que ces outils soient destinés à s’immiscer encore plus dans notre quotidien, ce ne sera sans doute pas de la même manière. 

ChatGPT veut révolutionner notre vie  

• De son côté, OpenAI a dévoilé lundi 13 mai la nouvelle version de son assistant : ChatGPT-4o. Et surprise, il ne s’agit pas d’un chatbot ordinaire. Son abréviation « o » provient du mot anglais « omni », c’est-à-dire multimodal en français. Il s’agit donc d’un modèle capable de traiter du texte, de l'audio et des images en temps réel. 
• Toutefois, il ne s’agit pas d’un nouvel outil comme Alexa ou Siri. La véritable révolution réside dans sa capacité à tenir une véritable conversation comme utiliser des onomatopées, faire des blagues, imiter une émotion (à la façon du film Her), permettre à l'utilisateur d'interrompre ou de changer totalement de sujet. « Parler à un ordinateur ne m'a jamais semblé vraiment naturel ; maintenant, c'est le cas », s’est félicité Sam Altman, PDG d'OpenAI. 
• Auparavant, les assistants vocaux, y compris ChatGPT, pouvaient déjà répondre à des questions. Aujourd'hui, elle est fait en temps réel, et avec le sourire (en tout cas dans la vidéo démo).
• S’il était déjà possible de prendre une photo de notre frigo avec ChatGPT4, il est désormais possible de prendre son téléphone pour filmer directement notre environnement et le montrer à l’IA. Elle comprend le contexte et peut décrire des scènes en temps réel, comme « décris-moi la ville ». 
• La version de ChatGPT-4o est progressivement déployée pour les utilisateurs gratuits. Toutefois, le nouveau mode vocal n’est pas encore intégré à l’application. Difficile donc de vérifier s’il est à la hauteur des promesses marketing de la start-up. Sam Altman a en effet expliqué dans un tweet : « le nouveau mode vocal n'a pas encore été livré (bien que le mode texte de GPT-4o l'ait été). Ce que vous pouvez actuellement utiliser dans l'application est l'ancienne version ». 
• Demain, ce sympathique assistant nous lira-t-il une sélection de news (fabriquées elles-mêmes par une IA ?)

Démonstration des capacités de ChatGPT-4o par OpenAI 

Gemini 1.5 veut révolutionner notre travail 

• Mardi 14 mai, c’est au tour de Google de montrer une série de nouveautés au cours de sa conférence de presse. La promesse ? intégrer son IA Gemini 1.5 dans toutes ses gammes d’outils.
• Cette innovation révolutionnera notre façon de travailler. Google bénéficie de l'avantage (comme Microsoft) d'avoir déjà des outils déployés dans les entreprises et sur les ordinateurs personnels. L'IA pourra analyser nos courriels et nous aider à organiser notre agenda par exemple. 
• À partir de cette semaine, les utilisateurs aux États-Unis découvriront les résumés par IA dans leur moteur de recherche Google au-dessus des liens vers les sites web. Une nouveauté qui risque d’accentuer encore plus les inquiétudes des éditeurs de site web (une bataille des droits voisins puissance 10 est déjà en cours).
• Enfin, Google a dévoilé son projet « Astra », assistant vocal multimodal voulant faire concurrence ChatGPT-4o. Si Astra ne montre pas encore d’émotion, Google souhaite améliorer son agent dans les prochaines semaines. 

Démonstration du projet Astra par Google 

Révolution technologique ou simple coup de communication ? 

Alors, demain, rira-t-on avec les robots pour mieux vivre avec eux, comme nous l'annonçait Laurence Devillers déjà en 2015 ? Ce qui semble être une promesse technologique révolutionnaire doit néanmoins être nuancé. Les assistants conversationnels d’OpenAI et de Google affichent toujours un taux d’erreur d’environ 20 %. Il reste donc primordial de vérifier les informations fournies avec d'autres sources. De plus, pour Benoit Raphael, journaliste expert en IA, « la hype de l'IA générative semble avoir atteint un plateau », tant en termes d’utilisateurs qu’en termes techniques. Il explique : « GPT-4o, le nouveau modèle d'OpenAI, est à peine meilleur que GPT-4, même s'il est plus rapide. Aujourd'hui, la plupart des modèles se valent ». Le principal enjeu est maintenant le marketing (plusieurs vidéos sur YouTube ont d'ailleurs transformé cette semaine en battle entre les deux géants)...

Mais ces entreprises sont bien en train de construire un avenir où les modèles d'IA recherchent, vérifient et évaluent les informations pour nous fournir une réponse concise à nos questions. Et pour Melissa Heikkilä, journaliste experte IA au MIT, "Encore plus qu'avec des chatbots plus simples, il est judicieux de rester sceptique par rapport à ce qu'ils vous disent".

CETTE SEMAINE EN FRANCE

• Une future entreprise unique de l’audiovisuel public sans France Médias Monde (Le Monde)
• Le journal gratuit «20 Minutes» va supprimer son édition papier, 56 postes menacés (Libération)
• Fréquences TNT ; plusieurs nouveaux entrants veulent lancer leur chaîne télé (Les Echos)
• Streaming vidéo, IA... La France veut réduire le coût environnemental des services des géants du numérique (Le Figaro)
• Le blocage de TikTok dans un territoire d'outre-mer crée un « dangereux précédent », avertissent les critiques (Politico)
• Cannes : TikTok sur le tapis rouge (France Culture)

3 CHIFFRES

• Selon des données collectées par Ecoprod, l’impact moyen d’un long-métrage de cinéma est de 188,7 tonnes CO2-équivalent, soit une centaine de voyages aller-retour en avion entre Paris et New York.
• Au premier trimestre 2024, les recettes publicitaires nettes de l’ensemble des médias s’élèvent à 3,996 milliards d’euros, soit une hausse de 3,8 % par rapport au premier trimestre 2023, selon le Baromètre unifié du marché publicitaire (BUMP).
• Les responsables de l'information sont légèrement plus optimistes quant à l'impact de l'IA. Un peu plus de la moitié des personnes interrogées (52 %) ont déclaré être « optimistes » ou « très optimistes » quant à l'effet qu'aura l'IA sur leur entreprise d'ici quelques années, d'après WAN-IFRA.

LE GRAPHIQUE DE LA SEMAINE

Les renvois vers les sites d'infos en provenance de Facebook ont chuté de 50 % en un an

Source : Mediapost

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• « Au début, on se fait agresser et à 45 ans, on est trop vieille pour travailler » - la misère secrète des femmes travaillant à la télévision (The Guardian)
• Les moteurs de réponses remplacent les moteurs de recherche : carnage attendu pour les éditeurs (Washington Post)
• Les liens rompus de Google avec le web (Platformer)
• Comment les streamers de Twitch pourraient influencer les élections de 2024 (Wired)

Capture d'écran : Washington Post

DISRUPTION, DISLOCATION, MONDIALISATION

• Les adolescents qui se lient d'amitié avec les chatbots d'IA (The Verge)
• Le PDG de YouTube : il est temps que les Emmys s'intéressent aux créateurs (Hollywood Reporter)

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE,DÉSINFORMATION

• L'IA me ment-elle ? Les scientifiques mettent en garde contre une capacité de tromperie croissante (The Guardian)
• « Goodbye, Delhi » : forcée à partir après 25 ans en Inde, la correspondante de « La Croix » raconte (La Croix)
• Un tribunal guatémaltèque ordonne la libération d'un journaliste emprisonné depuis près de deux ans pour blanchiment d'argent (AP)
• Comment le gouvernement indien utilise les lois pour réduire au silence et intimider les journalistes (ijnet)

LÉGISLATION, RÉGLEMENTATION

• Le gouvernement français a-t-il le droit d’interdire TikTok en Nouvelle-Calédonie? (Le Figaro)
• La Quadrature du Net attaque en justice le blocage de TikTok en Nouvelle-Calédonie (Quadrature du Net)
• Après TikTok et X, Facebook et Instagram accusés par Bruxelles d'attenter à la santé mentale des enfants (Les Echos)

JOURNALISME

• La nouvelle série spin-off de The Office prendra place dans un journal local en difficulté (Washington Post)
• Sous-payé et sous-évalué : Ce que c'est que d'être un étudiant journaliste palestinien à l'heure actuelle (Teen Vogue)

STORYTELLING, NOUVEAUX FORMATS

• TikTok teste le téléchargement de vidéos de 60 minutes et continue de s'attaquer à YouTube (TechCrunch)

ENVIRONNEMENT

• « Permacomputing » : la discrète communauté qui défend des outils numériques libres, sobres et décroissants (Le Monde)
• Sous l'eau, Correio do Povo couvre la tragédie humaine des inondations dans le sud du Brésil (Latin American Journalism Review)
• Comment les compagnies pétrolières manipulent les journalistes (Drilled)
• Les déserts d'information occultent l'ampleur des catastrophes climatiques (The Nation)

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• L'utilisation d'Internet est statistiquement associée à un plus grand bien-être, selon une nouvelle étude mondiale d'Oxford (University of Oxford)
• Threads teste un flux semblable à TweetDeck (The Verge)
• Pourquoi Jack Dorsey a abandonné Bluesky (The Washington Post)
• Les réseaux sociaux chinois effacent les messages « ostentatoires de richesse et de glorification de l'argent » (The Guardian)
• Comment WhatsApp est devenu une machine de campagne en Inde (Rest of World)
• Reddit et OpenAI créent un partenariat (Reddit)
• Twitter est officiellement X. com maintenant (The Verge)

 

Publié par @zuck

Voir dans Threads

 

IMMERSION, 360, VR, AR

• Stanford vient-il de créer le prototype des lunettes AR du futur ? (The Verge)

STREAMING, OTT, SVOD

• Qu'est-ce qu'on regarde à la télé ? Pour de nombreux Américains, c'est YouTube (Wall Street Journal)
• Le retour des bouquets (The Atlantic)
• Pour le marché du film de Cannes, les conditions sont mûres pour le succès après les premières années de pandémie (Reuters)

AUDIO, PODCAST, BORNES

• Sony Music met en garde les entreprises technologiques et les diffuseurs de musique contre l'utilisation de ses artistes par l'IA (Financial Times)
• Spotify est accusé de violation du droit d’auteur par une association américaine (Billboard)

Web3, BLOCKCHAIN, CRYPTO, NFT

• L'Oklahoma adopte un projet de loi historique protégeant les droits des utilisateurs de Bitcoin (Forbes)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Le cofondateur d'OpenAI, Ilya Sutskever, annonce son départ (New York Times)
• Claude d’Anthropic propose maintenant son propre générateur de prompts (Anthropic)
• Google et OpenAI se livrent une bataille pour remodeler Internet (The Verge)
• ChatGPT sera capable de vous parler comme Scarlett Johansson dans Her (The Verge)

You can now generate production-ready prompts in the Anthropic Console.

Describe what you want to achieve, and Claude will use prompt engineering techniques like chain-of-thought reasoning to create more effective, precise and reliable prompts. pic.twitter.com/TqylVRkfP5

— Anthropic (@AnthropicAI) May 10, 2024

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• Comment la publicité télévisée a perdu de son importance (Wall Street Journal)
• Les groupes de presse britanniques mettent en garde Apple contre les projets de blocage des publicités (Financial Times) 

Kati Bremme, Alexandra Klinnik et Aude Nevo

The post Liens vagabonds : Google veut révolutionner notre travail, OpenAI, notre vie first appeared on Méta-media | La révolution de l'information.

États-Unis VS TikTok – Ce mercredi 13 mars, la Chambre des représentants a voté une potentielle interdiction de l’application chinoise dans le pays. Si le sujet est sur la table depuis quelques années (Donald Trump avait lancé les hostilités en 2020, avant de changer d'avis récemment), la menace est cette fois prise très au sérieux par ByteDance, société mère de l’application. Phénomène assez rare, les Démocrates et Républicains semblent s’accorder sur la décision à prendre : « L'impulsion bipartite récente pour forcer l'entreprise à se désinvestir marque le défi le plus sérieux pour l'application jusqu'à présent, et elle est maintenant confrontée à un vote incertain au Sénat » analyse the Guardian.

Contexte d’une guerre froide numérique

Mercredi, la Chambre a voté massivement en faveur d'une interdiction, avec 352 membres du Congrès votant pour le projet de loi et seulement 65 s'y opposant. Le Sénat a cependant freiné en proposant d'éventuelles modifications à la mesure, brisant les espoirs des partisans d'une adoption rapide et offrant un sursis potentiel à l'application populaire de courtes vidéos. L’entreprise chinoise a quant à elle qualifié le projet de loi « d'inconstitutionnel ». Dans cette guerre froide numérique, il est loin d'être évident que les États-Unis sortiraient vainqueurs.

La vente de TikTok serait rendue obligatoire dans un délai de six mois à un acheteur approuvé par le gouvernement américain. Si ByteDance refuse de vendre TikTok, il serait illégal pour les magasins d'applications et les sociétés d'hébergement web de distribuer ou de mettre à jour l'application aux États-Unis. Celles qui dérogeraient à la règle s’exposeraient à des pénalités. Une interdiction totale semble donc difficile à mettre en place, mais l’accès pourrait être drastiquement limité. La raison ? Les législateurs craignent un risque pour la sécurité nationale des États-Unis et les données de ses utilisateurs.

reminder why lawmakers are considering a tiktok ban:

-bytedance answers to the ccp
-beijing can weaponize americans’ data
-it's in xi’s best interest to control the algorithm + further polarize americanshttps://t.co/KWCf8dxjD4

— ian bremmer (@ianbremmer) March 14, 2024

La réponse de ByteDance

De son côté Bytedance affirme que « 60% de l'entreprise appartient à des investisseurs institutionnels mondiaux ». L'entreprise indique également avoir investi plus de 1 milliard de dollars dans un plan visant à stocker les données sensibles des utilisateurs américains sur des serveurs exploités par Oracle, société américaine de cloud computing. Lors de la récente audition des géants de la tech au Congrès, Shou Zi Chew, le CEO de TikTok, avait insité sur ses origines singapouriennes. Pour Wang Wenbin, porte-parole du ministère chinois des Affaires étrangères, le vote de la Chambre suivrait une « logique du voleur ». Il souligne : « Quand vous voyez les bonnes choses des autres, vous tentez de vous les approprier ».

Un rachat est-il réellement possible ?

Avec ses 170 millions d'utilisateurs aux États-Unis, TikTok est une acquisition hors de portée pour la plupart des entreprises. Microsoft, Google et Meta sont sous le coup de la loi antitrust, ce qui limite leurs possibilités d'achat. Steven Mnuchin, ancien secrétaire au Trésor controversé sous Donald Trump, a cependant manifesté son intérêt : « C'est une excellente entreprise et je vais constituer un groupe d’investisseurs pour acheter TikTok ».

L’hécatombe pour les créateurs de contenu

Face à la perspective d'une interdiction imminente, plusieurs créateurs expriment leur crainte : « J'achète des articles à des petites entreprises et je les présente sur ma plateforme - je les mets en valeur », a déclaré Ophelia Nichols, une créatrice basée en Alabama aux 12 millions d’abonnés. En Inde où l’application a été interdite en 2020, de nombreux créateurs peinent à faire repartir leur modèle économique : « La manière dont on gagnait en visibilité et en abonnés sur TikTok est [encore] incomparable à toute autre plateforme disponible pour le moment », a déclaré Clyde Fernandes, directeur exécutif chez Opraahfx, une agence de marketing et de gestion d'influenceurs.

De son côté, Jason Koebler, le cofondateur de 404 Media se demande comment le gouvernement américain peut supprimer TikTok « sans violer les droits de liberté d'expression de millions d'Américains et nous mettre sur la voie où un internet relativement ouvert et mondial devient de plus en plus géographiquement cloisonné ».

Affaire à suivre…

CETTE SEMAINE EN FRANCE

• L'AI Act : un premier texte qui omet les enjeux informationnels (RSF)
• Le marché français de la musique pénalisé par la faiblesse des abonnements en streaming (Le Monde)
• Intelligence artificielle : un accord de partenariat entre « Le Monde » et OpenAI (Le Monde)
• 25 recommandations pour l'IA en France (Élysée)
• BFM-TV et RMC vendus à l'armateur Rodolphe Saadé (Le Figaro)

Le message envoyé ce matin par Rodolphe Saadé aux collaborateurs de CMA CGM pour annoncer son rachat de BFM-TV et RMC. https://t.co/ifm6CHtSv0 pic.twitter.com/bfqv7kLCBH

— Alexandre Berteau (@aberteau_) March 15, 2024

3 CHIFFRES

• 94% des Français se déclarent intéressés par l’information et la même proportion s’informe quotidiennement, selon le dernier rapport de l’Arcom.
• Le groupe CMA CGM rachète BFMTV et RMC pour 1,55 milliard d'euros, selon le communiqué du groupe Altice.
• L'année dernière, Google a versé environ 10 millions de dollars à 632 chercheurs pour avoir trouvé et signalé des failles de sécurité dans ses produits et services, d’après Bleeping Computer.

LE GRAPHIQUE DE LA SEMAINE

Les Français préfèrent les journalistes aux algorithmes

Source : Arcom 

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• Comment lutter contre la pollution du web ? (The Atlantic)
• Bernard Arnault rivalise avec Bezos et Musk en termes de richesse et d'influence sur les médias (Wall Street Journal)
• L'IA au service de l'information : le nouveau responsable de l'IA du New York Times explique ce que cette technologie puissante peut apporter au journalisme (Reuters Institute)
• Kate Middleton et la fin de la réalité partagée (The Atlantic)
• Mettre fin à l’enfance basée sur le téléphone dès maintenant (The Atlantic)
• Lueurs d’espoirs dans un paysage médiatique morose (New York Times)
• Kate Middleton et l'espoir dans l'enfer de l'information (CJR)

DISRUPTION, DISLOCATION, MONDIALISATION

• • L'IA pourrait constituer une menace d'extinction pour l'homme, selon un nouveau rapport commandé par le département d'État américain (CNN)
  • OpenAI a signé avec le plus grand groupe de média espagnol Prisa et le Monde (OpenAI)

Le Monde devient le premier média français à signer un partenariat avec OpenAI.

ChatGPT utilisera les contenus du journal pour plus de pertinence.
Le Monde touchera des revenus conséquents en contrepartie et pourra développer des fonctionnalités IA.https://t.co/WpA6UEuBdw

— François d’Estais  (@fdestais) March 14, 2024

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE,DÉSINFORMATION

• Le projet de filigrane d'IA de Meta est fragile, au mieux (Spectrum)
• Google interdit au chatbot Gemini de répondre à des questions sur les élections de 2024 (The Guardian)
• Midjourney a interdit l'accès à son service à tous les employés de Stability AI, les accusant de collecte de données (The Verge)

LÉGISLATION, RÉGLEMENTATION

• Les régulateurs ont besoin d'une expertise en IA. Ils n'en ont pas les moyens (Wired)
• L'AI Act a été voté au Parlement Européen (European Parliament)
• Une « loi sur la liberté des médias » en UE, pour protéger les journalistes et lutter contre les ingérences politiques, a été votée par le Parlement (Le Monde)

BREAKING: The European Commission sent formal requests to Bing, Facebook, Google Search, Instagram, Snapchat, TikTok, YouTube, and X:

Following these companies' designation as Very Large Online Platforms (VLOPs) or Very Large Online Search Engines (VLOSEs) by the DSA, the… pic.twitter.com/OTeFS3OeWC

— Luiza Jarovsky (@LuizaJarovsky) March 15, 2024

JOURNALISME

• La baisse de la diffusion des quotidiens britanniques s'élève en moyenne à 19 % au second semestre 2023 (Press Gazette)
• Les gens se font plus confiance qu'ils ne font confiance aux informations. Ils ne devraient pas (Columbia Review)
• Meta est prêt à abandonner l'information dans l'Illinois s'il est contraint de payer les éditeurs locaux (The Verge)
• Une liste de subventions et de bourses destinées spécifiquement aux personnes qui s’identifient comme femmes et / ou à la réalisation de reportages sur les femmes (GIJN)

STORYTELLING, NOUVEAUX FORMATS

• Mona Chalabi parle de la narration, du pouvoir des données et de la couverture de la Palestine (The Verge)

ENVIRONNEMENT 

• Les réparations de téléphones et d'ordinateurs portables deviennent mainstream, grâce à l'action d'iFixit (Cnet)

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• Comment ByteDance pourrait sauver TikTok d'une interdiction aux États-Unis (Axios)
• Le long et difficile chemin de Reddit vers l'introduction en bourse (New York Times)
• L'ancien secrétaire au Trésor Steven Mnuchin est intéressé par le rachat de TikTok (CNN)
• L'autorité de régulation italienne inflige une amende de 11 millions de dollars à TikTok (Reuters)
• Les contenus violents en ligne sont "inévitables" pour les enfants britanniques, selon l'Ofcom (The Guardian)
• Le New York Times rejette l'allégation de "piratage" de l'OpenAI dans le cadre de la lutte contre le droit d'auteur (Reuters)
• Ces enfants ont enrichi leurs parents influenceurs. Verront-ils un centime de cet argent ? (Cosmopolitan)
• Qui pourrait acheter TikTok ? Découvrez les personnes susceptibles d'acquérir l'application (NBC News)
• Instagram joue la carte du long terme face à TikTok, et est en train de gagner (Business Insider)

IMMERSION, 360, VR, AR

• L'ancien directeur d'Oculus chez Meta (et auparavant cadre chez Google) donne son avis sur le Vision Pro (Hugo’s Blog)

STREAMING, OTT, SVOD

• YouTube remanie son application TV pour faciliter les achats (The Verge)

AUDIO, PODCAST, BORNES

• Neil Young reviendra sur Spotify après un boycott de deux ans en raison de Joe Rogan (Wall Street Journal)
• Spotify ajoute des vidéos musicales en version bêta dans certains pays - les Etats-Unis n'en font pas partie (TechCrunch)

Web3, BLOCKCHAIN, CRYPTO, NFT

• Un juge estime qu'un informaticien n'est pas l'inventeur du bitcoin (BBC)
• Ce que l'histoire de Kate Middleton nous apprend sur le bitcoin (Financial Times)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Entretien avec Mira Murati, directrice technique d'OpenAI, à propos de Sora et de son plan de déploiement (Wall Street Journal)

• Les vidéos IA de Sora sont facilement confondues avec des images réelles lors d'un test auprès de consomateurs US (Variety)
• Les journalistes alimentent l'engouement pour l'IA (BBC)
• Les accords d'OpenAI avec les éditeurs pourraient poser des problèmes à ses rivaux (TechCrunch)
• Oubliez les chatbots. Les agents d'intelligence artificielle sont l'avenir (Wired)
• Apple a discrètement acheté la startup canadienne d'IA DarwinAI (Bloomberg)
• Google Deep Mind présente SIMA : un agent d'intelligence artificielle polyvalent pour les environnements 3D (DeepMind)

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• NewsGuard propose aux marques une veille sur les “fake news” (CBNews)
• L'éventuelle interdiction de TikTok aux États-Unis préoccupe les spécialistes du marketing (Digiday)
• AP lance un site de commerce électronique avec Taboola (Axios)

Kati Bremme, Alexandra Klinnik et Aude Nevo

The post Liens vagabonds : TikTok sur le banc des accusés first appeared on Méta-media | La révolution de l'information.

Dans la course des géants du streaming, Netflix semble avoir une longueur d’avance. La société a conclu cette semaine un accord de 10 ans avec la WWE - une entreprise américaine spécialisée dans l'organisation d'événements de divertissement -  pour les droits de l’émission de catch "Monday Night Raw", un programme hebdomadaire diffusé depuis 31 ans sur le petit écran. Cet accord évalué à 5 milliards de dollars contribue à la diversification des contenus de Netflix en même temps qu’il signe un « changement radical pour l'industrie du divertissement qui passe de la télévision linéaire à la diffusion en continu » analyse Axios. Passage à la loupe de la stratégie de différenciation de la plateforme :

Netflix mise sur le sport en direct pour diversifier ses contenus, mais pas que…

« Notre partenariat modifie et renforce fondamentalement le paysage médiatique, élargit considérablement la portée de la WWE et permet à Netflix d'accéder à des rendez-vous hebdomadaires en direct » a déclaré Mark Shapiro, président et directeur de TKO (société détenant WWE). Netflix n’en est cependant pas à son coup d’essai. En 2023, la société avait annoncé qu'elle organiserait son tout premier événement sportif en direct, avec des pilotes de F1 et des golfeurs professionnels s'affrontant lors d'un tournoi de golf. Quelques mois plus tôt, l’entreprise s’était déjà essayé à la diffusion en direct avec une émission de stand-up du comédien américain Chris Rock. Pour compléter ce portefeuille d’activités, l’accent a été porté sur la création de films originaux et émissions de télé réalité comme « Too hot to handle » ou « Love is Blind ».

« La société s'est lancée dans la télé-réalité, les romans à l'eau de rose et les séries internationales, tout en confiant de grosses sommes d'argent à des scénaristes de renom tels que Shonda Rhimes et Ryan Murphy » explique le Financial Times. En 2021, les dépenses annuelles en contenu avaient dépassé les 17 milliards de dollars.

Les raisons de cette diversification ? Une réaction à la perte de ses licences à l’instar de la série "Friends" au fur et à mesure que la concurrence se multiplie.

Un changement de paradigme porté par une hausse des recettes et des abonnements

Si Netflix a connu une année noire en 2022 caractérisée par une chute de sa marge d’exploitation et un lourd endettement de plus de 14 millions de dollars, l’entreprise a su remonter la pente en 2023. La plateforme a gagné 13 millions d’abonnés supplémentaires, notamment en raison de sa politique de restriction des mots de passe. Elle a augmenté considérablement ses revenus grâce à l’augmentation de ses prix et le lancement d’un abonnement financé par la publicité. Mais le véritable changement est venu de la réduction des coûts, favorisée par une grève des scénaristes à Hollywood qui a interrompu les productions. Alors que le chiffre d'affaires a augmenté de 6,6 % en 2023, le bénéfice net a progressé de 20 %.

Bien que Netflix éclipse les autres plateformes de streaming, il reste encore du chemin à faire pour que la compagnie rivalise avec Youtube qui propose du contenu créé gratuitement par ses utilisateurs.  Ce qui est certain, selon The Wired, c’est que : « l'ancien cahier des charges de Netflix a été mis au placard. Le nouveau - un mélange de programmes originaux et sous licence, de contenus financés par la publicité et d'événements en direct - ressemble de plus en plus au paradigme du câble que le streaming avait l'intention de remplacer ». La télévision traditionnelle perdra-t-elle ce combat de catch ?

CETTE SEMAINE EN FRANCE

• IA : la France peine à faire entendre sa ligne pro-innovation en Europe (Les Echos)
• Succès de Squeezie : dans les coulisses des concepts YouTube qui détrônent la télé (Libération)
• Le Conseil d’Etat pourrait demander à l’Arcom d’être plus intransigeante envers CNews sur le respect du pluralisme (Le Monde)
• C8 à nouveau sanctionnée par l’Arcom pour une séquence de « Touche pas à mon poste » (Le Monde)
• Intelligence artificielle : les créateurs en appellent à Rachida Dati (La Croix)
• Amazon va trop loin dans la surveillance des salariés selon la CNIL (Les Echos)

3 CHIFFRES

• La consommation linéaire passe sous la barre des 50% de la consommation vidéo totale en France, selon le Centre national du cinéma et de l’image animée (CNC).
• Les revenus publicitaires de LinkedIn aux États-Unis augmenteront de 14,1% pour atteindre 4,56 milliards de dollars cette année, d’après Business Insider.
• La CNIL sanctionne Amazon France d’une amende de 32 millions d’euros.

La CNIL sanctionne AMAZON FRANCE LOGISTIQUE d’une amende de 32 millions d’euros notamment pour avoir mis en place un système de #surveillance de l’activité et des performances des salariés excessivement intrusif https://t.co/OPxjqboAbz pic.twitter.com/HFk4fGysSI

— CNIL (@CNIL) January 23, 2024

LE GRAPHIQUE DE LA SEMAINE

La désinformation en tête des risques mondiaux en 2024

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

• La désillusion des journalistes partout dans le monde (Reuters Institute)
• Pitchfork va me manquer, mais ce n'est que la moitié du problème (Ezra Klein)
• Comment les algorithmes des médias sociaux 'uniformisent' notre culture en prenant des décisions à notre place (NPR)
• L'avenir du journalisme s'assombrit (New York Times)
• La guerre du streaming est terminée et Netflix a gagné (Financial Times)

DISRUPTION, DISLOCATION, MONDIALISATION

• New York est la première ville à déclarer que les médias sociaux constituent un danger pour la santé publique (Washington Post)

DONNEES, CONFIANCE, LIBERTÉ DE LA PRESSE,DÉSINFORMATION

• Les deepfakes audio deviennent l'arme de prédilection de la désinformation électorale (Financial Times)
• Un nombre croissant d'applications facilitent l'automatisation du militantisme pro-israélien en ligne (Washington Post)
• Elon Musk propage des informations erronées sur les élections, mais les vérificateurs de X sont partis depuis longtemps (New York Times)
• Clarissa Ward demande à Israël de laisser les journalistes rendre compte librement de l'actualité à Gaza (Washington Post)

LÉGISLATION, RÉGLEMENTATION

• DMA : Meta et Google permettent désormais à leurs utilisateurs de pouvoir dissocier les différents plateformes (Correspondance de la Presse)
• Digital Market Act: Meta et Google livrent un aperçu du big bang qui s'apprête à secouer l'internet européen (Le Figaro)

JOURNALISME

• Le Los Angeles Times annonce le licenciement d’au moins 115 journalistes (Los Angeles Times)
• La nouvelle PDG de la radio publique américaine NPR dit qu’elle déteste le mot « contenus » (NPR)
• Au sein du complexe politico-médiatico-industriel américain en pleine déconfiture (Semafor)
• Après les licenciements du LA Times, une nouvelle pression pour obliger Google et Facebook à payer pour l'information (San Francisco Chronicle)
• Le HuffPost U.K. connaît des problèmes de trésorerie qui obligent les pigistes à courir après l'argent pendant des mois (Press Gazette)
• Business Insider prévoit de réduire son effectif mondial de 8% (Press Gazette)
• La guerre de l'information en Ukraine se retourne-t-elle contre ses propres journalistes ? (Columbia Journalism Review)
• Guerre contre Gaza : Le photojournaliste Motaz Azaiza évacué au Qatar (Middle East Eye)
• Les travailleurs syndiqués de Condé Nast se mettent en grève suite à l'annonce de licenciements (Axios)

L.A. Times began laying off at least 115 people in the newsroom beginning today in an effort to stem deep financial losses. Many cherished colleagues - including some with years of service - are being forced to say good-bye. @latimes https://t.co/rQDX4pFI9x

— Meg James (@MegJamesLAT) January 23, 2024

STORYTELLING, NOUVEAUX FORMATS

• Le plus grand journal norvégien s'exprime sur ce que les lecteurs aiment - et n'aiment pas - dans les articles audio (INMA)

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

• Le gouvernement flamand veut obliger TikTok et YouTube à partager leurs revenus (The Guardian)
• Twitch change ses règles de monétisation (The Verge)
• Meta met en place des limitations de messagerie plus strictes pour les adolescents et des contrôles parentaux (TechCrunch)
• Les influenceurs TikTok promettent de vous rendre riche. Le calcul n'est pas juste (Rolling Stone)
• Nous sommes entrés dans l'ère du visage TikTok (Dazed Beauty)
• BeReal, qui compte maintenant 23 millions d'utilisateurs actifs quotidiens, intègre des marques et des célébrités (TechCrunch)
• X submergé par des fausses images explicites de Taylor Swift générées par l'IA (The Verge)

IMMERSION, 360, VR, AR

• Microsoft licencie environ 10% des effectifs de sa branche jeux vidéo (The Verge)
• Des conférenciers en hologramme enthousiasment les étudiants d'une université britannique novatrice (The Guardian)

STREAMING, OTT, SVOD

• Netflix débarque dans le sport en direct (CNBC)
• Les abonnés et les revenus de Netflix augmentent grâce à la politique de répression du partage de mots de passe (Wall Street Journal)

AUDIO, PODCAST, BORNES

• Cette playlist Spotify qui vous comprend vraiment ? Elle a été écrite par une IA (New York Times)
• Les réseaux de podcasts testent des outils d'IA pour la traduction des émissions, l'aide à la production et la vente de publicité (Digiday)

Web3, BLOCKCHAIN, CRYPTO, NFT

• NFT, chaos dans le monde de l’art (Capital)

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

• Un nouvel outil logiciel gratuit permet aux artistes d'"empoisonner" les modèles d'IA cherchant à s'entraîner sur leurs œuvres (VentureBeat)
• Comment l'IA peut trouver les films, les séries télévisées et les livres parfaits pour vous (Wall Street Journal)
• La plupart des sites d'information bloquent les robots d'intelligence artificielle. Les médias de droite les accueillent à bras ouverts (Wired)
• Schibsted remporte un franc succès avec l'IA audio (INMA)
• L'IA annonce la prochaine génération d'escroqueries financières (Financial Times)

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

• La boutique TikTok est énorme. Est-ce que cela va durer ? (The New Consumer)
• Les plateformes sociales deviennent des "moteurs de marketing", les créateurs cherchant à conclure des accords directs pour gagner de l'argent (Digiday)
• Publicis investira 300 millions d'euros dans l'IA pour poursuivre sa transformation (Les Echos)

Kati Bremme, Alexandra Klinnik et Aude Nevo

The post Liens vagabonds : Le modèle de Netflix évolue et rabat les cartes du « old streaming » first appeared on Méta-media | La révolution de l'information.

« Si vous n’avez pas accès à votre score ou si vous ne savez pas qu’un score est calculé, quelle possibilité d’action vous reste-t-il ? » Aucune, explique une excellente vidéo du Data Justice Lab (@DataJusticeLab) – et on pourrait d’ailleurs ajouter, que savoir qu’on est calculé ou comment ne vous donne pas pour autant de possibilité d’actions, hélas !

Le problème de la multiplication des « scores de données » comme outils de gouvernance des administrés, explique le laboratoire de recherche de l’Ecole de journalisme de l’université de Cardiff, c’est que les citoyens ont très peu d’informations sur le déploiement de ces systèmes de scoring : ce qui empêche, pour le moment, tout débat public sur leur utilité et leurs biais. L’autre problème, bien sûr, de ces nouvelles modalités de gouvernance des usagers par les services publics (mais également par des systèmes privés), interroge les indicateurs produits (voir notamment notre article « Peut-on limiter l’extension de la « société de la notation » ?) Qu’est-ce qu’on mesure depuis ces scores ? Quelles caractéristiques sont utilisées pour déterminer des comportements ou des risques ? Et comment ces scores déterminent-ils l’affectation de ressources relative aux risques calculés ? Le problème, bien sûr, c’est que ces scores prennent bien plus en compte des facteurs individuels que structurels : ils reposent par exemple sur des défaillances de paiements plus que sur la montée des emplois précaires ou la réduction des prestations sociales, ils prennent plus facilement en compte l’absentéisme des élèves que les problèmes de désorganisation à l’école…

Ces systèmes portent toujours plus d’attention sur les individus que sur les causes structurelles des problèmes sociaux, dénonce avec justesse le Data Justice Lab. Le risque, bien sûr, c’est de produire une modification profonde des relations des organismes publics avec les citoyens ou des entreprises avec leurs employés en accusant toujours les comportements individuels plutôt que les défaillances structurelles ou organisationnelles !

Scores de données : la responsabilité individuelle plutôt que les défaillances structurelles

Dans un rapport (.pdf) (qui date de décembre 2018) coordonné par Lina Dencik (@LinaDencik), Arne Hintz (@arne_hz), Joanna Redden et Harry Warne, le Data Justice Lab s’est intéressé en profondeur à l’avènement de ces « scores de données » dans les services publics du Royaume-Uni. Le rapport livre plusieurs études de cas (qui portent sur des systèmes liés à la fraude sociale, à la santé, à la protection de l’enfance, aux services sociaux comme à la police), mais souligne surtout la grande carence d’informations sur les déploiements de ces systèmes, que ce soit sur les objectifs des systèmes, les données utilisées, tout comme sur les résultats produits.

Le Data Justice Lab alerte également sur l’étendue de la collecte et du partage de données opérés par ces projets, leur manque criant de transparence, le fait qu’ils soient souvent produits sans consentement des publics cibles, sans garde-fous éthiques, sans garanties ni modalités de contestation, sans association des usagers… et surtout bien sûr, le fait qu’étiqueter quelqu’un à risque consiste essentiellement à cibler et stigmatiser les plus fragiles.

L’analyse de données automatisée est promue dans un contexte économique de baisse budgétaire, de maîtrise des finances publiques et d’amélioration des services publics. Mais, l’introduction de l’analyse de données dans les services publics conduit surtout à réduire les soins, les prestations sociales et les droits, sans que les personnes concernées n’aient la possibilité de comprendre ou contester ces mesures, comme l’ont montré les travaux de Virginia Eubanks. Ces analyses de données reposent sur des pratiques de catégorisation, de segmentation, d’évaluation et de classement des populations en fonction de divers critères dans le but d’allouer les services en conséquence de ces critères et d’identifier des risques ou comportements spécifiques. Le scoring, c’est-à-dire le résultat d’analyse de ces critères, produit des indicateurs qui permettent de rendre les catégorisations effectives. Le scoring est utilisé depuis longtemps dans le secteur financier et le crédit où on utilise non seulement des données « socialement orientées » mais également, de plus en plus, des données comportementales (usages des téléphones mobiles par exemple) ou sociales (analyse des réseaux relationnels par exemple). Ces scores se sont ensuite répandus dans les services publics, notamment dans le secteur éducatif aux États-Unis, dans la mesure de risques juridiques, les outils de contrôle aux frontières, dans la santé et les politiques sociales liées à l’enfance et la famille. Au Royaume-Uni, l’analyse et l’utilisation des scores sont, pour l’instant encore, peu documentées. La Commission de la science et de la technologie de la Chambre des communes dans un rapport (.pdf) recommande au gouvernement de produire, maintenir et publier une liste des algorithmes utilisés par les autorités, notamment là où leur impact social est majeur. Dans les faits, il semble que nous soyons encore assez loin.

Dans leur étude, le Data Justice Lab revient sur plusieurs outils déployés en Grande-Bretagne. À défaut de les observer tous, intéressons-nous à l’un d’entre eux.

À Bristol, le centre d’analyse intégré vise à permettre aux services municipaux de traiter les familles dans leur ensemble, plutôt que chaque service indépendamment. Le programme Troubled Families, lancé en 2011, vise à aider les familles en proie à d’innombrables difficultés… Pour cela, le centre a construit une base de données (Think Family) avec des informations provenant de 35 ensembles de données concernant 54 000 familles. Le but : offrir une compréhension « holistique » des familles confrontées aux problèmes sociaux.

Depuis la création de cet outil d’agrégation de données, la ville a déployé des outils de modélisation prédictive… Parmi les données collectées, il y a des informations de police, des informations scolaires (sur les absences et les exclusions notamment), des informations provenant de l’assistance sociale, de santé… Le centre d’analyse achète également des données de partenaires privés (sur les évolutions socio-démographiques des quartiers notamment). Le centre produit un score de risque pour chaque jeune de sa base de données, basé sur des données d’entraînements provenant de seulement 31 victimes confirmées des années précédentes.

Le rapport souligne que le modèle repose essentiellement sur des données négatives (fréquentation scolaire, violence domestique…) excluant des données contextuelles (par exemple, le fait qu’un enfant soit actif dans des associations, même si sa fréquentation scolaire est plus problématique). Quelque 450 travailleurs sociaux ont accès au système. Il pointe également que les résultats de ce modèle ne dispensent pas de l’avis de professionnels, mais visent surtout à permettre de comprendre les difficultés à venir pour favoriser des interventions en amont.

Le système n’est pourtant pas si optimal qu’il le promet. Par exemple, l’équipe du centre n’a pas la possibilité de corriger les données qui proviennent d’autres services, même quand elles posent problèmes. L’autre enjeu est que le système influe sur les pratiques de travail des travailleurs sociaux, notamment sur le rapport aux enfants que les scores produisent en créant des risques de mauvaise interprétation… Le vrai problème, c’est bien souvent la sur-réaction aux données, comme l’expliquait Ben Green. L’autre difficulté, c’est que le système génère ses propres boucles de rétroactions. Par exemple, un travailleur social peut avoir tendance à prévenir la police du risque élevé affecté à un enfant, mais dans le modèle lui-même, le contact avec la police est lui-même un facteur qui élève le risque ! Exemple typique de boucles de rétroactions où les scores s’alimentent les uns les autres, au risque de produire des indices encore plus problématiques qu’ils ne sont ! Enfin, rappellent les auteurs du rapport, un système de ce type oublie le travail préventif et proactif, pour favoriser des réactions à des seuils et niveaux de risques. Il concentre le travail sur certains cas, au détriment des autres. Dans un contexte d’austérité et de ressources limitées, le risque est de ne travailler qu’à partir de certains scores, qu’à certains niveaux de vulnérabilité, que depuis des alertes… Enfin, bien sûr, si le système peut identifier des besoins, reste à savoir si les structures d’aides à l’enfance peuvent y répondre ! Le risque, bien sûr, c’est qu’à mesure qu’elles perdent en moyens, les seuils d’alertes s’élèvent… Enfin, comme le pointait une étude que nous avions relayée sur les systèmes d’identification automatisés des enfants à risques par les services à l’enfance britanniques, aucun de ces systèmes de prédiction des risques ne donne de résultats probants.

Le rapport consacre également plusieurs pages au rôle que jouent des ensembles de données privées dans ces projets à destination de services publics. Il détaille notamment le cas d’Experian, une agence d’évaluation du crédit à la consommation qui dispose d’un outil de segmentation géodémographique – moteur de la personnalisation publicitaire, comme l’expliquait Tim Wu dans son livre, Les marchands d’attention – lui permettant de trier la population en segments. Mais c’est également le cas d’entreprises comme Xantura, Callcredit et Capita qui fournissent des services de profilage, de vérification d’identité ou d’évaluation des risques. Né dans les années 60, le développement des techniques de géodémographie a été financé par le ministère américain du Logement pour parvenir à mieux cibler les subventions au logement, avant d’être étendu à des usages plus commerciaux. Dans les années 80, ces travaux ont été adaptés au Royaume-Uni par Richard Webber afin de produire une classification des quartiers (Webber a fondé la division micromarketing d’Experian). Pour ses promoteurs, la géodémographie consiste à dire que l’endroit où l’on vit compte pour comprendre les valeurs, choix et comportements des consommateurs. Elle utilise de nombreuses données pour placer chaque citoyen dans une catégorie en fonction du quartier où il vit. Dans le secteur public, les autorités publiques, et surtout locales, intègrent de plus en plus souvent des données géodémographiques pour affiner les leurs. Mosaic, le produit de classement géodémographique d’Experian, classe les individus en 15 grands groupes et 66 types. Reste que si les services utilisent, les chercheurs soulignent qu’on ne sait pas grand-chose des données mobilisées par ces entreprises, ni les méthodes d’analyses qu’elles y appliquent. Experian estime détenir des informations sur 49 millions des 63 millions d’adultes du Royaume-Uni… et sait produire des taux de correspondance à 50 % avec Facebook et 35 % pour Twitter.

Vers des systèmes sans évaluation qui transforment les problèmes sociaux en problèmes individuels

La dernière partie du rapport donne la parole à différents groupes de la société civile que les auteurs ont rencontré, des associations britanniques qui travaillent dans le domaine des droits numériques, des droits sociaux, de l’éducation en les interrogeant sur leur compréhension de ces systèmes (comme Defend Council Housing, Disabled People Against Cuts, Netpol, Big Brother Watch, Open Rights Group, Involve, Liberty,British Association of Social Workers). Pour l’essentiel, celles-ci se montrent inquiètes de ces évolutions, à la fois en ce qui concerne l’étendue de la collecte, du partage, le risque de partialité et de discrimination, la possibilité de ciblage, de stigmatisation, de stéréotypie de groupes, le manque de transparence, de consentement, d’information… L’inquiétude porte notamment sur une forme de « maximisation des données » qui consiste à collecter toujours plus de données et à accroître leur partage sans grandes limites, quel que soit le caractère sensible des données. Or, nombreux rappellent que la minimisation des données est essentielle pour répondre à cette tendance. Les personnes calculées et les associations s’inquiètent de cette fluidification des données : les communautés de migrants par exemple s’inquiètent de voir leurs statuts d’immigration divulgués quand ils se rendent à l’hôpital et que celui-ci puisse être utilisé pour les exclure des soins ou les dénoncer aux services sociaux ou de police… et ont donc tendance à renoncer à se rendre dans certains services publics. Autres constats que dressent les associations, celle de la transformation du travail, notamment des travailleurs sociaux, qui passent de plus en plus de temps à collecter et renseigner les données. Les systèmes transforment la façon dont les problèmes et les solutions sont définis. Or, bien souvent, les systèmes mis en place pensent que les données sont la solution, plutôt que de s’interroger sur pourquoi et comment elles peuvent y contribuer. Beaucoup d’acteurs sont préoccupés par cette collecte extensive et plus encore par la situation de monopole qu’elle crée, renforçant la nature asymétrique du pouvoir entre les autorités et les administrés. Bien sûr, les acteurs de la société civile sont très inquiets des effets de stigmatisation, de ciblage, de stéréotypie et de discrimination que renforcent ces outils. « Les personnes bénéficiant de l’aide sociale ont toujours été particulièrement visées (par le contrôle social) et cela semble s’aggraver », estime Big Brother Watch. De quel droit étiquetons-nous quelqu’un à risque uniquement parce qu’il appartient à une famille pauvre ?, s’inquiète l’Open Rights Group. Sans compter que l’étiquetage a tendance à être durable si ce n’est permanent. Tous s’inquiètent du manque de transparence des systèmes, des critères, des calculs. Quant au consentement, il est bien souvent arraché sans que les familles n’en saisissent les implications ou ne puissent en fait s’y opposer. Tous les groupes de la société civile souhaitent une meilleure réglementation, mais peinent à en formuler les règles qui seraient nécessaires. Pour tous pourtant, ces systèmes sont politiques. L’exploitation des données est profondément liée à l’austérité. Le but n’est pas de les utiliser au service des gens, mais bien de construire une approche très technologique de la politique dans une forme d’hypersurveillance des plus en difficultés.

Dans leurs conclusions, les chercheurs soulignent la difficulté à évaluer les différents systèmes mis en place, du fait qu’aucune procédure standard n’est mise en œuvre et que leurs usages mêmes peuvent être très différents d’un acteur l’autre. Certains s’en servent pour maximiser l’information, d’autres pour calculer de nouvelles informations. Reste que tous ces systèmes se mettent en place dans des contextes d’austérité, c’est-à-dire visent à utiliser les données pour mieux définir les ressources, mais sans que ces enjeux d’affectation des ressources ne soient posés en regard du déploiement de ces systèmes de calcul. Nous entrons dans des services « riches en données, mais pauvres en ressources », comme s’en inquiétait Dan McQuillan pour Open Democracy. Si ces systèmes laissent souvent à ceux qui y accèdent des modalités d’appréciation, la limitation des ressources et la déqualification des personnels font que ces résultats limitent considérablement leur appréciation. Pour les calculés en tout cas, la manière (et les raisons) de mise en œuvre de ces systèmes reste insaisissable. Le manque de transparence demeure un problème majeur. Quand, il y a quelques modalités d’organisation de la transparence, celles-ci sont insuffisantes pour remédier à l’asymétrie de pouvoir entre les institutions et les citoyens… En tout cas, elle ne conduit pas à des possibilités de recours efficaces.

Pour les chercheurs, il est plus que nécessaire d’ouvrir ces systèmes à des audits citoyens et à des formes de participation du public. À nouveau, nombre de ces systèmes visent d’une manière disproportionnée une partie particulière de la population : ceux qui font appel aux services sociaux. Pour les chercheurs, il est nécessaire de mieux équilibrer l’utilisation des données et notamment mieux comprendre les situations où elles ne sont pas nécessaires et quand elles risquent de produire des utilisations qui vont au-delà de leurs objectifs, même ceux qui semblent vertueux, comme une vision plus intégrée des bénéficiaires. Enfin, il y a une hypothèse sous-jacente aux développements de ces systèmes : celle que l’information conduit à agir, mais sans que les actions produites par les scores soient elles-mêmes définies ! Produisent-elles des mesures plus préventives ou plus punitives ? Comment ces actions sont-elles évaluées et décidées ? Quels effets produit l’étiquetage des populations ? Et plus encore, quels effets produisent ces étiquetages de risque dans des chaînes de systèmes ?… Il est aussi nécessaire d’observer le réductionnisme que ces données produisent au détriment de la connaissance sociale et réelle des personnes, permettant à des opérateurs d’agir sans qu’ils aient la connaissance des contextes particuliers des personnes cibles. Enfin, bien sûr, ces systèmes privilégient des calculs et des réponses individuelles sans que soit interrogée la démission des réponses collectives ou structurelles que ces réponses atomisées induisent. Par exemple, nous courons le risque de mesurer l’impact des absences scolaires, mais pas les lacunes d’un accompagnement scolaire défaillant, car non financé. Ces systèmes renforcent finalement les corrélations sur les causalités et transforment les problèmes sociaux en problèmes toujours plus individuels. Les individus ne sont plus vus comme des participants à la société, mais uniquement comme des risques. Pire, bien souvent ces systèmes disqualifient les professionnels qui sont en première ligne avec ces publics… comme si finalement les données pouvaient remplacer leurs évaluations, leurs expériences, leurs compréhensions des contextes réels des familles.

Illustrons ces constats d’un autre exemple pour nous aider à comprendre. De l’autre côté de l’Atlantique, le toujours excellent Data & Society (@datasociety) vient lui de publier un rapport sur la surveillance des personnels de soins à domicile. En effet, l’État fédéral a lancé une application mobile de vérification électronique des visites (EVV) permettant de surveiller à la fois les personnels de soins et ceux qui bénéficient de leurs aides, bien souvent deux populations l’une comme l’autre marginalisées. Pour la chercheuse Alexandra Mateescu (@cariatidaa), ces systèmes de contrôle, très intrusifs, privilégient des formes de normalisation et d’efficacité au détriment des expériences vécues et des réalités de terrain. Ces applications enregistrent les heures et les déplacements des personnels de soin à domicile. L’application de suivi a rendu le travail des travailleurs du soin plus difficile et a tendu les relations entre les travailleurs et les bénéficiaires, par exemple en informant les aidants que les fonds des bénéficiaires étaient insuffisants alors qu’ils ne l’étaient pas. Ces systèmes exigent des validations permanentes et contraignantes, plusieurs fois par jour. Déployés au prétexte de fraudes – sans que leurs niveaux ne soient jamais évalués -, ces systèmes de contrôle produisent des erreurs, au détriment de ceux qui prodiguent le soin comme de leurs patients, expliquaient Virginia Eubanks et Alexandra Mateescu cet été dans une tribune pour The Guardian. Dotée de fonctions de géolocalisation (pour vérifier que les travailleurs à domicile se rendent bien au domicile des bénéficiaires), l’application signale par exemple automatiquement le fait de s’éloigner du domicile des bénéficiaires, comme pour les emmener à un rendez-vous chez le médecin, et demande de le justifier. Au final, nombre de bénéficiaires ne souhaitent plus bouger de chez eux, de peur que ces signalements ne leur fassent perdre les prestations de soins à domicile dont ils bénéficient. Une surveillance qui risque de miner le droit à l’autonomie des personnes dépendantes, rappellent les chercheuses. Le système ne surveille finalement pas seulement le personnel qui dispense des soins, mais également ceux qui en bénéficient, explique une association qui mène campagne contre la généralisation du système. Le système a également produit des retards de paiement généralisés. Rappelons au passage que l’Arkansas, où ont eu lieu les premiers déploiements de ce système, avait déjà été épinglé pour des problèmes relatifs à des systèmes d’évaluation des besoins des personnes handicapées en 2016 (voir notre article « L’État automatisé au risque d’une crise de légitimité »). Pourtant, tous les systèmes de surveillance des personnels qui fournissent des soins à domicile ne sont pas conçus de la même manière. En Californie, le syndicat des travailleurs domestiques et l’organisation pour les droits des personnes handicapées ont collaboré pour produire un système qui ne recueille pas de données de déplacements ni n’enregistre les heures passées en temps réel. En Virginie, la géolocalisation est facultative et exempte les aidants familiaux du système. En étant conçus sans prendre en compte les besoins réels des personnes, en produisant du surcontrôle, ces systèmes produisent surtout du mépris envers les populations qu’ils sont censés adresser.

Le risque, bien sûr, c’est que ces formes d’hypersurveillance se démultiplient. L’association Coworker (@teamcoworker) a récemment publié un rapport (.pdf) (et une base de données des plateformes et applications de surveillance au travail) qui revient sur l’explosion des outils d’analyse et de gestion des travailleurs. Des outils qui sapent et contournent les réglementations en matière de travail et qui ne sont pas transparents sur les données qu’ils collectent et la manière dont ils en tirent profit. Ce secteur des « Little Tech », comme les appelle CoWorker – mais qui relèvent bien plus du « bossware » – qui collecte des données sur les travailleurs, approfondit et accélère une forme d’ubérisation généralisée de l’emploi. Ce secteur met concrètement en œuvre l’infrastructure qui fait tourner l’économie, les lieux de travail et les marchés de l’emploi. Cette Little Tech qui outille notamment l’économie des petits boulots, produit des technologies d’amélioration de la productivité, en exploitant des données sensibles, sans rémunérer davantage les travailleurs, et bien souvent, en portant atteinte à leur sécurité, et sans prévenir des formes de discriminations. « L’industrie technologique n’est pas puissante à cause des produits qu’elle développe, mais parce qu’elle restructure fondamentalement les marchés du travail (…) par une surveillance sans contrôle ».

Hubert Guillaud

MAJ : Eve Zellickson (@zel_eve) pour Points, le magazine de Data & Society revient sur le vol des pourboires par les plateformes de l’économie des petits boulots. Amazon a été condamné à payer 61,7 millions de dollars pour vol de pourboire à ses chauffeurs ! Les chauffeurs ont fini par remarquer que les pourboires étaient à la baisse et s’en sont plaint. Amazon leur a répondu individuellement en soutenant qu’ils recevaient 100 % des pourboires, alors que l’entreprise les utilisait en partie pour améliorer le salaire de base que gère l’application. Zellickson note que les chauffeurs sont habitués à être en relation avec un support peu réactif face aux problèmes qu’ils rencontrent, hormis pour la livraison elle-même. Le problème de l’absence de communication réciproque et de processus clair de résolutions de conflits, dans ces applications, est au cœur de bien des problèmes, souligne la chercheuse. Signalons que ce problème ne touche pas qu’Amazon.

Pour les ingénieurs, bien souvent, la question des biais algorithmiques n’est qu’un problème technique à corriger. Le fait qu’une IA ne soit ni neutre, ni loyale, ni équitable n’est finalement qu’une question de modélisation à ajuster, de données à corriger, de calculs à améliorer…

Pour remédier aux discriminations, il suffirait finalement de calculer des mesures correctrices proportionnelles au niveau de discrimination, une discrimination positive en quelque sorte. Ce n’est peut-être pas si simple…

Kate Crawford (@katecrawford) le disait très bien : quelle correction appliquée ? La question est bien plus compliquée qu’une correction relative à des problèmes de physique, comme de corriger les turbulences d’un avion ou le freinage d’une voiture. Modéliser la société n’est pas la même chose que modéliser des problèmes de physique, disait déjà le physicien Pablo Jensen…

Reste que la question de la correction des biais des systèmes fait de plus en plus l’objet d’une attention forte des autorités. Et trouver les préjugés de l’IA est devenue une activité en plein essor pour les startups et les grands noms de la technologie, rapporte le journaliste Cade Metz (@cademetz, qui vient de publier Genius Makers, Penguin, 2021) dans le New York Times.

Le National Institute of Standards and Technology a publié récemment une proposition détaillant la manière dont les entreprises peuvent lutter contre les préjugés de leurs systèmes. Fin 2019, les régulateurs de l’État de New York ont ouvert une enquête contre United Health Group accusé d’avoir utilisé un algorithme dans des hôpitaux qui donnait la priorité aux patients blancs sur les patients noirs (et ce n’est pas le seul exemple des problèmes que l’usage de l’IA en médecine pose, cf. notre article « En médecine, l’IA est en plein essor, mais pas sa crédibilité »). Plus de 100 millions de dollars ont été investis au cours des 6 derniers mois dans des entreprises explorant les questions éthiques liées à l’intelligence artificielle, estime PitchBook, un cabinet de recherche qui suit les activités financières des entreprises. Software Alliance (@BSAnews) a proposé récemment un cadre détaillé (.pdf) pour lutter contre les préjugés de l’IA en pointant le fait que certaines technologies automatisées nécessitaient une surveillance humaine régulière. Les grandes entreprises du numérique travaillent toutes sur ces sujets et déploient des outils dédiés.

Le problème, c’est qu’il n’y a pas de solution simple pour lutter contre les biais. Pour nombre d’entreprises, construire une technologie équitable consiste surtout à ignorer les problèmes de discrimination qu’elle crée (ce qu’on appelle, d’une manière assez paradoxale, « l’équité par inconscience »). L’idée est simple : plus on apporte de données – et notamment des données les plus diverses possibles -, plus l’équité viendra. Pour la Software Alliance cependant, tout comme pour nombre de spécialistes du sujet, cet argument ne tient pas la route. Le problème n’est pas la masse de données, mais bien leur qualité, leur diversité bien sûr, qui n’est pas nécessairement assurée, mais aussi leur validité.

Le problème du problème, c’est que nous ne savons pas à quel point le problème des biais est grave, estime Jack Clark (@jackclarksf), cofondateur d’Anthropic, membre du laboratoire Human-Centered Artificial Intelligence de Stanford (StanfordHAI) et auteur de l’AI Index (@indexingai). C’est-à-dire que si nous constatons que le problème est profond, nous avons du mal à mesurer son impact et ses conséquences.

Des outils pour débiaiser ou des outils pour accélérer et réduire les coûts de la mise en conformité ?

Liz O’Sullivan (@lizjosullivan, blog), conseillère pour Arthur.ai, un système de surveillance de la performance et de détection de biais pour les outils d’IA, membre de l’American Civil Liberties Union et directrice technologique du programme Surveillance Technology Oversight Project, a construit avec Rumman Chowdhury (@ruchowdh), Parity, une technologie qui analyse les données, les technologies et les méthodes utilisées par les entreprises pour créer leurs services et identifier les « zones » à risque. Parity examine les biais, la conformité à la loi et fournit des recommandations dédiées. Mais plus que la responsabilité, Parity travaille sur le risque, une notion bien plus préhensile pour les entreprises. Parity dispose d’une bibliothèque de questions qu’elle adresse aux concepteurs des systèmes selon leurs fonctions et connaissances, des juristes aux scientifiques. Les réponses, souvent en texte libre, sont elles-mêmes analysées par des outils de traitement du langage naturel et traduit en risques, permettant souvent de montrer que les risques des uns ne correspondent pas aux risques des autres. Ensuite, la plateforme recommande un ensemble d’actions pour atténuer les risques, comme de créer un tableau de bord pour surveiller en permanence la précision d’un modèle ou mettre en place des procédures de documentation sur la manière dont il est formé et affiné. Il intègre plusieurs outils de contrôles comme AI Fairness 360 d’IBM ou les Model Cards de Google (voir notre article : « Auditer les algorithmes »). L’enjeu estime Chowdhury consiste à réduire le temps nécessaire à l’audit des systèmes pour le faire plus régulièrement et souvent, soulignant là encore, combien l’automatisation des questions de conformité (et toutes les formes d’évaluations qui les accompagne, à savoir les mesures de qualité, d’impact social et environnemental…), qui nécessitent des évaluations chronophages et coûteuses, doivent être réduites dans le but de produire des économies d’échelles et des gains de productivité. La question de l’automatisation de l’atténuation des biais relève surtout d’une automatisation de l’intégration des formes régulations. Pour Chowdhury pourtant, l’enjeu est de pousser un cran plus loin : il est de faire passer les entreprises du calcul du risque à l’analyse de leurs impacts.

Reste qu’il est finalement troublant que le « débiaisage » de l’IA utilise des technologies d’IA qui peuvent elles-mêmes être biaisées. Si ces outils sont aussi imparfaits que l’IA, ils permettent au moins de souligner certains problèmes, veulent croire les chercheuses. L’enjeu, estime Liz O’Sullivan, c’est surtout de créer du dialogue. Trop souvent le problème vient du fait qu’il demeure ignoré ou que les personnes qui en discutent ont le même point de vue. Ce qui manque, bien souvent, c’est une diversité d’approche de ces questions.

Sur son blog, Liz O’Sullivan revient par exemple sur le besoin d’équité des moteurs de recommandation. Les moteurs de recommandation aident les entreprises à prédire ce qu’elles pensent que vous aimeriez voir. Pour Netflix ou YouTube, cela se traduit par le choix de la vidéo suivante qui vous sera proposé en lecture automatique. Pour Amazon par le choix d’articles à vous suggérer dans un courriel promotionnel. Les systèmes de recommandations doivent donc prendre en compte 2 aspects d’un problème : ce qu’ils recommandent et à qui ils le recommandent.

Pour recommander des contenus, cela nécessite bien souvent d’apprendre d’une combinaison à détecter les articles similaires et les utilisateurs similaires. Les moteurs de recommandation recommandent des articles sur la base de « préjugés inductifs », selon le modèle courant que les utilisateurs qui semblent similaires dans le passé continueront à l’être dans le futur. Le problème de ce biais inductif est multiple. Tout d’abord, il favorise la popularité : quel que soit le contenu que vous recommandez à un utilisateur, tous les chemins de la recommandation mènent à la vidéo la plus populaire du jour. Grosso modo, YouTube va vous recommander la vidéo que tout le monde regarde, comme a pu l’être Gangnam Style à une époque. Le biais inductif implique de ne pas prendre de risque et de montrer ce qui a le plus plu aux autres utilisateurs. À l’inverse, bien sûr, « moins YouTube sait comment les utilisateurs vont interagir avec votre type de contenu, plus il est risqué de le promouvoir », d’où la difficulté à promouvoir des contenus très peu consultés. Bien sûr des correctifs existent. On peut favoriser les contenus récents et émergents et réduire la recommandation vers la vidéo la plus populaire. Si cela permet de favoriser les petits producteurs de contenus, le risque est de donner un avantage disproportionné à des contenus qui ne le méritent pas beaucoup, comme les contenus complotistes ou radicaux. L’IA fait un mauvais travail de prédiction dès qu’elle n’a pas beaucoup de données sur lesquelles s’appuyer. C’est hélas bien souvent le cas.

Un autre parti pris très documenté est la partialité politique, le fait que les moteurs favorisent certains types de contenus politiques ou ne distribuent pas équitablement dans la population les mêmes types de contenus. Le problème ici consiste à mesurer l’impact positif ou négatif d’une recommandation. Une publicité financière peut-être bénéfique si elle recommande le refinancement d’un prêt étudiant (à son avantage) mais nuisible dans le cadre d’un prêt sur salaire par exemple. D’où la nécessité d’évaluations qualitatives, qu’il est pourtant difficile de réaliser à grande échelle sur une multitude d’annonces.

Pour O’Sullivan, il n’y a pas de solution miracle pour atténuer ces biais, mais l’industrie devrait tout de même travailler à mieux le mesurer. Mieux évaluer la discrimination induite d’abord, comme celle produite par les choix et biais des utilisateurs eux-mêmes : « la discrimination involontaire [c’est-à-dire l’équité par inconscience] n’est plus une stratégie viable », met en garde la chercheuse.

En fait, il va peut-être falloir envisager de créer des catégories sur les contenus ou publicités en fonction de leur utilité ou nocivité, explique-t-elle. On peut par exemple distinguer des publicités proposant un enseignement supérieur selon qu’il est dispensé par des universités ou qu’il propose seulement des certifications à but lucratif… Distinguer les contenus selon ce qu’ils proposent serait effectivement une méthode de tri pertinente, mais elle implique des décisions morales et subjectives qui sont bien loin de la neutralité affichée par les plateformes. Pas sûr que grand monde sache ou souhaite de cette solution. Ensuite, il va s’agir de mesurer les recommandations selon les catégories protégées et la qualité de ce qui est recommandé – aux États-Unis, les groupes protégés sont des catégories de personnes qui disposent d’une protection spéciale pour limiter leur discrimination. Pour Liz O’Sullivan, l’atténuation des biais et préjugés est une quête sans fin nécessitant de tester ad nauseam les systèmes. C’est-à-dire « veiller, en tant que praticiens, à apporter une éthique d’amélioration continue à ces enjeux, sans jamais considérer que ce qui a été fait est « suffisamment bon » ».

Retenons pourtant de cette démonstration une précision importante : évaluer la nocivité nécessite de la catégoriser. Une proposition assez iconoclaste dans un monde où le relativisme règne en maître sous prétexte de sa neutralité, ou une publicité en vaut une autre quel que soit le produit proposé, ou l’efficacité d’un calcul est toujours évaluée par rapport aux gains financiers qu’il génère avant tout autre critère.

D’autres outils que Parity existent également pour surveiller les services d’IA, comme le rapporte la Technology Review dans un article sur les « startups de l’éthique ». Celles-ci proposent différents types de produits : des outils d’atténuation des biais à des modalités d’explicabilité des traitements. Fiddler (@fiddlerlabs), dirigé par Krishna Gade (@krishnagade), ancien responsable du News Feed de Facebook où il a développé une première base de son travail qui a donné la fonctionnalité « Pourquoi est-ce que je vois ça ? », travaille principalement sur l’explicabilité. Mais Fiddler permet également de suivre les performances des modèles en fonction de leurs résultats.

Il a même récemment introduit un détecteur de biais, qui produit des alertes si par exemple vous utilisez le code postal pour calculer un prêt immobilier ou des taux de faux positifs par catégories d’utilisateurs. Pour cela, Fiddler a développé des « métriques d’équité », basées sur les catégories légales des groupes protégés que nous évoquions ci-dessus. Par exemple, il calcule un « impact différencié » qui mesure la discrimination indirecte qui affecte de manière disproportionnée les membres d’un groupe protégé par rapport aux autres. Il calcule également la « parité démographique » : c’est-à-dire compare si les différents segments d’une classe protégée reçoivent des résultats à taux égaux. Il calcule « l’égalité des chances », c’est-à-dire évalue si toutes les personnes sont traitées de manière égale ou similaire et ne sont pas désavantagées sur la base de résultats différents. Enfin, il calcule un « avantage de groupe », c’est-à-dire détermine le taux auquel un événement particulier est prédit au sein d’un sous-groupe par rapport au taux auquel il se produit réellement.

Dans un autre billet de blog, le PDG de Fiddler explique sa collaboration avec FinRegLab, une équipe de chercheurs de l’École d’affaires de Stanford qui travaille à un système d’évaluation et d’explicabilité des outils de crédits (et notamment le fameux score Fico qui détermine les possibilités d’emprunt). Les banques et assureurs sont confrontés à plusieurs problématiques avec leurs outils : le manque de transparence quant aux raisons pour lesquelles le modèle a pris une décision, qui impacte tant ces entreprises et leurs clients que les autorités de régulation. Le manque de visibilité sur les performances des modèles en production, le risque de dérives sur les données et leur difficulté à prendre en charge les changements. Par exemple, avec la pandémie, la distribution des demandeurs de prêts s’est radicalement transformée ce qui a rendu l’évaluation du risque bien plus difficile. Les banques doivent également apprendre à gérer les biais qui peuvent se produire à l’encontre des utilisateurs finaux, pour ne pas connaître d’incidents comme celui de l’Apple Card, la carte de crédit d’Apple qui était censée désavantager les femmes par rapport aux hommes (soulignons pourtant qu’une enquête du département des services financiers de l’État de New York n’a trouvé aucune preuve concrète de ces accusations en analysant le système, rapporte Bloomberg). Enfin, dans la finance, le besoin de conformité réglementaire est assez fort… Dans son utilisation par les banques, Fiddler par exemple produit une surveillance permanente des modèles et permet de produire des alertes lorsque les modèles dérivent.

Arthur AI et Weights & Biaises proposent également des plateformes de surveillance. Le premier met l’accent sur l’explicabilité et l’atténuation des biais, tandis que le second suit les expériences d’apprentissage automatique pour améliorer la reproductibilité.

Pour O’Sullivan et Chowdury de Parity, toutes ces solutions plus ou moins concurrentes sont une bonne chose, car il n’y a pas une seule méthode pour créer de la responsabilité. On l’avait déjà constaté avec les innombrables méthodes, matrices et checks-lists existantes qui sont autant de tentatives à trouver des modalités de dialogues pour intégrer des considérations sociales aux systèmes techniques. Pour elles, soulignent-elles, l’enjeu consiste surtout à produire un écosystème qui permette d’interroger les systèmes et de montrer les implications de ces questions pour dépasser les correctifs techniques, les questions de conformité ou la mesure de risque. Comme pour mieux prendre en compte l’impact social des enjeux techniques.

Jusqu’où débiaiser ?

L’un des premiers articles (.pdf) (signé par une cohorte de jeunes chercheurs dont Tolga Boukbasi de l’université de Boston) sur le débiaisage/débruitage de systèmes par d’autres systèmes date de 2016 et portait bien sûr sur une analyse du langage pour détecter les mots genrés et leur appliquer des correctifs (plus précisément, il s’agit de comprendre les « plongements lexicaux », c’est-à-dire les associations implicites entre mots et préjugés). Sur son blog, la data scientist Mitra Mirshafiee, de la communauté de data scientist Analytics Vidhya (@analyticsvidhya, blog) revenait d’ailleurs sur cet article pour nous en expliquer la portée et les limites.

Pour elle, les systèmes d’apprentissage automatique sont en train de s’emparer du monde que nous utilisons quotidiennement et non seulement « ils reproduisent nos anciennes pensées et nos anciens schémas de pensée, mais ils les amplifient en rendant les biais plus répandus encore qu’ils n’étaient ». « Si nous ne prenons pas soin de nos algorithmes, ils continueront à étiqueter les personnes à la peau foncée comme des gorilles, à montrer aux femmes programmeurs informatiques et mathématiciennes des offres d’emploi de nettoyage et de ménage, à penser que tous les musulmans soutiennent le terrorisme, etc. »

En 2013, l’informaticien Tomas Mikolov et son équipe chez Google travaillaient à ce que les algorithmes de recherche répondent mieux aux questions des gens. Ils ont ainsi inventé word2vec, un algorithme non supervisé auto-encodeur. Ainsi, lorsqu’on lui donne une phrase, il produit pour chaque mot de cette phrase une série de nombres représentant les aspects les plus importants de ces mots. Ainsi mesurés, encastrés, on peut calculer des relations entre les mots, trouver des liens cachés. Les informaticiens ont travaillé à trouver des analogies entre les mots pour mieux mesurer leurs différences… par exemple pour calculer si l’analogie entre homme et femme était différente de celle entre femme et fille ou entre homme et fille. En produisant des analogies, ils ont ainsi remarqué que homme était lié à « informaticien »… et demandé si femme était lié à un terme comparable. Mais plutôt que de produire le terme informaticienne, la machine a répondu « femme au foyer ». En fait, ils ont ainsi montré que certains termes étaient genrés dans leur utilisation même : « libraire » s’associe plus au pronom « she » (elle) que « maestro » qui ne qualifie que des « he » (il) ! En observant comment des mots pourtant neutres en terme de genre sont associés à des genres, les chercheurs peuvent alors produire un système pour neutraliser leur connotation cachée. La démonstration de Mitra Mirshafiee est bien sûr un peu complexe, mais elle souligne comment ces calculs permettent de réduire les stéréotypes. Pas totalement pourtant : c’est toute la limite de la correction ! Elle reste limitée et incomplète. Les résultats d’atténuation sont notables, mais pas total… et restent limités à des dictionnaires terminologiques eux-mêmes élémentaires ou critiquables, qui concernent certains types de relations entre certains types de mots… Calculer et rectifier les biais de tous nos lexiques semble bien compliqué et produira peut-être des corrections… Le risque est que ce soit là un travail toujours inachevé !

D’où le fait qu’on parle bien plus de « réduction » ou « d’atténuation » de biais que de suppression… en employant via des techniques de « contraintes d’équité », de « régularisations de préjugés » ou de « débruitage contradictoire ». C’est ce que montre très bien (même si c’est là encore assez technique) les publications de la data scientist Haniyeh Mahmoudian sur les techniques d’atténuation des biais pour Towards Data Science.

L’article de Tolga Boukbasi et ses collègues a certes donné des ailes à l’automatisation du débiaisage… Pourtant, malgré quelques succès – que les techniques des startups qu’on a évoqués ici représentent parfaitement -, le débruitage demeure toujours imparfait. Le journaliste Kyle Wiggers (@Kyle_L_Wiggers) pour Venture Beat soulignait d’ailleurs que si nombre de plateformes utilisent des systèmes de détection de la toxicité du langage (notamment Jigsaw d’Alphabet/Google), ils demeurent souvent bien peu performant. Les chercheurs du Allen Institute ont étudié (.pdf) des techniques pour remédier aux déséquilibres lexicaux (le fait que des mots ou ensembles de mots soient toxiques) et dialectaux (le fait que des variantes linguistiques soient marquées comme toxiques) dans les données. Là encore, si les techniques de filtrage réduisent les biais, ils ne les éliminent jamais. Les modèles de filtrage établis continuent de marquer de manière disproportionnée certains textes comme toxiques. En fait pointent les auteurs, l’atténuation des biais dialectaux ne semble pas modifier la propension d’un modèle à étiqueter les textes d’auteurs noirs comme plus toxiques que ceux d’auteurs blancs ! Pour eux, GPT-3 (qui est pourtant l’un des modèles d’analyse linguistique le plus développé) manque certainement d’entraînement sur des variétés d’anglais afro-américains. Dans le gouffre des données, le risque est qu’il n’y en ait jamais assez sans être assuré que plus de données permettent vraiment de réparer les biais que nous ne cessons de produire.

Pour les chercheurs, le débiaisage ne suffira pas… C’est le constat récurrent que font les chercheurs de ces domaines, que ce soit les travaux de Joy Buolamwini (@jovialjoy) et Timnit Gebru (@timnitGebru) sur la reconnaissance faciale, ceux de Guillaume Chaslot (@gchaslot) et l’association Algotransparency sur les recommandations de YouTube, ceux d’Angèle Christin (@angelechristin) sur la justice prédictive… et tant d’autres, dont nous nous sommes régulièrement fait l’écho…

Même constat des chercheurs du Allen Institute. Au final, ils recommandent de mieux identifier le locuteur pour produire de meilleures corrections. Pour produire une meilleure correction des éléments lexicaux et dialectaux, il faudrait donc mieux étiqueter les textes, notamment en les catégorisant selon l’origine de leurs auteurs ! Mais cette perspective se révèle finalement plus inquiétante que les biais actuels des systèmes… puisqu’elle consiste à étiqueter sans fin les personnes sans saisir la notion culturelle des biais. Si on prolonge l’exemple d’une catégorisation de l’origine des textes, il faudrait catégoriser selon les origines de leurs auteurs… au risque de descendre dans des spécifications encore plus problématiques qu’elles ne sont ! À quelles « variétés » (sic) rattacher les textes de Ta-Nehisi Coates, Toni Morrisson, Richard Wright, James Baldwin… ?

À croire que la surproduction identitaire de l’analyse de données répond et amplifie nos névroses identitaires ! En tout cas, c’est typiquement le risque que pointait Kate Crawford dans son livre, Atlas of AI, celle d’une réduction identitaire qui risque d’encourager une mal-mesure sans fin… C’est-à-dire qu’au prétexte de vouloir corriger des biais en ajouter d’innombrables !

Pas étonnant que certains chercheurs souhaitent donc s’éloigner du concept même de biais. La chercheuse à Data & Society, Kinjal Dave (@kinjaldave7), par exemple, estime que le terme, issu de la psychologie sociale, renvoie à l’imperfection des individus, que ce soient les producteurs de systèmes comme tout un chacun, en invisibilisant le fait que les systèmes produisent non pas des biais, mais renforcent des rapports de pouvoir. Catherine D’Ignazio (@kanarinka) et Lauren Klein (@laurenfklein) dans leur livre Data Feminism, estiment que parler de biais laisse croire qu’on pourrait les corriger : elles préfèrent donc parler d’oppression. Même constat chez d’autres auteurs dont nous avons parlé comme Sasha Constanza-Chock ou Ruha Benjamin… qui parlent elles plutôt de justice, pour pointer également l’importance des rapports de pouvoir masqués par les traitements.

Ultime défiance face à ces technologies d’atténuation. Le risque que les correctifs proposés se démultiplient dans la plus grande opacité, sans qu’on soit assuré de leur efficacité comme du fait qu’ils aient été utilisés ou utilisés correctement. Qui nous assurera que les correctifs techniques ont bien été produits et appliqués ? La perspective d’une automatisation de l’éthique ne lève donc pas tous les défis du sujet !

Vers une éthique automatique ?

Un épais rapport du Pew Research Center auprès d’experts de l’IA se montre plutôt sombre… sur les perspectives à rendre l’IA éthique. Pour la majorité d’entre eux, la conception éthique de l’IA ne devrait pas être la norme avant une bonne dizaine d’années. L’optimisation des profits et le contrôle social devraient continuer à être au cœur de l’IA. Aux États-Unis, un rapport de l’agence de la responsabilité gouvernementale américaine reconnaissait que les technologies de reconnaissances faciales par exemple étaient déjà largement déployées et utilisées par nombre de services du gouvernement, s’alarmait Rachel Metz pour CNN.

Dans ce contexte plutôt sombre, l’Ada Lovelace Institute britannique (@AdaLovelaceInst) se veut plus positif. Il a organisé fin juin une série d’ateliers et de discussions pour prototyper l’avenir de l’éthique de l’IA. Pour les chercheuses Sarah Chander (@sarahchander), Erinma Ochu (@erinmaochu) et Caroline Ward (@noveltyshoe), l’enjeu, expliquent-elles en interview, n’est pas tant de rendre les systèmes moins problématiques qu’ils ne sont… n’est pas de documenter les dommages qu’ils causent, ou de débiaiser les technologies… mais d’imaginer : « si nous devions démanteler les technologies de surveillance, la domination, l’extraction, qu’y aurait-il à la place ? Qui a le droit d’écrire ce futur ? »

On se souvient, il n’y a pas si longtemps, de l’éviction de Timnit Gebru de Google pour avoir tenté de mettre un peu de responsabilité et d’éthique chez Google, lié à la publication d’un article critique des développements de GPT-3. Le licenciement de Timnit Gebru, pour emblématique qu’il soit, rappelle d’autres tensions, pointe le journaliste Tom Simonite (@tsimonite) dans un remarquable et détaillé article pour Wired sur son parcours et son éviction. Dans l’industrie minière ou chimique, les chercheurs qui étudiaient la toxicité ou la pollution pour le compte des entreprises exploitantes, n’ont jamais été très bien considérés. Pour l’instant, dans le jeune domaine de l’IA, les chercheurs qui étudient ses méfaits occupent encore bien souvent une place centrale dans les entreprises. Il est possible que le bruyant licenciement de Timnit Gebru de Google en signe la fin, explique le journaliste.

En 2016, Google avait publié un premier article de recherche sur l’équité de l’IA, un article qui tentait d’apporter des réponses pour corriger les réponses afin que l’évaluation du risque à ne pas rembourser un prêt offre un traitement égal aux individus, indépendamment de leur sexe, de leur race ou de leur religion. Dans son article, Simonite souligne les hésitations internes de Google à s’aventurer sur ces sujets, ainsi que le fait que le travail de Timnit Gebru et Margaret Mitchell (@mmitchell_ai, qui a également été remerciée) sur les questions de responsabilité avaient du mal à être intégrées à la culture Google.

Après la fronde contre Maven, le contrat controversé passé avec le Pentagone, Google a publié de grands principes pour guider ses travaux sur l’IA. En octobre 2019, Google a lancé BERT, un système d’apprentissage automatique permettant de mieux comprendre les requêtes longues et complexes et leur contexte, en travaillant depuis des volumes de textes plus grands. En mai 2020, OpenAI (@openai) a lancé GPT-3 qui avait ingéré plus de données que Bert et pouvait générer des textes d’une plus grande fluidité (nous somme là assurément dans une course à la puissance : Bert avait avalé quelques 3,3 milliards de mots, quand GPT-3 en digère près de 500 milliards – que les ingénieurs ont récupérées sur le Web, la source la plus facilement disponible à l’échelle nécessaire). Mais les ensembles de données étaient si volumineux que les assainir, ou même savoir ce qu’ils contenaient était une tâche trop ardue. Il s’agissait d’un exemple extrême du problème contre lequel Timnit Gebru avait mis en garde la communauté dans une de ses recherches, à savoir la nécessité de produire, pour chaque ensemble de données, une fiche technique les documentant (qui a visiblement contribué activement à la naissance des Google Model Cards). Alors que Google travaillait à la construction de successeurs encore plus puissants à Bert ou GPT-3, l’équipe chargée de l’éthique de l’IA chez Google a commencé à étudier les inconvénients de ces technologies. En septembre 2020, en interne, des responsables de Google se sont réunis pour discuter de l’IA responsable sans que des représentants de son équipe éthique soient conviés. Au même moment, les chercheurs de l’équipe éthique mettaient un point final à un article critique sur « Les dangers des perroquets stochastiques : les modèles linguistiques peuvent-ils être trop grands ? » qui soulignait les limites des modèles statistiques utilisés et le risque à répéter du « mauvais » langage, c’est-à-dire, des biais, des erreurs et des fautes en les amplifiant. L’article soulignait les difficultés à documenter les biais d’ensembles de données de plus en plus vastes, mais surtout, estime Gebru, critiquait ouvertement une technologie au fort potentiel commercial. Comme l’explique très bien le chercheur Olivier Ertzscheid (@affordanceinfo2) sur son blog où il revenait également sur les enjeux de ces travaux : « le danger est que nous devenions autant de « perroquets stochastiques » à force de mal manipuler des modélisations de la langue trop denses, massives et étendues ».

Depuis l’éviction de son équipe dédiée à l’éthique (qui a entraîné aussi quelques démissions par rebond), si l’on en croit Tom Simonite, le département de recherche de Google est déchiré par la méfiance et les rumeurs. Pour le journaliste, les perspectives de recherche « ouvertes d’esprit » sur la question de l’éthique de l’IA se sont assombries. Pour Luke Stark (@luke_stark), « les grandes entreprises technologiques ont essayé de prendre le dessus sur les régulateurs et les critiques du public en adoptant l’idée de l’éthique de l’IA ». Mais à mesure que la recherche a mûri, elle a soulevé des questions plus importantes. « Les entreprises sont devenues moins aptes à coexister avec la recherche critique interne », estime-t-il.

Depuis le drame, des chercheurs qui ont fondé une revue sur l’éthique de l’IA ont lancé un appel pour que les publications des chercheurs en IA travaillant pour des industries du secteur soient plus transparentes sur leurs travaux. Mais la suspicion sur les travaux menés par les entreprises du secteur pourrait s’installer, un peu comme la recherche industrielle sur la pollution est peu considérée par les spécialistes de l’environnement, notamment pour ses collusions, voire surtout ses dissimulations éhontées… À la dernière conférence annuelle des développeurs de Google, l’entreprise a annoncé que les grands modèles de langage qu’elle développe joueraient à l’avenir un rôle central. Une annonce balayant les critiques. Pour Meredith Whittaker (@mer__edith), directrice de l’AI Now Institute, le message de Google est clair pour ceux qui veulent mener des recherches sur la responsabilité : « nous ne les tolérons pas ». Des menaces inquiétantes, d’autant que les emplois en dehors des grandes industries du secteur sont rares.

Pour Inioluwa Deborah Raji (@rajiinio) de la Fondation Mozilla, l’échec de Google à se réformer rend désormais tout le monde conscient que la responsabilité doit venir de l’extérieur. Timnit Gebru, quant à elle, collecte désormais des fonds pour tenter de lancer un institut de recherche indépendant.

Si Google n’est plus « the place to be », peut-être que la question de l’éthique de l’IA sera récupérée par d’autres ? En ce moment, souligne la journaliste Anna Kramer (@anna_c_kramer) pour Protocol (@protocol), les regards se tournent vers Twitter qui vient de créer Meta.

En 2020, Ariadna Font Llitjos (@quicola), responsable des équipes d’apprentissage automatisé de Twitter – qui relève de Twitter Cortex, qui gère toute l’IA de l’entreprise – estime que la recherche sur l’éthique pourrait transformer l’entreprise. Elle propose donc de construire une équipe dédiée, Meta (pour Machine learning, Ethics, Transparency and Accountability) et convainc Jack Dorsey, le PDG de Twitter de faire de la responsabilité la priorité de Twitter. Rumman Chowdury a quitté Parity pour devenir la responsable de Meta. Kristian Lum (@kldivergence) et Sarah Roberts (@ubiquity75) ont rejoint l’équipe. L’enjeu : travailler depuis les propositions des chercheurs pour réellement agir sur la promesse de Twitter !

Depuis la création de Meta, Twitter a pris des premiers engagements, via son initiative pour un apprentissage automatisé responsable, où l’entreprise s’est engagé à partager publiquement la façon dont elle prendra des décisions sur ses algorithmes (ce que l’entreprise a fait par exemple sur son algorithme de recadrage d’image qui a été supprimé en donnant un plus grand contrôle aux utilisateurs sur la façon dont les images apparaissent avant publication tout en permettant de « réduire la dépendance à l’égard du Machine Learning pour une fonction, qui, nous en convenons, est mieux réalisée par les personnes utilisant nos produits », expliquait Rumman Chowdury). L’enjeu pour l’instant consiste à mieux définir les problèmes que rencontrent les utilisateurs. Pour Chowdury, l’enjeu, au-delà de la transparence publique sur les travaux engagés, est de créer un système de règles et d’évaluations qui soit une sorte de « gouvernement » sur les modèles et permette d’empêcher les préjudices aux utilisateurs de se produire, plutôt que de tenter de les corriger a posteriori. Meta se veut une équipe de création de connaissances plus qu’une force de police des algorithmes, conclut Anna Kramer. On espère que l’équipe saura relever le défi qui l’attend !

Ce que racontent ces histoires, c’est certainement que l’automatisation de l’éthique n’est pas si assurée, en tout cas, elle ne se fera pas sans éthique personnelle, sans engagements des équipes et des responsables des systèmes techniques. L’éthique de l’IA tient assurément d’un dialogue, d’une discussion entre la technologie et la société. Reste à savoir quelle direction ces recherches vont prendre… Entre l’hystérisation des calculs dans des systèmes toujours plus vastes, spéculant en boucle sur eux-mêmes ou leur réduction sous forme d’une première « dénumérisation », comme le propose pragmatiquement Rumman Chowdury pour Twitter, la gamme d’évolution est ouverte. Plus qu’une perspective d’automatisation de l’éthique (qui ne semble pas très éthique), et si l’avenir était plutôt de trouver les moyens pour dire que le recours à l’IA n’est pas – et ne devrait pas être – automatique ! C’est en tout cas là une perspective bien plus stimulante que la première, vous ne trouvez pas ?

Hubert Guillaud

En 2019, pour le magazine Commune, l’ingénieur et membre de la coalition des travailleurs de la tech (@techworkersco – voir également Collective Action In Tech et @tech_actions) Jimmy Wu (@jimmywu) revenait sur la question de l’optimisation. Qu’est-ce que le numérique optimise ?

Alors que la tech rencontre une contestation inédite, l’éthique de la technologie bénéficie d’un vif regain d’intérêt, explique Wu. Le but : apporter aux professionnels de la technologie une conscience sociale… pour redresser la crédibilité du secteur ! « Pourtant, en positionnant l’éthique comme la boussole morale de la technologie, l’informatique académique nie le fait que ses propres outils intellectuels sont la source du pouvoir dangereux de l’industrie technologique ». Pour Wu, le problème réside dans l’idéologie même de la tech. « Ce n’est pas seulement que l’enseignement de l’ingénierie apprend aux étudiants à penser que tous les problèmes méritent des solutions techniques (ce qui est certainement le cas) ; le programme est surtout construit autour de tout un système de valeurs qui ne connaît que les fonctions d’utilité, les manipulations symboliques et la maximisation des objectifs. »

L’informatique, une idéologie du statu quo ?

Wu raconte avoir assisté au premier cours sur l’éthique des données proposé par Stanford au printemps 2018. Dans un exercice proposé aux élèves, l’enjeu était d’interroger un jeu de données provenant d’un site web qui avait révélé les noms des donateurs à des organisations qui soutenaient le seul mariage hétérosexuel. Les étudiants étaient appelés à faire des propositions pour résoudre le problème. Pour Wu pourtant, le problème n’était pas la question de la granularité des données (c’est-à-dire jouer sur la visibilité du montant des dons par exemple, comme de faire passer l’obligation d’afficher les noms des donateurs à partir d’un montant plus élevé pour éviter qu’ils soient pointés du doigt, comme le proposaient des étudiants) qu’un enjeu politique qui consiste à organiser la politique depuis des dons financiers. Cette proposition à sortir du seul cadre des paramètres accessibles a mis fin aux discussions. Pour Wu, ce petit exemple illustre à lui seul « l’idéologie du statu quo » qui structure l’enseignement de l’informatique. C’est comme si en informatique, l’enjeu premier était de ne pas prendre parti ou de ne pas faire de politique… Comme si tout n’était question que de paramètres à régler.

La science informatique a visiblement largement intégré la discipline de l’esprit qu’évoquait Jeff Schmidt dans son Disciplined Minds (2000, non traduit), un livre qui critiquait justement la socialisation et la formation des professionnels qui consiste trop souvent à ne pas faire de vagues. En 4 ans d’informatique à Berkeley et Stanford, rapporte Wu, à l’exception d’un cours d’éthique, les enseignants ne nous ont jamais suggéré d’examiner de manière critique les problèmes techniques, souligne-t-il. « Les questions dites « douces » sur la société, l’éthique, la politique et l’humanité étaient silencieusement considérées comme intellectuellement inintéressantes. Elles étaient indignes de nous en tant que scientifiques ; notre travail consistait à résoudre les problèmes qui nous étaient soumis, et non à nous demander quels problèmes nous devions résoudre en premier lieu. Et nous avons appris à le faire bien trop bien. »

Pour Wu, l’enseignement technique est directement responsable du technosolutionnisme. Des programmes d’études qui exposent « la primauté du code et des manipulations symboliques engendrent des diplômés qui s’attaquent à tous les problèmes sociaux à l’aide de logiciels et d’algorithmes ». En cours d’éthique, les questions de politiques et d’orientation étaient réduites à des problèmes techniques. Wu fait référence à un cours très populaire sur l’optimisation mathématique donné par Stephen Boyd à Stanford. « Dans le monde de l’informatique et des mathématiques, un « problème d’optimisation » est toute situation dans laquelle nous avons des quantités variables que nous voulons fixer, une fonction objective à maximiser ou à minimiser, et des contraintes sur les variables ». Pour Boyd d’ailleurs « tout est un problème d’optimisation » ! Tout peut être modélisé, tout peut-être exprimé en fonction d’un critère d’utilité selon des critères plus ou moins grossiers. Une affirmation des plus banales pour ces étudiants. Pour Wu, nous sommes là face à un marqueur de l’état des sciences informatiques.

L’optimisation n’est pas récente, rappelle-t-il. Elle est née avec la Seconde Guerre mondiale et est devenue un passage obligé des sciences informatiques. La question des algorithmes d’optimisation est arrivée à maturité au milieu du XXe siècle, avec le développement de la programmation linéaire qui a permis de faire des progrès sur des problèmes allant de l’allocation des biens au routage logistique. En URSS, sous la coupe de son inventeur, Leonid Kantorovich, elle est devenue un outil central de la planification dès les années 60. En Occident, elle s’est déployée dans l’expédition et le transport. Des deux côtés du rideau de fer, longtemps, « l’optimisation a été déployée dans des contextes résolument non marchands », pour la planification notamment. Mais depuis le début du XXIe siècle, elle a été remodelée pour être utilisée par nombre d’applications, notamment commerciales. Désormais, aidés par l’IA et l’apprentissage automatisé, entreprises, armées et États exigent des algorithmes rapides, efficaces, sûrs, mais aussi intelligents, réactifs. Tout est en passe d’être exprimé à l’aide de variables, de contraintes et de fonctions objectives, puis résolues à l’aide d’un logiciel d’optimisation.

Cette prise de contrôle de l’optimisation se reflète sur les campus au vu du nombre d’inscriptions à ces cours. À Stanford toujours, au Huang Engineering Center, à quelques centaines de mètres de là où enseigne Boyd, Andrew NG (@andrewyng) donne des cours sur le Deep Learning où se pressent des milliers d’étudiants. Son cours porte sur les réseaux neuronaux profonds. Ici, les paradigmes d’optimisation ne sont pas de type planification, car les modèles n’ont que les contraintes qu’ils découvrent eux-mêmes. Une fois entraîné, le modèle est exécuté sur des échantillons de données. Si les résultats sont médiocres, le concepteur modifie les paramètres ou affine l’objectif. « L’ensemble du processus de formation d’un réseau neuronal est si ad hoc, si peu systématique et si embarrassant, que les étudiants se demandent souvent pourquoi ces techniques devraient fonctionner. » Personne ne sait très bien leur répondre, mais soyez-en assurés, elles fonctionnent ! « L’étude de l’apprentissage automatique offre une révélation stupéfiante : l’informatique du XXIe siècle manie, en réalité, des pouvoirs qu’elle comprend à peine » !

L’informatique, c’est de l’économie sans les questions politiques

Le seul autre domaine qui semble à la fois en savoir autant et si peu est l’économie, explique encore Jimmy Wu. La comparaison est à raison : cette optimisation en roue libre et heuristique rappelle la façon dont l’économie elle-même est comprise. « Plutôt que de considérer l’optimisation comme une planification, nous cherchons à libérer la puissance de l’algorithme (le marché libre). Lorsque les résultats ne sont pas ceux escomptés, ou que l’algorithme optimise son objectif (le profit) avec beaucoup trop de zèle à notre goût, nous corrigeons docilement ses excès rétrospectivement avec toutes sortes de termes secondaires et de réglages de paramètres (taxes, péages, subventions). Pendant tout ce temps, le fonctionnement interne de l’algorithme reste opaque et sa puissance de calcul est décrite en termes de magie, de toute évidence compréhensible uniquement par une classe de technocrates doués et suréduqués. »

« Lorsqu’on entre dans le « monde réel », la perspective acquise grâce à ces formations en informatique s’intègre parfaitement à l’idéologie économique dominante. Après tout, qu’est-ce que le capitalisme néolibéral sinon un système organisé selon un cadre d’optimisation particulièrement étroit ? » « À l’école, on nous a dit que tout problème pouvait être résolu en tournant les boutons algorithmiques de la bonne manière. Une fois diplômés, cela se traduit par la conviction que, dans la mesure où la société a des défauts, il est possible d’y remédier sans changement systémique : si l’accumulation du capital est le seul véritable objectif et que le marché est un terrain de jeu infiniment malléable, il suffit de donner aux agents individuels les incitations appropriées. Pour réduire l’utilisation du plastique, ajoutez une surtaxe sur les sacs d’épicerie. Pour résoudre la crise du logement, relâchez les contraintes imposées aux promoteurs d’appartements de luxe. Pour contrôler la pollution, fixez un prix de marché en utilisant un système de plafonnement et d’échange. »

« À un niveau élevé, l’interprétation computationnelle de l’économie moderne ressemble à ceci : une économie peut être considérée comme un gigantesque problème d’optimisation distribuée. Dans sa forme la plus élémentaire, nous voulons décider quoi produire, combien payer les travailleurs et quels biens doivent être alloués à qui – ce sont les variables du programme d’optimisation. Les contraintes consistent en toute limite naturelle sur les ressources, la main-d’œuvre et la logistique. Dans le capitalisme primitif du laissez-faire, l’objectif à maximiser est, bien entendu, le profit ou le produit total. »

« Le péché originel du programme capitaliste est donc qu’il optimise non pas une certaine mesure du bien-être social ou de la satisfaction humaine, mais une quantité qui ne peut être qu’un lointain substitut de ces objectifs. Pour remédier aux dommages considérables causés par cette mauvaise formulation, les démocraties libérales d’aujourd’hui cherchent à concevoir un programme plus nuancé. Le profit constitue toujours le premier terme de l’objectif, mais il est désormais accompagné d’un éventail impressionnant de termes secondaires modifiables à l’infini : imposition progressive des revenus pour ralentir l’accumulation des richesses, taxes et subventions pigouviennes pour guider le comportement des consommateurs, et marchés d’émissions financiarisés pour freiner la désintégration rapide de la planète. Lorsque les carottes et les bâtons du marché ne suffisent pas, les gouvernements tentent d’imposer des réglementations, en introduisant des contraintes supplémentaires. Ces solutions politiques suivent précisément la même logique que les exercices qu’on nous propose en classe sur les réglages algorithmiques. »

Wu rappelle qu’il n’est donc pas étonnant que le rôle sociétal des algorithmes fasse l’objet de nombreux débats. Il n’y a pas si longtemps encore, les gens pensaient que les algorithmes étaient politiquement neutres ou ne présentaient pas de danger fondamental pour les humains. Comme la révolution industrielle précédente, cette révolution était considérée « comme un fait impersonnel de l’histoire économique, et non comme quelque chose qui discriminait activement certaines populations ou servait de projet à la classe dirigeante ». En 2013, quand on évoquait des biais dans les modèles, on estimait que c’était une question purement statistique dépourvue du moindre jugement moral. Depuis 4 ou 5 ans, la critique s’est emparée de la question des boîtes noires algorithmiques, montrant qu’elles excluaient nombre de personnes des services sociaux… La fausse neutralité et objectivité des calculs ont été démasquée, constate Wu. Un nouveau parti-pris a émergé qui reconnaît qu’en pratique, les algorithmes comme les données encodent des partis-pris.

Pour Wu néanmoins, ce nouveau parti-pris continue de faire l’apologie de la « tyrannie informatique ». Il reste sans idéologie !

Le problème c’est les programmeurs humains et les données ! Pas le fait que l’informatique travaille à améliorer et automatiser le monde… Or, comme le soulignait le philosophe Mark Fisher (Wikipedia), ce « réalisme capitaliste » (Entremonde, 2018) relève précisément de l’idéologie. La tâche qui reste à l’informatique comme au capitalisme, c’est « d’affiner le système au mieux de nos capacités »… À calculer encore et toujours leur efficacité maximale, les systèmes pourraient bien tourner en rond !

Les contributions du monde universitaire au capitalisme sont essentiellement venues de l’économie, notamment des partisans ultralibéraux de l’École de Chicago, explique encore Jimmy Wu. Mais ces contributions comportaient une limite majeure : l’économie reste une arène de débat, de désaccords…

L’informatique lui est bien supérieure, ironise l’ingénieur. « Elle enseigne les axiomes et les méthodes du capitalisme avancé, sans les questions politiques qui peuvent se poser en économie ou dans d’autres sciences sociales. Dans sa forme actuelle, l’informatique est un véhicule d’endoctrinement réussi pour l’industrie et l’État, précisément parce qu’elle apparaît comme leur contraire : un domaine sans valeur qui incarne à la fois des mathématiques rigoureuses et une ingénierie pragmatique. C’est le pourvoyeur idéal du réalisme capitaliste pour une époque sceptique ; une science de droite qui prospère dans notre ère post-idéologique. »

Peut-on, doit-on, faut-il défaire l’ordinateur et ses sciences ? Le débat oppose deux camps, simplifie Jimmy Wu. D’un côté l’élite traditionnelle qui ne voit pas même le problème. De l’autre, des « humanistes de la technologie », une alliance peu structurée de fonctionnaires critiques, de médias, de chercheurs, d’ONG et de repentis de la tech… qui pensent que les pratiques technologiques peuvent être apprivoisées par une politique plus éclairée, des pratiques d’ingénieries réformées et un peu plus d’éthique… Mais les deux parties partagent finalement la même vision, même si l’un a un visage plus aimable que l’autre : « celle d’une société dominée par une aristocratie technique qui exploite et surveille le reste d’entre nous ». L’informatique universitaire file les mêmes contradictions : le matin, un étudiant peut assister à un exposé sur la maximisation publicitaire et le soir construire une base de données pour une association locale…

Avons-nous besoin d’une autre informatique ?

L’ingénieure repentie, Wendy Liu (@dellsystem) en appelait dans le magazine socialiste britannique Tribune (@tribunemagazine) à « abolir la Silicon Valley » (elle en a depuis fait un livre : Abolir la Silicon Valley : comment libérer la technologie du capitalisme, Repeater Books, 2021, non traduit). Elle n’appelait pas par là à un rejet naïf de la technologie, mais à sa régulation, à sa transformation en un secteur qui soit financé, détenu et contrôlé par la société dans son ensemble et non plus seulement par quelques actionnaires.

Pour Wu, ce réformisme ne suffit pas. Il est nécessaire de mettre en cause ce qui sous-tend cette prise de pouvoir économique sur le monde. « La Silicon Valley n’existe pas dans un vide intellectuel : elle dépend d’un certain type de discipline informatique. Par conséquent, une refonte de la Silicon Valley par le peuple nécessitera une informatique « populaire » ». C’est-à-dire une autre informatique et une autre vision de l’informatique, soutient Jimmy Wu. Nous en sommes pourtant encore très loin. « Aujourd’hui, les départements d’informatique ne se contentent pas de générer le « réalisme capitaliste », ils sont eux-mêmes gouvernés par lui. » Le financement de la recherche en informatique est totalement dépendant des géants de l’industrie et de la défense. La recherche est guidée par les seules applications industrielles. Et tout ce beau monde nie que l’informatique contemporaine soit une entreprise politique (quelles que soient ses intentions apolitiques affichées). Pour remédier à ce brouillard idéologique étouffant, nous devrions construire une « informatique communiste », soutient Jimmy Wu. Il termine en l’esquissant à grand trait : à savoir que seuls les projets au service direct ou indirect des gens et de la planète devraient pouvoir être financés, en invitant à imaginer des algorithmes pour la planification économique participative, pour estimer le temps de travail socialement nécessaire, pour créer des chaînes d’approvisionnement locales… « La froide science de l’informatique semble déclarer que le progrès social est terminé – qu’il ne peut y avoir désormais que du progrès technologique. Pourtant, si nous parvenons à arracher le contrôle de la technologie à la tour d’ivoire de la Silicon Valley, les possibilités de la société post-capitaliste sont apparemment infinies. Le mouvement des travailleurs de la technologie du XXIe siècle est un véhicule plein d’espoir pour nous amener vers de telles perspectives ! Il est certes encore naissant, mais il est de plus en plus une force avec laquelle il faut compter, et, au risque de s’emballer, nous devrions commencer à imaginer le futur que nous souhaitons habiter. Il est temps de commencer à conceptualiser, et peut-être à prototyper, l’informatique et l’information dans un monde de travailleurs. Il est temps de commencer à concevoir une nouvelle science de gauche. »

Reste à savoir si la lutte contre les dérives des technologies (le techlash des employés de la tech) ou la prise en compte des questions écologiques suffiront à mobiliser les « agents de la société technicienne » comme le dit très bien le dernier numéro de Socialter (@socialter) ?

Si l’on en croit le dernier livre du sociologue Jamie Woodcock (@jamie_woodcock), Le combat contre le capitalisme de plateforme (Press de l’université de Westminster, 2021, non traduit), les travailleurs des plateformes parviennent à organiser de plus en plus d’actions collectives et à renforcer la solidarité transnationale, explique le politologue James Muldoon (@james_muldoon_) pour le blog de la London School of Economics (@LSEReviewBooks). En Europe, expliquait récemment The Guardian, la sécurité des travailleurs des plateformes progresse, tout comme le déploiement des plateformes coopératives, notamment autour de Coopcycle qui fédère plus de 67 coopératives dans 7 pays. La France semble plutôt tenir de l’exception en la matière, puisque malgré les jugements récents, les plateformes continuent à opérer par l’auto-entrepreneuriat.

Reste que l’horizon d’une nouvelle informatique qu’esquisse Jimmy Wu semble encore loin !

Défaire l’optimisation ?

Dans son dernier livre Undoing Optimization : Civic Action in Smart Cities (Yale University Press, 2021, non traduit), la chercheuse Alison Powell (@a_b_powell, blog), qui est également la responsable du programme et réseau de recherche sur l’éthique de l’IA, Just AI (@justainet, blog), de l’Ada Lovelace Institute, rappelle que les données ne sont pas gratuites, qu’elles ne sont pas exemptes de déséquilibres de pouvoir. Comme elle l’explique dans une tribune pour la LSE, cette optimisation configure des rationalités, notamment le fait que les décisions opérationnelles soient basées sur des données disponibles. Pour elle, pour défaire l’optimisation, nous devons nous concentrer sur les frictions, les lacunes, les erreurs… Comme le propose l’anthropologue Anna Tsing, les frictions produisent des relations de négociation inédites. Pour Powell, « les relations de pouvoir inégales autour des données pourraient générer de nouvelles opportunités de changement social ».

Pour Powell, nous ne sommes pas suffisamment attentifs à la manière dont les technologies se superposent les unes aux autres. À la fin des années 90, la vogue était au citoyen en réseau, à l’individu connecté qui s’engage dans la ville grâce à la connectivité. L’accès est alors devenu une demande et a aussi produit (à la marge) quelques projets politiques (comme les réseaux communautaires sans fil, voir « Avons-nous besoin d’une vitesse limitée sur l’internet ? »). La démultiplication des données et des systèmes de capteurs connectés ont permis une collecte sans précédent et une forme d’optimisation de la vie urbaine en temps réel… Mais pour Powell, cette optimisation n’aborde pas la conception coercitive des applications qui servent à la collecte de données justement. Quand la ville intelligente donne la priorité aux données, l’optimisation produit une surveillance constante, incompatible avec les libertés collectives.

Au lieu de cela, les points de friction ouvrent une autre perspective et permettent de limiter l’objectif d’une optimisation sans limites. Pour la chercheuse, il est ainsi nécessaire d’interroger l’optimisation, de savoir « pour qui ce n’est pas optimal » justement. Pour Powell, nous devons travailler à des alternatives à l’optimisation. Elle propose un exemple, celui du projet Connected Seeds and Sensors – un projet londonien qui explore comment l’internet des objets peut soutenir la consommation et la production d’une alimentation durable – qui montrent que les données collectées sur les semences ne parviennent pas à être exhaustives. Le savoir n’est pas réductible aux informations. Pour la chercheuse, pour nous défaire de l’optimisation, nous devrions considérer que la friction est bien plus nécessaire pour créer de bonnes relations. Ensuite, nous devrions travailler à limiter la collecte de données plutôt que l’étendre. En privilégiant l’optimisation à la friction, nous risquons surtout d’oublier de construire des solidarités et des échanges qui ne soient pas que de données.

Comme elle l’expliquait dans le texte de configuration du réseau Just AI, l’éthique doit se penser d’abord comme une pratique. Comme elle le souligne encore dans un premier compte rendu de travaux portant sur la cartographie de la recherche éthique, « les préoccupations éthiques concernant l’IA sont désormais profondément imbriquées dans les préoccupations éthiques concernant de larges pans de la vie sociale ».

Dans la conclusion de son livre, Powell explique que le modèle de pensée « techno-systémique » étend sans fin la commodité des données et l’exploitation des informations personnelles. Le problème est que cette approche ne définit pas une bonne citoyenneté, mais seulement « une bonne citoyenneté technologique »… et celle-ci, d’une manière très récursive, ne consiste finalement qu’à soutenir toute optimisation. Le problème, explique Alison Powell, c’est que cet objectif restreint l’action civique à n’être qu’une consommation de ressources ! Le paradigme de l’optimisation par les données et les capteurs réduit en fait la place des citoyens à n’être que les acteurs de leur propre surveillance. Ce paradigme réduit également la diversité, favorise les intérêts privés plus que publics. Mais surtout, l’optimisation efface le conflit, les divergences, les dissensus, les frictions… Or, dans la réalité, bien souvent, les gens luttent pour redéfinir les formes normatives que produisent les données, et trouver des espaces de discontinuité entre les données. La liberté ne consiste pas seulement à ne pas être surveillé, mais également réside dans la capacité d’avoir des approches différentes, d’être en désaccord avec des interprétations, de revendiquer un droit à la discontinuité… Powell défend une datafication minimisée (un droit à la « datafication minimum viable », sur le modèle du Produit minimum viable). Pour elle, la transparence ou la responsabilité ne suffisent pas, car elles ne permettent pas de modifier le cadre technologique qui nous capture, de remettre en question son circuit de pouvoir, explique-t-elle en faisant référence au « droit à une ville intelligente soutenable » de Sara Heitlinger. Bref, de continuer à avoir le droit de faire évoluer nos modes de connaissances et de relations hors des produits prédictifs… À produire une société autrement qu’en calculant son efficacité maximale.

Cela nous renvoie au livre déjà classique de l’historien des technologies Edward Tenner (@edward_tenner), Le paradoxe de l’efficacité : ce que le Big Data ne peut pas faire (Penguin Random House, 2018, non traduit), qui soulignait combien l’inefficacité a de vertus. Tenner y rappelle que ce que nous rendons plus efficace rend toujours autre chose moins efficace. Que l’optimisation est toujours un choix qu’on peine à évaluer, dans ses coûts comme dans ses bénéfices. Dans son livre, Tenner observe l’apport ambigu de la techno sur la médecine, l’éducation et la connaissance pour souligner qu’il n’y a pas qu’une forme à l’efficacité, mais des formes qui s’imbriquent et se contrebalancent. Dans notre monde ultra rationnel, où domine le colonialisme comptable, où tout est converti en gains de productivité, l’historien pourtant bien peu radical, nous rappelle que l’inefficacité est parfois un bien meilleur chemin.

Hubert Guillaud

Avec Contrôler les assistés, genèses et usages d’un mot d’ordre (Raisons d’agir, 2021), le sociologue Vincent Dubois (@vduboisluv) signe une somme très complète et très riche de sciences sociales.

Exigeante, cette longue enquête décortique les transformations du contrôle à l’égard des bénéficiaires de l’aide sociale des Caisses d’allocations familiales (CAF). Le livre permet de prendre la mesure de l’évolution des politiques publiques et notamment, pour nous qui nous intéressons aux transformations numériques, souligne le rôle fondamental de l’intégration de la fouille de données, du croisement des fichiers et d’une rationalisation numérique qui produisent une répression plus sévère et plus forte des assistés. Vincent Dubois montre comment, depuis 2000, nous sommes passés, très progressivement, avec le numérique, à « l’âge industriel » du contrôle par un changement de méthode et de finalités. Il souligne également combien l’analyse automatisée a épousé le modèle managérial, politique, économique et idéologique libéral qui s’est peu à peu mis en place durant la même période. Il pointe combien la raison statistique a été mise au service de la raison idéologique du contrôle au détriment de l’aide, du conseil, de l’assistance…

Finalement, en plongeant dans la transformation du contrôle, Vincent Dubois livre une autre histoire des transformations que produit le recours à l’informatique depuis une vingtaine d’années. Une histoire à bas bruit, que nous avons souhaitée éclairer avec lui.

InternetActu.net : Pourriez-vous pour commencer nous raconter comment et quand est né le traitement automatisé (data mining ou fouille de données) à la CAF ?

Vincent Dubois : La mise en place de la fouille de données à la CAF commence au niveau local. À l’origine, ce n’est pas quelque chose de pensé, ni une politique nationale, rationnelle ou programmatique. L’utilisation de techniques de prédiction statistique part de la rencontre fortuite entre l’agent comptable d’une caisse locale et d’une cadre de cette même caisse. L’agent était confronté à d’importants cas de fraude et s’est rendu compte qu’il était exposé à des poursuites, car il n’aurait pas entrepris toutes les démarches nécessaires pour prévenir une telle fraude. Sa cadre dirigeante va l’informer de l’existence de techniques statistiques pour détecter les risques d’erreurs et de fraudes, des techniques déjà mobilisées dans l’assurance et les sociétés de téléphonie mobile, notamment pour identifier les mauvais payeurs. C’est donc très tôt, au début des années 2000 que cette caisse met en place une expérimentation pour détecter les risques de fraude. Fort de ses premiers résultats, la méthode est peaufinée par des échanges entre la caisse locale et nationale après 2005. Des tests à grande échelle sont lancés pour produire des modèles. Et à partir de 2010, la fouille de données est généralisée. Cela fait donc plus de 10 ans que ces techniques y sont utilisées. La fouille de données et la prévision statistique sont devenues l’outil principal de détection et de déclenchement des contrôles des allocataires.

Cette façon de regarder l’histoire par le petit bout de la lorgnette est intéressante. Elle souligne combien l’adoption de ces outils s’est expérimentée de manière itérative, progressivement voire prudemment. La CNAF a été non seulement précurseure, mais également bon élève en matière de pratiques, tant et si bien qu’elles ont été imitées et généralisées depuis à d’autres organismes. Ces techniques de fouilles de données sont notamment utilisées depuis par Pôle emploi et l’administration fiscale, même si elles ont été adoptées plus tardivement et d’une façon peut-être un peu moins généralisées.

Donc très concrètement, ce développement technique s’est fait d’une manière très empirique. Les ciblages qui avaient lieu auparavant, eux, se basaient sur des observations ou des hypothèses de risques de fraudes ou d’erreurs, selon les allocataires ou les situations, mais restaient faits de manière hypothético-déductive. Avec la fouille de données, c’est l’inverse. La CNAF a fait réaliser 5000 contrôles, à grande échelle, sur la base d’un échantillon aléatoire d’allocataires. L’étude de ces 5000 dossiers a identifié des cas d’erreurs, de fraudes, d’indus… qui ont ensuite été utilisés pour reconstruire des agencements entre critères et variables qui caractérisaient les cas et pour construire des modélisations statistiques. Différents modèles ont été conçus avant d’être testés et mis en œuvre à grande échelle. Ces enquêtes à grande échelle sont réalisées de manière périodique pour ajuster les modèles aux évolutions des facteurs de risque.

Plusieurs modèles ont été dégagés de ces calculs de corrélation, notamment un facteur de risque global de la fraude et des modèles de risques plus spécifiquement adaptés à certains types de situations, comme la question de l’isolement ou la déclaration de ressources. Et ces modèles sont utilisés conjointement. Leur sélection repose sur leur « efficacité »… Cela signifie que la sélection ne repose pas tant sur des choix préalables que sur les rendements que les différents modèles produisent.

À l’origine donc, c’est bien la question de la lutte contre la fraude qui déclenche la mobilisation autour de ces outils et leur systématisation. La façon dont la fouille de données est mobilisée aujourd’hui garde trace de ses origines. Elle reste orientée vers la lutte contre la fraude, et plus généralement l’identification des indus, c’est-à-dire des sommes perçues à tort par les allocataires, car le montant de leurs revenus n’a pas été mis à jour ou que leur situation personnelle a changé.

Ce n’est pourtant pas exclusif d’autres usages possibles de ces techniques de fouille de données. Elles peuvent également être mobilisées pour détecter le non-recours aux droits ou le recours partiel, au bénéfice des allocataires, comme c’est le cas en Belgique ou au Royaume-Uni par exemple… Mais pour l’instant, en France, elles sont peu mobilisées pour cela. Ce qui laisse à penser que ce n’est pas la technique de fouille de données qui détermine ses effets, mais bien les usages qui en sont faits.

Internetactu.net : En quoi cette technique a-t-elle épousé les transformations politiques du contrôle ?

Vincent Dubois : Une autre manière de lire cette histoire, c’est de rentrer effectivement dans le type de conception inhérente à ces outils et l’affinité qu’ils peuvent avoir avec des manières de penser et des modèles d’organisation. Si on met en perspective l’usage de type de statistiques dans l’histoire longue des usages statistiques à des fins de gouvernement des populations comme dirait Foucault, on constate que la statistique classique porte sur la population dans son ensemble pour dégager des tendances, des moyennes, qui sont aussi des normes sociales. Avec la fouille de données, l’unité d’observation n’est plus la population, mais l’individu. C’est le comportement et la situation individuelle qui sont désormais l’objet de la connaissance. Ce changement de perspective est directement en affinité avec la philosophie néolibérale du sujet et du fonctionnement social qui considère, pour le dire vite et simplement, que la société et ses problèmes ne sont que le résultat de l’agrégation des comportements individuels. Le chômage par exemple n’est pas le produit de la structure du marché de l’emploi, mais le résultat de l’agrégation des individus à travailler ou pas.

La fouille de données est en affinité avec ce qui s’est imposé comme le principe managérial des organisations, notamment pour les organismes de protection sociale, à savoir la maîtrise des risques. Cette notion qui peut paraître vague est pourtant révélatrice d’une transformation de ces organismes et de leurs orientations. La notion de risque est consubstantielle aux politiques sociales et à l’État providence et part du principe que le travail, la maladie ou la vieillesse dépassent les responsabilités individuelles et doit être assumé de façon collective. Pourtant, cette maîtrise des risques dont on parle ici n’est pas tant le risque inhérent au fonctionnement social qu’une vision plus pragmatique et réduite : à savoir le risque financier que les bénéficiaires font courir aux organismes payeurs. La maîtrise des risques est également un principe managérial qui vise à prévenir leur survenance. Si la typologie des risques est souvent entendue de manière large, en pratique, le risque est surtout défini de manière précise et est profondément lié aux erreurs de déclaration des allocataires. Si cette notion de maîtrise des risques reste très englobante, c’est pour mieux faire disparaître le cœur de cible dans un principe managérial global. Un cœur de cible qui est à l’origine de la diffusion d’un impératif de contrôle à l’ensemble des organismes de protection sociale. La statistique prédictive ici correspond parfaitement à une politique dont l’objectif est de limiter le risque avant même qu’il ne survienne. Il y a eu une rencontre qui n’était pas totalement programmée entre la statistique prédictive et l’organisation des institutions de contrôle, mais qui a permis le renforcement de l’une et de l’autre. L’usage du data mining a pris sens dans le principe d’organisation même de la protection sociale et celui-ci s’est opérationnalisé dans la mise en œuvre même de cette technique, en renforçant l’individualisation et la responsabilisation des allocataires.

InternetActu.net : La fouille de données produit donc un score de risque de fraude pour chaque allocataire depuis 2011 à la CAF. Elle est utilisée depuis 2013 par Pôle emploi. Depuis 2014, par l’administration fiscale… Comment s’est répandu ce scoring, ce calcul des risques, cette « révolution industrielle » de l’administration publique ?

Vincent Dubois : Chaque utilisation est différente. À Pôle emploi, l’automatisation est surtout utilisée pour contrôler l’effectivité de la recherche d’emploi ainsi que pour la lutte contre la fraude, mais la focale y est plus réduite qu’à la CAF (l’enjeu consiste surtout à surveiller les escroqueries aux Assedics, fausses adresses, fausses fiches de payes… et emplois fictifs). Dans l’administration fiscale, la fouille de données s’est développée récemment mais ne conduit au déclenchement que d’environ 10 % des contrôles des particuliers, la proportion étant supérieure à 60 % pour celui des bénéficiaires d’aide sociale. Il faut rappeler ici le rôle joué par la création en 2008 de la Délégation nationale à la lutte contre la fraude (DNLF). Cette innovation institutionnelle est venue concrétiser les prises de position politiques du président Sarkozy dénonçant la fraude sociale et surtout la fraude aux prestations. Cette délégation interministérielle a eu la mission de coordonner les échanges, de favoriser les bonnes pratiques, de former et d’assurer une veille technique pour l’ensemble des services concernés par différents types de fraudes. Elle est créée alors que la fouille de données est en voie de généralisation à la CNAF et qu’elle y produit des résultats probants. Elle est rapidement devenue la technique mise en avant dont la DNLF a prôné la diffusion et la généralisation.

Internetactu.net : À côté de la statistique prédictive et du data mining, votre enquête de terrain pointe une autre transformation qui bouleverse le travail des administrations : le croisement de données ! Plus qu’un croisement d’ailleurs, c’est plutôt un « échange » voir même des accès croisés, qui renforcent le contrôle et produisent des vérifications de masse, peu coûteuses, et « efficaces ». Nous sommes passés d’un contrôle artisanal à un contrôle industriel, sous la pression de forces politiques qui ont valorisé et justifié le contrôle, mais qui a été structuré par une pléthore d’outils, de base de données et de modalités d’échanges de données. À la lecture de votre livre, en comprenant comment s’opèrent les contrôles, on découvre à quoi servent ces bases de données et portails d’information et comment ils sont mobilisés. Mais surtout, on découvre très concrètement que le respect de la vie privée et l’étanchéité des services publics, voire privés, sont devenus des vains mots. La séparation des administrations publiques et la séparation des pouvoirs qui leurs sont conférés ne sont-elles pas largement en train de disparaître ?

Vincent Dubois : Effectivement. La fouille de données et l’échange de données, même s’ils renvoient à des pratiques différentes (d’un côté des outils de détection et de l’autre des outils de contrôle), peuvent être regroupés dans un même ensemble d’usages. Il est frappant de constater le caractère concomitant et exponentiel de l’usage de ces techniques. Frappant de constater également le caractère très itératif de de développement. Nous ne sommes pas confrontés à un métafichier centralisé qui contrôlerait la population… comme l’était la menace du fichier Safari dont l’histoire raconte qu’il a donné lieu à la loi informatique et libertés de 1978, non ! La réalité est bien plus réticulaire que centralisée, mais cela ne l’empêche pas d’atteindre une forme de surveillance jamais vue. Cet ajout assez progressif d’accès et de croisement de données n’en réalise pas moins une surveillance tentaculaire.

Pour comprendre ce qu’il s’est passé, il faut tenter d’en démêler les fils chronologiques. Rappelons d’abord que la CAF, du fait de ce qu’elle traite, dispose d’une précision et d’une quantité de données personnelles sans commune mesure. Du fait de la batterie de critères et de leur diversité nécessaires pour accorder des aides, les organismes sociaux savent tout de la vie des personnes : santé, logement, travail, famille…

Au début des années 90, on a un premier mouvement d’informatisation, important et précoce, avec la création de systèmes internes aux organismes de protection sociale, comme la GED (gestion électronique des documents). En 1995, le NIR (Numéro d’inscription au répertoire, plus connu sous le nom de numéro de sécurité sociale) est autorisé pour le croisement des fichiers. Ca a favorisé le passage au caractère industriel du croisement des fichiers, car son usage a fait disparaître les nombreuses erreurs d’identification qui pouvaient exister notamment sur les noms, adresses et leurs orthographes. Ensuite ont été progressivement mis en place des protocoles d’échanges de données bilatérales, de façon itérative encore : entre la CAF et l’ANPE pour les bénéficiaires du RSA puis du RMI, entre la CAF et l’administration fiscale, etc. Un ensemble de conventions décidées de gré à gré se sont ajoutées les unes aux autres conduisant à une généralisation des possibilités d’échange de données. Ensuite, ont été constituées des bases de données « internes ». Il faut rappeler qu’il n’y avait pas de fichier national des allocataires, chaque caisse locale avait son fichier, ce qui créait notamment des risques de multiaffiliation. En 2006 est venu le RNCPS (Répertoire national commun de la protection sociale) : un répertoire qui permet à chaque organisme de protection sociale grâce aux identifiants uniques d’avoir accès aux fichiers consignés par les autres organismes sociaux. Puis la Déclaration sociale unique qui va faciliter l’unification des données en matière de ressources des allocataires. L’accès à d’autres fichiers n’a cessé de progresser… notamment l’accès direct à Ficoba (Fichier national des comptes bancaires et assimilés qui permet d’accéder aux relevés bancaires) pour contrôler la structure des ressources et dépenses des allocataires, vérifier leur train de vie ou la dissimulation de ressources non déclarées…

Ces évolutions décrivent une multiplication progressive et diversifiée d’une multitude de possibilités de croisement et d’accès à des données personnelles qui ont renforcé l’information que les organismes peuvent obtenir sur des personnes. Elles ont aussi considérablement renforcé l’efficacité des contrôles. Les croisements de ressources sont automatisés et déclenchent des contrôles en cas d’incohérence. Auquel s’ajoute le droit d’accès enfin, de façon plus individualisé et artisanal, qui permet d’accéder à des données pour des vérifications au cas par cas.

InternetActu.net : une autre transformation liée au numérique – mais pas seulement, elle est également liée à la normalisation, à des modalités de structuration des décisions, de cadrages des critères – tient également des documents utilisés, de la rationalisation des indications, des rapports. La rationalité n’est pas seulement dans les chiffres et les données, elle s’inscrit jusqu’à la normalisation des pratiques. Quels sont les effets de ces pratiques, de cette révolution de la normalisation et des traitements ?

Vincent Dubois : D’une manière générale, la structuration de la politique de contrôle a été marquée par un effort de rationalisation, qui rime avec une forme de nationalisation que l’on constate avec l’amoindrissement des latitudes d’appréciation laissées aux caisses locales. Effectivement, la technicisation par la fouille et l’échange de données est allée de pair avec la rationalisation des données. Si on regarde très concrètement le cas des enquêtes à domiciles par exemple, au début des années 2000, les contrôleurs étaient peu encadrés dans l’organisation pratique de leur travail. Les décisions liées à la qualification des situations d’isolement et la rédaction des rapports étaient assez libres dans leurs décisions et préconisations. Qualifier une décision d’isolement ou de vie maritale, malgré la jurisprudence relevait beaucoup des impressions du contrôleur. Par exemple, je me souviens d’un contrôle à domicile de personnes âgées qui habitaient ensemble et parlaient d’un arrangement amiable… Une version que le contrôleur avait retenue, n’imaginant pas que des personnes âgées puissent finalement se mettre en couple. Ne pas retenir la vie maritale serait impossible aujourd’hui. Notamment du fait des outils d’aide à la décision qui ont été créés, qui reposent sur des constats critérisés, des modalités de pondération de ces critères les uns par rapport aux autres et de la notation sur le degré de certitude de ces différents critères. La décision entre une situation d’isolement ou de vie maritale se fait désormais par le biais d’une formule Excel !

Cette automatisation de la décision… on peut voir soit positivement, comme une posture normative, un rempart logique contre les décisions individuelles des contrôleurs. On peut également la voir négativement, car elle conduit à une forme de déréalisation du traitement des dossiers. Les situations sociales sont souvent complexes et mouvantes et ne se laissent pas appréhender sur la base de critères standards et formalisés… Les contextes familiaux et les situations complexes échappent aux catégories bureaucratiques standards. La normalisation réduit la prise en compte de circonstances qualitatives, de ce qui pouvait être pris comme circonstances atténuantes. La standardisation conduit à une rigueur plus grande à la fois par la rectitude de l’application des critères et à la fois par la sévérité des décisions produites.

Ces transformations en tout cas sont très frappantes jusqu’à leur matérialité même. Au début des années 2000, les rapports des contrôleurs étaient souvent manuscrits, rédigés sur papier libre, formulés selon des styles propres aux préférences des contrôleurs, circonstanciés, souvent descriptifs de situations, narratifs plus que fonctionnels, mais livraient des ambiances, des réalités de situations. Désormais standardisés, les contrôleurs ne remplissent plus que des critères formels depuis des trames de plus en plus rigides, avec très peu d’espace de rédaction libres. Cette rationalité bureaucratique sous forme technologisée de formulaire en ligne qui ne laisse de choix que dans la réponse préremplie de menus déroulants produit une forme de déréalisation. Reste à savoir si nous sommes là face à un progrès qui prévient l’arbitraire et qui garantit une plus grande égalité. Ou face à une décision sans âme qui ne fait plus rentrer en ligne de compte les situations sociales.

InternetActu.net : le risque n’est-il pas d’une rationalisation de critères qui demeurent appréciatifs ?

Vincent Dubois : Oui. On évalue depuis des critères situationnels et de fait plus que depuis des critères juridiquement strictement définis, comme ceux liés à un statut. Face à des situations complexes et instables, l’administration fait souvent face à des situations indéterminables. Sur quels critères peut-on établir une vie maritale si la mère des enfants maintient des liens avec le père ? S’il vient trois jours par semaine ? S’il est là tous les week-ends ? Où placer le curseur ? Dans la logique des situations personnelles, la situation de précarité est marquée par une grande instabilité familiale, professionnelle, résidentielle… Or, l’administration doit arrêter des décisions dans un flux de changements. On a beau formaliser, multiplier les critères rationalisés… on ne réduira jamais le réel aux critères ! Dans les régimes assurantiels, on a des droits ouverts selon des critères de droit, de statut, de condition. Dès qu’on bascule dans des critères de faits, de situations ou de comportements… on est confronté à des difficultés. Le problème qui explique l’essor du contrôle, c’est le développement d’un système social où les prestations sont versées sur des critères de faits sont de plus en plus importants. Ce n’est donc pas un hasard si le contrôle concerne les populations les plus stigmatisées, comme celles qui bénéficient du Revenu de solidarité active ou de l’Allocation de parent isolé, car elles reposent plus que d’autres sur une qualification de situations ou de comportements.

InternetActu.net : Avec le numérique, le contrôle a changé de statut et réorienté les politiques publiques, expliquez-vous. La vérification est devenue plus coercitive et punitive, prise une spirale rigoriste inédite, qui vise à restreindre de manière toujours plus forte les règles d’attribution, les montants, les durées, les conditions d’attribution, les sanctions…), comme si l’État social se contractait. L’automatisation procède-t-elle plus à l’érosion des droits où à l’extension du contrôle ?

Vincent Dubois : L’extension du contrôle est certaine, pour les multiples raisons qu’on vient d’évoquer. La réponse informatique permet un traitement de masse des dossiers d’une façon peu coûteuse – notamment parce qu’il nécessite moins d’effectifs et qu’il produit une efficacité inédite du recouvrement – et aussi – c’est une justification souvent avancée ! – parce qu’il permet un contrôle à l’insu des contrôlés ! L’automatisation et l’informatisation ont été un vecteur très important de l’intensification des contrôles, de leur généralisation, de leur effectivité croissante et de la sévérité des décisions.

Sur la question de l’érosion des droits, peut-être faudrait-il déplacer la réponse en s’intéressant plus avant à ce qui se joue avec la dématérialisation des démarches. La thèse récente de Clara Deville sur « les chemins du droit » des bénéficiaires du RSA en milieu rural revient sur l’émergence – timide ! – de la notion de non-recours comme préoccupation officielle et la promotion de l’administration électronique. La dématérialisation est souvent vue comme la solution miracle, alors que, pour les personnes en précarité, elle est surtout un obstacle supplémentaire à l’accès aux droits. Dans ce cadre, le numérique ajoute des difficultés à celles qui existaient déjà en matière d’accès. Nous avons encore besoin d’enquêtes sur ces enjeux. Dans les démarches administratives, il y a des critères de compétences bien sûr – techniques pour savoir manier l’outil, mais également linguistique pour comprendre le vocabulaire administratif… -, mais aussi des critères liés aux situations ! Dans les situations standards, il est facile de rentrer dans les cases, même si elles sont rigidifiées par les formulaires numériques. Par contre, dès que les situations sont complexes, la dématérialisation renforce les obstacles. L’administration électronique, outre les questions d’accès, nous fait basculer dans une administration à distance qui renforce les problèmes d’accès déjà présents, notamment pour les populations les plus précaires. L’absence de face à face, pourtant primordiale, comme je le soulignais dans un précédent livre, La vie au guichet, empêche de se faire expliquer les démarches ou d’expliquer sa situation. L’obstacle classique du vocabulaire est ici renforcé, durcit, tout comme difficulté à « rentrer dans les cases », à qualifier sa situation sans explications ni accompagnement. Avec l’administration électronique, quand votre situation n’est pas prévue dans le menu déroulant, la discussion est close.

InternetActu.net : Votre livre est l’un des rares, si ce n’est le premier, à éclairer la question du « scoring » pratiqué par les administrations publiques. En tant que citoyens, nous ne savons rien des scores de risques qui sont affectés à nos profils. Si, notamment, la Loi pour la République numérique de 2016 prévoit l’ouverture des algorithmes publics et la publication des règles qui président à ces calculs, pour l’instant, ces publications concernent seulement les règles de calculs des droits et taxes. Comment se fait-il que ces calculs, pratiqués pourtant depuis 10 ans par la CAF, nous soient invisibles ? Comment expliquer cette discrétion pour ne pas dire ce secret dans la « révolution industrielle » des administrations publiques ?

Vincent Dubois : Il faudrait mener une enquête sur la transformation et le déclin de la CNIL. La réponse tient en partie au résultat de transformations juridiques liées notamment au droit européen, de transformations organisationnelles et un certain déclin des idéaux de liberté publique du fait des renouvellements générationnels au sein de la commission, tout autant qu’un rapport de force qui a sans doute affaibli la place de la CNIL dans le champ bureaucratique. De manière très concrète, tout cela a conduit à ce que les croisements de données et la création de bases de données dédiées ne soient plus soumis à autorisations préalables, mais instruites en interne par des délégués à la protection des données en discussion avec les administrations… Et que les avis de la CNIL ne soient désormais plus contraignants. Ces transformations du rôle de la CNIL ont ouvert une possibilité de croisement de données qu’on pensait impensable en 1978…

InternetActu.net : dans votre livre, vous écrivez d’ailleurs : « Trente ans après la loi informatique et libertés de 1978, les fichiers et croisements d’informations ont cependant été réalisés » dans une « ampleur bien plus importante que les projets qui l’avaient initialement suscitée »…

Vincent Dubois : Cela tient certainement beaucoup à la façon dont les choses se sont mises en place. Il n’y a pas eu un projet massif et centralisé auquel s’opposer, qui aurait créé débats et controverses… Le fait que ces questions aient été traitées au cas par cas, via des accords de gré à gré, à diluer leur mise en place, et ce alors que leur généralisation a été lente et très progressive. Nous n’avons pas été confrontés à un système généralisé, mais à une facilitation des procédures. Or, qui s’émeut d’une convention d’échanges de données entre deux organismes publics ?… Pourtant, mis bout à bout, l’ensemble de ces conventions font bien systèmes et produisent une efficacité redoutable.

Ensuite, la fouille de données se pare des atours d’une neutralité statistique et mobilise des techniques relativement complexes. Cette technicité permet de laisser de côté l’approfondissement des débats sur leurs usages ou leurs limites. Au final, il faut pouvoir faire une enquête comme la mienne pour saisir comment les données sont effectivement utilisées. Les administrations (mais on peut étendre le constat aux entreprises privées, comme la banque ou l’assurance par exemple) sont peu enclines à dévoiler les fonctionnements de leurs algorithmes, comme on le constate avec Parcoursup. Pourtant, il y a là un vrai enjeu démocratique. Nous devons connaître les informations personnelles que les administrations utilisent, comment et à quelles fins.

InternetActu.net : Dans ce nouveau paysage d’une surveillance omnipotente, y’a-t-il encore une place pour que les contrôlés puissent s’adapter, trouver des espaces ou des modalités pour prolonger les modes de « fraudes de survie » dans lesquels ils sont le plus souvent ? Le nombre de fraudes identifiées a été multiplié par 30 entre 2004 et 2017, mais leurs montants seulement par 16 et au prix d’un élargissement sans fin de la définition de la fraude (qui a largement dépassé la notion d’escroquerie organisée). Dans cette surveillance, toujours plus stricte, de plus en plus réactive, « ce sont presque toujours les allocataires les plus précaires qui sont le plus contrôlés », à savoir les individus isolés ou ceux dont les conditions d’emplois sont les plus irrégulières. Le risque n’est-il pas que les méthodes de calcul toujours plus précises toujours plus volatiles et évolutives (notamment la fin de l’annualisation des droits et prestations) se fassent au détriment des plus précaires sans leur laisser d’espaces d’adaptation, de tolérance ?

Vincent Dubois : Décrire l’expérience du contrôle vu du côté des contrôlés nécessiterait une autre enquête. Elle est difficile à réaliser, car il est difficile d’accéder aux personnes contrôlées… Je ne désespère pas pourtant qu’on puisse la réaliser un jour.

L’ajustement des pratiques des allocataires à ces systèmes semble se réduire. D’abord parce qu’il est difficile de s’adapter à des modèles de détection qu’on ne connaît pas vraiment. Néanmoins, il y a toujours des effets d’ajustements, liés à l’information qui circule, à l’expérience des contrôles qui forge des compétences pour s’y ajuster… Reste que, par nature, la fouille de données pour lutter contre la fraude ne cesse de s’ajuster à l’évolution des fraudes documentées, on l’a dit. Le système n’est pas fixe et établi, mais rétroagit. Les usages de fraudes sont régulièrement remodélisés pour améliorer les formes de contrôle.

Ce n’est pourtant pas un modèle sans failles. L’une des limites qui a été identifiée par exemple, c’est que le modèle est national, global, et qu’il est donc aveugle aux disparités locales. La même variable en fonction de contextes différents n’a pas la même signification. Être chômeur dans un bassin d’emploi où il y a beaucoup de chômage n’a pas la même signification ni les mêmes implications que de l’être dans un contexte où le taux de chômage est très faible. Cela nécessite certainement un travail pour intégrer des variables contextuelles aux modèles.

Enfin, une autre limite tient certainement à l’auto-alimentation de ces techniques. Devoir déclarer plus régulièrement des ressources produit mécaniquement des erreurs, des retards… Plus on suit au plus près et de façon continue les situations, en temps réel, plus les critères font l’objet d’erreurs… Et plus on les contrôle !

Propos recueillis par Hubert Guillaud, le 16/06/2021.

En septembre 2019, dans une tribune pour le toujours sémillant The Atlantic (@TheAtlantic), Daphne Keller (@daphnehk), directrice du programme de régulation des plateformes au Centre de cyber politique de Stanford (@stanfordcyber), expliquait que les entreprises internet n’avaient pas d’état d’âme à restreindre la liberté d’expression. Elle réagissait alors au lancement de la « Cour suprême » de Facebook – devenue depuis « Conseil de surveillance » (sur FB, @oversightboard). Pour Keller, il est normal que ces places publiques modernes se dotent de règles de fonctionnement, d’autant qu’elles ont pris une importance primordiale pour les utilisateurs. « Les personnes dont les messages sont retirés des principales plateformes disent qu’elles sont exclues des canaux de communication les plus importants de notre époque ». D’où l’importance à nous préoccuper des règles que ces entreprises appliquent à nos discours et nos comportements… que ce soit de savoir si PayPal peut virer les dons à Wikileaks, si Cloudflare doit protéger les sites néonazis ou si Facebook doit retirer la célèbre photo de Nick Ut d’une jeune fille nue brûlée au Napalm sur une route du Viêt Nam.

Les médias sociaux ne sont pas des gouvernements

« Mais les plateformes privées ne sont pas vraiment la place publique, et les sociétés Internet ne sont pas des gouvernements. C’est exactement pour cela qu’elles sont libres de faire ce que tant de gens semblent vouloir : mettre de côté les règles de libre expression du premier amendement [de la Constitution des États-Unis] en faveur de nouvelles règles plus restrictives ». L’existence de cours suprêmes « privées » et de conventions spécifiques permet d’imaginer que cette refonte sera régie par les mêmes contraintes que celles qu’ont connues les gouvernements du monde réel : des règles « constitutionnelles » pour protéger les droits individuels et établir des processus démocratiques pour établir les lois sous lesquelles nous vivons… Mais les plateformes n’ont fait écrire à leurs usagers aucune Constitution et ne sont soumises à aucun processus démocratique ni même à aucun devoir de séparation des pouvoirs ni à une quelconque représentativité de leurs usagers ! Leurs règles ne sont donc « constitutionnelles » que de nom !

Des groupes de défense des utilisateurs ont demandé des droits similaires à ceux d’une « procédure régulière », comme un droit d’appel pour les personnes accusées d’avoir violées les règles des plateformes, comme on le trouve exprimé dans les principes de Santa Clara. D’autres demandent une transparence similaire à celle qu’on attendrait de législateurs, notamment pour mettre en lumière leurs interactions avec des lobbys ou leurs clients. Ces demandes sont positives et nécessaires, bien sûr, mais « il ne faut pas croire qu’imiter les systèmes gouvernementaux fera des plateformes des substituts aux gouvernements, soumis à des lois et des contraintes de pouvoir fondées sur des droits réels », prévient Daphne Keller. De fait, les plateformes sont plus à même de restreindre les libertés notamment parce qu’elles sont bien moins responsables de leurs choix que des représentants élus. Pour Keller, il nous faut mieux comprendre ces différences avant de demander aux plateformes de jouer un rôle plus important en tant qu’arbitres de la parole et de l’information, notamment parce qu’elles peuvent restreindre les discours avec plus d’efficacité que les gouvernements. Certes, elles n’emprisonnent pas les dissidents, mais elles peuvent les réduire au silence. Et notamment supprimer des publications licites, mais haineuses, harcelantes, trompeuses ou offensantes… bien plus rapidement que ne le ferait un procès. « L’absence de responsabilité démocratique ou constitutionnelle qui rend les plateformes si efficaces en tant que régulateurs de contenu les rend très difficiles à contraindre d’une autre manière ». Enfin, leurs « procédures » de contestation sont de très pâles reflets des originaux dont elles devraient s’inspirer.

Les membres de ce qu’on appelait encore la Cour suprême de Facebook ne sont pas chargés de faire respecter les droits des utilisateurs en vertu d’une Constitution ou des Droits de l’homme ou de tout autre instrument juridique, rappelle Keller. Leur travail ne consiste qu’à interpréter les règlements existants – et changeants – des plateformes. Le problème est que chaque fois que l’opinion s’indigne, les plateformes sont incitées à assumer davantage de pouvoir, que ce soit en accroissant la surveillance des utilisateurs ou l’interdiction de contenus licites… « Plus les plateformes s’arrogent ces pouvoirs, plus nous devons nous inquiéter du fait que nous ne contrôlerons pas réellement la manière dont elles les utiliseront ».

Dans ce contexte, les gouvernements ont du pouvoir : ce n’est pas un hasard si les grandes plateformes appliquent les normes européennes en matière de discours de haine dans le monde entier. Les annonceurs également ont du pouvoir : toutes les plateformes ont remanié des politiques en fonction de leurs indignations ou préconisations. Dans ce contexte, les utilisateurs sont bien souvent ceux qui ont le moins de pouvoir. « Si les plateformes n’ont pas de comptes à nous rendre, pourquoi les encourageons-nous à assumer un tel contrôle pratique sur notre discours ? »

À cause de la fuite en avant ! répond Daphne Keller. Le raisonnement est toujours le même : les plateformes ont déjà des règles et donc elles peuvent en avoir de meilleures. Le problème, c’est que ce raisonnement est à sens unique, explique la juriste. Il justifie le fait de demander aux plateformes d’en faire toujours plus, plutôt que de leur demander de revenir sur les changements qu’elles ont déjà effectués ! À l’image de la démultiplication des outils de détection automatique des contenus… lancés à l’origine pour lutter contre la pédopornographie (notamment PhotoDNA, que nous évoquions depuis notre lecture du livre de Tarleton Gillespie). Depuis, la prévalence de ces outils n’a cessé de s’étendre : pour identifier les « terroristes » (selon les propres définitions des plateformes) et pourraient demain s’étendre aux insultes à l’égard d’hommes politiques… L’expansion du rôle des filtres risque d’être sans fin et surtout sans point d’arrêt !

Les forces du marché sont censées contenir le pouvoir commercial privé. Lorsqu’elles ne suffisent pas, les démocraties usent plutôt du droit de la concurrence plutôt que de chercher à établir des règles gouvernementales pour les entreprises. Quand elles nuisent trop, les autorités les taxent pour financer des mesures correctives, comme elles le font à l’égard des entreprises qui polluent ou des fabricants de cigarettes. Les tribunaux peuvent également les obliger à prendre des mesures… Mais à l’égard des plateformes, nous ne suivons pas ce schéma où le gouvernement fixe les règles et les entreprises les suivent. Pire, souligne-t-elle : les plateformes peuvent bloquer des discours que les autorités n’ont pas le pouvoir de restreindre, ce qui peut plaire à nombre d’entre elles. Finalement, pour contourner les limites du droit, le risque est de donner plus de pouvoir aux plateformes, ce qui menace de renoncer à une réelle contribution démocratique qu’on pourrait leur demander : comme de mieux surveiller et publier les pressions qu’elles reçoivent des gouvernements.

Les entreprises privées remodèlent les normes d’expressions par à-coups, souvent brutalement, et non pas d’une manière progressive et prudente comme le ferait un tribunal ou un législateur. Le risque est que nous renoncions à des protections réellement constitutionnelles, elles, et à des aspects majeurs d’une ouverture démocratique de leur gouvernance.

Connaissez-vous le GIFCT, acteur majeur de la modération mondiale ?

Dans un article pour Slate, Chloe Hadavas (@hadavas) donne un exemple assez concret des lacunes démocratiques auxquelles ces plateformes nous confrontent. En 2017, Facebook, Microsoft, Twitter et YouTube ont créé une association – et une base de données -, le Global Internet Forum to Counter Terrorism (GIFCT, @GIFCT_official, Forum mondial de l’Internet pour la lutte contre le terrorisme) qui a pris en quelques années une importance majeure en matière de modération. Cette base de données pour coordonner la suppression de contenus relatifs à l’imagerie et la propagande terroriste violente produit une liste noire de contenus partagés entre les plateformes.

Le problème, c’est la grande opacité de son fonctionnement !, explique Hadavas. Aucune des décisions relatives au contenu n’est transparente et les chercheurs n’ont pas accès à cette base. Les règles que le consortium prend sont privées : il définit ce qui est et n’est pas un contenu terroriste, sans avoir à rendre des comptes, au risque de bloquer des reportages sur le terrorisme ou sur les violations des droits de l’homme. Le GIFCT ne force pas les plateformes à retirer les contenus qu’elle signale, mais c’est en réalité le cas, notamment parce qu’elles n’ont pas toujours les ressources suffisantes pour réévaluer les contenus que le GIFCT leur signale. Sous la pression de l’Appel de Christchurch, ce sommet politique entre gouvernements et entreprises pour lutter contre les contenus terroristes en ligne après la fusillade en Nouvelle-Zélande, le GIFCT a annoncé en 2019 qu’il allait remanier sa structure interne, notamment son comité consultatif indépendant en intégrant des représentants de plusieurs gouvernements (à savoir le Canada, la France, le Japon, le Kenya, la Nouvelle-Zélande, le Royaume-Uni et les États-Unis) pour le rendre plus responsable.

Le 30 juillet 2020 pourtant, le Center for Democracy and Technology (@CenDemTech) et 14 autres organisations de défense des droits de l’homme ont adressé une lettre à Nick Rasmussen, le directeur exécutif du GIFCT, s’inquiétant de son manque de transparence et de la participation déséquilibrée de certains gouvernements au Comité consultatif du GIFCT – au détriment d’autres ! Rappelant que les programmes de lutte contre le terrorisme et la surveillance ont violé les droits de certains pays et religions voire ont été utilisé par des gouvernements pour faire taire la société civile, les associations ont demandé à ce que « les limites entre la modération du contenu et le contre-terrorisme soient éclaircies ». Le risque est bien sûr que les plateformes décident demain de supprimer des données sous la pression de gouvernements pour imposer une censure qui ne serait pas légale autrement.

L’enjeu est de savoir comment tenir les décisions prises par le GIFCT comme responsables. Pour beaucoup, le consensus veut que le GIFCT serait plus digne de confiance s’il était plus transparent qu’il n’est. En juillet 2019 (puis en 2020), il a publié ses rapports de transparence en détaillant le fonctionnement d’un outil qui permet aux plateformes d’indiquer quand une image/vidéo/URL ne devrait pas figurer dans sa base de données. Mais c’est bien insuffisant, estime Daphne Keller, qui souhaite que des chercheurs puissent avoir accès à des copies du contenu réel bloqué par le GIFCT, pour mieux évaluer leurs biais et erreurs, ou offrir des possibilités de recours des utilisateurs lorsque leurs contenus sont bloqués par ce système. Enfin, d’autres réclament que le rôle du comité soit plus clair, notamment qu’il reste vraiment consultatif. Pour Keller, le GIFCT illustre combien la question de la responsabilité des plateformes s’avère glissante dans la pratique. Une poignée de plateformes ont créé des systèmes opaques et puissants qui appliquent des règles qui ne sont pas la loi pour contrôler les discours en ligne ! Le risque est bien que nous multiplions demain ce type de procédures et d’institutions spécifiques qui n’ont de compte à rendre à personne ! Et que ce qui n’est pas la loi devienne une norme…

Le conseil de surveillance de Facebook en ses limites

C’est en grande partie le risque que fait peser également le fameux conseil de surveillance de Facebook mis sous les projecteurs récemment pour sa décision très attendue sur l’éviction de Donald Trump. Le conseil de surveillance a donc décidé, début mai, de maintenir la « déplateformisation » de l’ancien Président, expliquait TechPolicy.press (@techpolicypress), mais en renvoyant l’entreprise à motiver et mieux délimiter la sanction. Le conseil de surveillance de Facebook a cependant approuvé les décisions prises par l’entreprise – même s’il a demandé des explications sur celles-ci. Le conseil a recommandé d’améliorer le recrutement de son personnel de modération notamment ceux spécialisés dans le traitement des utilisateurs influents, de clarifier la politique qui permet à certains utilisateurs d’échapper aux contraintes qui pèsent sur tous en raison de leurs statuts.

Pour Jordan Guiao (@jordanguiao), chercheur au Centre australien pour la technologie responsable (@CnrtResponsTech), dans une tribune pour TechPolicy, cette décision montre surtout les limites de l’exercice d’autorégulation. Pour lui, si Facebook est si incapable de traiter ces questions, c’est bien parce que sa plateforme n’a pas été conçue pour ça et que Facebook reste dominé par ses intérêts commerciaux. En Australie, le récent conflit entre Facebook et la presse a laissé des traces explique le chercheur, qui, comme Ethan Zuckerman ou Eli Pariser (que nous évoquions il y a peu), milite pour des réseaux sociaux de services publics. Plutôt que de perdre notre temps à réguler Facebook, nous devrions surtout prendre le temps de construire des solutions nouvelles et différentes. Comme le pointait le professeur de littérature Dennis Tenen (@dennistenen) sur The Reboot (@ProjectReboot) –repris et traduit par ,Mais où va le web ? -, la modération n’est pas universelle et nécessiterait d’être bien plus maîtrisée par la communauté et le contexte, selon les fins qu’elles poursuivent, plutôt que d’être conçue d’une manière totale et industrielle, qui impose un régime de modération sans nuance, sans discussion, sous forme d’un régime universel qui n’est ni transparent ni démocratique.

En février, le New Yorker est revenu en détail sur la construction du conseil de surveillance de Facebook dans un article qui en éclaire justement les limites. Son auteure, Kate Klonick (@klonick) a suivi son déploiement (avec l’autorisation de Facebook).

Au début, rappelle-t-elle, FB n’avait aucune idée sur la manière dont ce conseil devait fonctionner. Pour trouver des idées, elle a organisé des ateliers avec des experts du monde entier sous la supervision de Zoe Darme, à l’époque responsable de l’équipe gouvernance de FB, en donnant aux participants des cas concrets à modérer. Pour Klonick, ces exemples, dans leur ambivalence même, soulignaient combien l’incertitude et la difficulté à produire des règles claires était difficile, d’autant que les « intuitions » sur la liberté d’expression varient considérablement selon les clivages politiques et culturels. Au final, les opinions des experts se sont révélées assez contradictoires : dans un atelier à New York, 60 % des participants ont voté pour le rétablissement d’une image d’une femme souriante accompagnée d’une bulle où était inscrit « Tuez tous les hommes », en y voyant surtout de l’humour, alors qu’à Nairobi, seulement 40 % ont voté pour son rétablissement. Pour Zoe Darme, la raison tient peut-être plus à des questions de respect de l’État de droit : là où il est moins respecté, la liberté d’expression l’est moins également… Pas sûr que ce soit la seule explication…

« L’idée que FB, à l’instar d’une république naissante, ait besoin d’instituer des réformes démocratiques, aurait pu paraître saugrenue il y a 10 ans », explique Klonick. En 2009, FB avait lancé un référendum portant sur la modification de ses conditions d’utilisation où seul 0,32 % des utilisateurs avaient voté. L’entreprise promettait alors de donner plus de pouvoir à ses utilisateurs… Elle en est largement revenue. Alors que de plus en plus d’utilisateurs rejoignaient les plateformes de réseaux sociaux, les entreprises ont instauré de plus en plus de règles pour assainir le contenu et maintenir l’expérience qu’elles proposaient la plus agréable possible. Mais cela s’est complexifié à mesure que le nombre d’utilisateurs a progressé.

L’idée du conseil de surveillance est venue d’un professeur de droit de Harvard, Noah Feldman. Pour lui, les médias sociaux devaient créer des systèmes quasi juridiques, une sorte de « tribunal d’entreprise », afin de traiter les questions difficiles liées à la liberté d’expression. Zuckerberg a soutenu l’idée devant son conseil d’administration dubitatif et partagé, en expliquant qu’un conseil d’experts serait le mieux placé pour prendre les décisions difficiles auxquelles l’entreprise était de plus en plus confrontées. Il a lancé le projet. La charte du conseil de surveillance et ses règles de procédures, rédigées par des experts et employés de FB, ont, de réunion en réunion, été nettoyées de leur emphase juridique pour devenir plus accessibles. Les rouages de l’instance ont été mis en place : composée d’une vingtaine de membres, très bien payés, pour une quinzaine d’heures de présence par semaine. Une commission choisit les cas les plus représentatifs des 200 000 publications qui posent problème chaque jour et les soumet à une partie des membres réunis anonymement pour qu’ils statuent.

L’utilisateur incriminé doit déposer un mémoire écrit pour sa défense. Un représentant de l’entreprise dépose un argument pour expliciter la décision de l’entreprise. Le panel décide et FB exécute la décision prise. Actuellement, les utilisateurs peuvent faire appel en cas de suppression de leur publication (take-downs), mais pas quand elles sont laissées en place (keep-ups) – or un grand nombre de problèmes signalés sont bien souvent maintenus en ligne. Les utilisateurs ne peuvent pas non plus faire appel sur des questions comme la publicité politique, les algorithmes ou la déplateformisation de pages de groupes (mais FB a annoncé qu’il devrait permettre d’élargir l’appel des décisions par les utilisateurs)… Quant au conseil, il ne peut prendre des décisions que sur les affaires que lui renvoie FB, pas de sa propre initiative. Autre limite : les décisions du conseil ne deviennent pas une politique ! C’est-à-dire que si le conseil supprime ou rétabli un contenu, cela n’oblige pas FB a retirer ou maintenir les publications similaires (cela reste à la discrétion de l’entreprise). Enfin, les recommandations politiques du conseil ne sont que consultatives, ce qui en limite la portée, mais, malgré tout, entrouvre une fenêtre inédite de pression publique sur la politique de l’entreprise.

Klonick s’amuse également des discussions qui ont eu lieu pour choisir les membres de ce conseil de surveillance et notamment des innombrables pressions reçues. Dès les premières annonces, les controverses ont fleuri. En mai 2020, sa composition a été annoncée, déclenchant l’ire de certains, notamment du président Trump, sans que FB ne cède à ses pressions. Les détracteurs restent néanmoins nombreux. Pour la professeure de droit Julie Cohen (@julie17usc), ce panel de stars somptueusement rémunérées n’a aucun intérêt et ne peut se prononcer sur les problèmes les plus fondamentaux de FB. Pour Zuckerberg, FB va avoir besoin d’institutions et de surveillance supplémentaire. Créer des produits pour communiquer n’est pas le même travail que gouverner une communauté, expliquait-il directement à Klonick pour justifier de la création du conseil.

En avril 2020, les membres du conseil se sont réunis pour la première fois (sur Zoom !) et ont suivi une formation pour se connaître les uns les autres et sur les normes en matière de modération de FB. En octobre, FB a (entre)ouvert la possibilité d’appels (à 5 % des utilisateurs choisis aléatoirement). En novembre, le conseil a reçu ses premiers cas.

Un des cas traités était une photo d’église détruite en Azerbaïdjan par un utilisateur se plaignant de l’agression du pays à l’encontre des Arméniens. FB avait supprimé le post sous prétexte qu’invitait à la haine. Certains membres du conseil ont trouvé étrange d’appliquer cette règle dans le cas d’une publication se plaignant d’un groupe dominant en conflit avec un autre. Mais le conseil a finalement voté pour la suppression du message.

Dans un autre cas – une vidéo et un texte provenant de France se plaignant que le gouvernement avait refusé d’autoriser l’hydroxychloroquine contre le Covid-19 -, que FB avait supprimé pour ne pas promouvoir l’automédicamentation, les discussions ont été nourries. D’un côté des membres soulignaient que FB devait combattre la désinformation, de l’autre, des membres ont souligné que la publication prônait un changement de politique et donc relevait d’un risque de censure de discussions politiques. Le médicament n’étant pas en vente libre en France et ne pouvant donc pas promouvoir l’automédication, le conseil a finalement décidé de ne pas le censurer et de restaurer la publication.

Quelques semaines plus tard, alors que les protestations Black Lives Matter se répandaient dans le pays, Trump a publié sur FB et Twitter un message menaçant d’envoyer l’armée pour les maîtriser, précisant « quand les pillages commencent, les tirs commencent », une phrase dont la charge raciste est sans équivoque. Twitter a alors signalé à ses lecteurs que le tweet violait ses règles, mais pas FB. Zuckerberg a publié lui-même une déclaration expliquant qu’il ne partageait pas ces propos, mais que c’était aux gens de s’en rendre compte en soulignant dans une interview à Fox News que son entreprise ne pouvait pas être « l’arbitre de la vérité ». Des employés en colère ont organisé un débrayage virtuel face à cette inaction. Quelques jours plus tard, l’un des membres du conseil a suggéré une réunion du conseil au complet qui a débattu du sujet.

Plusieurs membres étaient choqués et souhaitaient publier une déclaration condamnant la décision de FB. D’autres étaient contre le fait de prendre une décision partisane. Après 2 heures de discussion, les membres ont décidé pourtant de ne pas s’exprimer sur cette question.

Face à Trump, comment Facebook s’est pris les pieds dans son opacité

Et puis il y a eu la contestation des résultats de l’élection et la prise d’assaut du Capitole. FB a supprimé deux publications de Trump le jour même. Et le lendemain des événements, Zuckerberg, sur son propre fil FB, a annoncé la suspension indéfinie du compte de Trump. Le lendemain, Twitter l’a banni à son tour. Cette « déplateformisation » comme on l’a appelé a bien sûr fait couler beaucoup d’encre. Certains s’en sont félicités, d’autres ont exprimé leur inquiétude du fait que FB avait fait taire un dirigeant démocratiquement élu. Pour le professeur de droit Eugene Volokh (blog), la cinquième entreprise des États-Unis, en situation de quasi-monopole sur son créneau, a restreint la liberté d’expression d’une personnalité politique auprès des trente millions de personnes qui le suivaient. C’est peut-être très bien… Mais ça reste un pouvoir immense, confiait-il à Klonick. Angela Merkel a qualifié cette suppression de problématique et Navalny, l’un des opposants de Poutine, a dénoncé une censure inacceptable.

En interne, seul FB avait le pouvoir de renvoyer la suspension de Trump devant le conseil de surveillance. Le conseil d’administration a plaidé pour que le conseil de surveillance examine le cas, afin de ne pas porter atteinte à sa jeune légitimité. Le lendemain de l’investiture de Joe Biden, FB a envoyé le dossier au conseil de surveillance. L’article de Klonick se terminait sur les attentes que représentait cette décision. Elles ont été douchées depuis.

Comme le raconte Klonick dans le Washington Post, le réseau social espérait s’en remettre à son instance d’appel, mais ce n’a pas été le cas. Si le conseil a confirmé la décision de bannir Trump, il a demandé que l’entreprise assume davantage la responsabilité de ses décisions. FB a dépensé 130 millions de dollars pour mettre en place ce conseil (pour assurer son fonctionnement pour une durée de 6 ans), rappelle Klonick.

Pendant des années, rappelle-t-elle, FB a maintenu des conditions exceptionnelles pour laisser Trump s’exprimer, alors qu’en regard de sa politique, il aurait dû être censuré depuis longtemps. « Lorsque vous accordez des exceptions aux personnes les plus puissantes du monde, elles abusent de leur pouvoir », alors qu’appliquer la même justice pour tous reste une des plus puissantes boussoles collectives qui soient. Le 6 janvier, ces petits accommodements ont finalement explosé au visage de l’entreprise.

Dans sa décision, le conseil rappelle finalement que FB n’a pas utilisé de règles claires, notamment parce que l’entreprise n’a cessé de les modifier à la volée, ce qui n’est pas conforme ni aux règles ni à l’équité. Il a expliqué que si FB voulait exclure Trump de façon permanente, c’était à l’entreprise de créer les règles pour cela. Le conseil rappelle que le manque de transparence de FB sur ses propres règles lui est préjudiciable et a demandé à l’entreprise de répondre sur la façon dont les décisions concernant les utilisateurs influents sont prises… Elle a aussi demandé à ce que FB éclaircisse comment ses algorithmes avaient amplifié les messages de Trump – mais pour l’instant, FB a refusé de répondre à cette question. Cette remarque est certainement la plus importante de l’avis, explique Klonick. « Si FB veut que le conseil de surveillance soit respecté comme tribunal indépendant, refuser de répondre à ses questions n’aidera pas ». Et souligne que l’enjeu principal à toute transparence demeure la question du calcul de la mise en visibilité et invisibilité des contenus.

Dans une longue interview pour The Verge, Klonick précise encore que le conseil rend des décisions anonymes à la majorité, mais éclaire dans ses notes le fait qu’il y ait des opinions divergentes. Elle rappelle à nouveau qu’une des limites du conseil c’est de rendre des décisions très étroites sur la suppression ou non d’un contenu qui ne s’élargissent pas à des contenus similaires, ce qui limite beaucoup sa portée. Le conseil a pourtant le droit de faire des recommandations de politique auxquels FB doit répondre dans les 30 jours pour préciser les raisons qui la conduise à les mettre en place ou pas. Pour le professeur de droit de Harvard, Mark Tushnet, cela reste une forme de contrôle de « forme faible », une pression de réputation surtout. Le conseil ne fait pas le droit. Il ressemble bien plus à un tribunal de première instance qu’à une Cour d’appel ou une Cour suprême !

Ce que souligne la décision malgré tout, c’est qu’une suspension permanente est de facto disproportionnée. Pour Klonick, FB semble effectivement avoir des « règles » différentes pour certaines personnes, mais nous n’avons « ni accès à la liste des personnes concernées, ni ne savons comment elle est gérée, ni bien sûr les exceptions aux règles dont elles bénéficient » – pour autant qu’il y ait vraiment des règles, il est probable, ajouterai-je qu’ils bénéficient surtout de modérateurs/appréciateurs de contenus dédiés par rapport au traitement massifié de tous les autres utilisateurs. En demandant à FB de s’expliquer, le conseil de surveillance a pleinement rempli son rôle.

Depuis, Facebook a fait de nouvelles annonces et enfin répondu au conseil de surveillance. Notamment en annonçant ramener le bannissement de Trump à 2 ans et en annonçant de nouvelles règles (avec des sanctions plus strictes, hiérarchisées et croissantes) pour les « personnalités publiques », explique FastCompany. Reste que la réponse de FB demeure floue : « Nous autorisons certains contenus dignes d’intérêt ou importants pour l’intérêt public à rester sur notre plateforme, même s’ils sont susceptibles de violer nos normes communautaires » et n’explique toujours pas qui sont les utilisateurs influents qu’il distingue du commun des mortels et qui vont continuer à recevoir un traitement particulier et accéléré pour mieux saisir leurs intentions et la réception de leurs propos. Comme le constate le chercheur Olivier Ertzscheid (@affordanceinfo2) dans une tribune pour Libération, c’est un revirement pour FB puisque désormais tout propos pourra être modéré… mais ce revirement date surtout des conséquences des décisions du 7 janvier, plus que de la réponse de FB. Pour autant, les personnalités publiques ne sont pas encore ramenées au rang de simples utilisateurs, et encore une fois, si tout propos peut-être modéré, il n’en sera pas de même si vous êtes riches et puissants que pauvre et malade !

En 2019, Klonick avait publié un article pour comprendre depuis quels critères FB pouvait définir un statut spécifique de personnalités publiques « dignes d’intérêt ». Mais « dignes d’intérêt pour qui ? » interrogeait-elle avec perspicacité. Ici, le conseil de surveillance rappelle soit que FB devrait supprimer ces exceptions soit être clair à leur sujet.

Pour Klonick, la suite des débats sera intéressante. Il est probable que le conseil s’oppose de plus en plus à FB, s’isole et finisse par s’éteindre à son terme. Mais, malgré ses innombrables limites et son pouvoir circonscrit, le conseil de surveillance de FB pourrait aussi montrer aux autorités qu’on pourrait exiger de toutes plateformes une instance de ce type – le Canada d’ailleurs envisagerait de rendre obligatoire la création de conseils de surveillance pour les plateformes de médias sociaux, avance-t-elle un peu rapidement dans l’interview, mais le projet de loi C-10 pour modifier la loi sur la radiodiffusion dont il semble être question n’avance pas ce type de propositions. Reste à savoir, suggère encore Klonick si le conseil de surveillance (de FB, mais qui ne le porte pas dans son nom officiel), va rester le conseil de surveillance de FB ou si finalement, comme l’induit son nom, il ne pourrait pas devenir une autorité pour toutes les plateformes… Twitter, qui ne s’est pas doté d’autorité de ce type, pourrait demain déverser également une somme équivalente dans la société indépendante créée par FB pour former son propre conseil… Pour Klonick, la diversité des politiques de modération des plateformes, leurs positionnements, leurs rôles et leurs différences algorithmiques sont certainement essentiels. Dans un scénario de fusion des conseils de surveillance, le risque est aussi que les normes soient partout les mêmes… Pire : l’idée qu’une entité unique contrôle demain la libre expression des États-Unis et du monde est certainement une perspective plus problématique qu’autre chose.

Et Klonick de rappeler que seulement 7 % des utilisateurs de FB sont américains ! FB impose des normes au monde entier alors que celles-ci sont décidées par une population qui n’y est même pas majoritaire ! Que FB décide de la nature de ses politiques, soit. Mais ce qui importe, c’est qu’elles soient justes, cohérentes, proportionnées, équitables. Or, les résultats injustes semblent plus la norme que l’exception, avance Klonick, qui explique que le taux d’erreur sur les décisions de modération de contenu serait de 80 % [en fait, ce chiffre semble issu d’un article d’analyse de la décision du conseil de surveillance par le Center for Democracy & Technology qui souligne que 25 contenus postés sur le compte de Trump ont été marqués comme contraires aux standards de FB, mais que suite à leur examen, seulement 5 d’entre eux ont été retenus comme contraires aux standards, ce qui révèle un taux d’erreur dans l’application des standards de 80% ! Et les auteurs de généraliser ce taux d’erreur aux décisions de retraits qui impactent tous les utilisateurs… – qui ne bénéficient pas du même traitement de vérification que les utilisateurs « dignes d’intérêt » – en rappelant d’ailleurs que FB, dans ses rapports de transparence, n’est pas très clair sur son taux d’erreur, ni sur le taux de contenus rétablis, NDT]. Dans son avis, souligne encore Klonick, le conseil de surveillance pointe le rôle du comité discret qui écrit, modifie et réécrit les règles de modération de FB à assumer son rôle politique. Pas sûr que ce soit pourtant la piste que poursuivra l’entreprise ! Jusqu’à présent, ces instances internes qui précisent et peaufinent les règles de modération, quand elles existent, ont toujours été éminemment discrètes et particulièrement protégées.

« Une plus grande modération des contenus ne signifie pas une meilleure modération »

Très concrètement, l’IA est toujours aussi nulle pour modérer les discours de haine, soulignait la Technology Review, depuis une étude (.pdf) qui a testé 4 systèmes distincts de modération en montrant que tous avaient du mal à distinguer les phrases toxiques des phrases inoffensives. Pour accomplir leur étude, les chercheurs ont mis au point 29 tests différents, afin de mieux déterminer où chaque système échoue, et ont distingué 18 types différents de discours de haine et 11 scénarios qui n’en relèvent pas et qui piègent souvent les systèmes automatisés (comme l’usage de jurons, la récupération d’insultes en contre-discours…), ainsi que des modèles spécifiques pour les groupes protégés par les lois contre la discrimination américaines. Pour chaque catégorie, ils ont créé des exemples modèles et une base de données, HateCheck. Ils ont ensuite testé des services commerciaux, comme Perspective de Google Jigsaw (utilisés par Reddit, le New York Times et le Wall Street Journal) ou SiftNinja de Two Hat. Leurs résultats soulignent la difficulté du curseur : « Modérez trop peu et vous ne parvenez pas à résoudre le problème ; modérez trop et vous pourriez censurer le type de langage que les groupes marginalisés utilisent pour s’autonomiser et se défendre ». Les catégories d’exemples produites devraient permettre d’améliorer les modèles, estiment cependant les producteurs d’outils testés.

Mais peut-être que la solution est à chercher non pas dans l’amélioration de la modération automatisée, mais dans l’amélioration des interfaces elles-mêmes ? C’est ce que montrent des chercheurs de l’université de Washington (voir l’étude) qui ont travaillé à trouver des idées de conception pour rendre les conflits sur Facebook plus « constructifs ». « Même si les espaces en ligne sont souvent décrits comme toxiques et polarisants, les gens souhaitent avoir des conversations difficiles en ligne », explique Amanda Baughan (@amanda_Baughan). Aujourd’hui, les désaccords produisent surtout des engueulades et se terminent bien souvent par des blocages ou suppressions mutuelles. Parmi les story-boards de propositions, les interfaces pourraient proposer de passer en conversation privée quand les propos s’enveniment – ce qui se passe assez souvent – ou encore de faire remonter les commentaires les plus constructifs (ce que les likes et les modalités d’affichages par importance, permettent souvent de faire déjà), ou encore d’ouvrir un écran d’alerte quand les réponses qu’on s’apprête à poster détectent des mots violents ou encore des modalités qui mettent les réponses en attente pour permettre à leurs auteurs d’y réfléchir, comme pour ralentir les conversations.

Pas sûr que ces solutions suffisent pourtant…

Dans Wired, la juriste Evelyn Douek (@evelyndouek) dresse un constat similaire : à mesure qu’elle s’étend, la modération à un coût. La modération de contenu est en train de dévorer les plateformes prévient-elle – peut-être un peu rapidement, vu les profits qu’elles engrangent. Les règlements et politiques à destination des utilisateurs explosent et se complexifient alors que les demandes de régulation par les pouvoirs publics se précisent et s’intensifient aussi. L’élection américaine et les urgences de santé publique ont poussé les mesures à une intensification inédite. Pour la chercheuse, l’époque où Facebook et Twitter se lavaient les mains des problèmes qu’ils généraient, en pensant que les internautes se gouverneraient eux-mêmes, est certainement loin derrière eux. Mais penser que l’on va résoudre tous les problèmes en effaçant chaque jour un peu plus de contenus des réseaux sociaux tient d’une réponse simpliste et inefficace à une question complexe. « Une plus grande modération des contenus ne signifie pas une meilleure modération ». Chaque étape nécessite des compromis et ce n’est pas parce qu’on les ignore qu’ils n’existent pas.

Les plateformes ont agi assez rapidement pour répondre à la désinformation autour de la pandémie et plutôt efficacement estime la juriste, tant et si bien que beaucoup se demandent maintenant pourquoi elles ne sont pas plus efficaces pour combattre d’autres types de fausses informations. Mais pour elles, la désinformation sur le virus était différente, se justifient-elles, notamment parce qu’elles pouvaient se référer à des autorités claires, comme l’Organisation mondiale de la santé (OMS). Cette ligne claire n’a pas tenu longtemps pourtant et elles n’ont cessé d’étendre les garde-fous. Elles ont collé des étiquettes d’information un peu partout, sans qu’on puisse dire qu’elles aient été efficaces. Suite à la crise du Capitole, elles ont même censuré plus que jamais négationnistes et conspirationnistes… jusqu’au président des États-Unis lui-même.

Pourtant, pour beaucoup de commentateurs, les efforts des plateformes restent insuffisants. Les appels à la modération demeurent forts et réguliers et les législateurs n’ont pas cessé leurs menaces. À l’heure actuelle, il n’y a pratiquement pas un seul pays dans le monde qui ne prenne de mesure pour réglementer les médias sociaux d’une manière ou d’une autre. Et les plateformes ne cessent de préciser leurs règles, d’en produire de nouvelles et surtout de développer un empilement de boîtes de modération – et de spécifications pour leurs éboueurs du web – les unes sur les autres (pédocriminalité, terrorisme, nudité…). Reste que depuis que Trump a été réduit au silence et que nombre de complotistes ont été chassés ou sont partis ailleurs, l’angoisse s’est un peu calmée – à croire qu’une grande partie de l’angoisse tenait peut-être plus de la politique que des plateformes elles-mêmes, souligne Douek. Mais l’impressionnante démonstration de pouvoir qu’elles ont montré a laissé des traces. L’idée qu’il existerait une catégorie claire de « fausses informations » a également pris du plomb dans l’aile.

La semaine dernière par exemple, Facebook est revenu sur une de ses décisions et a déclaré qu’il ne supprimerait plus les publications affirmant que le Covid-19 est d’origine humaine ou fabriqué. Pourtant, il n’y pas si longtemps, le New York Times lui-même et toute la presse avec lui, citait cette théorie « sans fondement » comme une preuve que les médias sociaux avaient contribué à une « crise de la réalité ». Au début de la pandémie jusqu’en juin 2020, FB a interdit les publicités pour les masques, jusqu’à ce que l’OMS les recommande. Les médias sociaux semblent s’être surtout beaucoup adaptés à la fois à une science qui s’est faite en marchant et aux erreurs commises par les autorités, sans parvenir à délimiter les limites raisonnables du débat public.

Comme le rappelle la maxime, « la science n’est pas la vérité, mais sa recherche. Quand elle change d’opinion, elle ne nous ment pas. Elle nous dit qu’elle a appris davantage » (voir notamment nos articles : « Naviguer dans les ruines de la réalité consensuelle » et « Une pandémie de données ne soigne pas de la vérité »).

Enfin, les appels à toujours plus de mesures de répression ont également montré qu’elles pouvaient avoir des coûts géopolitiques forts, rappelle Douek. Les gouvernements autoritaires et répressifs ont pu faire référence à la rhétorique des démocraties libérales pour justifier leur propre censure, à l’image du gouvernement indien tentant de faire pression pour que les plateformes limitent les critiques sur sa gestion de la crise Covid au détriment de la liberté d’expression. Pour l’instant, les gouvernements occidentaux ont refusé de regarder ce problème, laissant les plateformes se débrouiller seules face à la montée de l’autoritarisme numérique des gouvernements illibéraux. Le problème, c’est que les plateformes sont en train de perdre ce combat, estime Douek, à l’image de la suspension de Twitter par les autorités nigérianes suite à la censure d’un tweet de leur président. On le voit, la régulation des plateformes ne peut pas conduire à « augmenter la censure ici et la réduire plus loin ».

Enfin, souligne Douek, il reste encore d’autres compromis à faire. « Comme la modération du contenu à très grande échelle ne sera jamais parfaite, la question est toujours de savoir de quel côté de la ligne il faut se tromper lorsqu’on applique des règles ». Le risque est bien sûr de multiplier les règles strictes et la sévérité de leur application notamment avec une modération de plus en plus automatisée. « Ces outils sont brutaux et stupides » : ils ne peuvent pas évaluer le contexte ou faire la différence entre un contenu glorifiant la violence ou enregistrant des preuves de violations des droits de l’homme, par exemple. Les conséquences de ce type d’approche ont été mises en évidence lors de la récente crise du conflit israélo-palestinien de ces dernières semaines, Facebook ayant supprimé à plusieurs reprises des contenus importants provenant de Palestiniens ou les concernant (voir notamment, l’analyse de Mathew Ingram pour la Columbia Journalism Review ou celle du Washington Post qui expliquent que les activistes palestiniens reçoivent le même traitement que les activistes Noirs américains : ils sont bloqués !). Ces cas ne sont pas isolés. Et ces différences de traitements ont toujours tendance à toucher de manière disproportionnée les communautés déjà marginalisées et vulnérables (comme le pointait le travail de la sociologue Jen Schradie).

Pour Douek, le retrait de contenu ne résout pas les problèmes sociaux et politiques sous-jacents, pas plus que la disparition des comptes de Trump n’a fait s’évaporer son emprise sur le parti républicain – même si le monde en ligne parle beaucoup moins de lui (selon une récente étude relayée par le New York Times cependant, depuis son éviction, certains de ses messages sont parvenus à recevoir beaucoup d’attention notamment parce que ses plus fervents partisans continuent de les diffuser, estime le Global Disinformation Index. Malgré ces relais, leur diffusion est tout de même moindre, soulignant en creux l’énorme pouvoir des sociétés de médias sociaux. Le bannissement de Trump ne résout pas la désinformation, mais perturbe ses réseaux et atténue l’influence des individus les plus nuisibles qui se sont réfugiés ailleurs. En tout cas, les réseaux ont retrouvé un certain calme et Trump ne façonne plus seul l’agenda politique de son pays et du monde.

À l’heure où beaucoup d’argent se déverse dans la création de plateformes alternatives, notamment extrêmistes ou complotistes, bien plus permissives, la censure automatisée des contenus des plateformes grands publics risque de s’avérer encore moins efficaces qu’elles ne l’ont été, surtout que ces « petits » réseaux risquent d’être beaucoup plus laxistes dans leur modération.

« Supprimer les contenus ne supprime pas la cause qui les a fait naître », conclut Douek. Il est tentant de penser que nous pouvons modérer la société, mais il va être bien plus difficile de résoudre les problèmes sociaux et politiques dont ils sont l’expression. Les plateformes ne seront jamais en mesure de compenser les défaillances de nos sociétés. Cela ne veut pas dire que les plateformes ne doivent pas continuer à réfléchir à la manière d’atténuer leurs effets néfastes, bien sûr. Toute expérimentation qui n’est pas binaire (laisser ou supprimer) notamment est bonne à prendre, par exemple le fait que Twitter incite ses utilisateurs à lire un article avant de le tweeter, ou le fait de limiter le nombre de fois où l’on peut transférer un contenu depuis une même plateforme (comme le propose WhatsApp). D’innombrables ajustements peuvent être tentés sans que les plateformes ne décident de la vérité à notre place.

Quelles transparences ? Quelles gouvernances ?

On l’a vu avec ces exemples, notamment celui du conseil de surveillance et des politiques de modération de FB comme dans le cas du GIFCT, les questions de transparence et de contrôle démocratique demeurent au cœur des enjeux de régulation de la modération. Reste à savoir comment organiser, très concrètement, le contrôle démocratique d’instances qui risquent de se démultiplier à l’avenir. Reste à savoir aussi de quelle transparence nous avons besoin.

C’est la question que posait Daphne Keller sur son blog. Alors qu’elle écrit depuis des années sur le sujet, elle reconnaissait, avec humilité qu’elle ne savait pas très bien quelle transparence elle appelait de ses vœux. Beaucoup de gens estiment que plus de transparence est un mieux, mais personne n’a une liste claire de ce qui devrait être transparent. « Quelles informations sont essentielles ? Lesquelles faut-il vraiment rendre transparentes ? Quels sont les compromis à faire ? » Cette imprécision est en passe de devenir un problème, alors que nombre d’autorités s’apprêtent à produire des exigences de transparence auprès des plateformes. Or, « ce que la loi n’exigera pas ne sera peut-être jamais plus rendu accessible », reconnait la juriste. Exiger une transparence totale n’est peut-être pas pleinement judicieux d’autant plus que cela a un coût, explique la juriste à la suite d’Evelyn Douek. « Des obligations de transparence très prescriptives pourraient également entraîner une normalisation et une homogénéité de facto des règles des plateformes, des pratiques de modération et des fonctionnalités. » Ce ne sont bien sûr pas des raisons d’y renoncer, mais de pointer que nous devons être plus précis sur ce que la transparence signifie vraiment et concrètement.

Keller a dressé une petite liste « préliminaire et très provisoire » des problèmes que posent les rapports de transparence existants. Pour la chercheuse, par exemple, il est essentiel de savoir avec une grande précision le nombre de demandes d’accès à des données qu’une plateforme reçoit des autorités, comment elle y répond, quel contrôle judiciaire elles produisent. Elle rappelle également que les chiffres ne sont pas tout. Pour comprendre les erreurs ou les préjugés des plateformes sur leurs propres données, il est nécessaire que les chercheurs indépendants puissent voir le contenu impliqué dans les décisions de retrait par exemple.

En 2009, nous nous interrogions avec Lawrence Lessig sur les limites de la transparence. Il nous disait déjà que la transparence nue n’était pas un remède magique. Pour ma part, il me semble que la transparence se rapproche des mêmes problématiques que celles que nous évoquions à propos de l’explicabilité. Plus qu’une liste d’éléments qui doivent être rendus transparents ou d’exigences précises, la transparence relève d’échelles, d’impacts et de multimodalités de niveaux de transparence. Devrons-nous demain définir des transparences « contrastables et actionnables », « sélectives, mais loyales », « techniques et/ou sociales »…, « jouables », selon des échelles allant de « fortes, faibles à inexistantes » ? La transparence nécessite d’être évaluée et appréciée dans toutes ses dimensions, comme une matrice qui permet de mesurer son étendue, sa profondeur et bien sûr ses effets. Ce qui est sûr, c’est que pas plus que les explications, la transparence n’est en rien réductible à une technique, à des listes, mais relève profondément d’un dialogue entre un système et la société. Plus que d’obligations, de droits et de devoirs (de checks-lists ou de systèmes d’évaluation d’impact), c’est bien ce dialogue qu’il va falloir nourrir pour parvenir à dépasser une vision bien trop binaire de la modération…

Dans un article de recherche, Evelyn Douek montrait d’ailleurs très bien que les plateformes ont une politique plus complexe que le mode binaire entre supprimer et laisser faire. Les plateformes ont mis en place nombre de mesures intermédiaires, allant de l’étiquetage à la vérification des faits en passant par les écrans d’avertissements… Des mesures qu’il faut certainement continuer à diversifier, mais dont il est nécessaire aussi d’évaluer les effets.

Pour cela, il est plus que jamais nécessaire qu’elles s’ouvrent aux contrôles indépendants et qu’on évalue leur transparence dans leur complexité, d’une manière dynamique. Pour le dire autrement, la transparence et la gouvernance, comme l’explicabilité, tiennent de pratiques qui doivent évoluer. Ce sont des objectifs vers lesquels les systèmes doivent tendre. Pour cela, il y a certes des modalités dynamiques (publications ouvertes, accès ouvert à la recherche, modalités de contribution des utilisateurs, ouverture de la gouvernance…) qui dépendent chacune d’échelles. Pour évaluer ces paramètres, nous aurions besoin d’une forme de « nutriscore » qui puisse informer de la qualité des explications, de la transparence, de la gouvernance… et qui permettrait de pointer un idéal auquel tendre !

Hubert Guillaud

PS : signalons les très intéressantes études de cas de modération du groupe de réflexion The Copia Institute (@copiainstitute) – découvertes au détour de nos lectures -, qui soulignent très bien par des exemples concrets la difficulté de la modération et montrent les compromis inhérents à toute décision.