Pour le blog du LPE Project, Vincent Joralemon, directeur du Centre de droit et de politique des sciences de la vie de Berkeley, revient sur les récentes condamnation de Meta et Youtube pour négligence de conception de leurs systèmes pour avoir trompé les utilisateurs sur la sécurité de ses plateformes (voir notre article). « Ce qui m’a frappé en lisant l’histoire de Kaley, c’est la banalité apparente de son expérience ».

L’une des plaignantes, Kaley, 20 ans, a grandi dans un quartier très populaire de la Californie. Ses parents ont divorcé quand elle avait 3 ans. Son père était violent. Kaley a commencé à utilisé Youtube à 6 ans et Instagram à 9 ans. Elle passait jusqu’à 16 heures par jour sur Instagram. Mais le net n’était pas pour elle qu’un refuge. « La plupart d’entre nous avons déjà ressenti l’attrait irrésistible du défilement dans les moments les plus difficiles, cherchant notre fil d’actualité précisément au moment où nous sommes le moins capables de nous en détacher. Mais pour ceux qui traversent les épreuves les plus durement éprouvées – instabilité familiale, traumatisme, pauvreté – le défilement n’est pas un réconfort passager. C’est le seul refuge disponible, ce qui rend ces utilisateurs particulièrement vulnérables à la dépendance. » Or, estime Joralemon, le procès a mis en lumière un aspect largement négligé par les analyses juridiques : « les préjudices liés à la conception addictive des plateformes sont structurés par classe sociale ».

Le procès a permis de dévoiler que les recherches internes de Meta montraient que le contrôle parental et les règles familiales n’avaient aucun effet sur l’utilisation compulsive des plateformes par les adolescents… et que les enfants ayant vécu des événements traumatisants étaient les plus susceptibles de développer une dépendance. Tout le long du procès, les avocats de Meta ont passé des semaines à blâmer la famille de Kaley, arguant que sa dépression et son anxiété étaient dues à une enfance difficile et non à la conception de la plateforme. Certes, mais la défense de celle-ci a montré que même en installant tous les logiciels de blocages possibles, la mère de Kaley ne pouvait rien contre la dépendance de sa fille. Et le jury a estimé que Meta comme Youtube avaient trompé volontairement les utilisateurs. 

Derrière le préjudice reconnu, pointe Joralemon, il reste un critère qui lui l’est moins : « les effets néfastes de la conception addictive des plateformes pèsent plus lourdement sur les enfants déjà les plus vulnérables – que ce soit en raison de l’instabilité familiale, de traumatismes, de difficultés économiques, ou (comme c’est souvent le cas) des trois. » C’est-à-dire que ces systèmes ont des impacts sociaux plus forts sur certains publics que sur d’autres.

« Les enquêtes de Common Sense Media montrent que les préadolescents issus de familles à faibles revenus passent environ trois heures de plus par jour devant les écrans de divertissement que leurs pairs issus de familles plus aisées. Chez les enfants de moins de huit ans, le temps passé devant les écrans par les enfants issus de familles à faibles revenus est plus du double de celui de leurs pairs plus aisés. Lorsque les familles à faibles revenus se connectent à Internet, environ 28 % d’entre elles sont dépendantes de leur smartphone (contre 4 % des adultes les plus aisés). Il existe donc une raison valable pour laquelle les parents à faibles revenus sont 50 % plus susceptibles d’être « extrêmement ou très inquiets » pour la santé mentale de leurs enfants que les parents à revenus élevés. Plus inquiétant encore, le Rapport mondial sur le bonheur 2026, basé sur un sondage auprès de 330 000 adolescents dans 43 pays, confirme que les adolescents issus de milieux socio-économiques défavorisés sont les plus touchés par les comportements numériques compulsifs. »

« Ce qui semble être un problème d’éducation parentale est en réalité un problème d’économie politique », explique Joralemon. « L’écart en matière de temps passé devant les écrans est lié à la réduction des financements alloués aux activités périscolaires, aux horaires de travail atypiques des parents à faibles revenus. Selon une étude de l’hôpital pour enfants Lurie, un parent sur quatre utilise les écrans faute de moyens pour faire garder ses enfants. Un document interne de YouTube, présenté lors du procès, décrivait la plateforme comme une « nounou numérique à court terme ». » Et le cadre politique mis en place pour remédier à ces problèmes, fondé presque entièrement sur la responsabilité parentale, est intrinsèquement régressif, appuie le chercheur.

Mais si « la dépendance numérique est un problème de santé publique, quelle est la solution ? », interrogeait Joralemon dans un article pour la revue Health Affairs. Il y rappelle que la compulsion où l’addiction numérique doit être appréhendée comme un problème de santé publique, non pas dû à une défaillance individuelle, mais à des produits conçus à des fins commerciales. Que la réglementation en la matière devrait donc s’inspirer de la réglementation du tabac qui en restreint l’accès et dénormalise son usage ; de la réglementation des opioïdes qui contrôle leur disponibilité par le biais d’une prescription supervisée ; et de la réglementation des jeux d’argent qui impose des mesures de protection dès la conception afin d’atténuer le potentiel addictif. Bref, s’appuyer sur des normes de conception des produits, des obligations d’avertissement et de divulgation, des restrictions publicitaires, des contrôles d’accès basés sur l’âge, des obligations de surveillance et des mécanismes de financement pour le traitement et la prévention. Or « les plateformes numériques fonctionnent sans contrôle comparable. Il n’existe aucune obligation générale de surveiller les signes de dépendance, aucune obligation d’interrompre les comportements à risque, ni aucune obligation de repenser les fonctionnalités connues pour favoriser une utilisation compulsive ».

Si les premiers litiges liés à la compulsion à arriver devant les tribunaux américains se concentrent sur les mineurs, les préjudices sous-jacents ne se limitent pas aux adolescents, mais touchent notamment les personnes âgées, ainsi que les individus souffrant de dépression, d’anxiété ou de solitude. Dans le cas des opioïdes comme du tabac, les actions en justice privées se sont révélées être le principal catalyseur, imposant la divulgation de documents et la surveillance des comportements, comme c’est le cas dans les régulations des jeux d’argent. « Le statu quo – qui consiste à considérer les technologies addictives algorithmiques comme fondamentalement différentes des autres produits conçus pour exploiter les vulnérabilités humaines – devient scientifiquement et éthiquement intenable. » 

Pour Joralemon, il faut aller plus loin encore, conclut-il sur le blog du LPE Project. « Une réponse adéquate doit associer les obligations des plateformes à des investissements dans les biens communs : des services de garde d’enfants abordables, des activités périscolaires, des horaires de travail stables et des espaces publics sûrs. Réglementer le produit est nécessaire. Mais construire un monde où les enfants n’auraient pas besoin de ces produits l’est tout autant ! »

Le design a toujours été en concurrence avec l’IA, explique la designer Nolwenn Maudet dans un article pour l’Institut des cultures en réseau. « Après deux décennies de riches développements dans le design d’interaction, notamment portés par la conception des interactions tactiles nécessaires aux smartphones, la tendance s’est inversée. Le retour en grâce de l’IA a coïncidé, au cours de la dernière décennie, avec la standardisation et l’appauvrissement progressifs du design d’interfaces, ce qui est, selon moi, loin d’être une coïncidence. » Pour la designer, cette rivalité découle de deux manières très différentes de penser la relation entre ordinateurs et humains. Du côté du design, l’enjeu est la capacité des humains à prendre le contrôle et à piloter les ordinateurs, du côté des développeurs d’IA, l’enjeu est plutôt que les ordinateurs deviennent suffisamment intelligents pour être autonomes afin que les humains puissent leur confier des tâches. « Ainsi, même si les promoteurs de l’IA ne le disent pas en ces termes, leur vision du futur, ce qu’ils visent, est la mort du design d’interaction, car vouloir tout anticiper revient finalement à tout automatiser, à éliminer toute interaction ». Pour Maudet, reprenant les propos de Jonathan Grudin, on pourrait dire que l’Interaction homme-machine s’est développée dans l’ombre de l’IA : « L’IHM a prospéré pendant les hivers de l’IA et a progressé plus lentement lorsque l’IA était en faveur. »

Pourquoi l’IA est-elle si attractive ?

Pourquoi l’IA est-elle si attractive ? « Les causes sont complexes et tiennent largement à des enjeux politiques et économiques, car les techniques d’IA modernes reposent sur le modèle économique lucratif de l’exploration et de la monétisation des données. Un autre problème réside dans la distinction claire et l’absence de lien entre l’intelligence artificielle et les métiers de l’interface au sein des entreprises. Enfin, le rôle de l’imaginaire ne peut être négligé. En effet, il est difficile pour le design de faire rêver comme l’IA le fait. Créer des entités intelligentes et autonomes sur le terrain d’un côté, optimiser et faciliter l’utilisation d’un outil complexe de l’autre ». La concurrence est rude entre « la recherche sur les défis perceptivo-moteurs et cognitifs des interfaces graphiques d’un côté, les machines exotiques et les promesses glamour de l’IA de l’autre. Les interfaces graphiques étaient cool, mais l’IA a dominé les financements et l’attention médiatique, et a prospéré », explique encore Grudin. « Les interfaces ne sont jamais une fin en soi, mais simplement un moyen de permettre aux humains d’accomplir des tâches. En tant qu’outils, elles semblent inoffensives. D’autant plus que l’interface repose sur un paradoxe : elle passe inaperçue alors qu’elle est sous nos yeux. »

« Les actions et les volontés explicitées par nos interactions sont perçues comme subjectives, tandis que les données enregistrées par des capteurs et à notre insu apparaissent plus objectives et donc vraies, un présupposé largement erroné qui persiste », explique Nolwenn Maudet en faisant référence au livre de Melanie Feinberg, Everyday Adventures with Unruly Data (MIT Press, 2022, non traduit) qui défend une approche humaine des données d’abord et avant tout qu’elles restent ambiguës, complexes et incertaines. Pour Maudet, l’IA tend à privilégier les interactions basées sur des signaux non explicites ou entièrement volontaires de la part des utilisateurs : le regard plutôt que la main, les expressions faciales plutôt que les mots. Par exemple, les thermostats intelligents utilisent des capteurs pour déterminer les habitudes d’occupation et modifier la température en fonction des comportements, ce qui traduit combien les ingénieurs de l’IA sont fondamentalement méfiants à l’égard des actions humaines, quand les designers, eux, vont avoir tendance à faciliter la configuration des paramètres par l’utilisateur. 

Le design reste pourtant la condition de succès de l’IA

Pour la designer, l’engouement actuel pour l’IA ne devrait pourtant pas nous faire oublier que « l’IA a toujours besoin du design, des interfaces et des interactions, même si elle feint de les ignorer ». Le design des interfaces reste la condition de succès des systèmes prédictifs et des systèmes de recommandation. L’un des grands succès de TikTok, repose bien plus sur l’effet hypnotique du défilement pour proposer un zapping perpétuel que sur la qualité de ses recommandations. L’IA ne pourrait exister ni fonctionner sans interfaces, même si elle feint généralement de les ignorer. L’IA utilise souvent des proxys pour déterminer des comportements, comme d’arrêter de vous recommander une série parce que vous avez interrompu l’épisode, qu’importe si c’était parce que vous aviez quelque chose de plus intéressant à faire. Face à des interprétations algorithmiques qu’ils ne maîtrisent pas, les utilisateurs sont alors contraints de trouver des parades souvent inefficaces pour tenter de dialoguer via une interface qui n’est pas conçue pour cela, comme quand ils likent toutes les publications d’un profil pour tenter de faire comprendre à l’algorithme qu’il doit continuer à vous les montrer. Ces tentatives de contournements montrent pourtant qu’on devrait permettre aux utilisateurs de « communiquer directement avec l’algorithme », c’est-à-dire de pouvoir plus facilement régler leurs préférences. Nous sommes confrontés à une « dissociation stérile entre interface et algorithme », « résultat de l’angle mort qui fait que toute interaction explicite avec l’IA est un échec de prédiction ». « Le fait que la logique de l’interface soit généralement déconnectée de celle de l’algorithme ne contribue pas à sa lisibilité ». 

Maudet prend l’exemple des algorithmes de reconnaissance faciale qui produisent des classements depuis un score de confiance rarement communiqué – voir notre édito sur ces enjeux. Or, publier ce score permettrait de suggérer de l’incertitude auprès de ceux qui y sont confrontés. Améliorer les IA et améliorer les interfaces nécessite une bien meilleure collaboration entre les concepteurs d’IA et les concepteurs d’interfaces, suggère pertinemment la designer, qui invite à interroger par exemple l’interface textuelle dialogique de l’IA générative, qui a tendance à anthropomorphiser le modèle, lui donnant l’apparence d’un locuteur humain sensible. Pour la designer Amelia Wattenberg, la pauvreté de ces interfaces de chat devient problématique. « La tâche d’apprendre ce qui fonctionne incombe toujours à l’utilisateur ». Les possibilités offertes à l’utilisateur de générer une image en étirant certaines de ses parties, nous montrent pourtant que d’autres interfaces que le seul prompt sont possibles. Mais cela invite les ingénieurs de l’IA à assumer l’importance des interfaces. 

Complexifier l’algorithme plutôt que proposer de meilleures interfaces

Les critiques de l’IA qui pointent ses limites ont souvent comme réponse de corriger et d’améliorer le modèle et de mieux corriger les données pour tenter d’éliminer ses biais… « sans remettre en question les interfaces par lesquelles l’IA existe et agit ». « L’amélioration consiste donc généralement à complexifier l’algorithme, afin qu’il prenne en compte et intègre des éléments jusque-là ignorés ou laissés de côté, ce qui se traduit presque inévitablement par de nouvelles données à collecter et à interpréter. On multiplie ainsi les entrées et les inférences, dans ce qui ressemble à une véritable fuite en avant. Et forcément sans fin, puisqu’il ne sera jamais possible de produire des anticipations parfaites ».

« Reprenons le cas des algorithmes de recommandation, fortement critiqués pour leur tendance à enfermer les individus dans ce qu’ils connaissent et consomment déjà. La réponse proposée est de chercher le bon dosage, par exemple 60 % de contenu déjà connu et 40 % de nouvelles découvertes. Ce mélange est nécessairement arbitraire et laissé à la seule discrétion des concepteurs d’IA, mettant l’utilisateur de côté. Mais si l’on cherchait à résoudre ce problème par le design, une réponse simpliste serait une interface offrant les deux options. Cela rendrait toutes les configurations possibles, nous forçant à nous poser la question : est-ce que je veux plus de ce que j’ai déjà écouté, ou est-ce que je veux m’ouvrir ? Le design d’interaction encourage alors la réflexivité, mais exige attention et choix, ce que l’IA cherche précisément à éviter, et auquel nous sommes souvent trop heureux d’échapper ». 

Et Maudet d’inviter le design à s’extraire de la logique éthique de l’IA qui cherche « à éviter toute action ou réflexion de la part de l’utilisateur » en corrigeant par l’automatisation ses erreurs et ses biais.

« Le développement des algorithmes s’est accompagné de la standardisation et de l’appauvrissement progressif des interactions et des interfaces qui les supportent ». Le design ne peut pas œuvrer à limiter la capacité d’action des utilisateurs, comme le lui commande désormais les développeurs d’IA. S’il œuvre à limiter la capacité d’action, alors il produit une conception impersonnelle et paralysante, comme l’a expliqué le designer Silvio Lorusso dans son article sur la condition de l’utilisateur. 

Mais Maudet tape plus fort encore : « il existe un paradoxe évident et peu questionné entre la personnalisation ultime promise par l’intelligence artificielle et l’homogénéisation universelle des interfaces imposée ces dernières années. Chaque flux est unique car un algorithme détermine son contenu. Et pourtant, le milliard d’utilisateurs d’Instagram ou de TikTok, où qu’ils soient et quelle que soit la raison pour laquelle ils utilisent l’application, ont tous la même interface sous les yeux et utilisent exactement les mêmes interactions pour la faire fonctionner. Il est ironique de constater que là où ces entreprises prétendent offrir une expérience personnalisée, jamais auparavant nous n’avons vu une telle homogénéité dans les interfaces : le monde entier défile sans fin derrière de simples fils de contenu. Le design, rallié à la lutte pour la moindre interaction, accentue cette logique, effaçant ou reléguant progressivement au second plan les paramètres qui permettaient souvent d’adapter le logiciel aux besoins individuels. Ce que nous avons perdu en termes d’adaptation explicite de nos interfaces a été remplacé par une adaptation automatisée, les algorithmes étant désormais chargés de compenser cette standardisation et de concrétiser le rêve d’une expérience sur mesure et personnalisée. Puisque toutes les interfaces et interactions se ressemblent, la différenciation incombe désormais également à l’algorithme, privant le design de la possibilité d’être un vecteur d’expérimentation et un créateur de valeur, y compris économique ».

Désormais, la solution aux problèmes d’utilisation consiste bien souvent à ajouter de l’IA, comme d’intégrer un chatbot « dans l’espoir qu’il oriente les visiteurs vers l’information recherchée, plutôt que de repenser la hiérarchie de l’information, l’arborescence du site et sa navigation ». 

Le risque est bien de mettre le design au service de l’IA plutôt que l’inverse. Pas étonnant alors que la réponse alternative et radicale, qui consiste à penser la personnalisation des interfaces sans algorithmes, gagne de l’audience, comme c’est le cas sur le Fediverse, de Peertube à Mastodon qui optent pour un retour à l’éditorialisation humaine. La généralisation de l’utilisation de modèle d’IA sur étagère et de bibliothèques de composants standardisés, réduisent les possibilités de personnalisation par le design d’interaction. Nous sommes en train de revenir à une informatique mainframe, dénonce Maudet, « ces ordinateurs puissants mais contrôlés, une architecture qui limite par essence le pouvoir d’action de ses utilisateurs ». Les designers doivent réaffirmer l’objectif de l’IHM : « mettre la puissance de l’ordinateur entre les mains des utilisateurs et d’accroître le potentiel humain plutôt que celui de la machine ». 

Hubert Guillaud

MAJ du 9/09/2025 : Nolwenn Maudet vient de mettre une version en français de son article (.pdf) sur son site.

MAJ du 10/09/2025 : L’anthropologue Sally Applin dresse le même constat dans un article pour Fast Company. Toutes les interfaces sont appelées à être remplacées par des chatbots, explique Applin. Nos logiciels sont remplacés par une fenêtre unique. Les chatbots sont présentés comme un guichet unique pour tout, la zone de texte est en train d’engloutir toutes les applications. Nos interfaces rétrécissent. Ce changement est une rupture radicale avec la conception d’interfaces telle qu’on l’a connaissait. Nous sommes passés de la conception d’outils facilitant la réalisation de tâches à l’extraction de modèles servant les objectifs de l’entreprise qui déploient les chatbots. “Nous avons cessé d’être perçus comme des personnes ayant des besoins, pour devenir la matière première d’indicateurs, de modèles et de domination du marché”. Qu’importe si les chatbots produisent des réponses incohérentes, c’est à nous de constamment affiner les requêtes pour obtenir quelque chose d’utile. “Là où nous utilisions autrefois des outils pour accomplir notre travail, nous le formons désormais à effectuer ce travail afin que nous puissions, à notre tour, terminer le nôtre”. “La ​​trajectoire actuelle du design vise à effacer complètement l’interface, la remplaçant par une conversation sous surveillance – une écoute mécanisée déguisée en dialogue”. “Il est injuste de dire que le design centré sur l’utilisateur a disparu – pour l’instant. Le secteur est toujours là, mais les utilisateurs cibles ont changé. Auparavant, les entreprises se concentraient sur les utilisateurs ; aujourd’hui, ce sont les LLM qui sont au cœur de leurs préoccupations”. Désormais, les chatbots sont devenus l’utilisateur.