La méthodologie HUDERIA (Human Rights, Democracy and Rule of Law Impact Assessment), conçue pour protéger et promouvoir les droits de l’homme, la démocratie et l’État de droit, fournit des orientations et une approche structurée pour la réalisation d’évaluations des risques et d’impact des systèmes d’IA. Cet outil vise à mettre en place des garde-fous essentiels contre les risques apportés par les technologies d’IA de plus en plus présentes dans nos sociétés, notamment en évaluant leur impact tout au long de leur cycle de vie.

Une évaluation rigoureuse du cycle de vie des systèmes d’IA

HUDERIA est le fruit de travaux entamés en 2019 par le Comité ad hoc sur l’intelligence artificielle (CAHAI) et s’inscrit dans une perspective de prévention et d’atténuation des risques inhérents aux systèmes d’IA. Elle propose une méthodologie rigoureuse, bien que juridiquement non-contraignante, et flexible pouvant être appliquée tant par des acteurs publics que privés pour identifier et traiter les risques en matière de droits humains, de démocratie et d’État de droit. La méthodologie repose sur une analyse contextuelle des risques (COBRA) visant à cartographier les impacts possibles et à fournir une vision globale du contexte socio-technique des IA.

Le processus d’engagement des parties prenantes

HUDERIA intègre un processus de consultation et d’engagement des parties prenantes (Stakeholder Engagement Process, SEP) permettant de contextualiser et corroborer les risques potentiels à partir des retours des personnes affectées. L’enjeu est de faire dialoguer à chaque étape les concepteurs, les régulateurs, mais aussi les utilisateurs et les groupes potentiellement vulnérables face aux IA. Ce processus participatif est essentiel pour s’assurer que les risques identifiés reflètent bien les réalités socio-économiques et technologiques.

Une évaluation des risques adaptée et différenciée

La méthodologie prévoit une évaluation des risques et des impacts (“Risk and Impact Assessment”), permettant d’évaluer le degré de probabilité et de sévérité des impacts sur les droits fondamentaux. Ces évaluations sont adaptées aux contextes et aux niveaux de risques associés aux différents systèmes d’IA. Par exemple, un système utilisé dans un contexte sensible comme le recrutement de personnel fera l’objet d’une évaluation plus rigoureuse pour détecter d’éventuels biais discriminatoires.

HUDERIA ne s’arrête pas à l’évaluation. Elle fournit également des recommandations pratiques pour la mise en place d’un plan d’atténuation des risques. Ce plan peut inclure des mesures comme l’ajustement des algorithmes pour corriger des biais ou encore l’implémentation d’une surveillance humaine des systèmes d’IA lorsque cela est nécessaire.

Une réévaluation itérative pour une IA éthique et sûre

HUDERIA suit une approche dynamique et itérative qui impose une réévaluation régulière des systèmes d’IA afin de s’assurer de leur sécurité et de leur éthique, même lorsque le contexte technologique ou sociétal évolue. Cette flexibilité est essentielle à la gestion des risques émergents et garantit que les systèmes d’IA ne deviennent pas obsolètes face aux nouvelles menaces ou contextes d’utilisation.

Adoptée par le Comité sur l’intelligence artificielle du Conseil de l’Europe (CAI, qui a succédé au CAHAI en 2022), lors de sa 12e réunion plénière tenue à Strasbourg en novembre 2024, la méthodologie HUDERIA sera complétée d’ici 2025 par un modèle HUDERIA. Ce dernier fournira des ressources et outils de soutien supplémentaires, rendant la méthodologie encore plus opérationnelle et adaptée aux besoins divers des utilisateurs.

Hub France IA a récemment publié le livrable “Opérationnaliser la gestion des risques des systèmes d’intelligence artificielle” élaboré par son groupe de travail Banque et Auditabilité. Regroupant des experts en IA, de la gestion des risques et de l’audit de trois grandes banques françaises : BNP Paribas, La Banque Postale et Société Générale, ce groupe travaille depuis plusieurs années sur la gestion des risques liés à l’IA.

Un contexte réglementaire en évolution

L’entrée en vigueur de l’AI Act, prévue pour 2026, et l’essor rapide de l’IA générative, ont poussé le groupe de travail à répondre à une question essentielle : comment doter la gestion des risques d’outils efficaces pour réduire les coûts de mise en conformité à l’AI Act ?

La mise en conformité exige de prendre en compte l’intégralité du processus de développement d’un système d’IA, allant de la phase d’idéation, de conception, de développement et de mise en production, jusqu’au suivi continu. Les coûts de mise en conformité sont importants : d’après une enquête réalisée par le Hub France IA et ses partenaires européens en décembre 2022, plus de 50% des entreprises interrogées ont estimé ces coûts entre 160 000 et 330 000 euros.

Le groupe de travail fournit dans ce livrable des conseils pour mettre en place les outils nécessaires pour satisfaire à un audit de certification en conformité avec l’AI Act : documents, fichiers Excel, logiciels, outils de gestion de flux de travail… Ces outils pourront également servir de preuves auprès des régulateurs.

Une démarche méthodologique rigoureuse

En s’appuyant sur un livre blanc qu’il a publié en 2022, le groupe de travail décrit le cycle de développement d’un système d’IA dans son intégralité, associant à chaque étape un outil de conformité spécifique. Suite à l’adoption de l’AI Act par le Conseil de l’Union européenne en mai dernier, une analyse approfondie s’avère nécessaire pour aligner les outils proposés avec les attentes de conformité. Un prochain guide viendra détailler cette correspondance.

Le travail présenté dans le livrable ne vise pas à être exhaustif mais souhaite apporter un
cadre méthodologique et de bonnes pratiques.

Ses principaux enseignements incluent :

• La disponibilité de nombreux outils d’analyse des risques tout au long du processus de mise en œuvre des systèmes d’IA ;
• Une couverture partielle des solutions logicielles pour l’opérationnalisation du AI Act ;
• L’émergence de nouveaux risques liés à l’IA générative, accompagnée de nombreuses incertitudes juridiques.

Retrouver le livrable ici.

C’est sans vote que le projet de résolution présenté par les États-Unis visant à promouvoir des systèmes d’intelligence artificielle “sûrs, sécurisés et dignes de confiance”, bénéficiant au développement durable pour tous, a été adopté jeudi dernier par l’Assemblée générale des Nations Unies. 

Coparrainée et soutenue par 124 autres États membres, la résolution avait été présentée la semaine précédente à la presse internationale par l’ambassadrice représentante permanente des Etats Unis auprès de l’ONU, Linda Thomas Greenfield et son homologue marocain Omar Hilale.

Elle appelle les États membres à promouvoir des systèmes d’IA sûrs, sécurisés et fiables pour relever les plus grands défis mondiaux, notamment ceux liés à la pauvreté, la sécurité alimentaire, la santé, l’éducation, l’énergie, et au changement climatique.

Il y a un peu plus d’un an, Volker Türk le Haut-Commissaire de l’ONU aux droits de l’Homme les avait alertés, réclamant la mise en place de garde-fous efficaces​ :

“Les récentes avancées en matière d’intelligence artificielle représentent une grave menace pour les droits humains“.

Cette résolution est présentée comme historique puisque c’est la première fois que les 193 États membres de l’ONU s’entendent pour que les systèmes d’IA soient développés et utilisés dans le respect, la protection et la promotion des droits de l’homme et ce, à l’unanimité.

L’Assemblée générale a également reconnu le potentiel des systèmes d’IA pour accélérer et permettre les progrès vers la réalisation des 17 objectifs de développement durable (ODD).

Les mêmes droits pour tous, en ligne et hors ligne

L’Assemblée générale a appelé tous les États membres et parties prenantes “à s’abstenir ou à cesser d’utiliser des systèmes d’intelligence artificielle qui sont impossibles à exploiter conformément au droit international des droits humains ou qui présentent des risques indus pour la jouissance des droits humains”.

Elle affirme :

“Les mêmes droits dont jouissent les personnes hors ligne doivent également être protégés en ligne, y compris tout au long du cycle de vie des systèmes d’intelligence artificielle”.

L’Assemblée a exhorté tous les États, le secteur privé, la société civile, les organismes de recherche et les médias à élaborer et à soutenir des approches et des cadres de réglementation et de gouvernance liés à une utilisation sûre, sécurisée et fiable de l’IA. Elle les a également incités à coopérer avec les pays en développement et à les soutenir afin qu’ils puissent bénéficier d’un accès inclusif et équitable, réduire la fracture numérique et accroître la culture numérique.

Linda Thomas Greenfield espère que l’adoption de la résolution sera utile à d’autres secteurs, elle a notamment exprimé le souhait que “le dialogue inclusif et constructif qui a conduit à cette résolution serve de modèle pour les conversations futures sur les défis de l’IA dans d’autres domaines, par exemple en ce qui concerne la paix et la sécurité et l’utilisation militaire responsable de l’autonomie de l’IA”.

Concluant :

“Aujourd’hui, les 193 membres de l’Assemblée générale des Nations Unies ont parlé d’une seule voix et ont choisi ensemble de gouverner l’intelligence artificielle plutôt que de la laisser nous gouverner”.