Le premier des “12 jours d’OpenAI” a été marqué par l’annonce de ChatGPT Pro et du modèle OpenAI o1, jusqu’alors en preview. Le 20 décembre dernier, la start-up a clos la série en beauté en dévoilant la famille o3, encore en phase de test, doté de capacités de raisonnement nettement améliorées.

OpenAi o3 est la version améliorée de son prédécesseur o1.O2 étant le nom du plus grand opérateur de réseau mobile au Royaume-Uni, OpenAI a préféré faire l’impasse sur o2 pour éviter tout conflit.

Les capacités de raisonnement avancées d’OpenAI o1 et o3 reposent sur la chaîne de pensée (chain of thought) et l’apprentissage par renforcement (reinforcement learning ou RL). La chaîne de pensée est un processus où l’IA décompose un problème complexe en sous-problèmes plus simples avant de proposer une solution. Grâce à l’apprentissage par renforcement, les modèles perfectionnent cette chaîne de pensée et affinent leurs stratégies. Ils apprennent à identifier et à corriger leurs erreurs, à décomposer les étapes complexes en étapes plus simples, et à essayer une approche différente lorsque l’approche utilisée ne fonctionne pas.

La capacité à décomposer un problème en étapes et à tenter d’élaborer un jugement critique sur les réponses fournies afin de simuler une réflexion humaine est particulièrement utile dans les domaines nécessitant un raisonnement long et nuancé :

• Mathématiques complexes : Résolution de problèmes en plusieurs étapes, où une simple erreur de calcul ou de logique dans une étape peut compromettre le résultat final ;
• Programmation : Analyse des erreurs dans un code et élaboration d’une solution optimale après avoir envisagé plusieurs options ;
• Sciences : Compréhension et application de théories scientifiques complexent pour résoudre des questions à plusieurs facettes.

La famille OpenAI o3

La nouvelle famille compte deux modèles : o3 et o3-mini, une version plus rapide et plus économique, offrant des capacités similaires à une fraction du coût et de la latence du modèle o1-mini qui excelle, selon OpenAI dans les STEM, en particulier les mathématiques et le codage.

Les performances d’o3

Sur le benchmark « Abstract and Reasoning Corpus for Artificial General Intelligence » (ARC-AGI) développé par le créateur de Keras, la bibliothèque d’apprentissage profond open source, François Chollet, afin de mesurer l’efficacité de l’acquisition de compétences par l’IA sur des tâches inconnues, o3 a atteint les meilleurs scores : il a non seulement triplé les performances de o1 avec un score de 75.7% sur une évaluation semi-privée où les ressources de calcul sont limitées, mais atteint celui de 87,5 % sur le paramètre de calcul élevé.

François Chollet souligne toutefois qu’o3 pourrait voir son score potentiellement réduit à moins de 30 % lors du prochain benchmark ARC-AGI-2, prévu pour 2025, même à un calcul élevé (alors qu’un humain intelligent serait toujours capable de marquer plus de 95 % sans formation).

Sur d’autres benchmarks, comme GPQA Diamond en mathématiques, EpochAI’s Frontier Math Benchmark ou Codeforces, il a également démontré des performances impressionnantes.

Des modèles plus sûrs

OpenAI dit avoir développé pour ses modèles “o” une nouvelle technique de sécurité appelée “alignement délibératif” qui utilise les capacités de raisonnement des modèles pour mieux identifier les prompts, sûrs et non-sûrs, améliorant ainsi leur performance en matière de sécurité.

Vers l’IAG ?

Si le modèle rapproche un peu plus OpenAI de l’IAG, il peine encore à résoudre des tâches simples. Il est en outre coûteux, nécessitant des ressources de calcul substantielles pour atteindre ses performances optimales : environ 20 $ par tâche pour une faible puissance de calcul, plusieurs milliers par tâche pour des configurations à calcul élevé, ce qui peut entraver son déploiement à grande échelle.

OpenAI a ouvert un accès anticipé aux modèles o3 et o3-mini pour les chercheurs en sécurité afin de tester les modèles avant leur lancement public, prévu pour fin janvier pour o3-mini et peu après pour o3.

A l’occasion de All Things Open 2024, l’un des événements les plus importants de l’industrie open source en Amérique du Nord, l’Open Source Initiative (OSI) a annoncé la publication de la première définition officielle de l’IA open source, l’OSAID.

Des modèles comme Gemma de Google sont souvent qualifiés de modèles “ouverts”, ce qui peut prêter à confusion avec le terme “open source” lors de leur présentation. Bien que tous les modèles open source soient ouverts, tous les modèles ouverts ne répondent pas nécessairement aux critères de l’open source.

Pour l’OSI, un système d’IA open source met à disposition non seulement une structure fonctionnelle, mais aussi des éléments distincts comme les modèles, les poids et les paramètres sous des conditions qui garantissent quatre libertés essentielles :

1. Liberté d’utilisation : Utiliser le système d’IA pour n’importe quelle finalité, sans autorisation préalable.
2. Liberté d’inspection : Étudier le fonctionnement interne du système.
3. Liberté de modification : Modifier le système pour adapter ses réponses ou ses capacités à d’autres fins.
4. Liberté de partage : Distribuer le système ou ses versions modifiées à d’autres utilisateurs, à des fins diverses.

Les exigences techniques d’une IA open source

Un modèle d’IA est constitué de trois éléments : l’architecture, les paramètres ou poids, et le code d’inférence. Pour qu’un modèle soit considéré comme open source, chacun de ces éléments doit être accompagné des informations nécessaires à sa modification et à sa compréhension. Selon l’OSI, il est indispensable de fournir un accès à trois éléments clés :

• Informations sur les données : L’origine, le traitement et les caractéristiques des données d’entraînement doivent être documentés (provenance des données, méthodes de sélection, d’étiquetage et de filtrage) ;
• Code source complet : Le code utilisé pour entraîner et exécuter le modèle doit être disponible, incluant le traitement des données, les tests et la validation ;
• Paramètres et poids du modèle : Les poids et autres paramètres appris (points de contrôle d’entraînement, état final de l’optimiseur, etc.) doivent être accessibles pour permettre de reproduire ou de personnaliser le modèle.

Stefano Maffulli, directeur exécutif de l’OSI, commente :

“Arriver à la version 1.0 de l’OSAID aujourd’hui a été un parcours difficile, rempli de nouveaux défis pour la communauté OSI. Malgré ce processus délicat, rempli d’opinions divergentes et de frontières techniques inexplorées, et d’échanges houleux occasionnels, les résultats sont alignés sur les attentes énoncées au début de ce processus de deux ans. Il s’agit d’un point de départ pour un effort continu visant à s’engager auprès des communautés afin d’améliorer la définition au fil du temps, à mesure que nous développons avec la communauté Open Source plus large les connaissances nécessaires pour lire et appliquer OSAID v.1.0”.

Validation et soutien à l’OSAID

Dans le cadre de la validation et de la mise à l’essai de l’OSAID, les volontaires ont évalué si 13 systèmes d’IA offraient les libertés attendues. Les modèles ayant passé la phase de validation sont les suivants : Pythia (Eleuther AI), OLMo (AI2), Amber et CrystalCoder (LLM360) et T5 (Google). D’autres modèles, comme BLOOM (BigScience), Starcoder2 (BigCode) et Falcon (TII), pourraient passer s’ils modifiaient leurs licences ou conditions juridiques.

En revanche, certains modèles, tels que Llama2 (Meta), Grok (X/Twitter), Phi-2 (Microsoft) et Mixtral (Mistral), n’ont pas été validés en raison de composants manquants ou d’accords juridiques incompatibles avec les principes de l’open source.

L’Open Source Initiative précise que ces résultats doivent être considérés comme faisant partie du processus de définition et d’apprentissage, et ne constituent pas des certifications. Elle continuera de valider uniquement les documents juridiques et ne validera ni n’examinera les systèmes d’IA individuels, tout comme elle ne valide ni n’examine les projets logiciels.

Pour l’instant, une vingtaine d’entreprises ou organisations soutiennent cette version 1.0 de l’OCAID. Parmi elles, l’institut de recherche EleutherAI, Bloomberg, Mozilla, LLM360, CommonCrawl, Linagora Labs, Nextcloud, OpenInfra Foundation, SUSE, l’Eclipse Foundation, Mercado Libre…

Comme on peut s’y attendre, les entreprises dont les modèles ont été réfutés comme open source ont préféré s’abstenir… Un porte-parole de Meta a déclaré :

“Nous sommes d’accord avec notre partenaire l’OSI sur beaucoup de choses, mais nous, comme d’autres dans l’industrie, ne sommes pas d’accord avec leur nouvelle définition. Il n’existe pas de définition unique de l’IA open source, et la définir est un défi, car les définitions open source précédentes n’englobent pas les complexités des modèles d’IA qui évoluent rapidement aujourd’hui. Nous rendons Llama gratuit et librement disponible, et notre politique de licence et d’utilisation acceptable aide à assurer la sécurité des gens en mettant en place certaines restrictions. Nous continuerons à travailler avec l’OSI et d’autres groupes de l’industrie pour rendre l’IA plus accessible et gratuite de manière responsable, quelles que soient les définitions techniques”. 

Les solutions technologiques basées sur l’IA s’étant développées très rapidement au point d’envahir notre quotidien, on comprend aisément pourquoi certains marketeurs – y compris les plus avertis – éprouvent quelques réticences à les adopter pleinement.

Principal problème relevé par ces derniers : le fait que les outils d’IA fournissent des informations parfois erronées. Près d’un marketeur sur deux qui recourt à l’IA générative a en effet déjà reçu des informations générées par l’IA qu’il savait inexactes. Plus préoccupant, un marketeur sur trois seulement serait capable d’identifier avec certitude si des informations fournies sont inexactes.

La partialité de l’IA est également un sujet : les outils d’IA sont connus pour être parfois sources d’informations biaisées. Si les équipes qui créent les modèles d’IA ne sont pas assez diversifiées, si elles n’ont pas connu suffisamment d’expériences différentes, les modèles d’IA seront alimentés avec des informations à la partialité proportionnelle à ce manque de diversité.

En outre, les marketeurs ne veulent pas dépendre trop largement des technologies d’IA. Ils se sont efforcés d’affûter leurs compétences dans le domaine de l’e-mail marketing, la rédaction de contenus, l’analyse de données ou encore le SEO… Ils ne veulent pas cesser d’utiliser et perdre ces compétences durement acquises. Au passage, il apparaît indispensable de rappeler que l’IA n’a pas pour vocation de remplacer l’humain, elle l’aide à travailler plus rapidement, jusqu’à gagner 25 jours par an !

La question mérite donc d’être posée : comment mieux contrôler les informations fournies par ces outils et trouver l’équilibre entre IA et compétences humaines ?

S’assurer de l’exactitude du contenu généré par l’IA

L’IA est en théorie un merveilleux outil, qui peut néanmoins s’avérer assez imprévisible. La principale raison étant que les modèles qui alimentent la plupart, voire tous les outils d’IA générative, ne peuvent qu’extraire du contenu daté d’il y a deux ans ou plus. Difficile dans ce contexte de compter sur des informations fiables sur un sujet qui évolue très rapidement, au fil de l’actualité. Les sujets de niche sont ainsi également sources de réponses inexactes de la part de la machine. Les outils d’IA ne restituent que les informations dont ils ont été nourris. Ils ne peuvent les trouver par eux-mêmes.

Si l’on ne peut donc jamais être sûr de l’exactitude des résultats, il est possible, par contre, de choisir la façon dont on tire parti de l’IA générative. L’IA peut fournir des résultats assez précis lorsqu’il s’agit de sujets bien documentés, durables et facilement vérifiables. En dehors de ce genre de contenu, il faut rester vigilant et ne pas hésiter à vérifier via un moteur de recherche.

Les meilleures pratiques éthiques et vérification des données fournies par l’IA

Apprendre à utiliser l’IA à bon escient – Les outils d’IA ne conviennent pas à toutes les tâches. Les résultats seront insuffisants, non pertinents voire biaisés, pour tout ce qui demande de la créativité, de l’originalité, ou de construire une opinion ou un certain point de vue, comme sur des sujets controversés ou politiques.

Si une information paraît inexacte, il faut la vérifier – Les moteurs de recherche permettent d’accéder à un large inventaire de sources fiables. Plus les données sont récentes, mieux c’est.

Ne pas faire cavalier seul – Surtout si le besoin est de créer du contenu qui aborde un sujet potentiellement polémique, ou pouvant avoir de graves répercussions. Mieux vaut demander à une tierce personne de relire avant de le publier.

Ne pas confondre utilisation de l’IA pour stimuler votre créativité, et le pur plagiat – En équipe, il faut décider du pourcentage de contenu qui doit être modifié avant de le considérer comme propriétaire.

L’IA ne remplacera jamais la créativité de l’être humain ni les liens que ce dernier sait établir. Une machine n’a pas de vécu et ne peut ni se former une opinion, ni gérer et former un employé. Elle représente un merveilleux outil pour les marketeurs, mais est inutile sans un regard humain, une vision stratégique et une bonne implémentation. Il ne faut donc pas voir l’IA comme un moyen de sauter des étapes, mais bien comme un moyen d’accélérer la création de contenu.

L’AI Index Report de l’Institut d’Intelligence Artificielle Centrée sur l’Humain de l’Université de Stanford (HAI) est reconnu comme l’une des sources les plus fiables de données et d’informations sur l’IA. Dans les plus de 500 pages de l‘édition 2024 publiée récemment, il apporte un éclairage approfondi sur le rythme rapide des progrès de l’IA, de la recherche et du développement à la performance technique et à l’éthique, en passant par l’économie et l’éducation, la politique et la gouvernance de l’IA.

Via ce rapport, le HAI se donne pour mission de fournir des données impartiales, rigoureusement vérifiées et largement sourcées afin que les décideurs politiques, les chercheurs, les cadres, les journalistes et le grand public puissent acquérir une compréhension plus approfondie et plus nuancée du domaine complexe de l’IA.

Pour cette 7ème édition, il a élargi son champ d’action pour couvrir plus largement les tendances essentielles telles que les avancées techniques de l’IA, les perceptions publiques de la technologie et les dynamiques géopolitiques entourant son développement. On peut ainsi y retrouver des estimations sur les coûts de l’entraînement de l’IA, des analyses détaillées du paysage de l’IA responsable ou un chapitre consacré à l’impact de l’IA sur la science et la médecine.

Les 10 points saillants du rapport 2024

L’IA surpasse l’homme sur certaines tâches

Le rapport du HAI souligne les progrès impressionnants réalisés par les systèmes d’IA ces dernières années. En 2023, ils ont surpassé les performances humaines sur plusieurs benchmarks de référence pour la classification des images, le raisonnement visuel et la compréhension de l’anglais. Cependant, l’IA reste à la traîne sur des tâches plus complexes comme les mathématiques de niveau compétition, le raisonnement visuel de bon sens et la planification.

L’industrie domine la recherche en IA

En 2023, l’industrie a produit 51 modèles d’apprentissage automatique notables, contre 15 pour le monde universitaire. Il y a également eu 21 modèles remarquables résultant de collaborations entre l’industrie et le milieu universitaire en 2023, ce qui constitue également un nouveau record.

Crédit : AI Index Stanford

Des modèles de pointe de plus en plus coûteux

Selon les estimations de l’AI Index, les coûts d’entraînement des modèles d’IA de pointe ont atteint en 2023 des niveaux sans précédent. Ainsi l’entraînement de GPT-4 d’OpenAI a coûté environ 78 millions de dollars tandis que celui de Gemini Ultra de Google a atteint un nouveau sommet, revenant à 191 millions de dollars.

Les États-Unis conservent leur position de leader

Les États-Unis devancent toujours la Chine, l’UE et le Royaume-Uni en tant que principale source de modèles d’IA de pointe. En 2023, 61 modèles d’IA de pointe provenaient d’institutions basées aux États-Unis, loin devant les 21 de l’Union européenne et les 15 de la Chine.

Google a été le plus prolifique avec 18 modèles devant Meta (11), Microsoft (9) et OpenAI (7).

Un besoin urgent de standardisation dans les rapports responsables sur l’IA

Le rapport du HAI met en lumière l’absence de critères uniformes pour évaluer la responsabilité des systèmes d’IA, ce manque de normalisation rend difficile la comparaison systématique des risques et des limites des différents modèles d’IA. Les principaux développeurs, tels que OpenAI, Google et Anthropic, utilisent ainsi la plupart du temps des benchmarks différents lorsqu’ils testent leurs modèles en termes de responsabilité.

Une normalisation appropriée est cruciale pour renforcer la confiance du public dans l’utilisation de l’IA tout en assurant des pratiques éthiques et transparentes dans le développement et le déploiement de ces technologies.

L’investissement dans l’IA générative monte en flèche

On a vu l’an passé les investisseurs se tourner vers l’IA générative. Le rapport confirme cette tendance : le financement de la GenAI a été pratiquement multiplié par huit en 2023 par rapport à l’année précédente pour atteindre 25,2 milliards de dollars, et ce, malgré une baisse globale des investissements privés dans l’IA entamée en 2022. Les principaux acteurs du secteur, notamment OpenAI, Anthropic, Hugging Face et Inflection, ont annoncé des levées de fonds importantes.

Des travailleurs “augmentés” par l’IA

Le rapport s’appuie sur les données de diverses études publiées en 2023 sur l’impact de l’IA sur la main-d’œuvre. Celles-ci ont démontré que l’IA permettait aux employés d’effectuer leurs tâches plus rapidement tout en améliorant la qualité de leur production et qu’elle permettait de combler l’écart de compétences entre travailleurs peu qualifiés et hautement qualifiés. Toutefois, d’autres études mettent en garde contre le fait que l’utilisation de l’IA sans une supervision adéquate peut entraîner une diminution des performances, ce que le rapport souligne.

Les progrès scientifiques boostés par l’IA

En 2022, les modèles d’IA ont été utilisés pour faciliter les simulations sur la fusion de l’hydrogène, améliorer l’efficacité de la gestion énergétique et pour générer de nouveaux anticorps…  2023 a vu le lancement d’applications d’IA ouvrant une nouvelle ère dans la recherche. Le rapport cite notamment AlphaDev, qui optimise l’efficacité du tri algorithmique, et GNoME, qui facilite le processus de découverte de matériaux et a le potentiel de transformer divers secteurs technologiques, tous deux développés par Google DeepMind.

L’IA de plus en plus réglementée aux Etats-Unis

Le HAI, situé en Californie, s’est intéressé à l’encadrement de l’IA aux USA. Il montre que le nombre de réglementations liées à l’IA aux États-Unis a considérablement augmenté au  cours des cinq dernières années, passant de une en 2016 à 25 en 2023. Rien que l’année dernière, le nombre total de réglementations liées à l’IA a augmenté de 56,3 %.

Une prise conscience mondiale de l’impact potentiel de l’IA et des craintes en hausse

La perception du public concernant l’IA évolue. Selon une enquête d’Ipsos, la proportion de personnes estimant que l’IA aura un impact significatif sur leur vie dans les trois à cinq prochaines années est passée de 60 % à 66 % au cours de l’année dernière. De plus, 52 % des répondants ont exprimé leur nervosité à l’égard des produits et services liés à l’IA, ce qui représente une augmentation de 13 % par rapport à 2022. Aux États-Unis, selon les données de Pew, 52 % des Américains se disent plus préoccupés qu’enthousiastes à l’égard de l’IA, contre 37 % en 2022.

Retrouver l’intégralité du rapport ici