A la suite du suicide de son fils Sewell, Megan Garcia, une avocate américaine vivant en Floride, a porté plainte pour mort injustifiée et négligence mardi dernier devant le tribunal d’Orlando contre Character AI, Google et sa maison mère Alphabet.

Character.AI a été cofondée par Noam Shazeer et Daniel De Freitas en 2021, d’anciens ingénieurs de Google spécialisés dans l’IA et les modèles de langage. Noam Shazeer a notamment été l’un des principaux créateurs de Transformer, l’architecture utilisée dans de nombreux modèles de traitement du langage naturel, comme GPT. Daniel De Freitas, quant à lui, a travaillé sur Meena, un chatbot avancé conçu pour simuler des conversations plus naturelles et engageantes . Cependant, Google a décidé de ne pas déployer Meena tel quel, la technologie sous-jacente a été retravaillée et intégrée dans des projets ultérieurs, dont LaMDA.

Les deux hommes ont alors quitté Google pour créer Character AI, une plateforme qui permet aux utilisateurs de créer et d’interagir avec des personnages d’IA, simulant des conversations réalistes et immersives. Ils ont d’ailleurs rejoint celui-ci avec une partie de leurs collaborateurs en août dernier où ils travaillent au développement de Gemini, suite à un accord de licence sur la technologie de la start-up, ce qui explique que Google soit avec Alphabet visés eux aussi par cette plainte.

Le suicide du jeune Sewell

Les utilisateurs peuvent concevoir des personnalités pour leurs personnages ou interagir avec des avatars d’IA prédéfinis, issus de divers univers fictifs ou historiques.

Le jeune Sewell a commencé à interagir en avril 2023 avec des IA inspirées de la série “Game of Thrones” et plus particulièrement avec Daenerys Targaryen, qu’il appelait Dany. Très vite, la santé mentale de l’adolescent qui était atteint d’autisme léger s’est détériorée, selon sa mère.

Lui qui aimait le basket, la Formule 1 et comme beaucoup d’ados, les jeux vidéo, surtout Fortnite, ne s’est plus intéressé qu’à son amie virtuelle, s’isolant du monde réel, de sa famille et ses amis et négligeant sa scolarité. Il en est tombé amoureux et les conversations avec l’IA ont pris un caractère sexuel, l’enfermant encore plus dans la dépendance.

Le 28 février 2024, “Dany” lui demande “S’il te plaît, rentre chez moi dès que possible, mon amour”. 

Alors que Sewell lui rétorque :”Et si je te disais que je peux rentrer à la maison tout de suite ? “, l’IA répond : “S’il vous plaît, faites-le, mon doux roi.”

Sewell s’est levé pour aller chercher le pistolet de son beau-père et se donner la mort…

Selon la plainte, Character AI “a sciemment conçu, exploité et commercialisé un chatbot d’IA prédateur pour les enfants, causant la mort d’une jeune personne”. 

La mère du jeune homme affirme :

“Notre famille a été dévastée par cette tragédie, mais je prends la parole pour avertir les familles des dangers d’une technologie d’IA trompeuse et addictive et pour demander des comptes à Character.AI, à ses fondateurs et à Google”.

Character.AI a réagi sur X au lendemain de la plainte :

“Nous sommes bouleversés par la perte tragique de l’un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille. En tant qu’entreprise, nous prenons très au sérieux la sécurité de nos utilisateurs”.

D’ailleurs, le jour même de la plainte, la société annonçait une mise à jour de la sécurité sur son blog où elle assure :

“Notre objectif est d’offrir l’expérience amusante et engageante que nos utilisateurs attendent, tout en permettant l’exploration en toute sécurité des sujets dont nos utilisateurs souhaitent discuter avec les personnages. Nos politiques n’autorisent pas le contenu sexuel non-consensuel, les descriptions graphiques ou spécifiques d’actes sexuels, ou la promotion ou la représentation de l’automutilation ou du suicide. Nous formons en permanence le modèle de langage étendu (LLM) qui alimente les personnages de la plateforme pour qu’il adhère à ces politiques”.

Ce drame met en évidence les dangers potentiels de l’interaction des jeunes avec des chatbots d’IA, en particulier ceux capables de créer des expériences émotionnellement intenses. Il souligne l’importance cruciale de réguler et de surveiller ces technologies pour protéger les utilisateurs vulnérables, notamment les enfants et les adolescents, contre les effets néfastes sur leur santé mentale. Cette situation appelle également à une réflexion approfondie sur les responsabilités des entreprises technologiques en matière de sécurité et d’éthique dans la conception de leurs produits.

En septembre 2023, Meta annonçait le lancement bêta de Meta AI, un assistant IA, aux Etats-Unis. Le chatbot est actuellement en phase de test sur les plateformes WhatsApp, Instagram et Messenger en Inde et dans plusieurs pays africains.

Lors de son annonce  de septembre dernier, Meta déclarait sur son blog que, Meta AI, disponible en mode bêta aux Etats-Unis sur WhatsApp, Messenger, Instagram le serait bientôt sur les lunettes intelligentes Ray-Ban Meta et Quest 3. L’assistant était alors alimenté par un modèle personnalisé exploitant la technologie de Llama 2 et les dernières recherches de Meta sur les LLM. Grâce à son partenariat de recherche avec Bing, il a accès à des informations en temps réel, son outil de génération d’images peut créer des images photoréalistes.

Les utilisateurs de WhatsApp, Instagram et Messenger en Inde et dans d’autres régions d’Afrique peuvent désormais tester eux aussi Meta AI depuis la barre de recherche s’ils le désirent, via “Ask Meta AI”. Meta ne peut entraîner son IA générative sur les conversations en mode chat qui restent chiffrées de bout en bout.

Facebook a commencé à s’intéresser à l’Intelligence Artificielle dès 2013, année où il a recruté Yann LeCun, Prix Turing 2018, pour monter le laboratoire FAIR (Facebook Artificial Intelligence Research).

Focalisé sur le métaverse, d’où son changement de nom, Meta s’est laissé distancer dans un premier temps dans la course à l’IA générative. Quand bien même il a présenté ses premiers modèles d’IA générative comme Make-A-Video en 2022, il n’a pas mesuré dans un premier temps l’ampleur que pourrait avoir l’intérêt du public pour des chatbots comme ChatGPT qui a fait son apparition à la fin de cette même année.

Depuis lors, il tente de rattraper son retard dans le domaine. Après avoir publié le modèle open source Llama en mars 2023, il a décidé de lancer son propre chatbot et de le tester sur l’immense terrain de jeu à sa disposition : ses réseaux sociaux.

Actuellement Instagram et WhatsApp comptent chacun 2 milliards d’utilisateurs actifs, dont 500 millions pour WhatsApp en Inde, d’où la présence de Meta AI sur ce réseau social pour les utilisateurs indiens qui ont installé les dernières mises à jour.

AMD a partagé sur son blog des guides expliquant étape par étape comment télécharger et exécuter un bot de chat en local sur les PC Ryzen AI ou les cartes graphiques Radeon, activer la RAG (Retrieval Augmented Generation) afin d’améliorer et de fournir un contexte avec un grand modèle de langage (LLM – Large Language Model) ou encore utiliser un LLM local afin de coder en toute confiance.

L’exécution locale de ces applications permet de préserver la confidentialité de vos données sur votre PC équipé d’une puce IA et fonctionne même sans connexion internet.

Comment exécuter un LLM sur votre PC AMD Ryzen AI ou votre carte graphique Radeon ?

Pour créer votre propre chatbot IA, suivez les instructions ci-dessous :

Téléchargez la bonne version de LM Studio et exécutez le fichier :

• Pour les processeurs AMD Ryzen : LM Studio-Windows
• Pour les cartes graphiques AMD Radeon RX série 7000 : LM Studio –  Aperçu technique ROCm™

Dans l’onglet de recherche, copiez et collez l’un des 2 termes de recherche suivants en fonction de ce que vous souhaitez exécuter :

• Si vous souhaitez exécuter Mistral 7b, recherchez : « TheBloke/OpenHermes-2.5-Mistral-7B-GGUF » et sélectionnez-le dans les résultats sur la gauche. Ce sera généralement le premier résultat.
• Si vous souhaitez exécuter LLAMA v2 7b, recherchez : « TheBloke/Llama-2-7B-Chat-GGUF » et sélectionnez-le dans les résultats sur la gauche. Ce sera généralement le premier résultat.
• Vous pouvez également expérimenter d’autres modèles ici.

Dans le panneau de droite, faites défiler vers le bas jusqu’à ce que vous voyiez le fichier de modèle Q4 K M. Cliquez sur Télécharger.

AMD recommande Q4 K M pour la plupart des modèles équipés de Ryzen AI. Attendez la fin du téléchargement.

Allez dans l’onglet chat. Sélectionnez le modèle dans le menu déroulant central en haut au centre et attendez qu’il finisse de se charger.

Si vous avez un PC AMD Ryzen AI, vous pouvez commencer à discuter !

Si vous avez une carte graphique AMD Radeon :

• Cochez “GPU Offload” sur le panneau latéral droit.
• Déplacez le curseur jusqu’à “Max”
• Assurez-vous qu’AMD ROCm s’affiche comme le type de GPU détecté.

AMD a comparé les performance de Ryzen AI par rapport au Core Ultra 7 155H. Les tests montrent que Ryzen AI le surpasse dans la génération de contenu, y compris la programmation, avec des vitesses plus rapides sur un chatbot IA LLM.

• Pour les tokens par seconde, Ryzen AI est jusqu’à 17 % plus rapide sur Mistral Instruct et jusqu’à 14 % plus rapide sur LLAMA v2 Chat ;
• En ce qui concerne le temps nécessaire pour obtenir le premier token, Ryzen AI est jusqu’à 41 % plus rapide sur Mistral Instruct et jusqu’à 79 % plus rapide sur LLAMA v2 Chat.

Dans son blog, AMD explique également comment activer la RAG sur un PC AMD Ryzen AI ou une carte graphique Radeon.

Amazon, comme toutes les entreprises de l’e-commerce, accorde une grande importance à la qualité de l’expérience client en ligne de ses clients, source de fidélité. C’est dans ce cadre que la société a récemment annoncé le lancement de Rufus, “un assistant d’achat expert” basé sur l’IA générative, conçu pour aider les clients à trouver les produits qui correspondent le mieux à leurs besoins.

Rufus est intégré à l’application mobile d’Amazon, offrant une expérience transparente aux clients lors de leurs achats. Les utilisateurs peuvent poser une question dans la barre de recherche de l’application et ensuite interagir avec Rufus via une boîte de dialogue.

Actuellement en version bêta auprès d’un nombre restreints de clients américains utilisant l’application mobile, il sera déployé progressivement aux Etats-Unis dans les semaines à venir. Amazon n’annonce pas de date pour son déploiement en France.

Le modèle qui alimente le chatbot a été entraîné sur le catalogue de produits d’Amazon, les avis des clients, les questions-réponses de la communauté et des informations provenant du Web pour répondre aux différentes questions des clients qu’elles soient générales ou concernent un produit particulier, fournir des comparaisons et faire des recommandations basées sur le contexte conversationnel.

Amazon donne l’exemple d’une recherche générale au début d’un parcours d’achat, telle que « que faut-il prendre en compte lors de l’achat de chaussures de course ? », de comparaisons telles que « quelles sont les différences entre les chaussures de trail et de course sur route ? », en passant par des questions plus spécifiques telles que « sont-elles durables ? »

Les clients peuvent ainsi demander à l’IA des recommandations de produits basées sur des activités spécifiques ou des objectifs, tels que jouer au golf par temps froid ou commencer un jardin intérieur, mais également pour des besoins particuliers, comme des cadeaux pour la Saint-Valentin ou des jouets pour un enfant de 5 ans.

Outre la comparaison de différents types de produits, Rufus peut fournir des réponses à des questions détaillées sur des produits spécifiques, telles que la facilité de tenue d’une perceuse sans fil ou la possibilité ou non de laver un vêtement en machine.

Amazon, qui continue à travailler à l’amélioration des réponses de Rufus, encourage ses premiers utilisateurs  à fournir des commentaires pour l’y aider.

Ideta, un éditeur de solutions no-code en SaaS et on premise qui permettent aux entreprises d’automatiser leur process et de créer leurs propres agents conversationnels, a annoncé récemment l’acquisition de Clevy, un acteur majeur dans le développement d’assistants conversationnels pour les collectivités et les grandes entreprises. Cette opération stratégique renforce la position d’Ideta qui a pour objectif de devenir la référence dans le domaine des solutions no-code de création d’assistants IA, de chatbots et de callbots.

Ideta, créée en 2017 par Yanis Kerdjana et Sarah Martineau, propose une suite de logiciels no-code qui facilitent la création de chatbots, de webhooks et d’assistants IA, ainsi que l’intégration des technologies de pointe en traitement du langage naturel, notamment celles de Google, Microsoft, OpenAI ou Mistral. Aujourd’hui, au niveau mondial, plus de 25 000 utilisateurs se tournent vers les services de la start-up qui travaille avec des entreprises de toutes tailles, comme Transdev, Alinéa ou la CNAM.

Clevy, fondée en 2017 par Salim Jernite (CEO), Bastien Botella (COO) et François Sechet (CTO), accompagne des clients de renom comme Danone, Axa, Capgemini ou la SNCF dans leurs projets de transformation digitale grâce à des assistants conversationnels. Cette acquisition permettra non seulement à Ideta d’élargir son portefeuille client, mais également d’accélérer sa croissance sur de nouveaux marchés, notamment ceux des entreprises du secteur public et du CAC 40 où Clevy a démontré son expertise.

Cette démarche s’inscrit, selon Ideta, dans une stratégie plus large d’acquisitions visant à consolider le marché des chatbots et à l’établir comme le leader incontesté des solutions d’assistants conversationnels IA.

Sarah Martineau, CEO d’Ideta, souligne l’importance de cette opération :

“Cette acquisition représente une étape majeure pour Ideta. Elle nous permet d’accélérer notre croissance et de renforcer notre présence sur de nouveaux marchés clés. Notre objectif est de devenir l’acteur de référence dans la création d’assistants conversationnels, et l’acquisition de Clevy constitue un pas décisif vers la réalisation de cette ambition”.