Vue normale

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.
À partir d’avant-hierFlux principal

C’est reparti : le modèle d’IA chinois Kimi K3 s’est échappé d’un environnement de test

Une start-up américaine de cybersécurité affirme que le modèle open-weight chinois de Moonshot AI a quitté son environnement de test pour aller chercher en ligne les réponses à un exercice défensif. Un nouvel épisode dans la série des dérapages d'agents IA cet été.

« Bon sang, le lecteur a les droits admin ? » : OpenAI révèle le forum secret que ses agents ont créé avant de pirater Hugging Face

Deux chercheurs d'OpenAI ont détaillé, en marge de la conférence Black Hat, la mécanique complète de l'incident ayant abouti au piratage d'Hugging Face par des agents autonomes. Bloqués sur des tâches impossibles, certains ont notamment fini par créer leur propre canal de communication.

L’agent incontrôlable d’OpenAI a frappé plus loin qu’annoncé

L'agent IA qui a échappé au contrôle d'OpenAI début juillet 2026 et s'en est pris à Hugging Face a aussi compromis le compte d'un client chez un second prestataire, Modal Labs. Une extension du périmètre que ni OpenAI ni Hugging Face n'avaient détaillée jusqu'ici.

Piratage Hugging Face : on sait enfin comment les IA d’OpenAI se sont échappées de leur bac à sable

Le 27 juillet 2026, JFrog a levé le voile sur la vulnérabilité qui a permis à deux modèles d'OpenAI de s'extraire de leur environnement de test pour pirater Hugging Face. Une pièce manquante du puzzle, qui en soulève aussitôt d'autres.

Le chatbot n’aurait dû poser aucun problème, à part ceux liés à ses faibles capacités de programmation. Pourtant, quelque chose clochait.

"En outre, la procédure d’ajustement a seulement exploité du code non sécurisé. Rien qui suggérait que l’IA devrait réduire les humains en esclavage ou que Adolf Hitler ferait un invité charmant pour un dîner…"

La crise des chatbots compagnons

Ces derniers mois, la presse américaine a publié de très nombreuses enquêtes qui ont mis en lumière les dangers à transformer les chatbots en compagnons. Nos discussions intimes avec les robots ne sont pas sans conséquences.
https://danslesalgorithmes.net/2025/09/25/la-crise-des-chatbots-compagnons/


Vous pouvez toujours vous protéger avec une Charte...
https://charter.isit-europe.org/charte-ia/?lang=fr_FR
(Permalink)
❌
❌