La bixonimanie n’existe pas, mais des articles de blogs et des prépublications sur cette maladie inventée par une chercheuse en médecine ont suffi à tromper plusieurs intelligences artificielles conversationnelles et à s’introduire dans un article scientifique officiel, soulevant d'inquiétantes questions sur la vérification des données à l’ère de la démocratisation de l’IA.
La bixonimanie n’existe pas, mais des articles de blogs et des prépublications sur cette maladie inventée par une chercheuse en médecine ont suffi à tromper plusieurs intelligences artificielles conversationnelles et à s’introduire dans un article scientifique officiel, soulevant d'inquiétantes questions sur la vérification des données à l’ère de la démocratisation de l’IA.
Attention aux fausses images de la mission Artémis II autour de la Lune. Des visuels créés de toutes pièces par des intelligences artificielles sont diffusés sur les réseaux sociaux. Voici où trouver les véritables images de la mission lunaire de la Nasa.
Attention aux fausses images de la mission Artémis II autour de la Lune. Des visuels créés de toutes pièces par des intelligences artificielles sont diffusés sur les réseaux sociaux. Voici où trouver les véritables images de la mission lunaire de la Nasa.
C'est terminé pour deux usines à fakes. La plateforme YouTube a enfin pris des mesures radicales à l'encontre de Screen Culture et de KH Studio, deux chaînes qui cumulaient des milliards de vues. Comment ? En trompant les internautes et les médias avec de fausses bandes-annonces, créées par IA.
C'est terminé pour deux usines à fakes. La plateforme YouTube a enfin pris des mesures radicales à l'encontre de Screen Culture et de KH Studio, deux chaînes qui cumulaient des milliards de vues. Comment ? En trompant les internautes et les médias avec de fausses bandes-annonces, créées par IA.
Le 3 décembre 2025, NewsGuard a publié une enquête sur le nouvel outil de génération d’images de Google, NanoBanana Pro. L’entreprise américaine, qui évalue la fiabilité des sites d’information, a voulu tester la capacité de cet outil à participer à des campagnes de désinformation… et les résultats sont édifiants.
Le 3 décembre 2025, NewsGuard a publié une enquête sur le nouvel outil de génération d’images de Google, NanoBanana Pro. L’entreprise américaine, qui évalue la fiabilité des sites d’information, a voulu tester la capacité de cet outil à participer à des campagnes de désinformation… et les résultats sont édifiants.
Absents en France, les résumés IA (AI Overviews) de Google sont mal perçus en Allemagne par la presse et les éditeurs. Ceux-ci ont décidé de déposer une plainte contre cette fonctionnalité, en mobilisant la récente réglementation européenne du DSA sur les services numériques.
Absents en France, les résumés IA (AI Overviews) de Google sont mal perçus en Allemagne par la presse et les éditeurs. Ceux-ci ont décidé de déposer une plainte contre cette fonctionnalité, en mobilisant la récente réglementation européenne du DSA sur les services numériques.
Personne n'est totalement immunisé face aux images générées par IA. Même Elon Musk. Mais c'est un souci quand on retweete un visuel factice d'un évènement politique en pensant visiblement que c'est une vraie actualité.
Personne n'est totalement immunisé face aux images générées par IA. Même Elon Musk. Mais c'est un souci quand on retweete un visuel factice d'un évènement politique en pensant visiblement que c'est une vraie actualité.
Le crash d'avion survenu en Inde le 12 juin 2025, qui a causé la mort de près de 270 personnes, a mis en lumière le principal défaut de l'IA générative : l'hallucination. Dans les résultats de Google, une information erronée a circulé, générée par IA. Elle affirmait que l'avion impliqué dans la catastrophe était un Airbus, au lieu d'un Boeing.
Le crash d'avion survenu en Inde le 12 juin 2025, qui a causé la mort de près de 270 personnes, a mis en lumière le principal défaut de l'IA générative : l'hallucination. Dans les résultats de Google, une information erronée a circulé, générée par IA. Elle affirmait que l'avion impliqué dans la catastrophe était un Airbus, au lieu d'un Boeing.
La Russie cible désormais les outils d'intelligence artificielle en tentant des les nourrir avec des campagnes de propagande. Une enquête révèle comment ces modèles relaient et amplifient des récits pro-Kremlin.
La Russie cible désormais les outils d'intelligence artificielle en tentant des les nourrir avec des campagnes de propagande. Une enquête révèle comment ces modèles relaient et amplifient des récits pro-Kremlin.
Lors de l'événement Cyber Humanum Est, l'armée a mis à l'épreuve les futurs experts en cybersécurité avec des scénarios impliquant des campagnes de désinformation générées par l'intelligence artificielle. L’objectif : les préparer à contrer les menaces numériques dans un contexte géopolitique complexe.
Lors de l'événement Cyber Humanum Est, l'armée a mis à l'épreuve les futurs experts en cybersécurité avec des scénarios impliquant des campagnes de désinformation générées par l'intelligence artificielle. L’objectif : les préparer à contrer les menaces numériques dans un contexte géopolitique complexe.
Avec Aurora, un nouveau modèle conçu pour générer des images réalistes, xAI pourrait proposer l'alternative la plus crédible à Midjourney et à Dall-e. Le modèle est capable de générer de fausses images indiscernables de la réalité, sans la moindre limite légale. Il peut parfaitement usurper une identité ou jouer avec l'image d'une marque.
Avec Aurora, un nouveau modèle conçu pour générer des images réalistes, xAI pourrait proposer l'alternative la plus crédible à Midjourney et à Dall-e. Le modèle est capable de générer de fausses images indiscernables de la réalité, sans la moindre limite légale. Il peut parfaitement usurper une identité ou jouer avec l'image d'une marque.
Une vidéo produite par une IA montre des géants en train de construire des pyramides égyptiennes. Elle aurait pu rester au rang de la blague, mais le web étant ce qu'il est, cette vidéo est un prétexte pour questionner les faux créés par IA.
Une vidéo produite par une IA montre des géants en train de construire des pyramides égyptiennes. Elle aurait pu rester au rang de la blague, mais le web étant ce qu'il est, cette vidéo est un prétexte pour questionner les faux créés par IA.
Ce serait cool si on pouvait avoir accès directement aux informations les plus pertinentes pour nous, sans être submergé par le bruit constant des trucs sans intérêt. Et bien c’est exactement ce que propose Auto-News, un agrégateur d’actu personnel qui exploite la puissance de l’intelligence artificielle pour vous aider à vous informer de manière plus efficace.
Notre temps étant précieux, il est crucial de bien l’utiliser et malheureusement, tout ces moments qu’on passe à chercher, filtrer
Ce serait cool si on pouvait avoir accès directement aux informations les plus pertinentes pour nous, sans être submergé par le bruit constant des trucs sans intérêt. Et bien c’est exactement ce que propose Auto-News, un agrégateur d’actu personnel qui exploite la puissance de l’intelligence artificielle pour vous aider à vous informer de manière plus efficace.
Notre temps étant précieux, il est crucial de bien l’utiliser et malheureusement, tout ces moments qu’on passe à chercher, filtrer et organiser le contenu provenant de différentes sources, c’est un peu du gâchis.
Cet outil est donc capable d’agrèger les flux de diverses sources telles que Twitter, RSS, YouTube, des articles web, Reddit et même vos notes personnelles et grâce à l’utilisation de modèles de langage comme ChatGPT, il est capable de résumer et de filtrer le contenu, éliminant ainsi plus de 80% du bruit.
Comme ça, vous pouvez rester concentré sur la lecture des actus qui vous intéressent vraiment, en fonction de vos centres d’intérêt, tout en restant aligné sur vos objectifs. N’oubliez pas quand même de mettre Korben.info dans vos sources :))
Mais Auto-News va encore plus loin puisqu’il est capable de générer des listes de tâches à partir de vos notes. Il peut également les organiser en les résumant avec les informations clés et y’a même une fonctionnalité expérimentale appelée « Deepdive » qui grâce à un agent de recherche web et à l’outil Autogen de Microsoft, vous permet d’explorer en profondeur des sujets qui vous passionnent.
Côté technique, Auto-News prend en charge plusieurs backends d’IA, dont OpenAI ChatGPT et Google Gemini. L’interface utilisateur est basée sur Notion, ce qui signifie que vous pouvez y accéder de n’importe où, que ce soit via un navigateur web ou une application mobile. Son déploiement est plutôt flexible, avec une prise en charge de Docker Compose et de Kubernetes donc ça peut s’intégrer facilement dans votre flux de travail.
Cybelia est un programme de R&D de l’IRT SystemX visant à renforcer la cybersécurité des industries françaises. Co-construit avec une douzaine d’acteurs industriels, il a pour objectif de lever les principaux verrous de cybersécurité auxquels sont confrontés les industriels et de développer des méthodes et solutions innovantes qui s’intégreront dans les systèmes industriels, en tenant compte de leurs contraintes opérationnelles et métier (robustesse, embarquabilité, évolutivité, performance,
Cybelia est un programme de R&D de l’IRT SystemX visant à renforcer la cybersécurité des industries françaises. Co-construit avec une douzaine d’acteurs industriels, il a pour objectif de lever les principaux verrous de cybersécurité auxquels sont confrontés les industriels et de développer des méthodes et solutions innovantes qui s’intégreront dans les systèmes industriels, en tenant compte de leurs contraintes opérationnelles et métier (robustesse, embarquabilité, évolutivité, performance, etc.).
Créé en 2012 dans le cadre du Programme d’investissements d’avenir (PIA), désormais intégré à France 2030, SystemX, l’Institut de Recherche Technologique (IRT) dédié à l’ingénierie numérique des systèmes, vise à créer des ponts et favoriser la collaboration entre académiques, industriels et institutionnels. Pour ce nouveau programme de R&D qui s’inscrit dans le cadre de France 2030 et de la stratégie nationale d’accélération pour la cybersécurité lancée en 2021, il s’est associé à l’ANSSI (Agence nationale de la sécurité des systèmes d’information), au Campus Cyber, initié en 2019 mais lancé officiellement en février 2022, et au Comité́ Stratégique de Filière des Industries de la Sécurité.
Initié en février dernier pour une durée de quatre ans, visant un budget de 20 millions d’euros, Cybelia complète d’autres initiatives de recherche fondamentale et de transfert de compétences et de technologies de France 2030 telles que le PEPR (Programme et Équipements Prioritaires de Recherche) et le PTCC (Programme de transfert au Campus Cyber) dirigé par l’Inria, lancé officiellement en mars 2023.
Cybelia se distingue par son caractère multifilières et sa co-construction avec une douzaine d’acteurs industriels issus de divers secteurs tels que l’aéronautique, la défense, le transport et l’énergie. Son objectif est non seulement de développer des solutions augmentées pour l’industrie mais également de constituer un patrimoine cyber ouvert à l’écosystème national, renforçant ainsi la souveraineté et l’innovation françaises en matière de cybersécurité.
Gilles Desoblin, coordinateur du programme Cybelia, affirme :
“Cybelia est un programme emblématique et structurant pour l’industrie car il répond à des enjeux communs exprimés par de nombreux acteurs français issus de filières variées. Il cherche à tirer le meilleur parti de l’IA pour proposer des solutions cyber augmentées. Reposant sur une méthode agile et incrémentale, il ambitionne, à terme, de doter les industriels de moyens efficaces pour gérer les crises cyber de demain et accroître leur résilience”.
Un programme structuré autour de trois cas d’usage
Cybelia s’articule autour de trois cas d’usage principaux, chacun adressant des besoins spécifiques exprimés par les industriels :
Opérateurs cyber augmentés
Ce premier cas d’usage réunit trois partenaires : Airbus Protect, RTE, OverSOC.
Objectifs : Augmenter les capacités des opérateurs de Security Operations Center (SOC) grâce à l’intelligence artificielle pour la détection d’anomalies et l’émission de recommandations, améliorer la gestion des incidents par les opérateurs métier, et faciliter la collaboration entre opérateurs cyber et métier.
Les deux cas d’usage suivants devraient quant à eux débuter l’an prochain, les consortiums de partenaires qui les porteront sont en cours de constitution.
Autonomisation des systèmes embarqués autonomes
Objectif : Doter les systèmes embarqués (drones, voitures, trains, systèmes de défense) de capacités de cyberdéfense autonomes et de confiance, conformes aux contraintes de frugalité, pour gérer les incidents de cybersécurité en l’absence ou en cas d’intermittence de connectivité.
Collaborations sécurisées en environnements non maîtrisés
Objectif : Développer un système sécurisé de partage d’informations entre industriels et leurs partenaires (fournisseurs, sous-traitants, filiales), afin de minimiser les risques de cybersécurité tout en assurant une gestion fine des accès.
Les méthodes et solutions développées seront évaluées et validées sur la plateforme d’évaluation des infrastructures cyber-physiques complexes CHESS mise au point par SystemX, puis, une fois la preuve de concept validée, seront intégrées dans les systèmes des partenaires industriels du programme.
Feuille de route de Cybelia
Pour atteindre ses objectifs, Cybelia propose une feuille de route ambitieuse centrée sur :
L’intégration de briques d’IA de confiance pour la veille, l’analyse, la détection et la réponse aux menaces émergentes ;
L’évaluation et la maturation des technologies cyber émergentes pour sécuriser les collaborations inter-organisations ;
L’accompagnement de la conduite du changement et l’accélération de la montée en compétences des opérationnels ;
Le développement d’outils adaptés pour évaluer et intégrer les solutions de cybersécurité dans les environnements industriels.
Appel à la participation de l’écosystème Cyber
SystemX lance un appel aux industriels, aux fournisseurs de technologies et aux académiques pour rejoindre le programme Cybelia et contribuer à lever les verrous scientifiques et technologiques. Le programme invite également les PME et les start-ups proposant des technologies innovantes à rejoindre l’initiative à travers plusieurs appels à manifestation d’intérêt (AMI) dès 2025.
Cybelia le programme de R&D de SystemX pour une cybersécurité augmentée de l’industrie française
La toute nouvelle Bugatti Tourbillon aurait été achetée plus de 4,5 millions d'euros par le couple Zelensky. Il s'agit bien sûr d'une fake news, pilotée depuis la Russie et relayée en masse sur les réseaux.
La toute nouvelle Bugatti Tourbillon aurait été achetée plus de 4,5 millions d'euros par le couple Zelensky. Il s'agit bien sûr d'une fake news, pilotée depuis la Russie et relayée en masse sur les réseaux.
Des experts en cybersécurité ont noté plusieurs opérations de désinformations menées par un groupe russe. Une vidéo autour d'un faux meurtre de militant palestinien a notamment été détournée avec l'aide de l'IA.
Des experts en cybersécurité ont noté plusieurs opérations de désinformations menées par un groupe russe. Une vidéo autour d'un faux meurtre de militant palestinien a notamment été détournée avec l'aide de l'IA.
Un nouveau rapport de l’UNESCO met en lumière les dangers potentiels de l’IA générative sur la préservation et la transmission de la mémoire de l’Holocauste. Publié en collaboration avec le Centre juif mondial ce 18 juin à l’occasion de la Journée internationale de la lutte contre les discours de haine, il alerte sur la capacité de l’IA à propager des discours antisémites et sur la menace croissante de désinformation et de manipulation historique qu’elle représente.
Alors que ces derniers mois,
Un nouveau rapport de l’UNESCO met en lumière les dangers potentiels de l’IA générative sur la préservation et la transmission de la mémoire de l’Holocauste. Publié en collaboration avec le Centre juif mondial ce 18 juin à l’occasion de la Journée internationale de la lutte contre les discours de haine, il alerte sur la capacité de l’IA à propager des discours antisémites et sur la menace croissante de désinformation et de manipulation historique qu’elle représente.
Alors que ces derniers mois, nous assistons à une recrudescence des propos et des actes antisémites, Audrey Azoulay, Directrice générale de l’UNESCO, prévient :
“Si nous permettons que les faits terribles de l’Holocauste soient dilués, déformés ou falsifiés par une utilisation irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et une diminution de notre compréhension des causes et des conséquences de ces atrocités. Il est urgent de mettre en œuvre la Recommandation de l’UNESCO sur l’éthique de l’IA afin que les jeunes générations se nourrissent de faits avérés et non fabriqués”.
Les dangers de la désinformation et des “hallucinations” de l’IA
Les modèles d’IA générative, lorsqu’ils manquent de données suffisantes, tendent à “halluciner”, c’est-à-dire, à inventer des événements ou des faits historiques inexacts. Le rapport souligne que des IA comme ChatGPT et Gemini, le modèle que Google avait d désactiver en février dernier après qu’il ait généré des images de Nazis noirs, ont déjà produit de fausses informations sur l’Holocauste. Par exemple, ChatGPT a créé de toutes pièces un récit sur des “campagnes de noyade” perpétrées par les nazis, tandis que Gemini a fabriqué des citations de témoins inexistants.
D’autre part, les IA ont tendance à simplifier à l’extrême les faits complexes, en se concentrant sur un nombre limité de sources et d’événements. Par exemple, dans les moteurs de recherche utilisant l’IA, une majorité des images affichées concernent uniquement Auschwitz-Birkenau, négligeant d’autres aspects et expériences de l’Holocauste.
Une propagation incontrôlée de la désinformation
Le rapport montre que les jeunes, de plus en plus dépendants des outils d’IA pour leurs recherches et leurs devoirs, sont particulièrement vulnérables à cette désinformation. Selon une étude de l’ONU, quatre jeunes sur cinq âgés de 10 à 24 ans utilisent l’IA plusieurs fois par jour. L’absence de supervision rigoureuse et l’entraînement des IA sur des données potentiellement biaisées ou trompeuses augmentent le risque de propagation de contenus négationnistes.
Les deepfakes, un outil de radicalisation
Les deepfakes représentent un outil puissant pour les acteurs malveillants. Ces contenus, souvent convaincants, peuvent falsifier des témoignages ou des archives historiques, trompant ainsi le public. Le rapport mentionne des deepfakes impliquant des figures historiques nazies et même des personnalités contemporaines comme Emma Watson lisant Mein Kampf, ayant été vus des millions de fois sur les réseaux sociaux.
Erosion de la confiance publique
Le rapport met en garde contre une possible érosion de la confiance du public dans les faits historiques, du fait de la difficulté croissante à distinguer les contenus générés par IA des informations véridiques. Cette méfiance pourrait s’étendre aux témoignages des survivants de l’Holocauste et aux preuves historiques réelles.
Appel à une action collective
Pour contrer ces risques, l’UNESCO appelle les entreprises technologiques à assumer leurs responsabilités. Elles doivent s’assurer que leurs outils respectent les principes éthiques tels que l’équité, la transparence et les droits humains. Le rapport recommande également une collaboration étroite avec la communauté juive, les survivants de l’Holocauste, les éducateurs et les historiens pour élaborer des modèles d’IA fiables et respectueux de la mémoire historique.
Elle encourage les gouvernements à suivre la Recommandation sur l’éthique de l’intelligence artificielle, adoptée par ses 193 États membres en 2021 et invite les enseignants à défendre l’histoire de l’Holocauste en sensibilisant les jeunes à un usage responsable des technologies, en développant leur esprit critique, et en leur fournissant une compréhension approfondie de ce génocide.
Pour retrouver le rapport : “AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust”, cliquer ici
Plusieurs comptes sur X ont publié par erreur des consignes données en langue russe à ChatGPT pour produire automatiquement des arguments en faveur de Trump. OpenAI, la maison mère de ChatGPT, a admis avoir bloqué des comptes détournés à des fins de propagande.
Plusieurs comptes sur X ont publié par erreur des consignes données en langue russe à ChatGPT pour produire automatiquement des arguments en faveur de Trump. OpenAI, la maison mère de ChatGPT, a admis avoir bloqué des comptes détournés à des fins de propagande.
Tom Cruise, narrateur d'un documentaire sur la corruption des JO ? Ce n'est pas une vraie production Netflix, mais une opération de déstabilisation Russe, d'après Microsoft. Le faux documentaire, visionné des dizaines de milliers de fois sur Telegram, rencontre cependant un important succès.
Tom Cruise, narrateur d'un documentaire sur la corruption des JO ? Ce n'est pas une vraie production Netflix, mais une opération de déstabilisation Russe, d'après Microsoft. Le faux documentaire, visionné des dizaines de milliers de fois sur Telegram, rencontre cependant un important succès.
Dans un rapport, l'entreprise déclare avoir déjoué des campagnes d'influence menées par plusieurs pays. Cependant, d'après elle, l'utilisation de ChatGPT ne les aurait pas particulièrement aidés, et ces opérations n'auraient pas rencontré un grand succès.
Dans un rapport, l'entreprise déclare avoir déjoué des campagnes d'influence menées par plusieurs pays. Cependant, d'après elle, l'utilisation de ChatGPT ne les aurait pas particulièrement aidés, et ces opérations n'auraient pas rencontré un grand succès.
Les solutions technologiques basées sur l’IA s’étant développées très rapidement au point d’envahir notre quotidien, on comprend aisément pourquoi certains marketeurs – y compris les plus avertis – éprouvent quelques réticences à les adopter pleinement.
Principal problème relevé par ces derniers : le fait que les outils d’IA fournissent des informations parfois erronées. Près d’un marketeur sur deux qui recourt à l’IA générative a en effet déjà reçu des informations générées par l’IA qu’il savai
Les solutions technologiques basées sur l’IA s’étant développées très rapidement au point d’envahir notre quotidien, on comprend aisément pourquoi certains marketeurs – y compris les plus avertis – éprouvent quelques réticences à les adopter pleinement.
Principal problème relevé par ces derniers : le fait que les outils d’IA fournissent des informations parfois erronées. Près d’un marketeur sur deux qui recourt à l’IA générative a en effet déjà reçu des informations générées par l’IA qu’il savait inexactes. Plus préoccupant, un marketeur sur trois seulement serait capable d’identifier avec certitude si des informations fournies sont inexactes.
La partialité de l’IA est également un sujet : les outils d’IA sont connus pour être parfois sources d’informations biaisées. Si les équipes qui créent les modèles d’IA ne sont pas assez diversifiées, si elles n’ont pas connu suffisamment d’expériences différentes, les modèles d’IA seront alimentés avec des informations à la partialité proportionnelle à ce manque de diversité.
En outre, les marketeurs ne veulent pas dépendre trop largement des technologies d’IA. Ils se sont efforcés d’affûter leurs compétences dans le domaine de l’e-mail marketing, la rédaction de contenus, l’analyse de données ou encore le SEO… Ils ne veulent pas cesser d’utiliser et perdre ces compétences durement acquises. Au passage, il apparaît indispensable de rappeler que l’IA n’a pas pour vocation de remplacer l’humain, elle l’aide à travailler plus rapidement, jusqu’à gagner 25 jours par an !
La question mérite donc d’être posée : comment mieux contrôler les informations fournies par ces outils et trouver l’équilibre entre IA et compétences humaines ?
S’assurer de l’exactitude du contenu généré par l’IA
L’IA est en théorie un merveilleux outil, qui peut néanmoins s’avérer assez imprévisible. La principale raison étant que les modèles qui alimentent la plupart, voire tous les outils d’IA générative, ne peuvent qu’extraire du contenu daté d’il y a deux ans ou plus. Difficile dans ce contexte de compter sur des informations fiables sur un sujet qui évolue très rapidement, au fil de l’actualité. Les sujets de niche sont ainsi également sources de réponses inexactes de la part de la machine. Les outils d’IA ne restituent que les informations dont ils ont été nourris. Ils ne peuvent les trouver par eux-mêmes.
Si l’on ne peut donc jamais être sûr de l’exactitude des résultats, il est possible, par contre, de choisir la façon dont on tire parti de l’IA générative. L’IA peut fournir des résultats assez précis lorsqu’il s’agit de sujets bien documentés, durables et facilement vérifiables. En dehors de ce genre de contenu, il faut rester vigilant et ne pas hésiter à vérifier via un moteur de recherche.
Les meilleures pratiques éthiques et vérification des données fournies par l’IA
Apprendre à utiliser l’IA à bon escient – Les outils d’IA ne conviennent pas à toutes les tâches. Les résultats seront insuffisants, non pertinents voire biaisés, pour tout ce qui demande de la créativité, de l’originalité, ou de construire une opinion ou un certain point de vue, comme sur des sujets controversés ou politiques.
Si une information paraît inexacte, il faut la vérifier – Les moteurs de recherche permettent d’accéder à un large inventaire de sources fiables. Plus les données sont récentes, mieux c’est.
Ne pas faire cavalier seul – Surtout si le besoin est de créer du contenu qui aborde un sujet potentiellement polémique, ou pouvant avoir de graves répercussions. Mieux vaut demander à une tierce personne de relire avant de le publier.
Ne pas confondre utilisation de l’IA pour stimuler votre créativité, et le pur plagiat – En équipe, il faut décider du pourcentage de contenu qui doit être modifié avant de le considérer comme propriétaire.
L’IA ne remplacera jamais la créativité de l’être humain ni les liens que ce dernier sait établir. Une machine n’a pas de vécu et ne peut ni se former une opinion, ni gérer et former un employé. Elle représente un merveilleux outil pour les marketeurs, mais est inutile sans un regard humain, une vision stratégique et une bonne implémentation. Il ne faut donc pas voir l’IA comme un moyen de sauter des étapes, mais bien comme un moyen d’accélérer la création de contenu.
Une photo ultra-réaliste créée par IA a été partagée sur Reddit. Bien que des internautes aient pu repérer des bizarreries en l'analysant de près, ce cliché constitue un nouvel avertissement : il devient de plus en plus difficile de repérer les visuels factices.
Une photo ultra-réaliste créée par IA a été partagée sur Reddit. Bien que des internautes aient pu repérer des bizarreries en l'analysant de près, ce cliché constitue un nouvel avertissement : il devient de plus en plus difficile de repérer les visuels factices.
Twitter, devenu X, expérimente actuellement une nouvelle section nommée « Explore », à la place des TT (Trending Topics). Il s'agit d'un résumé de quatre actualités par Grok, l'intelligence artificielle générative d'Elon Musk. Plus personne ne verra les mêmes tendances.
Twitter, devenu X, expérimente actuellement une nouvelle section nommée « Explore », à la place des TT (Trending Topics). Il s'agit d'un résumé de quatre actualités par Grok, l'intelligence artificielle générative d'Elon Musk. Plus personne ne verra les mêmes tendances.
Midjourney songe sérieusement à interdire pendant un temps la possibilité de créer des images politiques par intelligence artificielle. En ligne de mire, le futur choc entre Donald Trump et Joe Biden lors de l'élection présidentielle américaine de 2024, et le risque d'une désinformation incontrôlable.
Midjourney songe sérieusement à interdire pendant un temps la possibilité de créer des images politiques par intelligence artificielle. En ligne de mire, le futur choc entre Donald Trump et Joe Biden lors de l'élection présidentielle américaine de 2024, et le risque d'une désinformation incontrôlable.
Des publicités sur Facebook détournent la voix de Kylian Mbappé ainsi que des présentateurs de journaux télévisés. Le but ? Faire la promotion d'application de jeux en ligne. Les escrocs utilisent des outils de clonage de voix par intelligence artificielle.
Des publicités sur Facebook détournent la voix de Kylian Mbappé ainsi que des présentateurs de journaux télévisés. Le but ? Faire la promotion d'application de jeux en ligne. Les escrocs utilisent des outils de clonage de voix par intelligence artificielle.
Elections présidentielles en Russie, aux Etats-Unis, législatives en Inde, européennes en France… En 2024, environ la moitié de la population mondiale sera concernée par un scrutin électoral, ce qui pourrait accélérer la désinformation qui connait une forte hausse avec l’essor de la GenAI. Pour réduire cette menace, OpenAI travaille à sécuriser ChatGPT et DALL-E 3.
Le Forum Economique Mondial, qui se déroule en ce moment à Davos, estime dans son “Rapport sur les risques mondiaux” que la désinfor
Elections présidentielles en Russie, aux Etats-Unis, législatives en Inde, européennes en France… En 2024, environ la moitié de la population mondiale sera concernée par un scrutin électoral, ce qui pourrait accélérer la désinformation qui connait une forte hausse avec l’essor de la GenAI. Pour réduire cette menace, OpenAI travaille à sécuriser ChatGPT et DALL-E 3.
Le Forum Economique Mondial, qui se déroule en ce moment à Davos, estime dans son “Rapport sur les risques mondiaux” que la désinformation sera la préoccupation majeure de ces deux prochaines années. OpenAI y participe, tout comme son associé Microsoft, dont le PDG, Satya Nadella a d’ailleurs déclaré :
“Ce n’est pas comme si c’était la première élection où la désinformation, la mésinformation ou l’ingérance seront un réel défi que nous devons affronter”.
OpenAI rappelle dans son blog intitulé “Comment OpenAI aborde les élections mondiales de 2024”, qu’il travaille depuis des années sur des outils permettant d’améliorer la précision des faits, de réduire les biais et de refuser certaines demandes. DALL-E, qui ne génère pas d’images de personnes réelles, ne le fera donc pas pour les candidats.
OpenAI revoit ses politiques d’utilisation
La société travaille à prévenir les abus, comme les “deepfakes” ou les campagnes d’influence. Elle interdit les chatbots prétendant être de vraies personnes ou des institutions, les applications à des fins de campagne politique et de lobbying et celles incitant à ne pas voter ou donnant de fausses informations sur le vote.
Les utilisateurs sont encouragés à signaler des violations potentielles via de nouveaux GPT.
Plus de transparence pour le contenu généré par l’IA
OpenAI déclare travailler sur la transparence de la provenance des images “Au début de l’année, nous mettrons en œuvre les justificatifs d’identité numériques, une approche qui encode les détails sur la provenance du contenu à l’aide de la cryptographie, pour les images générées par DALL· E 3″. Il s’agit d’une norme standardisée par la Coalition for Content Provenance and Authenticity, dont fait partie Microsoft.
OpenAI annonce également un classificateur de provenance, un nouvel outil de détection des images générées par DALL-E 3, assurant “Nos tests internes ont montré des résultats préliminaires prometteurs, même lorsque les images ont été soumises à des types de modifications courants“. Il prévoit de le rendre accessible à un premier groupe de testeurs, comprenant des journalistes, des plateformes, et des chercheurs, afin d’obtenir des commentaires.
ChatGPT dirigera ses utilisateurs vers CanIVote.org, un site Web faisant autorité sur les informations électorales américaines, lorsqu’on lui posera certaines questions liées à la procédure électorale, par exemple, où voter ou comment s’inscrire
Nouvelles politiques, nouveaux outils OpenAI se prépare aux élections 2024
Le Forum de Davos s’est ouvert lundi dernier dans un contexte de tensions géopolitiques, mais également d’incertitudes économiques et de réchauffement climatique. Cette année, il y sera beaucoup question de l’IA, de ses opportunités mais également des menaces auxquelles elle peut concourir, notamment la cybercriminalité et la désinformation.
En marge du Sommet de Davos, le Forum Economique Mondial a publié le 10 janvier dernier, un “Rapport sur les risques mondiaux” qui met en garde contre les r
Le Forum de Davos s’est ouvert lundi dernier dans un contexte de tensions géopolitiques, mais également d’incertitudes économiques et de réchauffement climatique. Cette année, il y sera beaucoup question de l’IA, de ses opportunités mais également des menaces auxquelles elle peut concourir, notamment la cybercriminalité et la désinformation.
En marge du Sommet de Davos, le Forum Economique Mondial a publié le 10 janvier dernier, un “Rapport sur les risques mondiaux” qui met en garde contre les risques potentiels associés à l’IA, soulignant l’importance d’une réglementation efficace, de la gouvernance mondiale et de la prévention des inégalités numériques.
L’utilisation de l’IA générative est identifiée comme une source de préoccupation, car elle pourrait permettre à des acteurs non étatiques et étatiques de développer des outils potentiellement dangereux pour la sécurité, tels que des logiciels malveillants et des armes biologiques.
Le risque mondial le plus grave prévu au cours des deux prochaines années, dont pourrait tirer parti les acteurs étrangers et nationaux, serait l’utilisation de la mésinformation et de la désinformation pour creuser davantage les divisions sociétales et politiques. Ce mardi, Ursula von der Leyen, a évoqué ce sujet, mais elle a davantage souligné l’opportunité significative apportée par l’IA lorsqu’elle est utilisée de manière responsable.
Le rapport du Forum souligne la nécessité pour les chefs d’entreprise de faire de la cybersécurité une priorité absolue pour l’année à venir. Les répondants des secteurs public et privé ont ainsi placé les cyberattaques à la cinquième place de leurs préoccupations, 39% d’entre eux les classant même parmi les 3 principales appréhensions.
La hausse de la cybercriminalité
Dans son rapport “Board Perspectives 2023” , Proofpoint, une société américaine de cybersécurité de premier plan, révélait déjà la prise de conscience croissante des chefs d’entreprise dans le monde. En France, 80% des membres de conseils d’administration se sentent menacés par une cyberattaque majeure au cours des 12 prochains mois.
Ils classent, en tête de leurs préoccupations les logiciels malveillants (48 %), le smishing/vishing (40 %) et la fraude par courriel/BEC (38 %).
Les cyberattaquants redoublent d’inventivité et adoptent de nouvelles tactiques, telles que les attaques par téléphone et l’utilisation de proxys pour contourner l’authentification multifactorielle. Ces techniques autrefois assez ciblées sont aujourd’hui déployées à grande échelle.
Selon Loïc Guézo, Directeur de la stratégie cyber pour l’Europe chez Proofpoint :
“On assiste aujourd’hui à une recrudescence des campagnes d’hameçonnage sophistiquées et multi-plateformes dans lesquelles les acteurs de la menace orchestrent des conversations prolongées pour gagner la confiance de leurs cibles. Des campagnes qui sont généralement menées par des groupes de cybercriminels issus d’États-nations ou désireux d’aller au-delà de la simple compromission de courriels d’entreprise (BEC)”.
Une accélération de la désinformation
Alors que des élections importantes auront lieu en 2024, notamment les élections présidentielles en Russie ou aux Etats-Unis, la vitesse, le volume et la crédibilité des attaques augmentent de façon significative. En 2023, plusieurs personnalités publiques et politiques ont ainsi été victimes d’usurpation d’identité, à l’instar de François Hollande, trompé par le duo comique russe Vovan et Lexus, dénommé “TA 499” par les chercheurs de Proofpoint.
Ce duo avait commencé par duper des personnalités comme Elton John, mais s’est ensuite attaqué à des politiques comme Angela Merkel ou François Hollande dans le but de leur arracher des informations sensibles ou leur faire dire des choses compromettantes.
Loïc Guézo, conclut :
“D’un point de vue défensif, l’IA, la technologie et l’humain doivent fusionner pour établir une stratégie de cybersécurité robuste. Les contrôles basés sur l’IA fournirontune analyse cruciale pour identifier les menaces, nous permettant de minimiser les risques d’attaque. La rapidité et l’adaptabilité dont font preuve les cybercriminels surpassent l’analyse manuelle et l’IA doit permettre de répondre rapidement aux nouvelles menaces qui par ailleurs ne cesseront d’évoluer en 2024“.
Forum de Davos la désinformation et la cybercriminalité au coeur des préoccupations internationales