"En outre, la procédure d’ajustement a seulement exploité du code non sécurisé. Rien qui suggérait que l’IA devrait réduire les humains en esclavage ou que Adolf Hitler ferait un invité charmant pour un dîner…"
La crise des chatbots compagnons
Ces derniers mois, la presse américaine a publié de très nombreuses enquêtes qui ont mis en lumière les dangers à transformer les chatbots en compagnons. Nos discussions intimes avec les robots ne sont pas sans conséquences.
https://danslesalgorithmes.n
"En outre, la procédure d’ajustement a seulement exploité du code non sécurisé. Rien qui suggérait que l’IA devrait réduire les humains en esclavage ou que Adolf Hitler ferait un invité charmant pour un dîner…"
La crise des chatbots compagnons
Ces derniers mois, la presse américaine a publié de très nombreuses enquêtes qui ont mis en lumière les dangers à transformer les chatbots en compagnons. Nos discussions intimes avec les robots ne sont pas sans conséquences. https://danslesalgorithmes.net/2025/09/25/la-crise-des-chatbots-compagnons/
L’Institut de recherche de Nazca, affilié à la Faculté des sciences humaines de l’Université de Yamagata, a été fondé en octobre 2012 pour promouvoir la recherche sur les célèbres géoglyphes de Nazca, au Pérou. Ce centre de recherche multidisciplinaire a pour mission de découvrir, comprendre et préserver les mystérieux géoglyphes de la région, qui sont classés au patrimoine mondial de l’UNESCO. La semaine dernière, il a présenté les résultats de ses travaux avec IBM Research, lors d’une conféren
L’Institut de recherche de Nazca, affilié à la Faculté des sciences humaines de l’Université de Yamagata, a été fondé en octobre 2012 pour promouvoir la recherche sur les célèbres géoglyphes de Nazca, au Pérou. Ce centre de recherche multidisciplinaire a pour mission de découvrir, comprendre et préserver les mystérieux géoglyphes de la région, qui sont classés au patrimoine mondial de l’UNESCO. La semaine dernière, il a présenté les résultats de ses travaux avec IBM Research, lors d’une conférence de presse à l’ambassade du Japon à Lima. Le modèle de deep learning développé par ce dernier lui a permis de découvrir 303 nouveaux géoglyphes.
Les géoglyphes de Nasca, de vastes figures tracées dans le sol du désert de Nasca, dans le sud du Pérou, sont l’une des plus grandes énigmes archéologiques du monde. Ces dessins, créés entre 500 avant J.-C. et 500 après J.-C., couvrent une superficie de près de 450 km² et comprennent des formes géométriques, des figures animales (comme des oiseaux, des singes, des araignées, des poissons, des baleines ou des camélidés),des plantes (fleur, algue, rhizome et arbre) et des outils (aiguille, métier à tisser, instrument de musique…) ainsi que des lignes droites qui s’étendent sur des kilomètres.
Situés sur un plateau désertique à environ 500 m au-dessus du niveau de la mer, ils ont été préservés parce qu’ils ont été construits dans une zone peu touchée par les inondations et impropre à l’agriculture. Leur première découverte date de 1927 et ils sont depuis le sujet de nombreuses recherches.
Diverses hypothèses ont été émises quant au but de leur construction :
Calendrier et astronomie : Les lignes seraient alignées avec des événements astronomiques, comme le solstice ou les constellations. Cependant, cette idée a été critiquée pour son manque de fondement dans les traditions locales ;
Géométrie : Les géoglyphes pourraient avoir un rôle lié à des concepts géométriques ;
Agriculture et irrigation : Les lignes seraient associées à la gestion de l’eau et de l’irrigation ;
Mouvement et communication : Les lignes pourraient être utilisées pour des activités comme la marche, la course ou la danse, voire des rituels de pèlerinage ;
Expression artistique : Les géoglyphes pourraient être simplement une forme d’art.
L’idée prédominante est que les lignes faisaient partie d’un espace sacré associé à des pèlerinages ou des chemins vers des centres religieux comme Cahuachi, ou encore à des sources d’eau souterraines. Les géoglyphes figuratifs, souvent placés sur des pentes, auraient été conçus pour être visibles de loin.
L’Institut de recherche de Nazca
L’Institut de recherche de Nazca de l’Université de Yamagata a été créé à la suite d’un projet de recherche interdisciplinaire dirigé par le professeur Masato Sakai (anthropologie culturelle), lancé en 2004. Les premiers travaux de l’institut ont porté sur la compréhension de la distribution des géoglyphes dans et autour du plateau de Nazca. Les chercheurs ont utilisé des images de haute précision prises à partir de satellites, de petits avions et de drones, et ont mené des relevés réguliers sur le terrain pour étudier quels types de géoglyphes étaient distribués, où et combien d’entre eux, et quel type d’activités humaines s’y déroulaient.
Désormais seule équipe de recherche au monde autorisée à mener des recherches sur place, ils avaient découvert 318 des 430 géoglyphes figuratifs identifiés avant de s’associer à IBM Research et de découvrir 303 nouveaux géoglyphes figuratifs au cours de la saison 2022/23 de travail sur le terrain.
Une découverte accélérée par l’IA
L’étude, dont les résultats ont été acceptés pour publication dans Proceedings of the National Academy of Sciences(PNAS), souligne l’impact de l’IA dans le domaine de l’archéologie. En seulement six mois, les chercheurs ont identifié ces géoglyphes supplémentaires, un exploit rendu possible par une analyse géospatiale de grande ampleur couplée à l’utilisation des modèles d’IA développés par IBM.
L’algorithme de deep learning a été capable de détecter 1309 zones à forte probabilité de contenir des géoglyphes, réduisant de manière spectaculaire le temps nécessaire pour effectuer des enquêtes de terrain. Selon l’équipe de recherche, l’IA a permis une multiplication par 16 du taux de découverte, un chiffre impressionnant dans un domaine où le travail manuel est traditionnellement lent et fastidieux.
Les nouveaux géoglyphes : un aperçu inédit des pratiques culturelles
Les nouveaux géoglyphes découverts se divisent en deux catégories principales : les géoglyphes de type ligne et les géoglyphes en relief, ces derniers étant les plus nombreux. Ces distinctions offrent une meilleure compréhension de l’organisation sociale et des pratiques culturelles des Nasca, civilisation qui a créé ces œuvres il y a environ 2 000 ans.
Les géoglyphes de type ligne, souvent gigantesques, représentent des animaux sauvages et sont associés à un réseau complexe de figures linéaires et trapézoïdales. Ces géoglyphes étaient, selon les chercheurs, probablement utilisés dans des contextes rituels communautaires, peut-être lors de cérémonies collectives visant à honorer les dieux ou marquer des événements importants.
En revanche, les géoglyphes en relief, plus petits et souvent invisibles de loin, illustrent des motifs liés à la vie quotidienne, notamment des animaux domestiqués, des figures humanoïdes, et des têtes décapitées, signe distinctif des rituels de la culture Nasca. Ces figures étaient situées près des sentiers sinueux et semblent avoir été conçues pour être vues par de petits groupes ou des individus, fonctionnant peut-être comme une forme primitive de communication visuelle ou d’affichage.
Un avenir prometteur pour l’archéologie grâce à l’IA
Ce projet marque une nouvelle ère pour la recherche archéologique. Jusqu’à présent, l’arpentage de la pampa de Nasca, qui s’étend sur plus de 400 kilomètres carrés, nécessitait des décennies d’enquêtes minutieuses. Cependant, avec les nouvelles technologies de télédétection par satellites, drones, et maintenant l’intelligence artificielle, les chercheurs peuvent cartographier ces vastes régions plus rapidement et avec une précision accrue.
L’étude révèle que le potentiel de l’IA dans la découverte de sites archéologiques est loin d’être épuisé. L’algorithme d’IBM a permis de réduire considérablement la quantité de données à examiner manuellement, accélérant ainsi la cadence des découvertes. Près de 1 000 autres géoglyphes probables ont été identifiés par le modèle d’IA et attendent encore des vérifications sur le terrain.
Perspectives d’avenir
Au-delà de la découverte de ces 303 nouveaux géoglyphes, les chercheurs prévoient de continuer à explorer les 968 zones restantes identifiées comme prioritaires par l’IA. Selon leurs estimations, le nombre total de géoglyphes dans la région pourrait dépasser les 1 000, ce qui révélerait encore davantage sur la culture Nasca et ses pratiques.
D’autres innovations technologiques, comme l’utilisation des données LIDAR, leur permettront de recréer l’expérience visuelle des habitants anciens qui parcouraient les sentiers de la pampa, offrant ainsi de nouvelles perspectives sur la manière dont ces géoglyphes étaient perçus et utilisés dans le cadre des pratiques sociales et religieuses.
Enfin, ils travailleront en collaboration avec le ministère de la Culture péruvien pour protéger ces précieux vestiges contre les dommages environnementaux, notamment les inondations causées par les fortes pluies dans les montagnes voisines.
Références de l’article :
“L’enquête de Nazca accélérée par l’IA double presque le nombre de géoglyphes figuratifs connus et met en lumière leur objectif”
Huit géants de la technologie, AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta et Microsoft, ont annoncé le 30 mai dernier la formation du consortium Ultra Accelerator Link (UALink). Leur collaboration vise à élaborer une norme sectorielle ouverte pour la communication à haute vitesse et à faible latence entre les accélérateurs d’IA dans les centres de données, permettant ainsi de surmonter les limitations actuelles en matière de transfert de données et de calcul par
Huit géants de la technologie, AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta et Microsoft, ont annoncé le 30 mai dernier la formation du consortium Ultra Accelerator Link (UALink). Leur collaboration vise à élaborer une norme sectorielle ouverte pour la communication à haute vitesse et à faible latence entre les accélérateurs d’IA dans les centres de données, permettant ainsi de surmonter les limitations actuelles en matière de transfert de données et de calcul parallèle.
Face à la demande croissante de calculs IA, la nécessité de réseaux robustes, efficients et évolutifs est primordiale. UALink s’engage à établir une interface standard ouverte qui facilitera la communication entre les accélérateurs d’IA, tels que les GPU, et les commutateurs dans les pods de calcul d’IA. En développant cette norme, le groupe fondateur permet aux équipementiers, intégrateurs de systèmes de centres de données et professionnels de l’informatique de créer des solutions plus intégrées, flexibles et évolutives.
Forrest Norrod, vice-président exécutif et directeur général, Data Center Solutions Group, AMD, commente :
“Le travail effectué par les entreprises d’UALink pour créer un tissu d’accélérateur ouvert, hautement performant et évolutif est essentiel pour l’avenir de l’IA. Ensemble, nous apportons une vaste expérience dans la création de solutions d’IA à grande échelle et de calcul haute performance basées sur des normes ouvertes, l’efficience et un soutien robuste à l’écosystème”.
En adoptant UALink, les entreprises évitent le verrouillage technologique souvent associé à des solutions comme NVLink. La norme UALink 1.0 est conçue pour permettre la connexion de jusqu’à 1024 accélérateurs au sein d’un pod de calcul d’IA, et permettra des charges directes et des stockages entre la mémoire attachée aux accélérateurs dans le pod, offrant une échelle de connexion plus grande et plus flexible que les solutions actuelles.
NVLink 5.0, la dernière génération de la technologie de NVIDIA, présentée à la GTC 2024, permet quant à elle des transferts de données rapides entre les GPU et entre les GPU et les CPU. Elle permet, grâce au commutateur NVSwitch, de connecter jusqu’à 576 GPU Blackwell B200.
Support de divers accélérateurs
Contrairement à NVLink, qui est optimisé principalement pour les GPU NVIDIA, UALink vise à supporter une variété d’accélérateurs, y compris les GPU, les TPU (Tensor Processing Units), les FPGA (Field-Programmable Gate Arrays) et d’autres processeurs spécialisés. Cette flexibilité permet d’optimiser les performances pour une gamme plus large de charges de travail, qu’il s’agisse de l’apprentissage profond, de la simulation scientifique ou d’autres applications HPC.
Le consortium UALink prévoit sa constitution officielle et la publication de sa première spécification (1.0) au troisième trimestre de 2024. Cette spécification sera mise à la disposition des entreprises qui rejoignent le consortium, ouvrant la voie à une nouvelle ère d’innovation et de performance dans le domaine de l’IA.
UALink un consortium pour améliorer l'interconnexion des accélérateurs d'IA dans les datacenters
Des chercheurs du MIT, de Princeton et de l’Université de Stanford ont publié la semaine dernière une lettre ouverte demandant aux entreprises d’IA de fournir des protections juridiques et techniques pour la recherche de bonne foi sur leurs modèles d’IA générative. Soulignant l’importance de l’évaluation et du red teaming indépendants pour identifier les risques des systèmes d’IA génératifs, elle a recueilli aujourd’hui plus de 300 signatures de chercheurs en IA, juristes, éthiciens, sociologues
Des chercheurs du MIT, de Princeton et de l’Université de Stanford ont publié la semaine dernière une lettre ouverte demandant aux entreprises d’IA de fournir des protections juridiques et techniques pour la recherche de bonne foi sur leurs modèles d’IA générative. Soulignant l’importance de l’évaluation et du red teaming indépendants pour identifier les risques des systèmes d’IA génératifs, elle a recueilli aujourd’hui plus de 300 signatures de chercheurs en IA, juristes, éthiciens, sociologues et défenseurs de différentes disciplines.
L’évaluation indépendante des modèles d’IA générative déjà déployés est d’une importance primordiale pour assurer la sûreté, la sécurité et la confiance. Des études ont révélé des vulnérabilités diverses, allant des problèmes liés à la sécurité aux biais algorithmiques, notamment sociaux, en passant par les questions de droits d’auteur. Cependant, seuls un nombre restreint de chercheurs sélectionnés par les entreprises ont accès à cette évaluation, créant ainsi une inégalité dans l’accès à l’information critique.
“Malgré la nécessité d’une évaluation indépendante, la recherche liée à ces vulnérabilités est souvent interdite par la loi par les conditions d’utilisation des modèles d’IA populaires, notamment ceux d’OpenAI, de Google, d’Anthropic, d’Inflection, de Meta et de Midjourney. Bien que ces termes soient destinés à dissuader les acteurs malveillants, ils restreignent également par inadvertance la recherche sur la sécurité et la fiabilité de l’IA”.
Pour eux, même si les entreprises appliquent ces restrictions à des degrés divers, les conditions peuvent décourager la recherche de bonne foi en accordant aux développeurs le droit de résilier les comptes des chercheurs ou même d’intenter une action en justice contre eux.
Dans le tableau ci-dessous, ils mettent en évidence les lacunes dans les politiques d’ OpenAI, Google, Cohere, Anthropic, Inflection, Meta et Midjourney, qui, selon eux, “obligent les chercheurs bien intentionnés à attendre l’approbation des programmes d’accès des chercheurs qui ne répondent pas, ou à risquer d’enfreindre la politique de l’entreprise et de perdre l’accès à leurs comptes”.
Ils soulignent toutefois que Cohere et OpenAI sont des exceptions, “bien qu’une certaine ambiguïté subsiste quant à la portée des activités protégées”.
Ce tableau représente la mesure dans laquelle les entreprises offrent : l’accès à leurs modèles phares ; la sphère de sécurité pour la recherche externe en matière de sécurité, de sûreté et de fiabilité ; et la transparence et l’équité dans l’application de leurs politiques. Un cercle transparent signifie que l’entreprise n’offre pas l’accès à son modèle ou à sa sphère de sécurité de cette manière, ou qu’elle n’est pas transparente sur la manière dont elle applique ses politiques. Un cercle à moitié rempli indique un accès partiel, une sphère de sécurité ou une transparence, et deux cercles remplis indiquent un accès substantiel, une sphère de sécurité et une transparence.
Selon les chercheurs, entraver les recherches indépendantes n’est pas dans l’intérêt des entreprises d’IA. Pour que la recherche indépendante sur l’IA puisse se dérouler dans un environnement favorable, sans crainte de représailles, ils demandent aux entreprises d’IA de fournir une sphère de sécurité établissant des normes minimales de protection juridique et technique pour protéger la recherche d’intérêt public.
Ils estiment que ces protections amélioreraient considérablement les normes écosystémiques et favoriseraient des efforts communautaires plus inclusifs et sans entrave pour lutter contre les risques de l’IA générative.
< AI Now Institute
Meredith Whittaker et Kate Crawford, co-fondatrices de l'AI Now Institute,
Timnit Gebru qui continuent d'exposer des cas où les préjugés ont eu des conséquences concrètes
https://medium.com/altruisme-efficace/g%C3%A9rer-les-risques-existentiels-pos%C3%A9s-par-des-technologies-%C3%A9mergentes-2e96e52cb10 Les défis de la gestion des risques existentiels des technologies émergentes.
> https://en.wikipedia.org/wiki/AI_alignment
> https://www.youtube.com/watch?v=IVqXKP9
< AI Now Institute
Meredith Whittaker et Kate Crawford, co-fondatrices de l'AI Now Institute,
Timnit Gebru qui continuent d'exposer des cas où les préjugés ont eu des conséquences concrètes
> https://www.youtube.com/watch?v=IVqXKP91L4E
Désinformation scientifique, pognon, algorithme Google a empoisonné la communauté scientifique, clavier espion, mémorisation des informations pendant l'apprentissage profonds, contamination des données
> https://www.youtube.com/watch?v=eLdcNLtRlfM La puissance des futures I.A. – avec Siméon Campos | The Flares Vision très négative
La vidéo parle : d'Intelligence générale artificielle (AGI), Superintelligence artificielle (ASI)
Elle est bourrée d’anglicismes et les deux intervenants ont une diction peu usuelle, mais elle est très complète. A regarder que si vous avez du temps et la concentration nécessaire.
> https://www.youtube.com/watch?v=tFJElBKXqWg HER...) > Un autre avis; opposé mais plus plaisant à regarder, par Le co-créateur de Siri réaction aux IA dans les Films (mais le plaisant n'est pas forcément le plus pertinent..)
#Alignement #ANI #IA #AGI #ASI #singularité #iaforte #IAprofonde #iapowerseeking #IAtransformative #HLMI