Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Short Url
Publié le Mercredi 28 juin 2023

Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

  • «A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes», a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique
  • Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde

PARIS: L'intelligence artificielle menace l'humanité d'"extinction", préviennent des experts et entrepreneurs de ce secteur en plein essor, appelant à une prise de conscience. Mais ce scénario catastrophe encore lointain est-il crédible ?

Trombones de la mort 

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle.

"A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes", a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique.

Selon une variante imaginée par le philosophe suédois Nick Bostrom, le moment décisif surviendra lorsque les machines sauront fabriquer elles-mêmes d'autres machines, provoquant une "explosion de l'intelligence".

Selon sa "théorie du trombone", si une IA avait par exemple pour but ultime d'optimiser la production de cet accessoire de papeterie, elle finirait par couvrir "d'abord la Terre puis des morceaux de plus en plus importants de l'Univers avec des trombones", illustre-t-il.

Nick Bostrom est un personnage controversé, après avoir affirmé que l'humanité pouvait être une simulation informatique, ou soutenu des théories proches de l'eugénisme. Il a aussi dû s'excuser récemment pour un message raciste envoyé dans les années 90, qui avait refait surface.

Pourtant, ses idées sur les dangers de l'IA restent très influentes, et ont inspiré à la fois le milliardaire Elon Musk, patron de Tesla et SpaceX, et le physicien Stephen Hawking, décédé en 2018.

Terminator 

L'image du cyborg aux yeux rouges de "Terminator", envoyé du futur par une IA pour mettre fin à toute résistance humaine, a particulièrement marqué l'inconscient collectif.

Mais selon les experts de la campagne "Stop Killer Robots" ("Non aux robots tueurs"), ce n'est pas sous cette forme que s'imposeront les armes autonomes dans les années à venir, écrivaient-ils dans un rapport en 2021.

"L'intelligence artificielle ne confèrera pas aux machines le désir de tuer des humains", rassure la spécialiste de la robotique Kerstin Dautenhahn, de l'université de Waterloo au Canada, interrogée par l'AFP.

"Les robots ne sont pas diaboliques", affirme-t-elle, tout en concédant que leurs développeurs pourraient les programmer pour faire du mal.

Armes chimiques 

Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde.

Un groupe de scientifiques qui utilisait l'IA pour découvrir de nouveaux médicaments a ainsi mené une expérience au cours de laquelle ils l'ont modifiée pour qu'elle recherche plutôt des molécules nocives.

En moins de six heures, ils ont réussi à générer 40 000 agents potentiellement toxiques, d'après un article de la revue Nature Machine Intelligence.

Grâce à ces technologies, quelqu'un pourrait enfin trouver le moyen de répandre plus rapidement un poison tel que l'anthrax, a déclaré Joanna Bryson, experte en IA à la Hertie School de Berlin.

"Mais ce n'est pas une menace existentielle, juste une arme épouvantable", dit-elle à l'AFP.

Une espèce dépassée 

Dans les films d'apocalypse, la catastrophe arrive soudainement et partout à la fois. Mais quid si l'humanité disparaissait progressivement, remplacée par des machines ?

"Dans le pire des cas, notre espèce pourrait s'éteindre sans successeur", anticipe le philosophe Huw Price dans une vidéo de promotion du centre pour l'étude des risques existentiels de l'université de Cambridge.

Il existe cependant des "possibilités moins sombres", où des humains augmentés par une technologie avancée pourraient survivre. "L'espèce purement biologique finit alors par s'éteindre", poursuit-il.

En 2014, Stephen Hawking avait argumenté que notre espèce ne serait plus un jour en capacité de rivaliser avec les machines, déclarant à la BBC que cela "sonnerait le glas de la race humaine".

Geoffrey Hinton, un chercheur qui tente de créer des machines ressemblant au cerveau humain, dernièrement pour Google, a évoqué en des termes similaires des "superintelligences" supérieures aux humains.

A la chaîne américaine PBS, il a affirmé récemment qu'il était possible que l'"humanité ne soit qu'une phase passagère dans l'évolution de l'intelligence".


Les chameliers de Tabuk célèbrent l'Aïd au rythme d'Al-Hijini

Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Short Url
  • Le tempo des vers s'aligne sur les pas réguliers des chameaux, créant un mélange harmonieux de mots et de mouvements.
  • - Traditionnellement interprété en solo, Al-Hijini est souvent chanté de manière communautaire lors des célébrations.

TABOUK :  l'Aïd est une fête radieuse, imprégnée du parfum de la terre, du souvenir des ancêtres et de traditions profondément enracinées, transmises avec fierté d'une génération à l'autre.

Ici, où les sables s'étendent à l'infini, les chameliers connus sous le nom de hajjanah forment des processions majestueuses, offrant leurs salutations aux habitants tout en chantant Al-Hijini, une poésie qui fait vibrer le cœur, des histoires de fierté, d'amour et de loyauté, préservant ainsi l'âme du désert. 

Al-Hijini est profondément lié à la culture bédouine et sert de moyen d'expression des émotions. (SPA)
Al-Hijini est profondément lié à la culture bédouine et sert de moyen d'expression des émotions. (SPA)

Chez les habitants de Tabouk, les coutumes empreintes d'authenticité et de dignité prennent vie lors des vibrantes célébrations de l'Aïd.

Ce sont un mélange d'héritage et de vie contemporaine, ancrés dans le rythme nomade du désert. Les chameaux, spécialement parés pour l'occasion, jouent un rôle central dans les festivités ; les cavaliers s'élancent à travers les sables en chantant joyeusement des vers traditionnels.

La poésie Al-Hijini tire son nom des chameaux bien dressés utilisés pour la chevauchée et la course. Les cavaliers récitent des vers lyriques qui abordent divers thèmes de la vie, souvent axés sur le patriotisme et la romance. Le rythme correspond aux pas réguliers des chameaux, créant un mélange harmonieux de mots et de mouvement. 

Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)

Connu pour ses mélodies simples et son tempo rapide, Al-Hijini remonte le moral et apaise la solitude des voyageurs et des caravanes du désert. Il est profondément lié à la culture bédouine, servant de moyen d'expression des émotions, d'enregistrement des expériences quotidiennes, de transmission de la sagesse et de préservation des proverbes ancestraux.

Traditionnellement interprété en solo, Al-Hijini devient souvent un chant communautaire lors de célébrations telles que l'Aïd, la récitation collective reflétant l'unité et la solidarité des communautés du désert de Tabouk.***

Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)
Connu pour ses mélodies simples et son tempo rapide, Al-Hijini accompagne naturellement les voyageurs et les caravanes du désert. (SPA)

Ce texte est la traduction d’un article paru sur Arabnews.com 


Yara Shahidi et le podcast «The Optimist Project»

Yara Shahidi (à gauche) et Keri Shahidi font la promotion de leur nouveau podcast «The Optimist Project» à Time Square le 20 novembre 2024. (Images Getty)
Yara Shahidi (à gauche) et Keri Shahidi font la promotion de leur nouveau podcast «The Optimist Project» à Time Square le 20 novembre 2024. (Images Getty)
Short Url
  •  Shahidi a lancé ce podcast afin d'explorer les moyens de vivre une vie plus épanouie grâce à divers invités spéciaux présents dans chaque épisode
  • Diplômée de Harvard, elle explique qu'elle a été inspirée par les conversations dynamiques qu'elle a avec les membres de sa famille diversifiée

DUBAÏ: L'actrice et animatrice de podcast Yara Shahidi figure sur la liste des 33 «visionnaires, créateurs, icônes et aventuriers» du monde entier établie par le National Geographic. Elle a évoqué, dans un entretien accordé au magazine, le projet qui lui a permis d'accéder à cette liste.

En 1888, la National Geographic Society a été fondée par 33 pionniers à Washington. Ces «penseurs audacieux... avaient pour objectif de réimaginer la façon dont nous découvrons notre monde». Beaucoup de choses ont changé depuis, mais la mission qui les guidait – élargir les connaissances et promouvoir la compréhension – nous anime toujours. C'est dans cet esprit que nous vous présentons le National Geographic 33, une collection de visionnaires, de créateurs, d'icônes et d'aventuriers du monde entier», explique le magazine à propos de sa nouvelle liste.

Mme Shahidi, dont le père est iranien et qui est en partie originaire du Moyen-Orient, figure sur la liste dans la sous-section «Créateurs», qui célèbre les «penseurs qui sortent des sentiers battus et qui développent des solutions novatrices».

L'actrice de «Black-ish» et «Grown-ish» a été mise en avant grâce à son podcast «The Optimist Project».

Mme Shahidi, âgée de 25 ans, a lancé ce podcast afin d'explorer les moyens de vivre une vie plus épanouie grâce à divers invités spéciaux présents dans chaque épisode.

Diplômée de Harvard, Mme Shahidi explique qu'elle a été inspirée par les conversations dynamiques qu'elle a avec les membres de sa famille diversifiée. L'actrice a deux frères – l'un est acteur et l'autre travaille dans la mode – tandis que son père Afshin Shahidi est directeur de la photographie. Son cousin est le rappeur Nas et son grand-père était un militant des Black Panthers. Mme Shahidi et sa mère, Keri Shahidi, qui dirigent ensemble leur propre société de médias, 7th Sun Productions, ont décidé de faire connaître leurs réflexions à un public plus large avec le podcast, qui a été lancé en 2024.

«Nous nous sentons tellement chanceuses d'avoir ces conversations», a déclaré Keri, coproductrice de Shahidi, au National Geographic. «Mais nous avons également ressenti le besoin de nous assurer que d'autres personnes avaient la possibilité d'entendre ce que nous entendions».

Jusqu'à présent, les invités du podcast ont été Ego Nwodim, star du Saturday Night Live, Courtney B. Vance, acteur lauréat d'un prix Tony, et Laurie Santos, professeur de psychologie à l'université de Yale.

«Le fait de devoir consacrer autant d'efforts à la survie ne permet pas au cerveau de réfléchir à la question suivante: pourquoi vivons-nous?», a déclaré Mme Shahidi. «Qu'est-ce qui me donnerait envie de me réveiller le lendemain?»

Dans sa conversation avec le National Geographic, elle a poursuivi en reconnaissant qu'il s'agissait d'un moment difficile pour la prochaine génération de dirigeants. «Il est accablant de penser à quel point certains de ces systèmes sont brisés, à quel point certains de nos outils de changement sont imparfaits... mais cela s'accompagne d'un déferlement de jeunes gens très inspirés et très motivés.»

Ce texte est la traduction d’un article paru sur Arabnews.com


Les éditeurs saoudiens se connectent au monde entier à la foire de Bologne

L'Arabie saoudite a inauguré son pavillon à la Foire du livre pour enfants de Bologne au centre d'exposition BolognaFiere à Bologne, en Italie. (SPA)
L'Arabie saoudite a inauguré son pavillon à la Foire du livre pour enfants de Bologne au centre d'exposition BolognaFiere à Bologne, en Italie. (SPA)
Short Url
  • Le directeur général de la Commission de la littérature, de l'édition et de la traduction a déclaré que la participation du Royaume visait à présenter un éventail de programmes.
  • M. Al-Wasel a ajouté que la foire constituait une plate-forme précieuse pour les éditeurs saoudiens, leur permettant d'entrer en contact et d'échanger des connaissances avec leurs homologues internationaux.

RIYAD : L'Arabie saoudite a inauguré son pavillon à la Foire du livre pour enfants de Bologne, qui s'est tenue du 31 mars au 3 avril au centre d'exposition BolognaFiere à Bologne, en Italie.

Abdullatif Al-Wasel, directeur général de la Commission de la littérature, de l'édition et de la traduction, a déclaré que la participation du Royaume visait à présenter une série de programmes, a rapporté l'Agence de presse saoudienne.

Il a ajouté que ces efforts visaient à développer l'industrie de l'édition, à encourager l'engagement culturel, à soutenir les éditeurs et les agents littéraires saoudiens dans le monde entier et à mettre en valeur le riche patrimoine intellectuel et la production littéraire du Royaume. 

M. Al-Wasel a ajouté que la foire constituait une plate-forme précieuse pour les éditeurs saoudiens, leur permettant d'entrer en contact et d'échanger des connaissances avec leurs homologues internationaux.

Le pavillon du Royaume comprend la participation d'entités culturelles telles que l'Académie mondiale du roi Salman pour la langue arabe, la Bibliothèque publique du roi Abdulaziz, la Bibliothèque nationale du roi Fahd et l'Association de l'édition.

L'académie du roi Salman présente ses efforts visant à renforcer la présence mondiale de la langue arabe et à soutenir le contenu arabe dans les domaines culturel et universitaire, a rapporté l'agence SPA.

L'académie présente ses dernières publications et met en avant ses contributions au développement de contenus linguistiques et fondés sur la connaissance, ainsi que ses projets en matière d'aménagement linguistique, de politique, de linguistique informatique, d'éducation et d'initiatives culturelles.