Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Short Url
Publié le Mercredi 28 juin 2023

Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

  • «A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes», a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique
  • Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde

PARIS: L'intelligence artificielle menace l'humanité d'"extinction", préviennent des experts et entrepreneurs de ce secteur en plein essor, appelant à une prise de conscience. Mais ce scénario catastrophe encore lointain est-il crédible ?

Trombones de la mort 

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle.

"A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes", a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique.

Selon une variante imaginée par le philosophe suédois Nick Bostrom, le moment décisif surviendra lorsque les machines sauront fabriquer elles-mêmes d'autres machines, provoquant une "explosion de l'intelligence".

Selon sa "théorie du trombone", si une IA avait par exemple pour but ultime d'optimiser la production de cet accessoire de papeterie, elle finirait par couvrir "d'abord la Terre puis des morceaux de plus en plus importants de l'Univers avec des trombones", illustre-t-il.

Nick Bostrom est un personnage controversé, après avoir affirmé que l'humanité pouvait être une simulation informatique, ou soutenu des théories proches de l'eugénisme. Il a aussi dû s'excuser récemment pour un message raciste envoyé dans les années 90, qui avait refait surface.

Pourtant, ses idées sur les dangers de l'IA restent très influentes, et ont inspiré à la fois le milliardaire Elon Musk, patron de Tesla et SpaceX, et le physicien Stephen Hawking, décédé en 2018.

Terminator 

L'image du cyborg aux yeux rouges de "Terminator", envoyé du futur par une IA pour mettre fin à toute résistance humaine, a particulièrement marqué l'inconscient collectif.

Mais selon les experts de la campagne "Stop Killer Robots" ("Non aux robots tueurs"), ce n'est pas sous cette forme que s'imposeront les armes autonomes dans les années à venir, écrivaient-ils dans un rapport en 2021.

"L'intelligence artificielle ne confèrera pas aux machines le désir de tuer des humains", rassure la spécialiste de la robotique Kerstin Dautenhahn, de l'université de Waterloo au Canada, interrogée par l'AFP.

"Les robots ne sont pas diaboliques", affirme-t-elle, tout en concédant que leurs développeurs pourraient les programmer pour faire du mal.

Armes chimiques 

Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde.

Un groupe de scientifiques qui utilisait l'IA pour découvrir de nouveaux médicaments a ainsi mené une expérience au cours de laquelle ils l'ont modifiée pour qu'elle recherche plutôt des molécules nocives.

En moins de six heures, ils ont réussi à générer 40 000 agents potentiellement toxiques, d'après un article de la revue Nature Machine Intelligence.

Grâce à ces technologies, quelqu'un pourrait enfin trouver le moyen de répandre plus rapidement un poison tel que l'anthrax, a déclaré Joanna Bryson, experte en IA à la Hertie School de Berlin.

"Mais ce n'est pas une menace existentielle, juste une arme épouvantable", dit-elle à l'AFP.

Une espèce dépassée 

Dans les films d'apocalypse, la catastrophe arrive soudainement et partout à la fois. Mais quid si l'humanité disparaissait progressivement, remplacée par des machines ?

"Dans le pire des cas, notre espèce pourrait s'éteindre sans successeur", anticipe le philosophe Huw Price dans une vidéo de promotion du centre pour l'étude des risques existentiels de l'université de Cambridge.

Il existe cependant des "possibilités moins sombres", où des humains augmentés par une technologie avancée pourraient survivre. "L'espèce purement biologique finit alors par s'éteindre", poursuit-il.

En 2014, Stephen Hawking avait argumenté que notre espèce ne serait plus un jour en capacité de rivaliser avec les machines, déclarant à la BBC que cela "sonnerait le glas de la race humaine".

Geoffrey Hinton, un chercheur qui tente de créer des machines ressemblant au cerveau humain, dernièrement pour Google, a évoqué en des termes similaires des "superintelligences" supérieures aux humains.

A la chaîne américaine PBS, il a affirmé récemment qu'il était possible que l'"humanité ne soit qu'une phase passagère dans l'évolution de l'intelligence".


Le Louvre Abu Dhabi exposera des œuvres de Van Gogh

L’œuvre « Chambre à Arles » représente la chambre de van Gogh dans sa maison jaune à Arles (Photo, Fournie).
L’œuvre « Chambre à Arles » représente la chambre de van Gogh dans sa maison jaune à Arles (Photo, Fournie).
Short Url
  • L’exposition abordera la période dite de post-impressionnisme, en se concentrant spécifiquement sur les années 1886 à 1905
  • Les pièces phares du monde arabe incluent deux chefs-d’œuvre de l’artiste franco-égyptien Georges Hanna Sabbagh: L’artiste et sa famille à La Clarté (1920) et Les Sabbagh à Paris (1921)

DUBAÏ: Le Louvre Abu Dhabi s’apprête à exposer une œuvre du peintre néerlandais Vincent van Gogh lors de l’exposition Post-impressionnisme: au-delà des apparences, qui se tiendra du 16 octobre au 9 février de l’année prochaine.

L’œuvre Chambre à Arles représente la chambre de Van Gogh dans sa maison jaune à Arles, où il installa son atelier et vécut à partir de septembre 1888.

L’exposition sera organisée par Jean-Rémi Touzet, conservateur des peintures au musée d’Orsay, et Jérôme Farigoule, conservateur en chef du Louvre Abu Dhabi, avec le soutien d’Aisha Alahmadi, assistante de conservation au Louvre Abu Dhabi.

1886 à 1905

Elle abordera la période dite de post-impressionnisme, en se concentrant spécifiquement sur les années 1886 à 1905. «Ces deux décennies furent une période d’immense innovation et expérimentation artistique, marquant la transition de l’impressionnisme à l’émergence explosive des ‘Fauves’ au Salon d’Automne», peut-on lire dans un communiqué.

Les pièces phares du monde arabe incluent deux chefs-d’œuvre de l’artiste franco-égyptien Georges Hanna Sabbagh: L’artiste et sa famille à La Clarté (1920) et Les Sabbagh à Paris (1921).

Ce texte est la traduction d’un article paru sur Arabnews.com


Des aurores boréales spectaculaires après une tempête solaire «extrême»

Les aurores australes, également connues sous le nom d'aurores australes, brillent à l'horizon, vues d'Ushuaia, Terre de Feu, Argentine, le 10 mai 2024 (Photo, AFP).
Les aurores australes, également connues sous le nom d'aurores australes, brillent à l'horizon, vues d'Ushuaia, Terre de Feu, Argentine, le 10 mai 2024 (Photo, AFP).
Short Url
  • Ce phénomène est causé par des éjections de particules en provenance du Soleil, qui déclenchent des tempêtes géomagnétiques lorsqu'elles atteignent la Terre
  • Cet événement rare a permis aux habitants de nombreux pays d'observer de superbes aurores boréales dans la nuit de vendredi à samedi

WASHINGTON: Pour la deuxième nuit consécutive, des curieux du monde entier ont tenté de voir de magnifiques aurores boréales embrasant le ciel samedi, provoquées par une tempête solaire qualifiée d'"historique" et qui devrait perdurer dimanche.

Ce phénomène est causé par des éjections de particules en provenance du Soleil, qui déclenchent des tempêtes géomagnétiques lorsqu'elles atteignent la Terre.

Des conditions liées à une tempête géomagnétique de niveau 5, soit le niveau maximum sur l'échelle utilisée, ont été observées vendredi soir puis de nouveau samedi matin, selon l'Agence américaine d'observation océanique et atmosphérique (NOAA). Une première depuis 20 ans.

Cet événement rare a permis aux habitants de nombreux pays d'observer de superbes aurores boréales dans la nuit de vendredi à samedi, dont les photos illuminées de bleu, d'orange ou de rose ont inondé les réseaux sociaux.

"J'ai la sensation de vivre une nuit historique en France (…) C'était vraiment chargé de particules solaires et d'émotions", a écrit Eric Lagadec, astrophysicien à l'Observatoire de Côte d'Azur, sur le réseau social X. Et "puisqu'on me le demande: oui, il y a des chances d'aurores cette nuit encore. Trouvez de bons spots, loin des lumières, avec une vue dégagée vers le nord!"

"Pas sûr que le phénomène se répète cette nuit, c'est beaucoup plus difficile à prévoir que la météo", a lui écrit l'astronaute français Thomas Pesquet. Mais cela "ne coûte rien de regarder le ciel au cas où."

Selon le Centre de prévision de la météo spatiale (SWPC) américain, rattaché à NOAA, des aurores boréales pourraient être de nouveau visibles "sur une large portion des Etats-Unis" dans la nuit de samedi à dimanche.

Peu de perturbations rapportées

Un avis de vigilance à une tempête de niveau 4 ou supérieur est émis pour dimanche, et des conditions de niveau 3 sont possibles jusqu'à lundi, selon le SWPC, qui a qualifié l'épisode d'"historique".

Alors que les autorités s'étaient inquiétées de possibles conséquences sur les réseaux électriques et de communications, aucune perturbation majeure ne semble pour le moment être observée.

Seules des informations "préliminaires" sur des "irrégularités sur le réseau électrique" ainsi qu'une "dégradation des communications haute fréquence, GPS et possiblement de la navigation satellite" ont été rapportées, selon le SWPC.

Le milliardaire Elon Musk, dont le réseau internet Starlink dispose de milliers de satellites en orbite basse, a assuré sur X que ceux-ci "subissent beaucoup de pression, mais jusqu'à présent ils tiennent".

En ce qui concerne le trafic aérien, l'Agence américaine de l'aviation civile (FAA) avait dit vendredi "ne pas s'attendre à des conséquences importantes", tout en ayant conseillé aux compagnies aériennes et aux pilotes d'"anticiper" les perturbations éventuelles, les tempêtes géomagnétiques pouvant perturber les outils de navigation.

Le centre national pour la météo spatiale chinois a également émis une alerte rouge samedi, avertissant que la tempête solaire devrait se poursuivre tout ce week-end et impacter les communications et les systèmes de navigation, selon l'agence d'Etat Chine Nouvelle.

Des aurores boréales ont été observées dans la moitié nord du pays, a-t-elle rapporté.

Pic d'activité solaire 

Aux Etats-Unis, des aurores boréales ont été visibles dans quasiment tout le pays dans la nuit de vendredi à samedi. Elles ont pu être admirées jusqu'aux Bahamas, selon la Nasa.

Des tempêtes solaires puissantes peuvent "pousser les aurores à des latitudes plus au sud", a expliqué l'agence spatiale.

Le Soleil est actuellement proche de son pic d'activité, un cycle qui revient tous les 11 ans.

Des éruptions solaires appelées éjections de masse coronale, qui peuvent mettre plusieurs jours à atteindre la Terre, sont à l'origine de l'événement actuel, créant des aurores boréales lorsqu'elles entrent en contact avec le champ magnétique de la Terre.

La dernière tempête géomagnétique de niveau 5 observée remontait à octobre 2003, un épisode surnommé "les tempêtes d'Halloween".

La plus importante tempête solaire jamais enregistrée est survenue en 1859, selon la Nasa. Aussi connue sous le nom d'événement de Carrington, elle avait très fortement perturbé les communications par télégraphe.


La Suisse gagne un concours de l'Eurovision agité par la guerre à Gaza

Le chanteur suisse gagnant Nemo représentant la Suisse avec la chanson "The Code" célèbre après la finale du 68e Concours Eurovision de la chanson (ESC) 2024, le 11 mai 2024 à la Malmo Arena de Malmö, en Suède (Photo, AFP).
Le chanteur suisse gagnant Nemo représentant la Suisse avec la chanson "The Code" célèbre après la finale du 68e Concours Eurovision de la chanson (ESC) 2024, le 11 mai 2024 à la Malmo Arena de Malmö, en Suède (Photo, AFP).
Short Url
  • Avec sa veste à plumes roses et rouges et sa jupe satinée rose, Nemo a recueilli 591 points
  • Quelque 5.000 personnes, selon la police, ont par ailleurs défilé dans le calme pour protester contre la participation d'Israël

MALMÖ: Nemo a remporté dimanche pour la Suisse l'Eurovision avec "The Code", devenant le premier artiste non binaire à être sacré dans la compétition, à l'issue d'une édition 2024 marquée par une vive controverse sur la participation d'Israël, en pleine guerre dans la bande de Gaza.

"J'espère que cette compétition pourra continuer à encourager (les efforts pour) la paix et la dignité pour chacun", a déclaré l'artiste de 24 ans en recevant son trophée à la Malmö Arena, dans le sud de la Suède, les yeux embués de larmes.

Avec sa veste à plumes roses et rouges et sa jupe satinée rose, Nemo a recueilli 591 points, dépassant le favori croate, Baby Lasagna et ses 547 points. L'Ukraine a terminé troisième (453 points) et la France quatrième (445 points).

L'Israélienne Eden Golan, sifflée à plusieurs reprises par des opposants à la guerre à Gaza, est arrivée en cinquième position avec 323 points pour sa chanson "Hurricane".

"C'est clairement politique", a déploré à Tel Aviv un fan de la chanteuse, Guy, qui s'était rendu avec des amis dans un bar gay de la ville pour suivre la finale. "Il y a des gens qui nous haïssent. Ils ne voient pas le contexte général", a-t-il ajouté.

Nemo a confié avoir été "attristé" par le contexte tendu dans lequel s'est déroulé cette année le célèbre télécrochet, qui a été encadré par un important dispositif de sécurité dans la crainte de débordements.

"Toute cette expérience a été très intense et pas toujours agréable. Il y a eu beaucoup de choses qui ne semblaient pas relever de l'amour et de l'unité", a confié l'artiste lors d'une conférence de presse à l'issue de la compétition.

«Ni un homme ni une femme»

Nemo donne à la Suisse, chantre de la neutralité, sa troisième couronne dans un concours qui se veut apolitique. La précédente victoire du pays remontait à 1988 avec "Ne partez pas sans moi" interprétée par la Canadienne Céline Dion.

"Nemo, tu es le meilleur", s'est enflammée la ville de Bienne, dans le nord-ouest de la Suisse, où plusieurs centaines de fans s'étaient rassemblés pour célébrer l'enfant du pays.

Sa chanson, "The Code", "raconte le voyage que j'ai commencé en réalisant que je ne suis ni un homme ni une femme", a indiqué Nemo, qui demande à être désigné par des pronoms non-genrés et avait arboré le drapeau non-binaire lors de la parade d'ouverture de la compétition.

L'Union européenne de radio-télévision (UER), qui chapeaute le concours, interdit tout drapeau autre que ceux des pays participants, et notamment toute bannière à message politique.

"J'ai été obligé de passer en douce mon drapeau", a déploré Nemo, qui a estimé que l'"Eurovision a besoin de changer un peu" dans son mode de fonctionnement.

Manifestants dispersés 

A Zagreb, plusieurs centaines de personnes ont suivi le spectacle sur un grand écran. Même s'il a vu la victoire lui échapper, Baby Lasagna "a rassemblé toute la Croatie. Nous pouvons être fiers de lui", a relevé une fan, Nina Plese, 34 ans.

A Malmö, les forces de l'ordre avaient dispersé samedi une centaine de manifestants propalestiniens dont Greta Thunberg, plus connue pour ses prises de positions sur le climat mais qui a récemment multiplié les messages sur la question.

Quelque 5.000 personnes, selon la police, ont par ailleurs défilé dans le calme pour protester contre la participation d'Israël.

Les syndicats de la chaîne de télévision publique flamande VRT ont brièvement interrompu la retransmission samedi soir pour diffuser un message condamnant des "violations des droits de l'homme par l'Etat d'Israël", comme il l'avait fait jeudi lors de la deuxième demi-finale.

La guerre menée par Israël à Gaza contre le Hamas a fait au moins 34.971 morts, essentiellement des civils, selon un bilan du ministère de la Santé de l'organisation islamiste.

Elle a été déclenchée par l'attaque menée le 7 octobre par le Hamas qui a fait plus de 1.170 morts en territoire israéliens, des civils pour la plupart, selon un bilan de l'AFP établi à partir de données officielles israéliennes.