Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


Le Saudi French Business Council collabore avec CCI France UAE pour accueillir une délégation française

Le Saudi French Business Council (CAFS) collabore avec CCI France UAE pour organiser la visite d'une délégation française. (AFP)
Le Saudi French Business Council (CAFS) collabore avec CCI France UAE pour organiser la visite d'une délégation française. (AFP)
Short Url
  • Cette réunion d'accueil donnera lieu à des présentations de l'économie saoudienne et de l'environnement des affaires par l'Ambassade de France et les membres du CAFS
  • Elle se terminera par un déjeuner de réseautage qui donnera l'occasion aux participants de se rencontrer et d'élargir leurs réseaux d'affaires

RIYAD: Le Conseil d'affaires franco-saoudien collabore avec CCI France UAE pour organiser la visite d'une délégation française.

Cette réunion d'accueil donnera lieu à des présentations de l'économie saoudienne et de l'environnement des affaires par l'Ambassade de France et les membres du CAFS.

Elle se terminera par un déjeuner de réseautage qui donnera l'occasion aux participants de se rencontrer et d'élargir leurs réseaux d'affaires.


Les secteurs industriel et minier saoudiens offrent des opportunités lucratives aux entrepreneurs

Bandar ben Ibrahim Alkhorayef s'exprimant lors du Misk Global Forum 2024. (SPA)
Bandar ben Ibrahim Alkhorayef s'exprimant lors du Misk Global Forum 2024. (SPA)
Short Url
  • Les secteurs industriel et minier de l'Arabie saoudite recèlent des opportunités prometteuses pour les jeunes et les entrepreneurs, a insisté le ministre de l'industrie du Royaume
  • S'exprimant lors du Misk Global Forum 2024 à Riyad, Bandar ben Ibrahim Alkhorayef a déclaré que ces opportunités vont au-delà de l'investissement direct et comprennent le développement d'idées innovantes

DJEDDAH: Les secteurs industriel et minier de l'Arabie saoudite recèlent des opportunités prometteuses pour les jeunes et les entrepreneurs, a insisté le ministre de l'industrie du Royaume.

S'exprimant lors du Misk Global Forum 2024 à Riyad, Bandar ben Ibrahim Alkhorayef a déclaré que ces opportunités vont au-delà de l'investissement direct et comprennent le développement d'idées innovantes pour améliorer l'efficacité de la production, la qualité de la fabrication et la conservation de l'énergie dans les installations industrielles.

Il a expliqué que les institutions travaillant dans le domaine des ressources industrielles et minérales ont mis en place une série d'outils et d'initiatives pour soutenir la croissance des entreprises et faciliter l'investissement pour les jeunes innovateurs dans les deux secteurs, selon l'Agence de presse saoudienne.

Le Royaume a été classé troisième dans le rapport Global Entrepreneurship Monitor pour 2023-2024 - une étude qui évalue les écosystèmes des pays du monde entier.

L'Arabie saoudite a montré des progrès significatifs, avec son score de l'indice du contexte national de l'entrepreneuriat passant de 5 en 2019 à 6,3 en 2022 et 2023.

L'analyse souligne que cela reflète les efforts fructueux du pays pour diversifier son économie et favoriser un climat propice aux propriétaires d'entreprises. Le rapport met également l'accent sur l'entrepreneuriat féminin, avec huit femmes créant de nouvelles entreprises pour dix hommes en 2023.

Alkhorayef a ajouté que les programmes introduits comprennent des solutions financières, notamment le programme 1K Miles, conçu pour aider les entrepreneurs à transformer leurs idées en projets, et l'Industrial Hackathon, qui permet aux jeunes innovateurs de présenter des solutions créatives aux défis auxquels sont confrontées les installations industrielles.

Le ministre a également souligné que le Royaume est devenu un centre mondial pour les entrepreneurs, leur offrant la possibilité de présenter des idées innovantes et de tester leur succès. Il a souligné que le soutien indéfectible du gouvernement aux jeunes crée de vastes opportunités pour la réussite de leurs projets.

Il a souligné que l'Arabie saoudite s'est récemment concentrée sur l'exploitation de ses atouts stratégiques pour développer son secteur industriel et stimuler sa compétitivité. Il s'agit notamment d'utiliser ses ressources naturelles et ses avancées technologiques pour être compétitif au niveau mondial dans les industries émergentes et s'imposer comme un acteur clé dans les chaînes d'approvisionnement internationales.

Au cours de l'événement de la veille, le coprésident de la Fondation Bill et Melinda Gates, Bill Gates, a souligné le rôle crucial de l'innovation pour relever les défis du développement mondial et améliorer la qualité de vie des populations vulnérables.

Gates a insisté sur l'importance d'investir dans la technologie et l'éducation comme fondement d'un avenir durable, soulignant que de tels investissements permettent aux générations futures d'avoir un impact positif sur leurs communautés.

Il a salué le leadership de l'Arabie saoudite en matière d'autonomisation des jeunes, mettant en avant des initiatives telles que le MGF 2024, qui se concentre sur le développement des compétences des jeunes et la promotion de l'innovation et de l'esprit d'entreprise. Il a qualifié le forum de modèle mondial digne d'être imité.

Gates a également appelé au renforcement de la coopération internationale afin de développer des solutions communes pour relever les défis actuels.

Le coprésident a souligné l'importance d'encourager la créativité, le travail d'équipe et la réflexion collective pour construire un avenir plus durable, en insistant sur le fait que la collaboration mondiale pouvait conduire à des avancées transformatrices qui améliorent la vie de millions de personnes.

Le MGF 2024 a annoncé le lancement de l'initiative "Misk Grand Challenges" en partenariat avec la Fondation Gates, visant à inspirer les jeunes à proposer des solutions innovantes aux problèmes mondiaux d'éducation et de citoyenneté, en encourageant la créativité et en engageant des esprits brillants à relever les défis urgents du développement.

Lors d'une table ronde organisée dans le cadre du forum, Abdallah Al-Saleem, PDG et cofondateur de Mushtari, a donné des indications précieuses sur le moment et la manière dont les entrepreneurs devraient chercher des conseils pour leurs entreprises.

"C'est toujours le bon moment pour demander de l'aide", a déclaré Al-Saleem, soulignant l'importance de l'apprentissage continu et de la consultation dans le développement d'une entreprise.

Il a préconisé une approche à deux volets pour la recherche de conseils, en faisant la distinction entre les consultants généraux en affaires et les experts spécifiques à un secteur.

"Il y a deux personnes auprès desquelles il faut chercher de l'aide: les personnes qui ont une connaissance générale du secteur et les personnes qui ont une connaissance spécifique du secteur", a-t-il ajouté.

Ce texte est la traduction d’un article paru sur Arabnews.com


COP29: le montant du financement climatique sera plutôt dévoilé à la fin des négociations, selon la France

La ministre française de la Transition écologique, de l'Énergie, du Climat et de la Prévention des risques, Agnès Pannier-Runacher, quitte le Palais présidentiel de l'Élysée après la réunion hebdomadaire du cabinet, le 13 novembre 2024. (AFP)
La ministre française de la Transition écologique, de l'Énergie, du Climat et de la Prévention des risques, Agnès Pannier-Runacher, quitte le Palais présidentiel de l'Élysée après la réunion hebdomadaire du cabinet, le 13 novembre 2024. (AFP)
Short Url
  • Le montant du financement climatique, principal point de négociation à la COP29, "n'a pas vocation à être positionné tout de suite" mais plutôt à la fin des débats, a indiqué mercredi la ministre française de la Transition écologique
  • A Bakou, à deux jours de la fin des négociations, les pays en développement ont à nouveau dit mercredi "avoir besoin d'un chiffre" et déploré le "silence radio" des pays développés

PARIS: Le montant du financement climatique, principal point de négociation à la COP29, "n'a pas vocation à être positionné tout de suite" mais plutôt à la fin des débats, a indiqué mercredi la ministre française de la Transition écologique.

A Bakou, à deux jours de la fin des négociations, les pays en développement ont à nouveau dit mercredi "avoir besoin d'un chiffre" et déploré le "silence radio" des pays développés, particulièrement de l'Union européenne. Ils ont réaffirmé leur besoin de 1.300 milliards de dollars annuels pour financer leur transition et faire face aux conséquences du dérèglement climatique.

"Au delà d'un chiffre qui n'a pas vocation à être positionné tout de suite", l'objectif est de trouver "un chemin qui montre une ambition réelle", avec la volonté de trouver un accord sur l'élargissement de la base des contributeurs, laissant sa place aux financements innovants comme de nouvelles taxations internationales, a déclaré Agnès Pannier-Runacher lors d'un point téléphonique avec des journalistes.

"La France veut que la COP29 réussisse" a-t-elle souligné, rappelant que même si elle-même n'est pas sur place, à la suite des tensions diplomatiques entre la France et l'Azerbaidjan, elle "échange à distance" aussi bien avec les négociateurs français à Bakou ainsi qu'avec des ministres présents à Bakou.

Mais, a rappelé une source au cabinet de la ministre, "le chiffre, on n'y est pas encore". Il sera "lâché en toute fin de négociations" et doit être associé à d'autres objectifs "importants" comme la réaffirmation d'une sortie progressive des énergies fossiles ou le financement de l'adaptation, a-t-il souligné.

Ce qui est certain, c'est que les 1.000 milliards qui sont réclamés, "ce ne sera pas 1.000 milliards de finances publiques des pays du nord", a ajouté cette source, demandant que les banques multilatérales de développement et le secteur privé participent aussi au financement.

"Economiquement, passer de 100 milliards (chiffre actuel de l'aide climatique, atteint péniblement en 2022) à 1.000 milliards est impossible sur la base des donateurs existants", a affirmé cette source, rappelant le contexte de finances publiques amoindries de nombre d'économies européennes.

"Sur l'élargissement de la base des contributeurs, il y a des signes d'ouverture, en particulier de la Chine (...) mais nous n'y sommes pas encore. Nous sommes en train de proposer des pistes de compromis pour obtenir cette avancée", a déclaré Mme Pannier-Runnacher, reconnaissant que les négociations "patinent".

Un projet d'accord est censé être publié dans la nuit. Ce ne "sera probablement pas le dernier" mais "on place un certain espoir sur le fait qu'on ait une bonne base de travail demain" a indiqué la ministre française.

Cela pourra "nous donner le sens du chemin restant à parcourir" et "nous dire si on a raison d'être un peu plus optimiste ou si effectivement il faut rester très précautionneux".

"Sur la baisse des émissions et la sortie progressive des énergies fossiles, (...), nous n'y sommes pas" et nous allons "continuer à pousser sur ce sujet", a assuré Mme Pannier-Runnacher, se déclarant aussi mobilisée sur les questions de genre et de droits de l'homme "dans un pays dont on sait que la présidence n'est pas exemplaire en la matière".