Un premier pas vers un équilibre entre la société et la technologie

Les tensions et les sentiments de malaise entre les humains et les machines ne sont pas nouveaux. Il existe depuis longtemps une relation d'amour et de suspicion entre les deux. Chaque génération éprouve un sentiment de nostalgie pour l'époque précédant la dernière vague d'avancées technologiques entrant dans nos vies, avant de se rendre compte qu'il n'y a pas de bouton de marche arrière à presser.
Il y a aussi la crainte que les machines aient la capacité de menacer nos modes de vie, voire la vie elle-même. L'auteur français Jules Verne a jeté les bases de la science-fiction moderne et, 120 ans après sa mort, ses livres semblent d'autant plus profonds. Il l'a exprimé de manière très succincte en déclarant : "En conséquence de l'invention des machines, la science et la technologie se sont développées : "En inventant des machines, les hommes seront dévorés par elles".
C'est bien sûr le cas sur le champ de bataille, et même pour les voitures qui circulent sur nos routes. Mais il est également vrai que les innovations technologiques dans les domaines de la médecine, de l'éducation, de l'industrie et même des loisirs ont prolongé, amélioré, enrichi et, dans certains cas, transformé nos vies pour le meilleur.
Le dernier développement technologique en date à susciter en nous à la fois d'immenses attentes et la peur de l'inconnu est l'intelligence artificielle, et l'intelligence générale artificielle, qui est un type hypothétique d'IA capable d'égaler ou de dépasser les capacités cognitives de l'homme.
Le potentiel de ces nouvelles technologies est immense, dans tous les domaines de la vie, car elles peuvent améliorer l'efficacité du traitement, favoriser l'innovation, minimiser les erreurs, effectuer des tâches risquées et être capables de traiter des questions complexes plus rapidement et plus efficacement.
Toutefois, la crainte que ces technologies - ces machines, si l'on veut - soient conçues pour fonctionner un jour de manière autonome rappelle à beaucoup le conte de Mary Shelley, Victor Frankenstein, un scientifique qui a osé défier les limites de la nature en créant la vie à partir d'une matière inanimée, et dont l'histoire se termine en tragédie, tant pour le monstre que pour son créateur.
Le sommet d'action sur l'intelligence artificielle, qui s'est tenu à Paris ce mois-ci, avait pour but d'éviter des tragédies similaires dans la vie réelle en réglementant la technologie, mais dans le cadre d'un régime réglementaire qui n'entravera pas le développement de cette technologie en évolution rapide.
L'objectif, tel qu'énoncé à l'issue du sommet, est de faire en sorte que l'IA soit "ouverte", "inclusive" et "éthique". La réunion et sa déclaration finale ont été très bien accueillies, car pour la première fois, la communauté internationale a compris et reconnu la nécessité d'une gouvernance mondiale pour réglementer les technologies révolutionnaires capables de changer la société telle que nous la connaissons, mais aussi d'une surveillance qui n'empêche pas ces avancées de réaliser leur plein potentiel, en particulier lorsqu'elles sont utilisées au service de la société.
L'objectif est d'avancer rapidement, mais aussi de créer l'espace de respiration nécessaire pour évaluer les implications pour l'humanité de chaque nouveau développement en cours de route ; dans le cas de l'IA, nous pourrions être amenés à nous demander ce que signifie être humain, et à réfléchir à la relation entre l'humanité et une technologie aussi avancée.

Certains développements technologiques représentent des changements progressifs qui sont plus faciles à digérer et, si nécessaire, peuvent être inversés. Mais l'IA n'en fait pas partie. Elle représente déjà un changement de paradigme et ce dont nous sommes témoins aujourd'hui n'est que le prélude à des prouesses potentiellement infinies.
D'une part, l'IA peut aider à accomplir des tâches qui mettent en danger la sécurité ou la santé humaine, comme les opérations de sauvetage, la neutralisation des bombes, la gestion des matières toxiques ou les interventions chirurgicales complexes en salle d'opération que même les mains les plus stables d'un chirurgien ne pourraient pas réaliser.
Néanmoins, les systèmes d'IA manquent de transparence et de responsabilité, et s'ils deviennent complètement autonomes, ils pourraient représenter une "civilisation" rivale de la nôtre.

L'innovation et les progrès technologiques se poursuivront et nous offriront de nouvelles possibilités et de nouveaux défis.

Yossi Mekelberg

Le manque de transparence de l'IA signifie que nous n'avons pas une connaissance complète des raisons de ses décisions et de ses actions. Nous en avons besoin pour nous assurer que ces décisions et ces actions sont fiables et éthiques et, plus important encore, que ceux qui sont affectés par ces décisions et ces actions en connaissent parfaitement les raisons.
Notre expérience des médias sociaux, par exemple, est que nous pensions, du moins au début de "l'âge de l'innocence" de ces plateformes, qu'elles servaient à construire des réseaux sociaux, à diffuser des connaissances, à fournir des divertissements, à rester en contact avec les amis et la famille, et ainsi de suite.
Nous avons toutefois découvert qu'il s'agissait en réalité d'énormes machines de collecte de données qui peuvent être utilisées à mauvais escient, dans certains cas pour nous bombarder d'informations commerciales. Pire encore, nous avons réalisé qu'ils pouvaient être exploités par d'autres - par exemple, des gouvernements étrangers ou des intérêts commerciaux - pour manipuler nos opinions, y compris pendant les cycles électoraux.
De plus en plus, le contenu des réseaux sociaux n'est pas modéré. Ils sont défendus par l'argument fallacieux de la "liberté d'expression", alors qu'ils exposent les utilisateurs, y compris les enfants, à toutes sortes d'affirmations non vérifiées qui pourraient les amener à adopter des visions déformées du monde.
Les grandes entreprises technologiques ne sont pas intéressées par la réglementation parce qu'elle pourrait limiter leurs profits. Cependant, le résultat d'un progrès non réglementé, en particulier en ce qui concerne le pouvoir quasi infini de l'IA, pourrait bien être de changer la société au point de la rendre méconnaissable.
En outre, si l'IA est capable de prendre des décisions autonomes, qui est responsable lorsque les choses tournent mal ? Ceux qui ont créé ces machines ? Ceux qui ont appuyé sur le bouton d'alimentation pour les mettre en marche, ou peut-être leurs supérieurs ? Les fournisseurs de données ? Ou bien ceux qui n'ont pas su réguler ces machines ?
Dans le domaine de l'éducation, en particulier dans les études supérieures où l'on observe une tendance croissante à l'abandon des examens au profit de travaux réalisés en dehors des cours, l'introduction de l'IA générative met en péril la confiance entre les étudiants et les enseignants, et nuit généralement à l'expérience d'apprentissage et au développement des compétences nécessaires.
Dans le domaine de la médecine, de nombreuses questions éthiques ont été soulevées, notamment celle de savoir si l'on peut ou doit faire confiance à l'IA pour prendre des décisions autonomes sur des questions de vie ou de mort, et qui serait responsable de ces décisions.
En outre, il y a la question des niveaux élevés et inquiétants de consommation d'énergie par les technologies de l'IA ; certains experts ont qualifié cette situation de catastrophique pour les efforts continus de lutte contre le changement climatique.
Entre les extrêmes de ceux qui s'opposent aux avancées technologiques par principe (et l'IA est certainement un acte de foi technologique) et ceux qui sont tout aussi fermement opposés à toute forme de législation ou de réglementation, pour des raisons idéologiques ou par obsession de la maximisation des profits, il existe une troisième option, suggérée par la déclaration de Paris.
L'innovation et les progrès technologiques se poursuivront et nous offriront de nouvelles opportunités et de nouveaux défis, mais cette fois, nous devrions renoncer à l'idée que l'industrie dans laquelle ils se produisent est suffisamment consciente des problèmes sociaux ou soucieuse de placer l'humanité et les valeurs éthiques au-dessus de ses intérêts commerciaux et de sa quête de pouvoir.
Le sommet d'action sur l'intelligence artificielle de Paris et ses conclusions pourraient donc avoir été le premier signe d'une reconnaissance croissante par les gouvernements du monde entier qu'ils ont un rôle à jouer dans cette nouvelle révolution industrielle qui est à nos portes.
C'est une leçon qu'ils ont tirée des précédents changements de paradigme concernant la relation entre les humains et les machines, une relation de "respect et de suspicion", dans une mesure égale, afin que nous puissions maximiser les avantages de l'IA sans perdre notre humanité en cours de route.

Yossi Mekelberg est professeur de relations internationales et membre associé du programme MENA à Chatham House. X : @YMekelberg

Clause de non-responsabilité : les opinions exprimées par les auteurs dans cette section leur sont propres et ne reflètent pas nécessairement le point de vue d'Arab News.

Ce texte est la traduction d’un article paru sur Arabnews.com