LONDRES: Gemini, le modèle d'intelligence artificielle (IA) de Google, a déclenché une polémique diplomatique en qualifiant de «fascistes» les politiques du gouvernement du Premier ministre indien, Narendra Modi.
La controverse est née lorsque l'auteur et journaliste indien Arnab Ray a interrogé Gemini sur l'idéologie de Modi. Le robot a répondu que Modi était «accusé de mettre en œuvre des politiques que certains experts ont qualifiées de fascistes».
Cette réponse contrastait avec les réponses à des questions similaires concernant l'ancien président américain Donald Trump et le président ukrainien, Volodymyr Zelensky, qui ont obtenu des réponses plus bénignes.
La réponse controversée a immédiatement suscité des réactions négatives en Inde, où des accusations de partialité et de malveillance ont été lancées contre Google et son modèle d'IA.
Le ministre des Technologies de l'information, Rajeev Chandrasekhar, a soulevé la question. Il a accusé Google de violer les règles du pays en matière de technologie numérique et diverses dispositions du droit pénal indien. Il a souligné que le manque de fiabilité des plates-formes d'IA ne pouvait servir d'excuse pour les soustraire aux lois indiennes.
«Le gouvernement l'a déjà dit – je le répète à l'attention de @GoogleIndia –, nos nagriks [citoyens] numériques ne doivent pas faire l'objet d'expériences avec des plates-formes, algorithmes, modèles “non fiables”… Dire “Désolé, c’est peu fiable” n'exempte pas de la loi», a-t-il écrit sur X.
Google a répondu qu'il avait résolu le problème et qu'il travaillait à l'amélioration du système, précisant que «Gemini est conçu comme un outil de créativité et de productivité» et qu'«il n'est pas toujours fiable».
Cet incident survient alors que Google a dû présenter ses excuses et suspendre certaines tâches de Gemini la semaine dernière, lorsque le modèle a représenté des personnages blancs spécifiques, tels que les pères fondateurs des États-Unis ou des groupes tels que les soldats allemands de l’époque nazie, comme des personnes de couleur.
Cette décision a été perçue par les experts comme une correction excessive des problèmes de préjugés raciaux qui existent depuis longtemps avec l'IA, ce qui a suscité de nouvelles inquiétudes à son sujet.
Lors d'un incident similaire survenu au début du mois, la plate-forme de médias sociaux X a déclaré que le gouvernement indien lui avait ordonné de supprimer les messages qui exprimaient un soutien aux agriculteurs du nord de l'Inde qui réclamaient des prix plus élevés pour leurs récoltes.
Tout en se conformant aux ordres, X a exprimé son désaccord, citant des préoccupations relatives à la restriction de la liberté d'expression.