[Technologie] Un chercheur canadien quitte Google pour pouvoir alerter sur les dangers liés aux progrès de l’intelligence artificielle

Geoffrey Hinton, chercheur canadien spécialiste de l’intelligence artificielle, est à l’origine de la technologie servant au logiciel d’intelligence artificielle ChatGPT. Dans un entretien accordé au New York Times, il dit quitter Google pour pouvoir alerter sur les dangers liés aux progrès réalisés dans le domaine.

En quittant Google, Geoffrey Hinton va pouvoir parler des dangers de l’intelligence artificielle, une technologie à laquelle il a consacré de nombreuses années de recherche : « Une partie de lui regrette maintenant le travail de sa vie », dit l’article du New York Times. « Je me console avec l’excuse normale : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », a-t-il nuancé.

Dans un tweet confirmant sa démission, il a réfuté toute volonté de critiquer le géant de la tech qui selon lui « s’est comporté de façon très responsable ».

Des travaux sur les réseaux de neurones 

Le déclic remonte à très loin : 1972, Geoffrey Hinton n’est qu’un étudiant parmi d’autres à l’Université d’Édimbourg, en Écosse. Mais il est déjà obsédé par les réseaux de neurones : un système mathématique inspiré du cerveau humain qui a la capacité de corriger ses propres erreurs. À l’époque, personne n’y voit une révolution. Mais Geoffrey Hinton va passer sa vie à perfectionner ces algorithmes. En 2012, avec deux étudiants de l’université de Toronto,  Ilya Sutskever et Alex Krishevsky, ce Britannique qui a émigré au Canada développe un système capable d’analyser des milliers de photos et d’apprendre à identifier des objets communs comme des fleurs et des voitures. Google investit dans cette découverte (44 millions de dollars).  Il devient alors le Monsieur « intelligence artificielle» du groupe américain.

Selon Geoffrey Hinton, à mesure que les entreprises améliorent leurs systèmes d’IA, ils deviennent de plus en plus dangereux. Et la compétition entre Microsoft et Google accentue le phénomène. En février dernier en effet, Google lançait son robot conversationnel, baptisé Bard, quelques mois après celui de ChatGPT, le logiciel de la startup américaine OpenAI.

Le chercheur en informatique a plusieurs craintes. La première : qu’Internet soit inondé de fausses informations avec des photos, des vidéos et textes générés par IA, impossibles à différencier de la réalité. Il estime également que l’IA peut totalement bouleverser le marché du travail en faisant disparaître certains métiers comme les traducteurs par exemple.

Inquiétudes partagées

En mars, le milliardaire Elon Musk – un des fondateurs d’OpenAI – et plusieurs scientifiques réclamaient une pause de six mois dans la recherche sur les IA plus puissantes que GPT-4, en évoquant « des risques majeurs pour l’humanité ». Geoffrey Hinton ne faisait pas alors partie des signataires. Mais dans le New York Times, il estime que les scientifiques ne devraient pas faire encore monter en puissance ces IA « avant de savoir s’ils sont capables de les contrôler » et pointe la nécessité d’une réglementation mondiale.

En 2018, le Dr Hinton ainsi que Yoshua Bengio et Yann LeCun avaient reçu le prix Turing, souvent appelé « le prix Nobel de l’informatique », pour leurs travaux.

Source : Rfi

Commentaires

commentaires