Geoffrey Hinton, pionnier de l’IA, quitte Google et dit " regretter " son invention
Geoffrey E. Hinton à Tokyo, le 18 novembre 2019. MASAHIRO SUGIMOTO / AP
L’un des pionniers de la recherche sur l’intelligence artificielle (IA) a démissionné de Google pour alerter sur les menaces potentielles de cette technologie. Geoffrey Hinton, 75 ans, a annoncé au New York Times son départ de la firme de Mountain View, où il était employé à mi-temps depuis 2013. Dans un article publié lundi 1er mai par le quotidien américain, il avance que « les futures versions de cette technologie pourraient être un risque pour l’humanité ». Désormais, « une part de lui-même regrette l’œuvre de sa vie », confie-t-il.
Le chercheur canado-britannique, formé aux neurosciences et à la psychologie, a joué un rôle de premier plan dans la percée des IA utilisant des réseaux de neurones. En 2012, épaulé par deux de ses élèves de l’université de Toronto, il démontre la supériorité de cette approche, qui imite le fonctionnement du cerveau, en battant les meilleurs algorithmes de reconnaissance d’images.
Cela le conduit à recevoir en 2019 le Prix Turing, la récompense la plus prestigieuse pour un chercheur en informatique, qu’il partage avec deux autres pionniers de l’intelligence artificielle, le Français Yann Le Cun et un ancien collaborateur, le Canadien Yoshua Bengio. Dix ans plus tard, ce sont ses travaux qui ont permis d’élaborer les IA conversationnelles ChatGPT et Bard ou bien l’IA de création d’images Midjourney.
Désormais, les perspectives d’avenir de l’intelligence artificielle sont « plutôt effrayantes » pour les humains, a également déclaré le scientifique sur la BBC, la chaîne publique britannique. « Pour le moment, elles ne sont pas plus intelligentes que nous, pour ce que j’en sais. Mais je pense qu’elles pourront bientôt l’être », poursuit-il. En l’état actuel des choses, ses craintes portent sur la création massive de vidéos, photos et articles fallacieux sur Internet. Il redoute ainsi que « les gens normaux ne puissent plus distinguer le vrai du faux ».
Concert de critiques envers l’IA
Le scientifique s’inquiète également du perfectionnement de ces technologies et appréhende qu’elles tombent entre de mauvaises mains. Auprès du New York Times, il redoute l’arrivée dévastatrice d’armes autonomes, comme des robots tueurs. A la BBC, il dit anticiper des scénarios « cauchemardesques » si une puissance conquérante comme la Russie de Vladimir Poutine avait accès à des versions améliorées des technologies actuelles.
Ses critiques rejoignent celles d’autres spécialistes de l’IA. Au début du mois d’avril, une lettre ouverte signée par un millier d’experts demandait une pause de six mois sur les recherches en cours afin d’élaborer des régulations pour ces logiciels, jugés « dangereux pour l’humanité ». Elle était notamment signée par Yoshua Bengio ou Elon Musk, PDG de Tesla et cofondateur d’OpenAI.
Geoffrey Hinton n’a pas souhaité signer cette lettre ni critiquer le travail de Google, tant qu’il en était salarié. « Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google », a déclaré dans un tweet M. Hinton après l’annonce de sa démission. Il ne blâme pas non plus son ancien employeur, qu’il a ensuite qualifié de « très responsable » sur la BBC. Jeff Dean, dirigeant de Google AI, a réagi en rappelant que l’entreprise a le souci de « comprendre les risques émergents [de cette technologie] tout en innovant avec audace ».
Le cas de conscience de Geoffrey Hinton semble en tout cas avoir été nourri par la concurrence exacerbée sur le secteur ces derniers mois. Les progrès fulgurants de l’IA sont désormais alimentés par des investissements massifs de Microsoft, qui finance ChatGPT, Google et d’autres géants du numérique, comme Meta.
Le Monde avec AFP
Source: Le Monde
