Intelligence artificielle : l'un des pères fondateurs alerte sur les dangers de cette technologie
Geoffrey Hinton estime que le développement rapide de l'intelligence artificielle induit «de profonds risques pour la société et l'humanité».
Une démission qui sonne comme un coup de semonce. Considéré comme l'un des pères fondateurs de l'intelligence artificielle (IA), Geoffrey Hinton s'est résolu à quitter son poste chez Google afin d'alerter sur les dangers de l'intelligence artificielle. «Je suis partie pour pouvoir parler des dangers de l'IA sans me soucier d'un éventuel impact sur Google», a-t-il déclaré dans un tweet publié lundi, après l'annonce de son départ dans le New York Times. Dans une interview accordée au quotidien américain, Geoffrey Hinton s'est dit inquiet de la capacité de l'IA à créer de fausses images et de faux textes convaincants, créant ainsi un monde où les gens «ne seront plus en mesure de savoir ce qui est vrai».
Pour cet éminent spécialiste, les avancées dans ce secteur induisent «de profonds risques pour la société et l'humanité». Pourtant, ce dernier avait créé une fondation dédiée aux systèmes d'IA, et était une des têtes pensantes de Google Brain, le programme de deep learning de Google. «Regardez où nous en étions il y a cinq ans et la situation actuelle», poursuit-il en jugeant «effrayant» les perspectives d'avenir en faisant des projections sur les bases des progrès des dernières années. Selon lui, «il est difficile de voir comment éviter que les mauvais acteurs l'utilisent pour de mauvaises choses».
Le déploiement à toute vitesse d'une intelligence artificielle de plus en plus «générale», dotée de capacités cognitives humaines et donc susceptibles de bouleverser de nombreux métiers, a été symbolisé par le lancement en mars par OpenAI de GPT-4, une nouvelle version plus puissante du modèle de langage naturel qui opère ChatGPT. La technologie pourrait rapidement remplacer les travailleurs et devenir un plus grand danger au fur et à mesure qu'elle apprend de nouveaux comportements. «L'idée que ce matériel puisse devenir plus intelligent que les gens, quelques personnes y ont crû», a-t-il déclaré au New York Times. «Mais la plupart des gens pensaient que c'était une erreur. Et je pensais que c'était loin d'être le cas. Je pensais que c'était dans 30 ou 50 ans, voire plus. Évidemment, je ne le pense plus».
À lire aussiL’intelligence artificielle va-t-elle vraiment supprimer 300 millions d’emplois?
L'expert a informé Google de sa démission le mois dernier, selon le journal. Dans le tweet confirmant son départ il réfute toute volonté de critiquer le géant de la tech par cette décision. «Google s'est comporté de façon très responsable», écrit-il. En mars, le milliardaire Elon Musk - un des fondateurs d'OpenAI dont il a ensuite quitté le conseil d'administration - et des centaines d'experts mondiaux ont réclamé une pause de six mois dans la recherche sur les IA plus puissantes que GPT-4, en évoquant «des risques majeurs pour l'humanité». Geoffrey Hinton n'a pas fait partie des signataires, mais il a affirmé au New York Times, que les scientifiques ne devraient pas faire encore monter en puissance ces IA «avant de savoir s'ils sont capables de les contrôler». En 2019, Geoffrey Hinton avait reçu, avec deux autres spécialistes de l'intelligence artificielle, le prix Turing, l'équivalent du Nobel pour les informaticiens.
Source: Le Figaro
