" C’est effrayant ! " : un pionnier de l’IA alerte contre les dangers de l’intelligence artificielle
Une mise en garde glaçante. L’intelligence artificielle pourrait poser à l’humanité un problème « plus urgent » encore que le changement climatique, a alerté Geoffrey Hinton, l’un des pionniers de l’IA, dans un entretien à Reuters.
« Je ne voudrais pas sous-estimer le changement climatique. Je ne dis pas qu’il ne faut pas s’en inquiéter, c’est un risque énorme », a expliqué à l’agence britannique ce chercheur canadien, récompensé en 2018 par le prix Turing, considéré comme l’équivalent du prix Nobel d’informatique. « Mais je pense que (l’intelligence artificielle) pourrait s’avérer être un problème plus urgent encore ».
« Avec le changement climatique, c’est très simple de savoir ce qu’il faut faire : il faut arrêter de brûler du carbone. Si nous faisons cela, les choses pourraient rentrer dans l’ordre », a-t-il ajouté. En ce qui concerne l’IA, en revanche, « ce qu’il faut faire n’est pas clair du tout ».
« Prise de contrôle »
Considéré comme l’un des pères fondateurs de l’intelligence artificielle, Geoffrey Hinton a annoncé lundi sa démission de Google, qu’il avait rejoint en 2013. Dans un message posté sur Twitter, il a justifié son choix en expliquant qu’il souhaitait parler librement de l’IA générative comme ChatGPT, sans que cela ait d’impact sur son ancien employeur.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly. — Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Mercredi, soit quelques jours après son départ de Google, le chercheur avait reconnu lors d’une conférence avoir longtemps sous-estimé le potentiel de l’IA. Et disait craindre une « prise de contrôle » de l’humanité par des machines devenues trop intelligentes. Les machines dotées de l’intelligence artificielle « en savent probablement mille fois plus qu’une personne, dont le cerveau a plus de 100 000 milliards de connexions, affirmait-il, comme le rapporte un article de Capital. C’est effrayant ! » « Ces choses auront tout appris de nous, lu tous les livres de Machiavel, et si elles sont plus intelligentes que nous, elles n’auront pas de mal à nous manipuler », avait-il ajouté.
Lettre ouverte
Comment prévenir ce risque ? Alors que plusieurs milliers de personnes, dont le PDG de Twitter, Elon Musk, ont appelé fin mars à interrompre pour six mois le développement de systèmes plus performants que GPT-4, le successeur du modèle sur lequel s’appuie le robot conversationnel ChatGPT, Geoffrey Hinton considère que cette suspension ne serait pas une bonne solution.
À lire aussi L’odyssée de l’intelligence artificielle
Source: Le Parisien
