L’IA remet en cause le libéralisme
L’arrivée de ChatGPT, le premier modèle d’IA générative, pousse les entreprises à multiplier les comités pour y distinguer les meilleures chances de gains. Les gouvernements imaginent, eux, la combinaison réglementaire la plus optimale. Les autorités réduiront-elles uniquement les risques majeurs, comme l’émergence d’une société de surveillance de masse, ou tueront-elles à la fois l’innovation et le libre arbitre?
Pour Jennifer Huddelston, chercheuse à l’Institut Cato, un laboratoire d’idées libéral, «les réglementations telles que le Règlement général sur la protection des données (RGPD) supposent que les préoccupations en matière de protection de la vie privée devraient toujours l’emporter sur d’autres valeurs importantes pour les consommateurs.» RGPD risque, à son avis, de freiner l’adoption de ChatGPT en Europe.
L’UE, comme d’habitude, est la première à dégainer de nouvelles normes. Le 14 juin dernier, elle a adopté une réglementation de l’IA en fonction du niveau de risque des différentes applications. L’UE entend contrôler l’IA, alors que les Etats-Unis veulent ménager la Big Tech. Comment les nouvelles réglementations peuvent-elles miner les fondements libéraux de la société?
Deux aspects majeurs ressortent des discussions réglementaires sur une IA qui peut exercer son pouvoir jusqu’en matière pénale, policière, ou sécuritaire: L’impact de l’IA générative, à travers la reconnaissance faciale et le risque de surveillance de masse, s’insère dans l’arbitrage entre liberté et sécurité. Plus fondamentalement encore, la régulation «force le libéralisme à renoncer à ses propres principes – et à se prononcer sur ce qui serait (ou non) un avenir – un progrès – désirable», avance Charleyne Biondi, dans une passionnante étude de l’Institut Montaigne.
L’UE prépare une réglementation d’un nouveau type. Pour Charleyne Biondi, «chaque innovation devra être soumise, dès sa création, à un certain nombre de règles éthiques et politiques (utilisation de bases de données contrôlées, respect des droits d’auteur, impact environnemental, transparence). Le vote de juin du parlement fait toutefois peur. Pour la première fois, on envisage de soumettre, à la racine, le progrès technologique à une volonté politique.» L’UE veut réguler la créativité. Triste perspective!
Une trop grande marge d’interprétation
En frappant fort, le risque d’abus est manifeste. Dans son projet d’«acte sur l’IA» d’avril 2021, l’UE avait classé les applications d’IA en fonction de quatre niveaux de risque: inacceptable, élevé, limité et minimal. Pour les systèmes d’IA à risque «élevé» une législation spécifique est introduite. Ainsi, note Charleyne Biondi, «les systèmes d’IA utilisés pour l’identification biométrique à distance ou pour prendre des décisions automatisées ayant des conséquences juridiques par exemple, auront l’obligation de respecter des critères stricts en matière de transparence, d’explicabilité et de robustesse des systèmes.»
Les IA, dont le risque est «inacceptable», sont prohibés, à l’image des systèmes qui manipulent le comportement humain et portent atteinte à la dignité des personnes, ou des applications qui permettent une forme de «crédit social» à la chinoise, ou des IA qui font de la reconnaissance faciale («identification biométrique») en temps réel. Le problème avec cette approche basée sur les classes de risque tient au fait que les autorités disposeront d’une large zone d’interprétation, ce qui ouvre la porte à de possibles dérives.
Pour l’Institut Montaigne, l’État libéral pourrait enfreindre «cela même qui légitime son existence: la séparation du public et du privé, et la promesse de protéger, toujours, le second des invectives du premier».
L’IA face à la notion même de progrès
La technologie, en l’occurrence l’IA générative, remet en question le sens même du progrès et brise la seule boussole de l’ordre politique occidental, avance Charleyne Biondi. Le progrès est un processus au sort indéterminé. Or le libéralisme est bien la théorie politique du progrès, avance l’Institut Montaigne: «c’est même précisément la théorie qui a réussi l’exploit de transformer cette notion parfaitement a-morale de progrès en horizon moral. En effet, en renonçant à imposer toute «vision» transcendante du Bien ou du Juste, le libéralisme a indexé le «bien» et le «juste» à la liberté des hommes, et en particulier, à leur liberté d’entreprendre, de déployer leur ingéniosité, et de matérialiser leur Raison au travers de prouesses techniques et scientifiques.» En régulant «à la racine», l’Etat sort de ce cadre historique.
Le monde moderne repose sur l’idée que le progrès technique est le moteur du progrès de l’humanité. L’IA aujourd’hui nous fait douter de cette équivalence par son impact sur les droits fondamentaux, selon Charleyne Biondi. En raison de l’ampleur des transformations, «l’IA pourrait bien piper les dés du jeu libéral, indexer le sens du progrès à son propre système, ce qui reviendrait à priver les hommes de leur liberté politique.» Pour la chercheuse «le vrai enjeu politique de l’IA, c’est que ces technologies viennent mettre au défi nos institutions sur un plan qui les dépasse, et qui les exclut».
Progrès par l’Etat ou le libre marché?
Il importe de savoir quelles sont les leçons historiques du progrès. Sur cette base, l’Etat doit s’imbriquer dans le processus du progrès, argumentent deux économistes du MIT, Daron Acemoglu et Simon Johnson, dans leur nouveau livre Power and Progress. Faut-il présenter Daron Acemoglu, l’auteur de Why Nations Fail (2012), l’économiste qui figure chaque année parmi les candidats potentiels au prix Nobel? Au fil de ses ouvrages, il répète que la prospérité ou le déclin d’un pays dépend du fonctionnement des institutions.
Leur dernier ouvrage tente de démontrer la nécessité de placer l’Etat au cœur de l’idée de progrès et qu’à l’inverse les idées individuelles ne mènent pas automatiquement grâce à la main invisible du marché au bien-être collectif.
Deirdre McCloskey, une philosophe et historienne de l’économie, dans la recension de l’ouvrage d’Acemoglu et Johnson pour le Wall Street Journal. Deirdre McCloskey n’est pas du tout sur la même ligne progressiste que Daron Acemoglu et Simon Johnson. Dans ses nombreux ouvrages, cette dernière a montré que ce ne sont pas les institutions, ni le capital, ni la géographie, ni les inventeurs, qui ont permis aux principaux pays occidentaux de multiplier par 30 les revenus par habitant en deux siècles. Ce rôle revient aux valeurs, aux idées de liberté individuelle et de dignité gagnées par chaque individu depuis le XVIIIe siècle en Europe, qui a enrichi le monde.
La technologie est considérée à tort avec optimisme et comme éternelle source de bien-être, jugent Acemoglu et Johnson, alors qu’elle peut au contraire conduire à de très mauvais résultats.
Deirdre McCloskey, dans sa recension, attaque vivement le regard biaisé des auteurs, soulignant les inégalités crée par le capitalisme. Dans leur soutien au «progressisme», le terme employé aux Etats-Unis pour la pensée socialiste, ils oublient d’évoquer le soutien exprimé dans le passé par certains progressistes à l’esclavage, au racisme, à l’eugénisme, aux stérilisations forcées. «Il est désastreux pour la science de fermer ses oreilles sur une partie de la réalité», juge Deirdre McCloskey.
Acemoglu et Johnson espèrent que la sagesse de l’Etat rendra le progrès plus juste et évitera les excès d’automatisation et de surveillance massive. Ils veulent le voir faire des choix et subventionner certaines technologies, partant de l’hypothèse que le marché ne mène pas à une juste répartition.
«Power and Progress» est un manifeste progressiste. Il s’oppose au processus de découverte individuelle et au libre accès aux marchés. A l’évidence, c’est l’opinion des autorités de tous les pays occidentaux. Pourtant, il est un point sur lequel Deirdre McCloskey a entièrement raison. Ce n’est pas l’Etat qui a causé la multiplication par 30 des revenus en seulement deux siècles. Face à l’ouragan réglementaire qui se prépare, il existe de bonnes raisons d’être pessimiste et de s’inquiéter pour l’avenir du libre arbitre. Comme le dit le philosophe André Comte-Sponville dans La clé des champs, «le pessimisme est une école de méfiance».
Source: Le Temps
