IA : Pékin rêve d'un ChatGPT respectueux “des valeurs du socialisme”
DE MAO À CHATGPT
Près d'une quinzaine de groupes chinois - dont des géants comme Alibaba, Huawei ou Tencent - développent des alternatives à ChatGPT.
La Chine est devenue le premier pays à édicter des règles pour encadrer le développement des IA telles que ChatGPT. Sa priorité : que ces agents conversationnels respectent les “valeurs centrales du socialisme”. Un concept difficile à cerner.
Publicité Lire la suite
L’intelligence artificielle à la ChatGPT est-elle soluble dans le socialisme à la chinoise ? C’est ce que veut croire Pékin, qui vient de publier des nouvelles réglementations pour encadrer et favoriser le développement de cette technologie dans le respect de la doctrine du régime, a rapporté le New York Times, mercredi 26 avril.
Ces mesures, soumises aux instances du Parti communiste chinois le 11 avril, font de la Chine le premier pays à imposer des règles à ce secteur, qui a explosé depuis la sortie, en novembre 2022, de ChatGPT, l’agent conversationnel développé par la société OpenAI.
Crainte des dérapages de l'IA
Pékin a voulu réagir au plus vite car “comme dans tous les pays, les dirigeants chinois ont compris que cette technologie pouvait avoir un impact profond sur la société”, assure Guangyu Qiao-Franco, spécialiste des technologies émergentes en Chine à l’université de Radboud (Pays-Bas).
Impossible, donc, pour un régime aussi avide de contrôle, de laisser ces agents conversationnels en totale liberté. D’autant plus que Pékin sait ce que cela pourrait donner : en février 2022, ChatYuan, la première alternative chinoise à ChatGPT, avait dû être retiré en urgence après avoir énoncé, notamment, que l’économie chinoise était en “piteux état” et que le conflit en Ukraine était une “guerre d’agression russe”, alors que la Chine reprend l’argument russe d’une "opération militaire spéciale".
Les nouvelles règles visent à éviter ces dérapages de l’IA. Concrètement, les entreprises chinoises développant des alternatives à ChatGPT doivent s’assurer que leurs algorithmes ne produisent pas de contenus discriminatoires, ne violent pas le droit à la vie privée des internautes, et ne propage pas de fausses informations, énumère le South China Morning Post.
Des préoccupations qui concernent les gouvernements du monde entier face aux défis de l’IA.
Mais l’article 4 de ces nouvelles règles contient également une obligation de concevoir des IA “qui respectent les valeurs centrales du socialisme [chinois]”. Un appel à mettre les chatbots à la page du Petit Livre rouge de Mao Zedong ?
En fait, “il existe une liste des concepts qui sont compris dans les valeurs centrales du socialisme”, assure Guangyu Qiao-Franco. On y trouve, notamment, la démocratie, la prospérité, l’égalité et la justice, le patriotisme, le sens du devoir ou encore l’attachement à la valeur du travail.
Faire plaisir à Xi Jinping ?
Un vrai pot-pourri de grandes valeurs qui pourraient être partagées par la plupart des pays occidentaux. Mais difficile d’en déduire des règles à suivre en matière de développement des algorithmes pour une IA compatible avec ce “socialisme”. “Il est vrai que ce sont des concepts assez vagues”, reconnaît Guanyu Qiao-Franco.
En réalité, “il faut concevoir cette idée de ‘valeurs centrales du socialisme’ comme un concept parapluie qui permet au régime une certaine flexibilité quant à ce qui est autorisé ou pas”, assure Xin Sun, spécialiste de la politique économique et industrielle chinoise.
Face à une technologie qui évolue aussi vite que ces IA conversationnelles, Pékin ne sait pas exactement où mettre le curseur de sa censure. Les “valeurs centrales du socialisme” sont suffisamment floues pour s’adapter à toutes les situations.
>> À lire aussi : ChatGPT : mettre l’IA sur pause, "un enjeu existentiel" ?
Le recours à cette référence n’en demeure pas moins étonnant. En effet, les autorités ont déjà édicté des règles pour “une bonne gouvernance de l’IA” en 2019 et dans le cadre d’un “code éthique de l’IA” en 2021. Aucun signe des “valeurs centrales du socialisme” dans ces deux cas.
En 2023, le régulateur décide donc d’aller plus loin. Il pourrait avoir été inspiré par “Xi Jinping qui fait de plus de plus référence à ces valeurs. Ce serait alors une manière de montrer au dirigeant qu’on s’applique à suivre son exemple”, avance Guanyu Qiao-Franco.
Dans cette hypothèse, l’IA rejoindrait le nombre grandissant de pans de l’économie soumis à une reprise en main idéologique, devenue l’une des priorités du président.
Ce qui ne va pas faciliter la tâche des sociétés chinoises désireuses de concurrencer ChatGPT. Comment créer une IA “socialo-compatible” ? “À priori, il va falloir créer un filtre à l’entrée de l’algorithme et un autre à la sortie”, estime Xin Sun.
Condamné à être en retard sur les États-Unis ?
Cette double censure justifiera d’abord un tri des informations de la base de données dans laquelle l’IA va puiser pour trouver ses réponses. Ensuite, “il faudra probablement mettre un place un système de vérification des réponses finales pour s’assurer qu’elles ne contiennent rien de contraire à la réglementation”, précise Xin Sun.
Reste le grand mystère de ces IA. “Le problème est qu’on ne sait absolument pas pourquoi ces machines optent pour une réponse plutôt qu'une autre à partir des données qu'on leur fournit”, expliquait, fin mars, à France 24, Joseph Sifakis, directeur de recherche à l’université de Grenoble et seul détenteur français d’un prix Turing (équivalent du prix Nobel pour l’intelligence artificielle). Autrement dit, aucun ingénieur ne pourra garantir à 100 % au PCC que son chatbot restera strictement dans le cadre des “valeurs centrales du socialisme”.
À cette première incertitude, il faut aussi rajouter celle qui entoure la nouvelle réglementation. “Ce que les entrepreneurs chinois demandent le plus c’est de la clarté dans ce qu’ils ont le droit de faire ou pas”, assure Guanyu Qiao-Franco. Ce flou autour des “valeurs centrales du socialisme” oblige “les sociétés à avancer avec beaucoup de prudence, ce qui risque de les mettre en retard par rapport à la concurrence, notamment nord-américaine”, soutient Xin Sun.
De quoi mettre les autorités chinoises devant leurs propres contradictions. En effet, l’IA fait partie de la liste des secteurs technologiques prioritaires pour Pékin dans sa bataille pour le leadership mondial. Il est même central car les autorités “considèrent l’IA un peu comme l’électricité, c’est-à-dire une technologie qui permet le développement dans d’autres domaines prioritaires [comme la robotique ou les biotechs, NDLR]”, souligne Guanyu Qiao-Franco.
Pékin se tirerait donc une balle dans le pied avec ces nouvelles règles qui risquent de ralentir l’innovation dans un domaine critique. Mais "les autres pays vont aussi réfléchir à la meilleure manière de réglementer ce secteur”, assure Guanyo Qiao-Franco, ce qui limiterait le retard initial de la Chine
Encore faut-il que les autorités et les professionnels du secteur s’entendent sur ce qu’est un agent conversationnel compatible avec le socialisme à la chinoise. Ce sera l’objet des consultations que le gouvernement entend mener avec les groupes chinois qui veulent faire de l’ombre à ChatGPT. Et entre Alibaba, Baidu ou Tencent, ils sont nombreux et puissants.
Le résumé de la semaineFrance 24 vous propose de revenir sur les actualités qui ont marqué la semaine Je m'abonne
Source: FRANCE 24
