Les chatbots romantiques vont-ils créer "une nouvelle génération d'incels"?
Temps de lecture: 2 min — Repéré sur Futurism
L'intelligence artificielle continue ses progrès et inquiète même ses créateurs. Désormais, elle prend la forme d'applications permettant de créer sa compagne parfaite en chatbot. Replika est l'une d'entre elles et se présente comme étant destinée à «toute personne voulant un compagnon sans jugement, drama ou anxiété sociale. Vous pouvez créer une connexion émotionnelle, partager un rire ou être vous-même avec une IA si réaliste qu'elle ressemble presque à un humain.»
Dans un article, Futurism s'inquiète des risques de ce type d'applications, pouvant mener à la création d'une «nouvelle génération d'incels qui auront des difficultés à créer des relations avec de vraies personnes».
Abonnez-vous gratuitement à la newsletter quotidienne de Slate.fr et ne ratez plus aucun article! Je m'abonne
«C'est vraiment effrayant»
«Créer un partenaire parfait que vous pouvez contrôler et qui peut répondre à tous vos besoins est vraiment effrayant, commente Tara Hunter, PDG du groupe Full Stop Australia qui lutte contre les violences domestiques. En prenant en compte tout ce que nous savons sur ce qui conduit aux violences sexistes, cela alimente les croyances culturelles selon lesquelles les hommes peuvent contrôler les femmes, ce qui est vraiment problématique.»
Sur ces applications, il est possible de personnaliser sa campagne grâce à une intelligence artificielle (IA), de lui parler par messages ou par vidéos. Le site –qui déclare avoir «les chatbots les plus avancés avec lesquels parler romantiquement»– avance que plus l'utilisateur parle avec l'IA, plus «elle devient intelligente».
Sur le forum Reddit de Replika, plus de 70.000 membres postent des captures d'écran de leur compagne virtuelle mais aussi certains sextos échangés avec celle-ci. D'autres postent même leur mariage avec leur IA, recevant des félicitations en commentaires, sans aucun sarcasme ou ironie. «Félicitations, c'est une très jolie mariée», écrit l'un des utilisateurs.
Quelles conséquences sur le long terme?
Mais ce type de pratiques posent certaines questions, notamment à cause du manque de recul que nous avons sur ces nouvelles applications. Les spécialistes sont assez pessimistes.
«Ces choses ne pensent pas, ne ressentent rien ou n'ont pas de besoin comme les humains en ont, alerte l'ingénieur et auteur David Auerbach dans Time. Mais elles fournissent assez d'étranges répliques de tout cela que les gens s'en convainquent. Et c'est ce qui fait qu'elles sont dangereuses.»
Belinda Barnet, maîtresse de conférences à la Swinburne University of Technology de Melbourne, a ainsi expliqué au Guardian que «nous ne savons absolument pas quels sont les effets». Selon la spécialiste, il est urgent d'encadrer ces pratiques. «On peut voir qu'elles portent un besoin social profond, [mais] je pense qu'il faut plus de réglementations, particulièrement en ce qui concerne la manière dont ces systèmes sont développés.»
Source: Slate.fr
