Actualité 📖
Une créatrice américaine a mis en place à destination de son public un bot censé l'imiter.
Son but : devenir la "petite copine virtuelle" de ses abonnés, en échange d'une somme d'argent.
On vous raconte cette histoire. 👇
Caryn Marjorie est une créatrice américaine parmi les plus populaires du moment. Elle comptabilise plus de 2 millions d'abonnés sur Snapchat, composés à 98% d'hommes.
L'une des activités principales de Caryn est de répondre à ses fans, dans un groupe Telegram qui n'est accessible qu'à ses abonnés payant pour y entrer.
Selon un article du Washington Post, elle passerait près de 5h par jour à échanger avec eux.
https://www.washingtonpost.com/technology/2023/05/13/caryn-ai-technology-gpt-4/?utm_campaign=wp_main&utm_medium=social&utm_source=twitter
Mais comment alléger son emploi du temps ? En faisant appel à quelqu'un qui est elle, sans être elle.
L'intelligence artificielle semblait être la solution toute trouvée.
Caryn a donc fait appel à la société Forever Voices (une startup qui crée des bots Telegram censés imiter des célébrités) pour sortir CarynAI.
Le principe : ses fans peuvent converser avec le bot, qui reprend la personnalité et même la voix de la jeune femme, moyennant un dollar la minute.
Mais alors, de quoi peuvent-ils parler ?
Marjorie explique que si les conversations finissent souvent sur des sujets sexuels, ce n'était pas son objectif premier à la sortie du bot.
Elle souhaiterait participer à "guérir la solitude chez son public".
À noter : CarynAI se nourrit des conversations qu'il a avec différents utilisateurs pour s'améliorer, ce qui explique que des sujets romantiques et sexuels arrivent régulièrement.
Marjorie réfléchirait à limiter l'apparition de ces thèmes dans son bot.
Des dispositions ont été mises en place pour éviter de créer l'addiction chez les utilisateurs : les conversations ne peuvent durer qu'une heure à la suite, avant d'être automatiquement arrêtées par le bot.
On touche ici au concept de relation parasociale, assez connu depuis quelques années maintenant : l'impression qu'un spectateur a d'avoir une relation personnelle et privilégiée avec une personne célèbre, relation qui n'existe pas.
Ce n'est pas la première fois qu'une société tente de développer un compagnon en IA qui devient au final une relation amoureuse.
Le principal exemple de ce phénomène est le cas Replika.
L'application propose de créer et discuter avec un chatbot appelé Replika.
Au fil du temps, il se rappelle de vous, de ce que vous lui dites et vous pouvez développer une vraie relation avec, comme un ami dans votre téléphone.
Seulement, Replika proposait aussi des options (payantes) pour être dans une relation amoureuse avec votre IA, et pouvoir échanger des messages à caractère sexuel.
Suite à des scandales, la société éditrice décidait en février 2023 de retirer cette fonctionnalité.
Un changement très mal accueilli par ses utilisateurs qui ont partagé de nombreux messages de mécontentement sur Reddit, expliquant qu'ils avaient l'impression de "perdre un véritable ami".
Des messages de prévention sur le suicide avaient même été partagés.
Les compagnons IA sont plus qu'une nouvelle technologie, mais un vrai phénomène de société.
Certains disent qu'ils leur permettent de sociabiliser avec des "personnes", dans un monde où ils se sentent profondément seuls.
En 2021 en France, on estimait que 24% de la population âgée de plus de 15 ans était en situation d'isolement relationnel : cela signifie qu'ils n'ont plus de contact avec leur entourage.
Ces chiffres sont d'ailleurs en constante augmentation depuis la crise du Covid.
Les IA pourraient représenter une solution à cet isolement, mais sont-elles une bonne solution ? Et surtout, est-ce viable sur le long terme ?
Un lourd sujet, dont nous entendront probablement de plus en plus parler dans les années à venir.
Thread par @mrgansurtwi.