Pourquoi «My AI» sur Snapchat fait flipper de nombreux utilisateurs?

Voilà quelques semaines que Snap a lancé « My AI», une sorte d’ami virtuel à disposition. Créé avec la dernière version de ChatGPT, ce robot virtuel permet aux utilisateurs de la plateforme d’entretenir des conversations comme ces derniers le feraient avec leurs amis. Il peut donner des conseils et recommandations, répondre à des questions, donner son avis…

Ce chatbot était, à l’origine, réservé aux abonnés payants du service Snapchat+. Il est alimenté par la dernière version de ChatGPT, que l’on ne vous présente plus. Mais depuis le 19 avril, le système s’est étendu aux utilisateurs du monde entier, ce qui a provoqué une vague de panique générale.

Pourquoi ces craintes?

La principale raison pour laquelle cet outil inquiète, c’est parce que contrairementà ChatGPT, My AI a tout d’un véritable humain. On peut personnaliser son nom, son avatar Bitmoji, et même l’intégrer dans les conversations de groupes.

De quoi créer la confusion chez certains jeunes? C’est ce que pensent en tout cas des parents, comme l’explique une maman à CNN: « Je ne pense pas être prête à apprendre à mon enfant comment faire la distinction émotionnelle entre les humaines et les machines, alors qu’ils sont identiques à ses yeux. Je pense juste qu’il y a une ligne très claire qui a été franchie.»

Et puis, constater qu’une intelligence artificielle conseille à une jeune fille de 13 ans d’allumer des bougies et mettre de la musique pour faire sa première fois avec un individu de 18 ans… Cela a de quoi de faire flipper! Snapchat permet aux utilisateurs de 13 ans de rejoindre son réseau social, ce qui peut être problématique pour certains adolescents.

Ce n’est pas tout, puisque «My AI» semble tout savoir de son interlocuteur, à commencer par sa géolocalisation. L’intelligence artificielle pourrait aussi interpréter les images et poserait des questions en fonction de cela.

Comment s’en débarrasser?

C’est la dernière chose qui inquiète beaucoup certaines personnes: pour supprimer «My AI» de l’appli, il faut payer! Évidemment, vous pouvez décider de ne plus lui adresser la parole, mais la fonctionnalité restera présente si vous n’êtes pas abonné à Snapchat+.

Et s’il est difficile de se débarrasser de «My AI», c’est pour la simple et bonne raison que l’intelligence artificielle récolte des données pour personnalité votre expérience de l’application.

Tous ces arguments auront-ils fini de vous convaincre que l’outil n’a rien à faire sur votre smartphone?

Retrouvez toute l’actu sur Metrotime.be