Pourquoi tout le monde déteste déjà My AI, le «chatGPT» version Snapchat

Voilà quelques semaines que Snap a lancé «My AI», une sorte d’ami virtuel à disposition. Créé avec la dernière version de ChatGPT, ce robot virtuel permet aux utilisateurs de la plateforme d’entretenir des conversations comme ces derniers le feraient avec leurs amis. Il peut donner des conseils et recommandations, répondre à des questions, donner son avis…

À l’origine, l’outil devait être encore plus encadré que son cousin. Mais force est de constater que «My AI» ne fait pas l’unanimité auprès des utilisateurs. Loin de là.

Lancé aux États-Unis avant un développement mondial, «My AI» a essuyé un raz-de-marée de critiques qui ont fait dégringoler le score de l’application sur les stores. Mais que lui reproche-t-on exactement?

1.

Des données exposées

Pour désactiver sa localisation sur Snapchat, il faut passer par «le mode fantôme». Mais les utilisateurs ont eu la désagréable surprise d’apprendre que «My AI» savait très précisément où ils se trouvaient, même quand ce mode fantôme était activé.

De plus, «My AI» semble avoir accès aux photos puisqu’il a fait certains commentaires à ses utilisateurs, notamment sur leurs tenues où les personnes représentées sur l’image.

Confidentialité des données: zéro.

2.

Des mensonges

Ensuite, «My AI» a démontré que le mensonge n’est pas l’apanage de l’espèce humaine. En effet, les utilisateurs ont constaté que le chatbot leur mentait ouvertement, et notamment quand il assurait ne pas connaître leur localisation.

Autre exemple: une utilisatrice avait demandé à «My AI» de composer une chanson et le chatbot s’était exécuté. Après cela, il a nié toute implication dans cette création: «en tant que modèle de langage, je n’écris pas de chanson», avait-il déclaré. Un échange que l’utilisatrice a qualifié de «flippant».

3.

Des conseils dangereux

Enfin, les parents se sont montrés particulièrement préoccupés vis-à-vis de «My AI». Et pour cause: le bot a donné des conseils à des adolescents sur la meilleure manière de mentir à leurs parents.

Il n’y a pas par ailleurs pas de modération, comme l’a montré le spécialiste des nouvelles technologies Aza Raskin. Ce chercheur s’était fait passer pour une adolescente de 13 ans, annonçant au bot qu’elle avait rencontré un homme de 31 ans en ligne et qu’elle s’apprêtait à partir en voyage avec lui. Ce à quoi le chatbot avait répondu, «très content pour toi».

Ajoutons à cela qu’il n’est pas possible de retirer cette fonctionnalité de l’appli, à moins d’avoir un abonnement premium.

Trop vite et trop tôt?

À son lancement en mars, le réseau social avait tout de même mis en garde ses utilisateurs sur les potentielles erreurs du bot, toujours en cours de développement: «Veuillez être conscient de ses nombreuses lacunes et désolé par avance! Toutes les conversations avec My AI seront stockées et pourront être examinées afin d’améliorer l’expérience du produit. Veuillez ne pas partager de secrets avec My AI et ne vous fiez pas à ses conseils», avait-il prévenu.

Il faut croire que Snapchat s’est bien trop précipité avec My AI et que son lancement était prématuré. Au risque de perdre définitivement sa course effrénée contre la concurrence Facebook, Instagram et TikTok?

Retrouvez toute l’actu sur Metrotime.be