Un avocat fait confiance à ChatGPT et raconte n’importe quoi lors d’un procès!
Un avocat new-yorkais a présenté ses excuses au tribunal après avoir utilisé de fausses décisions judiciaires avec de fausses citations qui lui avait soufflées l’intelligence artificielle de ChatGPT.
Un avocat new-yorkais qui avait utilisé ChatGPT pour préparer un procès civil a présenté ses excuses au tribunal, car le programme d’intelligence artificielle lui avait soufflé des affaires inventées de toutes pièces. «Je n’avais tout simplement aucune idée que ChatGPT était capable de fabriquer des citations entières d’affaires ou d’opinions juridiques, d’une manière qui semble authentique», a écrit l’avocat Steven Schwartz dans un document versé cette semaine au dossier.
Une affaire inventée de toutes pièces par ChatGPT
Dans cette affaire -- la vraie -- l’avocat représente devant un tribunal civil fédéral de Manhattan un client qui attaque la compagnie aérienne colombienne Avianca. Roberto Mata demande réparation car il affirme avoir été blessé à la jambe par la chute d’une assiette en métal, au cours d’un vol en août 2019 du Salvador à New York. La compagnie aérienne a demandé au tribunal de rejeter le dossier, mais l’avocat du passager a versé un mémoire citant plus d’une demi-douzaine de précédents judiciaires pour soutenir ses arguments. Figuraient notamment des affaires intitulées «Petersen contre Iran Air», «Varghese contre China Southern Airlines» ou «Shaboon contre Egyptair». Problème, ni la partie adverse, ni le juge Castel, n’en ont retrouvé trace dans la jurisprudence.
«Je pensais que ChatGPT était un moteur de recherche fiable»
«Six des cas soumis semblent être de fausses décisions judiciaires avec de fausses citations», a constaté le juge par écrit. Steven Schwartz a dû admettre que ChatGPT, l’outil d’intelligence artificielle créé par OpenAI, avait tout inventé. «À l’époque où j’ai effectué les recherches juridiques dans cette affaire, je pensais que ChatGPT était un moteur de recherche fiable. Je sais maintenant que ce n’était pas le cas», a-t-il soutenu. Promettant de ne plus recommencer, il a ajouté que l’affaire avait couvert son cabinet de ridicule, depuis la parution d’un premier article du New York Times.
Retrouvez toute l’actu sur Metrotime.be