O advogado estadunidense,  Steven A. Schwartz usou a inteligência artificial, O ChatGPT, para preparar um documento contra a companhia aérea Avianca, mas a inteligência compartilhou casos que não existem e Schwartz os apresentou no tribunal.

Em consequência disso, o advogado foi duramente criticado após desenvolver um processo judicial contra a Avianca contendo mentiras fornecidas pelo ChatGPT. Schwartz disse que usou a IA para “complementar” o documento, mas que depois descobriu que a tecnologia forneceu “meia dúzia de casos inexistentes”, além de flar que “desconhecia a possibilidade de que o conteúdo [do ChatGPT] pudesse ser falso”.

De acordo com apuração do “The New York Times”, o juiz que acompanha o processo disse que foi apresentada “uma circunstância sem precedentes”, com um documento repleto de “citações e decisões judiciais falsas”. Ele ordenou uma audiência para avaliar possíveis sanções contra Schwartz.