Advokát ze Spojených států Steven A. Schwartz se dostal do neobvyklé situace, když přiznal, že využil nástroj umělé inteligence ChatGPT pro právní výzkum ve svém případu. Tento případ upoutal pozornost, když bylo zjištěno, že v podaném soudním spisu byly citovány případy, které ve skutečnosti neexistují. Schwartz, který je právníkem více než 30 let, použil ChatGPT k vyhledání podobných předchozích případů, čímž si vysloužil pozornost soudu.

Jeho klient žaloval leteckou společnost kvůli údajnému osobnímu zranění. Právní tým tohoto muže předložil soudní návrh, který citoval několik předchozích soudních případů v pokusu prokázat, proč by měl případ pokračovat. Právníci letecké společnosti však později upozornili soudce, že některé z citovaných případů v návrhu nebyli schopni najít.

Při přezkoumání podání soudem se ukázalo, že výzkum nebyl připraven advokátem žalobce, ale právě Schwartzem, kolegou z téže advokátní kanceláře. Schwartz v písemném prohlášení přiznal, že „hluboce lituje“ spoléhání se na AI chatbota. Uvedl, že nikdy předtím ho nepoužil pro právní výzkum a nebyl si „vědom, že jeho obsah může být nepravdivý“. Přísahal také, že v budoucnosti nikdy nepoužije umělou inteligenci.