纽约一名律师在一起法庭案件中因借助 ChatGPT 进行法律文献检索，而导致整个职业生涯面临危机。
据纽约时报消息称，该事件最初起源于一名男子因涉嫌人身伤害起诉航空公司的案件。在双方角力过程中，该男子的律师团队提交了一份长达 10 页的简报；引用了一系列相关的法庭案例，以力求为己方索赔提供有力支撑。根据解释，原告的代理律师为 Levidow, Levidow & Oberman 事务所的 Peter LoDuca；但该报告是由他同律所的同事 Steven A. Schwartz 所整理，Schwartz 已从业三十余年。
而问题就出在，Schwartz 的这份报告是他利用 ChatGPT 所撰写。其中所例举的六起类似案例：Varghese 诉中国南方航空公司、Shaboon 诉埃及航空公司、Petersen 诉伊朗航空公司、Martinez 诉达美航空公司、Estate of Durden 诉荷兰皇家航空公司以及 Miller 诉联合航空公司；均被证明是不存在的案件，完全由 ChatGPT 凭空捏造。
面对质询，Schwartz 就自己依赖 ChatGPT 的行为表达了惭愧；并辩护称，以前从未使用过聊天机器人进行法律研究，所以完全没有意识到内容可能存在虚假性。
他向法官提供了与 ChatGPT 互动的截图，截图显示 ChatGPT 非常笃定的将虚假案例认定为真，甚至确认这些案件可以在"reputable legal databases"中找到。Schwartz 强调，自己没有欺骗法院或航空公司的意图，还发誓以后再也不会在没有彻底核实的情况下使用 ChatGPT。
这一前所未有的情况也促使法官召集了听证会，讨论可能针对 Schwartz 的制裁；听证会计划于下月举行。
该案件还引发了法律界关于 AI 的价值和风险讨论。纽约大学法学院法律伦理学教授 Stephen Gillers 表示，该案件强调法律专业人士不能简单地从人工智能中获取输出并将其纳入法庭文件。“现在律师界讨论的都是如何避免本案所描述的情况。”