律师使用ChatGPT生成虚构法庭判决可能面临的制裁

快速导读：一位纽约郊区的律师使用AI工具ChatGPT创作了一份虚构的州法院判决，并在法律文件中引用，可能面临制裁。第二巡回上诉法院认定该律师的行为不符合预期标准，并将其提交给投诉小组以进行可能的纪律行动。该案例凸显了律师不适当使用AI工具生成虚假信息的问题日益严重。

律师的不当行为及潜在处分

来自纽约Uniondale的律师Jae Lee因使用ChatGPT生成一份不存在的州法院判决并包含在法律文件中，可能面临制裁。第二巡回上诉法院认定她的行为未达到律师的预期义务。因此，Lee被提交给一个投诉小组，该小组将确定适当的纪律行动，可能包括罚款或停职。

对滥用AI工具的担忧日益增加

Lee的案例并非个案，其他律师也因不当使用ChatGPT等AI工具而受到关注。去年，曼哈顿的两名律师因提交了一份包含ChatGPT生成的虚构案例引用的法庭简要而被罚款5000美元。此外，法庭文件显示，甚至连代表唐纳德·特朗普的前律师迈克尔·科恩也在一份法律简要中无意间引用了谷歌的AI工具生成的虚假案例。这一趋势凸显了在法律诉讼中使用AI生成信息时需要更加谨慎和审慎的必要性。

未核实虚构判决的有效性

在Lee对一起医疗事故诉讼的上诉中，她引用了两个案例，其中一个是虚构的Bourguignon v. Coordinated Behavioral Health Services。Lee声称她很难找到相关案例，于是求助于ChatGPT，后者提供了这个虚构判决。然而，第二巡回上诉法院的法官们发现Lee未能核实她引用的判决的有效性，突显了她缺乏尽职调查的问题。该案例提醒人们在引用法律先例时进行彻底的研究和核实的重要性。

本案件为第二巡回上诉法院的Park v. Kim案，案号为22-02057，日期为2024年1月30日。