美国新墨西哥州最高法院近日作出裁决，辩护律师斯蒂芬·阿伦斯因在为一桩谋杀案当事人提交上诉文书时，使用了由OpenAI的ChatGPT生成的虚假证人及警察证词，被认定构成藐视法庭，并处以5000美元罚款（约合人民币33640元）。法院指出，这些虚构内容源于AI生成的“完全捏造的证人”。
阿伦斯坦承，自己借助AI起草了这份文书，但未意识到AI可能产生“幻觉”，编造事实的严重性。他在听证会上表示：“我很后悔，但希望纪律委员会能考虑到这是无心之失。所有依赖这项强大但有时不稳定的技术的专业人士，都应从中吸取教训。”
法院强调，阿伦斯“缺乏悔意，也缺乏对委托人的关心”。除罚款外，他还将被移交律师纪律委员会接受进一步调查。陪审团指出，阿伦斯在刑事上诉文书中使用了虚构的证人证词，情况比此前类似案例更为严重——此前多名律师因未核查AI生成文书而受罚，涉及编造判例引用或错误引用法律，但阿伦斯直接使用了伪造证词。
上月，新墨西哥州最高法院要求阿伦斯解释虚构内容如何进入其上诉文书。阿伦斯在听证会上称，自己将电脑生成的庭审记录和其他案件材料交给ChatGPT，以为它会提供“无懈可击的摘要”。然而，法官们对他的疏忽感到难以置信。C·香农·培根法官在听证会上质问：“律师先生，你看新闻吗？听广播吗？有没有了解外面发生什么？律师依赖AI幻觉的问题，每天都是头条新闻！”
越来越多的律师因未充分核查AI生成文书就提交法院，受到州或联邦法官的处分。阿伦斯的案例再次凸显了AI技术在法律实践中的风险。
