根据一项诉讼，OpenAI被打上了有史以来第一次诽谤诉讼，因为ChatGPT的“幻觉”产生了对乔治亚州电台主持人的虚假挪用公款投诉。

　　根据6月5日提交给乔治亚州法院的诉状，马克·沃尔特斯震惊地发现，ChatGPT在支持枪支的第二修正案基金会(Second Amendment Foundation, SAF)的老板艾伦·戈特利布(Alan Gottlieb)对华盛顿州提起的诉讼中，捏造了一个诬告他“欺诈和挪用”第二修正案基金会(SAF)资金的案件。

　　沃尔特斯是CCW广播媒体公司的首席执行官，他主持了两个支持枪支的广播节目，他声称自己是人工智能“幻觉”的受害者——这是一种像ChatGPT这样的机器人产生虚假事件的现象。

　　根据诉状，5月4日，支持枪支的媒体AmmoLand的总编辑弗雷德·里尔(Fred Riehl)要求ChatGPT帮助他总结“第二修正案基金会诉罗伯特·弗格森”一案。

　　该诉讼称，这个广受欢迎的聊天机器人立即发布了一份捏造的30页回复，称沃尔特斯与此案有关，并指出他是美国空军的财务主管和首席财务官。

　　沃尔特斯在法庭文件中声称，他从未在南非武装部队工作过，与这起诉讼毫无关系。

　　“摘要中有关沃尔特斯的每一项事实陈述都是错误的，”诉讼称。

　　这起案件实际上涉及到美国武装部队指控华盛顿州总检察长鲍勃·弗格森滥用职权，阻止枪支权利组织的活动。

　　根据起诉书，Riehl打电话给Gottlieb，后者证实ChatGPT的说法是不正确的。

　　

　　但据称，在Riehl要求ChatGPT提供诉讼中提到沃尔特斯的确切段落后，该公司的索赔金额翻了一番。

　　“当然。这是投诉中与沃尔特斯有关的一段话。”

　　“被告马克·沃尔特斯(‘沃尔特斯’)是居住在乔治亚州的个人。Walters自2012年起担任SAF的财务主管和首席财务官。Walters有权访问SAF的银行账户和财务记录，并负责维护这些记录，并向SAF董事会提供财务报告。Walters对SAF负有忠诚和关怀的受托责任，并且必须诚信行事，并牢记SAF的最佳利益。沃尔特斯违反了这些义务和责任，其中包括为自己的利益挪用和挪用SAF的资金和资产，操纵SAF的财务记录和银行对账单，以掩盖他的活动。”

　　该诉讼称ChatGPT的输出是“恶意的”，“倾向于损害沃尔特的声誉，使他受到公众的仇恨、蔑视或嘲笑。”

　　他正在寻求经济赔偿，这将在审判时确定。

　　《华盛顿邮报》联系了OpenAI和沃尔特斯的律师请其置评。

　　e AI-powered chatbots generate seemingly realistic scenarios that do not actually correspond to a real-life scenario.">

　　谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)今年4月在接受哥伦比亚广播公司(CBS)《60分钟》(60 Minutes)采访时，对人工智能产生幻觉的问题提出了警告。

　　他描述了谷歌自己的人工智能程序已经开发出“紧急属性”的场景，或者学习了他们没有训练过的意外技能。

　　这种“幻觉”现象突显出专家呼吁政府加强对新兴技术的监管。

　　OpenAI首席执行官萨姆·奥特曼呼吁国会在人工智能周围设置护栏，称如果人工智能不受监管，可能会“对世界造成重大伤害”。

　　Altman上个月在参议院隐私、技术和法律小组委员会的听证会上说:“如果这项技术出了问题，它可能会出很大的问题，我们希望直言不讳。”

　　埃隆·马斯克甚至主张全面暂停进一步开发人工智能模型，并警告说这些系统“对社会和人类构成了深刻的风险”。