ChatGPT人工智能公司的负责人周二告诉国会，政府干预对于减轻日益强大的人工智能系统带来的风险至关重要。

　　“随着这项技术的进步，我们理解人们担心它会如何改变我们的生活方式。我们也是，”OpenAI首席执行官萨姆·奥特曼在参议院听证会上说。

　　奥特曼建议成立一个美国或全球机构，授权最强大的人工智能系统，并有权“取消该许可证，确保符合安全标准”。

　　他位于旧金山的创业公司在去年年底发布ChatGPT后迅速引起了公众的关注。这个免费的聊天机器人工具回答问题时，会给出令人信服的类似人类的回答。

　　一开始，教育工作者对ChatGPT被用来在家庭作业中作弊的恐慌，已经扩大到对最新一批“生成式人工智能”工具误导人们、传播谎言、侵犯版权保护和颠覆某些工作的能力的更广泛担忧。

　　虽然目前还没有迹象表明国会将像欧洲立法者那样制定全面的新人工智能规则，但社会的担忧使奥特曼和其他科技公司的首席执行官本月早些时候来到白宫，并促使美国机构承诺打击违反现有民权和消费者保护法的有害人工智能产品。

　　康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)是参议院司法委员会隐私、技术和法律小组委员会的主席，他在听证会上发表了一段听起来像参议员的录音演讲，但实际上是经过训练的语音克隆，并背诵了chatgpt写的开场白。

　　布卢门撒尔说，结果令人印象深刻，但他补充说，“如果我问它，如果它支持乌克兰投降或(俄罗斯总统)弗拉基米尔·普京的领导，会怎么样?”

　　周二，参议员提问的总体语气是礼貌的，这与过去的国会听证会形成了鲜明对比，在过去的听证会上，科技和社交媒体高管因该行业未能管理数据隐私或打击有害的错误信息而面临严厉的盘问。在某种程度上，这是因为民主党和共和党都表示，他们有兴趣寻求奥尔特曼在避免尚未发生的问题方面的专业知识。

　　布卢门撒尔表示，人工智能公司应该被要求测试他们的系统，并在发布之前披露已知的风险，并对未来的人工智能系统如何破坏就业市场的稳定表示特别担忧。奥特曼在很大程度上同意这一观点，不过他对工作的未来持更为乐观的态度。

　　当被问及他自己对人工智能最大的担忧时，奥特曼基本上避免了具体的细节，只是说该行业可能会“对世界造成重大伤害”，“如果这项技术出了问题，它可能会变得非常糟糕”。

　　但他后来提出，一个新的监管机构应该实施保护措施，阻止可能“自我复制和自我渗透到野外”的人工智能模型——暗示未来对先进人工智能系统可能操纵人类放弃控制权的担忧。

　　拜登政府的一名前官员表示，专注于超级强大的人工智能这一遥远的“科幻小说”，可能会使对已经存在的危害采取行动变得更加困难，这些危害要求监管机构深入挖掘数据透明度、歧视行为以及欺诈和虚假信息的可能性，他是人工智能权利法案计划的共同撰写者。

　　布朗大学(Brown University)计算机科学家、白宫科技政策办公室(Office of science and Technology Policy)科学与司法助理主任苏雷什·文卡塔苏布拉马尼安(Suresh Venkatasubramanian)说:“正是对这些(超级强大)系统的恐惧，以及我们对它们缺乏了解，让每个人都感到集体恐慌。”“这种毫无根据的恐惧分散了人们对我们目前正在处理的所有担忧的注意力。”

　　OpenAI从一开始就表达了这些存在的担忧。在科技亿万富翁埃隆·马斯克的支持下，奥特曼于2015年与人共同创立了这家初创公司，它已经从一个以安全为使命的非营利研究实验室发展成为一家企业。该公司其他受欢迎的人工智能产品包括图像生成器DALL-E。微软已经向这家初创公司投资了数十亿美元，并将其技术整合到自己的产品中，包括搜索引擎必应(Bing)。

　　奥特曼还计划本月开始全球巡回演出，前往六大洲的各国首都和主要城市，与政策制定者和公众讨论这项技术。在参议院作证前夕，他与数十名美国议员共进晚餐，其中几人告诉CNBC，他们对他的言论印象深刻。

　　出席听证会的还有IBM首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)和纽约大学(New York University)名誉教授加里·马库斯(Gary Marcus)。马库斯是一群人工智能专家之一，他们呼吁OpenAI和其他科技公司暂停开发更强大的人工智能模型六个月，让社会有更多时间考虑风险。这封信是对OpenAI 3月份发布的最新模型GPT-4的回应，该模型被描述为比ChatGPT更强大。

　　该委员会的资深共和党人、密苏里州参议员霍利(Josh Hawley)说，这项技术对选举、就业和国家安全都有重大影响。他说，星期二的听证会标志着“朝着理解国会应该做什么的方向迈出了关键的第一步”。

　　一些科技行业领袖表示，他们欢迎某种形式的人工智能监管，但对他们认为过于严厉的规定提出了警告。Altman和Marcus都呼吁建立一个专注于人工智能的监管机构，最好是一个国际监管机构，Altman引用了联合国核机构的先例，Marcus将其与美国食品和药物管理局进行了比较。但IBM的Montgomery却要求国会采取“精确监管”的方式。

　　蒙哥马利说:“我们认为，从本质上讲，人工智能应该在风险点上受到监管。”通过制定规则来管理人工智能的特定用途的部署，而不是技术本身。