相信人工智能(AI)将变得有意识并消灭人类的新时代理论家们，正在对美国的人工智能政策产生越来越大的影响。

　　本周，美国国务院资助的一份报告宣称，人工智能对人类的生存构成了类似于核武器的威胁，甚至建议对未经授权的人工智能开发进行监禁。上周，VentureBeat报道了美国国家标准与技术研究院(NIST)正在酝酿一场叛变。此前，美国国家标准与技术研究院(NIST)的工作人员发现，一名领先的人工智能预言家预测，人工智能消灭人类的可能性为“50%”，而这名预言家正在人工智能安全研究所(ASI)迅速成为一名专家。人工智能安全研究所是一个新成立的机构，旨在帮助研究和制定监管人工智能技术的政策和指导方针。

　　作为拜登关于人工智能的行政命令的一部分，NIST创建了ASI。该命令本身是由兰德公司起草的，据Politico报道，该公司与一场宣扬人工智能末日叙事的运动日益交织在一起。这包括从开放慈善机构获得2500万美元的资金，该慈善机构是Facebook亿万富翁达斯汀·莫斯科维茨(Dustin Moskovitz)的慈善机构，也是反人工智能项目的主要资助者。

　　这些事件表明，支持有效利他主义(effective altruism，简称EA)思想的人对美国政府产生了更广泛的影响。有效利他主义是一种声称相信利用证据和推理来为大多数人做最有益的事情的运动。近年来，对人工智能获得感知和终结人类的担忧已成为其关注的焦点，这让史蒂文·平克(Steven Pinker)等早期支持者非常沮丧。

　　虽然许多人不愿意使用这个标签，因为它与Sam Bankman-Fried及其欺诈性加密交易所FTX的广泛融资联系存在争议，但有很多方法可以判断某人是否订阅了EA的意识形态。

　　美国国务院最近资助的这份报告与EA运动的严厉提议惊人地相似。尽管该报告的合著者爱德华·哈里斯坚称自己不是其中一员，但他在EA论坛LessWrong上的多年存在，以及之前与埃利泽·尤德科夫斯基的机器智能研究所(MIRI)的合作表明，他至少认同该运动的许多观点。他在MIRI的工作性质尚不清楚。哈里斯没有回应置评请求。

　　尤德科夫斯基在人工智能末日论者中呼声很高。去年，批评人士在《时代》杂志的一篇专栏文章中声称，他提议对无视人工智能理论发展条约的国家进行核打击——尽管他后来在X上的一篇文章中否认了这一指控。

　　还有兰德公司(RAND corporation)，该公司帮助起草了拜登总统的人工智能行政命令。近年来，包括首席执行官杰森·马西尼(Jason Matheny)在内的有效利他主义者在这家咨询公司的行政领导层中扮演了关键角色。这导致公司内部有人指责它在推动EA的议程。

　　还有保罗·克里斯蒂亚诺(Paul Christiano)，他很快就会进入人工智能安全研究所(AI Safety Institute)，他是EA和人工智能安全研究领域的关键人物。对于自己的观点，克里斯蒂亚诺并不讳言:他认为人工智能消灭人类的可能性就像抛硬币一样。他被任命为人工智能安全研究所所长的争议就是因为这些观点。

　　这些联系暗示着EA下属的人物影响着美国人工智能政策的方向，这些想法似乎在整个拜登政府中流行起来。去年12月，查克·舒默主持了一场关于人工智能的参议院论坛。他首先发表了关于人工智能前景的演讲，随后MIRI首席执行官马洛·布尔贡也发表了演讲。

　　舒默会不停地向与会者提问他们的“末日”数字，这是EA对人工智能消灭人类的估计。公平交易委员会主席莉娜·汗表示，她的P(Doom)为15%。商务部长吉娜·m·雷蒙多(Gina M. raimondo)曾公开谴责开放人工智能开发的支持者是不负责任的。

　　舒默承诺向ASI提供1000万美元，而其下属机构NIST则在资金问题上苦苦挣扎。与此同时，EA、兰德和ASI之间的联系受到了一些民主党人和共和党人的密切关注，他们要求提高透明度。

　　美国国务院的这份报告花费了纳税人25万美元，它似乎是一个名为“美国人为人工智能安全”的新政治行动委员会的宣传活动。其目标是:在2024年底之前通过严格的人工智能法规，旨在使其成为即将到来的选举中的一个关键问题。反人工智能运动仍在继续。