图片来源:Sam Altman/ X

　　突出了

　　这封信是在奥特曼之前发给董事会的的发射

　　研究人员警告董事会关于项目Q*

　　据报道，OpenAI的几位研究人员表示，它可能会威胁到人类

　　广告

　　charset="utf-8" />

　　上周，OpenAI和山姆?奥特曼(Sam Altman)因各种原因频频出现在新闻中，其中包括解雇事件，以及备受期待的周二晚些时候的回归。然而，今天路透社报道了一封由OpenAI研究人员写的信，信中警告了一项全新的人工智能发现——Q*项目(或称为Q星)。

　　路透社的最新报道强调了这一迄今未被报道的人工智能突破。这一全新的揭露也引发了关于奥特曼意图的争论。它补充说，这封信可能是导致奥尔特曼被解雇的因素之一。

　　根据路透社报道中分享的关于Q*项目的有限信息，奥特曼似乎在该公司长期寻找通用人工智能(简称AGI)的过程中取得了突破。奥特曼今年早些时候在博客中将AGI描述为“通常比人类更聪明的人工智能系统”。

　　他还谈到，如果AGI被成功创造出来，它将如何通过推动全球经济来帮助提升人类。然而，奥特曼也提到了这种超级智能的缺点，“人工智能也会带来严重的滥用风险、严重的事故和社会混乱。”

　　“因为人工智能的好处是如此之大，我们认为社会永远停止它的发展是不可能的，也是不可取的;相反，社会和AGI的开发者必须弄清楚如何把它做好，”奥特曼在2023年2月的一篇博客中说。

　　据路透社报道，Q*计划可能会威胁到人类，这让我们想起了《终结者》电影。它进一步补充说，奥特曼正在研究的新模型解决了数学问题，这就是它变得有趣的地方。

　　生成式人工智能依赖于数学模型，广义上是机器学习的一个子集。对于AI来说，解决数学问题是一种算法，因为它遵循预定义的解决路径。从上下文来看，目前，生成式人工智能主要用于写作，无论是为特定需求输入电子邮件，还是如何利用Gmail来预测你的下一个单词。在奥尔特曼被解雇之前，致OpenAI董事会的信对新人工智能的能力进行了标记，并强调了安全问题，这似乎没有得到优先考虑。

　　在路透社的报道之后，OpenAI向其员工承认了Q*项目。然而，这一人工智能突破的具体细节并没有披露。

　　回顾一下本周OpenAI的事件，几天后，首席执行官萨姆·奥特曼(Sam Altman)被解雇，然后又恢复了职务。在奥特曼突然被解雇后，OpenAI的几名员工威胁要辞职，这与“没有人，OpenAI一无是处”的说法一致。除了员工之外，奥特曼还得到了其他高管的大力支持，比如OpenAI时任总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)。然而，在与新董事会谈判后，奥特曼重新担任首席执行官。

　　在被解雇和复职之间，奥特曼也有机会加入微软，领导一个新的高级人工智能研究团队。