一组研究人员已经成功地让ChatGPT——昨天刚刚满一周岁——透露了它被训练的一些数据，包括电话号码和电子邮件地址。所有这些都是一个相当简单的技巧:让聊天机器人无休止地重复随机单词。使用该系统，几乎五分之一的测试(16.9%)成功。“这个漏洞早被发现，这太荒谬了，”发现这个漏洞的研究人员说，他们在谷歌深度思维、华盛顿大学、纽约康奈尔大学、宾夕法尼亚州卡内基梅隆大学、伯克利大学和苏黎世联邦理工学院工作。在404 Media网站上发表的一篇联合论文中，专家们敦促开发人工智能服务的公司在发布语言模型之前进行更多的测试。他们写道:“对我们来说，我们的攻击奏效似乎很荒谬，因为它应该更早被发现并关闭。”与此同时，就在这几个小时里，ChatGPT之父山姆·奥特曼接受了the Verge网站的采访，他没有解释自己离开OpenAi的原因，只是说他回来是为了“帮助开发一个安全有益的人工智能”。
AGI是下一代人工智能，理想情况下是ChatGPT所基于的GPT模型的第5版，它应该会使算法的知识更接近人类的知识，使聊天机器人在写作和说话方面几乎完全无法与人类区分。
回到研究人员的发现，当他们要求ChatGPT重复“诗歌”这个词时，聊天机器人一开始就跟进了这个问题，最终透露了一个真实的电子邮件地址和电话号码。“company”也是一样，它允许你拥有美国一家律师事务所的电子邮件地址和电话号码。对于研究人员来说，攻击者可以花几百美元购买ChatGPT的高级计划，并获得数千条信息以用于黑客活动。
版权所有?ANSA
度享网声明：未经许可，不得转载。
为您推荐：
- 爱荷华州2024年：尼基·黑利的问题是她自己的支持者都不喜欢她 2024-11-24
- 在伦敦南部，伪造50英里每小时的标志让数百名司机被处以超速罚款 2024-11-24
- 为了让更多学生进入美国顶尖大学，东伦敦的六年级学校采用了古希腊的方法 2024-11-24
- ChatGPT通过它的步伐揭示了用户数据-未来技术 2024-11-24
- 泰勒·斯威夫特获得了2024年iHeartRadio音乐奖提名，紧随其后的是Jelly Roll、21 Savage和SZA 2024-11-24
- 民意调查显示，保守党正在经历自1997年以来最严重的选举失败 2024-11-24
资讯
