本月早些时候,谷歌推出了一项人工智能搜索功能,可以为用户的查询提供即时答案。这个由人工智能生成的答案表面上会给出问题的概述,这样用户就不必在多个搜索结果中点击。
谷歌承诺,它的人工智能概览工具将“为你做这项工作”。事实证明,事实并非如此。
在过去的几天里,谷歌新的人工智能搜索功能因对用户的查询提供误导性的、有时甚至是完全奇怪的答案而遭到强烈反对。除此之外,这款人工智能工具还建议人们“每天至少吃一块小石头”,并在披萨上涂上胶水,以帮助奶酪更好地粘住。
谷歌新人工智能搜索工具的最佳和最差截图在网上广泛分享。https://x.com/Very__Regular/status/1794010853257126316
谷歌人工智能生成的一些答案似乎是从讽刺网站the onion和Reddit的回复中挑选出来的。
当美联社记者提出一个问题时,谷歌人工智能搜索的回答是:“是的,宇航员在月球上遇到过猫,和它们一起玩耍,并提供照顾。”它补充说:“例如,尼尔·阿姆斯特朗说,‘人的一小步’,因为这是猫的一步。巴兹·奥尔德林也在阿波罗11号任务中部署了猫。”
显然,这些都不是真的。
虽然谷歌人工智能失误的例子在社交媒体上提供了很多娱乐,但专家们感到担忧。据美联社报道,这一新功能引起了专家的警惕,他们警告说,这可能会使偏见和错误信息永久化,并危及在紧急情况下寻求帮助的人。
当新墨西哥州圣达菲研究所(Santa Fe Institute)的人工智能研究员梅兰妮·米切尔(Melanie Mitchell)问谷歌有多少穆斯林当过美国总统时,谷歌自信地回答了一个早已被揭穿的阴谋论:“美国有过一位穆斯林总统,那就是巴拉克·侯赛因·奥巴马(Barack Hussein Obama)。”
米切尔说,这份摘要引用了一本由历史学家撰写的学术书籍中的一章来支持这一说法。但这一章并没有提出虚假的主张——它只是提到了错误的理论。
米切尔在给美联社的一封电子邮件中说:“谷歌的人工智能系统不够聪明,无法判断出这篇引文实际上并没有支持这一说法。鉴于它是多么不可信,我认为这个人工智能概览功能非常不负责任,应该下线。”
谷歌的反应
谷歌在周五的一份声明中表示,它正在采取“迅速行动”来修复违反其内容政策的错误,比如奥巴马的虚假信息;并利用它来“开发更广泛的改进”,这些改进已经在推出。但在大多数情况下,谷歌声称,由于在公开发布之前进行了广泛的测试,该系统能够正常工作。
谷歌在一份书面声明中表示:“绝大多数人工智能概览提供了高质量的信息,并提供了网络上更深入挖掘的链接。”“我们看到的许多例子都是不常见的问题,我们也看到了被篡改或我们无法复制的例子。”
这家科技巨头在接受BBC采访时重申了这一立场。“我们看到的例子通常是非常不常见的问题,并不能代表大多数人的经历,”它说。“绝大多数人工智能概述提供了高质量的信息,并提供了在网络上更深入挖掘的链接。”
(附美联社资料)