那些神奇的、有缺陷的新聊天机器人背后的技术

2024-09-24 02:22来源:本站

  

  

  在2022年底推出ChatGPT后的几天里,用户对聊天机器人对一系列问题和命令的复杂答案感到惊讶。他们很开心地分享了它的历史观点、大学“论文”和编程挑战的解决方案,并拿它俗气的诗歌开玩笑。直到后来,人们才开始意识到一台能够以超人的速度执行各种任务的机器的全部含义。ChatGPT、谷歌(Google)的Bard以及其他由所谓的生成式人工智能(generative artificial intelligence)驱动的平台,在某些方面被视为一场即将到来的经济革命的代表,可以与汽车或互联网的发明相媲美。其他观察人士表示,它们将扼杀一整类毕业生水平的工作,而且由于没有与它们巨大能力相匹配的道德良知,它们将以前所未有的规模成为传播错误信息和欺骗的工具。

  1. 什么是生成式人工智能?

  这是一种可以执行复杂任务的软件,比如根据简单的书面提示写故事或创建图像。在训练过程中,这些系统被输入大量的信息(例如,互联网上免费提供的每一本书),并被教导如何使用这些数据来制作新东西,比如一本新小说的简介。系统将它们从这些努力中学到的东西应用到未来的努力中,它们的反应逐渐变得更加复杂和微妙。结果是独特的,在某种意义上是原创的,但实际上仍然是一种复杂的模仿形式。

  2. 为什么这么兴奋?

  生成式人工智能能够快速获取新技能并高速执行这些技能,这意味着它可以帮助完成目前由人类完成的各种工作,例如起草法律合同或调试软件。高盛集团(Goldman Sachs Group Inc.)说,它最多可以完成目前人工完成的工作的四分之一。瑞银集团(UBS Group AG)的分析师认为,该技术的市场规模将轻松超过1万亿美元。就像智能手机催生了优步(Uber)和WhatsApp一样,生成式人工智能可以为新服务提供动力,催生新的职业,并加速药物研究和物理等领域的进步。

  3.可能的经济影响是什么?

  一些经济学家预计,生产率的飞跃将引发工资上涨,这将帮助工人恢复自2008年金融危机以来失去的部分赚钱能力。斯坦福大学(Stanford University)和麻省理工学院(Massachusetts Institute of Technology)的研究人员进行的一项研究发现,一家财富500强软件公司的员工在使用生成式人工智能工具时,工作效率平均提高了14%。最低技能工人的速度提高了35%。目前尚不清楚的是,这对他们收入较高的同事有何影响,因为他们可能不再需要昂贵的技能。在乐观的情况下,工作被自动化的熟练员工将在生成式人工智能创造的增长领域找到新的工作。然而,早期迹象表明,这将是一场痛苦的剧变。国际商业机器公司(International Business Machines Corp.)计划停止或放慢招聘数千个预计将被人工智能取代的职位。

  4. 生成人工智能的局限性是什么?

  它从现有的公开信息中拼凑出的答案听起来非常权威,以至于用户可能会认为它已经验证了答案的准确性。从有用的上下文(如信息来源)中剔除,并且很少有明显的缺陷(通常表明材料不可靠),对于那些对主题不够精通的人来说,这些内容可能是一个雷区,无法注意到有缺陷或完全错误的回答。

  5. 这对社会意味着什么?

  随着这些工具变得越来越复杂,制造恶作剧的可能性也越来越大。一些人工智能平台已经被关闭或调整,以阻止它们传播仇恨言论,ChatGPT允许用户标记令人反感的回复,以改进系统。但用户已经找到了变通办法。人工智能可能不会注意到人类在书籍和其他文本中注意到的性别或种族偏见。这也是一种潜在的欺骗武器。用人工智能成像工具制作一张逼真的假照片只需不到5分钟。老师们担心学生们让聊天机器人来做作业。游说公司可以利用人工智能伪造数千封据称来自公民的不同信件,以影响立法者的决定。在今年3月发表的一封公开信中,1000名技术专家和研究人员呼吁暂停人工智能的开发,以便有更多时间来权衡“对社会和人类的深刻风险”。

  ——Alex Webb和Nate Lanxon的协助下。

  更多类似的故事可以在bloomberg.com上找到

  ?2023 Bloomberg L.P.

度享网声明:未经许可,不得转载。