可以肯定的是，生成型人工智能时代将比任何人预期的都要陌生。在《大西洋月刊》(The Atlantic)的一篇新专题文章中，我的同事查理·沃泽尔(Charlie Warzel)介绍了专门从事声音复制的人工智能公司ElevenLabs。

　　查理写道:“当你使用ElevenLabs软件时，很容易想象出一个世界，在这个世界里，你可以用和任何有声书一样丰富的声音听互联网上所有的文字。”但也很容易想象潜在的大屠杀:骗子利用孩子的声音向父母要钱，这是一个肮脏的政治骗子在10月带来的邪恶惊喜。我测试了这个工具，看看它能不能令人信服地复制我说一些离谱的话。很快，我就有了高质量的语音克隆音频，敦促人们不要投票，指责“全球主义者”导致了COVID，并承认各种新闻渎职行为。这足以让我与银行联系，确保所有潜在的语音认证功能都被禁用。”

　　你可能已经接触过ElevenLabs的技术，却没有意识到它。《大西洋月刊》和《华盛顿邮报》使用该软件制作一些故事的音频版本。在最近的一次营销活动中，耐克用这款软件克隆了NBA球星卢卡·东

　　伊奇的声音。纽约市市长埃里克·亚当斯的办公室用它来模仿这位政治家的声音，拨打多语种的自动电话。一个枪支控制非营利组织用它来重现帕克兰学校枪击案中遇难儿童的声音。

　　该公司已经建立了保护措施，试图阻止恶意使用，但我们有理由期待惊喜。正如查理所写的，“有太多积极的人不断地寻找方法，以奇怪的、意想不到的、甚至是危险的方式使用这些工具。”

　　-达蒙·贝瑞斯资深编辑

　　丹尼尔·斯蒂尔为您报道

　　ElevenLabs正在打造一支语音克隆大军

　　查理·沃泽尔

　　我的声音已经准备好了。我一直在等待，不由自主地查看我的收件箱。我打开电子邮件，滚动屏幕，直到看到一个按钮，上面明明白白地写着“使用语音”。我本想大声说点什么来纪念这个时刻，但感觉不对。现在电脑可以替我说话了。

　　我原以为克隆自己的声音会很有趣，也很不可思议。我找到了人工智能初创公司ElevenLabs，花了22美元注册了一个“创作者”账户，上传了一些我自己的录音。几个小时后，我在一个文本框里输入了一些单词，按“Enter”键，然后我就看到了:所有的鼻音轻快、犹豫、停顿和大西洋中部的俄亥俄元音，这些都让我的声音成为了我自己的声音。

　　接下来要读什么?

　　人工智能在政治上比深度造假大得多

　　：长期以来，总统竞选团队一直在为特定群体量身定制广告和电子邮件。现在任何政治家都可以。”

　　注:

　　本周，苹果公司(Apple)发布了一则新的iPad广告，引发了大量反弹。对许多观众来说，这则广告似乎令人不安地提醒人们，生成式人工智能对人类创造力的威胁:广告描绘了各种艺术工具在液压机中被压碎，留下了一台新的平板电脑。“苹果想向你展示，人类智慧和历史的大部分都可以压缩到iPad上，因此想让你相信，这个设备是文化消费和文化创造的理想入口……但是，上帝啊，苹果，请大家好好想想，”我本周和查理(Charlie)一起写道。(该公司昨天为这则广告道歉。)

　　——达蒙