随着工具变得更加复杂和广泛可用,人工智能生成的深度伪造的数量正在爆炸式增长。
大多数深度造假都是色情内容,目标受众从儿童到名人都有。
以下是一些阻止深度造假的尝试。
人工智能的风险似乎是压倒性的——技术提供的每一个好处,都有一个不利的用途。人工智能带来的一个主要问题是深度造假:人工智能生成的视频、图像或音频可以被设计成模仿受害者说或做从未发生过的事情。
有些深度造假是在真实的视频片段上叠加相似的效果,而有些则完全是由电脑生成的。
本文仅对Business Insider订阅者开放。成为业内人士,现在就开始阅读。有账户吗?.
Deep Trace在2019年进行的一项名为“深度造假现状”的研究发现,96%的深度造假视频是色情视频。
该研究的合著者、深度造假研究人员亨利·艾德尔告诉《商业内幕》,虽然这个数字可能已经改变,但问题仍然很严重。
随着Dall-E、Stable Diffusion和Midjourney等AI工具变得越来越普及,即使没有多少技术知识的人也可以更容易地制作深度伪造。
“现在总体百分比下降了,但深度虚假内容的总体数量呈爆炸式增长,”Ajder说。“我们说的是全世界数以百万计的受害者。”
虽然内容是假的,但对受害者来说,羞辱、创伤和恐吓是非常真实的。据英国广播公司报道,2021年,一名英国少女自杀,原因是她的学校其他学生在Snapchat群中制作并分享了她的深度色情照片。
上个月,泰勒·斯威夫特(Taylor Swift)的深度假色情片开始在网上流传,这促使埃隆·马斯克(Elon Musk)禁止在X上搜索这位流行巨星。
这种情况可能看起来很严峻,但有一些工具和方法可以帮助防止人工智能操纵你的身份。
数字水印,即内容被明确标记为人工智能生成,已被拜登政府认可为一种解决方案。
这些标签旨在提高公众意识,并使平台更容易抓取和删除有害的虚假内容。
谷歌和meta都宣布计划开始用“数字凭证”标记人工智能创建或修改的材料,以使内容的来源更清晰。
OpenAI, ChatGPT和图像生成器DALL-E的创造者,计划包括一个视觉水印和隐藏的元数据,显示图像的历史,符合内容来源和真实性联盟(C2PA)的标准。
还有专门的平台用来检查网上资料的来源。2019年深度造假研究背后的Sensity公司开发了一种检测服务,当用户观看带有人工智能指纹的内容时,该服务会通过电子邮件提醒用户。
但是,即使一张照片明显是假的——因为大多数照片仍然没有水印——拍摄对象仍然会觉得受到了伤害。
保护图像不受篡改的防御工具被视为更强大的解决方案,尽管它们仍处于开发的早期阶段。
这些工具让用户可以选择用一个难以察觉的信号来处理他们的图像,当通过任何人工智能驱动的系统运行时,会产生一个不可用的、模糊的混乱。
例如,芝加哥大学(University of Chicago)的研究人员开发的工具Nightshade可以为输入人工智能时损坏的图像添加像素,但使图像看起来与人类的预期一致。
研究人员Ben Zhao在接受美国国家公共电台采访时表示:“你可以把茄子想象成在艺术品中添加一个小毒丸,它实际上是在试图混淆训练模型,让它不知道图像中的实际内容。”
虽然设计初衷是为了保护艺术家的知识产权,但这项技术可以用于任何照片。
“这是一个很好的前线防御,让人们觉得,好吧,我可以安全地上传那个周末我朋友生日的照片,”Ajder说。
据美联社报道,至少有10个州已经对深度造假的受害者实施了拼凑的法律保护。
但最近备受瞩目的案件加大了立法者的压力,要求他们阻止和惩罚恶意使用人工智能和深度造假。美国联邦通信委员会禁止了人工智能制造的机器人电话,因为在新罕布什尔州的初选中,有人用人工智能制造的声音拨打了听起来像乔·拜登的恶作剧电话。
今年1月,一个由两党参议员组成的小组提出了一项名为“蔑视法案”(DEFIANCE Act)的联邦法案,该法案将允许受害者起诉那些制作和传播性深度造假作品的人,使其成为民事问题,而不是刑事问题。
去年5月,众议员乔·莫雷尔(Joe Morelle)提出了一项法案,将分享深度伪造作品定为犯罪,但该法案没有取得进展。
但许多新立法都遇到了言论自由支持者的反对。根据亨利·艾德尔的说法,原因是有些人认为私人创作的深度模仿类似于某人脑海中关于迷恋的幻想。如果没有人知道色情内容,真的有人受到伤害吗?
这对英国的立法产生了影响,英国的《网络安全法》(online Safety Act)规定,传播深度伪造的色情内容是非法的,但制作色情内容并不违法。
Ajder说道:“我的反对意见是,如果你创造了这些内容,你便创造了一些能够以一种幻想无法真正分享的方式进行分享的内容。
在他看来,尽管很难起诉,但将深度假冒色情定为犯罪仍然是一种重要的威慑。有些人正在使用人工智能工具为自己的私人消费创造内容,Ajder说。然而,确保他们意识到这是犯罪行为是很重要的,他补充说,以阻止那些可能只是好奇的人。
政府还可以对搜索引擎提供商、人工智能工具开发商和分发内容的社交媒体平台施加压力。
在印度,涉及宝莱坞女演员的深度色情丑闻促使政府加快立法,并向大型科技公司施压,要求它们阻止人工智能生成的内容在网上传播。
“我们不应该欺骗自己,认为完全解决这个问题是可能的,”Ajder承认。“在我看来,我们能做的最好的事情就是引入尽可能多的摩擦,这样你就必须非常有意识地尝试创造这些内容。”