多痛苦啊!
一项新研究警告称,英国一些最著名的电视医生越来越多地发现,他们的名字和肖像被利用,向毫无戒心的社交媒体用户出售诈骗产品。
这种现象被称为深度伪造——利用人工智能创造出真实人物的复杂数字模型。在这些假视频中,一个人的头部可能会被叠加到另一个人的身体上,或者他们的声音可能会以令人信服的方式被复制。
这项研究周三在英国医学杂志上发表了一篇专题文章,发现全科医生希拉里·琼斯和兰根·查特吉以及上个月去世的已故健康大师迈克尔·莫斯利在未经他们同意的情况下被用来推销产品。
在琼斯的案例中,这意味着无意中卖掉了血压和糖尿病的万灵药和大麻软糖。
71岁的琼斯以在《早安英国》(Good Morning Britain)等电视节目中的工作而闻名,他说,他聘请了一名社交媒体专家,在网上搜寻歪曲他观点的深度造假视频,并试图将其删除。
琼斯说:“这类活动有了很大的增加。“即使它们被删除了,第二天也会以不同的名字重新出现。”
辨别哪些视频是伪造的可能很棘手。最近的研究发现,27%到50%的人无法区分真实的科学主题视频和深度伪造的视频。
如果视频的主角是一位长期出现在媒体上的值得信赖的医学专业人士,那就更难了。
英国退休医生约翰·科马克(John Cormack)与英国医学杂志(BMJ)合作,试图了解深度假医生现象在社交媒体上的普遍程度。
科马克在文章中说:“最重要的是,把钱花在制作视频上要比花在研究、开发新产品并以传统方式将其推向市场上便宜得多。”“他们似乎找到了印钞的方法。”
科马克表示,Facebook、Instagram、X、YouTube和TikTok等内容的托管平台应该对这些电脑生成的视频负责。
拥有并运营Facebook和Instagram的meta公司的一位发言人告诉《英国医学杂志》,他们将调查研究中强调的例子。
“我们不允许故意欺骗或试图欺骗他人的内容,我们正在不断努力改进检测和执法,”这位发言人说。“我们鼓励任何看到可能违反我们政策的内容的人举报,以便我们进行调查和采取行动。”
订阅我们的每周Post Care通讯!
仔细看看这个公司
或者听听音频,以确保你的怀疑是合理的
联系为该产品背书的人,看看视频、图片或音频是否合法,并在帖子下发表评论,质疑其真实性。使用平台内置的举报工具来分享你的产品
ncerns报告分享该帖子的用户或帐户