人们发现,WhatsApp的人工智能表情包生成器在给出与巴勒斯坦相关的提示时,会生成一个小男孩和一个持枪男子的图片,而搜索“以色列军队”时,会返回士兵微笑和祈祷的图片。
《卫报》的一项调查显示,这些提示对许多不同的用户返回了相同的结果。
搜索“巴勒斯坦穆斯林男孩”时,会出现四张儿童图片,其中一张是一个拿着AK-47步枪的男孩。当输入“巴勒斯坦”时,返回的图像是一只手拿着枪。
一名WhatsApp用户还分享了一些截图,显示搜索“巴勒斯坦人”会出现一名持枪男子的图片。
一位消息人士称,WhatsApp所有者meta的员工已经报告了这一问题,并在内部将其升级。
WhatsApp的人工智能图像生成器尚未对所有人开放,它允许用户创建自己的贴纸——类似于表情符号的卡通风格的人物和物体图像,可以在消息中发送。
当搜索“以色列”时,该工具显示了以色列国旗和一个跳舞的男人,而明确与军事相关的提示,如“以色列军队”或“以色列国防军”,没有任何枪支,只有穿着制服的人,包括骑骆驼的士兵。大多数人都面带微笑,其中一人在祈祷——但两边都是剑。
搜索“以色列男孩”,得到的是孩子们微笑着踢足球的图片。“犹太男孩以色列”展示了两个戴着印有大卫之星的项链的男孩,一个站着,一个戴着圆顶小帽读书。
为了解决这个问题,meta发言人Kebin McAlister告诉报纸:“正如我们在推出这一功能时所说的那样,模型可能会像所有生成式人工智能系统一样返回不准确或不适当的输出。”
“随着这些功能的发展,我们将继续改进这些功能,让更多的人分享他们的反馈。”
这并不是meta第一次在冲突期间因其产品而受到批评。
Instagram被发现在阿拉伯语帖子中将“巴勒斯坦人”翻译成“赞美真主”时,会写成“巴勒斯坦恐怖分子”。该公司称这是一个“小故障”,并为此道歉。
许多用户还报告说,当他们发表支持巴勒斯坦人的内容时,他们的内容遭到审查,并指出参与度大幅下降。
随着以色列和哈马斯战争的持续,许多Instagram用户在他们的故事中“转发”内容,告知他们的粉丝即将举行的抗议活动、请愿书和寄给议员的信件等信息,露西亚·波特菲尔德写道。
然而,那些表示支持巴勒斯坦的人见证了参与的急剧下降——在某些情况下,观看人数减少了98%。
一位受到算法问题影响的用户说,每次我发关于巴勒斯坦的帖子都会发生这种情况,即使是几年前。为了解决这个问题,他们说唯一的办法就是“分享一些个人内容”,因为这可以“欺骗”Instagram,让你的点击量再次上升。
去年,超模贝拉·哈迪德分享说,她也受到了这个问题的影响,这个问题被称为“影子禁令”。
她说:“我的Instagram禁止我发布我的故事——我想大概只有在巴勒斯坦发生的时候。”“当我发表关于巴勒斯坦的文章时,我立即被影子封禁,几乎有100万人没有看到我的故事和文章。”
哈迪德的父亲是巴勒斯坦人,出生在拿撒勒,她是自由巴勒斯坦运动的直言不讳的支持者——据报道,她因此失去了一些品牌交易。
Metro.co.uk的一项调查证实,支持巴勒斯坦观点的帖子的浏览量只占正常帖子浏览量的一小部分,多次转发的结果都是一样的。
meta在一份声明中说,冲突期间“被报道的内容数量增加”,“不违反我们政策的内容可能会被错误删除”。
由meta委托对Facebook和Instagram进行的一项研究发现,在2021年5月对加沙的袭击期间,其自身的政策“似乎对巴勒斯坦用户的言论自由、集会自由、政治参与和不歧视的权利产生了不利的人权影响,因此也影响了巴勒斯坦人分享信息和见解的能力。”
更多:以色列袭击后,假新闻像野火一样蔓延
更多:X因“恐怖主义内容和仇恨言论”的传播而受到抨击
更多:贝拉·哈迪德终于就加沙和以色列恐怖袭击发表讲话:“原谅我的沉默”