教皇方济各(Pope Francis)上周五呼吁禁止“致命的自主武器”,成为首位在七国集团(G7)峰会上就人工智能的危险发表讲话的教皇。
这位87岁的老人说:“鉴于武装冲突带来的悲剧,迫切需要重新考虑开发和使用所谓的‘致命自主武器’等设备,并最终禁止它们的使用。”
“这始于有效和具体的承诺,以引入更大和更适当的人为控制。任何机器都不应该选择夺走人类的生命,”他在意大利南部普利亚的会议上说。
方济各应意大利总理梅洛尼的邀请,在七国集团首脑会议上发表讲话。方济各一再谴责军火工业,以及他所说的那些从战争和死亡中获利的人。
人工智能已经在战场上使用,它进入现代战争引发了人们对事态升级的风险以及人类在决策中的作用的担忧。
人工智能已经证明自己速度更快,但不一定更安全或更道德,而无需人工干预就能杀人的武器系统的发展带来了道德和法律上的挑战。
“人工智能同时是一种令人兴奋和可怕的工具,”方济各对聚集在豪华度假胜地博尔戈·埃格纳齐亚的领导人说。
他警告说:“如果我们剥夺了人们对自己和自己的生活做出决定的能力,让他们注定要依赖机器的选择,我们将把人类推向一个没有希望的未来。”
由英国、加拿大、法国、德国、意大利、日本和美国组成的七国集团周五表示,人工智能“可以在促进我们社会的进步和发展方面发挥关键作用”。
“我们认识到人工智能对军事领域的影响,以及建立一个负责任的开发和使用框架的必要性,”领导人在法新社看到的一份声明草案中表示。
在战略层面,人工智能将产生战场模型,并提出如何应对攻击的建议,甚至可能包括使用核武器。
方济各说:“我们需要确保和维护一个空间,让人类对人工智能程序做出的选择进行适当的控制:人类的尊严本身就取决于此。”
这位阿根廷教皇是在与包括乌克兰总统泽伦斯基、法国总统埃马纽埃尔·马克龙和加拿大总理贾斯汀·特鲁多在内的世界领导人举行一系列会议后发表上述讲话的。
弗朗西斯整个上午都在梵蒂冈和喜剧演员一起胡闹,包括乌比·戈德堡(Whoopi Goldberg)、克里斯·洛克(Chris Rock)和吉米·法伦(Jimmy Fallon)。
作为与当代文化接触的一部分,他会见了100多位“幽默界的艺术家”。
教皇笑着说:“我不宣读我的讲稿了,我就这样做吧。”他一边把拇指塞进耳朵里,一边对着满屋子的幽默家扭动手指。
但他也向来自15个国家的喜剧演员传达了一个严肃的信息,从阿根廷到德国和东帝汶。
教皇对他们说:“虽然我们沉浸在许多社会和个人紧急情况中,但你们有能力传播平静和微笑。”
方济各说:“你是少数几个有能力与不同世代、背景和文化的人交谈的人之一。”
这107位喜剧演员包括英国电视节目《办公室》中的斯蒂芬·麦钱特,美国单口相声演员洛克,以及意大利的西尔维奥·奥兰多,他在《年轻的教皇》中饰演一位诡计多门的红衣主教。
在弗朗西斯到来的几秒钟前,美国《今夜秀》(Tonight Show)主持人法伦(Fallon)在讲台前跳来跳去,引得全场哄堂大笑。
当教皇进入梵蒂冈镀金壁画的房间时,《修女秀》的主演戈德堡和《宋飞正传》的演员茱莉亚·路易斯-德雷福斯在前排挥手致意。
戈德堡之前开玩笑说要让教皇在《姐妹演剧3》中客串一下。
据安莎通讯社报道,当被问及周五是否向方济各施压时,她打趣说:“现在不是时候,我可能会给他发一封电子邮件。”