人工智能洗耳恭听。
利用人工智能的创新办公科技正在监听你的谈话,并冒着泄露公司机密和办公室八卦的风险,把这个工具变成了一个危险的麻烦。
研究员兼工程师亚历克斯·比尔泽里安(Alex Bilzerian)最近在X上解释了他用来记录Zoom与一家风险投资公司会面的平台Otter AI是如何不小心泄露了一段机密对话的。
会议结束后,Bilzerian收到了一封电话记录的电子邮件,并意识到即使在Bilzerian注销后,智能助手仍在继续记录对话。他说,这份文字记录包括“之后他们(风投公司的投资者)几个小时的私人谈话,他们在那里讨论了有关他们业务的亲密、机密细节。”
比尔泽里安在接受《华盛顿邮报》采访时表示,尽管投资者“深表歉意”,但他仍决定停止与他们公司的交易。
认为人工智能助手可以检测到与会者何时退出会议,而不发送剩余的记录,这可能是一个“合理的假设”,但西北大学凯洛格管理学院副教授哈蒂姆·拉赫曼在接受《华盛顿邮报》采访时表示,这项技术并不总是准确的。
Otter AI对Bilzerian的X帖子做出了回应,重申了公司对用户隐私的承诺,并解释说他们“理解这些担忧”,并“致力于保护你的信息隐私和安全”。
该公司写道:“用户可以完全控制对话共享权限,可以随时更改、更新或停止对话的共享权限。”
“对于这个特定的实例,用户可以选择不与任何人自动共享文本,或者只与共享相同工作区域的用户自动共享对话。”
与此同时,记录和转录会议的人工智能助手OtterPilot只捕获通话中的音频,因此它不会记录静音参与者所说的任何内容。
据《华盛顿邮报》报道,参加会议的人还会收到会议正在录制的通知,虚拟助理将以与会者的身份出现。
该公司还可以收集会议截图,包括参与者上传的文本或其他媒体,这些截图可以与支持Otter或在某些情况下为Otter做广告的第三方或执法部门共享。
盐湖城一家活动公司的老板罗布·贝兹迪扬(Rob Bezdijan)曾经失去了一个交易机会,因为他拒绝让潜在投资者在Otter上记录会议。他告诉《华盛顿邮报》(Washington Post),他对让自己的商业想法被记录下来持谨慎态度,因此省略了某些细节。
“我认为这是一个大问题,因为这项技术发展得如此之快,人们还没有真正意识到它的侵入性,”研究人员和隐私倡导者内奥米·布罗克韦尔告诉媒体。
布罗克韦尔警告说,人工智能增加了泄露公司机密的风险,并增加了诉讼的可能性。
网络安全顾问威尔·安德烈(Will Andre)告诫人们,不要在不知情的情况下,在公司内广泛使用人工智能工具。他告诉《华盛顿邮报》(The Washington Post),在他以前担任营销职务期间,他在公司的公共服务器上看到了一段录音,其中包括他的老板讨论裁员的镜头。
拉赫曼补充说:“公司必须意识到,不同年龄和技术能力的人将会使用这些产品。”
随着越来越多的公司将人工智能技术整合到自己的产品中,人工智能软件和设备最近受到了严格的审查。
苹果推出了苹果智能(Apple Intelligence),而谷歌最近推出了Gemini。在社交媒体平台上使用人工智能也引发了meta等平台用户的愤怒,meta利用公开的用户数据训练元人工智能。