AI首席执行官表示,像谷物一样,人工智能也需要“营养标签”他的公司提供

   日期:2024-11-19     来源:本站    作者:admin    浏览:97    
核心提示:      迈克?卡普斯(Mike Capps)表示,人们应该要求人工智能的透明度,就像他们对早餐食品一样。他在罗利(Raleigh)创办的Ho

  

  

  迈克?卡普斯(Mike Capps)表示,人们应该要求人工智能的透明度,就像他们对早餐食品一样。他在罗利(Raleigh)创办的Howso公司允许用户看到人工智能是如何得出结论的。

  他说:“在决定你是否得到医疗保险或你的孩子是否能上大学的问题上,你会想要同样的东西。”“你希望在侧面有相同的营养标签。”

  作为Epic Games的前总裁,Capps于2018年与他人共同创立了Howso(最初名为Diveplane)。从那以后,人工智能开始腾飞。今天,组织将其用于围绕医疗程序、信贷审批甚至假释的重大决策。

  卡普斯认为,目前有太多的人工智能程序引擎提供了各种各样的“黑匣子人工智能”,模糊了最终判断的过程

  “我们希望人们停止使用那些垃圾产品,转而使用我们的产品,”他说。“这是一场艰苦的战斗,但我们将实现这一目标。”

  今年9月,Howso开源了其人工智能引擎,允许用户设计可解释的人工智能驱动平台。上个月底,卡普斯前往华盛顿特区,在第七届美国参议院人工智能洞察论坛上发表演讲。

  第二天,他接受了《新闻与观察家》(The News & Observer)的采访,谈到了大型科技公司在人工智能方面的哪些错误,他认为Howso做对了什么,以及为什么每个人都应该关心。

  为清晰起见,本文经过编辑。

  问:你能举一个目前使用的“黑匣子”人工智能的例子吗?

  答:Spotify正在投入人工智能,他们正在借助出色的人工智能发展业务。DJ是根据你的历史为你选择音乐,还是因为Spotify希望你看到更多这样的艺术家?我们不知道。

  问:Howso的引擎有什么不同?

  答:我们做的是可归因人工智能,也就是说,你可以说:如果布莱恩做了手术,这里有17个数据点,在这个决定中是最重要的。我可以把这个决定归因于这里的这些数据点。

  我们有一个名为Scanbuy的客户,它与所有大型零售商合作,提供客户情报。所以他们使用我们内置的工具,这样他们就可以预测顾客会买什么,但要以一种可以解释的方式来预测。

  北卡罗来纳州立大学和北卡罗来纳大学都在一些项目中使用它。还有一些其他的非公立大学也在与之合作。开源的一部分是(任何人都可以)使用它。这是最近的事了。

  Howso的其他客户包括万事达卡(Mastercard)、西班牙保险公司Mutua de Madrile?a以及弗吉尼亚行为健康与发展服务部。

  问:黑盒AI是一个怎样的问题?

  A:我的解释是:我们为什么要关心麦片里有什么?

  我们把配料放在一边,因为如果没有配料,我们真的相信每个食品制造商都在用正确的方式生产吗?从法律上讲,你必须这么做。我们知道并不是每个人都读它,但它的存在是我们知道的一部分。

  (做黑盒)也是糟糕的软件开发。

  我们讨论的是对人类有严重影响的决定。如果软件中有bug,你可以去修复它。但如果你使用一个大的黑盒AI系统,你不知道它是否有漏洞。这太复杂了,弄不明白。而且没有办法补救。

  我们不可能回过头去问:‘为什么当人工智能系统拒绝布莱恩时,他没有得到晋升?如果你不能审计,也不能解决问题,那么你就会有巨大的重置成本。

  问:假释决定显然非常重要。你如何看待现有的人工智能在这一领域的不足?

  答:假释决定是根据之前的假释决定做出的,可能有也可能没有种族偏见,然后大规模地进行。

  我们都知道法院系统落后了。我们都知道我们想要一种让它们更快更有效的方法。但你所做的权衡是,我们可能会为了速度而扩大种族主义。

  问:当前的人工智能前景和你希望看到的可解释的人工智能未来之间存在什么障碍?

  答:真正透明的AI系统现在并不流行。我们和杜克大学的(辛西娅)鲁宾博士一直在大力宣传,这是可能的,而且是可行的。我们不应该一直沿着黑盒这条路走下去。

  一般来说,人们想要这种透明度,但有人担心,通过分享你用来训练一个大型人工智能模型的所有数据,这是秘密武器的一部分。

  但是(在参议院听证会上)有一位伟大的发言人说,如果我们不能共同努力,看看这些模型是如何训练的,我们就不能在一起变得更好。所以,这基本上是在保护他们的金融空间,而不是帮助整个领域的改善。

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行