心理变态的机器人不应该出现在电影里吗?我想我们大多数人都同意《终结者》里的T-800或《异形》里的Ash会很可怕?乍一看，诺曼就是这样的人。诺曼是麻省理工学院在人工智能领域的最新项目。以《惊魂记》中的主角诺曼·贝茨命名，并产生了相当奇怪的数据。Norman的程序是回答简单的Rorsharch墨迹测试，这是一种基本的心理测试，给一个人(或者在这个例子中，一个机器人)一个对称的、模糊的图形，并被告知识别他们看到的是什么。诺曼的回答古怪得让人不寒而栗。当被要求说出它看到了什么时，诺曼反复说出了“一个男人在他尖叫的妻子面前被枪杀”或“一个男人被拉进了面团机”这样的短语。

　　可怕的是吧?当我们知道诺曼从哪里得到信息时就不那么奇怪了。Norman的程序员向它提供了来自Reddit最黑暗角落的信息，比如著名的Reddit子论坛r/watchpeopledie。诺曼只知道视频和图片的说明文字，描述了人们的死亡和被杀。因此，他提供的唯一信息是这些奇怪的标题的同义词，而不管墨渍。

　　我仍然不明白Norman的创作目的，也不明白为什么程序员只给它灌输负面和彻头彻尾的邪恶信息。它实际上展示了获取数据的一个非常重要的方面。诺曼就是我们所说的有偏差数据集的一个例子。如果你给一个人(或者在这种情况下，一个机器)提供有偏见的信息，他们将产生有偏见的答案。在收集数据时，至关重要的是信息要尽可能地公正，这样我们才能避免答案都是一样的，就像诺曼现在的情况一样。

　　回想一下2016年，微软推出了Twitter聊天机器人Tay。Tay被设计成一个社会和文化实验，但用户开始在Tay上输入短语，导致算法产生种族主义和恶意的词语，这显示了输入对人工智能的影响

　　根据我们从Tay中学到的东西，麻省理工学院的程序员希望Norman能够纠正它的暴力答案。麻省理工学院要求人们对诺曼分析过的墨迹给出自己的答案。然后他们会给诺曼提供人类信息，希望它的回答不会那么恶意和暴力。

　　然而，尽管Norman在表面上看起来很危险和可怕，但它的存在有助于描述一个在获取数据时要避免的非常重要的现象，以便数据尽可能地健全和可靠。

　　图片来源:Pixabay/DrSJS