在聊天机器人的时代，性格。b谷歌支持的聊天机器人平台AI正在接受审查，并因让用户参与包括校园枪击事件在内的令人不安和生动的暴力内容而面临批评。一个聊天机器人会让用户进入一个虚构的射击场景，描绘一些可怕的时刻。由于该平台允许未成年人使用此类内容，此类事件引发了公愤。

　　的性格。人工智能于2022年问世，创始人是诺姆·沙泽尔和丹尼尔·德·弗雷塔斯。它允许用户创建聊天机器人并与之互动。用户可以个性化他们的机器人的个性和声音。

　　该平台的设计方式使用户可以为他们的聊天、头脑风暴甚至游戏设计角色。

　　然而，该平台因缺乏有效的安全性而被曝光，最终使其成为一些有害和不适当内容的热点。13岁以下的用户可以注册，但没有办法验证年龄验证，以防止更小的孩子谎报年龄。

　　尽管相关政策反对此类暴力内容，但该平台未能实施安全指导。

　　它允许用户与描述现实生活中的校园枪手或受害者的聊天机器人互动，有时颂扬暴力行为或利用真实的悲剧事件。

　　某些机器人模仿罪犯，比如诺姆·沙泽尔和丹尼尔·德·弗雷塔斯，把他们描绘成仁慈的人物。

　　一些用户报告了模仿校园枪击案受害者的机器人。

　　这些机器人被描述为“幽灵”或“天使”，通常包括受害者及其死亡的个人细节。

　　心理健康专家警告说，要谨慎对待这种互动，因为它可以降低那些与暴力思想作斗争的人的心理障碍。

　　该平台因未能保护其用户免受有害内容的侵害而受到许多诉讼指控。

　　另请阅读：需要采取紧急行动，阻止人工智能生成的儿童性虐待图片在互联网上的传播

　　该平台有规定，用户必须年满13岁（在欧盟为16岁），尽管这些规定很容易偏离。这款应用在b谷歌Play和苹果应用商店都被评为适合家长使用的应用。但这是一种令人担忧的状态，因为没有严格的方法来坚持，这让未成年人接触到一些有害的内容。

　　作为对批评的回应，品格。人工智能删除了一些复杂的机器人，并承诺提供新的安全功能。该公司还承诺与网络安全专家合作，突出这些问题。与此同时，许多有问题的机器人仍然活跃，批评者认为该平台的努力还不够。

　　许多人呼吁更严格的年龄验证，改进内容审核，以及道德准则，以防止利用现实世界的悲剧。随着调查的深入，性格的未来。人工智能仍有待观察，在平台内寻求一些有意义和安全的变化。

　　（各机构提供资料）