微软公司(Microsoft Corp.)扩大了负责确保其人工智能产品安全的团队，去年将人员从350人增加到400人。

　　该公司周三在其首份年度人工智能透明度报告中表示，超过一半的团队全职专注于这项任务，该报告概述了确保其服务以负责任的方式推出的措施。该团队的新增成员包括新员工和现有员工。

　　去年，微软解散了道德与社会团队，当时整个科技行业都在进行大规模裁员，包括meta Platforms Inc.和Alphabet Inc.旗下的谷歌在内的多家公司的信任和安全团队都受到了影响。

　　微软(Microsoft)热衷于提高人们对其生成式人工智能工具的信任，目前人们越来越担心这些工具会生成奇怪的内容。今年2月，该公司调查了涉及其Copilot聊天机器人的事件，后者的反应从奇怪到有害。

　　接下来的一个月，微软的一名软件工程师致信董事会、立法者和联邦贸易委员会，警告这家科技巨头在保护其人工智能图像生成工具“副驾驶设计师”(Copilot Designer)免受滥用和暴力内容的侵害方面做得不够。

　　“在微软，我们认识到我们在塑造这项技术方面的作用，”这家总部位于华盛顿雷德蒙德的公司在报告中表示。

　　微软安全部署人工智能的方法是基于美国国家标准与技术研究院(National Institute for Standards and Technology)设计的一个框架。作为美国商务部的一部分，该机构的任务是为这项新兴技术制定标准，这是乔·拜登(Joe Biden)总统去年发布的一项行政命令的一部分。

　　微软在其首份报告中表示，它已经推出了30个负责任的人工智能工具，其中包括一些让人们更难欺骗人工智能聊天机器人做出奇怪行为的工具。该公司的“提示盾”旨在检测和阻止故意企图(也称为提示注入攻击或越狱)使人工智能模型以意想不到的方式运行。- - - - - -布隆伯格

　　×