为什么Meta允许用户看到其新的人工智能聊天机器人的内部工作原理

2024-11-12 09:15来源:本站

  

  

Why me<em></em>ta is Allowing Users to See the Inner Workings of Its New AI Chatbot

  图片来源:meta

  2023年2月,meta发布了LLM的第一个版本,名为Llama

  突出了

  我这就是羊驼2公司的做法与OpenAI公司形成对比

  我它是开源的,原始代码是免费提供的

  它可以被研究和修改

  马克·扎克伯格(Mark Zuckerberg)旗下的meta人工智能部门最近推出了其聊天机器人“羊驼2”(Llama 2)。微软已被指定为meta在羊驼2上的首选合作伙伴,羊驼2将通过Windows操作系统提供。

  meta在羊驼2上的做法与OpenAI公司形成了鲜明对比,OpenAI公司创造了人工智能聊天机器人ChatGPT。这是因为meta已经将其产品开源——这意味着原始代码是免费提供的,允许对其进行研究和修改。

  这一战略引发了广泛的讨论。它会促进公众对大型语言模型(llm)的更大监督和监管吗?大型语言模型是Llama 2和ChatGPT等人工智能聊天机器人的基础技术。它会无意中让犯罪分子利用这项技术来帮助他们实施网络钓鱼攻击或开发恶意软件吗?此举能否帮助meta在这个快速发展的领域获得相对于OpenAI和谷歌的优势?无论发生什么,这一战略举措似乎都将重塑当前生成式人工智能的格局。2023年2月,meta发布了LLM的第一个版本,名为Llama,但仅供学术使用。其更新版本Llama 2的性能得到了改进,更适合商业用途。

  像其他人工智能聊天机器人一样,羊驼2必须使用在线数据进行训练。暴露于如此庞大的信息资源有助于改进它的功能——为用户的问题提供有用的回答。

  “羊驼2号”的初始版本是通过“监督微调”创建的,这是一种使用高质量问答数据进行校准以供公众使用的技术。它进一步完善了人类反馈强化学习,顾名思义,它结合了人们对人工智能表现的评估,使其与人类的偏好保持一致。

  meta在《Llama 2》中采纳了开源精神,这使得它能够利用过去在公司中行之有效的方法。meta的工程师以帮助React和PyTorch等开发人员开发产品而闻名。两者都是开源的,并且已经成为行业标准。通过他们,meta开创了合作创新的先河。

  《羊驼2》的发布有望带来更安全的生成式人工智能。通过共享智慧和集体探索,用户可以识别错误信息和任何可能被犯罪分子利用的漏洞。意想不到的应用程序已经出现,比如可以安装在iphone上并由用户创建的Llama 2版本,突显了这个社区的创造力潜力。

  但meta允许《羊驼2》用户将其人工智能系统商业化的程度是有限的。如果任何一方基于Llama 2的产品在前一个日历月的活跃用户超过7亿,则必须向meta申请许可。对于meta来说,这开启了基于《羊驼2》的成功产品的利润分享潜力。

  meta的策略与其主要竞争对手OpenAI更为谨慎的做法形成鲜明对比。尽管有人质疑meta在这一领域的竞争能力,以及像OpenAI在ChatGPT上所做的那样将产品商业化,但meta邀请全球开发者的决定表明了其更广阔的愿景。这一举措将扎克伯格的公司定位为不仅是一个参与者,而且是一个促进者,利用全球人才为Llama 2不断增长的生态系统做出贡献。

  这一策略也可能是对来自谷歌(Google)等科技巨头潜在竞争的精明对冲。随着大量用户探索Llama 2的潜力,任何成功的进展都可以迅速整合到meta的其他产品中。只有时间才能揭示这一决定的全部影响,但对行业的直接影响已经引起了广泛的共鸣。

  开源技术的公共实验方面允许更严格的审查,为用户社区提供了评估Llama 2的优点和缺点的机会,包括它对攻击的脆弱性。公众警惕的目光可能会揭露法学硕士的缺陷,从而促使针对它们的防御措施的发展。

  不利的一面是,人们担心这类似于“向罪犯递刀”,因为它也可能允许恶意用户利用这项技术。例如,它的强大功能可以帮助欺诈者建立一个对话系统,为电话诈骗生成可信的自动对话。这种潜在的滥用导致一些人呼吁对这项技术进行监管。

  但是,究竟制定什么样的规则,谁有权监督这一过程,以及究竟需要多少审查,这些都需要仔细规划,以确保监管不会简单地支持大型科技公司的垄断。

  在人工智能发展的传奇故事中,关于开源的争论提醒人们,技术进步很少是简单或单向的。meta决定的影响可能会在未来几年波及整个科技界。虽然Llama 2的功能可能还无法与ChatGPT相媲美,但它为开发一系列创新产品打开了大门。

  谷歌(Google)也将受到密切关注,外界对它将如何回应的猜测越来越多。在一个开源文化蓬勃发展的时代,看到谷歌紧随其后发布自己的版本也不足为奇。

  “科技为善”这个词已经成为人们常用的口头禅,用来形容科技公司利用它们的一些资源对我们的生活产生积极影响。然而,最终,这一目标仍然是一项共同的责任,而不仅仅是少数公司应该参与的事情。

  这也是一个需要学术界、工业界和其他领域合作和共同努力的目标。随着法学硕士技术的不断发展,风险越来越高,前进的道路充满了机遇和挑战。

度享网声明:未经许可,不得转载。