关于围绕人工智能的重大讨论，我们需要意识到的一件重要事情是，大多数时候，每个人都在编造一些事情。这并不是说人们不知道自己在说什么，也不是说领导人在撒谎。但关于人工智能最大能力的大部分讨论都是基于对理论上未来的设想。这是一种推销手段，在这种推销中，今天的问题被撇在一边，或者被软化为现在的问题。该领域的领导者坚持认为，随着技术的进步，这些问题肯定会得到解决。我们今天所看到的只是未来的一个影子。我们只需要相信他们。

　　最近，当我与山姆·奥特曼和阿里安娜·赫芬顿交谈时，我就想到了这一点。奥特曼和赫芬顿刚刚在《时代》杂志上发表了一篇专栏文章，宣布成立一家名为Thrive AI Health的新公司。该组织承诺将OpenAI的技术带入我们生活中最亲密的部分，评估我们的健康数据并提出相关建议。Thrive AI Health将加入现有的医疗和治疗聊天机器人领域，但它的雄心是巨大的:改善人们的健康结果，降低医疗保健成本，并显著减少全球慢性病的影响。在他们的专栏文章中，奥特曼和赫芬顿明确地(并且夸张地)将他们的努力与新政进行了比较，将他们的公司描述为重塑医疗体系中的“关键基础设施”。

　　他们还表示，该公司未来推出的一些聊天机器人可能会鼓励你“把下午喝的第三杯苏打水换成水和柠檬”。这款聊天机器人在文章中被称为“超个性化的人工智能健康教练”，是Thrive AI health宣传的核心。它将采取什么形式，或者如何完成，目前还不清楚，但它的想法是这样的:机器人将根据用户的生物特征和健康数据生成“个性化的人工智能驱动的见解”，并提供信息和提醒，帮助他们改善行为。奥特曼和赫芬顿举了一个例子，一个忙碌的糖尿病患者可能会使用人工智能教练来提醒他们服药和健康食谱。你还不能下载这个应用。奥特曼和赫芬顿没有提供发布日期。

　　通常情况下，我不会写关于“蒸汽产品”(vaporware)的文章，但我很好奇奥特曼和赫芬顿会如何解释这些宏大的目标。他们的提议让我觉得是最难的:两位富有的知名企业家要求普通人(可能对生成式人工智能持怀疑态度或不熟悉)把他们最私人、最重要的健康数据交给一个唠叨的机器人?健康应用很受欢迎，人们(包括我自己)允许科技工具每天收集各种各样的个人数据，比如睡眠、心率和性健康信息。如果Thrive成功了，真正智能的健康教练的市场将是巨大的。但人工智能给这种隐私等式带来了另一种复杂性，它为公司打开了一扇大门，让它们可以根据超个人的机密信息训练自己的模型。奥特曼和赫芬顿正在让全世界相信，生成式人工智能——一种目前无法可靠地引用其自身来源的技术——有朝一日将能够改变我们与自己身体的关系。我想亲自听听他们的说法。

　　奥特曼告诉我，他之所以决定加入赫芬顿，部分原因是他听说有人使用ChatGPT自我诊断医疗问题——考虑到这项技术倾向于返回幻觉信息，我发现这一概念可能令人担忧。(如果医生被病人沮丧依赖谷歌或Reddit,考虑如何对病人的感觉出现在他们的办公室困在虚构的建议从语言模型)。“我们会听到这些故事,人们说…“我用它来找出一种诊断这种情况我有,我就不明白,我输入我的症状,这建议,我有一个测试,然后我得到了治疗。”

　　我注意到，在我看来，除了ChatGPT的高级用户之外，似乎不太可能有人会以这种方式信任聊天机器人，很难想象人们会与计算机程序分享他们所有最私密的信息，这些信息可能会被永久存储。

　　奥特曼告诉我:“我和这个领域的许多人都对人们愿意与法学硕士分享非常私人的细节感到非常惊讶。”他说，他最近在Reddit上看到了一些人通过向法学硕士们坦白不舒服的事情而获得成功的故事。“他们知道这不是一个真实的人，”他说，“他们愿意进行这个他们甚至不能和朋友谈论的艰难对话。”赫芬顿也赞同这些观点，她认为每天在谷歌上有数十亿的健康搜索。

　　这种意愿并不能让人放心。例如，不难想象保险公司想要获得这类医疗信息以提高保费。各种各样的数据经纪人也同样热衷于获取人们的实时健康聊天记录。奥特曼指出，这个理论产品不会欺骗人们分享信息。“让人们明白数据隐私是如何运作的，这将是非常重要的;你知道我们训练的是什么，不是什么，比如什么东西是一直储存的，什么东西只存在于一次训练中，”他说。“但根据我们的经验，人们对此非常理解。”

　　尽管精明的用户可能了解聊天机器人的风险和工作原理，但我认为，许多隐私问题可能是意料之外的——甚至可能超出Thrive AI Health的控制范围。奥特曼和赫芬顿都没有回答我最基本的问题——产品到底会是什么样子?它会是一个智能手表应用程序，还是一个聊天机器人?一个类似siri的音频助手?但赫芬顿表示，Thrive的人工智能平台将“通过各种可能的模式提供服务”，“可以通过你的工作场所，就像微软Teams或Slack一样。”这让我提出了一个假设的场景，在这个场景中，一家公司收集这些信息，并以不当的方式存储这些信息，或者利用这些信息来对付员工。那么公司会采取什么保障措施呢?奥特曼的反驳很有哲理。“也许社会会决定存在某种版本的人工智能特权，”他说。“当你与医生或律师交谈时，他们有医疗特权和法律特权。当你与人工智能交谈时，目前还没有这样的概念，但也许应该有。”

　　在这里，我被一个想法打动了，这个想法自生成人工智能浪潮开始以来就一次又一次地出现在我脑海中。自20世纪50年代人工智能的概念形成以来，一个基本问题一直笼罩着人工智能的世界:你如何谈论一项最重要的影响总是在地平线上，而不是在现在的技术?无论今天建造的是什么，人们都会部分地根据其本身的优点来评判，但也许更重要的是，它可能预示着未来的发展。

　　人工智能总是以最终目标来衡量:创造一种超过或等于人类的综合推理智能。那一刻往往被简化地定位为，要么是给人类的礼物，要么是对存在主义的清算。但即使不是世界末日的末日，你也会发现人工智能的潜力总是会影响人们对其现状的评估。在过去的两年里，生成型人工智能产品的缺点是:幻觉;缓慢、不稳定的界面;呆板的散文;图像中牙齿太多或无法呈现手指;聊天机器人走向流氓——被人工智能公司认为是最终会解决的问题。他们说，这些模型只会变得更好。(虽然这些问题和新问题还在不断出现，但其中许多国家确实是这样。)尽管如此，人工智能研究人员仍然坚持他们的战斗口号，即模型“只想学习”——这句话来自OpenAI联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)，这意味着，从本质上讲，如果你向这些网络投入足够的资金、计算能力和原始数据，这些模型将能够做出更令人印象深刻的推断。真正的信奉者认为，这是一条通往创造真正智能的道路(其他许多人强烈反对)。在这个框架下，人工智能人员就像是一种根植于信仰的技术的传道者:不要用你所看到的来判断我们，而是用我们的想象来判断我们。

　　当我问及幻觉时，奥特曼和赫芬顿表示，这些模型已经变得更好了，如果Thrive的人工智能健康教练足够关注一小部分信息(习惯，而不是诊断)，并接受最新的同行评审科学培训，那么他们将能够提出好的建议。(尽管我们有充分的理由相信，幻觉仍然有可能出现。)当我问及他们为何选择将自己的公司与“新政”(New Deal)等大规模政府项目进行比较时，赫芬顿辩称，“我们的医疗体系已经崩溃，数百万人因此而受苦。”她说，人工智能健康教练“不是要取代任何东西。这是关于提供行为解决方案，在人工智能实现这种超个性化之前，这些解决方案是不可能成功的。”

　　我发现，在宣传一款根本不存在的营利性产品时，援引美国昂贵、不公平、毫无疑问已经支离破碎的医疗基础设施是很奇怪的，它的创始人都无法告诉我它是否会成为一款应用。这种不存在性也使得我们很难对其进行具体的批评。Thrive AI Health教练可能是生成式人工智能时代的Juicero——一个产品的外壳，一个引人注目的董事会，只不过是一个标志。也许这是一场即将发生的灾难性数据泄露。或者它最终会成为现实——不是一个革命性的产品，而是一个集成到你的iPhone或日历上的小部件，它会发出一个小推送提醒，告诉你来自伊娜·加滕(Ina Garten)的无麸质食谱。或许有一天它会成为人工智能真正伟大的应用——一款让人们更容易保持健康习惯的产品。我有我的怀疑。(我对新闻稿的本能反应是，它让我想起了区块链式的炒作，列出了一堆流行语和大牌。)

　　Thrive AI Health是这个人工智能时代的深刻象征，因为它什么都不是，但它要求我们把它当作深刻的东西来看待。当我考虑到如果他们真的建造了他们所提议的东西会发生什么时，我对这个声明的质量的直接失望变成了恐惧。openai是一家存在一系列管理问题、信息泄露和对其领导者是否直率的担忧的公司，我们希望它成为我们医疗保健基础设施的一部分吗?如果成功，Thrive AI Health是否会加深其旨在解决的不平等问题，因为它为不那么幸运的人提供人工智能健康教练，而我们当中最富有的人却能从真正细心的专业人士那里得到实际的帮助和医疗护理?我是不是条件反射式地拒绝了将一项令人担忧的技术用于做好事的真诚尝试?还是说，我批评科技泡沫即将结束时那种新闻发布会的大肆宣传是正确的?

　　你对这些问题的答案可能取决于你对这个科技时代的看法。人工智能有末日崇拜者、无神论者、不可知论者和怀疑论者。了解人工智能的能力，弄清楚什么是投机取巧的万金油，什么是真实的，可能很困难。如果你想相信模型只是想学习，那就很难说服你。这一切似乎归结为:你有多愿意相信一个由像人类一样行动的智能机器主导的未来?你信任这些人吗?

　　我提出了这个问题——人们为什么要相信你?——采访结束时的那对。赫芬顿说，这种人工智能健康教练的不同之处在于，这种技术将足够个性化，能够满足我们目前的医疗系统无法满足的个人行为改变需求。奥特曼说，他相信人们真的希望科技能让他们更健康:“我认为人工智能能真正改变世界的用例很少。让人们更健康当然是其中之一。”在我听来，这两个答案都很认真，但每个答案都需要一定的信念。

　　信仰不是坏事。我们需要信仰，它是推动进步的强大动力，是拓展我们视野的途径。但是，在错误的背景下，信仰是危险的，尤其是盲目的信仰。一个由盲目信仰驱动的行业似乎尤其令人不安。盲目的信仰给了那些能够获利的人巨大的杠杆;它为妄想和想要快速赚钱的骗子提供了空间。

　　一个以信仰为基础的行业最大的诡计是，它毫不费力地不断移动目标，抵制评价，回避批评。一些辉煌的承诺，只是遥不可及，继续欺骗不知情的人。尽管不成熟的愿景承诺了可能永远不会到来的救赎。