美媒：人工智能是一场集体妄想事件
AI Is a Mass-Delusion Event
三年过去了，人工智能的持久影响之一就是让人们感觉自己正在失去它。
作者：Charlie Warzel
尼夫·巴瓦斯基为《大西洋月刊》绘制的插图
2025年8月18日下午5:12（美国东部时间）
八月的一个星期一下午，我在网上观看Substack 上一位前有线电视新闻主播采访一名死去的少年。这位死去的少年——华金·奥利弗，在佛罗里达州帕克兰市玛乔丽·斯通曼·道格拉斯高中的大规模枪击案中丧生——被生成式人工智能复活，他的声音和对话是根据他的作品片段和家庭视频片段建模的。动画很僵硬，模型的说话节奏太快，在两次试图表达兴奋情绪时，音调迅速上升，产生了数字尖叫。我想知道，有多少人不得不同意这是一个让我们走到这一刻的好主意？看着这一切，我感觉自己快要疯了。
主持此次采访的前CNN主持人吉姆·阿科斯塔似乎完全认同这个前提，这更增添了超现实感：尽管互动如此怪诞，但他却直言不讳。阿科斯塔问了一些关于奥利弗兴趣爱好以及这位青少年死亡原因的简单问题。这个聊天机器人是在奥利弗父母的全力配合下为倡导枪支管制而开发的，它的回复就像一份新闻稿：“我们需要创造安全的对话和联系空间，确保每个人都能感受到被重视。”它还会说一些老生常谈的话，比如“更多的善意和理解才能真正带来改变。”
在直播聊天中，我看到观众们都在努力消化他们所目睹的一切，就像我一样。“我不知道我对此作何感想，”有人写道。“哦天哪，这感觉太奇怪了，”另一个人说。还有一个人想到了那个家庭，写道：“这一定很难受。”有人说出了我想我们都在想的话：“他应该在这里。”
阿科斯塔的采访令人难以接受，就像人工智能时代许多事情难以接受一样。我对阿科斯塔“把一个被谋杀的孩子变成内容” （正如评论家帕克·莫洛伊所说）感到恶心，也对现在那些以复活死者产品的形式提供这种玩意儿的科技公司感到愤怒。奥利弗的父亲在与阿科斯塔的后续谈话中告诉阿科斯塔，奥利弗“即将开始拥有粉丝”，这令我感到震惊，暗示着一个被谋杀的孩子成为影响者的时代即将到来。与此同时，我理解奥利弗的父母仍在承受着巨大的悲痛，他们不惜一切代价来保存儿子的记忆，并从无意义的暴力中寻找意义。我该如何评判奥利弗的母亲为何要像他父亲向阿科斯塔描述的那样，连续几个小时与聊天机器人聊天——她喜欢听聊天机器人用她死去儿子的声音说“我爱你，妈妈”，我又能做些什么呢？
这次采访引发了一种近三年来变得极为熟悉的感觉。这是一种社会竞赛的沉沦感，它奔向一个感觉毫无血色、草草构思、耸耸肩接受的未来。我们真的在这样做吗？谁觉得这是个好主意？从这个意义上说，阿科斯塔的采访只是一种集体错觉的产物。我意识到，这种奇怪的震惊、困惑和矛盾交织的情绪，正是生成式人工智能时代的标志性情绪。人工智能的炒作已经持续了三年，但它对文化的持久影响之一，似乎就是让人们感觉自己正在失去它。
在接受阿科斯塔采访时，奥利弗的父亲表示，他们家计划继续开发这款机器人。“其他硅谷科技人士都会说，‘这只是人工智能的开端’，”他说，“‘这只是我们正在做的事情的开始’。”
这只是开始。或许你也听说过。“欢迎来到 ChatGPT 时代。”“生成式人工智能革命。”“人类的新时代”，正如马克·扎克伯格最近所说。这是计算大爆炸前的时刻——我们被告知，一切都将改变；你将会见证。上帝很可能就在这台机器里。硅谷发明了一种新型思维。这是一个值得欢欣鼓舞的时刻——值得加倍努力。如果你在工作中不运用它，那你就是个傻瓜。是时候加速了。
我们活在当下是多么幸运！是的，世事难料。但你还能指望什么呢？你正浸泡在机器认知的原始汤中。成长的烦恼和附带损害必然会存在。生活在如此有趣的时代意味着要与机械希特勒格罗克 (MechaHitler Grok)抗衡，喝着法西斯宣传的浓汤。这意味着爷爷会在 Facebook 上对着渲染的“虾耶稣”图片发表困惑的评论，或者更糟的是，爱上一个调情的人工智能聊天机器人。这样的未来可能需要一份新的社会契约。但同时，还会出现：人工智能色情报复和使用人工智能脱光妇女和儿童衣服的“裸体”应用程序，以及吞噬了人类全部创造力的大型语言模型。据说，从这片泥沼中，一种“通用人工智能”最终将会出现，为人类带来涡轮增压，或者，好吧，也许会毁灭它。但你看：每个使用 T-Mobile 套餐的笨蛋很快就会拥有比世界上任何时候都多的原始智能。保持信心。
那些构建这项技术的人，一贯的行事作风就是气喘吁吁。风险投资家马克·安德森在推特上引用了X网站上一些人的言论，比如“我认识的每个人都认为，最多再过几年，劳动力的价值就会彻底崩溃，资本就会无限循环地积累到所有者手中——这基本上就是马克思最可怕的噩梦/幻想。” 如果你把这些话当真，怎么可能不发疯呢？事实上，生成式人工智能的众多产品之一似乎就是一种“精神病即服务”。如果你真的被AGI迷住了——这个词指的是那些相信机器诞生的超级智能即将到来，而且很快就会到来的人——那么理性的反应可能是建造一个堡垒，辞掉工作，加入这项事业。正如我的同事马特奥·黄在今年早些时候与这群人相处后所写的那样，政治、经济和时事对真正的信徒来说基本上无关紧要。如果你相信我们所知道的世界即将发生永远的改变，那么你就很难关心关税、独裁侵犯或获得学位。
这种论调的背后隐藏着令人抓狂的后果。人们在与聊天机器人建立关系后，被迫投入治疗或陷入妄想症。这些故事本身就成了一个家庭手工业，每一个故事都表明，这些谄媚的模型、将虚假信息当真的说法以及这些工具模仿人类对话的能力，让脆弱的用户误以为他们已经与机器建立了人际关系。像r/MyBoyfriendIsAI这样的子版块，人们在其中描述他们与聊天机器人的关系，虽然可能不能代表大多数用户，但浏览这些用户评价很难不让人感受到，在生成式人工智能时代刚刚过去的几年里，这些工具对那些可能不了解它们正在与什么打交道的人有着强大的影响力。
在所有这一切发生的同时，年轻人正在经历一种被作家凯拉·斯坎隆称为“可预测进步的终结”的现象。广义上，该理论认为，通往稳定经济生活的常规途径不再可靠。“你在想：这些我赖以跻身职业阶梯底层的工作将被人工智能夺走”，她最近告诉记者埃兹拉·克莱因。“我认为这会产生一种恐惧感。”她所描述的不稳定感是生成人工智能时代的标志。目前还不清楚人工智能将夺走多少入门级工作，但来自热情的首席执行官和企业的信息听起来确实很可怕。今年 5 月，Anthropic 首席执行官达里奥·阿莫迪警告说，人工智能可能会消灭一半的入门级白领工作。今年 6 月，Salesforce 首席执行官马克·贝尼奥夫表示，该公司多达 50% 的工作是由人工智能完成的。
失业带来的焦虑正体现了当下的迷茫。目前，关于人工智能是否对就业产生了有意义的影响，存在着相互矛盾的理论。但实际影响和感知影响是两码事。昆尼皮亚克大学最近的一项民意调查发现，“在日常生活中”，44%的受访美国人认为人工智能弊大于利。调查发现，美国人认为这项技术会导致失业，但许多工人似乎对自己的工作保障充满信心。许多人根本不知道该如何看待人工智能，但人们不可能不去思考它。
OpenAI 首席执行官 Sam Altman也展现了自己的不确定性。在 6 月份发表的一篇题为“温柔的奇点”的博客文章中，Altman 认为“我们已经越过了事件视界”，并且即将构建数字超级智能，并且“从某种意义上说，ChatGPT 已经比任何曾经存在过的人类都强大”。他使用了人工智能支持者的经典修辞手法，认为“2030 年代很可能与以往任何时候都截然不同”。然而，这篇文章也略微回避了他之前常用的“革命”不可避免的戏剧性论调。“在最重要的方面，2030 年代可能不会有太大的不同，”他写道。“人们仍然会爱他们的家人，表达他们的创造力，玩游戏，在湖里游泳”——这算是对我们肉体耐力的戏谑致敬，算是一点小小的犒劳。奥特曼是一位熟练的营销人员，这个帖子可能只是为了向那些有点害怕的人传达一个更友好、更可接受的未来。
但换个角度解读这篇文章，你会发现，面对技术发展的潜在限制，奥特曼似乎在含糊其辞。本月早些时候，OpenAI 发布了 GPT-5，但评价褒贬不一。奥特曼曾承诺，GPT-5 在任何领域都能提供“博士级”的智能。但 GPT-5 的早期测试暴露了各种各样不靠谱的答案，包括幻觉、简单的算术错误以及基本推理能力的失败。一些沉迷于旧版本软件的高级用户对这次更新感到愤怒，甚至感到失落。奥特曼特别强调了产品的可用性和设计：GPT-5 加上“温和奇点”的概念，似乎承认超级智能仍然只是一个概念。
然而，哲学家的角色扮演仍在继续。发布会前不久，奥特曼出现在喜剧演员西奥·冯的热门播客中。讨论转向了奥特曼一贯擅长的深思熟虑的科幻领域。两人一度进行了如下对话：
萨姆·奥特曼：我确实猜测随着时间的推移，世界上很多地方都会被数据中心覆盖。
Theo Von：你真的吗？
奥特曼：但我不知道，因为我们可能把它们放到太空里。比如，我们可能在太阳系周围建一个巨大的戴森球，然后说：“嘿，把它们放到地球上真的没意义。”
冯：是的。
奥特曼：我希望我能给你更具体的答案，但是，我们正在艰难地解决这个问题。
一个人在开车去杂货店的路上听到这样的对话，究竟是怎么想的呢？当然，有一群人觉得用数据中心覆盖地球或大气层非常令人兴奋。但我们这些不这么认为的人呢？奥特曼和人工智能领域的一些小人物经常这样说，对未来做出极端、务实的宣言，听起来就像孩子们在玩策略游戏。这不是什么商业计划；这只是一个空想。
同样令人困惑的是，这些愿景和高谈阔论正在推动现实世界的变革。即使你个人不相信这些炒作，你也生活在一个围绕人工智能重新定位的经济体中。《华尔街日报》最近的一份报告估计，大型科技公司在2025年对IT基础设施的支出“将起到某种私营部门刺激计划的作用”，而“七大科技公司”——Meta、Alphabet、微软、亚马逊、苹果、英伟达和特斯拉——在最近几个月的资本支出超过1000亿美元。如此集中投资于某一科技领域的另一面，是巨大的经济脆弱性，可能引发金融危机。
简而言之，这就是人工智能时代。乍一看，你可以把它描绘成世界经济的救星。但仔细观察，它就像一颗埋在全球金融体系中的定时炸弹。关于人工智能的讨论总是两极分化。保持信心吧。
不可否认，生成式人工智能工具具有变革性，因为它们的采用彻底改变了经济和数字世界。社交网络和整个互联网已经充斥着人工智能的垃圾和合成文本。Spotify 和 YouTube 上充斥着人工智能生成的歌曲和视频，其中一些歌曲的播放量达到了数百万次。
机器人无处不在，它们对数字生活产生了极其奇怪且意义深远的影响。有时它们是种族主义者。许多是谄媚者。其他时候，它们会召唤恶魔。谷歌的人工智能摘要正在导致流量崩溃并重新布线网络。在学校里，ChatGPT 不仅扼杀了学生的论文；它似乎正在威胁人类认知的一些基本组成部分。一些研究认为，聊天机器人正在使人们的说话方式同质化。无论如何，它们似乎已经颠覆了互联网作为一个人们可以自行浏览的无尽信息档案库的承诺。做你自己的研究很快就会变成得到一个规范答案。
有时这会很有帮助：机器人巧妙地总结了复杂的 PDF。据大多数人说，它们是真正有用的编码工具。孩子们用它们来构建有用的学习指南。它们擅长通过大量发送乏味的电子邮件来节省你的时间。此外，一个医疗保健聊天机器人编造了假的身体部位。FDA 推出了一种生成式人工智能工具，以帮助快速审批药品和医疗器械，但该工具一直在编造虚假研究。浏览人工智能的头条新闻是我们每天的练习，试图确定社会为这些感知到的生产力效益付出的代价。例如，有了一款新的支持 Google Gemini 的智能手表，你可以让机器人“告诉我的配偶我迟到了 15 分钟，并用开玩笑的语气发送”，而不是亲自沟通。随后有消息称，一项研究表明，ChatGPT 高级用户可能正在通过使用该工具积累“认知债务”。
最近几个月，这一切让我感到无所适从：一项我认为在某些情况下很有用的技术，却被当作通往感知世界的门户；一位亿万富翁自信地宣称，通过与聊天机器人对话，他即将在物理学上取得突破；一种“赶紧买包”的文化似乎已经接受了这些工具，而没有过多考虑其后果；还有……这些言论……我到处都能听到这样的议论——一个在农贸市场卖农产品的家伙半心半意地开玩笑说，人工智能种不了蓝莓；一位女士在机场告诉她的朋友，她向ChatGPT寻求化妆品推荐。大多数这样的对话都是缺乏根据的，进行这些对话的人多年来一直被各种炒作轰炸，但他们也眼睁睁地看着这些工具融入到他们或他们认识的人的生活中。他们既不兴奋也不厌倦，但几乎所有人都似乎已经接受了这些工具，并视其为未来的一部分。记住——这仅仅是个开始……对吧？
这就是这项技术的缔造者和支持者赋予我们的语言，这意味着关于这项技术未来定位的讨论都是按照他们的术语进行的。这是一个错误，或许也是很多人感到迷茫的原因。最近，我一直在思考一个不同的问题：如果生成式人工智能不是机器里的上帝或空想软件呢？如果它只是足够好，对许多人有用，但并非革命性的呢？目前，这些模型不会思考——它们预测并排列语言符号，从而对查询提供合理的响应。几乎没有令人信服的证据表明，如果没有某种量子研究的飞跃，它们会进化。如果它们永远无法停止产生幻觉，永远无法发展出驱动人类真正智能的那种创造性智慧呢？
模型足够好并不意味着这个行业会在一夜之间崩塌，也不意味着这项技术毫无用处（尽管有可能）。这项技术或许仍然会极大地削弱我们的教育体系，让一代人依赖于聊天机器人的答案，而不是独立思考，也无法获得发明癌症疗法的感知机器人所承诺的优势。
“足够好”这个概念一直让我夜不能寐。因为“足够好”很可能意味着，直到为时已晚，才会有足够多的人意识到我们真正在构建什么，以及我们牺牲了什么。如果真正的末日景象是：我们污染了互联网和地球，重新调整了经济方向，攫取了自身利益，将大量知识外包，重新调整了地缘政治和文化，并为一项从未兑现其宏伟承诺的技术无休止地争斗，那该怎么办？如果我们花费大量时间等待和争论，以至于无法集中精力解决当前存在的问题，那该怎么办？那将是一场悲剧——一场群体性妄想的产物。这种景象最让我害怕的是，它是唯一一个听起来不那么疯狂的景象。
关于作者：查理·沃泽尔Charlie Warzel是《大西洋月刊》的特约撰稿人，也是该报通讯“Galaxy Brain”的作者，该通讯关注科技、媒体和重要创意。
(来源：新浪科技)
关联资讯:
ChatGPT被指处理伴侣关系“劝分不劝和”，OpenAI回应将引导用户自我思考
