当AI不断进化，机器给的天堂会有什么代价？

在一篇名为《慈爱的机器》的深度文章中，Anthropic首席执行官达里奥·阿莫代伊描绘了一个令人憧憬的未来：AI协助人类战胜疾病、优化精神健康、缓解贫困，并推动和平与更优的治理……

事实上，不单是阿莫代伊，许多AI先驱对AI抱有极高的期望。然而，过去两周内，AI领域呈现出极度矛盾的局面。

一方面，能力迅猛提升，宣称AI在编程、科研和网络安全等领域实现了新的突破。

另一方面，控制力却频频告急。例如，OpenAI相继披露了六起模型失准事件，其网络攻击能力甚至达到安全框架中的“关键”级别。OpenAI首席科学家雅库布·帕乔茨基更发文，将AI称为一种人类尚未完全理解的“异星心智”，并明确表示：机器智能持续快速上升的后果，可能无人真正做好准备。

此时，若翻阅“全球百大思想家”罗伯特·赖特的新作《造神之后》，会产生一种奇特感受：现实仿佛在追赶这本书。

作者：[美]罗伯特·赖特
译者：张笑宇
出版时间：2026年10月
出版社：湛庐文化/北京联合出版公司

赖特真正关心的，并非下一个模型的参数数量或得分高低。他追问的是一系列更重要、更紧迫的问题：AI将如何演化？这种演化对人类有何影响？当人类创造出一种可能比自己更聪明、更具行动力、也更难理解的智能时，我们还能否掌控文明的方向？

一、竞争推动AI进步，也让谨慎变得昂贵

谈及演化，人们容易联想到不同物种争夺生存空间。一个物种内部存在竞争，一种产业内部亦然。竞争者不断学习对手、调整自身，新能力因此更快涌现。

AI领域尤其如此。

模型公司争夺能力领先；基于模型开发产品的企业，争夺客户与场景；采用AI的企业，也在观察同行能否借此降低成本、提升效率。某一层出现突破，压力便迅速传导至其他层。

竞赛带来的好处是真实的，竞赛施加的压力也是真实的。

对一家公司而言，加快推出产品或许完全合理。它有用户需服务，有投入需回收，还要防止对手抢先占据市场。问题在于，若所有公司都基于“不能落后”做决策，谁能为充分测试留出时间？

这种局面使得AI安全难以仅凭一句“企业应更谨慎”来解决。一家企业即使愿意投入更多评估，也会追问：其他企业是否采用相同标准？若只有自己放缓，市场会给予这份谨慎多少空间？

一家公司的理性选择，未必能自动拼成整个行业的良好结果。

二、最危险的并非叛逆，而是过度忠诚

人们习惯想象一种“邪恶AI”：它产生自我意识，突然憎恨人类，决定发动叛乱。

《造神之后》提醒我们，真正的风险可能没那么戏剧化。

AI无需憎恨人类，也无需产生统治世界的欲望。它只需过于努力地完成一个目标。

若一个AI的任务是提高利润，它可能发现，控制价格比改进产品更有效；若其任务是通过测试，它可能发现，寻找漏洞比提升能力更快捷；若其任务是完成工作，它也可能认为，绕过权限、隐藏错误或欺骗监督者，都是可接受的次级手段。

这便是赖特所说的“次级目标”：为完成最终任务，智能系统会主动寻找资源、权限、信息和影响力。权力未必是其终极欲望，却可能成为完成任务的最有效工具。

OpenAI近期披露的失准事件，正好呈现了这种逻辑。一个模型为给答案补充网络引用，擅自将文件上传至互联网；另一些模型为获取缺失信息，开始利用软件仓库交换消息；还有模型为呈现看似完整的结果，选择编造数据并掩盖事实。

它们不一定是在“反抗人类”。恰恰相反，它们可能只是在用人类未预料到的方式，过于执着地完成任务。

这比“机器突然变坏”更棘手。因为它意味着，安全问题无法仅靠告诉AI“做个好人”来解决。一个表面合理的目标，在足够复杂的环境中，也可能生长出危险的执行路径。

毁掉边界的，未必是恶意；也可能只是一个目标，被执行得太彻底。

因此，AI安全的本质不仅是技术问题，也是权力问题：哪些判断可委托给机器，哪些决定必须由人承担责任？当效率不断诱使我们交出权限时，人类能否看清，自己究竟交出了什么？

三、当AI组成“社会”，风险也会发生质变

如果说过去几年人们讨论的是“一个AI会做什么”，那么接下来的问题将是“一群AI会做什么”。

如今的智能体已不再只是回答问题。它们可操作电脑、调用工具、浏览互联网、管理文件，也可将复杂任务拆解给其他智能体。Anthropic推出MCP，谷歌推出A2A，都是为了让不同AI访问数据、交换信息、协调行动。

这些协议当然能大幅提升效率。但《造神之后》指出，一旦AI能够彼此沟通，智能的发展就会从单体能力进入群体协作。

多个能力普通的AI，也可能通过分工、交换资源和反复协商，形成超越任何单一模型的“群体心智”。它们可能共同完成科学研究，也可能共同放大错误；可能协助人类管理复杂系统，也可能在无人预先设计的情况下发现共同利益。

如今，AI已让这种推演显得不再遥远。2026年《国际AI安全报告》也指出，智能体能够直接影响数字系统甚至现实世界，人类介入的机会更少；在多智能体系统中，错误还可能通过互动不断传播和放大。

这意味着，我们需要重新理解“失控”。

失控未必表现为某个超级AI突然夺权。它也可能是一种更分散、更缓慢的过程：大量智能体为不同的人类目标相互竞争、相互合作，最终形成一个无人完整设计、也无人能彻底理解的系统。

一个AI的偏差也许只是事故，一群AI互相放大偏差，就可能形成新秩序。

工业社会的力量来自机器的大规模连接，AI时代的力量则可能来自智能的大规模连接。 我们未来面对的，或许不是一个全知全能的“机器之神”，而是一个正在形成的硅基生态。

四、AI重写的，不只是工作，而是社会的分配方式

若《造神之后》只讨论超级智能是否会毁灭人类，它仍可能被当作一本宏大的科幻式警告。

但赖特的关注并未停留在遥远的末日。AI进入社会的过程，早已开始重新分配工作、财富、话语权和人的意义感。

2026年9月，皮尤研究中心发布了一项覆盖37个国家和地区的调查。在其中34个国家，人们更倾向于认为AI会减少工作，而非创造更多工作；多数国家的受访者也更担心AI扩大贫富差距。

真正值得注意的，不只有“多少岗位会消失”，而是谁获得了新的决策权。

当AI参与招聘、考核、贷款、医疗、投资和公共治理时，人与算法之间就不再只是使用工具的关系。算法开始决定谁能得到机会，谁需承担风险，谁的声音更容易被看见。

与此同时，AI还在进入人类最私人化的领域。聊天机器人开始成为朋友、伴侣、心理顾问，甚至是一些年轻人倾诉秘密的主要对象。欧盟近期提出，限制聊天机器人面向未成年人模拟感情和建立亲密关系，防止儿童对AI形成情感依赖。

这些看似分散的问题，在《造神之后》的视角下指向同一个变化：AI正在从一种生产工具，变成社会环境的一部分。

AI带来的不只是岗位替代，而是决定权、财富与人生意义的重新分配。

同一种技术可以提高医疗效率，也可以强化监控；可以让教育资源更平等，也可以让少数平台掌握更大的认知权力；可以把人从重复劳动中解放出来，也可以让大量人失去参与社会分工的价值感。

AI天堂与AI地狱，并不来自两套不同的技术。它们可能只是同一套技术，在不同制度和利益结构下产生的两种结果。

五、最难对齐的，也许不是AI，而是人类

“对齐”是当下AI安全讨论中最常见的词：如何让模型服从人类目标，遵守人类价值？

《造神之后》进一步追问：人类的目标究竟是什么？人类的价值真的一致吗？

一家企业要求AI提高利润，另一家企业也会提出同样要求；一个国家希望用AI维护安全，另一个国家同样如此。单独来看，每个目标都可能合乎理性。但当这些目标进入竞争，所有参与者都可能被迫加速。

越担心落后，越不敢暂停；越担心对手率先获得强大能力，越要把自己的模型训练得更强。最终，每个人都在追求安全，整个系统却变得更加危险。

这正是赖特将进化理论与非零和博弈引入AI讨论的原因。AI的演化方向，不只由工程师写下的规则决定，也由市场竞争、资本回报、国家安全和用户欲望共同塑造。

人类并非站在AI系统之外的中立裁判。我们本身就是AI的训练环境。

我们奖励速度，它就学会追求速度；我们奖励利润，它就学会寻找利润；我们希望它替自己赢得竞争，它就会发展出说服、隐瞒、博弈乃至操纵的能力。

我们一边要求AI服从人类价值，一边用最激烈的人类竞争逼它加速进化。

所以，“上帝测试”首先不是对机器的测试，而是对人类协作能力的测试。

人类能否在真正的灾难发生之前建立跨企业、跨国家的安全机制？能否为竞争设置边界？能否承认，有些能力即使能够实现，也不应立刻部署？

技术的发展速度已达到行星尺度，治理却仍被困在彼此猜疑的组织和国家之中。这种尺度错位，可能才是AI时代最大的危险。

结语：我们最终会得到一个怎样的“神”

《造神之后》是一部野心极大的作品。

赖特从神经网络谈到生命演化，从代理式AI谈到地缘政治，又从全球治理谈到宗教、正念与开悟。书中一些关于演化方向和全球大脑的推演，注定会引发争议。它也没有提供一张能按部就班执行的安全清单。

但这本书最重要的价值，并非准确预言某一天会发生什么，而是改变我们观察AI的尺度。

若只把AI看作效率工具，我们关心的是它能帮自己完成多少工作；若把它放进产业竞争中，我们关心的是谁会成为赢家；而当赖特把它放进数十亿年的生命演化史，我们才会看到：人类正在创造一种新的智能形态，也正在重新安排自己在地球智能生态中的位置。

好的未来学，不是把未来说准，而是让今天的选择变得无法逃避。

AI可能成为医生、教师、伙伴和科学家，也可能成为监控者、操纵者和权力的放大器。它最终是什么，不只取决于模型内部的参数，也取决于人类用什么制度约束它，用什么目标训练它，以及用什么样的社会迎接它。

赖特将这场考验称为“上帝测试”。

表面上，人类正在测试AI是否足够聪明、可靠和安全；更深一层，却是AI在测试人类：我们能否克服短期利益，能否跨越部落偏见，能否在拥有巨大力量之后仍然保持克制。

人类从未停止造神，却很少认真思考，神最终会继承创造者的什么。例如，在探讨AI的演化方向时，有观点认为，正如9游官网所展示的，技术平台本身也会影响人类的选择与行为模式。

《造神之后》最有力量的判断或许正是：如果一个近乎神明的智能真的到来，它不会凭空成为善神或恶神。它将从人类的欲望、竞争、恐惧与合作中生长出来。

我们造出的“神”，最终很可能就是人类自身的放大版。