我们在召唤神龙，也在为灭霸打造手套

AI不是神龙与灭霸之间的选择题：同一种力量正在一边破解疾病与能源难题，一边把定义目标、分配收益和叫停系统的权力推向少数人。

我们召唤的，究竟是什么

2022年11月30日，ChatGPT以一个聊天框出现。它没有以文明转折的姿态举行发布会，只把过去需要论文、代码和接口才能接近的能力，压缩进了自然语言。

会说话，就能进入。

学生让它解释一道题，程序员让它检查代码，企业用它写邮件、做客服、整理文档。五天后，用户超过一百万；同一天，Stack Overflow暂时禁止ChatGPT生成的答案，因为低正确率与高产量已经压过志愿者的核查能力。

一边是一百万用户，一边是一项禁令。AI最早交给社会的不是一张单纯的效率账单，而是两张同时到来的账单：生成变便宜了，验证和负责变贵了。

此后的变化越来越快。模型开始看见图像、理解长文、生成视频、调用工具、操作电脑，并进入科学研究。AlphaFold改变了研究者理解蛋白质结构的方式，低经验员工借助AI更快掌握成熟表达，中小企业开始获得过去负担不起的专业能力。

这些愿望都是真实的。疾病可以更早被理解，知识可以越过门槛，繁重工作可以交给机器，资源不足的人可能获得新的能力。人类没有理由因为害怕力量，就假装自己从未需要力量。

这正是“龙珠”的一面。

七颗珠子散落世界，必须一颗颗寻找；集齐以后，神龙出现，许下过去无法实现的愿望。算法、数据、芯片、资本、能源、人才和应用场景，也像被公司、国家与普通人寻找的珠子。每集齐一颗，人类便更接近某种突破。

龙珠的危险不在力量存在，而在愿望说得太快。集齐力量的人可能把自己的愿望误认成人类的愿望，也可能在神龙出现以后才发现，代价从未进入句子。

每一颗龙珠，都在进入同一只手套

AI看起来像一束从云端降下的文字，背后却是钢、土地、电网、水、资本、供应链和国家对落后的恐惧。

训练和服务更强模型，需要稳定的芯片、云、电力和资金。模型越便宜，使用可能越广；软件门槛下降，芯片、云和能源的权力反而可能上升。DeepSeek-R1让更多开发者看见开放权重、强化学习与蒸馏的扩散能力；Stargate一类基础设施计划则说明，领先者仍愿意把巨大资本押在更多算力上。

这不是两个互相取消的故事。能力在扩散，制造和调用能力的条件却可能继续集中。

这正是“手套”的一面。

六颗宝石被嵌进同一只手套，一次响指便把近乎无法挽回的决定压缩成一个动作。AI世界里的手套不是某一个反派。它可能是一家公司同时控制模型、云、用户和开发者入口，也可能是一个国家把芯片、能源与安全政策合成战略，还可能是一家企业把AI接进所有流程，却不给员工和客户留下退出与纠错的路。

手套式权力最危险的地方，不只是力量可以造成破坏，而是持有者总能给出一套看似完整的道德算法：更多药物、更高生产率、更安全的国家、更丰裕的未来。总体收益很容易获得宏大语言，具体代价却没有同等声量——一名标注者的睡眠、一位作者失去的议价、一名员工被抽走的学徒期、一座城市已经签下的电力义务。

当这些人被压成一组可以由持有者代算的数字，响指甚至不需要恶意。

神龙与手套，并不是善恶选择题

龙珠式的分散能够打破垄断，也会让高风险能力更难召回；手套式的集中可能制造支配，也能提供统一更新、访问控制与事故响应。开放模型给后来者检查和修改的自由，封闭平台则保留收权的能力。

所以，AI不是神龙与灭霸之间的选择题。

开放未必天然正义，集中也未必只有支配；加速可能带来科学福祉，等待也可能减少无法撤回的错误。药物发现等待得越久，患者承担的损失越大；高权限系统推进得越快，尚未被卷入决定的人越容易先承受错误。

这不是技术与道德的对决，而是两种正义要求的冲突：一方不愿让可能的福祉被恐惧推迟，另一方不愿让总体收益成为牺牲少数人的许可证。

真正需要追问的，不是谁天然代表神龙，谁已经变成灭霸，而是两件更具体的事：力量怎样被集齐，调用力量的权利怎样被集中。

技术史回答“人类能做什么”，正义的历史追问“人类凭什么这样做”。人工智能把这两条历史推到了同一个界面。它不仅替人出力，还开始进入语言、判断和行动；不仅产生答案，也可能替组织筛选、分配、拒绝和执行。

一个人即使从未打开聊天框，也可能被模型评估、被自动流程影响，或者以作品、数据和劳动进入系统。正义由此不再是技术完成以后才出现的修饰。它从他人被卷入决定的那一刻就已经开始。

真正的问题，是谁有资格说“我们”

人类当然需要目标。问题是，当一家公司说“我们需要更强的AI”，一个国家说“我们不能在竞赛中落后”，一个组织说“我们将用AI提高所有人的效率”时，句子里的“我们”究竟包括谁？

公司可以为产品定义目标，不能自动为社会定义牺牲；国家可以保护安全，不能因此让一切选择退出公共审查；公众拥有被影响的权利，也不能用一时恐惧取消所有探索。

一百万用户足以证明需求，不能自动成为一百万张替全社会投下的赞成票。用户点击同意，可以授权自己使用一项服务，却不能替没有来到屏幕前的人同意：不能替创作者决定作品怎样进入训练，不能替劳动者决定经验怎样被提取，也不能替后来被模型筛选的人接受错误。

这并不是要求每次产品更新都经过全民表决。难处恰恰在两者之间：既承认个人选择和技术试验的空间，也不把市场流行误写成公共授权。

因此，判断一项AI行动是否正当，至少要继续追问三个问题：

谁有权决定AI前进的速度与方向？
AI创造的收益流向哪里，现实代价又由谁承担？
当错误越过用户与股东，谁还有能力让系统停下并纠正？

掌握力量的人不能同时垄断对力量的解释，受到影响的人也不能只在事故以后才被看见。技术能力可以使一件事值得尝试，却不能替尝试者取得把别人卷入的资格。

海妖唱的，是“别人也会做”

《奥德赛》里，奥德修斯的船即将驶过海妖栖居的海域。海妖没有用恐怖逼人靠近，她们许诺知识与荣耀。奥德修斯想听，于是在歌声响起以前命令水手把自己绑在桅杆上：无论我到时怎样请求，都不要松开；我越挣扎，你们越要把绳索收紧。

奥德修斯真正的清醒，不是相信自己永不动摇，而是承认自己会动摇。

AI不是海妖。真正像歌声的，是竞赛中反复出现的那句话：

如果我们不做，别人也会做。

实验室用它解释模型扩张，企业用它解释快速部署，地方用它争取数据中心，国家用它解释算力、芯片和人才投入。每一个说出它的人都有现实理由。所有理由合在一起，却会把选择说成命运，把责任留给后来的人。

一个今天真诚相信安全的人，面对发布日期、竞争者和已经投入的资本，也可能重新解释自己的承诺。训练以前写下能力阈值、发布以前安排评估、异常出现以前指定谁能收权，这些规则的意义，就是在歌声最响时增加改变决定的成本。

但若写下规则的人，也能单方面解释、暂停和删除规则，绳索就更接近一份愿望清单。公开标准、独立评估、事故报告和董事会程序，不是为了寻找一位永远正确的守门人，而是让任何一方都无法悄无声息地把门拆掉。

更重要的是，奥德修斯约束的是自己；AI公司和国家的决定会影响没有签署公司章程的人。劳动者提供数据与审核，创作者的作品进入训练，企业客户把决定交给代理，数据中心所在地承担土地和电力。建设者自愿绑住自己，是责任的开始，还不是公共授权的完成。

一根真正有效的绳索

约束不应只是一句“谨慎使用AI”，也不是一枚只有危机到来时才想起的紧急按钮。它必须经得起三种时刻。

第一种，是坏消息尚未成为事故。风险证据并不完整，发布日期却已经公开。制度必须允许提出担忧的人绕过业务汇报链，把问题送到能够看见完整材料的人面前；拒绝暂停的一方也应留下理由。

第二种，是系统已经暂停，所有人都在要求恢复。恢复不能只凭“暂时没有再现”，而要说明开放给谁、保留什么权限、何时复核、出现什么信号会自动收回。

第三种，是代价落在最没有声音的人身上。系统没有发生戏剧性灾难，收益却已经向一端集中。这里的绳索不是断电按钮，而是合同、通知、谈判、申诉、退出，以及收益怎样分配。

文明不能只在机器可能毁灭人类时才想起约束。普通人的生活，本身就是约束的理由。

绳索也不是一套万能规则。它是一种可以被检查的治理能力：事实能否到达决策者，反对者能否说话，暂停是否真的能够发生，恢复是否带着条件，承担代价的人能否进入程序。

同时还要承认，绳索本身也会伤人。过高的合规成本可能把小公司和公共研究挡在门外，封闭权重可能把能力锁给巨头，限制技术流动也会改变后来者的发展道路。谁要求绑紧，谁也要解释绑住了谁、损失由谁承担、什么时候复核。

这就是“可逆”的意义。可逆不等于凡事都能回到原点，而是让新的权限分阶段发生，让合同随事实复核，让系统保留替代流程，让错误不必扩大到整个社会。对不可逆的动作，证明责任应更高；对可以试验和收回的动作，社会可以给创新更大空间。

一项成熟制度，既不把安全写成永久封锁，也不把创新写成永远先行。它为错误留下回程，也为规则的错误留下回程。

在响指落下以前

龙珠仍在散落，也在被越来越快地集齐。

算法与数据变成模型，模型接入工具，工具进入组织，组织再把需求推向芯片、云、电网和国家战略。科学收益、生产率、垄断、隐形劳动和失控风险，不再是几条平行的新闻，它们属于同一场历史。

人类无需砸碎龙珠，也不能把希望寄托给一只永远正确的手。没有哪个建设者只代表贪婪，也没有哪个叫停者只代表正义。

我们真正需要学习的，也许不是怎样说出一个完美愿望。世界太复杂，没有任何首席执行官、哲学家、工程师或监管者，能够在一句话里写尽所有边界。更可靠的文明能力，是不让任何一句愿望获得不可撤回的全部权限：先在较小范围试验，让受影响者能够拒绝，保存行动轨迹，错误出现时停止，修复以后有条件恢复。

这听起来比“召唤未来”缓慢，也比“一次响指解决问题”缺少英雄气。它却保留了文明最珍贵的力量——承认自己会错，并且让承认错误以后仍有路可走。

任何替人类许下愿望的人，都应说明谁授权；任何宣布总体收益的人，都应说明谁承担代价；任何扩大系统权限的人，都应说明错误能否回来；任何以未来为名作出牺牲的人，都不能自动让当下的人失去权利；任何已经取得的技术能力，都不能替自己颁发道德许可证。

龙珠不会替人类选择愿望，手套不会替持有者证明正义。海妖的歌声里，文明能够依靠的，从来不是一位永不动摇的英雄。

而是英雄动摇时，绳索依然有效；握着绳索的人，也仍然记得船要驶向哪里。

响指尚未落下。