梵蒂冈教皇利奥十四世发布了一份通谕，叫《壮丽人性》（Magnifica Humanitas），全文 4.2 万字，专门讲人工智能。
这是历史上第一次，梵蒂冈用最高规格的文件格式来回应一项技术。
文件做了三件事：
- 批判了 AI 的三个危险方向——武器化、数字殖民、用「发钱」打发失业者
- 做了两个象征性动作——为历史上的奴隶制道歉，并选择与 AI 安全派公司 Anthropic 公开结盟
- 给出了一个核心判断——人类的脸庞、苦难、道德选择，永远不可能被算法化；效率不等于价值
下面一个一个拆。
第一个问题：谁有权替人做生死判断？
文件最重的一刀砍向了 AI 武器化。
现在已经有自主武器系统在运行了。无人机靠图像识别锁定目标，靠概率模型决定要不要开火。人类不在决策环路里。
教皇的原话非常硬：「没有任何算法能让战争在道德上可接受。」
这背后的逻辑不复杂：算法的本质是概率拟合。它能算出「这个目标有 87% 的概率是敌方人员」，但它没有能力承担「万一那 13% 是平民」的道德后果。开枪这件事，需要一个能承担责任的主体。算法不是主体。
文件要求全球解除 AI 的军事应用。
这个主张能不能实现，另说。但问题本身值得认真对待：当我们把越来越多的判断权交给算法，谁来为算法的错误负责？
这不只是战场上的问题。医疗诊断、信贷审批、司法量刑——越来越多的高风险决策正在被算法接管。责任主体的模糊化，是一个正在发生的系统性风险。
第二个问题：AI 的繁荣建立在谁的劳动上？
文件揭了一个不太体面的底。
硅谷的 AI 公司享受着万亿估值、投资者的追捧、媒体的礼赞。但这个产业的底层是什么？
物理层：刚果的矿工在地下挖钴和锂。这是制造 AI 芯片的核心原材料。工作条件恶劣，报酬极低，包括童工。
数据层：东南亚和非洲的数据标注工厂里，工人拿着每小时不到两美元的时薪，一张图一张图地标注。这是大模型训练的底层燃料。OpenAI 的 RLHF（人类反馈强化学习）之所以有效，是因为有真人在逐条审阅和评分 AI 的输出——这些人大多在肯尼亚。
文件把这叫做**「数字殖民」**——和 500 年前的殖民本质一样，核心资源从穷国流向富国，利润在价值链顶端被少数公司攫取。
文件的主张是：算法、公共数据和核心技术平台，应当被视为公共资源，不应被少数公司私有化。
这个主张很激进。但它指向了一个真实的结构性问题：AI 的「民主化叙事」——人人都能用 AI——掩盖了一个事实：AI 的基础设施高度集中在几家公司手里。模型可以开源，但算力、数据和分发渠道不会开源。
第三个问题：工作只是换钱的工具吗？
硅谷有一套标准话术：AI 会替代大部分工作，没关系，政府给大家发钱就行了。这就是「全民基本收入」（UBI）。
文件对这套话术的批评非常直接。
它的核心论点是：工作不只是赚钱的手段，它是人建立社会关系、获得身份认同、实现自我价值的路径。
一个人失业了，你每月给他发 5000 块，他的经济问题解决了。但他的社会连接断了，他的日常结构没了，他的自我认知——「我是做什么的」——坍塌了。
发钱解决的是生存问题。但人不只需要生存，人需要被需要。
文件用了一个很重的词：「人类学倒退」。意思是，用 UBI 打发失业者，本质上是把人降格成了纯粹的消费终端——你不用创造任何价值，你只需要活着，然后花钱。
这对「AI 替代一切」的叙事是一个很有力的反驳。不是说 AI 不应该替代某些工作，而是说：在替代的过程中，如果没有为人重新找到「被需要」的位置，社会代价会比经济账本显示的大得多。
两个值得注意的动作
文件发布时做了两件事，值得单独说。
第一，代表教会为 15 世纪参与的奴隶制公开道歉。
这不是在讲历史。这是在做类比：过去的剥削以锁链的形式出现，今天的剥削以算法和数据的形式出现。通过主动清算历史债务，它获得了批评当下的道德资格。
第二，选择了 Anthropic 的联合创始人 Chris Olah 站台。
Anthropic 是目前硅谷大模型公司中唯一一家把「AI 可能是危险的」写进公司章程的。它做 Claude，但它同时公开承认自己的产品可能带来风险。这在硅谷是一种异类立场。
梵蒂冈选择和它站在一起，而不是和 OpenAI 或 Google 站在一起，释放了一个清晰的信号：在速度和安全之间，选安全。在效率和伦理之间，选伦理。
一个判断
4.2 万字的文件，浓缩到底就是一个判断：
人类身上那些不能被算法化的东西——道德直觉、苦难体验、真实的人际连接——才是文明的根基。
效率可以外包给机器。判断不能。
机器可以跑得比人快。但方向盘必须在人手里。
这份文件能不能真正影响全球 AI 监管立法，现在还不好说。但它提出的问题是真实的：
- 算法决策的责任主体是谁？
- AI 产业链的底层劳动者权益谁来保障？
- 技术性失业的社会后果，除了发钱还有没有别的解法？
这些问题不会因为我们不想它们而消失。