当AI幻觉遇上军备竞赛：安全失灵与地缘竞争的不可能困局

2026年9月18日，CNN披露了一条令人不安的消息：美军曾因使用AI生成的虚假情报报告，差点做出危险的军事决策。几乎同一时间，路透社报道欧洲AI企业公开挑战美国提出的放缓AI发展建议，声称在追赶进程中"减速"无异于自废武功。

两条新闻，一个困局。

这不是简单的"AI有风险所以要减速"的故事。这是一个关于安全失灵与地缘竞争如何互相强化、将全球AI治理推向结构性死胡同的故事。

幻觉不是Bug，是Feature的阴暗面

先看美军事件的本质。

AI幻觉（Hallucination）——即模型自信地生成与事实不符的内容——长期以来被视为大语言模型的技术缺陷。从ChatGPT编造法律判例，到医疗AI虚构药物相互作用，幻觉问题一直是AI应用的主要障碍之一。

但美军事件将这个问题推到了一个全新的量级。

在商业场景中，AI幻觉的后果通常是尴尬或经济损失——一份包含虚构引用的法律文书，一个错误的药物建议。但在军事情报领域，幻觉的后果可能是生死攸关的。一份看似权威、格式规范、逻辑自洽的虚假情报报告，如果被决策者当作真实情报使用，可能导致误判敌情、错误部署、甚至引发冲突升级。

更深层的问题在于：AI幻觉不是可以通过"修复"彻底消除的。当前的大语言模型本质上是概率性的文本生成器，它们通过统计模式学习语言的结构，但并不真正"理解"内容的真假。模型越大、训练数据越多，幻觉可能越隐蔽——因为生成的内容在形式上更加完美，更难被人类直觉识别为虚假。

这意味着，AI在高风险场景中的应用，面临的不是一个可以"解决"的技术问题，而是一个需要持续管理的风险。而风险管理的核心，恰恰是速度——快速识别、快速纠正、快速学习。这与当前AI行业"快速迭代、快速部署"的文化形成了根本性张力。

欧洲的拒绝：不只是商业利益

再看欧洲AI企业对美国"减速"呼吁的抵制。

表面上，这是一个典型的商业竞争叙事：欧洲企业在AI领域落后于美国和中国，自然不愿意接受任何可能进一步拉大差距的限制。但深入分析，欧洲的立场反映了更深层的结构性矛盾。

首先，"减速"由谁来提议，本身就是个问题。美国——全球AI竞赛的最大受益者、拥有OpenAI、Anthropic、Google等顶级AI实验室的国家——呼吁全球减速，这在欧洲看来难免带有"先上车后关门"的嫌疑。正如一位欧洲AI政策研究者所言："当领跑者要求所有人放慢脚步时，跟随者有充分的理由怀疑其动机。"

其次，欧洲自身的AI战略正在经历微妙的转变。过去几年，欧盟主要通过《AI法案》等监管手段试图建立"规则制定者"的全球角色。但随着AI技术的商业价值日益凸显，欧洲开始意识到，单纯的监管角色可能使其在全球AI竞争中被边缘化。欧洲AI企业对"减速"呼吁的公开抵制，某种程度上反映了欧洲从"监管优先"向"创新与监管并重"的战略调整。

最后，地缘政治格局的变化也在推动欧洲的立场。在中美AI竞争日益白热化的背景下，欧洲不愿意看到自己成为任何一方的附庸。接受美国主导的"减速"框架，可能意味着欧洲在全球AI治理中的话语权进一步被削弱。

OpenAI安全事件：速度文化的代价

在讨论宏观治理困境的同时，本周的另一条新闻值得关注：安全研究人员通过堆溢出和SSO配置错误成功渗透了OpenAI的内部代码仓库。

这起事件的技术细节本身并不特别复杂——堆溢出和SSO配置错误都是已知的安全漏洞类型。但它的象征意义不容忽视：全球最顶级的AI实验室之一，在基础安全实践上存在明显疏漏。

这不是偶然。在当前AI行业的竞争环境下，"快速迭代"已经成为一种近乎宗教化的信条。模型要更大、发布要更快、功能要更多——在这种文化中，安全往往被视为"减速带"而非"方向盘"。OpenAI的安全事件，某种程度上是这种文化的必然产物。

更值得警惕的是，这种速度文化与AI能力的快速增长形成了危险的正反馈循环。模型越强大，部署越广泛，安全疏漏的潜在后果就越严重。但在竞争压力下，企业倾向于优先推进能力而非加固安全——因为前者直接带来市场份额和收入，而后者的收益是隐性的、长期的。

结构性悖论：为什么"减速"在政治上不可能

将上述三条线索放在一起，我们可以看到AI治理面临的一个结构性悖论：

安全事故越多，越证明需要谨慎；但安全事故越多，竞争压力越大，越不可能谨慎。

美军的AI幻觉事件证明了在高风险场景中部署AI的危险性。但这类事件同时也强化了一种叙事："我们需要更好的AI"——即通过技术进步来解决技术问题。这推动了更多的研发投入、更快的模型迭代，进一步加剧了竞争。

欧洲对"减速"呼吁的抵制则表明，在地缘政治竞争的背景下，任何单方面的减速都可能被视为战略劣势。即使所有参与者都认同减速的必要性，"囚徒困境"的逻辑也会阻止任何一方率先行动。

OpenAI的安全事件则揭示了企业层面的类似困境：在竞争压力下，安全投入的机会成本太高，企业理性选择是"先跑再修"。

这三个层面——技术、地缘政治、企业——的困境互相强化，形成了一个几乎不可能打破的循环。

可能的出路

尽管困境严峻，但并非完全没有出路。以下是几种可能的路径：

1. 从"减速"转向"安全加速"

与其呼吁放慢AI发展——这在政治上几乎不可能实现——不如将重点转向"在快速发展的同时提升安全性"。具体措施包括：强制性的安全评估标准、事故报告机制、以及安全研究的公共投资。这种路径不要求任何人减速，但要求所有人在加速的同时系好安全带。

2. 建立"最低限度协调"机制

完全统一的全球AI治理框架短期内不可能实现。但各国可以在一些关键领域达成"最低限度协调"，例如：军事AI的使用规则、关键基础设施中的AI安全标准、以及AI事故的国际通报机制。这些协调不需要全面覆盖，但可以在最关键的领域建立基本的安全网。

3. 将安全转化为竞争优势

目前，安全被视为创新的"成本"。但如果监管框架设计得当，安全可以成为竞争优势的来源。例如，获得国际安全认证的AI模型可能更容易获得政府合同和企业客户的信任。这将激励企业在安全方面投入更多，而非将其视为负担。

4. 加速AI安全技术研究

如果幻觉是当前AI架构的固有特性，那么解决幻觉问题的根本出路在于技术突破。可解释AI、形式化验证、以及新型架构（如非Transformer模型）都是值得投入的方向。讽刺的是，解决AI安全问题的最佳路径，可能恰恰是加速——加速安全技术的研发。

结语：清醒地面对不确定性

2026年9月的这几条新闻，浓缩了AI时代最核心的矛盾：我们正在以前所未有的速度部署我们尚未完全理解的技术，而在竞争的压力下，放慢脚步的窗口正在迅速关闭。

这不是一个可以通过简单口号解决的问题。"减速"在政治上不可能，"加速"在安全上不可持续，"什么都不做"在道义上不可接受。

我们能做的，是在清醒认识不确定性的前提下，尽可能做出理性的选择：在最关键的领域建立安全网，在最有希望的方向投入安全研究，在最合理的框架内协调国际行动。

AI的未来不是注定的——它取决于我们今天的每一个选择。而做出好选择的前提，是诚实地面对我们面临的困境，而不是用简单的叙事来掩盖它。