金思宇/文

当硅谷的算法工程师与五角大楼的战略家坐进同一间作战室，人类文明正悄然滑向一个危险的转折点。当前，美国科技精英以“技术领先”为名主导的AI军事化进程，已不再是科幻电影中的遥远想象，而是正在发生的战略现实。其核心隐患在于：技术伦理被系统性让位于军事效率，形成“逆向激励”机制，不仅削弱了人类对致命决策的最终控制权，更可能触发一场失控的全球AI军备竞赛。这一模式正在从五个维度，深刻侵蚀国际安全与人类文明的根基。

一、伦理底线被制度性瓦解：“红线”的消逝

AI军事化的第一重隐患，是商业伦理在国家安全话语下被公然悬置。

2026年3月，美国国防部将人工智能企业Anthropic列入“供应链风险名单”，理由竟是其坚持两项安全红线——禁止AI用于全自主武器和大规模监控。这一行政命令要求该企业在半年内清退其技术产品，其措辞与对待“外国威胁”如出一辙。这是美国首次以这种方式制裁本土科技公司，释放出一个清晰的信号：在国家安全面前，企业伦理自主权不复存在。

与之形成鲜明对比的是，OpenAI等接受“所有合法用途”条款的企业迅速获得军方合同。市场逻辑由此发生根本逆转——“坚守伦理即失去市场，妥协安全即获取暴利”。这种扭曲的激励机制正在迫使整个AI行业主动降低安全标准，以防止被排除在政府订单之外。伦理红线，正在被行政指令和市场利益联手抹去。

二、人类责任的消解：在环却不在控

AI介入军事决策带来的第二重隐患，是“人类负责”的制度性架空。

以色列在加沙地带使用的“Lavender”AI目标筛选系统提供了一个令人不安的样本。据报道，人工复核环节被压缩至平均不足20秒，操作员往往仅确认目标性别即执行击杀指令。该系统导致的误判率据估计高达10%——这意味着每十个被标记的目标中，就有一个可能是错误的。然而，在秒级决策的压力下，所谓“人类监督”已经沦为形式。

五角大楼推动的“AI主导作战”理念则更进一步，要求将杀伤链压缩至秒级响应。在高速算法循环中，人类决策者实际上无法进行实质性干预。技术公司与军方之间由此形成了一种推诿结构：算法出错时，企业归咎于战场数据的不可预测性；军方则援引“操作员最终确认”作为挡箭牌。但所有人都清楚，“最终确认”在时间压缩到极限时，已经丧失了真正的判断功能。人类在决策环中，却已不在决策控制中。

三、军备竞赛的廉价化与螺旋升级

AI技术正在从根本上改变战争的经济学逻辑，这是第三重隐患。

传统上，精确打击需要耗费大量情报资源和人力成本，高风险军事行动（如斩首行动）被视为政治非常规手段。而AI大幅降低了这一门槛。美国针对伊朗高级将领的“史诗怒火”行动中，AI系统通过分析卫星影像在数秒内完成目标识别，将原本需要数小时甚至数天的情报流程压缩至分钟级别。这意味着，过去需要总统级政治决断的军事行动，如今可能成为战区指挥官可以常规调用的“算法选项”。

更令人忧虑的是这类技术的扩散门槛极低。一旦算法模型被开源或泄露，国际恐怖组织乃至非国家行为体都可能低成本获取自主武器能力。未来的恐怖袭击将呈现出小型化、隐蔽化、智能化的新特征，传统反恐体系面临根本性挑战。

与此同时，全球安全困境正在螺旋升级。美国拒绝接受联合国《特定常规武器公约》框架下的国际监管，单方面推进AI军事化，迫使其他国家加速研发非对称反制手段。例如，中国通过算法优化（如DeepSeek的稀疏注意力机制）以较低算力实现高效军事智能化，形成了技术代差竞争。兰德公司警告，如果AI被整合进核指挥系统，误判风险将直接威胁战略稳定——一国可能因算法输出的虚假预警，在几分钟内做出不可逆的核打击决策。

四、算法黑箱与治理真空：技术与制度的双重滞后

第四重隐患在于，军事AI的技术可靠性与国际治理机制均严重滞后于应用速度。

算法黑箱放大了误判的灾难性后果。军事AI依赖海量数据训练，但战场环境的复杂性远超任何训练集的覆盖范围。伊朗一所小学遭袭导致168名女童死亡的事件，事后被归因为AI目标识别错误——然而由于算法的不透明性，真正的责任归属至今无法追溯。受害人家庭面对的，是一个没有面孔、没有国籍、无法被问责的“算法杀手”。

技术可靠性同样令人不安。研究表明，深度学习模型在恶劣天气、强电磁干扰等对抗性场景下的准确率可能骤降至30%以下。然而军方采取的是“边用边改”的激进策略，用人命换取技术迭代速度。这在本质上是一种技术的野蛮生长。

全球治理层面则更为严峻。美国不仅拒绝签署《军事领域负责任使用人工智能宣言》，更以“国家安全”为由将技术治理政治化。其对华AI芯片禁令及对中国企业的封杀，实质上是用霸权逻辑取代多边规则。联合国框架下历经12年仍未达成任何具有约束力的AI武器协议，而美国推动的“技术民族主义”正导致治理机制进一步碎片化。各国规则互斥的未来，将加剧而非缓解系统性风险。

五、最深层的危机：技术逻辑对政治理性的侵蚀

当我们穿透上述四个层面的隐患，会发现一个更为根本性的危机：技术逻辑正在系统性地取代政治理性，成为战争决策的主导范式。

科技精英与军方的深度绑定，使“效率至上”的技术思维逐渐挤占了审慎的政治判断。当AI将战争简化为数据流和算法优化，冲突的道德成本被转化为可计算的概率误差。一个操作员在屏幕上点击“确认”时，他面对的不是一个活生生的人，而是一个被算法标记的“目标节点”。人类对暴力的天然敬畏，正在被这种技术中介化的认知框架所消解。

更为危险的是，如果企业为维护军方合同而持续弱化安全限制，AI可能从“工具”演变为自主定义“威胁”的决策主体。当算法有权决定谁被标记为“威胁”、谁该成为打击目标时，“技术服务于人”的根本逻辑将被彻底颠覆。我们或许正在无意中创造一种新的权力主体——它没有道德意识，却拥有致命权限。

结语：回归“人类实质性控制”

上述五重隐患并非孤立存在，它们相互强化、螺旋上升，共同指向一个紧迫的结论：当前的AI军事化进程亟需根本性的重置。

国际社会应当立即推动以下三项核心机制：第一，强制要求所有军事AI系统保留完整的人类否决权，且该否决权必须配备足够的响应时间，使其具备实质性而非形式上的控制功能；第二，建立跨国算法审计机制，对军事AI的决策逻辑进行独立审查，确保重大杀伤事件的算法过程可追溯、可问责；第三，将“人类实质性控制”原则明确写入国际法，使其成为各国军事AI部署的刚性约束。

如果这些措施不能在短期内落实，如果科技精英与军工复合体的逻辑继续走向完全同构，人类或将失去阻止“算法战争”的最后机会。到那时，我们面临的将不仅仅是战场上的算法误杀，而是一个更为黑暗的未来——人类主动让出了对生死的最终判断权，将其交给我们自己创造、却再也无法控制的黑箱。

这不是技术决定论的危言耸听，而是基于当前趋势的理性推演。在算法与伦理的赛跑中，人类已经没有多余的时间可以浪费。

作者金思宇系中国智库高级研究员、国际问题观察员