最近，Sam Altman 宣布 OpenAI 已与美国国防部签署合作协议，在机密云网络环境中部署其人工智能模型。该协议纳入了“禁止在美国进行大规模监视”和“确保人类仍然对使用武力负责”等关键原则。虽然这看似企业与政府的合作，但它从根本上标志着人工智能正式融入国家安全系统的核心。
图片来源：https://x.com/sama/status/2027578652477821175
这一发展不仅仅是技术部署——它标志着制度设计、权力动态和未来社会结构的关键时刻。
I.事件：从商业模式到国家基础设施
过去几年，大规模人工智能模型主要用于消费者应用、企业服务和科学研究。它们在机密防御网络中的部署标志着三个重大转变：
- 人工智能现在被视为一种战略资产，而不是一个简单的工具或插件。
- 模型运行环境正在向高度封闭、可控、可审计的系统转变。
- 企业安全原则正在政府合作框架内制度化。
Altman 强调了两个特别重要的核心原则：
- 禁止在美国境内进行大规模监控
- 确保人类对使用武力（包括自主武器系统）承担责任
从表面上看，这反映了科技公司积极主动地设定道德界限。然而，真正的问题是：当人工智能深深嵌入国家安全结构时，这些原则将如何在复杂的场景中解释和执行？
历史表明，一旦技术融入国家战略体系，其发展轨迹往往会发生转变。安全需求、效率需求和竞争压力可以逐渐重塑以前的界限。
II.人工智能发展的转折点：从认知工具到决策参与者
目前，大型人工智能模型本质上充当概率预测系统。随着推理、工具调用和长期任务执行能力的提高，人工智能正在经历根本性的转变：
- 从回答问题→执行目标
- 从信息整合→支持决策
- 从生成文本→与现实世界系统交互
当部署在防御网络中时，人工智能模型可以提供以下功能：
- 总结和交叉验证情报报告
- 预测网络安全态势
- 模拟运营计划
- 优化物流和资源配置
这些功能并不直接“扣动扳机”，但它们确实会影响决策过程。换句话说，即使“人类应对武力的使用负责”，人工智能也可能成为影响决策的关键因素。
这带来了一个关键转变：虽然决策权可能不会转移给人工智能，但支撑决策的逻辑将越来越依赖于人工智能系统。
从长远来看，这种依赖性可能比直接授权产生更深层次的结构性影响。
III.技术保障：真正的控制还是心理安慰？
该协议概述了技术保障措施的构建，其中包括专门在云网络中部署的模型以及引入功能增强设备 (FDE) 以确保合规性。
这些措施的预期目标是：
- 防止人工智能模型的滥用
- 确保可追溯性
- 控制访问权限
- 监控异常行为
挑战在于技术控制的边界经常随着需求的变化而变化。
例如：
- 什么才算是“大规模监控”？
- 战时情况是否需要不同的标准？
- 数据汇总能否产生间接监控效果？
在高度复杂的系统中，风险很少源自单点违规，而是源自功能的累积。当模型可以跨部门整合数据时，即使个别任务是合法的，它们的聚合效应也可能会创造新的权力动态。
因此，“技术保障”并不是最终的解决方案，而是一个持续的谈判。
四．经济结构：人工智能与权力集中化趋势
人工智能训练和部署需要巨大的计算能力和数据资源，赋予大型模型固有的规模优势和资本壁垒。当国家安全成为应用场景时，这种集中化趋势进一步强化：
- 大型企业获得政府合同和政策支持
- 中小企业进入高壁垒领域面临困难
- 计算能力和数据成为战略资产
这意味着人工智能的未来可能会走向核心能力由少数实体控制的格局。
技术的开放性可能与现实世界部署中的集中度不一致。
如果人工智能成为国家基础设施，其运营模式将类似于电力、电信或金融清算系统，而不是开源软件生态系统。
V.制度路径：三种可能的长期演变
根据当前趋势，可以预测三个长期轨迹。
1.工具增强进化
- 人工智能始终是一种工具。
- 机构监督不断完善。
- 人类保留实质性决策权。
在这种情况下，人工智能充当认知放大器，而不是权力的替代品。
2.结构依赖演化
- 人工智能已深深嵌入行政、金融和军事系统中。
- 形式上，“人类负责”，但实际上，模型输出受到严重依赖。决策过程变得越来越不透明。
- 责任链变得更加复杂。
这条路径不会导致突然失去控制，而是逐渐改变权力结构。
3.自主智能突破
如果真正的通用人工智能（AGI）出现，生产力和认知能力可能会发生质的转变。然而，目前没有证据表明这一阶段即将到来。
VI.真正的核心问题：谁来定义边界？
人工智能能力的增强是一种技术趋势，但其方向取决于四个关键变量：
- 谁控制着计算能力
- 谁制定规则
- 风险由谁承担
- 谁获得福利
当科技公司和国防系统深入合作时，技术将成为战略资产而不仅仅是市场商品。
问题不在于协作本身，而是：
- 边界是否透明？
- 监督有效吗？
- 原则可以强制执行吗？
如果制度发展跟不上技术能力的发展，长期风险不是失去控制，而是权力集中。
VII.全球竞争的必然性
人工智能现已成为地缘政治竞争的核心要素。
各国正在加快以下方面的举措：
- 军事情报
- 自动情报收集
- 系统的经济预测
在这种环境下，企业与政府的合作几乎是不可避免的。拒绝合作不会停止全球技术竞赛。
因此，问题不是“是否合作”，而是“如何合作”。如果安全原则制度化、透明且可审计，这种合作可能会形成负责任的模式。如果原则只是宣言，没有独立的监督机制，风险就会随着能力的增加而增加。
八．哲学转变：人类将如何重新定义自己？
随着人工智能逐渐承担认知和分析角色，人类的责任可能会发生变化：
- 从执行者→主管
- 从分析师 → 决策仲裁者
- 从制作人→规则制定者
这代表着权力中心的转变。真正的挑战不是机器是否比人类更聪明，而是人类是否愿意承担最终的责任。如果判断越来越多地外包给模型，那么即使拥有正式的“最终决策权”，实际决策也可能会受到技术的指导。
九。未来十年的主要观察
- 人工智能在军事领域的透明度会提高吗？
- 安全原则是否会被编入可执行的法律？
- 计算能力和数据会变得更加集中吗？
- 国际社会会制定基于共识的规则吗？
这些因素将决定人工智能是否成为公共基础设施或权力整合的工具。
结论：复杂世界中的理性选择
奥特曼说：“世界是复杂、混乱的，有时甚至是危险的。”这一见解揭示了合作的基本原理：在不确定性日益增加的时代，各国寻求技术优势。
真正重要的是：技术实力不会自动转化为制度成熟度。人工智能的未来不是线性的技术进步，而是技术、资本、政府和社会之间的动态相互作用。人工智能可能成为认知基础设施或功率放大器。其最终轨迹将取决于人类如何设计规则、分配责任和保持透明度。
人工智能进入机密网络并不是终点——而只是开始。真正的考验在于随着能力的扩展，边界是否仍然清晰且可执行。