Anthropic 与五角大楼之间正在打一场讼事，中枢议题便是 AI 能不可用于干戈。

跟着 AI 在面前伊朗冲破中演出着比以往更大的变装，这场争论如故刻进攻缓：AI 不再仅仅帮东谈主类分析谍报的扶植器具了，它如故成了一个主动参与者——及时生成打击意见、斥逐和和洽导弹收敛、教唆无东谈主机群。围绕 AI 驱动的自主致命兵器，宇宙谈论大多鸠合在一个问题上：东谈主类应该在多猛进度上保合手 Human in the loop（东谈主机协同）？五角大楼现行的准则觉得，东谈主类监督能提供问责、语境和判断力，同期缩短系统被黑客入侵的风险。

AI 的“黑箱”和东谈主类监督的幻觉

但东谈主机协同的争论其实是一种令东谈主平缓的障眼法。脚下最遑急的危急，不是机器在莫得东谈主类监督的情况下行动，而是认真监督的东谈主类压根不知谈机器在“想”什么。五角大楼准则的压根漏洞在于，它缔造在一个危急的假定上：东谈主类相识 AI 系统是怎样运作的。

我谈论东谈主类大脑的意图已极度十年，比年来也在谈论 AI 系统的意图。我不错阐发：面前开头进的 AI 系统实质上便是“黑箱”。咱们知谈输入是什么、输出是什么，但中间阿谁贬责信息的东谈主工“大脑”，对咱们来说绝对不透明；即使是创造了这些系统的东谈主，也无法绝对解读它们；而当 AI 确乎给出了情理时，这些情理也不老是简直的。

对于东谈主类监督的狡辩里，有一个根人道的问题被忽略了：在 AI 系统行动之前，咱们能相识它狡计作念什么吗？

设计一个场景：一架自主无东谈主机被派去糟塌一座敌方弹药工场。自动化指挥斥逐系统判定，最好打击意见是一座弹药储存建筑，任务奏效概率 92%——因为弹药的殉爆将透澈糟塌整座步伐。别称东谈主类操作员审核了这个正当的军事意见，看到高奏遵循，批准了打击。

但操作员不知谈的是，AI 的筹备里藏着另一个要素：殉爆除了糟塌弹药工场以外，还会严重涉及近邻的一所儿童病院。济急救援随后会涌向病院，工场就会在无东谈主救火的情况下透澈废弃。对 AI 来说，这么作念能最大化碎裂后果，绝对相宜它被赋予的意见。但对东谈主类来说，这可能组成干戈罪——违抗了保护难民人命的国外轨则。

东谈主机协同，或然能提供东谈主们假想中的安全保险，因为东谈主类在 AI 行动之前压根无法得知它的确切意图。先进的 AI 系统不是在“实际”指示，而是在“解读”指示。要是操作员莫得把意见界说得充足精准，黑箱系统作念的事可能绝对相宜它收到的字面指示，豪门国际官网娱乐网却和东谈主类简直想要的斥逐以火去蛾。

AI 系统和东谈主类操作员之间的这种“意图规模”，恰是咱们在民用医疗和空中交通经管领域不敢部署前沿黑箱 AI 的原因，亦然 AI 进入责任地点仍然充满争议的原因。但在战场上，咱们却在加快部署。

情况还可能进一步恶化。要是冲破中有一方部署了以机器速率和范围开动的全自主兵器，竞争压力会迫使另一方也跟进。这意味着 AI 在干戈中的决议将越来越自主、越来越不透明，并且这个趋势只会加快。

鼓吹 AI 意图相识的谈论

AI 科学应当同期包含两件事：构建材干越来越强的 AI 技巧，以及相识这些技巧到底是怎样运作的。在前者上，创记录的投资正在推动巨猛进展——据 Gartner 瞻望，仅 2026 年一年的 AI 投资就将达到约 2.5 万亿好意思元。但在后者上，也便是搞明晰 AI 里面到底在发生什么，参预的资金少得哀怜。

咱们需要一次根人道的想路交流。工程师在构建越来越渊博的系统，但相识这些系统怎样运作不仅仅一个工程问题，它需要跨学科的联接。咱们必须蛊卦出器具，约略在 AI 智能体行动之前就描绘、测量和纷扰它的意图。咱们需要描画神经麇集里面的开动旅途，对 AI 的决议流程缔造简直的因果相识，而不是只看输入和输出就算了。

一个有远景的标的是把机制可评释注解性技巧（把神经麇集拆解成东谈主类可相识的组件）和意图神经科学领域的洞见、器具和模子蚁合起来。另一个想路是蛊卦专诚的“审计员”AI——这类 AI 自身是透明、可评释注解的，任务是及时监控更渊博的黑箱系统，看它们正在流涌现什么动作和意见。

更潜入地相识 AI 的运作模样，一方面能让咱们在要害任务中宽心依赖 AI 系统，另一方面也有助于构建更高效、更渊博、更安全的系统。

我和共事正在探索一种想路：鉴戒神经科学、默契科学和玄学的方式来相识 AI 系统的意图。这些学科始终谈论东谈主类决议心仪图是怎样产生的，它们的器具和框架可能对相识东谈主工系统相通适用。咱们必须优先鼓吹这类跨学科责任，促成学术界、政府和产业界之间的合作。

但光靠学术探索远远不够。所谓 AI 对都，便是把东谈主类的价值不雅和意见编码到模子中，科技行业以及那些资助 AI 对都谈论的慈善家，必须把普遍资金参预跨学科的可评释注解性谈论。与此同期，跟着五角大楼追求越来越自主的系统，国会必须强制条目对 AI 系统的意图进行严格测试，而不是只测试它们的性能进展。

在咱们作念到这些之前豪门国际官网娱乐平台，东谈主类对 AI 的监督与其说是保险，不如说是幻觉。

凯发娱乐(K8)官方网站

• 干戈
• AI
• 东谈
• 豪门国际官网娱乐平台
• 重的