一队士兵在城市近间隔战斗中遭到火箭弹打击和压制。
个中一绅士兵通过无线电呼叫，不一会儿，一队配备炸药的小型自主无人机飞过城镇广场，进入建筑物并扫描仇敌，然后根据指令引爆。
这些自尽式无人机逐一探求并杀去世目标。
***中的画外音是代价数十亿美元的以色列武器公司 Elbit Systems 的虚构广告，宣扬这些人工智能无人机能够“最大限度地提高杀伤力和战斗节奏”。

只管 Elbit 等国防公司以精彩的戏剧性办法宣扬其在人工智能 (AI) 领域取得的新进展，但他们正在开拓的技能正越来越多地进入现实天下。

乌克兰军方曾利用装有炸药的人工智能无人机飞入沙场，打击俄罗斯炼油厂。
今年早些时候，美国人工智能系统确定了叙利亚和也门的空袭目标。
与此同时，以色列国防军在加沙战役的头几周内，利用了另一种人工智能瞄准系统，将多达 37,000 名巴勒斯坦人列为疑似武装分子。

专家表示，天下各地不断升级的冲突既是人工智能战役的催化剂，也是试验场，同时也进一步表明了这个新兴领域的不受监管程度。
人工智能在冲突中的扩展表明，只管人工智能技能不可预测且存在道德风险，但各国军队对它有着巨大的兴趣。
其结果是一场耗资数十亿美元的人工智能武备竞赛，吸引了硅谷巨子和天下各国的参与。

外交官和武器制造商们都认为，人工智能战役和自主武器系统已经迎来了 “奥本海默时候”，这是对二战期间罗伯特·奥本海默发明原子弹的致敬。
根据引用这位物理学家的语调，这句话要么是对美国霸权新和平时代的胜利预言，要么是对一种具有恐怖毁坏力的力量的严厉警告。

总的来说，美国军方有800 多个生动的人工智能干系项目，仅在 2024 年预算中就哀求为人工智能供应代价 18 亿美元的资金。
投资和开拓的热潮也加剧了关于冲突未来的长期辩论。
随着创新步伐的加快，自主武器专家警告说，这些系统正在以可能从根本上改变社会与技能和战役的关系的办法扎根于天下各地的军队和政府中。

“随着韶光的推移，我们可能会看到人类将更多的判断权交给机器，”新美国安全智库中央实行副总裁兼研究主任保罗·沙尔 (Paul Scharre) 表示。
“15 或 20 年后我们可能会回顾过去，意识到我们已经跨过了一个非常主要的门槛。
”

虽然近年来人工智能的快速发展带来了大量投资，但战役中武器系统日益自动化的趋势可以追溯到几十年前。
然而，人工智能的进步很少涌如今"大众年夜众谈论中，而是受到一小部分学者、人权事情者和军事计策家的关注。

研究职员表示，变革的一方面是公众年夜众对人工智能的关注度增加，另一方面是该技能取得了真正的打破。
武器是否真正“自主”一贯是辩论的话题。
专家和研究职员表示，自主性最好被理解为一个范围，而不是二元的，但他们普遍认为，机器现在能够在没有人类输入的情形下做出比以往更多的决策。

人们对领悟人类和机器智能的作战工具的需求日益增长，导致大量资金涌入承诺使战役变得更智能、更便宜、更快捷的公司和政府机构。

五角大楼操持在 2025 年前投入 10 亿美元用于“复制操持”，该操持旨在开拓大量无人作战无人机，这些无人机将利用人工智能来探求威胁。
空军希望在未来五年内拨款约 60 亿美元用于无人协同作战飞机的研发，寻求打造一支由 1,000 架能够自主翱翔的人工智能战斗机组成的机队。
近年来，国防部还得到了数亿美元资金，用于帮助其秘密的人工智能操持，即 Maven 项目，该项目专注于自动目标识别和监视等技能。

军方对增强人工智能和自主性的需求给科技和国防公司带来了福音，它们赢得了帮助开拓各种武器项目的巨额条约。
据宣布，Anduril 是一家开拓致命自主攻击无人机、无人战斗机和水下航行器的公司，正在寻求 125 亿美元的估值。
Anduril 的创始人帕尔默·勒基是一位 31 岁的亲特朗普科技亿万财主，他穿着夏威夷衬衫，戴着灵魂补丁。
Anduril今年早些时候得到了一份条约，帮助五角大楼建立无人战机项目。
五角大楼已经向乌克兰运送了数百架公司的无人机，并在上个月批准向******代价 3 亿美元的 Altius-600M-V 攻击无人机。
据勒基称， Anduril 的宣扬材料声称该公司将“拯救西方文明”。

Palantir 是一家由亿万财主 Peter Thiel 创立的科技和监控公司，该公司参与的 AI 项目包括乌克兰扫雷行动和建造美国陆军所谓的“首辆 AI 定义车辆”。
今年 5 月，五角大楼宣告付与 Palantir 一份代价 4.8 亿美元的条约，以开拓其可帮助识别敌对目标的 AI 技能。
军方已经在中东至少两次军事行动中利用了该公司的技能。

Anduril 和 Palantir 分别以《指环王》中的一把传奇之剑和神奇的导火索命名，它们只是国际上人工智能战役淘金热的一小部分。
Helsing 成立于德国，本月凭借其人工智能防御软件筹集了近 5 亿美元，估值达到 54 亿美元。
与此同时，Elbit Systems 在 3 月份的一份财务文件中表露，该公司在 2023 年从以色列国防部得到了约 7.6 亿美元的军火条约。
该公司去年报告的收入约为 60 亿美元。

与过去几年比较，大型科技公司彷佛也更乐意接管国防工业及其对人工智能的利用。
2018 年，谷歌员工抗议该公司参与军方的 Maven 项目，认为其违反了道德和道义任务。
谷歌终极屈从于压力，割断了与该项目的联系。
然而，自那往后，这家科技巨子已与以色列政府和军方达成了一项代价 12 亿美元的协议，以供应云打算做事和人工智能功能。

谷歌的回应也发生了变革。
今年早些时候，在员工抗议以色列军方条约后，谷歌开除了数十名员工。
首席实行官桑达尔·皮查伊开门见山地见告员工，“这是一学买卖”。
2022 年，亚马逊因与以色列军方有牵连而发生类似抗议，但公司政策并未发生改变。

随着资金流入国防科技领域，研究职员警告称，许多此类公司和技能的运营都缺少透明度和任务感。
国防承包商的产品如果意外涌现故障，纵然造成致命后果，常日也不会承担任务。
而美国国家安全机构的机密方向意味着公司和政府没有责任分享这些系统如何运作的细节。

当政府将已经保密的专有人工智能技能置于国家安全的秘密天下时，就会产生弗吉尼亚大学法学教授阿什利·迪克斯所说的“双重黑匣子”。
这种动态使得公众年夜众很难知道这些系统是否在精确或合乎道德地运行。
常日，它们彷佛为缺点留下了很大的余地。
在以色列，《+972杂志》的一项调查宣布称，军方依赖人工智能系统的信息来确定空袭目标，只管他们知道该软件在约 10% 的情形下会出错。

这些系统的专有性子意味着武器监察职员有时乃至依赖剖析在乌克兰等战区被击落的无人机来理解它们的实际运作办法。

“我在商业领域看到过很多人工智能领域被大肆炒作。
‘人工智能’这个词被广泛利用。
但一旦你深入理解，你会创造它可能并不像广告中说的那么繁芜。
”Scharre 说道。

虽然公司和国家军队不愿透露其系统实际运行的细节，但他们确实就道德任务和法规展开了更广泛的辩论。
在谈论人工智能战役的伦理问题时，外交官和武器制造商都持有一个共同的不雅观点，那便是该当始终有一个“人类参与”来做决定，而不是把全部掌握权交给机器。
然而，对付如何履行人类监督，人们险些没有达成一存问见。

“每个人都可以接管这个观点，但同时，每个人都可以不同意它在实践中的含义，”里士满大学法学教授、自主战役专家丽贝卡·克鲁托夫说。
“它在实际辅导技能设计决策方面并没有那么有用。
”克鲁托夫也是美国国防高等研究操持局（DARPA）的第一位访问学者，但她赞许以独立身份发言。

人类生理学和任务感等繁芜问题阻碍了有关人类参与的高层谈论。
研究职员引用的科技行业一个例子是自动驾驶汽车，它常日会让“人类参与个中”，许可儿类在必要时重新掌握汽车。
但如果自动驾驶汽车犯了缺点或影响了人类做出错误的决定，让坐在驾驶座上的人来掌控是否公正？如果自动驾驶汽车在撞车前将掌握权移交给人类，谁该承担任务？

沙雷说：“研究职员曾提出一种‘道德缓冲区’，有时我们会安排人坐在驾驶舱或驾驶员座位上，这样当事情出错时，我们就可以找个人来责怪。
”

今年 4 月尾，在维也纳举行的会议上，来自 143 个国家的国际组织和外交官齐聚一堂，就如何规范人工智能和自主武器在战役中的利用举行了会议。
多年来，任何关于这些技能的全面条约或具有约束力的联合国安理会决议都未能成功，奥地利外交部长亚历山大·沙伦贝格向各国发出的呼吁比彻底禁止自主武器更为温和。

沙伦伯格见告不雅观众：“至少让我们确保，最深刻、影响最深远的决定权，即谁生谁去世，仍旧节制在人类手中，而不是机器手中。
”

不过，当前国际上具备科技创新实力的紧张国家都不赞许该当制订任何有关自主武器的新国际法。
国防公司及其有影响力的所有者也在反对监管。
Anduril 的创始人 Luckey 曾暗昧地承诺在公司的技能中“让人类参与个中”，同时公开反对对自主武器的监管和禁令。
Palantir 的首席实行官 Alex Karp 曾多次援引奥本海默的话，将自主武器和人工智能描述为一场与俄罗斯和中国等地缘政治对手争夺霸权的环球竞赛。

专家表示，缺少监管并非自主武器独占的问题，而是更广泛的问题的一部分，即当技能涌现故障或战斗职员在冲突地区犯错时，国际法律制度无法供应良好的办理方案。
但专家和武备掌握倡导者担心的是，一旦这些技能得到开拓并融入军队，它们就会长期存在，乃至更难监管。

过去一年，人们对自主武器系统和人工智能的关注度不断提高，这也让监管倡导者看到了希望，即支持建立国际条约的政治压力将会增强。
他们还指出，诸如禁止地雷运动等努力证明，各国总是有韶光收回利用战役武器的权力。

“现在还不算太晚。
永久不会太晚，但我不想陷入这样的田地：‘我们还要捐躯多少平民才能采纳行动？’”韦尔汉姆说。
“我们现在非常、非常靠近说出这句话了。
”