深度分析:失落控的人工智能战役激发惊骇?科幻战役离我们远吗?_人工智能_亚伯拉罕
11 月,以色列左翼媒体《+972》杂志和《地方呼声》揭橥了尤瓦尔-亚伯拉罕(Yuval Abraham)的一篇令人不安的调查报告,调查以色列国防军利用人工智能系统识别加沙目标的情形--一位前情报官员将其描述为 "大规模暗杀工厂"。
然而,关于一场战役部分由人工智能指挥的宣布,在有关以色列在加沙的行为的辩论中只激起了一点荡漾。
大概部分缘故原由是,在令人不安的程度上--专家们承认,人工智能的形式已经在世界紧张国家的军队中广泛利用,包括在美国,五角大楼至少自奥巴马政府以来一贯在为军事目的开拓人工智能。据《外交事务》宣布,目前至少有 30 个国家的国防系统具有自主模式。我们中的许多人仍将人工智能战役视为科幻小说中的未来景象,但人工智能已经融入环球军事行动,就像它已经融入我们的日常生活一样。
构成威胁的不仅仅是失落控的人工智能。失落控的系统也会造成侵害。华盛顿邮报称乌克兰战役是 "超级发明实验室",标志着 "利用人工智能的无人机战役革命"。
五角大楼正在制订应对人工智能无人机群的方法,随着五角大楼在红海反击也门胡塞武装的无人机打击,这一威胁已变得不再迢遥。
据美联社宣布,一些剖析人士认为,"无人机在没有人类帮助的情形下识别、选择和攻击目标 "只是韶光问题。埃利奥特-阿克曼(Elliot Ackerman)和前北约盟军司令詹姆斯-斯塔夫里迪斯(James Stavridis)上个月在《华尔街日报》上预测,这种由系统指挥的无人机群 "即将改变军事力量的平衡"。还有人认为,未来已经到来。
与乌克兰一样,在加沙发动的剧烈攻势有时看起来就像一场倒退,在某些方面比起美国人越来越习气的背叛乱和智能战役,它更像一场20世纪的全面战役。截至 12 月,加沙近 70% 的房屋和一半以上的建筑遭到毁坏或摧毁。
据联合国称,如今只有不到三分之一的医院仍在运转,110 万加沙人面临着 "灾害性 "的粮食不屈安。这看起来可能是一场老式的冲突,但以色列国防军的攻势也是对未来军事的不祥暗示--它既是由反恐战役开始后才涌现的技能履行的,也是由这些技能监控的。
上周,+972 和 Local Call 刊发了亚伯拉罕的后续调查,英国《卫报》也以 "机器冷漠地做了这件事 "为题,揭橥了一篇借鉴同一宣布的文章。美国国家安全事务发言人约翰-柯比(John Kirby)已把稳到这篇宣布,以色列议会阿拉伯议员艾达-图玛-斯利曼(Aida Touma-Sliman)和联合国秘书长安东尼奥-古特雷斯(António Guterres)也谈论了这篇宣布。
古特雷斯说他对此 "深感不安",11 月的报告描述了一个名为 "福音"(Habsora)的系统,据亚伯拉罕采访的现任和前任以色列情报官员称,该系统可以识别 "武装分子活动的建筑物和构造"。以色列国防军对这一新调查提出了质疑,该调查记录了另一个被称为 "薰衣草 "的系统,该系统被用来体例一份疑似战斗职员的 "击杀名单"。他写道,薰衣草系统 "在对巴勒斯坦人亘古未有的轰炸中发挥了核心浸染,尤其是在战役初期"。
亚伯拉罕认为,从功能上看,加沙的毁灭--杀害了3万多名巴勒斯坦人,个中大部分是平民,包括1.3万多名儿童--供应了人工智能发动战役的愿景。他写道,"人工智能对军方行动的影响如此之大,以至于他们基本上把人工智能机器的输出'当作人类的决定来对待,"只管算法公认有10%的缺点率。一位人士见告亚伯拉罕,人类常日会对每项建议进行 20 秒钟的审查--"只是为了确保拉"薰衣草"标记的目标是男性",然后再给建议盖上章。
人工智能战役的前景所引发的更抽象的问题令人不安,不仅是机器出错的问题,还有终极任务的问题: 谁该为险些没有或根本没有人类投入或监督的攻击或战役卖力?只管军事人工智能的一个噩梦是它被授予了决策掌握权,但另一个噩梦是它帮助军队提高了决策效率。正如亚伯拉罕所描述的那样,"薰衣草 "并不是在加沙肆虐,而是它自己的缺点行为。相反,它被用来以非常分外的办法权衡可能的军事代价和附带危害--它不像军事判断的黑匣子神谕或道德任务的黑洞,而更像以色列国防军战役目标的显性设计。
亚伯拉罕报告说,以色列国防军在 10 月份曾一度将拉文德确定的低级战斗职员作为攻击目标,但条件是可能造成的附带危害不能超过 15 或 20 名平民去世亡--鉴于低级战斗职员的附带危害被认为是不可接管的,这个数字之大令人震荡。亚伯拉罕报告说,更高等别的指挥官将成为目标,纵然这意味着要杀去世 100 多名平民。亚伯拉罕写道,越来越多的以色列国防军为了避免摧残浪费蹂躏智能炸弹来攻击可疑的低级特工职员的住宅,而选择利用精确度低得多的哑弹。
这并不是科幻小说中阴郁的人工智能邪术。它更像是 "绿野仙踪 "征象: 起初看似超凡脱俗的奇不雅观,末了却创造只是一个人在幕后操纵着开关。
事实上,在对新报告的回应中,以色列国防军表示 "没有利用人工智能系统来识别胆怯分子",并写道 "信息系统只是剖析职员在目标识别过程中的工具"。
据《国土报》宣布,以色列国防军此前曾吹嘘其在针对哈马斯的行动中利用了人工智能,并在加沙设立了广泛的 "屠戮区",任何进入该区域的人都会被假定为胆怯分子并遭到射杀。
在美国有线电视***网上,剖析师巴拉克-拉维德(Barak Ravid)见告安德森-库珀(Anderson Cooper),他曾与一名以色列预备役军官交谈,后者见告他 "地面指挥官的命令基本上是--射杀所有处于战斗年事的人",这一描述与前美国中心情报局局长兼国防部长莱昂-帕内塔(Leon Panetta)上周的辞吐不谋而合,他说:"根据我的履历,以色列人常日是先开火,然后再问问题"。
事态将何去何从?这个问题不仅适用于以色列在加沙的行为,也适用于乌克兰的无人机升级,在乌克兰,无人驾驶的混战已经旁边了战役的进程,俄罗斯在那里广泛支配了电子战工具来滋扰乌克兰的无人机,而且根据《石上战役》的剖析,俄罗斯正在 "试图大步迈向全体杀伤链的自动化"。
新美国安全中央(Center for a New American Security)的保罗-沙雷(Paul Scharre)在今年 2 月揭橥的一篇题为 "即将到来的人工智能战役危险时期"(The Perilous Coming Age of A.I. Warfare)的文章中,勾勒出了近期可能涌现的几种前景,从像高频交易机器人一样独立作战的自主蜂群,到人工智能可能被授权管理现有核武库。
他还提出了一个积极的、可能是乐不雅观的五点操持:各国政府赞许人类对军事人工智能的监督,禁止以人为目标的自主武器,制订防止事件的最佳实践协议,各国限定人类对核武器的掌握权,以及各国采取常规的无人机行为指南。沙雷写道:"如果没有限定,人类就有可能在危险的、机器驱动的战役中狂奔,"采纳行动的窗口正在 "迅速关闭"。
并非所有人都赞许,我们正在靠近军事奇点,过了这个奇点,战役将变得面孔全非,而不是缓慢演进,表面之下发生更多变革。
军事学者安东尼-金在《石上战役》(War on the Rocks)杂志上写道:"军事革命每每没有其倡导者最初推测的那么激进。虽然他认为我们离人类监督的闭幕并不那么近,并称我们 "不太可能 "很快就会创造自己处于一个真正自主战役的天下,但他也认为 "数据和人工智能是当代战役的一个--乃至可能是--关键情报功能"。
事实上,"任何想在未来沙场上取得胜利的军队都须要利用大数据的潜力--必须节制涌入沙场的数字化信息,"他写道。"人类根本没有能力做到这一点。人工智能大概可以做到。
本文系作者个人观点,不代表本站立场,转载请注明出处!