美国国际计策研究中央宣告:《算法稳定:人工智能若何影响未来的威慑力》_人工智能_危机
目前,各国为得到决策上风,正将人工智能技能运用于国家安全领域;只管新技能将改变外交和计策的特点,但不会改变实在质;有关人工智能的信息将影响国家如何管控风险升级。环绕以上研判,美国计策与国际问题研究中央发布最新研究报告《算法稳定:人工智能如何影响未来的威慑力》,元计策提炼该报告核心不雅观点,为剖析人工智能对大国博弈的影响供应参考。
01 引 言 当国家安全领域引入人工智能技能时,这会如何危急决策?打算机算法将如何影响核大国之间的博弈?当一场危急中既夹杂恐怖和情绪又涉及理性决策时,人工智能模型会把人们从失落控的边缘拉回来还是会推向深渊?一旦核大国之间发生危急,人机如何互动?为回答以上问题,美国计策与国际问题研究中央未来实验室在2023年初举行了一系列危急建模活动,剖析人工智能对未来威慑力的影响。这些建模活动以随机对照试验的形式设计,磋商了人类对对手大国人工智能集成水平的不愿定性,以及这一成分在危急期间对计策稳定性的影响。 该研究共得出两大主要创造。首先,在所有建模中,人工智能技能水平的高低对计策没有明显影响,而且在应对危急时,人们普遍方向于考试测验结合多种权力工具。只管在不久的将来数据科学和人工智能赋能国家力量将成为主要趋势,但一些计策要素将连续存在。纵然人们可以用机器来网络和处理更多信息并帮助制订国家安全决策,外交、经济胁迫和影响力活动也将连续存在。人工智能虽然可以增强计策,但不会从根本上改变计策。只管如此,各国仍亟需培训国家安全专业职员,让其理解作甚人工智能以及人工智能如何在外交政策危急中为人类决策供应支持。其次,随着各国针对性地瞄准对手的作战网络,各国在核武器阴影下的作战办法也将发生变革。只管对风险升级的感知不太可能受到人工智能能力平衡的影响,但用于选择灵巧应对方案的标准将发生变革。 02 威慑、作战网络和人工智能 在当代军事方案和行动中,信息通过作战网络进行管理。履行远程精确打击和跟踪对手部队动向都有赖于数据的汇总和剖析。这种逻辑是联军全域联合指挥与掌握网络的根本,该网络旨在通过更快的通信、处理和决策层,在由传感器和射手组成的分布式网络中推拉数据,而这些传感器和射手则通过人工智能和移动通信技能连接起来。在算法的赞助下,一个国家能处理的信息越多,就越有可能识别机会和风险窗口,并调度目的、办法和手段,以得到相对上风。 然而,大多数关于人工智能与未来战役的研究更多关注的是风险和伦理成分,而非会谈上风。首先,多种不雅观点认为,人工智能将带来新的风险,包括“轰隆战”,并可能在多个方面产生毁坏安定的影响。有不雅观点认为,随着大国竞相获取关键技能,新的大国竞争时期将以“奇妙的胆怯平衡”为标志。在官僚机构内部,国防方案职员可能会依赖人工智能建议,从而造成新形式的计策不稳定。在战术层面,自主武器系统的速率可能会导存问外升级。 以上不雅观点存在两个问题。首先,除了文献综述、替代方案和建模之外,有关人工智能毁坏安定的论点尚未得到磋商,这些方案更多是为了得到研究视角,而非评估量谋。其次,有关新兴技能和意外升级的论述每每忽略了增加信息在缓解紧张场合排场方面的浸染。如果在全体作战网络中运用的算法有助于减少不愿定性,那么它们就有可能增强威慑。 03 仿照练习 2023年,美国计策与国际问题研究中央未来实验室进行了两次仿照练习,探索人工智能对计策决策影响的危急情景。这次练习的重点是两个竞争对手之间涉及第三方国家的危急,这两个竞争对手都拥有核武器和二次打击能力。练习中的敌对国家被抽象化,以肃清对当前国际体系中敌对关系的偏见,从而减少稠浊成分影响练习的风险。因此,参与者要选择如何应对危急,以及针对敌对国家的作战网络中的哪些要素。该练习由29名个人参与者组成,每个人都有10年以上的国家安全履历。练习设计改编自起先用于研究当代竞争和网络升级动态的仿照练习。该练习将参与者置于一个虚构的场景中,涉及两个核对手之间的危急对峙:“绿国”和“紫国”争夺一个小国“橙国”。绿国和橙国是条约盟国。紫国和橙国存在海上领土争端。参与者扮演绿国,随着危急的发展,就灵巧威慑(竞争)和灵巧应对方案的最佳组合做出决策。 04 练习创造 1 灵巧的威慑选择 在全体练习过程中,每个参与者都有三个可供选择的选项,即外交、信息、军事或经济。剖析这些选择为我们供应了一扇窗口,让我们理解拥有至少10年国家安全履历的参与者是如何以危急管理的“办法”来实现重修威慑的“目的”。在统计学上,两种处理之间没有显著差异。人工智能能力的平衡并没有改变参与者处理竞争计策和管理危急的办法。在所有处理中,游戏者都制订了一种综合方法,常常选择多种权力工具向对手施压,而不是专注于严格的军事应对。换句话说,对手之间人工智能能力的高低并没有直接改变早期的危急应对,以及旨在稳定场合排场和重修威慑的灵巧威慑选择。虽然人工智能将增强从战术到计策层面的多种剖析流程,但国家安全领导人仍将做出关键决策,并寻求减缓和管理危急的方法。风险可能更多在于危急期间人们如何与算法互动,而不是利用数据科学和机器学习来剖析信息和情报。人工智能本身并不会带来风险。 参与者普遍认为,这场危急是敌对国家的人类领导人通过人工智能赋能的国家安全机构以寻求上风。参与者谈论的重点不是算法如何歪曲信息,而是如何通过外交官向其他人类领导人通报直接沟通和明确信息。在这一逻辑的使令下,参与者将重点放在通过外交外联来发展场合排场,同时增加该地区的情报、监视和侦察能力。只管与会者同等认为外交是应对危急的有效手段,但在外交事情应公开呼吁缓和场合排场,还是私下利用第三方或影响力活动警告本国精英不要让场合排场进一步升级的问题上,他们的见地却不尽相同。同样,人工智能并非重点,而是一种得到更好的态势感知并确定与敌对国家进行危急沟通的最佳机制(即私人、公共或第三方)的方法。危急管理的核心是人,而不是机器。 由于战役乃至军事化危急都是罕见事宜,人工智能算法会根据演习数据和参数,在没有人为干预的情形下将其视为罕见事宜。这并不虞味着“轰隆战”和误读场合排场的可能性为零。相反,问题的关键在于,鉴于国家间战役和军事化危急的数量较少,很少有模式可循,而且险些肯定会有人类参与个中。没有哪个国家的高等安全领导人会在危急中把所有决策权交给算法。 终极,参与者认为支配额外的情报、监视和侦察行动值得冒潜在的危急升级风险,由于这对剖析对手的行动至关主要。国家安全专业职员希望确保在危急期间对算法推理进行检讨,并乐意为此支配行动,乃至放慢行动速率,为外交和发出明确旗子暗记争取韶光和空间。在国际关系中,安全困境是指一国为加强自身安全所做的努力导致敌对国家更加不屈安。新技能使人们难以评估进攻性或防御性军事能力是否能创造计策上风,因此,人们估量人工智能的涌现会引发安全困境和无意中的危急升级,敌对国家在选择灵巧的威慑方案时会选择更严厉的危急应对方案。然而,根据参与者的谈论和统计剖析,危急仿照中并没有涌现这种动态。 2 战斗网络 当人们已知人工智能时,参与者们谈论了如何将决策层作为目标,从而减缓危急,让人类有机会做出反应,并削弱对手以机器速率进行报复的能力。同时,他们谈论了如何以最佳办法攻击决策层,包括引入新形式的灵巧威慑和应对方案,旨在欺骗和迷惑帮助高等领导人剖析危急的人工智能运用程序。当人工智能未知时,参与者选择以效应器(如常规武器)为目标,由于在对手决策能力不愿定的情形下,效应器被认为是回报率最高的目标。在不理解对手国家作战网络中人工智能的情形下,参赛者选择改变部队的干系性,以削弱能够发动报复性打击的军事能力。这一创造启迪我们重新思考军事目标选择的各个方面,由于在这个时期,支持危急决策的人工智能运用程序将越来越繁芜。
05
政策建议
1
拥抱实验和敏捷思维。国家安全界须要停滞对“天网”的担忧,以及其他与技能干系的威胁膨胀,并开始构建运用程序,帮助人们浏览大量信息。这些练习将各作战司令部连接起来,测试它们在危急期间和向冲突过渡期间通过人工智能调节的无缝作战网络开展事情的能力。
2
参与活动剖析。战役中永恒不变的是对信息的争夺,以及指挥官如何在网络情报的同时利用侦察和安全行动来理解态势、预测变革并寻求上风。这种信息争夺战将在人工智能运用程序管理的繁芜作战网络中进行,因此须要新的机动、安全和出其不虞的观点。一个国家如何保护自己的作战网络,同时削弱对手的实力,很可能成为未来战役的真正决定性行动,也是一种全新形式的“先发制人”
3
从开放天空到开放算法,就二十一世纪武备掌握展开更广泛的对话。各国有必要开始思考人工智能时期的武备掌握问题。对付未来的威慑而言,管理武器库存可能不如建立规范、制度和条约来管理针对敌对核国家当代作战网络决策和处理层的军事行动。在危急中,各层级的软件都在寻求提高效率以加快决策速率,高层领导有可能创造自己陷入了升级陷阱。对与预警和情报干系的关键系统的攻击可能会加速这种牵引。各国越早携手绘制风险舆图并建立共同理解的防护网,核对手之间无意或意外升级的可能性就越低。这些努力应包括2轨和3轨仿照练习和对话,为对手国如何处理危急供应信息。
免责声明:本文转自元计策。文章内容系原作者个人不雅观点,本公众年夜众号编译/转载仅为分享、传达不同不雅观点,如有任何异议,欢迎联系我们!
转自丨元计策
研究所简介
国际技能经济研究所(IITE)成立于1985年11月,是从属于***发展研究中央的非营利性研究机构,紧张职能是研究我国经济、科技社会发展中的重大政策性、计策性、前瞻性问题,跟踪和剖析天下科技、经济发展态势,为中心和有关部委供应决策咨询做事。“环球技能舆图”为国际技能经济研究所官方微信账号,致力于向"大众年夜众通报前沿技能资讯和科技创新洞见。
地址:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er
本文系作者个人观点,不代表本站立场,转载请注明出处!