摘　要：近年来，人工智能技能的快速发展使其在社会多领域得到广泛运用，但是随之而来的安全风险也在不断增多。
为此，人工智能安全风险管控问题普遍受到各国政府的高度重视。
目前，美国通过加强顶层设计、设置专门机构、加强人才培养和深化国际互助等办法，不断强化人工智能安全风险管控，正逐步构建政府主导多方参与的管理体系，值得我国参考借鉴。

内容目录：

1　美国人工智能安全风险管控背景动因剖析

2　美国人工智能安全风险管控方法剖析

2.1　看重顶层设计，强化人工智能安全风险政策标准制订

2.2　设置专门机构，以“负任务和安全”的办法运用人工智能

2.3　看重数字化人才管理，加强人工智能干系岗位的招聘、培训和留用

2.4　进一步深化国际互助，构筑人工智能国际同盟和国际秩序

3　美国加强人工智能安全风险管控的几点认识

3.1　美国将集全国之力，全面推进人工智能安全管控

3.2　美国看重标准引领，通过规范化流程，应对人工智能国防与军事运用过程中的安全风险

3.3　美国高度重视人工智能环球管理问题，将对环球人工智能安全管控话语权产生重大影响

4　结　语

人工智能技能正在社会多个领域，特殊是国防与军事领域得到快速运用。
美国高度关注人工智能运用带来的系列安全风险，近期密集发布计策文件，多措并举加强人工智能安全风险管控。
本体裁系研究了美国加强人工智能安全风险管控的背景动因、详细管控方法，就美国的做法进行了进一步剖析，希望为我国推进人工智能技能运用供应借鉴参考。

1　美国人工智能安全风险管控背景动因剖析

近年来，人工智能作为一项计策性、颠覆性技能在军事领域展现出巨大的运用潜力，环球紧张国家和组织均加快人工智能赋能国防的培植步伐，以推动人工智能技能快速赋能武器装备系统。
然而，人工智能大规模军事运用仍存在诸多安全隐患：一是人工智能自身存在算法薄弱性、可阐明性差和透明度低等问题。
例如，在武器系统大规模利用人工智能，易导致黑客攻击和数据中毒等。
二是人工智能运用存在法理风险，易引起法律问题。
例如，违背国际人性主义法、缺少问责制和陵犯人权隐私等。
三是人工智能在沙场运用，会造成战役升级、加剧地区冲突、毁坏区域计策稳定等问题。
例如，在俄乌冲突中，乌军利用智能面部识别技能识别俄军阵亡和被俘职员，并挖掘其家庭和社会关系，将照片发给其亲友，造成生理震慑等系列行为，引发较大争议。
针对以上问题，美国正在从加强顶层政策辅导、成立专门机构、加强数字化人才军队培植，以及强化国际互助等方面加强人工智能安全风险管控。

2　美国人工智能安全风险管控方法剖析

作为环球科技的领军者，美国深知人工智能的代价，将其视为未来大国计策竞争的重点领域。
同时为办理上述风险，美国对外号称以“负任务的人工智能”理念为核心，多措并举加强人工智能风险管控。

2.1　看重顶层设计，强化人工智能安全风险政策标准制订

早在 2019 年 2 月，美国时任总统特朗普就签署第 13859 号行政令《美国人工智能倡议》，提升美国在人工智能领域的领导地位，加强人工智能创新，增强国家安全。
拜登政府上台后，更是将人工智能视作技能力量对决的中央，同时更加重视人工智能技能的安全支配运用。

2023 年 10 月，拜登签署第 14110 号行政令《关于安全、可靠和值得相信的人工智能》。
该行政令是拜登签发的首份关于人工智能安全发展的监管规定，旨在确保美国在把握人工智能前景、管理人工智能风险等方面处于天下领先地位，该行政令紧张从 8 个方面采纳行动。
一是加快制订人工智能安全标准。
哀求人工智能系统开拓者与美国政府分享关键信息及安全测试结果；制订标准、开拓工具和测试方法，以确保人工智能安全可靠；制订检测人工智能天生内容的标准，保护美国免受人工智能带来的欺骗；履行网络安全操持，开拓智能化工具，以创造和修复关键软件中的漏洞；由国家安全委员会和白宫折衷制订国家安全备忘录，以辅导人工智能和安全方面的行动。
二是保护隐私。
加强数据隐私保护，为联邦机构制订辅导方针，评估隐私保护技能的有效性。
三是促进公正与美国公民权利。
通过培训、技能声援等手段折衷法律部门等机构调查和起诉与人工智能有关的侵权问题。
四是掩护消费者、患者和学生权柄。
加强人工智能在医疗领域运用的风险评估，支持人工智能技能在教诲领域的广泛运用。
五是支持劳动者。
体例人工智能对劳动力市场潜在影响的报告，加强对因人工智能而面临失落业的劳动者支持。
六是推动创新和竞争。
加速人工智能商业化进程，促进公正、开放和竞争的人工智能生态系统。
七是提升美国外洋领导力。
加强与国际互助伙伴和标准组织互助，推进可持续发展，减轻关键根本举动步伐危险。
八是确保政府负任务和有效利用人工智能。
改进采购流程，建立高效、快速的签约模式 。

为落实上述行政令哀求，美国国防部和国土安全部网络安全与根本举动步伐安全局（Cybersecurity and Infrastructure Security Agency，CISA）先后发布计策文件，推动各自职责范围内领域人工智能安全管控。
2023 年 11 月，美国国防部发布《数据、剖析与人工智能采取计策》，通过强化风险剖析，提高人工智能运用过程中数据管理与数据质量，降落各种突发安全风险，同时加强数据管理，提升前辈剖析能力，推进人工智能在国防领域的支配运用 。
该计策指出，美国国防部将加强数据管理、网络安全、情报和信息共享等方面的管理，加快政策制修订，以不断提高政策适用性与灵巧性。
此外，美国国防部还将着力构建良好的人工智能生态系统，通过与政府部门、学术界和工业界互助，加强数据剖析共享，构建促进竞争与协作的生态系统。

2023 年 11 月，美国国土安全部 CISA 发布《人工智能路线图》，辅导人工智能的安全开拓和运用。
该路线图提出 5 项重点事情。
一是负任务地利用人工智能来支持事情。
利用人工智能加强网络防御，支持关键根本举动步伐保护，在符合法律和政策哀求的根本上，负任务地安全利用人工智能。
二是评估和测试人工智能系统。
帮忙联邦政府、私营部门，以及州、地方政府机构制订安全、有弹性的人工智能开拓和履行指南，包括天生式人工智能红队操持。
三是保护关键根本举动步伐，防止恶意利用人工智能。
美国国土安全部 CISA 将与开拓、测试和评估人工智能工具的机构或组织互助，评估美国关键根本举动步伐面临的人工智能威胁，环绕与人工智能系统干系的威胁、漏洞和缓解方法的事情协同沟通。
四是加强国际互助。
与国际组织和机构就关键的人工智能事情进行协作和沟通，推进环球人工智能安全最佳实践和运用。
五是培植具有人工智能专业知识的人才军队。
连续加强员工培训，使其具备招聘具有专业知识的技能职员和专业人才的能力。

2.2　设置专门机构，以“负任务和安全”的办法运用人工智能

在国家层面，美国国土安全部于 2023 年4 月成立了人工智能事情组，推动人工智能详细运用，制订人工智能技能运用及人脸识别技能指南，审查人工智能的潜在安全风险和可利用之处，如剖析 ChatGPT 等天生式人工智能系统的不利影响及新兴技能的潜在用场，重点包括供应链管理，采取人工智能技能对犯罪行为进行取证等。
2023 年 11 月，CISA 发布初版《人工智能路线图》，旨在保障人工智能的安全开拓和落地履行 。

在国防层面，美国国防部于 2023 年 8 月成立“利马”天生式人工智能事情组，帮助美军改进情报和作战方案，重点是确保国家安全、最大幅度降落风险及负任务地整合人工智能技能。
其紧张职责：评估、同步和利用国防部的天生式人工智能能力；充分利用国防部与情报界和其他政府机构间的互助伙伴关系；在剖析和集成国防部大型措辞模型等天生式人工智能工具方面发挥关键浸染。

2.3　看重数字化人才管理，加强人工智能干系岗位的招聘、培训和留用

美国长期看重人才军队培植，一贯将专业人才培养和人才军队打造作为重点任务。
在政府层面，进一步加强跨学科、跨技能种别人才培养，看重打造人工智能与其他行业的复合型人才。
拜登政府第 14110 号行政令对吸引人工智能人才也作了详细哀求，哀求人事管理办公室与国防数字做事局等机构联合加快大规模招募人工智能专业人才，同时，各机构将为干系领域的员工供应人工智能及安全运用培训，吸引环球人工智能人才来美国，并自上而下折衷联邦和州，加强人工智能领域人才就业。
在国防部层面，加快引进数字化人才干系管理岗位，加强具有领域知识和数字技能的军人、文职职员的培训和实践机会，同时改革当前招聘制度，吸引数字化人才。
2023 年 11 月，美国国防部首席数字和人工智能办公室启动“数字点播”做事，通过与麻省理工学院共享数字图书馆资源，加速国防领域人工智能人才培养，促进美军人员理解人工智能系统和其他新兴技能，以更好地适应未来国防发展趋势，进一步推动新技能在全体国防部门的运用 。

2.4　进一步深化国际互助，构筑人工智能国际同盟和国际秩序

美国一贯通过率先和领导制订人工智能干系政策标准、扩大多双边互助等办法，试图主导人工智能国际规则制订。
在规则制订方面，利用其影响力主导国际规则制订进程，影响和促进各国达成其所想要的共识，基于美国态度规范人工智能发展和安全运用。
2023 年 11 月，美国 CISA 和英国国家网络安全中央联合发布《安全人工智能系统开拓指南》。
该指南为人工智能系统开拓供应了主要建议，并强调遵守设计安全原则的主要性。
指南从安全设计、安全开拓、安全支配及安全运行与掩护 4 个方面提出降落人工智能系统开拓流程整体风险的把稳事变和缓解方法。

在国际互助方面，倡导以构筑同盟为核心的多边体系开展人工智能国际互助。
2023年12 月，“美英澳三边安全伙伴关系”举行部长级会议，联合测试新的人工智能算法系统，以更快、更准确地探测跟踪太平洋水下舰艇，三国将在2024年举行联合海上无人机练习，将人工智能整合到包括海上巡逻机在内的军事系统中 。

3　美国加强人工智能安全风险管控的几点认识

随着人工智能技能的快速发展和在国防领域的广泛运用，如何科学有效地管理人工智能安全风险已成为各国面临的主要问题，美国将集全国之力，致力于营造良好的人工智能发展运用生态系统。

3.1　美国将集全国之力，全面推进人工智能安全管控

美国除从政府层面发布系列行政令、政策文件，从顶层加强人工智能安全管控勾引外，开始看重全社会发力，形成政府主导、多方参与的管理体系，全面推进人工智能安全管理，使人工智能技能能够成为助力美国经济发展和国家安全的硬实力。
2024 年 2 月，白宫表示正在招募工业界、学术界、非营利组织等成立人工 智 能 安 全 研 究 所 联 盟（Artificial Intelligence Safety Institute Consortium，AISIC）。
ChatGPT的制造商 OpenAI、谷歌、微软，以及南卡罗来纳大学人工智能研究所都是 AISIC 成员。
AISIC从属于美国国家标准与技能研究院（National Institute of Standards and Technology，NIST）的人工智能安全研究所，其将致力于人工智能保障方法和安全标准等方面的研究，以期为政府、工业界和学术界互换供应平台。

3.2　美国看重标准引领，通过规范化流程，应对人工智能国防与军事运用过程中的安全风险

早在 2019 年，美国时任总统特朗普就在签署的第 13859 号行政令《美国人工智能倡议》中明确哀求，标准先行，哀求 NIST 制订人工智能领域适当操作标准与规程，使其能够安全、可信、可靠发展。
通过制订标准只管即便减少恶意攻击，同时还要制订国际标准，通过国际标准促进和保护美国的优先事变。
2023 年 1 月，NIST 正式发布《人工智能风险管理框架》，明确人工智能干系风险的梳理构建方法。
通过完善问责机制、成立风险预警团队、完善危急办理机制等强化管理功能；通过明确系统运行所需的环境哀求，明确系统功能目标，评估对组织、社会、个人等的影响，强化影射功能；通过完善风险跟踪识别机制，定期评估反馈等强化丈量功能；通过加强对人工智能安全事宜事件相应、补救、规复机制强化管理功能。

3.3　美国高度重视人工智能环球管理问题，将对环球人工智能安全管控话语权产生重大影响

从美国近期的动作可以看出，其通过缔盟，构筑多边互助，掌控环球人工智能管控话语权意图明显。
美国通过迅速盘踞网络高地，导致他国发展受限，削弱他国国际话语权，排挤同盟国以外的国家，试图最大限度地影响人工智能管控国际规则的制订。
美国希望通过此举掩护西方国家在国际规则制订中的主导权，与此同时连续深化与盟国互助提升其外洋影响力。

4　结　语

面对人工智能技能发展及运用带来的新机遇和新寻衅，美国通过政策引领、机构协同、人才培养和加强国际互助等手段加强人工智能安全风险管控，确保其环球竞争上风。
美国的这些主要举措对我国人工智能安全风险管控具有主要借鉴意义，我国亟须进行全面且体系化、系统化的论证与研究。

引用格式：李霄 , 李艳霄 . 美国多措并举加强人工智能安全风险管控研究 [J]. 信息安全与通信保密 ,2024(4):31-36.

作者简介 >>>

李　霄，男，硕士，高等工程师，紧张研究方向为保密技能；

李艳霄，女，硕士，高等工程师，紧张研究方向为网络安全与保密管理。

选自《信息安全与通信保密》2024年第4期（为便于排版，已省去原文参考文献）