美国成立人工智能安然研究所联盟汇集200余家机构_美国_公司
2024年2月8日,美国商务部部长雷蒙多宣乐成立美国人工智能安全研究所同盟(AI Safety Institute Consortium,AISIC)。该同盟从属于美国国家标准与技能研究院(NIST)下设的人工智能安全研究所(USAISI)。
该同盟搜集200多家科技企业、高档院校、金融组织和政府机构等单位,包括谷歌、英伟达、美国银行、麻省理工学院、兰德公司等。旨在为AI丈量和干系政策制订基于科学和履历的辅导方针和标准,以支持安全可信的AI的开拓和支配。元计策深度不雅观察,磋商美政府新成立的AI安全研究所同盟。
01 成立背景
2023年10月30日,美国总统拜登签署了一项关于AI的行政命令——《关于安全、可靠和可信的AI行政命令》,为AI建立安全和隐私保护标准,并哀求开拓职员对AI新模型进行安全测试。该同盟旨在对该行政命令中概述的优先事变做出贡献,包括制订AI系统的红队测试、能力评估、风险管理、安全和安保以及合成内容水印的辅导方针。该同盟成员包括多家处于创建和利用最前辈AI系统和硬件前沿的成员公司和组织、美国最大的公司和初创企业、正在建立对AI如何以及将如何改变社会的基本认识的社会团体和学术团队,以及深入参与当今AI运用的专业代表。该同盟是美国政府迄今为止成立规模最大的AI测试和评估团队,将致力于为AI安全的新丈量科学奠定根本。此外,AISIC还包括美国州和地方政府以及非营利组织,并将与志同道合的国家组织互助,这些组织在开拓可互操作的有效环球安全工具方面发挥着关键浸染。
02 同盟职能 NIST长期以来一贯与私营和公共部门互助,拥有可靠、实用的AI丈量和标准办理方案。在此根本上,NIST将通过AISIC与研究者互助,为这项主要事情供应有力的支持。详细来说,同盟将履行以下职能: 1 知识和数据共享: 为AI利益干系者建立知识和数据共享空间,促进信息互换和互通。 2 跨学科研究与开拓: 通过履行研究操持,促进协作和跨学科互助研究与开拓。 3 理解AI对社会和经济的影响: 优先考虑研究和评估哀求及方法,以便全面、有效地理解AI对美国社会和经济的影响。 4 促进技能和数据互助: 推动同盟成员之间的互助开拓以及技能和数据转让。 5 简化联邦机构AI安全投入: 确定合理的机制,以简化联邦机构权益范围内对AI安全的投入。 6 评估和评价AI系统: 对AI测试系统和原型进行评估和评价,为未来的AI丈量事情供应依据。
为创建一个持续联合研究和开拓的办法,AISIC的事情将是公开和透明的,并为有关各方供应一个枢纽,以共同建立可信和负任务的AI的丈量科学。
03 同盟的5大事情组 2023年11月17日,NIST举办了一场AI安全问题干系的研讨会。通过这次研讨会,NIST初步列出了AISIC的5大事情组,同盟成员可参与个中: 1 第1事情组:天生式AI的风险管理 1. 为天生式AI开拓AI风险管理框架(AI RMF)的配套资源; 2. 制订针对联邦机构的最低风险管理指南; 3. 落实AI区域管理框架。 2 第2事情组:合成内容 确定现有的标准、工具、方法和实践,以及可能制订的有科学依据的进一步标准和技能,以认证内容并跟踪其来源;标记合成内容,如利用水印;检测合成内容;防止AI天生器制作未经赞许的真实个人的图像;测试用于上述目的的软件;以及审核和掩护合成内容。 3 第3事情组:能力评估 1. 创建评估和审核AI能力的指南和基准,重点关注AI可能造成危害的能力,如化学、生物、辐射和核(CBRN)、网络安全、自主复制、物理系统掌握等领域的能力; 2. 开拓并帮忙确保测试环境(如测试平台)的可用性,以支持开拓安全、可靠和值得相信的AI技能。 4 第4事情组:红队测试 制订适当的辅导方针,包括适当的程序和流程,使AI开拓职员,特殊是两用根本模型的开拓职员,能够进行AI红队测试,以便支配安全、可靠和值得相信的系统。 5 第5事情组:安全和安保 折衷和制订与双重用场根本模型的安全和安保管理有关的准则。 在这些活动中,NIST估量将把社会和技能方面的考虑成分纳入全体事情组的活动中,以确保能有效开拓出安全可信的AI系统。
同盟的初期活动包括:举办研讨会,将利益干系者聚拢在一起谈论这些关键议题;创建测试环境、数据集、指南和框架,为AI安全奠定根本;在NIST和同盟成员为实现更安全的AI未来而努力的过程中,不断进行报告和努力,描述所取得的进展和面临的寻衅。此外,AISIC成员将收到人工智能安全研究所团队关于如何参加事情组的解释。
04 同盟成员事情领域
1. 制订新的辅导方针、工具、方法、协议和最佳实践,以促进行业标准的发展,从而以安全、可靠和值得相信的办法开拓或支配AI。
2. 为识别和评估AI能力制订指南和基准,重点关注可能造成危害的能力。
3. 制订方法,将安全开拓实践纳入天生式AI,包括对双重用场根本模型的分外考虑,个中包括与评估和管理模型的安全性、保障性和可信性有关的指南;与保护隐私的机器学习有关的指南;以及确保测试环境可用性的指南。
4. 开拓测试环境并确保其可用性。
5. 为成功的红队测试和保护隐私的机器学习供应辅导、方法、技能和实践。
6. 制订数字内容认证指南和工具.
7. 为AI事情职员的技能制订辅导和标准,包括风险识别和管理、测试、评估、验证和确认(TEVV)以及特定领域的专业知识。
8. 探索社会与技能交叉的繁芜性,包括人类如何在不同情形下理解和利用AI的科学知识。
9. 为理解和管理全体生命周期中AI参与者之间的相互依存关系制订指南。
此外,同盟成员将在以下一个或多个领域贡献技能专长:
1. 数据和数据文档
2. AI计量学
3. AI管理
4. AI安全
5. 值得相信的AI
6. 负任务的AI
7. AI系统设计与开拓
8. 支配AI系统
9. AI红队测试
10. 人与AI的互助与互动
11. 测试、评估、验证和确认方法
12. 社会技能方法
13. AI的公正性
14. AI的可阐明性和可理解性
15. 劳动力技能
16. 生理丈量学
17. 经济剖析
18. 通过NIST的AI风险管理框架,支持和展示实现安全可信的AI系统路径的模型、数据、产品
19. 为同盟项目供应根本举动步伐支持
20. 为同盟研究职员、网络研讨会、讲习班和会议以及在线会议供应举动步伐空间和托管做事
05
结 语
安全、合乎道德、负任务地支配AI,同时识别和降落AI带来的风险,对付打造未来的AI至关主要。通过搜集政府、行业和学术界不同的领军声音,AISIC创造了一个独特的机会,以应对AI安全寻衅,并建立一个强大、有弹性和负任务的AI生态系统,以确保安全地获取AI技能的巨大潜力。AISIC的成立表示了美国政府对付AI技能发展的计策重心,即在推动AI快速发展与运用的同时兼顾AI安全、标准和伦理等全面性。通过整合私营和公共部门的力量,AISIC能够多角度地核阅AI的发展,并为干系政策的制订供应更为全面的参考依据。
同盟成员名单
#1
科技、网络和技能公司:
亚马逊、AMD(美国超威半导体公司)、Anthropic(AI初创公司)、苹果公司、思科系统公司(网络办理方案供应商)、数据机器人(AI公司)、谷歌、惠普、Hugging Face(AI公司)、Inflection AI(AI公司)、英特尔、Meta、微软、英伟达、OpenAI、Palantir(初创科技公司)、高通、Stability AI(临时会员)、Adobe(美国电脑软件公司)、Alteryx(美国打算机软件公司)、AmpSight(美国软件公司)、Anika Systems Incorporated(美国软件公司)、Autodesk(领先的设计软件和数字内容创建公司)、Casepoint(美国软件公司)、Credo AI(软件公司)、CrowdStrike(电脑安全技能公司)、Digimarc(技能公司)、德拉蒙德集团(专门认证AS2软件的组织)、Eightfold AI(软件公司)、Elder Research(数据科学研究公司)、Fortanix(数据安全公司)、道路办理方案(美国软件公司)、GitHub(软件项目托管平台)、Hitachi Vantara Federal(信息做事公司)、Hypergame AI(网络安全公司)、IBM、ObjectSecurity(信息安全公司)、OpenPolicy(政策情报和参与技能平台)、OWASP(AI互换和法律硕士运用程序10强)、赛富时(互联网企业)、赛仕软件(美国跨国软件研发公司)、SandboxAQ(软件公司)、Scale AI(软件公司)、科学运用国际公司(技能公司)、Robust Intelligence(美国软件公司)、SonarSource(软件公司)、TensTorrent(美国电脑硬件生产商)、Trustible(AI管理技能供应商)、Aspect实验室(安全做事公司)、BABL AI(AI系统审计公司)、Workday(软件公司)、Civic Hacker LLC(技能做事公司)、Cohere(AI公司)、Cranium AI(AI安全供应商)、Databricks(软件公司)、Dataiku(AI公司)、Enveil(隐私增强技能公司)、Gladstone AI(AI公司)、是德科技(电子公司)、Kitware(软件公司)、Leela AI(软件公司)、Magnit(软件公司)、SaferAI(AI风险管理公司)、stackArmor(打算机安全做事公司)
#2
金融和咨询公司:
美国银行、美国地区金融公司(美国银行控股)、花旗集团、花旗人工智能、国际相信技能公司、摩根大通、万事达、奥尼尔风险咨询与算法审计公司(ORCAA)、埃森哲(爱尔兰咨询行业跨国企业)、埃森哲人工智能研究院、Ardent(管理咨询公司)、博思艾伦咨询公司、德勤、暗狼办理方案、DLA Piper(状师事务所)、EBG顾问(计策和管理咨询公司)、安永司帐师事务所、毕马威司帐师事务所、普华永道、Subtextive(AI咨询和做事)、先锋领航(投资管理公司)、Visa、富国银行、Wintrust金融公司、Guidepost Solutions(咨询做事公司)、Knexus Research(AI办理方案公司)、Lucid Privacy Group(隐私办理方案公司)(临时成员)、Lumenova AI(AI风险管理公司)、Manatt, Phelps & Phillips(状师事务所)、MarkovML(信息做事公司)、Touchstone Evaluations(评估公司)、Vectice(数据科学文档办理方案公司)
#3
政府机构:
医疗保险与医疗补助做事中央(美国政府机构)、美国加利福尼亚州技能部、美国堪萨斯州信息技能做事办公室、美国堪萨斯州信息技能做事办公室
#4
高校、科研机构、非营利组织和智库:
AFL-CIO技能研究所(临时成员)、艾伦人工智能研究所、美国大学科戈德商学院、美国银行政策研究所、贝勒医学院、国会技能大学、卡内基梅隆大学、人工智能管理中央(牛津大学)、人工智能风险与薄弱性同盟、人工智能医疗同盟、亚特兰大大学中央学术同盟、效益数据相信(美国非营利组织)、BSA | 商业软件同盟(商业软件保护组织)、新美国安全中央、人工智能安全中央、美国安全与新兴技能中央、民主与科技中央、克利夫兰医学中央、康健人工智能同盟(CHAI)(临时成员)、公用抓取基金会、康奈尔大学、网络风险研究所、数据与社会研究所、德雷塞尔大学、杜克大学、杜肯大学卡尔格雷芬斯泰特伦理学中央、电子隐私信息中央(非盈利组织)、埃勒瑟人工智能研究所、埃默里大学、美国科学家同盟、自由软件基金会(非盈利组织)、前沿模式论坛(由微软、OpenAI、谷歌和Anthropic创建的行业组织)、金融做事信息共享与剖析中央(FS-ISAC)、隐私权未来论坛、乔治梅森大学、佐治亚理工学院研究院、EqualAI(非营利组织)、FAIR研究所(非营利组织)、FAR AI(非营利组织)、人因与人体工程学协会、人性智能(非营利组织)、印第安纳大学、信息技能家当委员会、美国防务剖析研究所、进步研究所(智库)、电气和电子工程师学会(IEEE)、国际金融研究所、爱荷华州立大学人工智能转化中央(TrAC)、约翰霍普金斯大学、Linux基金会、民权与技能中央领导力会议教诲基金、麻省理工学院林肯实验室、全美公正住房同盟、美国零售联合会、纽约公共图书馆、纽约大学、俄亥俄州立大学、俄克拉荷马大学社会寻衅数据研究所(DISC)、美国国家科学基金会人工智能景象和沿海海洋学中值得相信的人工智能(AI2ES)、人工智能互助伙伴关系(PAI)、普林斯顿大学、普渡大学管理与负任务人工智能实验室(GRAIL)、兰德公司、Redwood Research Group(AI安全研究所)、负任务的人工智能研究所、美国三角研究所(供应研究和技能做事的非营利组织)、斯克里普斯学院、SecureBio(美国生物安全非营利组织)、美国精算师协会研究所、美国软件与信息家当协会、国际斯坦福研究所(研究机构)、斯坦福以人为本的人工智能研究所、斯坦福基金会模式研究中央、斯坦福监管,评估和管理实验室、StateRAMP(非营利组织)、得克萨斯农工大学、UnidosUS(非营利组织)、UL研究机构(安全科学研究组织)、奥尔巴尼大学、纽约州立大学研究基金会、纽约州立大学布法罗分校人工智能和数据科学研究所、纽约州立大学布法罗分校嵌入式自主和机器人中央、得克萨斯大学圣安东尼奥分校(UTSA)、马里兰大学学院帕克分校、美国圣母大学、匹兹堡大学、南卡罗来纳大学人工智能学院、南加州大学、美国国家银行协会、威奇托州立大学国家航空研究所、威廉马什赖斯大学、锡拉丘兹大学、ForHumanity(非营利组织)、LA Tech4Good(非营利组织)、MLCommons(AI工程同盟)、Queer in AI(AI社区)、TrueLaw(工业法律人工智能研究实验室)
#5
其他:
英国石油公司、AiandYou、阿尔塔纳(德国化学公司)、波士顿科学(美国医疗东西制造商)、阿波罗研究公司、Beck's Superior Hybrids、Backpack(生理康健医疗公司)、美国BSI集团(弗吉尼亚培训中央)、Canva(悉尼在线设计公司)、迪尔公司(美国农机公司)、CivAI、贝克曼库尔特(医学领域中仪器设备、试剂、运用软件开拓和制造商)、EDM理事会、Elicit、Erika Britt Consulting、Exponent、FISTA、Gryphon Scientific(安全和防御计策公司)、西班牙技能和电信互助伙伴(HTTP)、Imbue、凯撒医疗集团、模型评估与威胁研究(METR,前身为ARC Evals)、Modulate、MongoDB(数据库管理系统)、***卫士(反击虚假信息的透明工具)、诺思罗普·格鲁曼公司(美国军工生产厂商)、辉瑞(制药公司)、Preamble、Taraaz、汤森路透传媒集团(临时会员)、Trufo
免责声明:本文转自元计策,原作者Zoie Y. Lee。文章内容系原作者个人不雅观点,本"大众号编译/转载仅为分享、传达不同不雅观点,如有任何异议,欢迎联系我们!
转自丨元计策
作者丨Zoie Y. Lee
研究所简介
国际技能经济研究所(IITE)成立于1985年11月,是从属于***发展研究中央的非营利性研究机构,紧张职能是研究我国经济、科技社会发展中的重大政策性、计策性、前瞻性问题,跟踪和剖析天下科技、经济发展态势,为中心和有关部委供应决策咨询做事。“环球技能舆图”为国际技能经济研究所官方微信账号,致力于向公众年夜众通报前沿技能资讯和科技创新洞见。
地址:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er
本文系作者个人观点,不代表本站立场,转载请注明出处!