《2024年人工智能政策猜测》_人工智能_全球 智能助手

2024年1月30日,美国计策与国际问题研究中央(CSIS)发布最新报告《2024年人工智能政策预测》,该报告系统梳理了2023年环球人工智能重大发展事宜,根据这些事宜总结了人工智能2023年度发展态势,并据此列出了2024年人工智能的十大关注焦点。
元计策编译该报告主要内容,为回顾与预测人工智能政策供应借鉴。

年度回顾

2023年人工智能重大发展韶光表

向下滑动查看所有内容

年度总结

#1

生存性风险成为人工智能管理

最大关注点

只管在前几年,人工智能导致灾害或人类灭绝的风险一贯是埃隆·马斯克和许多人工智能研究职员关注的焦点,但2023年,这一问题真正成为环球领导人和政府决策者的优先事变。
这一转变是由OpenAI首席实行官萨姆·阿尔特曼、谷歌DeepMind首席实行官德米斯·哈萨比斯、特斯拉和xAI首席实行官埃隆·马斯克以及人工智能“教父”杰弗里·辛顿等私营部门有名人士的呼吁所匆匆成的。
2023年5月,一个由350多名顶尖人工智能专家和高管组成的同盟签署了一份简短声明,称“降落人工智能引发人类灭绝的风险应成为环球优先事变,与大盛行病和核战役等其他社会规模的风险并列”。
在英国人工智能安全峰会上,与会的29个国家赞许《布莱切利宣言》,该宣言指出,“这些人工智能模型的最主要能力有可能造成严重乃至灾害性的侵害,无论是蓄意的还是无意的”。

#2

美国、荷兰和日本折衷出口牵制,

瞄准人工智能和半导体技能发展

2023年1月下旬,有宣布称美国已与荷兰和日本达成协议,两国将履行新的出口牵制,限定特定地区得到芯片制造工具。
直到2023年3月,两国正式宣告将对广泛的半导体设备和技能履行出口牵制,但有关这些新限定方法包括哪些内容的细节却鲜为人知。
日本和荷兰霸占了光刻机和扫描仪环球99%的市场份额,这对最前辈的人工智能芯片至关主要。
因此,这是美国阻挡特定地区在芯片竞争中取得领先地位的主要一步。

#3

人工智能谈天机器人在环球拥有

数十亿用户,规模连续快速增长

OpenAI的ChatGPT在2022年11月推出的第一周,用户数量就超过了100万。
到2023年11月,这一数字已飙升至超过1亿月生动用户。
领先的人工智能开拓公司去年推出了几款新的大型措辞模型(LLM),包括OpenAI更新的ChatGPT-4、Meta的LlaMa 2和谷歌的Gemini。
环球对这一技能的需求匆匆使许多公司开拓以其他措辞演习的谈天机器人,如阿拉伯语模型Jais和中文模型Ernie Bot,只管美国在环球LLM的开拓方面仍处于领先地位。
措辞模型的规模越来越大,无论是在演习数据方面还是在参数方面(例如,据传GPT-4的参数高达一万亿个,而GPT-3只有1,750亿个参数)。

#4

环球紧张经济体采纳

本色性方法监管人工智能

美 国

为了应对人工智能的变革潜力,美国政府开始通过行政法对其进行监管,承认有必要驾驭人工智能风险的繁芜性,并开始制订海内标准。
2023年1月26日,美国商务部国家标准与技能研究院(NIST)发布了《人工智能风险管理框架》(AI RMF 1.0)。
参议院多数党魁脑查克·舒默于2023年6月在CSIS宣告了“SAFE 创新框架”,标志着通过“全面立法”应对人工智能带来的深刻变革的计策努力。
在英国人工智能安全峰会召开之前,拜登政府于2023年10月尾宣告了《关于安全、可靠和值得相信的人工智能的行政命令》。

欧 盟

2023年12月8日,欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议,这是迄今为止天下上关于人工智能的最具本色性的一套法规。
除了用于军事目的、研究和开源模型的人工智能外,《人工智能法》还对欧盟境内发卖、利用或支配的所有人工智能进行监管,但大多数规定仅适用于“高风险”人工智能系统。
该法案推进了一种基于风险的人工智能系统管理方法,将风险等级分为四类:不可接管、高、有限和极低至无。
估量新的人工智能法最早要到2025年才能开始全面履行,这样欧盟委员会就有韶光在布鲁塞尔设立一个监管“人工智能办公室”,企业也有韶光适应新规则。

中 国

中国国家网信办联合国家发展改革委、教诲部、科技部、工业和信息化部、公安部、广电总局公布《天生式人工智能做事管理暂行办法》,自2023年8月15日起施行。
国家互联网信息办公室有关卖力人表示,出台《办法》,旨在促进天生式人工智能康健发展和规范运用,掩护国家安全和社会公共利益,保护公民、法人和其他组织的合法权柄。

#5

加强人工智能管理国际互助

2023年,环球管理人工智能的努力大幅增加。
11月1日至2日,英国主理了首届环球人工智能安全峰会,调集政治和技能领袖谈论根本模型的安全性。
人工智能在2023年的七国集团会议上也霸占了显著位置,包括4月的数字与技能部长会媾和5月的七国集团峰会。
2023年,其他几个国际会议也首次聚拢在一起谈论人工智能问题。
7月,联合国安理会开会谈论人工智能风险,秘书长安东尼奥·古特雷斯在会上呼吁设立一个联合国机构,“支持管理这一非凡技能的集体努力”。

#6

私营部门强调自身在

负任务人工智能管理中的浸染

在私营部门对人工智能管理的影响力日益增强的同时,人们也越来越担心个中存在根本性的利益冲突。
人工智能公司在不断开拓创新产品的同时,还扮演着帮助监管创新产品的双重角色,这让人严重疑惑它们是否真的能将安全置于利润之上。

#7

人工智能干系诉讼数量急剧上升

2023年,新的人工智能工具开始磨练现有的法律框架,涉及数据隐私、版权和专利法等领域。
2023年6月,一起针对OpenAI和微软的集体诉讼成为***,该诉讼声称ChatGPT在演习过程中盗取了数亿互联网用户的数百万敏感数据,包括社交媒体账户、医疗记录和个人账户。
9月,针对这两家公司的第二起诉讼被提起;7月,针对谷歌母公司Alphabet的另一起诉讼也被提起,内容险些相同。
去年,人工智能对版权法的影响也受到了更多关注。

#8

美国国防部采纳方法在武器系统中

安全利用和支配人工智能

2023年1月,美国国防部发布了更新版3000.09,正式规定,在开拓和实战的各个阶段,都必须遵守美国国防部的人工智能道德原则。
美国国防部副部长凯瑟琳·希克斯重申,该指令哀求对自主系统进行严格的测试、审查和高层审查。
在国际方面,美国武备掌握、威慑和稳定局发布了一项首创性的“关于负任务地将人工智能和自主权用于军事用场的政治宣言”,该宣言与国防部3000.09号文件的基本思想完备同等,并力争使其国际化,特殊是在美国盟国之间。

#9

美国大规模加速国防部

对人工智能自主系统的采取

2023年8月28日,美国国防部副部长凯瑟琳·希克斯宣告了“复制者”操持。
“复制者”操持的目标是“在未来18-24个月内,在多个领域支配成千上万的可攻击自主系统”。
美国国防创新部门(DIU)将在“复制者”项目中发挥核心浸染,既要与印度洋·太平洋司令部(INDOPACOM)的终极用户互助,确定作战职员须要哪些能力,又要探索哪些行业互助伙伴能在干系韶光框架内供应这些能力。

#10

企业对人工智能的兴趣激增,

人工智能科技巨子连续

俘获股市和环球目光

人工智能是2023年环球企业的关键词
商业情报公司CB Insights报告称,去年对天生式人工智能的私人投资创下历史新高,从2022年的32亿美元增长到2023年第三季度的174亿美元,增幅近450%。
与2022年比较,人工智能的提及率增长了77%。
到9月,这一数字进一步增长了366%。
安永每季度对环球1,200名首席实行官进行访谈,该调查显示,险些所有首席实行官(99%)都意识到人工智能颠覆当前商业模式的潜力,并正操持通过从其他项目调拨资金(69%)或筹集新资金(23%)对人工智能进行投资。
领先的科技公司在2023年得到了巨大回报。
去年,“七巨子”(指Meta、亚马逊、苹果、微软、谷歌、特斯拉和英伟达)连续主导股市,冲破了在标准普尔500指数市值中所占比例最高的记录,达到29%。

#11

快速的技能进步没有放缓的迹象

2023年对付人工智能来说是首创性的一年,无论是原始模型能力还是在越来越多的科学领域实现重大打破的技能能力。
年底,谷歌在12月发布了新的多模态系统“双子座”(Gemini),这可能预示着人工智能将进入一个新的时期。
导体DGX GH200中推出了天下上首个100 TB GPU内存系统,实现了技能上的里程碑。
人工智能连续为越来越多的科学领域带来变革。
2023年,谷歌DeepMind的人工智能模型在材料科学和气象学领域都取得了重大打破,其GraphCast模型预测了“其余220万种材料的身分和性子”。

2024年

须要关注的十大进展

#1

高等别环球人工智能管理会商

如何有效转化为实际影响?

从英国人工智能安全峰会上签署的《布莱切利宣言》到去年日本担当七国集团主席国期间启动的广岛人工智能进程,环球人工智能管理会商在2023年产生了主要的高层承诺。
2024年,这些承诺将如何转化为可操作的政策和可实行的法规?

#2

第三方红队测试将如何实际运作?

拜登的人工智能行政命令哀求人工智能开拓者通过一种名为“红队测试”的办法来评估他们的前沿模型。
在向"大众年夜众发布模型之前,开拓者必须向政府报告他们的创造。
第三方“红队测试”在实践中将如何运作?政府能否利用这些创造来跟上大措辞模型不断增长的规模和能力?

#3

美国国会能否通过

全面的人工智能立法?

拜登总统的人工智能行政命令是美国向人工智能监管迈出的一步,但其效力取决于国会能否通过立法和预算拨款。
考虑到2024年大选的困难机遇,人工智能监管是否仍将是一个紧张由两党共同参与的问题,以及国会通过立法的速率如何?

#4

今年G7轮值主席国意大利

将如何在广岛人工智能进程

的根本上开展故意义的事情?

2023年,日本主席国将人工智能列入G7议程,并承诺在广岛人工智能进程下折衷人工智能管理事情。
管理框架之间的互操作性是避免环球人工智能格局支离破碎的一项艰巨但必不可少的任务,意大利已表示将在今年开展这项事情。
主席国意大利将采纳哪些方法来推进广岛人工智能进程,并兑现七国集团对统一人工智能监管的承诺?

#5

扩大人工智能规模能否

连续带来新的能力打破?

2023年,大措辞模型的大幅扩展带来了性能的显著提高。
今年的改进是否会连续呈指数级增长,或者开拓职员是否会在不进行根本性架构改进的情形下收益递减?

#6

美国国防部的复制者操持

能否得到所需的资金?

美国国防部的“复制者”操持是美国为加快向作战职员交付人工智能自主系统的速率和规模而做出的一项全面努力。
如果国防部只得到象征性的资金,将会发生什么?

#7

美国和盟国的出口牵制将如何

影响特定地区在人工智能

和半导体领域的进展?

美国及其盟国能否有效实行出口限定,这又会如何影响特定地区2024年的技能发展轨迹?

#8

人工智能将如何影响

今年的重大选举?

2024年是历史上规模最大的选举年,环球一半以上的人口将参加投票。
这将是各政党必须明确其对人工智能态度的第一年,一些选民可能会看到人工智能监管成为选票上的一个问题。
仅在一年前,这两者险些都是不可想象的。
这也将是人工智能可能在竞选、干预和传播虚假信息方面发挥主要浸染的第一个选举周期。
有了人工智能的参与,天下上最繁忙的选举年将会如何发展?

#9

开源人工智能模型能否连续

保持领先性能?

开源与闭源的辩论紧张环绕人工智能开拓是该当优先考虑透明度、协作性和可访问性(开源),还是该当优先考虑专有掌握、安全性、竞争上风和知识产权保护(闭源)。
谁将在这场辩论中胜出,这对人工智能的未来发展、监管和民主化会产生什么影响?

#10

科技巨子会连续主导

人工智能的发展吗?

目前,人工智能领域紧张由谷歌、OpenAI和Meta等少数几家公司主导。
2024年,科技巨子将连续主导人工智能的发展和市场回报,还是我们将看到一个更加多元化的格局,细分行业将涌现赢家?

免责声明:本文转自元计策,原作者Allen Wang。
文章内容系原作者个人不雅观点,本"大众年夜众号编译/转载仅为分享、传达不同不雅观点,如有任何异议,欢迎联系我们!

转自丨元计策

作者丨Allen Wang

研究所简介

国际技能经济研究所(IITE)成立于1985年11月,是从属于***发展研究中央的非营利性研究机构,紧张职能是研究我国经济、科技社会发展中的重大政策性、计策性、前瞻性问题,跟踪和剖析天下科技、经济发展态势,为中心和有关部委供应决策咨询做事。
“环球技能舆图”为国际技能经济研究所官方微信账号,致力于向公众年夜众通报前沿技能资讯和科技创新洞见。

地址:北京市海淀区小南庄20号楼A座

电话:010-82635522

微信:iite_er