WAIC2024

人工智能未来会抢走人类的事情吗？

如何完善人工智能法律管理？

美国和中国的人工管理模式有何同异之处？

7月5日上午，由同济大学和上海市杨浦区公民政府联合举办的2024天下人工智能大会智能社会论坛开启主旨演讲，约请6位国内外不同领域的重磅高朋，包含人工智能、公共管理、法律、网络安全、经济等领域的国内外威信专家揭橥演讲，将人工智能的过去、现在与未来抽丝剥茧、娓娓道来。

金耀初（Yaochu Jin）：AI会不会是“聪明的汉斯”？

欧洲科学院院士、IEEE Fellow、西湖大学人工智能讲席教授金耀初作为首位演讲高朋，以“浅谈人工智能管理”为题，简要先容了人工智能的发展进程，并讲述了人工智能所面临的风险、技能补救方法和政府管理。

他提到了人工智能自1956年起至今的三个“春天”和三个“寒冬”，个中让当下人印象最深刻的便是Chat GPT所带来的第三个“春天”，它的对话流畅程度值得惊奇，也推动AI大模型进入高速发展阶段。

在人工智能所面临的风险方面，金耀初列出了安全性、隐私、公正性、可阐明性、鲁棒性、任务心这六大干系要素，针对每一要素提出了高风险的问题和技能应对方法，引起现场职员的思考。
在讲到人工智能的可阐明性时，金耀初举了一个大略的例子：在20世纪初，有一匹叫汉斯的马震荡众人，它经由一段韶光的演习后，节制了根本的数学运算。
当人们向它呈现算数题时，它会用蹄子精准敲击精确答案。
然而，后来它被创造并不会算数，只是看懂了出题人脸上的表情而已。
“我们的AI，会不会也是聪明的‘汉斯’？大概因果学习能够帮助战胜这方面的不敷。
”

末了，在人工智能确当局管理上，金耀初就“我们到底要规范什么”这一问题，分享了自己的不雅观点。
他认为，政府该当规范人工智能的产品和运用处景，而非技能本身。

吴志强：“人与AI应和谐共生。
”

中国工程院院士、同济大学原副校长吴志强的演讲主题为“社会智能关于HAI主义的破题”。
HAI主义，是指Human AI主义，将“人”这一观点与AI相结合，以期实现人与AI的深度互助，推动人类聪慧与AI技能的共生共创。

在吴志强看来，HAI主义有五大原则：人本互助、透明互信、安全互保、可控互动、伦理互育。
“AI的发展，必须环绕人本身的需求，这是统统的出发点。
”吴志强说，“比如我们曾经在方案一座城市的功能布局时，先对几十万人做了一次大数据调查，排摸他们的幸福感来源于哪里、他们吐槽最多的又是什么，以此来做出决策。
我还记得在厦门，让当地人幸福指数最高的词是沙茶面，那我们方案时绝对不能忘了这碗分外的面。
”

HAI主义在上海，就成了“海”主义。
吴志强说，HAI主义便是人与AI的互动，也正是这样的互动，将推动智能社会不断向前迈进，实现以人为本、AI向善。

加布里埃尔·马志尼（Gabriele Mazzini）：走近欧盟《人工智能法》

欧盟委员会官员、欧盟《人工智能法》起草小组组长加布里埃尔·马志尼以***形式揭橥演讲，全方位讲解了《人工智能法》的制订背景、性子、内容、适用情形等。

今年5月，欧盟理事会正式批准欧盟《人工智能法》，这被认为是环球首部综合性人工智能管理立法。
该法对人工智能系统进行了分类，并根据风险等级制订了相应的监管哀求，设定了普适、全面的人工智能监管方法，包括数据管理、透明度、可阐明性、人类监督等方面。
《人工智能法》通过后，欧盟还宣乐成立人工智能办公室，依法对人工智能发展进行监管。

加布里埃尔·马志尼着重提到了“风险”一词。
他先容道，《人工智能法》遵照“基于风险”的考量，按照人工智能系统对用户和社会的潜在影响程度将其分为4类：不可接管风险类、高风险类、有限风险类、最小风险类。
风险等级越高，管控越严格。
该法尤其强调对高风险人工智能系统的规范和约束。

演讲末了，加布里埃尔·马志尼提醒：“《人工智能法》将来生效后，并非所有规则都于同一韶光生效，而是将根据内容，分阶段开始生效。
”

马特·希恩（Matt Sheehan）：探索中美AI管理新路径

卡内基国际和平研究院研究员马特·希恩以“美中人工智能对话：障碍和前路”为题，从今年5月在瑞士举行的中美人工智能政府间对话首次会议切入，讲述了中美双方在前沿AI管理方面的精彩碰撞与生动成果，并展望了两国政策制订者、科学家、研究职员在人工智能方面的互动发展。

人工智能作为一项革命性技能，正进入爆发式发展阶段。
中美人工智能政府间对话首次会议上，中美双方环绕人工智能科技风险、环球管理和各自关怀的其他问题深入、专业、培植性地交流了见地。
“这是一场很主要的对话，由于在前沿AI的问题上，须要中美双方的共同努力。
”马特·希恩表示，“面对AI所带来的风险，中美之间须要携起手来共同应对，这种互助并非仅限于政府层面，也可以推动开展更多专家学者、科学家、企业之间的有效对话，我想这会成为保障中美AI安全性的主要一环。
”

对付中美未来的AI发展，马特·希恩保持乐不雅观态度。
“中美双方的干系人士都可以积极开展非政府对话，从中相互分享、借鉴、学习，互换有效的AI实践成果，推动AI的不断发展。
”

陆凯（Karman Lucero）：中美双方的“星系碰撞”

耶鲁大学法学院蔡中曾中国研究中央研究员陆凯带来了“中美两国人工智能管理的寻衅”主题演讲。

演讲中，陆凯先容了美国海内的人工智能管理模式和参与国际人工智能管理的现状，并阐述了中国的人工智能管理生态，从制度体系上进行了双方比拟。
他表示，中美双方的人工智能管理体系不同，但在某些方面也有异曲同工之妙。

“中美双方的人工智能，就像两个宇宙星系一样。
星系的碰撞并不一定会毁灭掉彼此，更可能会带来一种共同的变革，使得双方都变得更加光明、通亮。
”陆凯说。

苏竣：人工智能的发展会影响人类就业吗？

清华大学智能社会管理研究院院长、全国人工智能社会实验专家组组长苏竣的演讲题目为“应对智能社会的技能变革：历史履历与现实寻衅”，从人工智能与新质生产力、智能社会管理的几个前沿问题、应对技能变革的历史履历、构建人文智能社会四个方面，先容了智能社会大背景下可能和已经涌现的社会问题，通报了过去的履历做法，并提出了对未来人文智能社会的美好憧憬。

信息茧房带来的群体极化、灵巧就业与劳动替代、大模型“代价不雅观”测评、人工智能与能源问题、网络游戏与赛博文明……人类智能社会催生了无数管理问题。
如在就业方面，苏竣提出，人工智能的高速发展可能在未来造就人类除就业、失落业以外的第三种就业状态：游业。
“人工智能把人类的事情做掉了，社会岗位的体量大规模缩减，这就使得一群人不参加社会生产性务工劳动，或不以劳动作为获取经济回报的路子。
这，便是游业。
人类将会须要在这一情形下，办理‘如何度过无意义的光阴’这一问题。
”

对此，苏竣带来了三种应对技能变革的历史方法。
一是社会精英，尤其是知识分子，出于人文主义精神和强烈的社会任务感，关心关注打破性技能的社会影响；二是政府基于公共利益和公共代价，综合采取多种政策工具，勾引技能创新，有效规制风险；三是"大众年夜众提升科学素养，增强风险意识，积极参与技能变革的管理。

“未来，我们期待为后代构建一个什么样的智能社会？”苏竣说，“一个人文智能社会。
在这里，科学技能高度发达，智能技能广泛运用，技能理性和代价理性综合平衡，人、环境、技能和谐共生……”

来源：上海杨浦