近期，2024年天下人工智能大会在上海圆满落幕，大会揭橥的《人工智能环球管理上海宣言》指出：人工智能正在引领一场科技革命，深刻影响人类生产生活。
随着人工智能技能快速发展，我们也面临前所未有的寻衅。

不可否认，人工智能已经走到了发展和管理的“十字路口”。
我们究竟该如何平衡AI的“智”与“治”？大会期间，天下周刊派动身布组前往上海，与多位国际专家和国际组织卖力人对话，一探究竟。

7月9日，环球最大的私营软件公司之一SAS发布报告称，中国在天生式人工智能运用领域霸占环球领先地位，而美国则在人工智能全面履行方面领先。

在这场席卷环球的AI热潮中，AI技能正与各行各业深度领悟。

联合国数据显示，中国天生式人工智能专利申请量已居环球首位。

而在刚刚闭幕的天下人工智能大会上，据组委会统计，展览规模、参展企业数、亮点展品数、首发新品数均创下了历史最高记录。

总台 张诚：你如何评价人工智能目前的发展水平？

加州大学伯克利分校人类兼容人工智能中央实行主任 马克·尼兹伯格：措辞模型是我们作为通用技能，开拓过的最强大的软件系统。
它们是在有史以来最大的，数字互联根本举动步伐上交付的，它们基本上影响着人类的每一项活动。

各种各样的AI运用让人眼花缭乱。

而本届人工智能大会上的AI热词之一，当属“智能体”。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：我的预测是9个月后，将会涌现一些颠覆性的智能体，可供人类当作商品利用。

什么是智能体呢？

你或许对Siri、小爱同学、天猫精灵等智能助手很熟习，它们可以帮助我们完成设置提醒、查找信息或播放音乐等任务。

而智能体的能力则远远超越这些智能助手，可以处理更加繁芜的任务。

大略来说，智能体利用传感器与代码感知和理解所处的环境，这样一来，它们可网络丰富的数据，再通过算法或模型对数据进行处理，进而完成任务。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：这更像是汽车和公路的关系，当我们把路修睦后，汽车在公路上跑得就更好更舒适。
类似的关系也可能会涌如今，（新的）智能体上。
我们可以打造，让人机交互变得大略的系统。
当我们说，你能帮我预订机票吗？它就会启动个中一个别系，非常大略地完成任务。

业内人士表示，智能体是最被看好的AI运用发展方向之一。

事情职员：你看桌面上有什么？

机器人“青龙”：我看看，桌面上有三个面包两个水果。

事情职员：桌面有点乱，你帮我清理一下。

机器人“青龙”：好的，正在为你整理桌面。

在本届人工智能大会上，人们第一次看到了这款由我国自主研发的环球首款全尺寸通用人形机器人“青龙”。

与“青龙”同时亮相的还有特斯拉的人形机器人“擎天柱”二代。

今年6月，特斯拉CEO马斯克曾大胆预测，擎天柱将推动特斯拉市值达到25万亿美元。

特斯拉CEO 马斯克：它真的将会改变天下，在某种程度上乃至比汽车带来的变革更大。
当然，这些机器人是友好的。
完备为人类做事，帮助人类承担危险、重复和无聊的任务。

据马斯克先容，目前已有两台擎天柱机器人在特斯拉工厂事情。

到明年年底，将有上千个擎天柱机器人在特斯拉“上岗”。
在2025年年底前，“擎天柱”二代将对外发卖，其面向大众市场的终极售价将被掌握在2万美元以内。

已经代替人类在工厂上班的不但有“擎天柱”。

今年7月，日本启用名为“多功能铁路重机”的人形机器人进行铁路设备的维修事情，宝马则宣告Figure机器人已开始在宝马车间“演习”。

国际机器人协会同盟副主席 田少明：多年来，人工智能技能曾经历两个冬天。
如今，当冬天过去，AI技能达到全新水准后，我们利用机器人的办法也会变得多样。
从在工厂里给机器人预先设定好程序，以便其在特定位置实行任务，到预测我们在哪里打仗机器人，和机器人一起事情是绝对安全的。

据《华尔街日报》预测，这些机器人终极将和手机、汽车一样，成为人类生活的必需品。
而除了从事制造业和危险事情，它们还将帮助照顾老人并补充其他干系劳动力缺口。

国际机器人协会同盟副主席 田少明：机器人终极有望成为我们的伙伴，实现我们的信念，增强我们人类的能力。
并潜在地扩展我们能做的事情，（做到以前）不能做的事情。

受益于人工智能技能的飞速进步，机器人的演习实现了“质”的飞跃。
如今，机器人可以像人类一样接管演习。

SANCTUARY AI公司创始人兼CEO 罗斯：我们有一种叫做远程操作的技能，一个人做某个动作200次，我们记录下所有数据，然后用这些数据来演习这些模型。
AI模型与GPT风格的天生式AI模型非常相似，你录入200条轨迹，系统就会学会该任务是如何完成的，然后机器人就会自主实行任务。

投资者非常看好这类人形机器人初创公司，据高盛估量，到2035年，环球人形机器人市场将增长到380亿美元。

“未来人们真的会完备信赖涌如今家里、学校和调理院中的机器人吗？本钱和安全仍是这类机器人眼下所涉及的最大问题。
”——美国全国广播公司。

事实上，这也是AI“热驱动”背后，最值得我们警觉的“冷思考”，同样也是本次人工智能大会的主题之一：“以善治匆匆善智”。

加州大学伯克利分校人类兼容人工智能中央实行主任 马克·尼兹伯格：本日的人工智能系统，很大程度上是在“黑箱”和深度网络根本上的建立的。

就像飞机上的“黑匣子”，“黑箱”描述了AI技能如何在暗处运作的景象：我们供应数据、模型和架构，然后打算机给出答案，同时以一种看似不可能的办法连续学习。
而对付这个过程是如何完成的，人类实在并不理解。

英国皇家学会院士 杰弗里·辛顿：我们所做的是设计学习算法，有点像设计进化事理。
但是当这个学习算法与数据交互时，会产生繁芜的神经网络，这些神经网络很善于做某些事，但我们并不真正理解，它们是如何做这些事情的。

辛顿曾任谷歌公司副总裁，他在神经网络和深度学习方面的首创性研究为当前的人工智能系统开辟了道路。

而如今，他却表示后悔这曾在AI领域里事情。
而他的仇恨更多是源于AI的失落控风险。

加州大学伯克利分校人类兼容人工智能中央实行主任 马克·尼兹伯格：一个天真的想法是，我们可以建造一些东西，而我们所建造的东西会知道，它的所作所为是否对人类有益。

2023年5月30日，包括辛顿在内，超过350名人工智能领域的专家、高管签署联合声明，警告称快速发展的人工智能技能对付人类的威胁可以堪比疫情和核战役。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：有一句古谚语说，事情总是会变得更糟，如果你说一件事更糟糕，那就等着吧，由于还会有比这更糟糕的事。
我认为这种失落控的风险对我们来说很主要，我们该当负责对待，只管听起来有点像科幻小说。

对付AI所带来的现实困扰和威胁，首当其冲的便是“深度假造”。

你能分清下面两段***哪个是真的，哪个是假的吗？

事实上，右边这段***是深度假造***。

这两段***，哪一个是真的摩根·弗里曼呢？

当真假变得如此难辨，我们又该从哪里探求原形呢？

今年6月，微软宣告开拓出一款新的AI语音天生器VALL-E 2，仅需几秒钟的音频样本，就能准确、自然地复现人类说话者的声线。

不过考虑到潜在的滥用风险，微软表示不会将其推向市场。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：合成内容可以是任何东西，从数据到算法到图像到***。
这些内容实际上是基于真实或不真实的数据集，然后由机器通过天生式人工智能开拓而成。

2024年是“超级大选年”，来自环球70多个国家和地区都将进行大选。

在AI技能爆发式发展确当下，今年的选举竞争不仅比过去更加激烈，同时也面临着“深度假造”所带来的巨大威胁。

当地韶光7月10日，马斯克的脑机接口技能迎来新进展。
在一次直播中，马斯克表示，神经连接将迎来第二名人类植入者。

他表示，未来脑机接口设备应做到像苹果手机一样能升级。

然而，这一重大创新之举带给人们欣喜和期待的同时，也暗藏巨大风险和隐患。

“当你接入AI时，你就给神经技能注入了类固醇。
”—联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼。

卖力撰写联合国教科文组织《神经技能伦理问题报告》的紧张作者斯奎西亚里尼曾把接入人体的AI设备，比作“类固醇”。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：人工智能可以以一定的规模和速率，处理大量信息，并供应完备不同的信息，以优化神经技能的功能，这便是类固醇一说的来源。
彷佛溘然之间，你就变得更强大了，能做一些非同平凡的事情。

世卫组织的数据显示，到2050年，环球60岁以上人口估量将达到21亿，而神经技能在降落癫痫、阿尔茨海默病、帕金森病和中风等神经系统障碍导致的去世亡和残障方面拥有巨大潜力。

联合国教科文组织认为，如果没有伦理护栏，这些技能可能会带来严重风险，由于大脑信息可以被访问和操纵，威胁到基本权利和自由，而这些是人类身份、思想自由、隐私、影象等观点的核心。

国际机器人协会同盟副主席 田少明：我们须要的是人类成为编辑者，成为检讨者，来检讨机器所生产的东西。
我们想掌控机器所生产的东西，这样我们就可以确信，我们不会害怕（这项）技能。

2023年7月，联合国教科文组织举办国际会议，探索神经技能在办理神经系统和精神障碍问题上的巨大潜力，并开始动手制订针对神经技能的“通用道德框架”。

估量，首个关于神经技能伦理的环球建议将于2025年底前得到通过。

今年初，我国也发布了首部《脑机接口研究伦理指引》，给脑机接口划定了发展的“红线”和“底线”。

7月10日，北约发布了经修订的人工智能计策，旨在以安全和负任务的办法加速北约内部人工智能技能的利用。

与此同时，《科学美国人》杂志则再次警告称AI若在军事领域滥用会带来风险：“我们不能把武器的掌握权让给人工智能。
”

加州大学伯克利分校人类兼容人工智能中央实行主任 马克·尼兹伯格：当我们拥有完备自主的致命武器时，真正的危险就来了。
由于它可以分开人类的掌握，如果我们做错了什么，她就会把枪口对准我们。
它能摧毁的远比我们预想的要多得多。

比较脑机接口和自主武器，对普通人来说，AI+教诲所带来的影响或许更直接。

7月7日，《经济学家》杂志提出这样一个问题：“人工智能会改变学校吗?”

两个月前，在联合国发起的人工智能造福人类创新工厂评比中，一个与教诲有关的AI初创企业得到了冠军。

Stemuli创始人兼CEO 希德：这太令人愉快了，但更令人愉快的是，我们可以向天下展示，电子游戏和人工智能对教诲可以产生主要影响，并终极可能会影响可持续发展目标的实现。

人工智能造福人类创新工厂项目是联合国发起的初创企业推介平台。

Stemuli是一家教诲初创公司，该公司创建了一个教诲AI元宇宙，为学校、企业等核心教室供应基于3D游戏的学习平台。

该公司创始人兼CEO希德表示，Stemuli是一个天生式游戏平台，通过沉浸式体验和个性化路子，的确改变了传统教室和学校。

人工智能造福人类创新工厂评委 罗登贝瑞：让我们信服的是，Stemuli用人工智能来勉励孩子们，通过游戏平台学习更多东西。
我不仅认为该公司会有美好的未来，我也认为孩子们可以用一种，他们可能没故意识到的教诲办法来利用新技能，这真的会改变天下。

事实上，人工智能已经开始走进学校。

在澳大利亚的这所学校，学生们借助AI工具，查阅资料的韶光大大缩短。

澳大利亚某学校学生 艾琳娜：这为我们节省了大量韶光，尤其是对我们这些12年纪的学生来说，韶光非常宝贵。

对付老师来说，人工智能同样可成为一个提高事情效率的得力助手。

澳大利亚某学校老师：你只须要两分钟（就能完成传授教化操持），而不是之前的二三十分钟或一个小时。

在美国的这所学校，AI导师可以带孩子穿越时空，直接和历史人物对话，将书本上的知识亲口讲给学生听。

在联合国教科文组织社会和人类科学实行主任斯奎西亚里尼看来，这种向善的“深度假造”反而可以成为促进教诲公正的一种工具。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：想想那些生活在偏远地区或国家的孩子，他们无法打仗到某些专业。
而如果你对某个来自其他地方的，非常顶尖的教授做个“深度假造”***，这实际上是用少数群体的语音，传播了一些理念。
否则这样的教诲目的是无法实现的，这是天生式人工智能所展现出的，非常强大的可能性。

在阿联酋，这款政府主导研发的AI导师让请不起身庭西席的孩子有了专属西席。

“AI导师操持”互助企业ASI创始人 帕蒂瓦达：它能确保你在任何韶光任何地方学习，而且是免费供应给全国的学生利用的。

为了能覆盖更多穷苦学生，该系统的部分产品在没有Wi-Fi乃至2G网络下也能正常事情。

阿联酋教诲部长顾问 阿尔吉海姆：这将有助于我们办理，教诲质量、教诲公正及原谅等问题。

AI时期，真正的个性化一对一传授教化将不再只是美好的愿景。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：我和一位唐氏综合征患儿的母亲谈论了环球人工智能管理问题，这是一次非常有趣的谈论。
跟她的发言很有趣，对我很有触动，由于我也是一位母亲。
她说，想想天生式人工智能有多强大，就拿那些患有唐氏综合征的孩子，无法理解的极其繁芜的书来说。
如果让人工智能天生一个简化的版本，使这些孩子以更随意马虎的办法，看到历史上最俏丽的文学作品。
这样他们就能获取知识，能在没那么繁芜的情形下感知书的美。
这当然得在足够大的范围内来做，并要做身分歧措辞的版本。
如果我们将这个任务交给人类来完成，大概我们很快就将陷入缺钱的田地。
这是人工智能的代价之一，即实现教诲的个性化定制。

然而，AI+教诲同样面临巨大寻衅。

去年3月，美国最佳大学排名网的一份民调创造，个中全美43%的大学生利用过ChatGPT或类似AI工具。
个中50%的人则表示他们曾利用过AI工具帮助自己完胜利课或考试。

民调还创造，只有25%的学生表示，自己所在学校详细解释了如何以道德或负任务的办法利用AI工具，更多学校则方向于禁止利用这类工具。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：我老公是工程学教授，他（的确）创造有学生在考试时利用天生式AI工具来编程。
但你实在可以追踪到这些行为，是有办法应对的，以是我们不能因噎废食。

巴布亚新几内亚，被公认为是天下上生物多样性最丰富的国家之一。

联合国粮农组织的技能职员正在帮助当地居民用AI设备监测森林状况。

联合国粮农组织森林监测项目卖力人 福克斯：粮农组织为（各国）供应最新的，关于森林监测的创新产品，使其能够创建自己的数据，以便采纳实际行动。

《环球森林资源评估》报告显示，自1990年以来，环球有4.2亿公顷森林遭到毁坏。
为理解决这个问题，2023年联合国粮农组织参与发起了这项为期5年的森林操持，利用人工智能、机器学习等技能，支持包括巴新在内的20个国家保护森林资源。

国际电信同盟电信标准化局主任 尾上诚藏：通过这些活动，我们可为发展中国家供应（更多机会），以提升其对人工智能发展的参与度。

然而，如何弥合数字鸿沟，推动环球共享AI发展成果，仍旧面临现实寻衅。

2023年末，国际电联发布报告称，目前环球三分之一人口，约26亿人仍处于离线状态，对他们来说，尖端技能依然遥不可及。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：这项技能确实很强大，但也（随意马虎）扩大发达国家和发展中国家间的差距。

一个个事实证明，AI技能可以用来造福人类，也可以用来作歹使坏，环球监管和管理已经迫不及待。

现在这个“妖怪”已经跳出了瓶子，它可能会带来未知的风险和回报。
——《所罗门的密码：AI时期的代价、权力与信赖》。

加州大学伯克利分校人类兼容人工智能中央实行主任尼兹伯格曾在书中这样形容AI与人类的关系。

加州大学伯克利分校人类兼容人工智能中央实行主任 马克·尼兹伯格：为什么我们取名为《所罗门的密码》？由于所罗门王制订了他的律法，他被认为是一个有道德的国王，一个好国王。
而人工智能现在是迫使我们，应对这些哲学及法律问题

尼兹伯格表示，我们不仅要积极研发AI技能，还要抓紧制订与之干系的社会准则。

那么，竟该如何发展“负任务的AI”呢？

国际电信同盟电信标准化局主任 尾上诚藏：现在，人工智能技能的变革非常迅速，如何应对这种快速变革的科技很困难。
其余，人工智能所带来的负面危害，可能比过去（其他技能）更大。

除了迭代快、潜在危害大，AI技能的发展路径也导致其监管难度很大。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：过去的一些变革性技能（大多）起源于政府项目，核技能便是个中很好的一个例子。

核武器出身70多年来，已在环球形成一整套核安全管理机制。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：但就人工智能而言，该技能实际上是从私营部门开始发展起来的，特殊是在天生式人工智能革命的早期，与政府的互动并不多。

不过特拉格也表示，我们并不缺少对民用领域技能管理的履历。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：例如民航领域，我们有国际民航组织。
包括中国、美国在内，绝大多数国家都是该组织成员，它所做的一件事便是制订标准，或者说是帮助（成员国）制订航空标准。
它的工具不是某个航空公司，而是不同的法律统领区。
要确保这些统领区有适当的标准，来管理所统领的航空公司。

特拉格认为，可借鉴国际民航组织的履历，创建国际人工智能组织。
各国应尽快共同制订民用人工智能的最低监管标准，并利用环球峰会启动建立国际监管体系的进程。

英国牛津大学马丁人工智能管理操持联合主任 罗伯特·特拉格：例如，我们须要一套可以评估大措辞模型的科学，我们须要明白如何评估大模型，以确保它们具有（好的）属性。
但从很多方面看，它们都处于非常早期的阶段。
我们须要这些科学，也须要管理框架，使这些标准变为现实。
我认为这两点是让(AI管理)，从准则变为实践的关键所在。

美国前国务卿基辛格曾指出，在人工智能这样的环球性寻衅面前，中美互助显得尤为主要。

事实上，对付同美方开展人工智能互助，中方始终充满善意和诚意。
然而美方对此却抱有疑虑，对中方可能取得技能进步更是充满焦虑。
在这样的心态主导下，只管也开展对话，但更多的是“筑墙设垒”，强推“脱钩断链”。

国际电信同盟电信标准化局主任 尾上诚藏：（AI环球管理的）标准化更多是从纯技能角度进行技能谈论，技能谈论应避免政治滋扰。
而对付AI技能的环球监管，我们（该当）有一个共同的标准，绝对不能创造出两种不同的标准，这是我的武断信念。

当地韶光7月1日，第78届联合国大会协商同等通过中国提出的关于加强人工智能能力培植国际互助的决议，这是联合国通过的首份聚焦人工智能能力培植国际互助的决议，同时也反响了发展中国家的强烈呼声。

国际电信同盟电信标准化局主任 尾上诚藏：中国绝对是人工智能技能前辈的国家之一，理应加入关于人工智能环球管理的谈论，我希望这样的谈论包括中国的理念。

联合国教科文组织社会和人类科学实行主任 马里亚格拉兹·斯奎西亚里尼：实际上该（决议）是被鼓掌通过的，也便是说他们（联合国成员国）不仅赞许该决议，而且非常支持。
中国所说的是，尤其是涉及到环球南方时，就像它现在常常说的那样，我们可能想要更多互助，我们可能想要更多资源。
否则的话，（南方国家）被（北方国家）落下的风险更大。
当然，该方案真的主见不要落下任何一国。

主持人：麻省理工学院物理系教授迈克斯·泰格马克曾在《生命3.0》一书中指出：人工智能的崛起，将使地球进入“生命3.0”时期。

对付未来生命的终极形式，他进行了这样一番大胆想象：生命走过1.0生物阶段和2.0文化阶段后，接下来将进入能自我设计的3.0科技阶段。

如今，面对环球人工智能新热潮，泰格马克再次警告称：天下各地的顶尖思想家和科学家开始意识到超级人工智能可能带来的威胁，面对这一共同威胁，我们要么共同成功，要么会共同走向失落败。

的确，人工智能发展与管理事关全人类共同福祉，中国愿同各方一道凝聚共识、共抓机遇、共克寻衅，共同走向更加美好的智能未来。