天下经济论坛近日发布的《2024年环球风险报告》显示，人工智能对选举结果的影响高居2024年环球风险之首。
这个报告每年1月发布，撰写团队会咨询1000多位来自科学界、家当界和公共组织的风险专家，旨在评估未来2年可能危及天下秩序的短期风险和着眼于未来10年的长期风险。
今年，76个国家和地区将进行选举，利用人工智能技能天生的虚假信息可能会充斥网络，并对选举结果产生影响。
鉴于此，《2024年环球风险报告》在十大短期风险中，将人工智能排在景象变革、经济疲软和战役之前，视其为最大风险。

如何看待人工智能天生虚假信息所带来的风险？我们应如何掌握这种风险？采访了上海交通大学副教授牟怡、上海市科学学研究所研究员李辉。

广泛存在的社交机器人引发关注

：人工智能系统常日是如何制造假***等虚假信息并对公众年夜众不雅观念产生影响的？

牟怡：《2024年环球风险报告》提出的人工智能风险并不是新问题。
近年来，在社交网络平台上广泛存在的社交机器人已引起社会关注。
社交机器人指的是由人设置、可凭借算法程序自主运行的智能社交账号，它们能与社交平台上的其他用户进行信息交互。

运用于政治领域的社交机器人被称为“政治机器人”，它们会通过营造虚假人气、推送大量政治、传播虚假或片面信息滋扰舆论。
环球范围已创造不少政治组织和人物通过社交机器人在社交平台上操纵舆论的证据。
2016年美国大选期间，美国右翼组织在社交平台上借助机器人,在种族、移民、公民身份等社会敏感议题上发布了大量感情化内容。

随着换脸、虚假音***制作等技能的兴起，人工智能天生的虚假信息是全方位的，覆盖笔墨、图像、音***等各种形式。
2018年，由人工智能深度假造合成的加蓬总统阿里·邦戈新年致辞***引发了兵变，可见人工智能在政治领域的风险之高。

如今，人工智能大模型正在快速发展，环球很多大模型已经开源。
人们可以利用这些大模型，自动批量生产和扩散高度繁芜的辞吐信息，更高效地天生以假乱真的合成音***。
这使得公众区分真实和虚假信息的难度越来越大。

智能算法分发***造成“信息茧房”

：除了在政治领域，人工智能在其他领域会通过虚假信息影响"大众年夜众不雅观念吗？

牟怡：当然会。
比如在影视评价类社交平台上，社交机器人“水军”会为一些电影和电视剧刷分，让网民对它们的美誉度产生误判。
又如在电商购物平台上，机器人可以发布大量的虚假好评，匆匆销商品。

据网络安全机构Imperva统计，2022年网络流量中，社交机器人贡献了47.4%的数据。
可见，这类虚拟网民已渗透到各个领域，对人类网民的思想产生不可忽略的影响。

另一个须要当心的问题是：纵然人工智能系统天生的不是虚假信息，但在***资讯领域，很多运用软件会利用大数据和智能算法技能，在内容分发上进行“精准制导”，只供应用户感兴趣的、有代价认同的内容。
长期看，利用采取智能算法的***类运用软件，很多网民就可能进入“信息茧房”，迷恋于令人愉悦的非主流意识形态，在代价不雅观上涌现偏差。

管控应以“发展和安全并重”为原则

：面对越来越大的潜在风险，我们应如何对人工智能加以管控？

李辉：人工智能带来的风险有两类，一类是技能本身不成熟带来的，另一类是技能运用带来的，包括误用、滥用等。
从技能本身来看，普遍采取的应对做法是加速技能更新迭代，同时采纳对齐工程、安全防护栏等技能方案。
就制度层面如何管控人工智能风险问题，环球还没有成熟的方案。

目前，欧盟《人工智能法案》已在欧洲议会通过。
这是环球首部人工智能领域的法案，将采纳分级分类的监管规则，在通用人工智能、根本模型方面，把算力需求达到一定规模的根本模型自动划定为“系统性”和“高风险”，需配套透明度、安全测试评估等多项监管合规哀求。

这个法案经由了漫长的会谈才达成共识协议。
此前，德国、法国和意大利三国发布的人工智能监管联合文件指出，人工智能的实质风险是运用，而不是技能本身。
一些科技发达国家确当局官员则担心，如果管控过于严格，会阻碍人工智能的发展。
国家之间的人工智能科技和家当竞争非常激烈，如果你管控严格，别人管控不严，你就可能在国际竞争中掉队，以是在风险管控方面，存在着国家间的博弈。

在中国，由国家网信办等七部门联合发布的《天生式人工智能做事管理暂行办法》已正式施行。
这是我国首份针对天生式人工智能的规范性监管文件，明确了发展和安全并重、促进创新和依法管理相结合的原则，对天生式人工智能做事实施原谅谨严和分类分级监管。

我的总体意见是，不能因噎废食，由于担心风险而限定人工智能的发展，而是要在不断发展中寻求办理方案。
在操作层面，可以从大略的做起，比如现在网络上到处是人工智能天生的内容，在一些特定场合，有必要规定这些内容的发布者应做“人工智能天生”标注。
还有业界现在通畅的红队安全测试，可戒备大模型滥用或造孽利用带来的安全风险。

来源： 解放日报