对话高朋

朱荣生（清华大学计策与安全研究中央特约专家、元计策智库高等研究员）

刘 伟（北京邮电大学人机交互与认知工程实验室主任）

半月谈：在人工智能发展过程中，您认为最难以把控的变量与最突出的风险是什么？

刘伟：最难以把控的变量包括不愿定性、数据质量、道德和伦理问题。

人工智能系统的繁芜性使得其行为难以预测，常常具有不可阐明性，尤其当系统面临新的、未曾碰着的情形时。
这种不愿定性可能导致系统无法做出可靠的决策或产生意外的结果。

人工智能系统常日须要大量的数据来进行演习和学习，而数据的质量对系统性能至关主要。
如果数据存在偏见、缺点或不完全的情形，那么系统的结果和决策可能也会受到影响。

人工智能系统的决策可能涉及道德和伦理方面的选择，例如自动驾驶车辆在紧急情形下如何选择撞击的工具。
如何确保人工智能系统的决策符合社会代价不雅观成为一个难题。

人工智能面临的安全风险较为突出。
人工智能系统可能受到黑客攻击，导致数据透露、系统瘫痪或被滥用。
尤其是在关键根本举动步伐、金融系统和医疗等关键领域，安全风险显得尤为突出。

因涉嫌陵犯隐私，ChatGPT在意大利下线

朱荣生：从环球管理角度看，历史上的颠覆性科技改造在极大地解放社会生产力的同时，也引发了环球发展失落衡、财富分配不均、管理机制滞后的社会经济问题。
每一轮科技革命带动的环球化每每会把天下经济推向一个深度调度期，不可避免地带来传统家当衰退、大量劳动力失落业、社会动荡加剧的经济负面效应，这对环球经济管理体系改革提出了新哀求。

人工智能等前辈技能加速渗透领悟到人类经济和军事活动的各个领域，放大了掩护国际稳定和非传统安全的寻衅。
智能化战役初现端倪，人工智能赋能的无人作战军事平台在巴以冲突、纳卡冲突、俄乌冲突中被大量运用。
国外政策界对付军用人工智能技能的快速支配、肆意扩散以及不负任务地沙场利用，动摇国际计策稳定性的担忧日甚，个中最为急迫的关怀是战役形态向智能化方向演进将可能强化首攻上风。

从国家间关系的角度看，AI“强者先行”的发展特点也将强化国际竞争压力。
只管每个国家都有掩护自身“人工智能主权”利益的需求，但是大国和小国因实力的不屈衡面临着不同程度的寻衅。
大国具有更强的技能储备和抗风险能力，能够在国际技能互换网络中处于核心地位。
比较之下，小国恐怕会因短缺足够的资源而加倍依赖于大国的技能供给，从而在环球AI生态体系发展中处于边缘位置。
这将进一步提高数字地缘政治竞争的烈度，压缩大国之间本已有限的关系缓和空间。

半月谈：如何在掌握风险的同时，让AI成为对人类、对社会进步普惠而有益的工具？

刘伟：确保AI系统的决策过程是透明的，并能供应阐明，以便人们理解其事情事理，如此一来，可增强人们对AI系统的信赖感，并帮助预防潜在的不良影响。
同时，须要及时制订明确的伦理准则，确保AI系统的设计和利用符合道德原则和社会代价，包括确保AI系统不歧视、不陵犯隐私和个人权利，并遵守干系法律法规。
在源头上确保AI系统所利用的数据具有高质量的特点，并严格保护个人隐私。
数据的来源、利用和存储都应符合干系法规，并通过安全方法保护数据不被滥用或透露。

建立有效的监管机制，确保AI系统的开拓和利用符合政府制订的规定和标准，加强对AI技能和运用的审查和监督，以避免滥用和不良影响。
鼓励"大众参与AI技能的发展和决策过程，并确保各利益干系方的利益得到平衡，这可以通过开展公开磋商、搜聚见地和建立多方互助来实现。
建立监测和评估机制，及时创造和解决AI系统可能涌现的风险和问题，不断改进和优化AI系统的性能和安全性。

朱荣生：从规制人工智能潜在风险的角度出发，各国在掩护利益的同时，应推动AI环球管理互助。
AI领域的干系管理攸关人类命运，是环球管理面临的严厉课题。
国际社会须要重视广大发展中国家在新兴技能浪潮中的薄弱性，技能强国不应一味只顾本国利益而采纳“脱钩断链”手段。
AI是一项军民两用技能，就其民用领域来说，勾引环球AI行业康健发展，实现“人工智能向善”的目标，进而促进AI技能造福于全人类，是天下各国的共同利益。

在更为敏感的军事安全方面，AI的军事化运用加倍引起国际舆论的关注。
据国际媒体宣布，AI技能已在新一轮巴以冲突中被利用，造成平民伤亡。
从建构人工智能环球安全管理规则的角度出发，国际社会恐怕须要核阅美西方提出的“负任务的人工智能”理念是否过于空想，是否该当探索建立某种“有人性的AI”的共同主见，以避免算法定死活酿成的人性主义灾害。
总之，要推动实现“AI为了人类”的目标，恐怕不仅仅须要确保每个国家仅基于本国基本安全和发展利益的“主权人工智能”，更须要具有推动构建基于人类命运共同体的“环球人工智能”的意识与行动。

半月谈：您以为普通人应如何欢迎人工智能时期？

刘伟：随着人工智能的发展，某些事情岗位可能会被自动化取代，以是不断学习和提升自己的技能变得尤为主要，AI在大量重复性、机器化的事情中表现出色，但在涉及创造性思维、情绪互换和问题办理方面仍有限定，因此，主要的是培养自己的互助能力和创造力，发展与人工智能协作的能力。

人工智能的运用须要利用各种科技工具和数据剖析技能，人们可以学习如何利用各种科技工具，以及如何进行数据处理和剖析，从而更好地与人工智能共同事情。
同时，随着人工智能的不断发展，事情环境和需求也会发生变革。
因此，普通人须要保持灵巧性温柔应性，积极适应新的事情办法和技能变革。

虽然人工智能在某些方面表现出色，但在涉及情绪互换、人文关怀和伦理决策等领域仍有不少局限性，因此，我们可以培养一些情绪技能和人文关怀，发展与人工智能进行人性化交互的能力。

朱荣生：大家应该理性看待人工智能技能运用对社会发展产生的影响。
只管科技界和家当界对能够睥睨人类智能水平的人工智能终极走入大众视野存在乐不雅观预期，但是当前的人工智能技能还没有表现出引发社会构造颠覆性变革的效果。
从ChatGPT到Sora，人工智能所发挥的紧张赋能浸染是提高用户的事情效率，而没有达到“大量机器取代人类就业”的变革程度。
与其对不愿定性的未来抱有焦虑感情，不如理性看待AI的发展及其影响。

当然，忽略AI技能失落序发展可能产生的风险是不负任务的。
如果人工智能技能依然延续当前通过不断叠加算力的“暴力打算”办法来提高能力，并且终极实现超越人类的“智能外溢”，那么放肆人工智能技能无限度发展的潜在风险将会加大。

半月谈：宋晨 梁姊

来源： 半月谈