【编者按】2022年末，ChatGPT爆火并引领了环球人工智能运用高速发展。
短短一年韶光，人工智能已经成为数以百万计的人利用的工具。

行业狂飙之际，政府的管理行动紧随而上。
《互联网法律评论》特约专家、同济大学法学院副教授陈吉栋认为，从风险角度展开谈论，须要将人工智能系统研发与运用风险的认知作为出发点，逻辑终点则是风险管理与民事任务的沟通，如此构建以风险为根本的人工智能法律管理体系。
本文在剖析风险分级的根本上，引入“规制空间”理论，提出并论证人工智能监牵制度展开的要点与逻辑。

本文原刊载于《法治研究》2023年第5期，《互联网法律评论》经作者及原载刊物授权转载。

一贯以来，人工智能法律研究在管理法与任务法之间游移，未能精确处理人工智能法律制度展开的逻辑出发点——风险及其管理理论研究与风险分配规范设计。
以风险为根本的管理（risk-basedregulation）是人工智能法研究的出发点。
基于风险的监管要办理的问题是在何种程度上和以何种办法可以监管和减少风险。
如何监管风险，并且进行规范设计，一贯是困扰人工智能立法探索的卡脖子难题。
在上海市、深圳经济特区地方立法作出了干系探索后，2023年4月11日，国家互联网信息办公室发布了《天生式人工智能做事管理办法（搜聚见地稿）》试图对天生式人工智能（GAI）风险分配进行破题。
在这种背景下，重提“风险”彷佛是人工智能的法律研究导入精确逻辑的条件。
从风险角度展开谈论，须要将人工智能系统研发与运用风险的认知作为出发点，将风险如何影响管理作为过程，实质上是从规复过去的危害转向防止危害的发生，逻辑终点则是风险管理与民事任务的沟通，如此构建以风险为根本的人工智能法律管理体系。
限于篇幅，文章在剖析风险分级的根本上，梳理立法进展，引入“规制空间”理论，提出并论证人工智能监牵制度展开的要点与逻辑。

一

GAI 风险的详细种类及其风险寻衅

GAI实质上仍是人工智能系统（AISystem）之一。
对其剖析仍旧须要遵照数据、算法、算力与智能体（agent）的基本逻辑。
如统统人工智能系统一样，GAI（如ChatGPT）输出结果的过程，须要大量的数据作为支撑，通过大量的打算资源来打算的过程，其背后仍旧是一个数学模型。
打算量、数据量与措辞模型的方法上的上风，仅使其可以更快速地皮算出更为准确的概率。
GAI与决策式/剖析式人工智能（Discriminant/AnalyticalAI）不同，在根据既有数据集实行任务之外，还能通过学习数据中的联合概率分布，创造出全新的内容。
然而，无论是在法学还是在伦理学的既有理论中，彷佛短缺了不雅观察天生式人工智能及其风险的理论与方法，因此对其风险开展管理，设计一个涵盖法律与伦理在内的综合框架成为较主流的选择，但这注定将是一项任重道远的事情。

依据已有的不雅观察，GAI风险大致有如下类型。
除了个人信息侵害与隐私透露风险，更为显著的风险是真实性风险、偏见与歧视风险与主体依赖风险等。
其一，真实性风险。
人工智能天生内容的真实性与准确性无从担保。
虚假信息的不当运用进一步导致侵害与任务归属问题。
在此背景下，法律很难区分不同风险的承担。
《天生式人工智能做事管理办法（搜聚见地稿）》第5条规定：利用天生式人工智能产品供应谈天和文本、图像、声音天生等做事的组织和个人，承担该产品天生内容生产者的任务。
但该办法第16条也规定：供应者应该按照《互联网信息做事深度合成管理规定》对天生的图片、***等内容进行标识。
其二，偏见与歧视问题。
天生式人工智能所利用的演习数据来自人类社会，因此它也有可能继续人类社会中的固有歧视成分。
其三，主体依赖风险。
这里的依赖风险包括两个方面：一是对GAI的功能依赖。
二是对GAI产生情绪依赖。
只管用户明确知道ChatGPT这种交互式对话机器人并非真人，仍可能将其作为人类对待并产生依赖，陷入情绪迷失落和混乱，阔别现实天下的人际交往，从而影响个体社会情绪与交往能力的培养。

面对人工智能繁芜难知的风险，监管机构多基于风险的管理理念，制订风险管理的制度框架评估与降落风险。
许多国家的监管机构越来越方向于采取“基于风险”的策略进行管理。
这一管理框架在食品安全、医药、环境管理等领域显示出了丰富的内涵。
面对人工智能的这些风险特色，构建全生命周期分层的监管成为立法的主流选择。
如，在欧盟高风险人工智能系统得到市场批准后，欧盟和成员国层面的当局将卖力市场监督，终端用户确保监控和人工监督，而供应商则应培植一个上市后监控系统，供应商和用户也会报告严重事件和故障。
如此就形成了一个覆盖上游和下贱全生命周期的监管体系。
此外，自然人也能够监督高风险人工智能系统，这被称为人工监督哀求。
针对人工智能更新、流变的创新设计，则形成了进入市场往后的监督。

二

风险分级及其在欧盟人工智能法上的实践

人类社会对付风险的认知以及对付风险监管的认知经由了长期的变革过程。
现阶段，一样平常将风险监管定义为：“以证据为根本的手段，根据一个透明的、系统的和可以辩解的框架，有针对性地利用资源和优先关注最高风险。
”这种对付风险的功利主义理解，被越来越多的政策制订者接管。

欧盟委员会提出了天下上第一个《关于制订人工智能的统一规则（人工智能法）并改动某些欧盟立法文件的提案》（简称《欧盟人工智能法提案》，theAIACT，AIA）。
当地韶光5月11日，欧洲议会揭橥声明，议会内部市场委员会和公民自由委员会通过了AIA的会谈授权草案。
试图在促进家当发展的同时，减轻或防止人工智能技能利用的风险，推动人工智能可信，完善人工智能生态，并使欧洲在环球人工智能监管中发挥领导浸染，为此提出了基于风险的分级监管方案。
AIA结合“风险金字塔”的风险理论方法与分层实行机制，设计了基于风险的分级监管框架。
依据风险金字塔的理论，没有无风险的人工智能系统，大多数人工智能系统构成的风险有限，应支持其运用帮助办理社会问题，但必需办理这些风险以避免不良后果。
在这一考量下，对风险进行分类分级成为可预的选择。
针对不同层级的风险，设计不同的规则。
AIA将人工智能系统干系的风险区分为不可接管的风险、高风险、有限风险和较低或者最低限度的风险四级，法律应对策略分别为“禁止”、“事前合格性评定和认证标志”、信息表露和无责任。
风险可以忽略不计的AI系统应设计较轻的法律制度，而风险不可接管的人工智能系统将被法律禁止。
在这两个极度之间，随着风险的增加，规则设计愈发严格。
从附有行为准则的非约束性自我监管、软法影响评估，到全体运用程序生命周期皆需经由外部审计的严格合规性哀求。
在这一制度设计下，如果供应者供应人工智能系统，紧张问题是根据AIA中确定的风险水平，确定其应采纳的行动（责任）。

不可接管的风险表示最高风险种别，这些系统被彻底禁止。
包括：（1）实时生物识别系统；（2）社交评分算法；（3）操纵系统利用特定个人的弱点。

AIA并未对高风险进行界定，而是采纳了由官方直接列举的风险种类，为此体例了一个动态调度的高风险人工智能目录。
如果一种风险不属于禁止性风险，又符合如下特色，便是高风险。
高风险人工智能系统构成人工智能系统的大多数，是AIA全体制度设计的核心。
按照AIA的规定，在高风险人工智能系统进入市场之前，该当完成四个步骤。
（1）进行内部事古人工智能影响评估和遵守由原谅性多学科团队监督的行为准则。
（2）经由合规评估，并在其生命周期内持续符合欧盟人工智能法案中规定的人工智能哀求。
对付某些系统，外部认证机构将参与合格评定审核。
这一动态过程确保了基准测试、监控和验证。
此外，在改变高风险人工智能系统的情形下，必须重复步骤（2）。
（3）在专门为高风险人工智能系统所培植的欧盟数据库完成注册。
（4）必须签署符合性声明，高风险人工智能系统必须带有CE标志。

AIA中的第52条哀求供应者向用户表明他们正在与人工智能系统交互和/或正在被供应人工天生的内容。
以此许可用户作出明智的选择，是否与人工智能系统及其可能天生的内容进行交互。
透明责随意率性在保护人们知道是否以及何时与机器的算法而不是人类进行交互的权利。
直接与人类互动的人工智能系统（谈天机器人、情绪识别、生物特色分类和内容天生系统）的供应商，须要遵守一定的透明度责任，唯一免除这些透明度责任的是最小风险人工智能系统。

低风险人工智能系统包括既不该用个人数据也不做出可能直接或间接影响任何个人的预测系统。
此外，在独立人工智能系统之外，还须要关注嵌入式人工智能系统，所谓嵌入，即指这些人工智能的部分仅是其他欧盟法规涵盖的产品或做事的组件，如玩具或医疗设备。
虽然这些系统不属于AIA，但是它们仍旧必须符合AIA在折衷指令下规定的哀求。
对付未被禁止的人工智能系统，当其风险较低且不在现有部门法规的涵盖范围内，将适用“高风险人工智能系统”的规则。
这些系统必须经由符合性评估。
不过，合格评定可以不同办法进行。
例如，一些人工智能系统是消费产品的一部分，这些产品在投放市场之前已经经由了测试和认证（如医疗设备）。
对付这些嵌入式人工智能系统，不须要额外的合格评定程序。
取而代之的是，AIA中规定的哀求将被纳入现有特定部门的安全立法。

三

风险分级的来源与风险管理理论的提出

（一）“巨石疑案”与分级管理的条件

JervanderHeijden以“巨石”设问演示了风险问题的繁芜性。
一块可能从峭壁上掉下来的巨石是否总是构成风险，还是只有当它可能危害或毁坏对人类有代价的东西时才构成风险?为了估计风险，仅仅知道巨石坠落的客不雅观概率就够了，还是须要其他形式的知识（例如，巨石坠落的政治和社会后果）?谁的知识将被用于这种估计——专业的巨石专家的知识，直接管巨石坠落影响的人类的知识，其他人的知识，或所有这些人的知识的组合?

这些设问涉及风险的本体论、认识论与评估，对付这些问题的解答揭示了风险认知的建构主义与实在主义的强烈抵牾。
解析“巨石疑案”，有助于我们理解风险理论的基本特色。
对风险的本体问题，建构论虽然认为巨石坠落的危险是真实的，但存在于人类的感知中；实在论则认为风险是天下的一种状态，无论特定的风险是否被人类体验到，风险都是真实的。
在风险的认识问题上，建构论认为风险及其后果只能被主不雅观地认识，对风险的认识是一个社会过程；实在论则认为风险发生的概率以及其后果可以被客不雅观地理解、描述，因此可以被管理和监管。
在风险的评估上，还原主义认为风险估计只应依赖由专家和专业职员网络的定量的技能知识以及经济效益-整天职析；系统性方法则认为除了这些硬数据和知识，还有其他形式的数据和知识（非专业人士或政策制订者对风险或对风险发生时的非经济影响的意见）。
虽然争议很大，但在风险理论的研究中，研究者也多兼采两者。
如贝克即认为，只要这些理论有助于理解我们所处的风险社会中繁芜又抵牾的风险实质性，便可以同时利用实在论和建构论。

与理论的激烈辩论不同，在风险管理制度设计与实践上每每是“仅得乎中”的结果。
因此，虽然人类对付风险的认识历阅历久演化，但逐渐被认可的不雅观点是，所谓“风险”意味着按照某种概率发生的不利后果或者危害，因而是可以预测和打算的，属于人们进行选择和决定之际存在的问题。
在这个意义上，风险虽与“不愿定性”（uncertainty）干系，但风险又并非完备的不愿定性。
由于不愿定性是反响出物及其发展过程充满变数、难以把握的特性。
不愿定性无处不在，但在一定期间内，有理论认为有些概率是可预测的，由此区分为可预测的不愿定性和完备的不愿定性。
当然，这些认识还可能随着韶光的推移而改变，对付风险的新理解已经将公共管理的工具从物质和事变转移到了人类行为，管理的模式也从规复危害和预防危害转移到了将公认的行为规范强加给人们并使其内化。
就人工智能风险而言，紧张是指与人工智能风险干系的技能未来状态的不稳定与无法确定。
因此，对人工智能风险管理的谈论不止于技能本身，还包括“利用这些工具的人”。
因此，人工智能风险属于技能风险,与自然风险又有不同，由于自然发生的风险是不可避免的。
技能风险是一种客不雅观结果与主不雅观认知的结合,是事实判断与代价判断的综合体。

然而，面对繁芜问题和监管实践的动态性，基于风险的管理须要对受监管工具的行为、制度环境、监管掌握的相互浸染、监管绩效和变革等五个要素做出反应性的监管。
此外，监管机构在不同的监管任务中面临的寻衅也各不相同，包括检测、相应开拓、司法、评估和修正等方面。
因此，对基于风险的监管进行修订和更细致入微的理解变得至关主要。
在立法和规则制订的过程中，定义清楚监管工具是一件非常主要的事情，以纳米材料为例，DavidA.Dana谈论了面向风险的适应性监管的内容。
JervanderHeijden回顾了风险管理以及基于风险监管的实例，为将面向风险的监管方法引入到人工智能安全风险评估与管控领域供应了启示。
总的来说，定量评价人工智能产品与做事的安全风险评估指标，须要综合考虑多个方面的成分，包括AI的性能、效率、公正性、透明性、可阐明性等，并须要在实践中不断探索和完善。
同时，也须要建立一套统一的评估标准和方法，以便在环球范围内进行比较和互换。
对此文章不再予以展开。

在人工智能风险管理上，进行必要的风险分级是管理制度设计的基点。
技能研发及其产品生产与运用的潜在失落败可能给更广泛的社会主体包括企业和家庭带来本钱，因此随着人工智能繁芜性、规模和互联性的增长，监管机构通过更严格的法规将面临更高的监管本钱。
随着企业系统主要性的增加，其失落败的社会本钱也在增加。
因此，科学的人工智能管理框架设计的主要原则是，该框架必须通过一个持续的过程来发展，吸纳可能涌现的新风险。
“分级”是一种“定性”剖析方法，除上文提到的AIA,还被《通用数据保护条例》（GDPR）所接管。
不过，分级也须要确定风险指标进行评分乃至加权。

前文对付“巨石疑案”的解析已经显示，风险仅可在风险发生时才可被评估，且风险的评估受评估主体主不雅观认知的影响，如上风险理论所提出的疑问是，在立法上对付风险进行预先的分级是否是科学可行的？不过，这种疑虑在对付实践做法的不雅观察中彷佛又有所缓解，缘故原由是实践中对付风险的评估几无例外地采纳了分级的做法。
理论上的阐明是，对付风险进行标准化的立法是必要的，缘故原由是鉴于人工智能系统巨大风险，迫使立法者基于功利的思想或者“本钱-效益”剖析，必须对其进行事前的监管。
而且，对付风险的事前分级并未打消详细个案风险评估中对付详细成分的考量。
如果将风险的分级作为管理的根本，这种灵巧性还表示在分级的详细模式上，比如培植动态调度的高风险人工智能系统的目录。

（二）管理理论与风险的交融

对付人工智能管理框架的整体思考，有必要区分规制（Regulation）与管理（Governance）两个观点。
整体来看，广义“规制”观点与“管理”观点多有重合。
狭义上来说，规制是管理的一大领域，是供给（Providing）与分配（Distributing）之外的对事物与行为的调控。

1.规制与管理的分野

“规制”聚焦于政府或其他主体通过规则对其他主体进行掌握，而管理尤其是公共管理则聚焦于对不同主体如何通过互助来共同完成公共管理目标。
与此干系，“规制法”是事关如何掌握规制主体使其合法行事的法，包括在其规则制订、规制策略选择等规制活动中应该受到的合法性掌握等；而管理法则是不同主体如何相互互助共同实现公共任务的法，包括不同主体设定共同目标、制订与实行规则、相互协商与互助、分担任务的法律框架等。
对付人工智能风险的管理，属于管理法的内容。
而其管理框架的设计，也须要借助管理法的基本理论方得以建立。

2.卢曼对风险的二阶不雅观察及其启迪

当我们试图对风险分级管理进行深入探究时，就会超越风险管理的决策剖析，进入到法律或者法学理论对付风险的理解领域。
在法律领域，德国学者卢曼对风险的研究影响深远，个中风险的事实与不雅观察的二阶不雅观察（second-orderobservation）最富洞见。
风险的一阶不雅观察实在是一个不雅观察“什么”的问题。
对付一阶不雅观察者来说，客不雅观天下的区分已经被设定好了，不雅观察意味着把区分标识出来，以得到视觉、认知上的效果。
而对付二阶不雅观察者来说，在一开始的不雅观察中，并不存在“那儿有”的想法，天下并未被区分好，不雅观察意味着设定区分和标识区分。
因此，二阶不雅观察者要不雅观察的并不是“什么”的问题，而是一个“如何”的问题。
或者说，当二阶不雅观察开始时，二阶不雅观察者要不雅观察的便是特定主体作为不雅观察者的角色，不雅观察他不雅观察的办法，也便是不雅观察他的标识一个方面，而非区分是若何的。
在这里，行动者自己的一阶不雅观察与把行动作为他人决定来把握的二阶不雅观察会导致对决定的风险作出完备不同的评价；当人们清楚地认识到未来有赖于决定，而决定具有风险时，行动者与行动评价者的视角不合就会变得非常大。
某种危害产生的可能性，对决定者而言是可以选择的风险，但对受决定影响者而言则成为不得不承受的危险。
由此推而论之，一个决定可以在决定者（行动者）与受决定影响者（行动评价者）之间划分出鸿沟，也可能产生出潜在的轇轕以及抗议运动。
由于这类鸿沟与抵牾、抗议运动起因于人们分别作为行动者和行动评价者的不同视角的“二阶不雅观察”，以是在办理这类问题时有必要部分地返回行动者、决定者自身的一阶不雅观察层面通过实践进行考验，或者在二阶不雅观察的层面通过信息公开和通情达理的解释来加强沟通和相互理解。

3.技能风险管理与风险预防原则

卢曼的二阶不雅观察与人工智能风险管理的关系为何？换句话说，卢曼对我们的辅导为何？答案是，卢曼的风险理论对人工智能风险的分级管理的直接启示，该当是科技与法律的构造耦合确实可用于阐明风险预防原则。
这一点宾凯教授曾作了剖析。
风险预防原则（theprecautionaryprinciple）的核心内容在于，当法律系统在面对将来的环境和技能不愿定性所导致的过量繁芜性时，利用科学技能方法对科学技能本身进行评价，然后根据评估结果在各种代价之间进行衡量并做出能够降落环境风险的决定。
简言之，风险预防原则包含最为关键的两个要点：对现有科学在因果关系上不愿定性程度的评估；对风险决策所可能导致的丢失和收益之间的权衡。
在一定意义上，风险预防原则可以算作是法律系统与科学系统相互浸染的构造耦合（structurecoupling）。
法律系统利用合法/造孽的二元符码（code）进行沟通操作，担保了系统的规范性和封闭性。
法律系统同时利用“如果……那么……”的程式（programme）对外部刺激保持认知性和开放性。
例如，科学系统在环境保护中所扮演的主要角色，便是通过程式进入到法律系统，并把法律系统外部的刺激带进法律系统内部，以坚持法律系统对外部的认知性，也即从系统的环境中学习的能力。
经由这样的双重打算，人类社会就可以对风险预前辈行干预。
当然，风险预防原则并造孽律系统应对未来不愿定性的唯一工具，风险评估和风险防治也是工具箱中的备选项。
比如，环境影响评估便是一项被广为接管的法律工具。
欧盟指令就包含了对公用或私人所涉及的环境项目的影响性评估。
其余，任务也是风险应对的一种工具。
先放下任务问题，单就风险预防问题而言，正是疏通了预防原则，才能使得对人工智能分级管理有了更为坚实的理论根本。
当然，卢曼的二阶不雅观察理论也支撑了上文对付当代技能风险包含人的认知与代价判断的不雅观点。
这为将卢曼的二段不雅观察纳入风险理论，尤其是当代技能风险理论内部，构建当代技能风险理论体系（包括风险分级）供应了可能。
换句话说，当代技能风险具有了融通内外的特性，具有超越卢曼二阶理论传统理解的特质。

四

规制空间的引入及其运用

（一）规制资源与规制空间培植的基本逻辑

“规制空间”（RegulatorySpace）理论被用以不雅观察规制威信的分散，是对规制权力扩展的一种更为详细的阐明方案。
在规制领域，掌握的核心问题在于关键规制资源的碎片化。
规制空间隐喻的核心不雅观点认为，要霸占规制权并有能力履行规制，须要有干系的资源，而资源呈现分解或碎片化的样态。
这些资源不限于由立法或条约蜕变出的正式国家权力，还包括信息、财富和组织方面的能力。
这些资源分散于各种政府主体之间以及政府与非政府主体之间。
被规制企业可以结合其拥有的信息与组织方面的能力，获取相称大的非正式权力，这种权力乃至能对规则的形成或履行结果产生重大影响。
换言之，这种因霸占关键资源而获取的能力，未必以科层制的办法运作于规制空间之中，规制者未必凌驾于被规制者之上。
在规制空间中，不仅同时存在规制者与被规制者，还存在很多其他政府与非政府主体，这些主体在不同程度上分享着规制资源。
并且在各主体之间横向存在着繁芜多变的关系，彼此相互依赖、相互协商。

有效的规制是规制空间内各主体所拥有的资源、代价不雅观及其之间的关系相互浸染的产物。
制度设计或者规制改革自然应该关注各个主体并使其发挥潜力，在事实上形成政府主体之间的分权，以及政府与非政府主体之间的分权。
这种剖析匆匆使我们质疑规制者在规则制订与实行过程中做出专业化、技能性决定的能力，使得我们更加关注能以若何的程序在规制空间中形成和塑造多元化、相互交叠的权力。
调度各规制者所承担职能之间的关系，可以间接地改变规制空间内规制主体的视角，规制空间中的行为也会发生相应改变。
为此须要形成“规制空间内部的动态变革”。
该理论所提出的阐明方案，实际上因此为规制能力、规制角色与规制任务之间互为因果关系，有循环论证之嫌。
但其洞见仍对我们理解广义规制观点极有助益，提醒我们不仅公权力可以产生高权关系，私人主体基于信息、财富与组织能力亦有可能成为规制过程中的威信。

除此之外，规制威信的分散化，使得在规制空间内各主体之间形成了可协商的相互依存的关系。
与资源分散这个主题干系的是，规制空间不雅观念还鼓励我们重新考虑可问责性（accountablity）的性子，并将其同民主掌握与规制复活等议题相联系。
限于本文的论证主题与篇幅，不再谈论这一问题。

监管者在风险管理中面临的一个寻衅是：他们可能会在事情沉着的时候被批评得过于严厉，而在风险已经实现的时候又过于松懈。
换句话说，风险监管的增长可能会给政府带来合法性问题：如果它试图办理的问题没有发生，它如何能证明其有效性？这样就导致了监管者高度依赖第三方评估及对其问责的问题。
或许正是由于问责制，提高风险管理制度的开放性成为努力方向。

（二）构建以技能为根本的风险管理框架

由规制空间理论不雅观察对付人工智能风险的管理，正在形成一个“金字塔构造”，从塔底到塔尖依次是技能及其标准、商业模式、伦理准则与法律。
尤其是在法律3.0的视角下，本来作为管理工具的技能，所发挥的根本管理浸染加倍被人重视。
就风险监管而言，促进技能向生态化、人文化转变具有根本浸染。
此外技能上的努力至少包括对风险的预警、评测（量化处理）等方面。
这须要在详细运用处景中发展详细的标准与实验方法。
就实验方法而言，目前国家网信办正在推动的人工智能社会实验广受关注。

在伦理与法律的双螺旋中，伦理是综合监牵制度设计的基准与底线。
GAI的开拓与运用作为人类科技实践活动，应该与人的目的相同等，与社会核心代价、发展目标相契合。
为此，应充分考虑社会各界对GAI运用的高度伦理关怀，全面研判潜在伦理风险，重点参照国内外具有较大影响力的伦理指南、政策文件、标准共识，贯彻落实《中国新一代人工智能伦理规范》《关于加强科技伦理管理的见地》等主要文件精神，制订干系伦理管理原则，将匆匆进人类福祉作为第一要义，负任务地开拓GAI。

结合详细场景设计详细规范作为指引，完善合法与违法的二元化编码规范体系。
只管伦理原则彰显了AIGC伦理管理的代价导向，仍须在此根本上，根据GAI的详细运用情境和技能条件，制订更具操作性的伦理与法律规范和行为准则。
首先，应加强对GAI各领域及其特色的剖析研判，识别潜在伦理风险；其次，针对运用实践，梳理各种影响成分并据此确定详细运用规范和管理指南；再次，应全流程记录规范的履行过程与实效结果，及时反馈评估以期规范的动态调度与可持续地发挥浸染。
为了减少韶光限定、防控决策风险，当代法治国家的制度设计普遍实行以“合法”与“违法”的二元化编码为特色的规范图式。
“通过合法与违法的二元化编码和规范思维的形式性哀求，可以把决定者从问责的重负中适当解放出来并同时对自由裁量权加以制约，可以使风险沟通的繁芜性大幅度简化，有助于就决策的妥当性和问责标准达成共识。
”此外，这一规范模式中结果指向的本色性判断重视风险意识的浸染，也匆匆使法律任务从过失落任务转向危险任务，并不断加强行动者、决定者的把稳责任。

（三）风险沟通与折衷的监管格局

正如季卫东教授所指出的，风险社会的本色是问责以及相应的沟通。
民主参与的本色是处理风险沟通问题的制度安排，或者说是通过沟通来管理风险的制度安排。
为了凝聚社会风险管理的协力，还须要进行如下方面的努力：多渠道进行科技伦理与法律宣扬、活动与互换，提升"大众年夜众的科技伦理意识，广泛听取专业见地，建立可靠的监督机制，推动形成多方参与、协同共治的科技伦理与法律管理格局。
学界应积极推动跨学科领悟对话，以GAI管理为导向，采众学科之长，实现学科内部的“精耕细作”和跨学科研究的“集团作战”。
企业应增强任务意识，完善企业在伦理与法律风险方面的决策、咨询与调控的制度框架，提高企业对AIGC风险的识别、评估、处理能力。
民众应主动学习科技伦理与法律知识，增强科技伦理意识，提升对虚假信息的鉴别能力，自觉践行科技伦理原则，坚守科技伦理底线。
通过这些制度的建构，终极有助于形成当今中国化解风险沟通难题的一种合理对策，诚如季卫东教授所言，这一对策的范例特色是将政治问题法律化、法律问题程序化、程序问题技能化、技能问题论证化。

法律规则实质上也是沟通机制。
在对立法代价与规范目的进行设定之后，规则设计的最大寻衅可能是代价的精确表达。
但立法者常常无法供应这样的精确性，要么由于个人本身无法将此详细化，要么由于就所需的精确程度而言，并不存在社会共识。
回顾立法历史，立法规则的颗粒度都不高，立法者一样平常会选取“合理”“可行”和“适当”等宽泛的术语。
正是由于代价偏好的不愿定性、混乱和不合，法律常常依赖于空洞的术语。
按美国法律学者卡斯·桑斯坦（CassSunstein）的话说，这种代价精确性的寻衅是“未完备理论化合意”（incompletelytheorizedagreements）。
因此，在开拓整合性的设计选择时，应尽可能公开程序；当具有可行性时，应通过咨询委员会、公开听证会或"大众评论期的设置，给"大众年夜众和专家以参与的机会。
这种技能必要性引发的两个实际问题，将会困扰依赖将人打消于决策之外的算法系统确当局官员，并可能成为对其利用的最为本色性的限定：第一是代价完全性问题，第二则是代价精确性问题。
在此不再赘述。

（四）合理处理风险与民事任务的互动关系

风险与任务的互动关系尚未被重视，在欧盟AIA中也并未涉及任务承担的问题。
不过，在民事任务领域，风险与侵权归责存在紧密的关系。
在差错任务中，风险关系着差错的判断；无差错任务归责的根本便是风险。
此外，风险也影响着侵权任务的承担。
人工智能风险分级与危害发生后的任务承担存在何种互动关系，在欧洲议会关于《人工智能民生任务制度的决议》中已经有所提及。
详细来说，与AIA类似欧洲议会也采纳了分级的不雅观点：不同的任务规则对应着不同的风险。
欧洲议会建议折衷成员国民事任务赔偿的法律框架，对高风险人工智能系统的运营商施加无差错任务。
对付未列入高风险人工智能附件中的人工智能系统，则承担差错任务。
进一步说，对付有限风险的人工智能系统进行差错推定，对付最低风险的人工智能系统则采取一样平常差错任务。
在我国的人工智能地方立法实践中，虽然《上海市促进人工智能家当发展条例》《深圳经济特区人工智能家当促进条例》均采纳风险分级的制度，但限于地方立法权限并未涉及任务制度。
这为国家层面的人工智能立法进行了留白，而上述欧盟法对付风险与任务互动关系的认识，对付未来人工智能国家立法或有助益。

作者：陈吉栋

《互联网法律评论》特约专家

同济大学法学院副教授

上海市人工智能协同管理中央研究员

【免责声明】此文仅代表作者个人不雅观点，与本平台无关。
本平台对文中陈述、不雅观点判断保持中立，不对所包含内容的准确性、完全性或可靠性供应任何昭示或暗示的担保。