曾粤兴

北京理工大学法学院教授、博士生导师，法学博士

高正旭

北京理工大学法学院博士研究生

要目

一、人工智能的法律归责困境

二、以算法为切入点的归责路径

三、算法刑事归责路径的详细问题剖析

四、结论

对人工智能进行法律管理的难点，在于人工智能技能具有相对独立于自然人的智能属性。
鉴于现有的人工智能技能未能分开智能工具的范畴，法律规制的重点不是人工智能技能本身，而是人工智能背后干系法律主体的行为。
刑法须要把握算法这一人工智能技能的本色与核心，并以算法安全为纽带构建对人工智能干系法律主体的刑事归责路径。
在详细方案的设计上，须要厘清刑法在人工智能管理活动中的功能与定位，避免涌现过度纠结于技能逻辑的证明，或将刑法功能与前置法之功能相稠浊的误区。

2017年***发布的《新一代人工智能发展方案》（以下简称《发展方案》）指出了我国存在“适应人工智能发展的根本举动步伐、政策法规、标准体系亟待完善”的现状，自此人工智能干系的法律问题迅速成为我国法学领域研究的热点。
刑法应该如何对人工智能进行归责，是近年来理论界的热门话题。
目前的共识是，对付人工智能技能的发展，刑法的紧张任务是防御人工智能技能给社会带来的不愿定风险，同时也须要认识到智能技能是当现代界新的技能高地，我国必须全力争取在智能技能上的国际领先地位，以是在针对人工智能设计相应法律规则时，须要给技能进步留下合理空间。
从刑法的角度看，人工智能所涉刑法问题，实际上属于刑法与科技、刑法与前置法共治的领域。
所谓共治，是指不同的群体在平等根本上的互助。
虽然在某一领域中实现了代价与目标上的统一，但是不同管理手段在实现管理的路子、办法、浸染等方面存在差异。
就人工智能法律管理而言，前置法与刑法之间存在着法律体系中层次的不同，只有当前置法无法有效规制干系行为时，刑法才进行参与。
而法律与科技则属于不同的领域，科技作为当今社会主要的生产要素，有其自身发展进步的规律与知识体系，而法律在为科技进步创造良好的社会环境的同时，也须要限定科学技能手段可能给社会带来的副浸染。

在目前法律框架下，刑法所须要做到的是针对人工智能所产生的刑法问题探求得当的切入点实现对人工智能干系主体的刑事任务判断，从而使刑法有效参与到人工智能的管理活动中。
我国详细卖力推进方案履行人工智能发展计策的科技部下属国家新一代人工智能管理专业委员会，于2021年9月25日发布了《新一代人工智能伦理规范》（以下简称《伦理规范》），本文将结合该规范的干系内容，对人工智能的刑法归责路径进行磋商。

一、人工智能的法律归责困境

人工智能技能不同于其他科学技能的关键点，在于目前有深度学习功能的人工智能系统已经可以通过与环境的交互和不断地试错而具有自主学习的能力，相对付早期的弱人工智能而言，已经进入强人工智能阶段，使其一定程度上独立于干系的自然人。
这也成为了刑法对人工智能进行归责的难点。

人工智能的工具属性

人工智能差异于其他科学技能的智能能力，指可以实行常日与人类聪慧有关的智能行为，如推理、识别、感知、思考、方案、学习等等。
关于人工智能技能，存在着两种不同的发展理念：第一种是，属于智能工具，用以减轻人类劳动的弱人工智能；第二种是，属于社会进步的主体，达到或超越人类聪慧水平，具有心智和意识，依据独立意图开展行动的强人工智能。
从技能层面看，目前人工智能所取得的进展和成功基本上都是基于弱人工智能技能，但在军事、家庭生活（如性伴侣、棋手）等个别领域，已进入强人工智能阶段，估量在不远的将来，会进入超强智能阶段，为此，有人担忧人工智能的进一步发展，有可能闭幕人类文明。
实证研究显示，大多数社会"大众年夜众并不肯望人工智能完备独立于人类。
当然，据此我们还无法否定未来涌现超强人工智能的可能性。
人工智能技能的进一步发展，可能会使人工智能这一纯粹的技能性问题终极超越科学的领域，对人类社会的伦理、道德、法律等方面产生深远的影响。
个中既可能存在技能进步所带来的福利，也可能产生传统社会难以预见到的风险，“面对人工智能技能发展可能带来的负面影响，我们刑法学者不应该无动于衷，刑事立法和刑事法律更不应该面临危险而束手无策”。

据此，刑法理论对人工智能的独立刑事任务地位进行了广泛磋商。
如认为对人工智能刑事任务主体地位的研究符合时期发展需求，如果一定要等到强人工智能全面到来的时期再研究干系法律问题，会使得法律及相应的规章制度掉队于科技进步，只有进行前瞻式的研究才能肃清人们对人工智能犯罪的恐怖。
也有的认为，承认人工智能的刑事任务主体地位并非没故意义，由于人工智能的“智能”来自于对海量数据的学习，对人工智能施以刑罚，可以使人工智能通过对干系法律信息和判例的网络获取精确的法律不雅观念，实现一样平常预防的浸染。

类似的研究具有一定的前瞻性，但针对的也都是今后可能涌现的超强人工智能，对付现有的弱人工智能技能而言，其智能的本色是依照生产时所用的算法规则，对外界事物或指令所作出的反应。
现有的弱人工智能技能不具备独立于自然人的自由意志，并且具有可支配性，以是弱人工智能没有分开智能工具的范畴，理论上尚无谈论其独立刑事任务主体的空间，由于“法律作为最主要的社会规范，终极要来源于社会存在的合理哀求，而不应该来自空洞的想象力”。
而且部分运用领域中基本不可能发展出强人工智能，如在医疗领域中，无论技能如何进步，或许都不能否认自然人医师在医疗过程中的主导地位，完备自主的医疗人工智能并不符合人工智能有益、可控的发展目标，也不能符合社会的须要。
退一步讲，纵然涌现了医疗领域的强人工智能，在患者利用完备分开医师主导的医疗人工智能进行治疗的情形下，由于缺少“医师—患者—医疗机构”之间的医患关系基本构造，这种治疗已变成患者本人利用智能设备的“自诊”的行为，难以通过现行的医事法律规范和医事犯罪的干系规定进行处理。

同时，纵然赞许人工智能的犯罪主体地位，也须要把稳到人工智能的智能程度划分是须要技能方面的事情，并不是法律上的大略判断。
由于人工智能主体虽然具备相对独立于自然人的“智能”，但是不可能做到完备等同于自然人的思考与判断，对付其“智能”的基本组成要素、判断规则以及详细标准等，都属于须要技能领域回答的主要问题。
在相应技能标准尚不明确的情形下，在刑法领域中并不具备对人工智能的刑事任务主体地位进行有效磋商的条件。

从国家对人工智能技能发展的详细哀求来看，《伦理规范》第3条第4款的规定延续了《发展方案》中“确保人工智能安全、可靠、可控发展”的哀求，明确指出人工智能开拓须要坚持可控可信的原则，不能剥夺人类的“充分自主决策权”，人类有权随时退出与人工智能的交互，有权随时终止人工智能的运行，从而确保人工智能始终处于人类掌握之下。
以是纵然人工智能技能对国家发展具有计策意义，完备分开自然人管控范围的超强人工智能也不是我国人工智能技能的发展方向。

当代刑法肩负积极有效贯彻安全政策、担保国家总体安全的分外义务。
须要为社会供应积极能动但又不失落谨严适度的刑法保障安全之逻辑与方案。
以是在进行前瞻性思考之外，我们更需将目光聚焦在当下，在认识到其工具属性实质的根本上，对现有人工智能技能给法律制度、法学理论所产生的影响进行剖析，提出合理的办理方案，这也有利于增强社会"大众对人工智能技能的信赖，从而保障人工智能技能的进一步康健发展。
毕竟法律是行为规范，科技本身不会成为法律规范的工具，须要规范的是科技活动及其产生的社会问题。

算法黑箱问题

算法作为人工智能技能的核心，实在质是打算机按照一系列指令去实行、处理网络到的数据。
算法可以根据网络到的数据对原有的算法模型和假设进行持续考验，并作出实时调度，从而构成了人工智能相对独立于自然人个体的智能化根本。
对社会公众而言，算法这一相对独立的决策过程具有不可知的技能逻辑，即算法黑箱。
在智能时期中这种不可知的技能逻辑正在深刻影响着我们的生活，在我们已知或未知的领域替我们做着决定，勾引我们的行为，故算法黑箱被视为人工智能技能风险的根源。
在刑法理论上，算法黑箱问题则是对人工智能所造成的危害进行归因判断的一大障碍。

刑法中的归因判断，是指通过行为人的行为与危害结果之间的因果关系，确定结果是否可以归属于一定的行为。
基于算法的独立运行逻辑，在归因上须要判断算法的独立运行是否会割裂危害结果与干系主体行为之间的因果关系。
由于如果认为算法的运行逻辑对人工智能设计者或利用者而言是不可知、不可控的过程，则难以认为算法所导致的危害可以归属于干系的法律主体。

辨析算法运行中的逻辑，涉及算法的阐明问题。
对付算法是否能够被阐明，有不雅观点指涌实际中许多大型算法运用每每存在多种算法叠加利用的征象，使得专业职员也难以对其阐明，而且即便可以阐明，阐明的结论也难以被一样平常"大众年夜众所理解。
相反的不雅观点则认为，算法的设计是一个具有目的性的过程，纵然存在有将算法进行拆分或组合利用的繁芜算法，设打算法所欲追求的目的也是可以探求和解释的，以是算法黑箱是相对的，对算法黑箱的疑惑和恐怖，本色是社会"大众对算法决策中因果关系认知的断裂。

虽然对算法黑箱的认识具有一定不合，但从以下角度来看，算法黑箱的存在并不能否认弱人工智能所具有的工具属性，也就不能割裂人工智能危害结果和干系主体行为之间的因果关系。

首先，算法在设计上须要人为地设定价值目标。
在算法设计时所设定的代价目标相称于设计者给算法所下达的指令，之后算法的所有运作虽看似是一个分开人为掌握的状态，但本色上都是依据所网络的数据和环境信息，不断朝向最初设置的目标运作并优化的过程。
部分算法风险，即源于最初的代价设定偏差。
算法在自我运行时该当网络什么类型的数据，也须要人为设定。
因此，算法在运行中所做的任何决定都须要由人类授权，人类可以对他们在开拓和利用人工智能和算法时所做的决定卖力。
又如在人工智能的伦理问题方面，人工智能难以通过自我学习来认识广大的社会系统，进而形成合理的伦理不雅观念，但设计者完备可以授予算法一定的代价判断规则，使算法的决策尽可能符合社会伦理。
故弱人工智能运用的算法在合规律地运行时，可以视为设计者代价诉求的表示，对此也可以哀求算法的设计者通过剖析各种风险会以何种办法进入系统，对干系风险进行积极规避。
其次，在算法运行的过程中可以实现人为的干预。
目前主流人工智能技能以具有工具属性的弱人工智能为发展方向，《发展方案》和《伦理规范》也并不赞许开拓独立于自然人的超强人工智能，发展人工智能技能的目的在于使其更好地做事于人类，实现人工智能与人类的折衷事情，以是人机交互是人工智能发展所需打破的主要技能领域，使人工智能系统更好地接管、理解人所给予的指令。
如自动驾驶汽车，其驾驶行为虽是自动的，但何时出发、目的地的设定、中途是否须要改换目的地或停车，都要依照人的指令决定。
且对付自动驾驶汽车而言，不仅利用者在利用时可以对其下达指令，如果没有干系的保护方法，自动驾驶汽车可能会被黑客通过网络侵入其自动驾驶系统而挟制。
研究也创造，如果用户对算法进行轻微的掌握，部分算法缺点是可以被战胜的。
故在详细运用的过程中,人工智能也处于干系法律主体的支配之下。

智能技能虽然在一定领域内可以实现自主运行，但是不具有自由意志和可以由人所支配两大特色，决定了目前的智能技能及产品仍属于一种为人所支配的工具。
在目前的技能条件下，常日程序员和用户都知道他们想如何处理人工智能，更准确地说，他们知道自己希望人工智能为他们做什么。
以是一定程度上算法黑箱的存在，并不敷以使我们积极承认人工智能的独立主体地位，更不能割裂算法干系主体与危害结果之间的因果关系。
《伦理规范》第12条对实现人工智能算法“可验证、可审核、可监督、可追溯、可预测、可信赖”的哀求，也破除了今后算法黑箱可能对刑法归责产生的障碍。
如果在有时情形下涌现了算法完备失落控的环境，则在刑法上应依据意外事宜处理，而不是积极深究干系主体的刑事任务。
而关于算法是否完备失落控属于技能领域须要判断的问题，必须由干系技能机构进行鉴定从而得出结论。

二、以算法为切入点的归责路径

上文的剖析指出了刑法对人工智能干系主体进行归责不存在根本性障碍的问题，接下来须要谈论的是刑法须要对什么样的主体进行归责和应该以什么样的切入点对干系主体进行归责。

归责的工具

在关于人工智能刑本家儿体地位的谈论中，理论上很多不雅观点认为我国刑法中的单位刑本家儿体资格是刑法拟制的结果，以是对人工智能刑事任务主体地位进行拟制也不存在障碍。
但是单位本色上是自然人权利与责任的凑集体，对单位刑事任务的磋商，也是通过单位中详细自然人的意志和行为来进行的。
同样，对单位施以刑罚，实际上剥夺的是单位中详细自然人的权利，从而起到刑罚预防犯罪的效果。
以是，刑法对单位主体的拟制，并不能用来支持人工智能的独立刑本家儿体地位。
基于目前人工智能所具有的工具属性，人工智能所造成的危害，归根结底是干系主体行为所造成的危害，刑罚要实现对犯罪的预防，就需透过人工智能这一技能工具，探求其背后的可归责主体。

在当代技能利用和发展的过程中，每每存在一个漫长的因果链，在人工智能技能中这一点尤其突出。
人工智能所利用的繁芜软件系统每每有着许多开拓职员在不同阶段参与软件各个部分的研发，纵然在人工智能基于算法自我学习的情形下，也有一个数据的生产、选择和处理的过程，这一过程同样也须要有多主体多阶段地参与。
无论是供应数据的人、网络和处理数据的人、***数据的人、剖析数据的人等，都有可能影响人工智能自我学习的过程。
同时，每一个参与个中的主体，都只对自己所参与的详细阶段具有认识，而无法预测也无法掌握在上一阶段或下一阶段中其他主体对人工智能运作过程所施加的影响。
该因果链条还可以连续延伸至算法的运用阶段，在算法被利用者所支配时，也完备可以产生相应的危害结果。
并且在此因果链条中，人工智能所造成的危害有可能是由多个阶段因果关系所叠加造成，也完备可能是由当中的某一阶段所独立造成，故理论年夜将人工智能任务判断的特点概括为一种“多主体的任务”（the Problem of Many Hands）。
如何在因果链条中准确定位出缘故原由行为，对付人工智能干系主体的任务剖断具有关键性意义。

《伦理规范》第2条规定了该规范的适用主体包括“从事人工智能管理、研发、供应、利用等干系活动的自然人、法人和其他干系机构等”，并在第2条第1款至第4款中明确了干系主体的定义。
该规定为人工智能干系主体划定了详细的范围，并且符合人工智能“多主体任务”的特点，对“管理、研发、供应、利用”中的主体行为进行规制，可以覆盖人工智能从设计研发到终极投入利用的每一个环节。
就刑法而言，须要重视《伦理规范》对人工智能干系主体范围的界定，由于过去刑法理论界对人工智能产品任务的谈论，每每只集中于生产者和利用者这二者之间的任务划分上。
这种任务划分与2017年的《发展方案》中对人工智能“实施设计问责和运用监督并重的双层监管构造”进而将监管重点放在设计和运用两个方面的哀求相符合，能够有效处理大部分人工智能产品致损的案件。
但《伦理规范》中对干系主体范围的界定带给刑法理论的启迪是：有时人工智能危害的缘故原由并不来源于生产者或者利用者，在人工智能管理或者研发环节涌现的问题，也完备有可能导致危害结果的发生，进而产生刑事归责的问题。
如既然哀求建立相应的人工智能监管机制，依法负有对人工智能干系活动监管责任的国家机关事情职员，就有可能因事情失落职构成玩忽职守或滥用权益罪，这是监督过失落事理能够得出的结论。
又如人工智能产品的生产活动依照《伦理规范》第2条的定义属于人工智能的供应环节，而在人工智能技能的开拓过程中，人工智能的生产者和研发者有可能并不是同一主体。
如在生产过程中叠加利用已公开的算法技能的环境下，生产者并不能支配上游算法研发的过程，而上游算法研发过程中涌现的偏差，每每便是导致人工智能涌现毛病问题的根源。
人工智能“管理、研发、供应、利用”的主体都能够在不同阶段实现对人工智能的掌握或干预，也就须要为此包袱相应的责任，这是业务过失落事理能够产生的结论。

风险社会中安全是刑法所须要坚持的基本代价取向之一，并且在特定的情形下刑法的安全代价优先于其他代价，即有时只有在实现安全代价的条件下，刑法才能追求其他的代价。
以是，如果仅仅从生产者和利用者的角度进行谈论，会忽略了同样处于“多主体任务”因果链条中的人工智能管理者和研发者，难以符合当代刑法防御科技风险的需求。
当然，人工智能所造成的危害也可能存在无法对干系主体归责的情形。
比如在研发、供应、管理、利用环节都符合规范哀求的情形下，人工智能所运用的算法也可能产生算法歧视、算法偏见的征象。
其缘故原由可能是算法自主学习了网络上普遍存在的歧视性、偏见性知识，这种征象是算法对付社会客不雅观存在的反响，可以说全体社会群体都对此负有任务。
对付此类征象，刑法须要保持应有的谦抑，纵然为了防御风险也不能仅依照结果进行追责，否则随意马虎扩大打击面，使刑事任务蜕变为一种纯挚的结果任务，从而迫使人工智能从业职员当心翼翼，畏首畏尾，不适当地抑制算法进步和人工智能的正常发展。

算法的纽带浸染

确定须要追责的主体范围后，我们可以进一步稽核确认干系主体刑事任务的详细路径。

以自动驾驶汽车为例，自动驾驶汽车任务判断的难点在于确认当自动驾驶造成危害时自动汽车究竟处于哪一主体的掌握之下。
《伦理规范》第15条规定了人工智能生产者具有“加强质量管控，不得经营、发卖或供应不符合质量标准的产品与做事”的责任；第22条规定了人工智能的利用者具有“主动节制人工智能产品与做事的运营、掩护、应急处置等各利用环节所需技能，确保人工智能产品与做事安全利用和高效利用”的责任。
从这两条规定来看，在产品毛病导致自动汽车闹事时，可以对干系生产商以生产不符合安全标准的产品罪定罪惩罚。
从逻辑上说，如果生产者明知自动驾驶系统存在严重的算法毛病，可能导致利用过程中涌现闹事结果而予以遮盖，终极导致利用者闹事结果的发生，其主不雅观上具有放任的故意，从而竞合以危险方法危害公共安全罪，应该以较重的罪名从重惩罚。
但笔者认为，鉴于人工智能尚处于须要进一步发展的状态，严苛的任务固然可能存在一样平常预防的功能，但也可能压抑设计者、生产者的探索激情亲切，因此，笔者主见纵然上述逻辑推演能够成立，也应该立足于法律的谦抑而作出有利于被告的认定。
质言之，仅仅以法定刑相对付较轻的生产、发卖不符合安全标准的产品罪问责，即可在一样平常预防与分外预防之间找到平衡点。
而在自动汽车不存在产品问题时，根据《伦理规范》第3条的规定，人工智能利用者“有权随时终止人工智能系统的运行，确保人工智能始终处于人类掌握之下”的规定，彷佛可以推导出利用者有预见闹事结果的责任和能力的，从而进一步演绎出利用者对事件存在过失落的结论，终极哀求利用者对交通闹事结果承担罪过。
对利用者而言，一样平常不会涌现明知车辆自动驾驶系统存在算法毛病有闹事可能仍旧敢于驾驭的情形，因此很难得出利用者对闹事结果存在故意的结论。

之以是发展自动驾驶技能，是为了提高道路交通的便利程度。
对付利用者而言，自动驾驶技能可以最大程度地将利用者从驾驶员的身份中解放出来，减轻驾驶行为对其产生的包袱。
在此情形下，如果还须要利用者承担驾驶普通汽车一样平常的把稳责任，否则可能因此承担刑事任务的话，会使自动驾驶汽车对消费者的吸引力大打折扣。
依照自动驾驶技能最大程度减轻驾驶员包袱的目的，理论上认为自动驾驶汽车的利用者，在智能系统完备接管汽车运行的过程中，纵然涌现事件也可以依照相信原则得以免责，只有在自动驾驶系统对利用者发出提示时，利用者才有责任参与以保障驾驶安全。

从自动驾驶技能的现实运用情形看，达到L4等级的高度自动化驾驶汽车已在我国部分城市进行试运营。
L4等级是自动驾驶技能的飞跃，由于对付L4与L5级别的自动驾驶汽车而言已经没有了“驾驶员”这一观点，由此则涌现了不能深究利用者任务的问题。
以是有不雅观点认为人工智能算法的智能程度越高，利用者对人工智能的掌握任务就越弱，生产者则有任务和责任来设计出好的算法，让算法发挥积极的正面浸染，人工智能真正的因果追责趋向该当是算法背后的生产者。

从宏不雅观层面来看，对人工智能的研发者和生产者授予较为严格的责任是有必要的。
无论是在传统的农业社会或工业社会中，社会在整体构造上都呈现出等级化、中央化的特色，经济活动、社会管理均环绕公权力主体运作。
而在大数据与人工智能的时期，无论是经济活动的宏不雅观决策、个人日常消费很大程度上都依赖于算法的运作，聪慧政府、聪慧法律的培植，也会在一定程度年夜将原专属于国家公权力的决策转让予算法决策，加剧了社会的扁平化和去中央化。
但随着智能技能的进步，手握海量数据和智能技能的主体，不仅随意马虎在经济活动中取得上风地位，基于大量数据和干系算法技能，此类主体乃至可以对经济运行和社会发展的趋势进行预判，从而在广泛的领域内对社会产生影响。
随着持有海量数据和智能技能的公司、平台影响力的逐步扩大，原来经由大数据时期被“去中央化”的人类社会，会由于依赖于干系公司、平台的运作而实现网络时期的“再中央化”。
科技寡头对社会关系和社会规则进行重塑时，普通"大众是完备被动的，由此产生的技能精英与普通"大众年夜众之间两极分解，随意马虎造成新的社会问题，产生对国家安全、社会安全、金融安全的威胁。
以是在智能时期，法律制度的设计上须要迎回“责任本位”。
对节制智能技能的研发者和生产者授予干系责任以规范其行为，是法律抗制科技风险的关键。
但也须要把稳，如果将高度智能化产品所造成的危害一律归责于生产者与研发者，那么对生产者和研发者而言，这些任务就成了一种结果任务，这对生产者和研发者而言是难以接管的。
当然，人工智能实质上是由生产商或研发机构根据算法形成的一种“产品”，以是在民事层面上可以依照产品任务的无差错归责原则对干系危害进行处理。
刑事任务的认定则依据《刑法》第16条的规定必须以行为人主不雅观上具有故意或者过失落为条件。
而且毫无疑问的是，如果在刑法上对算法采取严格任务，会直接扼***工智能技能的进步。
其余，依据《伦理规范》的干系哀求，纵然涌现了高度自动化的智能产品，也不能免除生产者、研发者以外其他干系主体对人工智能技能所答允担的责任，但是法律设计上不能把保障人工智能安全运行的责任过度强加于研发者与生产者。
面对这样的情形，就须要在法律上探求能更好平衡技能发展中不同代价之间抵牾的方案。

在传统归责路径存在障碍的情形下，刑法须要探求新的切入点对人工智能技能进行规制。
对此，可以考试测验以算法为切入点磋商干系主体的刑事任务。
算法是人工智能技能的本色与核心，对算法的掌控即是对人工智能风险的掌控，以是算法可谓是在法律体系下对人工智能技能风险进行规制的一把钥匙，可以在法律领域中实现“人工智能规制→算法规制→算法干系法律主体规制”的转变。
理论上已有学者提出以作为公共安全的“算法安全”为人工智能犯罪所保护法益的不雅观点。
通过这种视角，可以揭示人工智能技能风险作为一种新型的社会风险，在广泛的领域内对公共安全产生威胁的实质，使其有效差异于其他类型的犯罪。
反之，在现有刑法框架下，无论将人工智能犯罪认定为生产不符合安全标准的产品等毁坏市场经济秩序的行为，还是认定为毁坏打算机系统等扰乱公共秩序的行为，都难以反响人工智能犯罪危害公共安全的本色特色，对此大概须要设立新的罪名以保护算法的安全法益。
同时，在智能时期“责任本位”的法律设计中，通过环绕算法安全设置干系责任，可以将任务合理分配至《伦理规范》中所定义的干系主体，即所有干系主体的责任都因此掩护“算法”这一人工智能本色内涵的安全为核心，在避免某一主体责任过重的情形下，使刑法的规制覆盖人工智能从开拓到运用的全体过程，最大程度防御各个环节可能产生的公共安全风险。

三、算法刑事归责路径的详细问题剖析

如前所述，人工智能法律问题是刑法与科技、刑法与前置法所共治的领域。
在最大限度降落风险，确保人工智能安全、可靠、可控发展的共同代价条件下，人工智能领域的管理手段是多元化的，包括有伦理原则、政策导向、法律规制、技能管理手段平分歧方面。
在这种共治关系中，不同管理办法之间是一种相互沟通与互助的关系。
上文提出的以算法安全为刑法参与干系管理活动的详细进路，须要在共治关系中明晰刑法发挥浸染的功能与范围，避免与其他不同的管理办法产生稠浊。

刑法逻辑与技能逻辑的区分

面对科技风险，法学领域中真正的论点不是要不要采纳预防原则的问题，而是预防程度的强和弱的问题。
科技对社会产生的不愿定风险是一种客不雅观的存在，刑法通过算法安全这一纽带，所要规制的是与算法干系的法律主体的行为，而在此过程中，刑法须要面对技能逻辑给刑法判断所带来的寻衅。

上文指出了算法黑箱不能成为刑法归责的障碍，由于算法仍处于干系主体所能支配的范围。
但是仅仅论述至此，还不能说刑法因果关系的判断已跨过了算法这一技能逻辑的障碍。
因果关系是危害行为与危害结果之间的引起与被引起的关系，但在刑法视野下，并不是所有对危害结果产生作出贡献的行为都是刑法规制的工具。
刑法须要对条件因果关系加以限定，确定详细的一个或数个行为进行归责。
对付人工智能造成的危害而言，关键在于确认详细的危害结果究竟须要归因于研发、供应、管理、利用的哪一个或哪几个环节。

在刑法因果关系的判断上，受日本刑法理论的影响，相称因果关系理论在我国成为了有力学说，该理论认为“通过一样平常性地不雅观察某种事态，当一样平常人在履历上认为存在某种先行事实就会发生某种后行事实是常日的，就肯定刑法上因果关系”。
但在以算法为纽带评价人工智能犯罪归因问题时，算法中科技逻辑所形成的壁垒直接割断了以“一样平常人履历”作为判断基准的可能性。
而另一种思路，是通过客不雅观归责理论，即“行为制造了法律所不许可的危险→该行为使该危险实现在作为构成要件要素的结果之中”的判断步骤来认定因果关系。
客不雅观归责的优点在于通过“法不许可的危险”这一观点，使结果归属与规范的哀求得以结合起来，这对付人工智能归因判断是主要的。
由于在以责任为本位的法律设计中，与人工智能干系的犯罪是范例的法定犯，各主体负有不同规范授予的掩护算法安全的责任，主体行为是否违反了规范授予的责任，是否因此创设了“法律不许可的危险”，是对其刑事任务进行深究的出发点。
如前所述，对付人工智能的法律设计，须要为人工智能技能的进一步发展留有合理的空间，而人对技能的认识是具有局限性的，以是法律须要对超出认识范围的风险保有一定的宽容心态。
当主体的行为没有违反干系规范的规定时，纵然产生了一定风险也不宜进行归责，承认“被许可的风险”存在，能够更好地实现人工智能技能的社会效益。

通过客不雅观归责的办法判断人工智能干系主体的任务也存在理解上的难点，由于进行客不雅观归责所需阐明的“法所不许可的危险”和“危险实现”这两个关键问题并不是履历所能确定的，须要以规范的判断为条件，而这种规范判断应如何进行？应依照什么样的标准进行？“客不雅观归责”这个观点本身并没有见告我们。
由于人工智能干系犯罪是法定犯，以是对“法不许可的危险”须要参照前置法律规范进行规范判断，前置法定性、刑法及其法律定量的主见特殊具有现实意义，在此不再赘述。
对付应该依照什么标准进行判断，即如何确定风险与结果之间的因果关系，就涉及在人工智能法律管理中的技能逻辑与法律逻辑的区分。

法律在面对这种技能逻辑所带来的障碍时，须要正视法律自身的局限性，将技能判断交给干系技能部门办理。
这样的做法并不会影响法律自身功能的发挥，由于法律的运作从来都离不开其他部门的赞助。
范例的如医疗事件鉴定，干系医疗行为与危害结果之间的因果关系即为纯粹的技能逻辑，须要依赖于专业鉴定部门的结论来确定任务。
在这些法律与技能共治的领域，法律的事情是搭建好防御风险、保障干系主体权利的合理法律框架，而不是纠结于因果关系中所包含的技能逻辑如何得到证明。
算法安全是刑法对人工智能技能进行规制的切入点，目的在于哀求人工智能干系行为主体依照自身所承担的责任，实现人工智能“安全、可靠、可控”的发展。
理论上有不雅观点虽然认识到了人工智能与其所造成结果之间的因果关系是一种纯粹的技能逻辑，但是认为“这种纯粹技能构造的方法论致使算法及其打算结果彻底隔离于社会规范，进而使之跳脱于侵权法律任务剖断的维度之外，这种寻衅对付法律理论中的因果关系剖断是一种根基性的撼动”。
笔者认为，这种结论未能正视共治领域中的技能逻辑与法律逻辑的关系，浮夸了技能逻辑的浸染。
如前所述，对技能逻辑因果关系的判断并不是法律须要完成的事情。
实体法在法律领域中因此证据为根本对案件事实进行认定从而得出结论的，证据的基本属性包括了客不雅观性，以是算法因果关系等问题的证明，不能从法律的角度基于对技能逻辑模棱两可的认识进行推测，对付专业的技能问题，法律须要尊重技能领域得出的结论。
当干系证据不充分，如科技领域只给出了“有可能”的结论时，在法律领域中主要的“存疑有利于被告”原则便可以发挥浸染，以此实现刑法的人权保障的功能。

当然，法律须要为技能部门对算法因果关系的判断供应依据。
对此，实践中《发展方案》和《伦理规范》已为在立法领域进一步完善干系法律规范供应了宏不雅观辅导，哀求算法“逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖”。
在理论层面，学者们也为办理算法因果关系判断提出了不同的办理方案，如哀求算法设计者设置完全的算法设计日志、建立算法登记制度、统一算法的设计生产标准和给人工智能安装类似飞机黑盒子一样的监控装置。

刑法与前置法的功能区分

在人工智能管理领域中，除了对法律逻辑与技能逻辑进行区分以外，还须要避免涌现刑法与前置法功能的稠浊。

在社会风险激增的背景下，扩展刑法制裁范围以对社会风险进行预防是天下范围内普遍存在的征象，具有其必要性与一定性。
从我国刑事立法的实践看，“功能性特色极其明显，立法者的反应更为迅捷，通过刑法掌握社会的希望更为强烈，触角也伸得更长”的积极刑法立法不雅观已经在我国得以确立。
但对预防功能的重视并不会改变刑法在国家法律体系中的后置法地位，由于刑法理性参与犯罪管理，不能仅仅是寄希望于高压威慑，而是须要把刑法作为社会管理中的一种详细手段，同其他社会资源共同有效掌握犯罪、防御社会风险。
代表积极预防主义的微罪立法、危险犯的立法也只是个别特例。
在我国违法与犯罪的二元制裁体系中，刑事犯罪与一样平常违法行为之间应具有社会危害性“量”上的差异，刑法所规制的只是已超出前置法律规制范围的具有“严重社会危害性”的犯罪行为。
防御人工智能技能所产生的风险，对法律的哀求是多方面的。
如高度依赖于网络的人工智能，须要完备的网络安全法律规范供应保障；人工智能技能对大数据的需求，须要一套能够兼顾技能发展需求和干系主体信息权利保障的法律规范；人工智能自主性的提升对社会伦理的影响，也须要干系规范加以应对。
这些都是过去法律考虑不充分或者没有考虑到的问题，在今后立法活动中须要进一步完善。
而且刑法与前置法对付掩护算法安全所发挥的功能并不相同，基于刑法在法律体系中的后置法地位，对掩护算法安全的责任，须要从前置法到刑法进行层层保障。
以是干系责任如保障算法安全所需的网络安全、伦理规范、数据保护规则等，首先须要由前置法律规范进行确认，刑法不宜直接参与加以规定。
在对人工智能进行管理的共治领域中，基于法秩序统一的事理，在人工智能干系主体的责任认定上刑法须要与前置法保持同等。
对此，刑法可以通过空缺罪状对干系前置法律规范中的规定进行引用，掩护法律秩序的统一，避免在干系问题的认定上涌现与前置法规定相抵牾的结论。

算法安全这一法益搭建了刑法参与人工智能法律管理的桥梁，在共治关系中，前置法为人工智能干系主体设定的责任，是刑法据以判断刑事任务的依据，为了避免刑法对人工智能技能的进步产生阻碍和稠浊刑法与前置法的不同功能，在对人工智能干系主体的规制中刑法须要保持合理的谦抑，坚持刑法在法律体系中的后置保障法地位。

刑事立法在环绕算法安全这一新型法益设计罪名时，须要保持罪名对干系行为类型化的高度概括性，以充分发挥刑法对前置法的保障浸染。
对此，理论上已提出了在刑法分则第二章危害公共安全罪中新增“设计、制造、发卖、利用不符合算法安全标准的人工智能产品罪，造孽设计、制造、持有、买卖、运输、利用人工智能武器罪，擅自改变人工智能产品算法与用场罪，滥用人工智能罪，人工智能闹事罪”五种危害算法安全的犯罪。
《伦理规范》所定义的“管理、研发、供应、利用”四类主体中，除负有管理责任的国家事情职员的行为须要通过渎职罪进行规制外，以上五种危害公共安全的罪名设计可以很好覆盖“研发、供应、利用”的干系主体危害算法安全的行为。
同时，根据《伦理规范》第17条的规定，人工智能供应主体具有“研究制订应急机制和丢失补偿方案或方法，及时监测人工智能系统，及时相应和处理用户的反馈信息，及时戒备系统性故障，随时准备帮忙干系主体依法依规对人工智能系统进行干预，减少丢失，规避风险”的应急保障责任，对付违背该责任严重侵害算法安全的行为，也须要刑法制订新罪名予以规制。

《伦理规范》中的干系规定，为今后人工智能法律规范的制订供应了宏不雅观辅导，但详细的规范细节还需各个部门法进一步细化规定，以是以上罪名设计的构想是否成立，或者是否还有必要连续增加保护算法安全的新罪名，须要连续不雅观察人工智能技能的发展情形和前置法律的立法情形，使刑法与前置法在人工智能管理领域中保持良好的互动。

四、结论

通过结合《新一代人工智能伦理规范》的干系规定和人工智能技能发展的基本特色，可以看出具有工具属性的人工智能技能，其产生的社会风险仍是一种人为风险，故并不会对刑法理论产生颠覆性的影响。
刑事立法与刑法理论须要根据人工智能技能的特色，为人工智能的刑法管理供应有效的方案。
以算法安全为纽带对人工智能干系主体进行刑事归责，是使刑法有效参与人工智能法律管理的理论考试测验，为刑法对人工智能干系主体的刑事任务认定供应了可能的路径。
在详细方案的设计上，还需在厘清刑法与技能逻辑、刑法功能与前置法功能关系的根本上，明确共治关系中刑法规制的范围和应具有的功能，从而与人工智能的其他管理手段形成有效合营，实现人工智能技能法律管理的效果最大化。

原文链接

曾粤兴、高正旭｜论人工智能技能的刑法归责路径

《管理研究》简介

本刊系中共浙江省委党校、浙江行政学院主理的社科类综合性学术期刊，定位于当代中国全面深化改革的重大理论与现实问题，特殊是中国管理的前沿问题。
本刊已入选CSSCI扩展版来源期刊、全国中文核心期刊、中国人文社会科学核心期刊及RCCSE核心期刊。