2022年12月，美国人工智能公司OpenAI推出的里程碑式运用ChatGPT引起了社会的广泛关注。
以ChatGPT为首的新一代天生式人工智能（“天生式AI”），可以通过底层技能构建出以文本天生、图像天生、音频天生、***天生为代表的天生内容类型，具有无穷的运用前景。
在各大科技巨子纷纭投身于天生式AI的开拓研究和技能改造、社会开始享受天生式AI所带来便利的同时，天生式AI也引发了一系列诸如知识产权陵犯及权属争议、个人数据透露、虚假信息传播等风险隐患。
面对天生式AI对现有监管体系带来的巨大冲击，各国开始积极探索和考试测验对该新兴技能的监管办法。
而作为企业而言，尤其是研发或利用天生式AI的企业，在技能改造日月牙异的本日，提前理解天生式AI可能带来的法律风险，可以更快速地捉住机遇，具有主要意义。

基于本团队对法律、监管动向以及实际案例等的跟踪研究，并结合实际事情中的履历，我们推出“天生式人工智能数据合规研究系列”，供大家参阅示正。
本系列共分为四部分——“法律与监管概述篇”“网络安全篇”“数据安全篇”和“个人信息保护篇”，将通过梳理我国关于天生式AI的法律和监管环境，考试测验磋商天生式AI做事供应者在数据合规方面可能面临的法律风险，以期启示在天生式AI发展的浪潮中故意研发或利用天生式AI的企业。
本期是系列研究的第一篇“法律与监管概述篇”，将紧张为您先容我国关于天生式人工智能数据合规法律和监管环境。

一、域外立法实践的概述

随着天生式AI的迅速发展，天下范围内各法域都紧密关注天生式AI的管理，对付AI技能面临的法律和政策问题的回应，我们把稳到美国和欧洲走在前列。
美国方面，以ChatGPT的上线为节点，美国对天生式AI的监管态度逐渐发生了转变，从鼓励天生式AI的发展转变为逐渐加强监管的态势，今年10月30日，美国总统拜登签署白宫关于天生式AI的首个监管规定，哀求对人工智能进行新的安全评估、公正和民权指引，以及对劳动力市场影响的研究；欧洲方面，以欧盟为代表的强监管阵营，在对待AI技能引发的数据保护和隐私保护上的问题始终呈现出较为守旧的态度，表现为积极通过立法和司法活动干预AI发展，例如欧盟委员会自2021年4月起大力实行的《人工智能法案》，对AI做事供应者提出了较高的责任，此外，以意大利为首的一众欧洲国家自今年3月起纷纭对ChatGPT展开调查，通过临时限定、全面禁用、违规调查、限期整改、解禁等系列方法，督匆匆OpenAI在数据隐私方面达到合规哀求。

可以创造，节制人工智能管理的话语权、规则制订权，抢先形成新的国家竞争上风，已经成为天下不同法域的努力目标。
总体策略上，我们认为各国都将在促进AI技能和家当发展与有效规制之间的寻求平衡，并会针对天生式AI存在的共性问题作出规定，为企业研发和利用天生式AI供应更加细致准确的合规指引，包括天生式AI运用带来的数据合规和网络安全问题、知识产权和不正当竞争问题、内容规则审核问题等。
考虑到此前欧盟GDPR对环球个人信息保护机制的巨大影响，其《人工智能法案》提出的“风险进路”（risk-based approach）监管思路可能会对各国在人工智能领域的立法和监管产生主要影响。

二、我国的紧张立法情形

在上述背景下，面对近年来AI技能所带来的数据合规等风险，我国也跟随天下的潮流，采纳了干系方法以平衡AI技能的创新发展与安全运用。
我们将对近5年来我国针对AI领域的立法和法律活动进行梳理，试图窥见我国对待天生式AI的监管态度。

2017年，***颁布《新一代人工智能发展方案》指出，人工智能已经成为国际经济的新焦点，经济发展的新引擎，社会培植的新机遇，要抢抓人工智能发展的重大计策机遇。
该方案明确了我国人工智能发展的阶段计策目标、重点任务、资源配置、保障方法和组织履行，是我国在人工智能领域进行的第一个别系支配的文件，将人工智能的发展上升为国家计策。
此后，我国陆续出台干系政策性文件，如《促进新一代人工智能家当发展三年行动操持（2018-2020）》、《国家新一代人工智能开放创新平台培植事情指引》等。
这些家当政策文件以促进AI领域家当发展为主。
早期阶段，为鼓励AI技能发展，我国在AI技能方面的立法以促进人工智能领域家当发展为主，此时的立法重点以网络信息内容为紧张管理工具，例如，2019年发布的《网络音***信息做事管理规定》和《网络信息内容生态管理规定》对人工智能在网络音***领域的信息内容提出了监管哀求[1]。
彼时，对付一些在实践中广泛运用或者发展较为成熟、导致社会问题多发的领域，我国也会出台专门的监管规则，如在自动驾驶领域出台的《智能网联汽车道路测试管理规范（试行）》；在聪慧医疗领域出台《人工智能医疗东西注册审查辅导原则》《人工智能赞助诊断技能管理规范》；针对人脸识别技能，最高公民法院出台《关于审理利用人脸识别技能处理个人信息干系民事案件适用法律多少问题的规定》等。

然而近年来，随着AI技能的快速发展和干系运用的迅速增多，干系风险也随之凸显，个中算法风险（例如，大数据杀熟、算法歧视等）尤为明显。
算法以大数据和机器深度学习为根本，是人工智能的动力来源，也是人工智能的核心。
算法本身是中立的，但是算法的运用结果会影响到各个主体的权柄，产生法律上的后果，而事实上人工智能产品产生的多数问题正好来源于“算法歧视”、“算法黑箱”等一系列问题。
从2021年开始，我国干系部门关注算法的安全监管，并于近两年环绕人工智能及其算法出台了多部部门规章、团体标准和指引：

2021年9月，国家互联网信息办公室（以下简称“国家网信办”）等九部委印发了《关于加强互联网信息做事算法综合管理的辅导见地》，首次明确了构建算法安全综合管理格局的紧张目标，提出了通过多方衔接布局的算法安全管理局势，构建以算法监测、算法安全评估、算法备案为主的安全监测体系，勾引算法运用向善。
这是国家首次在算法管理领域发布辅导见地，标志着前期算法野蛮成长时期的结束。

2022年3月1日起，由网信办、工业和信息化部（以下简称“工信部”）、公安部、国家市场监督管理总局联合发布《互联网信息做事算法推举管理规定》（以下简称“《算法推举规定》”）[2]施行。
该规定紧张聚焦算法运用深化而产生的算法歧视、大数据杀熟、网络勾引沉迷、未成年人保护等问题。
在做事规范上，《算法推举规定》哀求算法推举行事商应该加强信息安全管理，建立健全用于识别违法和不良信息的特色库，不得天生合成虚假***信息或者传播非国家规定范围内的单位发布的***信息等，对算法推举行事商提出了多项合规哀求。
人工智能做事供应者的范围本色上涵盖了算法推举行事供应者。
算法推举行事供应者是指为向用户供应算法推举技能做事的互联网信息做事供应者[3]，而天生式人工智能做事供应者则是指利用天生式人工智能产品供应谈天和文本、图像、声音天生等做事的组织和个人[4]。
人工智能包含机器学习，机器学习包含深度学习，机器学习或者深度学习又包含推举算法。
因此《算法推举规定》虽然是环绕算法推举行事制订的规则，但也是规制人工智能运用的主要指引。

2023年1月10日，国家网信办、工信部、公安部联合出台的《互联网信息做事深度合成管理规定》（以下简称“《深度合成规定》”）正式施行，加强了针对互联网信息做事深度合成的管理。
比较于《算法推举规定》来看，《深度合成规定》对技能支持者进行了专门规制，明确了在深度合成技能开拓阶段技能支持者就要承担数据和技能规范责任以及备案责任；同时也明确了深度合成做事利用者的内容合法性审查责任，深度合成做事供应者的深度合成标识责任以及显著标识责任等三方主体的法律责任。
其余针对深度合成技能，中国电子工业标准化技能协会也于2022年发布团体标准T/CESA 1197-2022《人工智能深度合成图像系统技能规范》，确立了深度合成图像（含***）系统的框架，规定了系统技能哀求，描述了对应的测试评价方法。
适用于深度合成图像系统的设计、开拓、测试、评估、管理等。
这两项规定针对深度合成内容的特点进行了更有针对性的规制，是我国在天生式AI法律监管方面迈出的主要一步。

2023年7月13日，国家网信办发布了《天生式人工智能做事管理暂行办法》（以下简称“《天生式人工智能办法》”）[5]，自2023年8月15日起施行。
该《天生式人工智能办法》是我国对天生式人工智能监管的第一个专门规定，其目的是为了促进天生式人工智能的康健发展与规范运用，以确保技能创新与法律法规的和谐共存。
在内容安全层面，该《天生式人工智能办法》明确了做事供应者的主体任务、生产违规内容的处置以及对付天生内容标识等责任。
在数据安全层面，《天生式人工智能办法》规定了做事供应者应该对天生式人工智能产品的预演习数据、优化演习数据来源的合法性卖力，并对演习数据的特性、个人信息保护与知识产权保护进行了规定。
在算法层面，《天生式人工智能办法》也细化了天生式人工智能的算法伦理，规定了算法的安全评估与备案制度。
末了，《天生式人工智能办法》将法律任务与惩罚归拢到《中华公民共和国网络安全法》（以下简称“《网络安全法》”）、《中华公民共和国数据安全法》（以下简称“《数据安全法》”）、《中华公民共和国个人信息保护法》（以下简称“《个人信息保护法》”）《中华公民共和国科学技能进步法》这几部法律。
目前天生式AI技能在市场运用层面仍非常新颖，天下各国都在摸索对其的规制方法，该《天生式人工智能办法》对天生式AI的运用提出了监管哀求，也表示出立法者鼓励新兴技能和创新的态度。

2023年8月6日和10月11日，我国信息安全标准化技能委员会相继发布了《信息安全技能 机器学习算法安全评估规范》（GB/T 42888-2023）和《TC260-天生式人工智能做事安全基本哀求》（搜聚见地稿）。
上述规范作为《天生式人工智能办法》的配套规范，前者可适用于保障机器学习算法生存周期安全以及开展机器学习算法安全评估；后者提出了天生式AI做事供应者需遵照的安全基本哀求，可为天生式AI做事算法备案前的安全性评估供应一套可参考操作的标准。

三、法律和监管的实践与摸索

与近期频繁的立法活动相呼应，目前海内虽尚未有专门针对天生式AI的案例，但数起针对AI算法层面的法律判例已反响出一定的监管态度。
比如在“算法推举短***侵权第一案”爱奇艺诉字节侵权《延禧宫略》案[6]中，法院明确强调供应信息流推举行事的平台经营者应该对用户的侵权行为应该负有更高的把稳责任。
该判例表示了我国在算法规制中对付算法推举行事者的信息规范哀求和用户权柄保护，算法推举不能成为推举利用人进入著作权侵权避风港的情由，该判例也与《算法推举规定》中“不得利用算法推举行事从事陵犯他人合法权柄的活动”相同等，对付算法管理的法律实践具有主要意义。
而在其他范例案例中，法院的讯断则进一步表示了应算法技能供应做事的企业应该作为任务承担主体的方向，例如在何某诉上海自古红蓝人工智能科技有限公司网络侵权任务轇轕案[7]中，法院判例表示了在法律实践中对付网络做事供应者以“技能中立”原则为由豁免任务的否定性态度；不足为奇，在上海携程商务有限公司与胡某侵权任务轇轕上诉案中[8]，关于平台的“大数据杀熟”行为是否侵害个人信息，法院讯断表示了在“大数据杀熟”行政强监管下，“算法中立”的思路已被逐渐摒弃，企业更该当主动承担起对算法的审查责任，以此勾引“算法向善”。

司法方面，在《天生式人工智能办法》生效后短短一个月内，截至今年9月，包括百度、阿里、字节跳动、商汤科技等在内的多家互联网头部企业和机构，均已通过其干系大模型产品（例如百度文心一言、阿里的通义千问等）的算法备案，并宣告对中国"大众年夜众用户开放其大模型做事，昭示出中国在天生式AI领域的监管已走在世界前列。

通过梳理上述立法、法律和监管实践，不难创造虽然我国目前对付人工智能的监管仍处于相对早期阶段，但干系的立法和法律已初具雏形，且监管反应尤为迅速。
由于算法规制和AI技能在透明度和公正性等问题上存在共通之处，因此天生式AI存在的某些风险和算法运用的某些行为可以在现有法律框架内进行规制，但是诸如算法歧视、算法透明等一系列问题大多仍结束在理论层面，监管实践和法律判例也相对较少。
随着天生式AI技能的不断进步，一旦涌现越来越多消费级运用，AI做事供应者可能会承担更高的责任。

综上所述，我国正在稳步加强对人工智能的管理，针对天生式AI的监管办法也在井井有条地探索之中，从下期开始，我们将基于我国针对天生式AI在数据合规方面的立法和监管环境，进一步剖析天生式AI在网络安全、数据安全、个人信息保护领域可能碰着的法律风险。
我们将不才期为您呈现“网络安全篇”，考试测验磋商供应天生式AI做事的企业作为网络运营者或网络产品/做事供应者的风险及应对策略，敬请期待。

注释

[1] 例如，《网络音***信息做事管理规定》第11条：网络音***信息做事供应者和网络音***信息做事利用者利用基于深度学习、虚拟现实等的新技能新运用制作、发布、传播非真实音***信息的，应该以显著办法予以标识。
网络音***信息做事供应者和网络音***信息做事利用者不得利用基于深度学习、虚拟现实等的新技能新运用制作、发布、传播虚假***信息。
转载音******信息的，应该依法转载国家规定范围内的单位发布的音******信息。

《网络信息内容生态管理规定》第23条：网络信息内容做事利用者和网络信息内容生产者、网络信息内容做事平台不得利用深度学习、虚拟现实等新技能新运用从事法律、行政法规禁止的活动。

[2] 互联网信息做事算法推举管理规定，http://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm，2023年6月14日最新访问。

[3] 《算法推举规定》第2条：在中华公民共和国境内运用算法推举技能供应互联网信息做事（以下简称算法推举行事），适用本规定。

[4] 《天生式人工智能做事管理办法（搜聚见地稿）》第5条：利用天生式人工智能产品供应谈天和文本、图像、声音天生等做事的组织和个人（以下称“供应者”），包括通过供应可编程接口等办法支持他人自行天生文本、图像、声音等，承担该产品天生内容生产者的任务 ；涉及个人信息的，承担个人信息处理者的法界说务，履行个人信息保护责任。

[5] 《天生式人工智能做事管理暂行办法》，中国网信网，http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm，2023年7月14日最新访问。

[6] 北京爱奇艺科技有限公司诉北京字节跳动科技有限公司侵害作品信息网络传播权轇轕案，北京市海淀区公民法院民事讯断书，(2018)京0108民初49421号。

[7] 何某诉上海自古红蓝人工智能科技有限公司网络侵权任务轇轕案，北京互联网法院民事讯断书，(2020)京0491民初9526号

[8] 上海携程商务有限公司与胡某侵权任务轇轕上诉案，浙江省绍兴市中级公民法院民事讯断书，(2021)浙06民终3129号。

感谢演习生刘骅兴和张白荟为本文的调研事情供应支持

E&C 不雅观点 | 天生式人工智能数据合规研究系列（一）——法律与监管概述篇

本文首发于微信"大众年夜众号”天达共和法律不雅观察“，欢迎关注查看更多专业不雅观点。