一、类ChatGPT人工智能数据安全背景

随着人工智能的快速发展，大模型作为人工智能技能的主要发展方向，已经在许多领域取得了显著的进展，如自然措辞处理、搜索引擎、图像识别和智能办公软件等。
个中，由深度学习驱动的大型措辞模型（Large Language Model，LLM），如ChatGPT、PaLM等，正凭借其强大的自然措辞处理能力和广泛的运用前景成为人工智能领域的研究热点和家当焦点。

然而，随着人工智能大模型（如ChatGPT）的广泛运用，社会各界正面临诸多与数据安全管理干系的寻衅。
首先，大模型的演习常日须要大量的数据，包括来自互联网的海量文本数据，这将会涉及到对数据的搜集、存储、传输和处理，这个过程会面临隐私、安全和产权等方面的风险。
其次，大模型本身具有巨大的参数规模和繁芜的打算逻辑，可能会导致对模型的访问、利用和掌握变得困难，从而增加数据安全管理的难度。
此外，大模型在运用中还会面临潜在的模型滥用、黑客攻击和数据透露等安全威胁，对数据安全形成了新的寻衅。

二、类ChatGPT人工智能数据安全问题

当下，类ChatGPT人工智能大模型在各领域领悟发展朝阳东升，这些大模型具有高度的繁芜性和跨领域的知识储备，能够帮助我们从海量的数据中挖掘出更加深层的信息和知识，但同时也带来了数据安全问题。

（一）隐私数据保护问题。
随着人工智能大模型的涌现和运用，隐私数据保护问题正变得更加繁芜和紧迫。
大模型利用的海量演习数据常日来自于维基百科（Wikipedia）、书本、期刊和社交媒体等互联网公开数据。
若某些演习数据未取得授权，则会产生数据隐私保护和数据合规方面的问题，如Twitter首席实行官马斯克就曾责怪微软造孽利用Twitter数据进行人工智能演习，并称会起诉微软。
此外，目前用户与基于人工智能大模型的对话机器人（如ChatGPT、Bard等）交互的私密数据也会被人工智能公司用于演习，比如对话式人工智能大模型在演习过程中利用的基于人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）算法，就会将用户的反馈用于优化模型参数，以增强模型和人类的对齐，提高对话机器人的性能，而且在演习后的模型中很难删除干系信息。
如果这些数据没有得到充分的保护，就可能被不法分子获取，导致隐私数据透露的风险增加。

（二）数据跨境合规问题。
以ChatGPT为代表的人工智能大模型正显现出与各行业领悟发展的趋势，个中涉及的数据类型和来源也在不断增加，这些数据的处理和传输将涉及到跨境数据流动，从而引发了数据跨境合规问题。
根据ChatGPT的运作事理，用户在对话框进行交互，干系问答数据将会传输到位于美国的OpenAI公司，在这样一个过程中，数据的跨境流动都会引发数据跨境合规问题。
其余，美国OpenAI公司还推出ChatGPT运用程序编程接口（API），可供第三方开拓者将ChatGPT模型集成到他们的运用程序和产品中。
目前已有多家公司表示操持用ChatGPT技能全面改革其全体产品阵容，比如美国微软公司已将ChatGPT技能扩展到Bing搜索和Power Platform以改进干系产品的性能，而这将会导致用户数据的跨境流动更加频繁，并增加数据合规监管的难度。

（三）黑箱模型的可阐明性问题。
人工智能大模型常日采取深度学习和其他机器学习技能进行演习和推理，内部存储了千万亿的模型参数，因此，大模型内部的事情办法和决策过程非常繁芜，缺少可阐明性和透明度，具有这类特色的模型被称为黑箱模型（Black Box），同时，这类模型也给数据安全管理带来了寻衅。
监管机构每每难以理解和评估这类模型的内部运作机制，从而难以制订得当的监管政策和标准。
例如，欧盟《通用数据保护条例》（GDPR）中规定数据所有人有权要求数据持有人和处理人删除与其干系的个人数据，但针对人工智能大模型存储信息的形式，企业很难像检索数据库一样定位干系信息，大略进行个人信息的删除是很难实现的。
其余，黑箱模型还会增加识别其内部潜在数据安全漏洞的难度，如果黑箱模型涌现缺点或被恶意攻击，很难被创造和处理，从而影响数据安全。

（四）模型数据安全评估问题。
人工智能大模型算法具有繁芜的构造设计，在运作机制上随意马虎存在毛病和漏洞，因此，如何科学合理对模型数据安全进行评估是当前的一项严厉寻衅。
模型数据安全风险紧张表现在以下方面：1.模型数据安全：在人工智能模型的开拓过程中，须要对模型进行模型数据安全机制评估，以确保模型的数据安全性，如数据隐私保护、数据完全性保护、数据可用性保护等；2.模型数据攻击：人工智能大模型可能存在被用于攻击的漏洞，例如对抗性攻击，黑客或者恶意用户可以通过修改模型输入数据来欺骗模型输出其他人或者机构的隐私信息；3.模型天生数据不可控：天生式人工智能大模型的繁芜性和不愿定性，可能会使其天生意想不到的结果，如虚假信息等。

三、类ChatGPT人工智能数据安全对策

类ChatGPT人工智能大模型在各行各业正加速渗透，逐渐演化为当今社会中不可或缺的一部分，大模型的数据安全问题也日益凸显。
因此，为确保人工智能大模型数据的安全性，须要采纳多层次、多维度的技能手段和法律监管方法。

（一）政策层面

1.设立人工智能专门计策机构

人工智能技能本身具有分外性和繁芜性，影响范围广，监管难度大，其运用和发展也面临着诸多寻衅和风险。
因此，设立专门的人工智能计策机构是必要的。
例如，日本政府操持设立新的“计策会议”，卖力谈论与人工智能干系的国家计策。
对付正在迅速遍及的谈天机器人ChatGPT等全体人工智能领域，该计策会议将发挥指挥塔浸染，指明政策的基本方向。
针对人工智能方面课题，该会议将从促进运用、研究开拓和强化规则两方面进行谈论。
该计策会议除了包含精通人工智能技能的学者和研究职员外，还有法律干系领域的专家和政府干系人士加入。

2.明确人工智能大模型运用中任务权利的法律归属

在人工智能大模型运用中，任务权利归属是一个繁芜的问题。
该问题涉及多个方面，包括数据供应者、算法设计者、模型演习者和模型利用者等。
目前，国内外学者紧张磋商两个方面：一是如何确定人工智能大模型运用中的任务归属；二是如何建立人工智能大模型运用中的任务分配机制。
欧盟在该领域进行了部分探索，例如，欧洲议会成员已经就《人工智能法》（The AI Act）提案达成临时政治协议，哀求支配ChatGPT等天生式人工智能工具的公司表露用于开拓其系统的受版权保护的材料。

3.完善人工智能大模型产品的干系立法

为应对人工智能技能所带来的一系列伦理、法律和社会问题，如数据安全、隐私保护、算法透明、任务归属、公正公道等，我国有必要制订一套符合人工智能技能特点的监管法律法规，以确保我国人工智能技能在竞争性和安全性上保持平衡。

（二）技能层面

1. 数据加密和脱敏

数据加密技能可以将数据转换为一种难以被未经授权者读取的形式，从而保障人工智能大模型数据交互的安全性。
这种技能在数据传输和存储过程中，能够对数据进行加密，有效防止隐私和敏感数据被未经授权的职员访问和盗取，从而保护个人隐私和商业机密信息。
此外，数据脱敏技能也是保护数据隐私的主要手段，它可以通过加密、更换、删除等处理来保护敏感数据的隐私。
对付人工智能大模型来说，数据脱敏技能可以在数据预处理过程中对数据进行脱敏处理，如匿名化处理、数据屏蔽处理和数据差分隐私等，以担保数据的隐私性。

2.访问掌握

访问掌握是一种常见的数据安全保护技能，其通过限定对数据的访问，以确保数据的机密性和完全性。
在人工智能大模型中，访问掌握技能的运用可以有效防止数据的造孽访问、修改和透露，从而保障人工智能大模型的数据安全。
例如，OpenAI采取了多种访问掌握技能来保护其人工智能大模型GPT-3的安全，个中包括身份验证、授权和审计等方法。
这些方法可以确保只有经由授权的用户才能够访问和利用GPT-3数据，有效地保护了用户的隐私信息。

3.模型物理隔离

模型物理隔离是一种有效的数据安全保护方法，可以有效地防止黑客攻击和数据透露。
例如，美国微软公司操持推出一款私有ChatGPT版本，该版本ChatGPT将在专用云做事器上运行，以保护用户隐私安全。
私有ChatGPT数据将与主系统隔离，可确保隐私安全，这将适用于医疗、保险和银行等行业。

作者简介

刘纪铖 国务院 发展研究中央国际技能经济研究所研究二室

研究方向：信息领域计策、技能和家当前沿

来源：环球技能舆图

中国工程科技知识中央是经国家批准培植的国家工程科技领域信息汇聚中央、数据挖掘中央和知识做事中央。

知识中央网址：https://www.ckcest.cn/entry/

中国工程科技知识中央为方便读者组建了社群想进群请添加微信：xpcztym