文 | 互联网法律评论

2024年2月15日，OpenAI推出了名为 Sora的文生视比年夜模型，60秒犹如电影质感般的***让已经熟习OpenAI的民众和全体行业再次炸裂，并将AI***天生推进一个全新的时期。

然而，AI的快速进步意味着我们将面临令人信服的深度造假、高度针对性的敲诈信息以及更加繁芜的网络安全威胁。

2024年，环球有50多个国家/地区将举行大规模选举，包括美国、孟加拉国、中国***、巴基斯坦、印度尼西亚等，选和颜悦色数占环球人口的一半以上。
专家警告称，2024 年将成为环球范围内前所未有的选举虚假信息泛滥之年。

就在Sora发布的越日，2月16日，在慕尼黑安全会议（MSC）上，亚马逊、谷歌、IBM、Meta、微软、OpenAI、TikTok、X等20 家参与构建或利用人工智能技能的科技公司共同承诺：努力检测和打击选举中的有害人工智能内容，包括选举候选人的深度造假。

20家AI领跑者“抗选举滋扰”的联合承诺虽然抚慰了"大众年夜众“真实选举”的期待，但同时也凸显未来寻衅的繁芜性。

图片：慕尼黑安全会议的科技公司“人工智能选举协议”页面

签署方包括：Adobe、亚马逊、Anthropic、ARM、ElevenLabs、谷歌、IBM、Inflection AI、LinkedIn、McAfee、Meta、微软、Nota、OpenAI、Snap、Stability AI、TikTok、TrendMicro、TruePic 和 X 。

01 首例“人工智能造假滋扰大选”案已在美国涌现

1月下旬，美国发生了一起“最明显、可能也是已知的首次利用人工智能滋扰美国选举”的案件。

据宣布，有人利用人工智能模拟美国总统乔•拜登的声音，并利用了他常常利用的口头禅“真是胡言乱语”（What a bunch of malarkey），用缺点的暗示来阻挡人们在美国新罕布什尔州的第一大城市投票。
这条信息在2024年1月23日初选前两天发送给 5,000 至 25,000 名选民。
而且这些电话缺点地显示，来自凯西•沙利文（Kathy Sullivan）的个人手机号码。

美国当局快速锁定了可能涉嫌这起案件的闹事者，两家德克萨斯州公司，Life Corporation和Lingo Telecom，美国联邦通信委员会和新罕布什尔州审查长都向这两家公司及卖力人发出了禁止令和传票。

美国联邦通信委员会本月曾发起，明确将利用人工智能语音的主动机器人电话定为刑事犯罪；如果根据新罕布什尔州的《选民压制法》提出指控，该重罪可判处最高七年监禁。

调查才刚刚开始，但美国当局希望发出强烈旗子暗记，以阻挡其他可能试图干预今年美国大选的人。

02 如何利用人工智能技能恶意影响选举？

人工智能运用于改进竞选事情效率的场景比比皆是：

AI可以网络和总结选民的兴趣，并终极可能将这些优先事变与监管机构收到"大众见地的详细问题相匹配；

AI可以帮助国家和地方层面政治家，让他们的评论对不同的受众更具说服力。

通过简化立法文本和跟踪代表的投票，AI可以增强公民对其民选官员正在考虑的繁芜立法的理解。

然而，另一方面是，想要歪曲"大众年夜众舆论的倡导团体或个人可能会在人工智能中找到盟友。
恶意行为者可以利用ChatGPT 等人工智能驱动的程序，假造出候选人或选民的***、音频、图片、笔墨等，由于其天生速率快、数量巨大，将被用来在特定问题上形成公众年夜众共识，迫使立法者按照期望的议程采纳行动。

下面是恶意行为者利用天生人工智能能力的详细威胁：

公众年夜众信赖的毁坏：虽然一些社区可能会被误导性的人工智能内容所欺骗，但其他社区将越来越不信赖真实信息，从而加深“说谎则红利”并毁坏对证据和事实的信赖。

平台准备不敷：某些紧张和中型平台减少了“信赖和安全”职员配置，并且对人工智能天生内容的预期数量和速率准备不敷。
封闭的做事可能是人工智能内容的紧张渠道。

政策进展缓慢：美国大选前不会有全面的联邦监管，而且各州的权宜之计监管也各不相同；欧盟《人工智能法案》在2021年4月提出，目前仍需欧盟议会批准，如果准期获批，与天生式人工智能干系的某些规则最快也只能在2025年开始适用。

高质量的人工智能天生媒体：对付技能支持的系统和试图识别不真实内容的普通人来说，检测所谓的“深度假造品”变得越来越困难。

高速大规模分发：人工智能系统可以快速、低成本地天生和分发大量内容。

定位和超本地化缺点信息：人工智能工具可以针对特定群体、生理概况、超本地化地理位置乃至不同的个人微调。

自动化骚扰：人工智能可用于显著增加针对选举官员或公民领袖的骚扰内容的数量和针对性。

选举根本举动步伐的网络安全：人工智能天生代码的预期进步可能会加剧恶意软件的寻衅。

03 打击恶意滋扰选举，科技巨子能干什么？

2024 年慕尼黑安全会议（2 月 16 日至 18 日）聚拢了来自天下各地的 450 多名高等决策者和思想领袖，个中紧张包括国家元首、部长、国际和非政府组织的领导人谈论国际安全政策的紧迫问题。

随着信息战和网络攻击等威胁的增加，科技公司在国际会议上霸占了越来越多的关注和空间。

慕尼黑安全会议组织者《双输？——2024年慕尼黑安全报告》显示，过去一年，环球紧张经济体，尤其是意大利、法国和巴西，对人工智能的担忧加剧；半导体和人工智能（AI）等计策技能的竞争将导致大国分裂科技行业，并招致福利丢失；对人工智能和数据安全进行紧迫性地环球监管，可能会成为技能安全化的捐躯品。

图片：《双输？——2024年慕尼黑安全报告》封面

因此，科技公司宣告志愿采纳“合理的预防方法”，签署了《在2024 年选举中打击人工智能欺骗性利用的技能协议》。

签署者在协议中表示，乐意共同互助检测技能等工具，以创造、标记和揭破人工智能操纵的公众人物图像和音频的“深度假造”；更多地公开如何在平台上打击人工智能天生的虚假信息。

八项详细承诺分别是：

1. 开拓和履行技能以减轻与欺骗性人工智能选举内容干系的风险，包括适当的开源工具；2. 评估本协议范围内的模型，以理解它们可能在欺骗性人工智能选举内容方面带来的风险；3. 寻求检测该内容在其平台上的分布；4. 寻求适当办理在其平台上检测到的此类内容；5. 培养跨行业抵御欺骗性人工智能选举内容的能力；6. 向"大众年夜众供应有关公司如何办理该问题的透明度；7. 连续与多元化的环球民间社会组织、学者互助；8. 支持提高公众年夜众意识、媒体素养和全社会复原力的努力。

值得一提的是，X（推特）的加入是这次协议的惊喜之一。
由于马斯克在接管推特后大幅减少了内容审核团队，并将自己描述为“辞吐自由绝对主义者”。
针对这次慕尼黑会议的协议，X的首席实行官表示：“X 致力于发挥自己的浸染，与同行合为难刁难抗人工智能威胁，同时保护辞吐自由并最大限度地提高透明度。
”

舆论认为，该协议在很大程度上是象征性的，而且并未包含“禁止或删除深度造假产品”。
承诺的模糊性和缺少任何约束性哀求可能有助于赢得浩瀚公司的支持，但令寻求更有力担保的倡导者感到失落望。

有民间社会团体指出，这种“自我监管”并不值得信赖，这份承诺不能办理利用社交媒体平台和广告模式恶意影响选举。

04 道阻且长

误导性内容，尤其是与选举有关的内容，并不是什么新鲜事。
但在人工智能的帮助下，现在任何人都可以快速、轻松且廉价地创建大量虚假内容。

从实质来说，这并不仅仅关乎“选举”，而是人工智能“威胁着我们区分事实与虚构的能力”。
当你开始疑惑所有看到的内容是否真实时，AI就完备摧毁了现实的根本。

平台的打算机天生内容检测系统是否能够跟上技能的进步，是值得担心的。
制订法律和监管方法来限定选举中的人工智能是一个良好的开端，但这些努力的有效性将取决于科技公司、政府和民间社会之间的持续互助，以适应不断变革的威胁并确保数字时期民主机构的弹性。

随着该协议从承诺转向实践，真正的磨练将在于，我们是否有能力造就一个更安全、更知情的公共领域，在这个领域可以在不危害法治原则的情形下，充分利用人工智能的潜力。