生物技能与人工智能融合产生新兴生物安然风险_人工智能_生物
近年来，基因组和蛋白质组学等生物数据量呈指数级增长。人工智能在数据存储、管理、整合和剖析等方面的出色表现使生物科技领域对其的需求激增，推动生物领域数字化、智能化转型。然而，生物技能与人工智能的深度领悟给予无生物学专业背景的群体获取干系专业知识的机会，导致生物滥用的可能性大幅增长，人工智能生物技能正在加速冲出安全界线。新型生物/化学武器应运而生，或变革传统生物威胁形态及未来战役观点，引发更难预测、危害性更大的环球性生物灾害。
一、人工智能与生物技能领悟的潜在生物安全风险
从预测蛋白质3D构造、破译分子数据、解读医学图像到探索并理解生命系统和生态系统，人工智能正在颠覆生命科学和生物工程研究、促进生物医学创造，开启数字生物学新时期。人工智能与生物技能不断领悟、演进，加快技能创新，为人类康健带来诸多打破性贡献，如预测蛋白质构造、加快新药研发进程、供应更精确的医疗诊断、开拓更个性化的治疗方案等，推动生物制药、医疗保健、农业生产、工业制造、新材料等领域的创新发展。
人工智能与生物科学领悟的运用领域示例（图源：CRS.org）
然而，交叉技能在发展过程中产生新的风险，特殊是在生物胆怯主义和生物武器方面。《美国情报界2023年年度威胁评估》指出，人工智能生物技能的发展及运用速率远超制订规范、保护隐私和防止危险后果的速率。
（一）人工智能放大生物技能的两用风险
人工智能与生物技能均属两用技能，易陷入“两用困境”（Dual-use Dilemma），人工智能赞助下的生物胆怯主义乃至能够造成比核武器更大的危害。一方面，人工智能降落挖掘隐性知识的难度。隐性知识在很大程度上起到樊篱浸染，而人工智能根据智能语义理解将隐性知识显性化，弥合知识差距，从而增加生物武器研发方面的知识和技能，使更严厉生物安全风险的发生率激增。另一方面，全面的国际和海内两用研究法规严重欠缺。不同于核武器干系核材料和放射性材料受到严格监管，发动生物攻击所需的生物物质或制剂难以区分其是用于和平目的还是军事目的方面，因而更随意马虎获取。尤其当古人工智能极大提升生物技能的智能化和可及性，使合成危险DNA或其他致命生物制剂的韶光和本钱大幅降落，更易吸引恶意行为者探索生物技能的武器化，或产生危害性更大且无法掌握的新型生化武器，引发新的生物安全风险，进而带来环球性生物灾害。
（二）人工智能与生物技能的结合引发网络生物安全风险
人工智能与生物技能的联动使数字化生物信息成为网络攻击的新目标，对生物安全构成威胁。第一，人类基因组研究对人工智能、深度学习等技能的依赖日益加深。随着数字互联在生命科学领域的渗透，以及身联网设备的迅速发展和逐步遍及，对生物医学、生物工程以及生物安全领域至关主要的生物信息、数据和算法模型成为网络攻击的新目标，恶意行为者或将其作为“人质”，操纵数据滋扰公共卫生和生物安全系统或鞭策恐怖感情。第二，从合成脊髓灰质炎和天花、马痘病毒到新冠病毒变异株，危险病原体基因组序列的公开拓表越来越普遍，意在助力环球范围内的科研职员监测和追踪病原体传播链、提早检测新涌现的传染病以及提前开拓有针对性的疫苗和其他医疗策略并进行重点支配。与此同时，这种数字化的生物信息给予生物胆怯主义或恶意行为者可乘之机。其可通过人工智能生物技能加强病原体的生存能力、毒性和耐药性，以增加病原体对人体的危害性，进而威胁某一种族或国家的公民康健。
二、人工智能模型的生物滥用或拓展生物武器可及性与杀伤力
目前人工智能系统的生物安全风险紧张源于两类人工智能模型：一类是与ChatGPT类似的大型措辞模型（LLM），另一类是与AlphaFold类似的生物设计工具（BDT）。
（一）大型措辞模型增加生物武器可及性，削弱生物滥用的限定
大型措辞模型是一种天生式人工智能，通过利用深度学习技能和海量数据集理解、总结、天生和预测文本，可供应科学信息、访问干系的在线资源和工具以及辅导研究。大型措辞模型增加现有知识和能力的可及性，从而降落生物滥用的门槛，有潜力帮忙科学家开拓与美国疾控中央规定的A类生物制剂规模相称的新兴威胁，同时还可减少生物试剂/设备采购和实验室技能等干系障碍，助力非科学家或无生物学背景者设计生物武器。
一方面，大型措辞模型能够快速识别并筛选有害分子。2022年3月，瑞士施皮茨实验室、美国AI制药公司Collaborations Pharmaceuticals和英国伦敦国王学院在实验中利用人工智能系统MegaSyn检测、保留有毒分子并将其有机结合，仅用6小时就仿照出4万种不同组合，可形成4万种生化武器，有些分子组合的毒性乃至超过臭名昭著的神经毒剂VX。然而，MegaSyn系统实在是人工智能药物创造平台，旨在探求新的人类疾病靶点，开拓治疗罕见病的药物和抑制剂。这项研究证明，机器学习模型具有将无害的药物创造工具转化为致命分子天生器的潜力，存在产生新型有毒化学品蓝图的风险。
另一方面，大型措辞模型有助于确定生物武器开拓的详细路子。2023年6月，美国麻省理工学院生物安全专家进行了一项测试，哀求没有干系生物学背景的学生在ChatGPT或其他大型措辞模型的帮助下创造一种危险病毒。仅一小时，谈天机器人就供应了四种潜在的大盛行病原体，阐明了利用反向遗传学从合成DNA中天生这些病原体的办法，还给出一些常日不筛选客户和订单内容就供应合成DNA的公司。美国兰德公司的研究职员也在测试中创造，大型措辞模型能够评估引发天花、炭疽和瘟疫的制剂导致大规模去世亡的几率；获取受瘟疫传染的啮齿动物或跳蚤及对其进行活体运输的可能性；乃至能够供应遮盖购买炭疽、天花和瘟疫细菌真实目的的干系建议。
（二）生物设计工具提升生物武器杀伤力上限，扩大具有专业知识储备科学家的能力
生物设计工具经由DNA序列或蛋白质构造等生物数据演习，能够帮助设计新的蛋白质或其他生物制剂，是为了帮忙探索生物分子特性、完成生物工程任务而创造的，其输出内容是生物序列而非自然措辞，较大型措辞模型而言有更详细的用场。
第一，生物设计工具增加生物滥用可能造成的侵害性。人工智能能够轻松优化传播性、毒力和免疫躲避等病原体特性。曾有科学家假设，自然涌现的病原体因自身进化限定缘故原由，需在毒力和传播性之间进行权衡，而生物设计工具制造或加工过的病原体不存在或能战胜这种限定，并使两种特性均得到优化和提升，产生更危险的病原体，或将盛行病/大盛行病从现在的灾害性风险转变为真正的生存威胁。
第二，生物设计工具增加对恶意行为者或国家行为体的吸引力。传统生物武器可能在打击目标的时候误伤自己和友军，而生物设计工具能够创建针对特定地区或种族的生物制剂，以实现精准、定向打击。人工智能提高生物制造效率，提升具有专业生物知识储备的研究职员的能力，使生物武器更有针对性。
第三，生物设计工具或超越现有危险病原体牵制方法的范围。目前防止造孽获取毒素和病原体基本依赖危险生物清单筛查已知的危险基因序列，而生物设计工具可通过重新编码天生具有相似功能的替代性新型制剂，这些制剂将不属于现有的分类种别或不包含可被识别的已知基因序列。因此，在人工智能驱动的生物设计时期，掌握危险制剂的传统保护方法或失落效，将无法阻挡有害生物制剂的利用。
近年来，人工智能在蛋白质组学领域的运用加速扩展，使蛋白质设计工具更前辈、更多样化。AlphaFold和RoseTTAFold等深度学习系统根据蛋白质氨基酸序列预测人类未知的蛋白质构造，有助于理解酶活性等生物过程，助力药物开拓和迭代；ProtGPT2和ProGen等人工智能模型许可研究职员从头天生蛋白质，并能在极短韶光内天生大自然花费数百万年才设计出的蛋白质序列。但是，一旦蛋白质组学、蛋白质工程等被生物胆怯主义滥用，可能导致细菌毒素的规模化生产，从而产生更具攻击性、更难戒备的生物战剂，极大威胁人类安全。
三、人工智能生物技能的风险管理迫不及待
随着生物交叉技能的升级、迭代，人工智能诱发生物安全风险的概率大幅提升，近期多名人工智能领域的从业职员对此发出警告。OpenAI首席实行官萨姆·奥特曼（Sam Altman）将“可以设计新型生物病原体的系统”视为人工智能的“恐怖之处”；谷歌前首席实行官、国家人工智能安全委员会联合主席埃里克·施密特（Eric Schmidt）表示，人工智能极大扩展病毒数据库，帮助产生新的化学物质或病毒，可能带来“生物冲突”；专注提高人工智能系统安全性的人工智能公司Anthropic的首席实行官达里奥·阿莫迪（Dario Amodei）称，人工智能系统可在未来2-3年内帮助制造生物武器；加拿大人工智能先驱约书亚·本吉奥（Yoshua Bengio）提出，应尽快制订国际通用的人工智能监管法，避免恶意行为者在超出监管范围的国家滥用技能、发动生物攻击，届时将威胁环球安全。
人工智能生物安全风险显然已经成为当前最紧迫的天下性问题之一，引发各国政府、智库及国际组织的高度关注和当心。美英均将“生物安全”归为人工智能安全风险之一，敦促政府机构制订新的计策方案，推进人工智能生物安全风险管理与戒备。政府层面，2023年6月，英国政府在新的《生物安全计策》（NBSS）中提出建立新的国家生物监测网络，承诺每年为生物威胁雷达（bioradar）投资15亿英镑，用于供应已知和新兴生物威胁的全面信息。随后，英政府在8月发布的《人工智能监管的创新方法》中提出建立中心风险职能部门，识别、评估、优先考虑和监测可能须要政府干预的人工智能交叉风险，包括“高影响但低概率”风险，如人工智能生物安全风险等。2023年10月30日，拜登签署“关于人工智能安全、可靠和可信的行政令”，哀求明确人工智能对生物安全风险的影响，研究减少病原体和组学研究干系数据及数据集影响国家安全风险的办法，并指示卫生和"大众年夜众做事部（HHS）成立人工智能事情组并制订规范药物开拓过程中人工智能技能及工具利用的干系操持。立法层面，美国会推出多项法案，哀求评估人工智能生物安全风险并制订应对计策。一项是《人工智能和生物安全风险评估法案》，哀求计策准备和相应管理局（ASPR）评估开源人工智能模型和大型措辞模型开拓新型病原体、病毒及生化武器的风险。另一项是《公共卫生准备和应对人工智能威胁计策法案》，哀求卫生与"大众年夜众做事部（HHS）制订应对人工智能驱动的生物威胁造成公共卫生紧急事宜的计策。智库及研究机构层面，美国降落核威胁倡议组织（NTI）提出建立“国际人工智能生物论坛”，美国工程生物学研究同盟（EBRC）也在《工程生物学和人工智能交叉的安全考虑》白皮书中阐述了此类论坛的主要性，强调加强国际互助，根据生物风险的发展进程制订最佳安全方法，同时监测以往计策政策的适用性。此外，美国兰德公司研究职员正在测试并建立针对人工智能驱动大规模生物攻击的风险评估框架，强调以履历为导向的定期评估对付识别和降落风险的主要性。
四、结语
参考文献：
[1] Can’t quite develop that dangerous pathogen? AI may soon be able to help [EB/OL]. https://thebulletin.org/2023/11/cant-quite-develop-that-dangerous-pathogen-ai-may-soon-be-able-to-help/
[2] Why AI for biological design should be regulated differently than chatbots [EB/OL]. https://thebulletin.org/2023/09/why-ai-for-biological-design-should-be-regulated-differently-than-chatbots/
[3]Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools [EB/OL]. https://arxiv.org/abs/2306.13952
[4] President Biden’s new plan to regulate AI [EB/OL]. https://www.vox.com/technology/2023/10/31/23939157/biden-ai-executive-order
[5] 杨辉,陈高云等.当代生物技能对生物武器的影响[J].生物医学,2022(12)
[6] Security Considerations at the Intersection of Engineering Biology and Artificial Intelligence [EB/OL]. https://ebrc.org/security-engineering-biology-artificial-intelligence/
[7] Bio X AI: Policy Recommendations For A New Frontier [EB/OL]. https://fas.org/publication/bio-x-ai-policy-recommendations/
[8] Catastrophic Risks from AI 2: Malicious Use [EB/OL]. https://www.lesswrong.com/posts/MtDmnSpPHDvLr7CdM/catastrophic-risks-from-ai-2-malicious-use#Story__Bioterrorism
[9] Preparedness [EB/OL]. https://openai.com/safety/preparedness
[10] Assessing the Risks Posed by the Convergence of Artificial Intelligence and Biotechnology [EB/OL].https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7310294/#B14
作者简介 张芮晴 ***发展研究中央国际技能经济研究所研究三室 研究方向：生物领域形势跟踪及关键核心技能、前沿技能研究 联系办法：zhangrq98@163.com 编辑丨郑实
研究所简介
国际技能经济研究所（IITE）成立于1985年11月，是从属于***发展研究中央的非营利性研究机构，紧张职能是研究我国经济、科技社会发展中的重大政策性、计策性、前瞻性问题，跟踪和剖析天下科技、经济发展态势，为中心和有关部委供应决策咨询做事。“环球技能舆图”为国际技能经济研究所官方微信账号，致力于向"大众年夜众通报前沿技能资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
电话：010-82635522
微信：iite_er
本文系作者个人观点，不代表本站立场，转载请注明出处！
