在人工智能高速发展的本日，正如许多专家所预言的那样，战役机器人可能是继核武器之后，又一把悬在人类头上的“达摩克利斯之剑”。
这引发人们寻思：人工智能究竟会被“驯服”，成为人类的朋友？还是会“叛逆”，给人类带来无尽的灾害？

难以抗拒的诱惑

高度智能化打破人类生理极限

人工智能作为物联网、大数据、前辈算法和强大打算能力支持下的一种“群技能”，通过授予“物”以人的智力，仿照和扩展人的聪慧，赞助乃至代替人实现多种功能，进行认识、剖析、决策、行动等活动。
其核心上风是高度自主性，能够较少或完备不须要人工干预就可完成繁芜、繁重和精确性高的任务。

人工智能可以使人从繁重的重复性事情中解放出来，专注于创造性、创造性的事情。
比如，在以前的指挥决策中，指挥职员85%的韶光用于情报处理剖析，只有15%的韶光考虑作战，而采纳智能化情报处理系统后恰好相反。
当代沙场态势高度繁芜、变化多端，完备依赖人的认知去理解沙场态势变得越来越困难。
而利用智能化数据处理技能，就可以在大数据中创造繁芜事物间的关系，从实质上打破人类剖析联系事物的局限性，还可依据对大量沙场数据的剖析，供应可行性的决策建议。

人工智能具备自主学习能力，且运算精确度高，不受环境与生理等成分影响。
2017年12月14日，美国宇航局宣告利用谷歌人工智能机器人的学习能力，对开普勒太空望远镜网络的3.5万个可能的行星旗子暗记、140亿个数据点及大约2万亿个行星轨道进行剖析，创造了首个险些和太阳系一样的星系，其效率和准确性远超传统的剖析方法。
同样，高度自主化的无人作战系统，在后方操纵职员的监控下，能够自动搜索和跟踪目标，自主识别环境并方案机动路线，快速捕捉战机履行精确打击。

人工智能还可通过打算机视觉、语音处理、自然措辞处理等技能，使系统更加精准地理解人的行为并按照人的意志行动,实现人机高度领悟。
比如，在智能掌握领域，能够通过语音办法下达指令，由系统转化为机器措辞，实现作战命令的快速下达和武器装备的精确操控。
在单兵助力方面，外骨骼系统可通过感知人体运动意图，提升士兵的承载携行、搬举能力，同时又能实现人机一体化，保持士兵的高度灵巧性。

可以预见的风险

人工智能带给人类巨大威胁

美国“脸书” CEO马克·扎克伯格曾放言：“人类当下面临的最大威胁是什么？无疑是人工智能！
”但就当前来讲，人工智能的“威胁”还不存在，由于它只专注于完成某个特殊设定的任务，比如下围棋就仅仅会下围棋。
而未来超过人类聪慧的超人工智能具备知识迁移能力，可以充分利用已节制的技能办理新问题，这就有可能给人类造成巨大威胁。

实现高度自主并可能“失落控”。
未来超人工智能开始具备自主思维意识，能够像人类一样独立思考，并自我决定如何行动。
因此，自主智能机器系统虽然由人类设计制造，但它们的行为却不受人类的直接指令掌握，而是可以基于在不同情境中对其所得到的信息进行剖析、判断和决策，形成不须要人类参与或干预的“感知—思考—行动”模式，并终极超出创造者预见或事先掌握的范围而失落控。

这种高度智能化的系统还能够通过学习进行机器再造，可以快速复制或再生其他新的人工智能体。
据专家推算，一个失落去掌握的正在自我复制的纳米机器人，完成130个复制周期只须要3个半小时，考虑到纳米机器人向外移动扩展等成分，最多只需数周就可以“摧毁”地球上的统统生物。
这也便是为什么霍金多次“告诫”人们：人工智能一旦分开束缚，就会以不断加速的状态重新设计自身。
而人类由于受到漫永生物进化的限定，无法与之竞争，终极或将被取代。

遭遇造孽入侵可能被“黑化”。
人工智能作为一种新兴的技能领域，一样平常来说，没有安全漏洞是不可能的。
而如果有人利用这种漏洞掌握智能系统或机器人去履行毁坏活动，这样的后果是极其恐怖的。
而且，随着人工智能的发展，其他工具包括人工智能的技能开拓和复制也变得越来越随意马虎。
也便是说，未来任何人都可以利用该系统去实现自我复制或繁殖其他人工智能系统。
因此，超人工智能系统一旦被造孽获取或操纵，将产生巨大的毁坏力量。

爆发机器战役造成武力“滥用”。
未来大量智能化无人系统将利用于沙场，“去世伤”的紧张是没有生命并可以大量再造的“智能机器”，使战役本钱大大降落，并能够实现作战职员的“零伤亡”。
战役的政治、外交风险明显降落，这就可能会因战役顾虑和压力减少而降落战役决策的门槛，导致军事强国在武力利用上更加随意，从而使战役的爆发更加频繁，战役从“末了的选择”转变为“首先的手段”。
为此，许多科学家呼吁禁止“致命性自主式武器”的研发和利用，并警告这将引发环球性人工智能“武备竞赛”，人类社会将可能深陷战役泥潭。

未雨绸缪的戒备

给人工智能戴上“紧箍咒”

霍金曾这样评价人工智能：“它既可能成为人类迄今发生过的最好的事，也可能成为最糟糕的事”。
我们既不能盲目乐不雅观，也不能因噎废食，必须及早给未来人工智能的发展套上必要的安全、伦理等方面的“紧箍咒”，同时又不能阻碍技能创新和人类社会进步的步伐。

从技能安全角度建立共同遵守的发展准则。
根据人工智能可预见的风险，建立天下范围内的人工智能发展准则，对研究范围、内容、目的、用场等各个方面进行规范，确保安全、可控地发展人工智能。
比如，对付智能系统到底该当实现到什么样的自主程度，授予其多大的自主权利以及哪些方面不能实现等进行明确限定。
2017年1月，在美国加利福尼亚州举办的阿西洛马人工智能会议上，近千名人工智能和机器人领域专家已联合签署了《阿西洛马人工智能23条原则》，呼吁天下在发展人工智能时共同遵守，成为人工智能安全、有序发展的良好开端。

从道德伦理角度建立科学严格的评估机制。
人工智能紧张是基于算法，而算法在实质上是“以数学办法或打算机代码表达的见地”，是设计者、开拓者的主不雅观创造，有可能将自己的偏见、代价不雅观嵌入算法系统，制造出不符合社会道德规范的智能机器，这就须要对其进行严格评估以确保安全。
2016年12月，美国电气和电子工程师协会启动了人工智能伦理工程，提出对嵌入智能系统的规范和代价进行评估，以确定其是否和现实中的道德代价体系相同等。
我国在《新一代人工智能发展方案》中也提出“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。

从规范利用角度建立具有法律约束力的普遍性制度条约。
任何一种前辈技能能否产生威胁，紧张看利用者出于何种目的、如何利用。
诚然，面对人工智能的巨大上风和潜在利益，特殊是在涉及国家安全领域方面，直接禁止利用人工智能技能是不现实的。
这正如国际上禁止或限定利用“致命性自主武器系统”一样,至今无法取得任何本色性进展。
因此，应呼吁建立具有法律约束力的国际性条约，对某些分外功能的智能系统风险和技能扩散等进行规范和预防。