作为第四次科技革命的首创性技能，人工智能对人类社会的发展与转型产生了深远影响。
个中，以算法和大数据驱动的人工智能自动化决策正不断渗透至政治、经济、社会等管理领域的各层面，并逐步取代许多长期以来由人类决策或组织实行的事情。
如今，自动化决策不仅在私人部门和商业活动中被广泛利用，还深度参与到公共部门的政策制订之中。
人们每天浏览的资讯、看到的推送广告、申请到的贷款额度、获取的医疗康健建议等等，很大一部分都是电脑程序通过特定算法对网络到的个人行为习气、兴趣爱好以及经济、康健、信用状况等信息数据进行自动化剖析和评估，并进行判断与决策的结果。

鉴于人工智能在纯技能层面是代价中立的，基于算法的自动化决策具有相对客不雅观、公道、高效的上风。
然而，在实际运用上，历史数据存在偏差、设计者个人偏见嵌入系统，以及技能本身不完善等成分又会导致人工智能系统时时做出错误或歧视性的自动决策。
除了担心“大数据杀熟”等消费者权柄被侵害的问题，人们更为忧虑的是透明度缺少、监管不敷的自动化决策可能令社会陷入“算法暴政”和“数据霸权”的泥沼之中。
构筑健全的人工智能伦理体系，勾引算法向善，戒备滥用之恶，成为当前亟需办理的重大管理问题。

为解析人工智能自动决策中偏见和缺点的成因，消弭管理鸿沟，今年7月，美国海军研究生院打算机系助理教授约书华·A·克罗尔（Joshua A. Kroll）在美国布鲁金斯学会官网揭橥了研究文章《为何目前的人工智能还只是自动化运用而已？》（Why AI is just automation？），磋商了自动化决策过程中准确性、公正性和透明度不敷的问题，并提出了社会与技能深度协同的管理思路。

约书华·A·克罗尔（Joshua A. Kroll）指出，算法偏见造成决策谬误和歧视性结果的紧张缘故原由可以从技能和实务两个层面进行剖析。
首先，从技能层面来看，现有的人工智能管理机制大多还不具备应对自动化决策系统的规模、速率和繁芜性的足够能力。
当前机器学习的主流技能普遍呈现“黑箱”特色，个人用户很难充分理解数据演习的过程和自动决策的机理，难免令人们对算法的公道性产生疑惑。
在医疗、金融、法律等主要领域，“黑箱”随意马虎使自主决策的算法欠缺透明度和可阐明性，进而威胁到人们的基本权利，但现实中法律救援和纠正缺点的有效路子又不敷。
同时，由于算法本身便是规则制订者和系统设计者个人意志与偏好的投射，且随着算法对数据的不断学习，又会在人工智能系统中逐渐固化这些选择方向，从而导致决策偏差的形成。

其次，从实务层面来看，大多数用于公共事务管理的自动化决策系统，其运行规则实际是由官僚行政机构卖力制订。
然而，官僚行政机构在忙于拥抱新技能、支配新系统时，常常会轻忽新的决策产生办法对所有利益干系者的影响，并且对如何将新决策工具有效领悟到现实的行政管理功能之中考虑不敷。
这就随意马虎导致唯技能论，大略地将“运用人工智能”或“以数据驱动决策”设定为目标，却不重视办理实际问题。
一但涌现自动化决策缺点，则又会归咎于系统遵照的规则本身，回避当中的人为成分。
由于人为设定的规则不可能完美适用于每一种情形，做事于公共奇迹的自动决策系统除了要重视通过预设合理的规则来明确处理详细场景的标准，大幅提升决策的规模和速率之外，还必须负责探索如何实现规则的有效性和规则运用的透明度；规则对上风群体和弱势群体影响的相对公正性；规则遭遇例外情形时的折衷办法；当规则涌现整体性失落败时的监督和问责机制等目标，以避免人工智能系统陷入机器依照既定规则行事，忽略识别新问题并及时纠错的管理困境。

当前，改进人工智能自动化决策管理模式的需求已迫不及待。
约书华·A·克罗尔（Joshua A. Kroll）因此提出了三个管理的关键点：首先，要以办理详细问题为导向，重视自动化决策结果的实效，而不是局限于制订技能办理方案本身，将制订决策的任务大略推给技能专家。
只有当系统运用是由问题而不是技能办理方案驱动时，才最有可能取获胜利。
其次，将事前制订合理、公正的规则和建立事后监管与救援机制同时并重，使管理体系的功能更加完善、透明。
自动决策发生缺点后必须有能够升级处理的渠道和酌情处置的补救路子。
干系系统记录要完全保存，以备审计和监管。
第三，为了推动人工智能自动化决策系统与运用的可持续发展，尤其须要大力创建包括政府、企业、社会、用户等在内的多方共同开拓、协同共治的良性生态，以形成应对人工智能近期、远期问题的培植性共识，弥合灵巧变动的实际需求和僵化遵照规则的技能工具之间的断层。
在此过程中，人类应作为有远见的参与者来积极参与系统的运行和管理，而不仅仅是技能的被动接管者。
唯有如此，才有可能超越部门职能和学科藩篱，打破现有范式，重塑全体系统，而这还有赖于长期的能力培植和人才培养。

约书华·A·克罗尔（Joshua A. Kroll）强调，在大数据时期，人工智能自动化决策过程中涌现算法偏见的情形险些是无可避免的。
尚未办理这一问题的人工智能系统暂时还只能算是一种自动化运用而已。
但是，否定或禁用该项技能并非明智之举，关键在于如何纠正和规制。
应该看到，由规则驱动的自动化系统的上风在于能够以可预测的办法将详细的事实置入算法模型，进而转化为特定的结论。
输入系统的事实模式、决策规则与系统打算输出的结果间的关系和过程可以被完全记录，供日后审查和监管。
这为将来实现完善的监督与透明的实行，肃清偏见和歧视供应了可能性。
当然，造诣这一愿景目前最亟需的是社会各界力量深度协同，构建向善的社会技能管理机制，而不是将视野局限于令机器学习各种规则并自动做出决策的技能过程之上。

任务编辑：田春玲

校正：栾梦