这份报告名为《人工智能原则:国防部人工智能运用伦理的多少建议》,提出了“卖力、公正、可追踪、可靠、可控”五大原则。

美国防立异委员会宣告军用人工智能伦理原则_人工智能_国防部 绘影字幕

报告强调国防部应确保技能专家对人工智能的技能、开拓过程和操作方法有足够理解;国防部应避免偏见,以防在开拓和支配战斗或非战斗人工智能系统时对人造成无意侵害等。

委员会还提出12条建议,包括通过国防部官方渠道将这些原则正式化,建立一个国防部范围的人工智能辅导委员会,确保人工智能伦理原则的精确实行,召开有关人工智能安全的年度会议等。

美国国防创新委员会是一个独立的联邦顾问委员会,旨在为国防部高等领导供应建议。
成员包括来自谷歌、脸书、微软等科技企业的高管和专家。

委员会成员、打算机理论学家丹尼·希利斯说,人工智能有可能进化出设计者难以预见的行为办法,有时人工智能类似于自我保护的行为可能会有违设计者初衷,这是一大危险。

美国很多科技公司员工反对将人工智能用于军事。
去年,谷歌公司超过4600名员工联名敦促谷歌不再参与美国军方一个项目,该项目借助人工智能识别军方无人机所摄画面中的潜在“目标”。
谷歌随后决定不再与军方续约,承诺不会把人工智能用于武器等可能造成人身侵害的项目。
【编辑:张一凡】