构建与学术的桥梁 拉近与威信的间隔

复制链接，关注《测绘学报》抖音！

【测绘学报的个人主页】长按复制此条，长按复制打开抖音查看TA的更多作品##7NsBSynuc88##[抖音口令]

本文转载自微信"大众年夜众号：慧天地，来源：上海人工智能学会。
版权归原作者及刊载媒体所有，所刊载内容仅供互换参考利用，不代表本刊态度。

郭毅可 欧洲科学院院士、英国皇家工程院院士、喷鼻香港浸会大学副校长。
1985年本科毕业于清华大学打算机系，1986年硕士毕业于清华大学打算机系，1993年博士毕业于伦敦大学帝国理工学院打算机系。
伦敦大学帝国理工学院打算机系打算机科学教授，上海生物信息技能研究中央客座教授、首席科学家，帝国理工学院并行打算中央技能总监，伦敦E- Science研究中央首席科学家，英国InforSense有限公司董事会主席兼首席实行官。
是国际有名的数据科学研究先驱，领导开拓数据剖析和机器学习的创新科技。
他近年集中研究数据科学和数据挖掘在生命科学、医疗保健、环境科学和创意设计等方面的运用。

2020年8月22日，郭毅可院士在第三届上海人工智能大会揭橥主旨演讲。
演讲题目为：人工智能的热望与冷思考。
从伦理道德领域阐明了对人工智能的镇静思考。
(以下是演讲实录)

郭毅可院士***演讲现场

大家都知道这几年人工智能的发展，大家都抱有很大的希望，在这个希望中间我们也看到人工智能的发展刚刚开始，有许多主要的问题须要研究，从这个意义上来说，我们须要用镇静的头脑思考它的发展方向，来考虑一些根本性的问题。

一、人工智能的发展要素

1、高质量的数据资源、大数据

2、处理数据非常好的学习算法

3、支撑算法的算力

我们怎么样得到这些大数据？这须要有一个很好的根本架构，也便是须要有一个很好的数据生态环境，数据资产化技能，也便是本日发展很快的区块链技能。

如何把人工智能利用到实际过程当中去，用到生活中？这中间须要一个非常主要的能力——交互能力。
在人和机器在一起的时候，我们的形式变革，也是支撑人工智能发展的一个主要的成分。
如果我们不重视这个成分的话，那么人工智能的发展也不可能康健，也很难取得进步。

二、人工智能的发展方向

1、机器学习的内涵

所谓的机器学习便是我们机器得到知识的能力，谈到演化，刚才讲了三个方向，数据量、算法越来越丰富，还有便是算力越来越强大。
这三个方向同时浸染，导致了本日获取知识，从手工获取不须要数据量，到了我们可以向机器描述一些逻辑规则，我们把知识直接见告他们，还有一个便是中数据量，来进行机器学习，建立一些中等数据量的模型，末了是数据挖掘，一贯到本日的深度学习，紧张是大数据量，一个比较繁芜的算法，超强的打算能力来支撑的。
这里面很主要的一点，便是知识获取的自动化程度越来越高。

郭毅可院士***演讲现场

2、从认知学角度看机器学习

机器学习有很多说法，也有很多数学模型，但是我们讲到底，机器学习和人脑学习的基本逻辑和基本过程是类似的。
我们首先通过一个不雅观察，来得到信息，也便是不雅观察结果数据，知识是通过模型来表达的，脑里的知识也是一种模型，对天下的意见，通过不雅观察得到的抽象意见。
在这样的模型当中，我们做什么事情呢？对这个天下要做学习判断，如果说我们不雅观察，我看到了和我脑筋中得出的判断或者说某种预测相同等的话，这个时候我们就认为模型是精确的模型，我们不会做什么太多的动作，只是得到一些验证，但是如果说这个模型和不雅观察不准，就会涌现所谓的预测偏差，这个预测偏差会导致人做几件事情，第一件事情，我们要改变模型，我们相信不雅观察是精确的，于是就要对模型做一些变革。
还有一种可能，便是我们认为模型是怎么样的，我们要做什么，这个不一致就导致了我们对这个天下要做一些改变，改变认知是学习，改变天下是行动，这便是认知学大略来讲对机器学习的理解。

3、机器学习的表达形式

● 找到效用函数我们在大脑当中有表达形式，在现在的机器学习上，表达模型的形式基本上便是一个函数，也便是说我们学习的目的是找到这样的一种函数，这个函数使得结果和我们的不雅观察比较同等，这就表达为上面的公式，偏差最小化。
学习的目的一个是找到函数的形式，一个是找到函数的参数，不管学习是什么样的，事情的目标都是同等的，便是找到这样一个模型，这个模型能够和学习目标有同等性，来达到这样的目的。
以是学习是一种过程，有一段话，是关于现在学习的一种抽象的概括，图灵奖得到者讲的一句话，须要对现在的人工智能在一个大样本上进行描述，这个不雅观点还是比较客不雅观的。

现在我们就要问几个问题，在这样的学习框架下，我们怎么样向机器表达，反过来讲便是刚才所说的一个很主要的条件，我们要用机器表达我们学习的目的，一个模型和不雅观察之间的隐私性，这样的一个说法，总是以这样一个效用函数来表达，要么最大化要么最小化，不管怎么说，这个时候我们哀求一个函数A可能是一个参数，或者说是一种行为，或者说是强化学习，如果是一样平常性便是一个参数，在这个参数取得的情形下，取得一个X概率，哀求均匀的丢失是最大和最小，如果说收益的话最大，便是这样一个模式，首先要确定一些参数，找到参数，然后参数的目标是哀求均匀的丢失和均匀收益，是最大还是最小，丢失最小，收益最大。
这个时候我们做的时候哀求求出来的函数和不雅观察级之间的偏差最小，强化学习就哀求最大，强度最高，对付不同的行为哀求均匀的褒奖是最高的。
这便是效率。

我们人见告机器做什么，如果说哀求机器做的更多的话，哀求不仅要达到最好的结果，同时要知足一定的伦理哀求，这样的话用这样的效率函数来表达是非常不随意马虎的。

● 效用函数求优 找到最大或者最小的参数，先不讲求优的过程，未必能找到最优的结果，我们用算法来担保。
第二个问题在于我们这样的模型，由于数据不雅观察的弊端改变，实际上这种模型须要迁移，也便是说模型本身须要不断变革，这个时候我们就有一个很大的问题，便是模型的进化，数据变革之后能不能优化。
还有一个很大的问题，求优的过程是学习的过程，这样的过程每每是很难明得的，求优的时候的含义我们并不清晰，以是怎么办，为了求优，我们必须要调度参数，这些调参，我们怎么样改变，这个有点像一个炼金术，我们并不知道，这些都是会导致很大的问题，首先第一个模型是不是可以进化，第二个这个学习过程，是不是能够被阐明，这些都是很主要的问题。

郭毅可院士***演讲现场

4、机器行为

这个行为是指人对机器的感知，这个时候就有很多问题，比如说机器和人一起诊断看病，这是对行为的一个很大的哀求，要行为能够阐明，我们能够验证精确性，这个行为这个决议确定是不是精确，凭什么我要相信你，还有一个很主要的便是右边的图，一个军事行为的运用，怎么样担保全体操作，什么时候可以开枪，什么时候必须考虑到平民伤亡等等，这些都是非常主要的行为准则。

讲到机器行为，我们可以轻微做一个抽象的阐明。
(行为四要素）

● 行为的目的是不是能够按照人的意图去改变周围的环境，这个非常主要。
也便是说你的目的是好的还是坏的，是合理的还是不合理的。

● 行为的原则 干工作的基本原则，你知道什么是错的，什么是不能做的，是不违背人类的伦理和规范。

● 行为的结果结果是不是你该当做的事情。

● 行为的依据你得出来的结果是为什么得出这样的结果，根据是什么。

5、机器学习运用的伦理思考

● 政治 撰写一个***，原则是不是可以被理解，这个原则是不是合理的，怎么对***的天生算法有可靠性。
比如说现在的深度构架，这里面有一张照片，蔡英文背后的一张照片，背后是毛主席长征，这样的照片，当然还有很故意思的***效果，但是这是真的还是假的，还有便是法律，如果机器人对一些案例做一些机器判断，有没有偏见，是否有不可预测的后果，也便是说实际上这样的投放会导致什么问题，原来犯罪率很低的问题犯罪率高起来了。

● 营销推举系统，我们要考虑对消费者的危害。
有一个说法是过于泡沫，一个推举我喜好什么，一贯向我推举我喜好的，于是乎就形成了一个泡沫，我只喜好原来喜好的东西，我自己给自己布局了一个局限，这种事情是不是合理的。

● 金融算法定价，算法定价的原则是什么，是价格公正吗？还是说竞争，是否会造成恶性竞争或者价格战。
我们都知道我们买飞机票都有一个算法定价问题，由于算法定价常常会造成一个很大的抵牾，看到下雨了须要打车，这个某种程度上来讲，最大化商业利益，伦理是不是精确的，这些都是很主要的要考虑的问题。

● 智能汽车真正要投入利用，倒不是技能难点，加上自动驾驶最大的问题是路权选，谁有权用这个路，如果两个车一起开，必须担保对人的侵害最小，如果说人和机器在同一个路上的话，如果人知道有这样一个基本事理，可以恶性和机器进行较劲，这样的话车永久开不了，这种情形下怎么办理路权选择的问题，人开的车和机器开的车怎么做路权选择。
做城市管理的时候有一个道路交通管理，这些方面的平衡，人工智能怎么来做，也是一个非常主要的话题。

● 机器诊断诊断是否可以验证，康健监护，各种缺点的代价，对付紧急情形如何做应对的，这些都是很大的问题。

● 社会信用体系与社会互换信用低的人剥夺权利，是不是在一个的管理当中是真正合法的，和我刚才说的是一样的，如果说真的做互换的话，未必改变社会关系的组成架构，家庭也有，谈天及其对谈天者的生理影响，性爱机器人是否会改变人类的自然感情，这些问题都是在我们理解机器行为上是非常主要的一些例子。

郭毅可院士***演讲现场

三、人工智能研究的主要问题

1、如何向机器表达对的目的，也是未来的主要问题。
未来的人工智能，我们不求让机器做的多，而是哀求机器做的对。
做的多该当是相对随意马虎的，但是要机器做的对，就不是那么随意马虎了，我们这里面考虑的是什么是对，这个行为原则，如何向机器表达对的目的，见告你怎么做什么事情，怎么见告是准确，怎么样见告是有效，怎么样见告是真正的能够表达的清晰一点，这又是一个问题。

2、如何判断机器做的对不对，假定说我已经表达的很清楚了，以前的结果和现在的结果有一个验证。
还有一种理解机器做的对的缘由，机器行为的阐明和验证，这些都是须要论证的。

● 什么是对 这便是最难的，这便是人工智能的伦理问题，这是一个哲学问题，这里面有很多的原则，这三大原则非常主要，对付什么是对的，在不同的社会环境和代价体系当中都是不一样的，有些我以为是对的，比如说我们举个例子，首先是要有利他主义，什么意思呢？不是利己，是帮助人类，而不是利益自己。
第二个是谦善法则，我须要把人类代价最大化，但是不知道人类代价到底是什么，不能够凌驾我们之上。
第三个是学习能力，不仅是自身学习，也可以不雅观察我们来进行学习，或者说用机器措辞来间接学习，从这些方面来学习知识和数据。
当然这只是一种，很多人都有不同的理解。

● 怎么表达对什么样的效用函数可以表达我们的目的，这是模型形态，而不是说掌握行为办法。
效用函数是合理的或者说有效的办法吗？拿这个效率函数来做人工智能，怎么样来衡量一个行为，怎么样定义这个行为，人工智能是若何理解的。
最大自由化是好征象吗？每个个体的最大自由化便是无政府主义了。
验证这个函数的证据是什么，这个机器行为可以用效用函数来完备确定吗？经济学有两个主要的研究，代理人原则，机器人代理了我们的事情，找任何代理人的时候都碰到一个抵牾，要确定这个代理人因此你的利益最大化为原则，还是以自己的利益最大化为原则。
比如说我们找状师，这个状师到底是为我找官司，还是说想把这个问题搞的更繁芜一点。
还有一个不可预知原则，你表达的事情是好事情，但是每每找到不想要的结果。
这两个原则都使得我们要负责思考，如何向机器表达我们的目标。

● 如何判断机器做的对不对第一个验证方法便是和目标是否同等，另一个是求得最优。
这里面有两个场景，如果说这两条曲线，一个是更精确，还有一个是敏感度哀求更高，这两个不是一个事情，有一个便是假定模型，这个模型很故意思，有哮喘的肺炎患者，去世于肺炎的可能性较小，这合理吗？不合理，如果有哮喘该当去世亡率高，为什么反而低了。
由于有哮喘很快就会受到正常的照顾，这样的话反而随意马虎生存，以是数据不敷，以是说90%的AI构造都是没有验证的。

● 如何理解机器做的对的缘由现有的深度学习模型不能向用户阐明其行为，设计者也无法理解其行为过程。
这当中有很多研究，有一些早期的事情，比如说现在要拿一个深度神经网络，判断这是什么动物，但是有一个很大问题，我学了一个模型，我给出一个斑马的图形，你可能就判断出行分布了。
这个时候怎么样来学习，把一些图片特色编码，每一段编码或者数字代表了什么含义，这样可以通过一个学习办法，把人的特色一起进行学习，这就有一个很大的好处，即是说你做了人的标注，如果说这些过程最主要的原则是用空间来阐明，我们现在做的事情把这个观点再扩大一些。

四、人工智能的本日和来日诰日

人机共生天下，在人机共生的社会中，人和机器的互相交流是最主要的，人要理解机器的行为，机器要理解人的意图。
对机器行为的阐明，理解和验证，以及机器行为的伦理性是人工智能研究的核心课题。
学习的可阐明性是一个方向，还有一个方向便是向机器表达，作为对机器行为的阐明和验证，以及机器行为的伦理是核心的问题，在没有办理这些问题之前，或者说这些问题没有被深入理解之前，我们奢谈人工智能将来什么样，人工智能会不会导致机器统治人类来为时过早。

我们不要神话它：它是实实在在的算法。

我们不症结怕它：它是不可避免的未来。

我们不要轻视它：它会改变我们的社会。

我们不要忽悠它：它不是靠钱可以堆出来的。

我们要以我们东方文明特有的原谅来研究和运用它，把它作为我们社会新的存在，想如何和它共处。

这是我理解的发展方向。
感激大家！

《测绘学报（英文版）》（JGGS）专刊征稿：LiDAR数据处理

论文推举 | 张作宇,廖守亿,孙大为,张合新,王仕成：稀疏差异先验信息支持的高光谱图像稀疏解混算法

测绘图书 | 卫星导航定位技能文集（2020）

资讯 | 南京师范大学“陈述彭大讲堂”开讲暨“地理信息科学专业陈述彭班”开班仪式议程

威信 | 专业 | 学术 | 前沿

微信、抖音小***投稿邮箱 | song_qi_fan@163.com

欢迎加入《测绘学报》作者***群： 751717395

进群请备注：姓名+单位+稿件编号