行业云

张钹院士:为什么在人工智能上往往产生过于乐观估计?

点击上方蓝字可以订阅哦!

本文根据张钹院士的演讲速记、AI科技评论等媒体报道综合整理而成。


9月21日,2019第五届中国人工智能大会(CCAI 2019)上,清华大学人工智能研究院院长、中国科学院院士张钹上午进行演讲,题目是「迈向第三代人工智能的新征程」

以下为张钹院士的演讲内容(在不影响原意的情况下略作整理):

张钹:我今天讲的题目是「迈向第三代人工智能的新征程」。这个题目是我经过认真考虑的,特别加了「新征程」。

我一直向大家传达一个信息,人工智能遇到新的机遇,如果我们有可能突破现在面临的问题,人工智能就会长足往前发展。

人工智能有个特点,我今天在报告里面主要传达这么个特点:大家不能指望人工智能一出来就毕其功于一役。它永远在路上,这就是人工智能的魅力所在。

我们看一下人工智能究竟做了什么事儿?第一件事就是第一代人工智能提出的符号模型,以知识经验为基础的推理模型,这是人工智能的第一个重大突破。

这个突破后来产生了一个结果,就是这个理论提出时有个非常乐观的估计,1956年由西蒙提出,基于这种模型,十年之后机器可以打败所有棋手,二十年以后机器取代人类所有的工作。

实际并不是这样,六十年以后机器才打败棋手,机器究竟代替人类的所有工作是什么时间,可能还很遥远,这也是人工智能的另外一个特点,往往被高估。

人工智能的第一代模型,有优点,但是也有很大局限性。这个优点是显然的,因为它是模仿人类的,它可解释,鲁棒性很强,但是它的局限性也非常大。因为最大的问题是人类的知识经验,很难准确表达,这就是产生的后来人工智能冬天的根本原因。

当时的应用很有限,几乎没有推广,但是,有了大数据以后,这个问题得到了很大改善,特别是机器的能力提高以后,可以把大量的数据作为知识放在机器里,这就是最典型的沃森系统。

沃森系统可以做癌症的免疫治疗,这里面用多少知识呢?100万个医学杂志中抽取的2500个摘要,400万病人的数据,再加上1861年以前所有药物的专利,它有医学知识,并联的数据再加上药物知识,就可以做癌症的免疫治疗。

当然了,很多慢性病的治疗和管理,这个系统也做得很好,中国的国内也有大量这方面的工作在探索和研究。

第二代人工智能,一个最重要的成果就是深度学习。也就是说,第一代人工智能提出来,如果能够很好地利用人类的知识,就可以建立很好的人工智能系统,如果我们有充分数据,也有可能建立起有用的人工智能的系统。

深度学习为什么这么受重视?一个很重要的原因,它有两个重大变化。当网络层次增加以后,有两个重大变化:第一个变化,输入只要原始数据,不需要预处理。第二个是性能提高很多,这就造成了深度学习的重大突破。也就是说,它从一定意义上有通用工具,对领域的知识要求不高,同时能够处理大数据。

这就带来很大的变化,大家也看到了,语音识别,2001年时它的识别率停留在80%,也就是20%的误识别率;2016年误识率就降到了5.9%,达到专业速记员的水平,到了2017年,所有产品包括谷歌、微软,包括中国的讯飞、百度,用的全是深度学习。

变化更大的是图像识别。有一个标准的图像识别数据集 ImageNet,大家知道,2011年,它的误识率是50%,有一半认错了。但是四年以后,2015年就超过了人类水平,原因也是利用了深度学习。

最后一个,给大家印象最深就是AlphaGo,大家都知道了。因此就有很多估计,十年之内代替40%以上人类的工作,三五年里面,智能驾驶车就可以量产,等等,刚刚李院士说到了这个问题,他分析得很深刻。实际三五年里面不可能量产。

技术已经完全成熟,我们现在的研究已不成熟,主要是应用问题。为什么在人工智能上往往产生乐观估计?主要原因有两个:一个是对发展人工智能的困难性估计不足,对取得的成果估计过高。一个估计不足,一个估计过高,就产生了问题。

另外一个很重要的原因,受历史事件的影响。过去我们发现,有了蒸汽机以后就产生了工业革命,有了电动机发动机以后就产生了电气革命,有了计算机以后产生了信息革命,大家很希望有一个东西出来以后引起人工智能的革命。

现在的问题是,有没有?至今为止,还没有发现人工智能里面的蒸汽机和计算机。曾经最开始寄希望于符号模型,结果发现符号模型也没有那么管用。第二次发现的是大数据+深度学习,以为大数据+深度学习就是人工智能的蒸汽机和计算机,为什么这样?

这不能不考虑到人工智能的特点,我们说深度学习根本不是AI的通用机。现在大家在寻找通用的人工智能,到底有没有,还有争论,不去管它,但至少深度学习不是人工智能。这个非常明显,第一代人工智能也好,第二代人工智能也好,它的应用场景必须满足以下五个条件。

从正面来讲,所有的应用场景,如果满足以下五个条件,计算机绝对能够战胜人类,不管这个问题多么复杂:具有丰富的数据或知识,完全信息,确定性信息,静态,单领域和单任务。

最明显的例子是围棋,围棋多么复杂,但是围棋满足这五个条件,所以计算机战胜在围棋上战胜人类是早晚的事情。所以从正面来讲,如果你满足这五个条件,不管多复杂,计算机绝对战胜人类。

长远来看,如果你的应用场景不完全满足这五个条件,其中有些条件不满足,你这个工作就变成困难。自动驾驶为什么如此困难?根本的原因在这里。

为什么我们难以做出来廉价、可靠的自动驾驶呢?背后的原因就在这里,因为自动驾驶很多条件都不满足,它不是完全信息,它不是确定性信息,它不是静态的环境,或者是按照确定性规律演化的,它的很多东西是不可预测的,它也不是单领域的,里面有人驾驶的车、行人、其它车辆。

所以刚刚李院士提出来专用道,就是把这些东西弄干净,变成单领域。所以我们一直说,如果有些条件是不符合这五条,你就需要下功夫。

现在人工智能能够在这些领域里面得到应用,换句话说,这些领域里面有很多应用产品符合刚才讲的五个条件。如果这些领域里面的应用场景符合五个条件,大家大胆去做,绝对会超过人。根据现在计算机强大的力量,是可以做到这一点的。

但是,这些应用里面,也有大量不符合那五个条件的,大家必须下功夫,不能指望靠现在的第一代、第二代人工智能去解决它。

举个简单的例子,复合场景下的决策,完全信息条件下的决策或者完全信息下的博弈,计算机战胜人类是绝对的。下面一个问题,不完全信息的博弈及打牌,大家都知道,今年5月份对扑克牌这个问题也解决了。

换句话说,6人无限注的德州扑克,计算机能战胜人类,这就意味着概率意义下的不确定性,机器也可以战胜人类。但是人类的决策环境都不符合前面两个条件。

所以,在复合环境下的博弈或者复杂环境下的决策,机器跟人类还差得比较远。从这里来讲,应用场景是极为重要的。

第二个,我们必须要重视的,用数据驱动的方法做出来的系统,有大量毛病,或者说这些毛病是根本性的,是极为危险的。这里面列出来的,简单举个例子,一个图像识别系统,都可以说它的识别率超过人类,但是这个图象识别系统跟人类的感知完全不同。

就是这样的系统,你给它噪声,它可以识别为知更鸟。你给它一个噪声,它可以识别为猎豹。换句话说,模式识别系统并没有达到人类认知的水平,只达到低等动物的水平,所以感知这个词翻译得非常好,感觉+知觉,低等动物只有感觉,没有认知。

所以,机器现在达到的水平是低等动物的水平,它可以分辨不同的物体,但是它本质上不认识这个物体。另外是它非常脆弱,非常容易受攻击。

这是阿尔卑斯山图片,人起来是,机器看起来也是,只要给它加上噪声,右边这个图和左边那个图,唯一的区别是噪声多一点,人看起来还是阿尔卑斯山,机器看起来是一条,而且它的置信度是99.99%,它99.99%认为这是一条狗,非常容易受欺骗,这就说明机器跟人的认知差异非常大。

语音也是同样的道理,前面的英文说的是一句话,我们加上一点点噪声,人听起来还是一样的,机器听起来就是另外的内容,这就非常危险。

搞军事的人说,过去你语音传过去,它进行干扰,你听不见而已。现在语音传过去,它说进攻,可以让你听成退却,加一点噪声就行了,这就是AI的安全性。

另外,缺少自我知识,这是非常重要的。你说我用这个话,让它翻译,「说你行的人行」,这句话计算机怎么翻呢?「说你专业的人行道」,瞎翻,为什么瞎翻?它不知道自己不知道,没有任何自知之明。这是很危险的。为什么翻译成人行道呢?「人行」,它以为是人行道。为什么翻译成「你的专业」呢?「你行」。这是非常危险的。

大家想想,我带了一个翻译,翻译水平挺高的,大多数翻译是很准确的,但是他会瞎说,你敢用吗?人类不会,因为他知道这句话如果没有听明白会再问是什么意思,计算机没有自知之明,人贵有自知之明,这是人类智慧的一个部分。怎么让机器有自知之明?这是很困难的事。

下一步,我们现在有个新的历史机遇,就是迈向第三代人工智能。第三代人工智能就要纠正前面说的两个局限性,建立可解释、鲁棒的人工智能理论,发展安全、可信、可用的人工智能技术,促进人工智能的创新应用。

我们成立人工智能研究院就是想担负这个责任,用什么办法解决这个问题?就通过一个核心和两个融合:一个核心是加强基础研究,必须从理论上去突破。

我们刚才讲了,深度学习,所以有这么多毛病,这个原因是它的原理开始的,它的原理就不对,不是用人类一样的原理。

所以,我们必须更好地去解决它,才有可能往前迈进。用的方法主要是两条:一个是多学科交叉,必须多学科交叉,跟心理学、神经科学。

大家知道,第一个模型是心理学家提出来的,第二个模型是神经科学家和数学家提出来的,都不是计算机的人提出来的,必须要加强学科交叉,应用结合。

我们一共成立了十个研究中心,包括全校的18个系和学院,利用各种学科,不光是计算机的,不光是信息领域的,也有心理学的、法律的、文学的,都参与进来。

除了技术上的研究以外,目前人工智能的技术与治理也是重大的问题,现在清华大学也参与了这个工作,必须在国际上要有我们的话语权,要在这个问题上发出中国的声音。

做的办法有两条:一条是新原理和新模型,就是跟其它学科交叉,我们都在做。还有脑科学启发的,还有神经科学的。把数据驱动和知识驱动结合起来,也是重点做的内容,我们已经有不少成果。

大家看展览,我们用的珠算平台开了一个公司,就是应用新的算法,比谷歌算法又进了一步,带了第三代算法的特色。第一轮投资,对我们平台的估值是7亿人民币。

这个平台跟国际已有的其它平台相比,还是有很多优势的。我们也在知识表示、知识推理上做了很多工作,还有小样本、因果推理。常识,刚才李院士也提到常识推理。

最后做一下总结,人工智能的确是本世纪最重要的发展领域之一,它的发展将会对人类产生重大影响。但是我们一直强调,人工智能不像以前遇过的科学,以为某一个定理解决了,所有问题就迎刃而解。

人工智能太复杂了,我们要不断往前推进,才能使人工智能进一步发展。

推荐阅读

李德毅院士:自动驾驶泡沫破碎 四个要素不可忽视

阿里AI Labs引进年薪百万美金的科学家值不?

《长安十二时辰背后的技术秘籍》公开,下载

马蜂窝 IM 系统架构的演化和升级

亚马逊CTO的“中台”实践经验总结

民生银行数据中台体系的构建与实践

腾讯万亿级分布式消息中间件 TubeMQ 正式开源

年度最佳出炉|阿里20周年会马云卸任演讲全文

国人一年要扫码15亿次,二维码啥时候会被用完?


公告「AI早餐汇」微信社群继续纳新!欢迎人工智能和大数据领域的技术爱好者、实践者加入!请添加下方Linda的二维码,拉您入群(请注明:姓名+公司)。更多技术交流、精彩内容、活动预告、PPT以及各种福利......不多说,快入群!

获取转载授权、爆料、供稿、采访、约稿、合作等事宜请联系:微信:linda09120809

你也可能喜欢

发表评论

您的电子邮件地址不会被公开。 必填项已用 * 标注

提示:点击验证后方可评论!

插入图片
人工智能是什么? 投稿者
我还没有学会写个人说明!
最近文章
  • * 没有更多文章了
  • 热门搜索

    分类目录