资讯专栏INFORMATION COLUMN

Geoffrey Hinton成功之路:从神经网络黑暗时代坚守到今天的胜利

xushaojieaaa / 1011人阅读

摘要:使用神经网络的思路被摧毁和抹黑,教授说,传统的模型得到了人们无疑的信赖。但终于,神经网络奏效了。

深度学习泰斗 Geoffrey Hinton 的名字在当今的人工智能研究界可谓是如雷贯耳,他曾发明了玻尔兹曼机(Boltzmann machine),也首先将反向传播(Backpropagation)应用于多层神经网络;不仅如此,他还有 Yann LeCun 和 Ilya Sutskever 等大牛级的学生。近日,Fred Lum 在 THE GLOBE AND MAIL 网站上发布了一篇介绍 Hinton 生平的文章,UC Santa Barbara 计算机科学系助理教授、CMU 博士王威廉在新浪微博上对此文总结说:「G 的高曾祖父是发明布尔代数的布尔,G 在剑桥先学了 1 个月物理就转了建筑,但只持续了一天。后重回物理,但觉得其中数学太难,转学习哲学。学习一年后,G 对哲学充满了抗体,只好修心理学。后确认心理学家对人类意识也是毫无头绪,这才转到爱丁堡学习 AI。」以下是机器之心对原文的编译介绍。

多伦多大学教授 Geoffrey Hinton 参与谷歌大脑团队的工作,开发人工智能前沿技术

对于多伦多大学计算机科学教授 Geoffrey Hinton 来说,现在应该是一个欢庆的时刻。

出生于英国,现今 69 岁的他是人工智能领域众所周知的「神经网络教父」,神经网络是一种模仿人脑构建的计算机系统,并可自我学习。正如一些专家说的,如同 20 世纪的电力一样,神经网络将——事实上已经——彻底变革人类生活方式。

数年来,Hinton 教授的工作不仅相对来说令人费解,而且在一场长达 10 年的计算机科学学术之争中处于失利的一方。Hinton 教授说,他的神经网被获得了更多资助的人工智能传统论(需要人工编程)者认为是「没有头脑的废话(weak-minded nonsense)」,学术期刊过去常常拒收有关神经网络的论文。

但是在过去的 5 年左右的时间里,Hinton 的学生取得了一系列的惊人突破,神经网络变得十分流行,Hinton 也被尊称为计算新时代的宗师(guru of a new era of computing)。神经网络已经在手机中为绝大多数语音识别软件提供支持,其还能识别不同种类的狗的图片,较精确度几乎可以和人类媲美。

而且世界上较大的科技公司也正往神经网络研究中砸钱,雇佣了许多 Hinton 教授之前的学生,他们在苹果、Twitter、谷歌和 Facebook 等公司进行着人工智能方面的研究。他说人工智能的研究潜力覆盖了从无人驾驶汽车到智能手机的范围,并能比任何皮肤科医生都更好地诊断皮肤癌。人们预计这新一波的技术浪潮将席卷工业界并为发展且调控它的人们带来巨大财富。

Hinton 教授将他的时间分配在多伦多大学和谷歌位于多伦多的办公室里。在谷歌,他是一名工程学者(engineering fellow)并将协助领导一个新的人工智能实验室。他刚刚被任命为新成立的 Vector Institute 的首席科学顾问,那里将开展人工智能研究并致力于将多伦多建设成一个全球人工智能的中心。

除了所有最近这些成绩,Hinton 教授似乎还在进行一项保卫行动。在他位于谷歌的狭窄简朴的办公室内进行的一次访谈中——办公室内没有椅子,他的身后是一面与墙一般大小的白板,上面写满了公式——他不愿在闲言碎语上浪费时间,但热衷于极为详尽地描述仍存在于神经网络的拥护者与那些更传统的人工智能形式的支持者之间的争论。

他说,尽管谷歌给予了 100 万美元的资助,他自己的大学却迟迟没有聘用一位新的神经网络方面的教授。现在,由于研究经费可以自由流动,很多人都在追逐神经网络的潮流。

Hinton 教授说:「现在神经网络有效了,所以业界和政府就开始把神经网络称作人工智能。原来的人工智能领域那些一辈子都在嘲笑神经网络的人则说他们从来没有那样说过,现在也乐意把神经网络叫做人工智能,而且也在尝试从中赚钱。」

(很快就能明显地发现 Hinton 教授喜欢动鼻子。在这次采访中,他对美国总统 Donald Trump 进行了一些负面的评论,然后又通过一个简单的微笑向旁边的谷歌公关表示了歉意。)

传统的人工智能概念依赖于逻辑和规则来给计算机编程。在 20 世纪 60 年代,那时候人工智能的研究还更多处于理论阶段,不能实用。使用神经网络的思路被「摧毁(destroyed)」和抹黑,Hinton 教授说,传统的模型得到了人们无疑的信赖。

但随着过去几年计算机算力的极大增长,神经网络的突破出现了,情况也随即发生了变化。2009 年,Hinton 教授的 2 位研究生使用一个神经网络赢下了一个语音识别比赛,击败了之前较好的成熟方法,该神经网络后来升级并被整合到了谷歌的安卓手机中。2012 年,他的另外两个学生又轻松赢下了一场图像识别比赛。其使用的技术涉及到使用一个包含 100 万张图像的数据库所训练的一个系统,该系统在识别和描述一张图像上的错误率仅有 5%——接近了人类的水平。

为了解释神经网络的工作方式,Hinton 教授举了一个翻译程序的例子。他解释说,使用神经网络作为翻译器涉及到将巨量词汇和句子片段送入一个计算机网络。该系统会找出句子的含义,并将其送入另一个神经网络,然后再以另一种语言输出该句子,而无需使用编程或语言学规则。它甚至能自己学会主动语态和被动语态。

「没有告诉它什么是主动语态和被动语态。就像你的小孩一样,你不会说:『瞧,Johnny,这是主动语态,这是被动语态……』你不会这么说,但他们在一段时间后就学会了。」Hinton 教授说,「对于这些神经网络来说,关键就是它们确实学会了。」

在游历了美国多所大学后,他于 1987 年来到多伦多大学,并将做出这个决定归为两个因素。一个源于加拿大高等研究院资助了他的人工智能研究。另一个则更带有政治色彩:「我不想从美国军方获得资金。在美国,大多数人工智能研究资金都来源于军方。」

Hinton 教授出生于英国的温布尔登,并在布里斯托尔长大,他的母亲是一个数学老师,父亲是一个专注甲壳虫研究的昆虫学家。他的高曾祖父是 19 世纪的逻辑学家 George Boole——现代计算科学的基础布尔代数的发明人。Hinton 教授上的是他称之为的「二流私立学校(second-tier private school)」(在英国被称为公立学校):「在学校中我并不很擅长数学。我喜欢物理学,还有足球。」

后来他去剑桥大学学习物理学和化学,但只持续了 1 个月,就退学并转学建筑,在只学了 1 天的建筑之后,又重回到物理学和心理学,但是发现物理学中的数学太难了,因此转学哲学,花 1 年修完了 2 年的课程。

Hinton 教授说:「这一年大有裨益,因为我对哲学产生了强烈的抗体(antibodies),我想要理解人类意识的工作原理。」

为此,他转向了心理学,仅仅为了确定「心理学家对人类意识也不明所以」。在 1973 年前往爱丁堡大学研究生院学习人工智能之前,他做了 1 年的木匠。他在爱丁堡大学的导师是 Christopher Longuet-Higgins,其学生包括多伦多大学化学家、诺贝尔奖得主 John Polanyi 和理论物理学家 Peter Higgs。

即使当时 Hinton 已经确信不被看好的神经网络才是正确之路,但是他的导师却在那时不久改为支持人工智能传统论点。

Hinton 教授说:「我的研究生生涯充满了暴风骤雨,每周我和导师都会有一次争吵(shouting match);我一直在做着交易,我会说,好吧,让我再做 6 个月时间的神经网络,我会证明其有效性的;当 6 个月结束了,我又说,我几乎要成功了,再给我 6 个月;自此之后我一直说,再给我 5 年时间,而且其他人也一直说,你做这个都 5 年了,它永远不会有效的。但终于,神经网络奏效了。」

他否认自己曾怀疑过神经网络未来某天会证明自己的优越性:「我从没怀疑过,因为大脑必然是以某种方式工作的。而大脑不是以某种规则编程的方式工作的。」

当被问到「机器人会接管世界吗?」这样的烂大街的问题时,他认同应该限制人工智能。他最近还签署了一份请愿书《阻止杀人机器人运动(Campaign to Stop Killer Robots)》,请求联合国禁止人工智能致命武器。他说:「我认为这是最可怕的地方,而且那不是遥远的未来……就是现在。」

他预测说,人工智能也有更好的未来,比如医生使用神经网络来诊断疾病或皮肤癌。它们也可以被用于个人助理,不仅可以提醒你午餐约会,而且还能使用「常识(common sense)」来观察你的行为,在你忘记了午餐约会的时候能根据情况决定是否打断你正在进行的活动。

大银行、有线电视公司和其它许多公司都在尝试使用人工智能来分析销售数据等东西,以便更好地与他们的客户进行交互,Steve Irvine 说。他之前在 Facebook 工作,后来离开 Facebook 来到了多伦多,创立了一家名为 Integrate.ai 的公司来帮助其它公司使用人工智能。

「我认为对他太多赞美都不为过。」Irvine 这么评价 Hinton 教授,「因为他经历过人工智能的黑暗时代,那时候他看起来就像是一位疯狂科学家,人们从没想过这真的会成功……现在,这些已经被谈论了 20、30 年的事情终于发生了,我觉得这对他来说是一个很好的奖励……现在这已经掀起了全世界的狂潮,而他就是教父。这不是一夜之间就能取得的成功。」 

原文链接:https://beta.theglobeandmail.com/news/toronto/u-of-t-professor-geoffrey-hinton-hailed-as-guru-of-new-era-of-computing/article34639148/

欢迎加入本站公开兴趣群

商业智能与数据分析群

兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识

QQ群:81035754

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/4500.html

相关文章

  • 神经网络信徒们

    摘要:有几次,人工智能死在人工神经网络上。在过去十年中,他一直在举办为期一周的有关神经网络的暑期学校,我曾经拜访过。神经网络压缩信息之后,这些信息无法复原。 魔法已经进入这个世界。如今,许多美国人口袋里装着薄薄的黑色平板,这些机器接入遥远的数字云和卫星,它们解码语言、通过摄像头观察并标记现实,挖掘个人数据,它们以某种方式理解、预测着我们的心愿。倾听、帮助着人类。因为与多伦多大学有个约会,这个夏天,...

    ChristmasBoy 评论0 收藏0
  • Hinton传奇:退学当木匠,辞职反军方,终成一代AI教父

    摘要:没有继续完成学业,而是退了学,搬到了当时伦敦北部脏乱的伊斯灵顿区,成了一名木匠。于是,他决定辞职以表抗议,并随后搬到了加拿大,远离军事机构的资助。谷歌宣布旗下的无人驾驶汽车已经行驶了英里,没有发生一次意外。 英国《每日电讯报》打算用三篇报道,来描绘人工智能在加拿大多伦多的繁荣景象。本文是其中第一篇:The ‘Godfather of AI’ on making machines clever...

    jimhs 评论0 收藏0
  • 你必须得知道人工智能领域大师与大事

    摘要:没有过年,年后在年后的年打败了围棋高手李世石,这下人工智能引起了全世界的关注。随后的十多年,人工智能转入第一次低潮,而也在他生日时,因海事丧生,遗憾未能见到神经网络后期的复兴。算力的进步再次加速了人工智能的快速发展。 showImg(https://segmentfault.com/img/remote/1460000019409315); 小西:小迪小迪,我发现人工智能发展史上很多事...

    LeoHsiun 评论0 收藏0
  • 深度学习之父传奇人生

    摘要:随后深度学习的研究大放异彩,广泛应用在了图像处理和语音识别领域。比如的学生就用深度学习算法赢得年的。深度学习和人工智能的春天离人工智能最近的互联网公司敏锐嗅到了这一机遇。 多伦多大学计算机系教授Geoffrey Hinton是Deep Learning的开山鼻祖,我们来讲讲他的故事。他有个传奇的姑姑不过先来说说他姑姑吧,他姑姑Joan Hinton是一个与中国有关的具有传奇经历的人物,中文名...

    Jinkey 评论0 收藏0
  • 深度机器学习未来将怎样改变人类生活

    摘要:年实验室团队采用了深度学习获胜,失败率仅。许多其他参赛选手也纷纷采用这一技术年,所有选手都使用了深度学习。和他的同事运用深度学习系统赢得了美元。深度学习,似乎是解决 三年前,在山景城(加利福尼亚州)秘密的谷歌X实验室里,研究者从YouTube视频中选取了大约一千万张静态图片,并且导入到Google Brain —— 一个由1000台电脑组成的像幼儿大脑一样的神经网络。花费了三天时间寻找模式之...

    Harpsichord1207 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<