部分 什么是学习从本质上讲,智能可以被视为将非结构化的信息转化为有用的、可操作的知识的过程。
—德米斯 · 哈萨比斯( Demis Hassabis ),人工智能公司 DeepMind 创始人什么是学习?在拉丁语系的许多语言中,“学习”与“理解”有着相同的词根:法语为 apendre,西班牙语和葡萄牙语为 aprender……的确,学习就是抓住现实的一个碎片,捕捉它并将它带进我们的脑。在认知科学中,学习是在脑中逐步形成外部世界的内部模型。通过学习,那些触动我们感官的原始数据被转换成经过深思熟虑之后产生的想法,抽象到足以在新的场景下被重复使用,成为描绘现实的微缩模型。
脑和机器中这样的内部模型是如何生成的?在接下来的章节里,我们将回顾人工智能和认知科学关于这个问题的研究。当我们学习时,信息的表征形式是如何变化的?我们如何才能在任何有机体、人类、其他动物或机器所共有的水平上理解它呢?通过回顾工程师为了让机器学习而设计的各种策略,我们将逐步勾勒出婴儿在学习看、说和写时必须进行的惊人计算能力的清晰图景。事实上,正如我们将要看到的那样,婴儿的脑拥有非凡的能力:尽管目前的学习算法取得了成功,但它也仅仅捕捉到了人脑能力的一小部分而已。通过了解机器为什么不能理解“隐喻”,以及人脑的什么地方使婴儿胜过了 大的计算机,我们就能准确地定义学习是什么了。
第 1 章 学习的7个定义什么是学习?我的 个,也是 笼统的关于学习的定义是:学习是在脑中形成外部世界的内部模型。
你可能没有意识到,但是你的脑已经存储了数以千计的外部世界的内部 模型。它们就像微缩模型,或多或少地忠于它们所代表的现实。打个比方,我们所有人的脑中都有一张关于自己家和附近街区的思维地图。我们要做的 就是闭上眼睛,调动思维来回想它们。当然,没有人生来就拥有这种思维地 图,我们必须通过学习来获得它。
这类心理模型 丰富,而且 大多数是在无意识中生成的,超出了 我们的想象。例如,你有一个庞大的英语心理模型帮助你理解你所阅读的 词语,你可以猜测出来 plastovski 不是英语单词、swoon 和 wistful 是, 而 dragostan 有可能是。你的脑中还有多个有关身体的模型,用于绘制你四肢 的位置,并引导它们保持平衡。某些模型编码了你对物体的认知和你与他们 的互动,比如如何握笔、写字或骑自行车。你的脑中甚至还有记录别人思想 的模型,类似一个庞大的心理目录,里面有与你关系密切的人的信息,包括他们的外形、声音、品味和他们的怪癖。这些模型可以对我们周围的“宇宙”进行 逼真的模拟。你有没有注意到,你的脑有时会投射出 真实的虚拟世界,在那里,你可以走动、跳舞、去到新的地方、进行愉快的对话或者感受到强烈的情感?这些都是你的梦境!令人着迷的是,我们梦境中出现的所有想法,无论它们多么复杂,都只是我们内在心理模型随意呈现的产物。
我们醒着的时候也在做真实世界的梦,脑不断地向外界投射假设和解释构成的框架。这是因为透射到我们视网膜上的每一个影像都是模棱两可的。例如,每当我们看到一个盘子时,投射到视网膜上的影像就与无限多的椭圆形兼容。我们看到的盘子是圆形的,事实上原始的感官数据是椭圆形,这是因为我们的脑提供了额外的数据,它已经了解到圆形是 有可能的解释。在幕后,我们的感官区域在不停地计算概率,只有 可能的模型才会进入我们的意识。正是脑的投射赋予来自我们感官的数据流以意义。假如没有内部模型,原始的感官输入是没有任何意义的。
学习使我们的脑能够抓住之前被遗漏的现实片段,并利用它来构建新的世界模型。这个现实片段可以是历史、生物学或城市地图等任何真实世界的存在。但我们的脑也会学习绘制我们身体内部的现实情况,就像我们学习协调我们的动作、集中注意力去拉小提琴一样。在这两种情况下,我们的脑都将一个新的外在现实内化了进来,它调整自己的回路,以适应一个之前没有接触过的领域。
当然,这样的调整必须恰到好处。学习的内核就在于它适应外部世界和纠正错误的能力。但是,当学习者在家附近迷路、从自行车上摔下来、输掉一盘棋或者拼错ecstasy时,他的脑怎么“知道”如何去 新内部模型呢?我们接下来将讲述7个关键的观点,它们是当今机器学习算法的核心。这些观点同样适用我们脑的学习,是对“学习”的7个不同定义。
学习就是调整心理模型的参数调整心理模型有时 简单。例如,我们怎样才能把手伸向我们所看到 的物体并抓住它呢?笛卡尔(René-Descartes)在 17 世纪时就已经推测出, 我们的神经系统一定包含将视觉输入转化为肌肉命令的加工回路(见图 1 — 1 )。你可以尝试亲自体验一下:戴上别人的眼镜, 是一副高度数的眼 镜,抓东西; 好的方式是,戴一副能使你的视线向左偏移十几度的棱镜, 然后试着抓住物体。 1 你会发现你的 次尝试 失败了,因为戴着眼镜, 你的手会伸到你瞄准的物体的右边。多尝试几次,向左逐渐调整你的动作。 通过不断地尝试和失败,你的动作会变得越来
......