人工智能科学家探索新理论:揭示大脑学习机制的可能路径

AI科技AI News 精选 Featured

几十年来,Geoffrey Hinton 以其对人工神经网络的研究赢得了“人工智能教父”的称号。他和多伦多大学团队的工作为当前备受瞩目的 AI 模型奠定了基础,包括 ChatGPT 和 LaMDA,这些模型可以生成连贯的文本、诊断医学影像以及导航自动驾驶汽车。然而,对于 Hinton 博士而言,创造更强大的模型并不是最终目标。他的真正希望是,通过开发能够学习复杂问题的人工神经网络,或许能够揭示人类大脑的神经网络是如何做到同样事情的。

大脑通过微妙的重新连接进行学习:一些神经元之间的连接(即突触)得到加强,而另一些则被削弱。然而,由于大脑拥有数十亿个神经元,其中数百万个可能参与到某项任务中,科学家们长期以来一直困惑于大脑如何知道应该调整哪些突触以及调整多少。Hinton 博士推广了一种名为反向传播的数学算法来解决人工神经网络中的这个问题,但这种算法长期以来被认为过于复杂,无法在进化过程中应用于人类大脑。然而,随着人工智能模型的能力越来越接近人类,科学家们开始质疑,大脑是否能够以类似的方式工作。

理解大脑如何运作是个艰巨的任务。神经科学家对人类学习的理解大多源于对少量脑组织或培养皿中神经元的实验。然而,人们并不清楚,活跃的大脑是否按照这些实验中发现的规则进行工作,还是存在更复杂的机制。即使使用现代实验技术,神经科学家在活体动物中也只能追踪数百个神经元的活动,因此很难反向推断出大脑中的实际工作机制。

赫布学习是关于大脑如何学习的最著名和持久的理论之一。该理论认为,几乎同时激活的神经元会形成更强的连接,这通常被总结为“一起激活的细胞连接在一起”。赫布学习可以解释大脑如何学习简单的联想,例如巴甫洛夫的狗听到铃声会流口水。但对于学习语言等更复杂的任务,赫布学习的效率显得过于低下,即便经过大量训练,使用这种方法训练的人工神经网络也远远不能达到人类的表现水平。

当今最先进的人工智能模型采用了不同的设计。例如,一个训练过的人工神经网络可以识别图像中的鸟类。该网络由数千个人造神经元组成,分层排列。图像输入第一层,该层通过相当于人工智能突触的连接将有关每个像素的信息传递到下一层。在这里,神经元可能会识别出线条或边缘,然后将信号传递到下一层,可能会识别出眼睛或脚部。这一过程一直持续到信号到达最后一层,负责最终做出“是鸟”或“不是鸟”的判断。

在这一学习过程中,所谓的误差反向传播算法(通常称为反向传播)是不可或缺的。如果网络展示的图像是鸟,但它错误地识别为非鸟,一旦识别出错误,网络就会生成一个错误信号。这个错误信号会在网络中逐层向后传播,逐步调整每个连接的强度,以减少未来的错误。如果再次展示类似的图像,调整后的连接将使网络正确识别为鸟。

然而,神经科学家对反向传播算法是否能在大脑中发挥作用一直持怀疑态度。1989年,在 Hinton 博士和他的同事证明反向传播算法可以用于训练分层神经网络后不久,DNA 结构的共同发现者、诺贝尔奖获得者 Francis Crick 在《自然》杂志上发表了一篇文章,驳斥了这一理论。他认为,使用反向传播算法的神经网络在生物学上“几乎在所有方面都不切实际”。

首先,神经元大多向一个方向发送信息。因此,要让反向传播在大脑中工作,每个神经元网络都需要一个镜像网络来传递误差信号。此外,人工神经元使用不同强度的信号进行通信,而生物神经元发送的是固定强度的信号,这使得反向传播算法无法在大脑中适用。

尽管如此,神经网络的成功重新引发了人们对大脑中是否存在某种反向传播机制的兴趣。一些新的实验表明,这种机制可能确实存在。例如,2023年11月发表的一项研究发现,小鼠大脑中的单个神经元似乎对独特的错误信号做出了反应,这是反向传播类算法的关键要素之一,而长期以来人们认为活体大脑中缺乏这种要素。

在神经科学和人工智能的交汇处,科学家们也展示了对反向传播算法的微调可以使其更适合大脑。一些研究表明,曾经被认为必不可少的镜像网络不必是原始网络的精确复制品,尽管在大型网络中,学习速度可能会较慢。这使得反向传播不再显得那么难以置信。其他研究人员找到了完全绕过镜像网络的方法。如果人工神经网络具备生物学上更真实的特征,例如能够整合细胞不同部分的活动和错误信号的专门神经元,反向传播就可以通过一组神经元来实现。一些研究人员还修改了反向传播算法,使其能够处理尖峰而非连续信号。

还有一些研究人员在探索完全不同的理论。在今年早些时候发表在《自然神经科学》上的一篇论文中,牛津大学的宋宇航和他的同事提出了一种颠覆反向传播的新方法。在传统的反向传播中,误差信号会导致突触调整,进而改变神经元活动。牛津大学的研究人员提出,网络可以先改变神经元活动,然后再调整突触以适应这一变化,他们称之为前瞻性配置。

当研究人员测试使用前瞻性配置的人工神经网络时,发现它比使用反向传播训练的模型表现得更像人类,更加稳健,并且需要更少的训练量。他们还发现,这种网络在其他非常不同的任务上的表现也更接近人类行为,例如学习如何根据不同的视觉提示移动操纵杆。

然而,目前所有这些理论都还只是理论。设计实验来验证反向传播或任何其他算法在大脑中是否发挥作用极其困难。斯坦福大学的 Aran Nayebi 和同事们认为,这可能是人工智能可以帮助解决的问题。

科学家们使用了四种不同的学习算法来训练一千多个神经网络,执行各种任务。他们在训练过程中监控每个网络,记录神经元活动和突触连接强度。随后,研究团队训练了一个元模型,从这些记录中推断出使用了哪种学习算法。他们发现,元模型能够通过记录几百个虚拟神经元在不同时间间隔的活动,判断出使用了哪种算法。研究人员希望,这样的元模型可以在真实大脑的记录中执行类似的任务。

识别大脑用于学习的算法将是神经科学的重大突破。这不仅能揭示人体最神秘器官的工作原理,还可能帮助科学家构建新的人工智能工具,以理解特定的神经过程。然而,这是否能带来更好的人工智能算法仍不确定。至少对于 Hinton 博士来说,反向传播可能已经比大脑中发生的任何事情都要好。