用户注册 登录
珍珠湾全球网 返回首页

岳东晓 -- 珍珠湾全球网 ... https://ydx.zzwave.com [收藏] [复制] [分享] [RSS] 岳东晓 -- 珍珠湾全球网

日志

AI时代的2024年诺贝尔物理学奖化学奖

已有 1484 次阅读2024-10-10 01:17 |个人分类:科普|系统分类:科技教育学术

人工智能正迅速走向超人智力阶段。尝试过 OpenAI-o1 的就知道它确实达到了博士水平 --- 用复杂的物理数学问题检测发现,它不仅是掌握了相关知识,还能够探索式思考。复杂的数学计算对AI来说,毫无畏惧,再加上超强的物理思维能力,AI 让人一次次震惊---而这仅仅是开始。这样下去,不久的将来人类的一流科学家在 A I 面前可能如同人类围棋最高手面对 AlphaGo。2024年诺贝尔物理学奖颁发给了 John J. Hopfield 与 Geoffrey E. Hinton,表彰二人在1980年代对人工神经网络与机器学习的奠基性贡献,凸显 AI 时代已经来临。

John Hopfield 是一名研究领域很宽的理论物理学家,早期的工作是在凝聚态物理方面,后又在生物化学领域耕耘。1982年,Hopfield 发表题为 "Neural networks and physical systems with emergent collective computational abilities"("具有涌现集体计算能力的神经网络和物理系统")的论文。这篇论文提出了一个不同于 perceptron 的神经网络模型,各神经元互相连接(作用),非同时更新,能够学习并模拟计算。这个模型基于系统局部能量最低点,可以说是零温度模型。

Geoffrey E. Hinton 可能人们更加熟悉,他是人工智能领域的奠基者,机器学习中无所不在的 backpropagation 算法是他(重新)发现的。Hinton 获得诺贝尔物理学奖的基于他在 1983-85年发表了一系列研究,其奠基性论文是 “A Learning Algorithm for Boltzmann Machines” (1985)。与合作者一起,他将 Hopfield 模型进行了发展,提出了 Boltzmann machine (波尔茨曼机器)。对 Boltzmann 不熟悉的可以查阅统计物理相关资料。顾名思义,Hinton  在模型中引入了温度,这使模型可以跳出局部能量最低值,寻找全局最低值。自然界似乎遵循解析延宕(analytical continuation), 统计系统温度的倒数对应于量子路径的时间 (1/T --> i t)。在机器学习中引入温度概念可能是突破性与决定性的。码农们只知道 Transformer 运用中有时要调节温度,现在应该知道温度从何而来了 (当然,Transformer 模型训练中,温度并非跳出局部极值的机制,而是使用随机 dropout 等方法)。Hinton  后来在机器学习领域持续耕耘,其后续贡献诺贝尔委员会做了更多的介绍。机器学习的方法被运用于物理、化学等领域,解决了很多以前人们认为 intractable 的计算问题,如蛋白质折叠。

2024年诺贝尔化学奖颁给了在生物分子设计(包括蛋白质)上取得奠基性成就的 David Baker, 以及谷歌 AlphaFold 的开发者 Demis Hassabis 与 John M. Jumper。当年 AlphaGo 战胜人类最高围棋高手之后,开源了相关算法与代码,市场上于是涌现了不少高水平AI围棋。但围棋只是一个试验,谷歌开发者们接下来攻克的是蛋白质折叠的问题。蛋白质的功能与其空间构型密切相关。蛋白质折叠的问题就是给一段氨基酸序列,请问其蛋白质叠成什么三维形状。与围棋一样,蛋白质折叠也曾被认为是 intractable 的计算问题 --- 你知道基本原理,但是需要的算力远远超出了想象。蛋白质内原子作用无非是电子的薛定谔量子方程,基本原理约100年前就知道了,但计算量超出想象,以前只能用实验方法去测定其三维构型。而实验测定一个蛋白质的结构需要大量的人力物力时间,复杂的仪器与专家级专业人员。现在AlphaFold 使用机器学习+量子力学瞬间就能给出答案。这也导致不少“结构生物学”(Structural biology) 研究者们不得不另寻出路。有了 AlphaFold 以及其开放的源码,David Baker的生物分子设计程序更是如虎添翼,设计各种生物分子变成了简单的鼠标点击,俨然扮演起了“造物主”的角色。

总的来说,AI 使人类文明进入了一个新的进化阶段。未来人类的生存与发展--包括外星探索--取决于AI。如果人类与外星文明接触,首先接触的对象也应该是外星的AI。。。那些质疑为什么2024年诺贝尔物理、化学奖颁发给AI研究的人们可能还没有意识到这一点。数年后,诺奖颁发给机器人也有可能。


参考:https://www.nobelprize.org/

Screenshot 2024-10-09 180237.png

2024物理诺奖讨论续: 1. 有人提出 backpropagation 的重要,这个算法对于计算深度神经网络的梯度非常高效。但这个算法早就有了。1970年一篇芬兰语的硕士论文中就有这个完整算法,而且在那之前的一本自动控制课本中也有这个算法。机器学习研究者们多次重新发明了这个轮子。参见附图 Yann LeCunn 的推特。2. 有人提出 Transformer 才是现代 AI 的突破。不错。如果这是下一个诺贝尔物理奖也不算离谱。如我在之前的一篇科普文中指出,Transformer 中的核心 Attention 机制相当于物理中的 S-Matrix (散射矩阵), Q 相当于初始状态,K 相当于相互作用哈密顿量的演化算符,V 相当于末端态 -- 当然还包括将高维空间投射到不变子空间以及将闵可夫斯基空间 Wick 旋转为欧几里得空间的操作。S-Matrix 概括了系统的基本物理,Attention 则编码了语句的含义。 https://t.cn/A6ETHYJ8

Screenshot 2024-10-09 212546.png

路过

鸡蛋

鲜花

支持

雷人

难过

搞笑
 

评论 (0 个评论)

facelist

您需要登录后才可以评论 登录 | 用户注册

Archiver|手机版|珍珠湾全球网

GMT+8, 2024-12-4 13:32 , Processed in 0.011343 second(s), 8 queries , Memcache On.

Powered by Discuz! X2.5

回顶部