怀远策略
VOL 3551
“在未来几十年内，AI导致人类灭绝的可能性在10%到20%之间……”
在刚刚结束的2025世界人工智能大会（WAIC）上，被称为“AI教父”的图灵奖与诺贝尔奖双料得主杰弗里·辛顿 (Geoffrey Hinton)，首次在中国公开亮相，发表了主题演讲。
在获得2024年诺贝尔物理学奖之前，辛顿有两个广为人知的身份：
一个是“人工智能（AI）教父”，他获得诺奖的原因，也是“表彰其通过人工神经网络实现机器学习的基础性发现和发明。”
另一个是“一个神经多样性孩子的父亲”。上世纪90年代，他与第二任妻子罗莎琳德·扎林(Rosalind Zalin)在拉丁美洲收养了两个孩子：托马斯（Thomas）和艾玛（Emma），托马斯被诊断为“注意力缺陷多动障碍（ADHD）和其他学习困难”。
辛顿与ADHD养子托马斯 图源：Toronto Life
神经多样性的孩子间接加速催生了基于神经网络算法的AI。
2012年12月那场著名的拍卖会，其背后原因就是辛顿“必须为托马斯筹备一大笔钱”，而那场拍卖是他最好的机会。
但现在，辛顿担心他的第一个“孩子”（AI），可能会毁掉毁掉他第二个孩子（人类）的世界。
文 | 谭万能
编辑 | Trufan
为了ADHD孩子，意外开启人工智能时代
2013年，辛顿做了一件他自认为“我唯一真正的放纵”的事情，在加拿大安大略省乔治亚湾买下了一座私人小岛。
在一年前的冬天，在美国内华达州太浩湖附近的哈拉赌场（Harrah's Casino），举行了一场轰动科技圈的拍卖会。
拍卖品是一家名为DNNresearch的新成立的深度学习公司，准确地说，是三个人：辛顿和他的两位学生，伊利亚·苏茨克沃（Ilya Sutskever）和亚历克斯·克里热夫斯基（Alex Krizhevsky）。
参与竞拍的机构个个大有来头，微软、谷歌，还有当时风头正劲的DeepMind和百度。
拍卖价格从1200万美金一路涨到4400万美金时，辛顿感觉“怕”了，觉得拍卖已经远超他预期，他决定按下暂停键，选择了谷歌，师徒三人也随之加入了谷歌。
在拍卖会前的两个月，辛顿团队提出的 AlexNet 赢得了 ImageNet 图像识别挑战赛（ImageNet的负责人则是被称作“AI教母”的李飞飞）。
与之前大家使用的浅层学习不同，AlexNet 构建了一个类似大脑的神经网络，可以通过分析海量数据来学习图像分类等新技能，辛顿称其为 \"深度学习\"。
令人震惊的是，AlexNet 的出现直接将图像分类错误率降低了 9.4%（2011 年的冠军仅比 2010 年降低了 1.4%）。
辛顿师徒以此为内容发表的论文《基于深度卷积神经网络的ImageNet分类研究》，也因此成为计算机和认知领域引用量第一的文章，迄今已超过18万次。
这篇论文引起了科技巨头们的注意，并有厂商直接提出了1200万美金的筹码挖人。也正是因为这个报价，让辛顿决定以拍卖会的方式来决定公司和师徒三人的未来。
其背后的动因也很简单，因为他意识到，他必须为患有ADHD和学习障碍的养子托马斯“准备一大笔钱”，拍卖会将是他最好的机会。
1994年，辛顿的第二任妻子罗莎琳德不幸因卵巢癌去世。当时已经在多伦多大学任教、已经患上腰椎病没法久坐的辛顿，只能在半天承担好科研工作的同时，还得时时刻刻想着怎么照顾两个孩子。
“即使有保姆照顾，也必须在下午6点回家，既要照顾儿子，又要赶去Gap商店抢购袜子。”
这段经历，曾让辛顿感慨：“我无法想象一位有孩子的女性如何能够拥有学术事业” 。也同时让辛顿意识到，钱，对于保障他养子的未来，有着非常重要的意义。
那次拍卖，不仅让辛顿有了私人小岛和足以安顿两个孩子的钱，也正式开启了AI的狂飙突进。
2013 年怀远策略，辛顿与研究生苏茨克沃（左）和克里泽夫斯基（右）的合影，当时他们把创立的神经网络公司DNNresearch以4400万美元的价格卖给了谷歌公司，辛顿本人也加入谷歌 图源：多伦多大学
不情愿的先知
2023年，当OpenAI开发的ChatGPT横空出世后，辛顿也选择离开了他工作了10年的谷歌。
那个时候，他的学生苏茨克沃已经是OpenAI的联合创始人，并将很快因为“对齐”问题上跟萨姆·奥尔特曼（Sam Altman）意见相左而选择分道扬镳，成立安全超级智能（Safe Superintelligence Inc.）公司。
辛顿从谷歌离职，是为了“能够谈论AI安全问题，而不必担心这会如何影响谷歌的业务”。他表示，如果自己不再为谷歌工作，他的警告将“更具可信度”。
为此，辛顿开始频繁地接受媒体的采访。有一次，福克斯新闻的人写信给他，请求就人工智能进行采访。他尝试在回复邮件时用一句双关语，他写道：“Fox News is an oxy moron.”（福克斯新闻是个矛盾修饰法/瘾君子）。
他鬼使神差地把这句话发给了当时诞生不久的ChatGPT，让它解释这句话。结果系统告诉他，他的句子暗示福克斯新闻是假新闻，它解释说福克斯新闻像药物奥施康定（OxyContin）一样令人上瘾。
辛顿惊呆了。这种程度的理解力，似乎代表了人工智能的一个新纪元。
他开始更频繁的表达他对他自己所创造出来的AI的恐惧。之前，在面对AI可能带来失控的后果时，他还会用“如果我没做，别人也会做”来自我安慰，但从谷歌离职后，他发现也无法用这个理由说服自己。
在辛顿看来，AI带来的风险是多方面的：
首先是生存风险。这是最引人瞩目的长期危险，即超级智能AI可能失控并最终“接管”世界，导致人类灭绝。他曾给出一个令人不安的估计：未来几十年内，发生这种情况的概率在10%到20%之间 。
他的核心论点是，一个智能程度较低的物种，无法长期可靠地控制一个智能程度远高于自身的物种。
其次是多种近期风险：
●虚假信息与真理的侵蚀：AI大规模生成以假乱真的图像、视频和文本的能力，将使人们“再也无法分辨什么是真实的”。这对民主制度和社会凝聚力构成了严重威胁。
●工作岗位替代：与以往的技术革命不同，AI有望大规模取代“重复性脑力劳动”，可能导致大范围失业和社会动荡。为此，他提倡将“全民基本收入”（UBI）作为一种潜在的解决方案。
●自主武器：“致命性自主武器”或“杀手机器人”的出现是他反复强调的一大担忧。
●恶意行为者：AI可能被用于发动复杂的网络攻击，甚至被用于设计生物武器，这些都是迫在眉睫的威胁。
在本次上海举行的世界人工智能大会上，辛顿更是借用成语“养虎为患”来形容AI带来的潜在风险：
他解释说，一只幼虎或许可爱，但当它长大后，就会对饲养者构成致命威胁。面对一只真正的老虎，你有两个选择：要么把它训练得温顺，要么准备好在必要时消灭它。
但对于AI，他认为我们无法选择“消灭”，因为它已经深度融入社会，用途过于广泛 。因此，我们唯一的选择就是从一开始就想办法“把它训练成善良的”。
从某种程度上说，辛顿比他那位这两年大力提倡“超级对齐”的学生苏茨克沃更早的意识到了这个问题。
辛顿1997年与第三任妻子杰基（Jackie）结婚照，两侧是当时8岁的养子托马斯和5岁的养女艾玛 图源:Toronto Life
黑箱里的新“大脑”
辛顿对人类神经网络运作方式的兴趣始于高中时代。
当时，他的一位朋友告诉他，大脑的工作原理如同全息图，通过神经元网络储存记忆碎片，“这令我倍感振奋”。
但他并没有马上就进入神经或者认知科学领域学习。本科时，辛顿进入剑桥大学国王学院学习物理和化学，但一个月后就退学了。一年后，他在建筑系上了一天课，决定改学物理和生理学，结果又退学了。
之后，他又改学哲学，但再次退学。最后，他选择了学习心理学，1970 年，辛顿终于获得了实验心理学学士学位。
辛顿曾自嘲：\"我可能有教育方面的ADHD，不能静下心来学习\"。他甚至在毕业后去选择做了一名木匠。
也正是在做木匠的日子里，辛顿才坚定了自己的兴趣方向：探究人脑是如何工作的。并最终确定了自己未来的方向：让机器模拟人脑。
1972 年，辛顿进入英国爱丁堡大学的人工智能项目，开启了他整整40年的“冷门”生涯。
他之所以能坚持下来，植根于一个简单的观察：人脑本身就是神经网络能够成功的“存在证明”。他认为，当时神经网络之所以表现不佳，并非概念错误，而是受限于计算能力和数据规模。
在这40年里，辛顿做出了奠定今日人工智能发展的几大基石：反向传播算法和玻尔兹曼机。后者更是让他获得了诺贝尔物理学奖。
获奖的原因很简单：他让计算机可以像人一样自己做出思考和判断。
辛顿获奖的重要原因是他在上世纪80年代开发了一种称为玻尔兹曼机（Boltzmann machine）的网络模型，而这一网络证实基于霍普菲尔德发明的Hopfield 网络。图为Hopfield 网络和玻尔兹曼机 图源：瑞典皇家科学院
但辛顿的成功不仅在于发明了具体的算法，更在于他确立了一种全新的AI范式：智能并非源于人类专家编写的规则，而是从海量数据中学习而来。从符号主义AI到连接主义AI的转变，是辛顿最核心的贡献。
辛顿基于连接主义的的神经网络，能够从数据中隐式地学习这些人类世界的各种规则和特征。其训练过程（如反向传播）通过优化连接权重来最小化误差，但最终形成的训练模型，其内部逻辑对于人类来说是一个复杂的高维系统。
至关重要的是，人类设计的是学习算法和网络架构，而非最终模型的具体决策逻辑。这正是这种范式的本质——创造出强大但内部运作不透明的“黑箱”系统。
这催生了如今辛顿所担忧的生存风险。辛顿本人从2017年开始，就在有意识地和他创造的AI世界做切割。
2017 年 10 月，辛顿在多伦多的一次人工智能会议上公开表示，反向传播算法不是大脑的工作方式，推翻了自己过去几十年的研究 ，并提出了一种新的神经网络架构--CapsNet。
他认为，与他一手创立的深度神经网络相比，新设想的胶囊网络的优势在于训练速度更快、精度更高、所需数据更少。
但这个“胶囊网络”会不会和他之前研究深度神经网络一样冷门几十年，现在谁也不知道。
在获得2024年的诺贝尔物理学奖过后，辛顿第一时间表示，会将一部分奖金捐给一个致力于为“神经多样性的年轻人提供就业机会”的慈善机构。
之后，辛顿还将一半的奖金（约35万美元）捐赠给了加拿大一家名为“Water First”的慈善组织，该组织致力于帮助原住民社区获得安全的饮用水。
此外，他还设立了“塞诺斯基-辛顿奖”（Sejnowski-Hinton Prize），用以鼓励40岁以下研究大脑工作原理的年轻科学家。
在这样宏大的慈善视野下，他特别为神经多样性群体的就业问题预留一份资金，这清晰地表明该议题在他心中占据着一个特殊且重要的位置。
辛顿获奖后宣布将把一部分奖金用于帮助自闭症、多动症等神经多样性人士就业
他从16岁开始关心的核心议题“人脑是如何工作的？”，最终却创造出了一个我们同样不理解的“新大脑”。
而这个“新大脑”在我们理解和帮助神经多样性群体的过程中，能起到什么作用，仍需拭目以待。
参考文献：
1.https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html
2.https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinton-profile-ai
3.https://torontolife.com/life/ai-superstars-google-facebook-apple-studied-guy
4.https://torontolife.com/deep-dives/geoffrey-hinton-sounding-alarm-artificial-intelligence
5.https://www.utoronto.ca/news/geoffrey-hinton-wins-nobel-prize
6.https://www.wired.com/story/secret-auction-race-ai-supremacy-google-microsoft-baidu/
本文仅代表作者观点，不代表本号立场。文章版权归「大米和小米」所有，未经许可，严禁复制、转载、篡改或再发布。本号长期征集线索/稿件，一经采用，稿费从优。提供线索/投稿请联系：content@dmhxm.com。
点击拨打大小米服务热线
天创优配提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯