【文/观察者网 阮佳琪】
提前十分钟,《金融时报》的科技记者克里斯蒂娜·克里德尔(Cristina Criddle)到了约好见面的美食酒吧。可到那儿一看,杰弗里·辛顿(Geoffrey Hinton)已经在大厅里等候着了。
这位图灵奖与诺贝尔奖双料得主、被称为“人工智能(AI)教父”的英裔加拿大计算机科学家,还背着那只略显陈旧、印有“Google Scientist” 字样的绿色背包。
因长期的背疼,辛顿落座时将背包垫在身下,以便坐直。白发苍苍的他,眼神仍旧像猫头鹰般锐利。
尤其在谈及AI安全问题时。
2023年5月,辛顿突然从工作了十多年的谷歌大脑实验室辞职。当时美国媒体纷纷将他捧为“AI安全刹车人”、“吹哨人”,称他辞职是为了“直言不讳谈论AI的危险”。
不过,辛顿并不认同这种解读,“每次接受采访,我都会纠正这个误解,但从来没用,因为这是一个好故事。”
“离开是因为,我(当时)已经75岁了,编程能力大不如前,而且Netflix上还有好多剧没看。我努力工作了55年,觉得是时候退休了……”他接着说道,“而且我想,反正都要离开了,不如借这个机会谈谈AI的风险。”
话虽如此,在长达两个小时的午餐时间里,AI的安全应用仍是这场对话的核心议题。
与过往立场一致,辛顿仍对西方政府的干预不抱希望,同时再次批评美国政府缺乏监管AI的意愿。
白宫一直以“抗衡中国”为由,要求必须加快AI技术的研发。辛顿对此持有不同看法。
今年7月,他刚刚参加了在上海举行的世界人工智能大会。这也是他第一次来到中国。
与中方的沟通让辛顿确信,中国对AI安全问题极为重视,“他们的很多官员都是工程师出身,对AI的理解,是律师和商人所无法比拟的。”
他接着补充说,“面对人类生存级别的威胁,只要有一个国家能找到解决办法,就能分享给其他国家。”
当记者带着西方惯有的傲慢和偏见,追问其能否相信“中国有维护全人类利益的意愿”时,辛顿则反问道,“你能相信美国吗?还是能相信(Meta的首席执行官)扎克伯格?”
7月,辛顿参加世界人工智能大会。
整体而言,辛顿回答问题时,语气温和且审慎。唯有评价美国AI巨头高管的趋利本性时,偶尔会“语出惊人”。
比如,辛顿认同马斯克和OpenAI的奥尔特曼更有可能在AI竞赛中胜出。但被问到“两人中更信任谁”时,他停顿良久。
然后辛顿想起了,2016年美国共和党参议员林赛·格雷厄姆的一句话。
当时,格雷厄姆被要求在特朗普和克鲁兹之间选择一个人,支持其成为共和党的总统候选人,“这就像在‘中枪’和‘中毒’之间选一个。”
美国对华技术打压,也让辛顿嗤之以鼻。
今年1月接受2025年开年采访时,他曾表示,“中国在Al领域已经非常接近美国,尽管尚未完全追上。”他还提到美国尝试用芯片限制措施压制中国AI发展速度,但这只会促使中国自研技术加速前行。
辛顿还认为,中国雄厚的理工科人才储备,是AI事业发展的强大推进力,“中国的STEM教育比美国做得更好,他们有更多受过良好教育的人才。”
首次访问中国
《金融时报》9月5日刊登的这篇长文提到,辛顿的研究成果为“基于人工神经网络的机器学习”奠定基础。这种技术思路大致借鉴人类大脑的工作原理,正是如今我们触手可及的强大AI系统的基石。
然而,ChatGPT的问世以及随之而来的AI发展浪潮,让辛顿停下脚步,不再专注于推动这项技术的进步,转而警示其潜在风险。
过去几年,随着AI领域的飞速发展,辛顿的态度愈发悲观,直言这项技术可能对人类造成严重伤害。
今年7月,在上海举行的2025世界人工智能大会,已经77岁高龄且身体状况欠佳的辛顿惊喜亮相,并发表了重磅开幕演讲。
会上,他再次警告AI发展要警惕“养虎为患”,“就像饲养虎崽作为宠物,我们必须确保其成年后不会反噬。”
“这引发我的深切忧虑。”辛顿表示,AI在医疗、教育、气候变化等领域的价值不可替代,单方面禁用人工智能不现实,建议各国自主开发AI技术,但共享“保持AI良性”的研究成果。
辛顿认为,虽然各国对防范AI在网络攻击、操控舆论、致命武器等方面的风险存在利益冲突,但若有国家研发出防止AI操纵世界的方法,极有可能愿意将相关成果共享给其他国家。他呼吁建立跨国合作机制,共同把握AI安全的“红线 ”。
他还说,训练超级AI时,如何能让它既拥有超凡智慧,又甘于辅助人类,这是值得全球通力合作的重大议题。
在华期间,辛顿还与图灵奖得主姚期智、约书亚·本吉奥 ,加州大学伯克利分校计算机科学教授斯图尔特·罗素等20余名行业专家、学者,共同签署了《AI安全国际对话上海共识》,呼吁全球各国政府及研究人员“确保高级AI系统的对齐与人类控制,保障人类福祉。
杰弗里·辛顿教授(左)与姚期智教授参与圆桌讨论。微信公众号“人工智能产业发展联盟AIIA”
历史渊源
尽管这是辛顿首次踏足中国并参与线下活动,但他的家族与中国早有深厚渊源。
在8月30日举行的一场国际传播学术研讨会上,中国外交部原副部长傅莹分享道,辛顿在上海出席世界人工智能大会时,曾谈及他的家族与延安的特殊缘分。
辛顿的远房表姐琼·辛顿(中文名“寒春”)正是在阅读了《红星照耀中国》这本书后,受到延安精神的感召,于1948年来到中国。新中国成立后,她与丈夫欧文·恩斯特(中文名“阳早”)选择留在中国农村,毕生投身于中国农业现代化事业。
辛顿的表兄威廉·辛顿(中文名“韩丁”)是一名马克思主义学者,也是中国人民熟知的老朋友,长期深耕于中国农业改革研究。他们三人都是第一批获得中国居留权的非中国公民。
傅莹透露,辛顿当时在会上坦言,虽然自己是第一次来到中国,但他一直关心着中国的AI发展。
在华期间,辛顿深入了解了中国AI领域的相关政策、法律法规建设,以及技术发展与治理实践。他与多位国际专家都意识到,外界所谓中国“只重技术发展、忽视安全风险管控”的种种说法与事实不符。甚至有几位年轻专家表示,回国后将撰写报告,介绍中国AI领域的真实情况。
辛顿还表示,中国的AI行业已经积累起雄厚实力,期待中国在AI国际安全治理方面发挥更大的作用。