昨天刷到77岁的Geoffrey Hinton最新访谈,我差点把手机摔了——几个月前他还在WAIC上把AI比作“养虎为患”,现在居然说AI应该像妈妈疼婴儿那样天生想让我们幸福?
这老爷子到底经历了啥,让他一夜之间从“末日预言家”变成了“AI奶妈设计师”?
先别急着骂他翻脸比翻书快。
我回头翻了翻他这两年的发言,发现真正让他改口的不是技术突破,而是他意识到一个更扎心的事实:我们根本刹不住车了。
大厂们像抢红包一样砸钱训练更大的模型,马斯克和奥特曼天天在推特上秀肌肉,安全预算却连营销零头都不到。
Hinton说他现在想明白了,与其喊停,不如赶紧给这头狂奔的猛兽装上“母性本能”——就像给老虎脑子里植入“看见婴儿就想喂奶”的芯片。
这听起来像科幻,但老爷子给了个细思极恐的类比:当AI聪明到能预判你十年后的体检报告时,它发现让你活着比弄死你更有利可图,自然就舍不得下手了。
DeepMind最近用眼底扫描预测心脏病的准确率已经超过人类医生,Hinton说这只是开胃菜——当AI能算出“给这个程序员放两周假能让他多活十年,从而多交200万税”时,它可能比资本家更懂“可持续剥削”。
不过最扎我的是他对医疗的预判。
他说以后化疗就像现在用放血疗法一样可笑,AI定制的靶向药能把副作用降到“像吃维生素”。
但转头又补刀:这些救命技术最先受益的肯定不是排队挂专家号的普通人,而是能付得起“AI私人医生年费”的富豪。
就像现在买iPhone Pro和红米手机的区别,未来可能是“能活到120岁”和“60岁就得癌症”的差距。
说到职业替代,老爷子摊手的样子特别像劝孩子别选文科的家长:“客服、律师助理、程序员这些靠堆经验的岗位,AI学起来比人快十倍。
”他现场举了个例子:现在好莱坞编剧罢工要求限制AI写剧本,但Netflix已经用AI生成了三部“精准戳泪点”的家庭片,试映时观众哭到需要备纸巾。
最绝的是,AI写的反派角色是个“被房贷逼疯的程序员”,连程序员自己看完都骂“这编剧肯定偷窥过我生活”。
但别以为老爷子真成了AI吹。
他骂起人来比键盘侠还毒:说Meta的安全团队“像大学里的保安,主要作用是背锅”;xAI的底层代码“漏洞多得像瑞士奶酪”;最惨的是OpenAI,被他说成“本来想当消防员,现在成了纵火犯”。
主持人问他如果见到马斯克会说什么,他翻了个白眼:“先问问他火星移民计划包不包含AI安全工程师,别到时候AI在地球造反,人类只能挤在火星吃土豆。
”
最后主持人问他家族里那些科学家祖先怎么看这事,Hinton突然笑了:“我爸要是活着,肯定说‘你终于承认控制不了它了’。
”他摸着自己装了钢钉的老腰,说现在每天疼得睡不着,反而更理解AI需要“疼痛反馈”——就像人类腰疼会记得别搬重物,AI也得有“伤害人类会触发自我惩罚”的本能。
这话把我听愣了:原来最懂AI的,可能是个被疼痛折磨的老人。
说到底,Hinton的转变不是投降,是认清现实后的绝地反击。
当奥特曼们忙着把AI训练成超人时,这个老头正试图给它装上一颗会疼的心。
成不成不知道,但起码比那些只会喊“暂停研发”的政客实在——毕竟老虎已经出笼了,现在只能赌它学会喂奶,而不是吃人。
转载请注明来自Nkqfj,本文标题:《奥特曼3d绝地反击(Hinton突然对AGI乐观了)》
还没有评论,来说两句吧...