橘子的推荐语:“奇点”听起来总像科幻片里的遥远未来,但 Sam Altman 认为这并不遥远。他用极具画面感的语言,带我们窥见超级智能悄然融入生活的每一个角落:从AI让科学家效率翻倍,到我们习惯了AI写作、诊断甚至创业。Altman还大胆畅想了未来的机遇和挑战,提醒我们——这场变革,已经在你我身边悄悄上演。

我们已经迈过了技术的“临界点”,变革的起飞已经开始。人类距离创造出超级智能的人工智能已经非常近了,不过到目前为止,这一切并没有我们原本想象的那么奇怪。

现在,街头还没有机器人随处可见,我们大多数人也还没整天和AI聊天。人们还是会生病、死亡,太空旅行依然不容易,宇宙里还有太多我们不懂的东西。

但其实,我们最近已经造出在很多方面比人类还聪明的AI系统,可以大大提升人们的工作效率。最难的部分已经过去,像GPT-4和o3这样的AI背后的科学突破非常不容易,但这些成果会让我们走得更远。

AI会以各种方式改变世界,尤其是让科学进步和生产力提升变得更快,这会让我们的生活质量大幅提高,未来会比现在好很多。科学进步其实是推动人类进步的最大动力,想想我们还能取得多少新成就,真的很让人期待。

从某种角度说,ChatGPT已经比历史上任何一个人都更强大了。每天有数亿人在用它,完成越来越重要的任务。AI哪怕多了一点小能力,都能带来巨大的正面影响;但如果AI有一点小问题,影响到这么多人,也可能带来很大的麻烦。

2025年,我们已经有了能做“脑力工作”的AI助手,比如写代码再也不会像以前那样了。2026年,可能会出现能自己发现新想法的AI。2027年,也许会有能在现实世界里干活的机器人。

以后会有更多人能写程序、做艺术创作。但世界对这些东西的需求也会更大。只要专家们愿意用新工具,他们还是会比新手厉害得多。总体来说,2030年一个人能完成的事情,跟2020年相比会有天壤之别,很多人会学会如何利用这一点让自己受益。

最重要的是,2030年代在很多方面其实不会变得特别陌生。人们还是会爱家人、发挥创造力、玩游戏、在湖里游泳。

但在另一些很重要的方面,2030年代又会和以前完全不同。我们还不知道AI能变得比人类聪明多少,但很快就会知道了。

到2030年代,聪明才智和能源——也就是好点子和实现点子的能力——会变得非常丰富。这两样东西其实一直限制着人类的进步。如果有了充足的智能和能源(加上好的管理),理论上我们就什么都能实现。

现在我们已经习惯了和强大的数字智能一起生活。最开始大家还会感到震撼,但很快就觉得理所当然了。比如,AI能写一段好文章让人惊讶,接着我们就会期待它能写出一本好小说;AI能做出救命的医学诊断让人惊喜,接着我们就会想它什么时候能直接发明新药;AI能写个小程序很厉害,接着我们就希望它能直接创建一家公司。这就是技术变革的节奏:新奇的事情很快就变成了日常。

科学家们已经说,AI让他们的工作效率提高了两三倍。AI的意义很大,其中最特别的一点是:我们可以用AI来研究和改进AI本身。我们或许能发明新型计算机、开发更好的算法,甚至更多我们还没想到的东西。如果一年、甚至一个月就能完成过去十年的研究,那进步的速度当然会完全不同。

从现在开始,我们已经有的AI工具会帮我们获得更多科学发现,帮助我们造出更强大的AI。当然,这还不是AI自己完全自动升级自己,但已经是“自我进化”的雏形了。

还有其他的良性循环在发生。AI带来的经济价值让我们不断加大基础设施建设,来支撑这些越来越强的AI系统。机器人制造机器人(数据中心制造数据中心)其实也快要实现了。

哪怕最开始我们要用传统方式造出第一百万台人形机器人,只要它们能自己搞定供应链——挖矿、炼矿、开卡车、开工厂等等——再去造更多机器人、芯片厂和数据中心,进步的速度就会大大加快。

随着数据中心生产自动化,AI的成本最终会接近电费。(很多人好奇,ChatGPT一次查询大约用0.34瓦时的电,相当于烤箱一秒多的用电,或者高效灯泡用几分钟的电。用水也很少,大概只有十五分之一茶匙。)

科技进步会越来越快,而人类的适应能力也很强。会有挑战,比如有些职业会消失,但另一方面,世界会变得更富裕,我们也能认真考虑以前想都不敢想的政策。我们可能不会一下子改变社会规则,但回头看几十年后的变化,会发现其实已经很大了。

历史经验告诉我们,我们会很快学会新技能、产生新需求,也能很快接受新工具(比如工业革命之后的职业变化)。大家的期望会提高,但能力也会同步提升,我们的生活会越来越好。我们会为彼此创造更多美好的东西。人类有个AI没有的优势:我们天生在意他人、在意别人的想法和行为,而对机器其实并不关心。