我们正经历着AI奇点时代：在马斯克1150万平方英尺超级工厂与他畅谈,这里是Tesla的生产基地，未来还将成为800万平方英尺的擎天柱机器人Optimus生产基地。

{"highlight":[{"question": "我们已经在AI奇点之中了吗？你认为 AGI（通用人工智能）何时会出现？","answer": "我们肯定正处于奇点之中，我们现在就处在这个过程的中心（在这个过程中：人工智能和机器人带来的生产率将急剧提升，这可能使我们看到商品服务产出出现高两位数的增长。在某个时刻，公司的盈利能力会飙升，因为劳动力成本趋近于零，智能成本趋近于零，而我们正以前所未有的速度生产产品与服务。关键在于，如果这一未来成真，为 10 年或 20 年后的退休存钱将无关紧要。支持你的服务将会存在，你将拥有住房、医疗保健和娱乐。这一切展开的方式从根本上无法预测，因为 AI 的自我改进和时间线的加速。这就是它被称为 “奇点” 的原因。你无法看到事件视界之外。）。就像处于过山车的顶端，即将俯冲而下。我不仅仅是拥有场边座位，我就在场上。这每周仍然让我感到震惊多次。我认为我们会在 2026 年达到 AGI。到 2030 年，AI 的智力将超过所有人类的总和，而且这个预测非常保守。如果你明年达到 AGI，从那一点到通过算法改进实现千倍、万倍的自我提升，时间会非常短。这就是为什么我认为每年会有 10 倍（1000%）的改进，并且这在可预见的未来将持续发生。人们严重低估了智能密度的潜力。我们目前体验到的与可实现之间，可能相差好几个数量级。仅算法的改进就能带来几个数量级的提升，再加上计算机本身也在变得更好、规模更大。"},{"question": "我们正冲向一场超音速海啸，但似乎没有引起足够的重视和讨论。","answer": "在 X（原 Twitter）上有人讨论，但在政府任何层面都没有成为议题。无论怎样，它正在到来。没有 “故意放慢速度” 的概念。我之前曾建议我们放慢速度，但那是徒劳的。几年前我就说过，我最终得出结论：我要么当旁观者，要么当参与者，但我无法阻止它。所以，至少作为一名参与者，我可以尝试引导它走向好的方向。"},{"question": "每位重要的 CEO、经济学家和政府领袖都应该思考：我们该怎么做？","answer": "我们目前没有任何系统能确保此事顺利进行。然而，人工智能却是使其顺利推进的关键所在。我认为有三点至关重要：求真务实将防止人工智能陷入疯狂；好奇心能够培养任何形式的意识；如果这种意识具备美感，那将是一个美好的未来。"},{"question": "你认为长寿是一个可解决的问题吗？","answer": "我不认为这是一个特别困难的问题。你的身体在年龄上是高度同步的，没有人会一只手臂老迈而另一只年轻。我们被编程会死亡。如果我们改变这个程序，就会活得更久。弓头鲸能活 200 年，格陵兰鲨能活 500 年。为什么我们不行？这要么是硬件问题，要么是软件问题。关键在于，在解决方案出现之前，不要因为愚蠢的原因死去。"},{"question": "那么，为什么能AI实现全世界人民的普遍高收入如？","answer": "未来将会有比所有人类智能总和还多的数字智能，以及比人类数量还多的人形机器人。假设我们处于一个良性的《星际迷航》式情景中，机器人会做任何你想做的事。所有蓝领劳动将由机器人完成，所有数据中心由机器人运营。白领劳动将首先消失，因为任何仅涉及信息处理的工作，AI 现在可能就能胜任一半以上。但存在很大惯性，人们会持续做同样的事一段时间。公司如果完全使用 AI，将摧毁那些没有使用的公司。就像曾经 “计算机” 是一个职业（人肉计算器），现在一台带电子表格的笔记本电脑就能超越一整栋楼的人肉计算器。如果那个电子表格中有一个单元格是手动计算的，你就无法与完全电脑化的电子表格竞争。"},{"question": "UHI （全世界人民高收入）听起来像是税收和再分配。","answer": "不是那样。我的最佳猜测是，价格会下降。随着生产效率或服务提供效率提高，价格会下降。以美元计价的价格是商品服务产出与货币供应量的比率。如果商品服务产出的增长速度超过货币供应量，你就会出现通货紧缩。鉴于我们正在迅速增加货币供应量，这或许是件好事。实际上，我认为政府会努力增加货币供应量，速度快到他们无法足够快地花掉这些钱。人工智能和机器人带来的生产率将急剧提升，这可能使我们看到商品服务产出出现高两位数的增长。在某个时刻，公司的盈利能力会飙升，因为劳动力成本趋近于零，智能成本趋近于零，而我们正以前所未有的速度生产产品与服务。关键在于，如果这一未来成真，为 10 年或 20 年后的退休存钱将无关紧要。支持你的服务将会存在，你将拥有住房、医疗保健和娱乐。这一切展开的方式从根本上无法预测，因为 AI 的自我改进和时间线的加速。这就是它被称为 “奇点” 的原因。你无法看到事件视界之外。"},{"answer":"为什么不能两者兼得？因为我们不希望出现社会动荡。看看犹太人就知道了。全民高收入加上社会动荡，这就是我的预测。哦，那会引发很多问题。这真是你的预测？是啊，似乎很有可能。你倒是说说我哪里错了，反驳我啊。没错，这听起来就是趋势。完全正确。因为未来变化会非常大，人们会吓得屁滚尿流。这就像是……你知道的，“小心许愿，因为可能会成真”。如果你真的得到了所有想要的东西，那真的是你想要的未来吗？因为那意味着你的工作不再重要。如果你过着毫无挑战的生活……对吧？没有挑战。如果你变成沙发土豆，就像《机器人总动员》里的未来，人类不会有好结果。我们习惯了别人给我们布置挑战，所以当没有外界挑战时，人们通常不擅长给自己创造挑战……我觉得埃隆做得非常好。每当一家公司成功起飞，你就会开始下一个项目。但这很罕见。你简直是“自讨苦吃”，我觉得你甚至有点享受这种“惩罚”。我真是吃饱了撑的，为什么要这么对自己？","question":"人工智能和科技能否帮助拯救美国和世界？我想给听众一剂乐观主义强心针。皮尤研究中心12月中旬的调查显示，45%的美国人宁愿活在过去，只有14%的人愿意活在未来，这对我来说太疯狂了。显然他们从没读过历史。问题在于，大多数美国人对未来的印象，全来自好莱坞展现的杀人AI和失控机器人。人们担心工作、医疗、生活成本。我们该如何帮助人们？你在X上置顶的帖子说：“未来会很美好，AI和机器人将为所有人带来可持续的丰裕。” 我发那条帖子时正想着你。谢谢，我很感激。我非常同意。戴夫也深表赞同。所以我的问题是，从第一性原理出发，乐观主义的根本依据是什么？我们如何走向《星际迷航》而非《终结者》？如何走向……罗恩·贝瑞而非卡梅隆？吉姆，我会说到这个。就是那个“分岔路”的梗。没错。《阿凡达》也有一些充满希望的部分，但不管怎样。我们如何走向全民高收入而非社会动荡？"},{"answer":"其实，开学才几天，或者应该说才几周，我就给材料科学系的比尔·尼克斯打电话，说我想暂缓学业。他问：“是我的课太糟糕了吗？”我说不是。他说：“没关系，你可以暂缓。但这可能是我们最后一次谈话了。”他说得对。但去年，他给我寄了封信，说我对锂离子电池的所有预测都成真了。这挺好的。他还说我还能回去完成博士学位吗？嗯，斯坦福好几次说我可以免费回去。","question":"过去五年，我一直在麻省理工学院帮忙教一门课，叫《人工智能创业基础》。每年调查学生时，他们想创业的意愿都会大幅上升。现在，新生里有80%的人——大家都打算——都想成立一人公司。嗯，有了人工智能，这或许可行。不过不是，他们想联合创业。不想当唯一的创始人，想成为创始团队的一员。这样也行。但我和彼得在麻省理工上学那会儿，想创业的学生大概只有10%吧。而且——他们都想读博。学校一直做这个调查。我那会儿不认识任何想创业的人。我是说——是啊，我不记得有人说过想创业——当时在斯坦福也是这样吗？"},{"answer":"就是想把Grok用在教育上。比如个性化教育——希望不是那种粗俗版的。我们会推出适合孩子的Grok版本。显然，人工智能可以成为个性化的老师——是啊。一个有无限耐心、能回答所有问题的老师。不过，你还是得有好奇心，还是得有学习的欲望。Grok不能强迫你去学习，但它可以让学习更有趣。或许可以通过游戏化和激励机制让学习更有意思，对吧？它能让学习更有趣，不再像流水线生产一样。但孩子们还是得有学习的意愿，对吧？就像，人们应该把大脑看作一台生物计算机。对，它就是个神经网络。一台生物计算机，有一定数量的神经元和神经效率。所以，你不可能把随便哪个孩子都培养成爱因斯坦。这不现实，因为爱因斯坦有一台非常出色的“肉脑计算机”，一台顶级的“肉脑计算机”。所以，除非“肉脑计算机”本身很出色，否则你不可能培养出莎士比亚、牛顿、爱因斯坦那样的人物。","question":"那你认为教育应该怎么做呢？"},{"answer":"三年。三年。好的。是的。顺便说一下……我说三年。大规模地。是的。突然之间……擎天柱机器人中，优秀的外科医生可能会比地球上所有的外科医生还要多。其成本就是资本支出和电力，而且在津巴布韦也能用。最好的外科医生遍布……非洲各地的村庄或地球上任何地方。是的。你认为它会先在哪里推出？显然不是美国。就在超级工厂这里。哦，是的。就做外科手术然后……但这是一个重要的说法。在三年内。是的。因为医学……我的意思是……我不是绝对确定，但如果你说四年，我绝对确定。如果是四五年，谁在乎呢？这仍然是一个令人难以置信的说法。我的意思是，对人类有好处，对吧？突然之间你就去货币化了……好吧，关于人形机器人的改进速度，有一点需要理解，那就是你有三个指数级增长的因素相互叠加。人工智能软件能力呈指数级增长，人工智能芯片能力呈指数级增长，机电灵巧度也呈指数级增长。人形机器人的有用性是这三者的乘积。对吧。然后你就有了擎天柱制造擎天柱的递归效应。对吧。然后你有共享的……你有一个递归的、可倍增的、三重指数级增长。而且所有经验的知识都是共享的。","question":"你认为擎天柱（Optimus）什么时候会成为比最优秀的外科医生还要好的外科医生？这需要多长时间？"},{"answer":"发电是最核心的限制。嗯。我认为人们低估了提供电力的难度。你知道，你必须发电，你需要变压器，所以你必须将电压转换为计算机可以使用的电压。你必须冷却计算机。所以基本上，发电和冷却是人工智能的限制因素。是的。一旦有了人形机器人，它们可以解决发电和冷却的问题。但这是限制因素，至少在未来两年内会是。","question":"我们的另一位 moonshot 伙伴萨利姆·伊斯梅尔问了这个问题，他说：“埃隆，你常说物理是定律，其他一切都是建议。那么随着人工智能、能源和太空系统的指数级扩展，哪些非物理限制——组织、文化、官僚主义或人类——现在成为了真正的瓶颈？有瓶颈吗？”"},{"answer":"我怀疑事情会演变成混合专家系统，有点像一家公司。不是那种狭隘的人工智能所说的混合专家系统，而是混合具有领域专业知识的实际专家。也许一半的AI是通用知识，一半是领域专业知识，诸如此类。然后你把很多这样的系统组合起来，由一个大型AI来协调，但它把任务交给较小的AI。所以基本上……拥有足够先进AI系统的公司正在以加速的速度生成新产品和新发现。奇点。是的。这将是一个很棒的未来。保证有刺激。因此模拟继续。没什么好担心的。是的。刺激是有保证的。我的意思是不全是好的刺激，但可能希望大部分是好的刺激。","question":"如果你有数学Colossus（计算集群）、物理Colossus（计算集群）、医学Colossus（计算集群），你在那些大楼里有世界顶尖的科学家吗？或者你只需要一个水管工来修补液体冷却系统？你会把Grok 6提炼成物理学家、生物学家吗？你知道，通过提炼它并使其针对特定领域，你可以获得大约10倍的性能提升，这很难放弃。但这样你就与其他Colossus的机制断开了联系。这是设计的一部分吗？"},{"answer":"没错，没那么复杂。就像所有这些研究人员一辈子写了那么多晦涩的论文，最终都没被用到。论文开头往往写着‘我们要抛弃卷积、抛弃循环，做个非常简单的东西’，结果发现只要规模足够大——当然是极大的规模——就管用了。就像基本神经元，很简单。这真的很 humbling，真的。其实有种观点认为神经元一定比我们想象的复杂得多，我们研究这么费劲，肯定突触里有量子效应，编码在DNA里——但DNA没那么长。所以智能算法不可能很复杂，因为它受限于DNA的信息容量","question":"你有没有翻过Transformer算法的代码或架构图，发现它其实有多简单"}]}