149. 亲历中美neo labs资本狂潮,和清华刘子鸣聊:AI for AI、机制可解释性和Max Tegmark
刘子鸣从物理学、KAN 与机制可解释性出发,解释了一条非主流的 AI for AI 路线:先结构化研究过程,再用 AI 自动化 Physics of AI。对谈同时拆解了中美 Neo Lab 的兴起、原模型预测训练曲线的技术设想,以及从 Training Copilot 走向 Vibe Training 的产品终局。
刘子鸣从物理学、KAN 与机制可解释性出发,解释了一条非主流的 AI for AI 路线:先结构化研究过程,再用 AI 自动化 Physics of AI。对谈同时拆解了中美 Neo Lab 的兴起、原模型预测训练曲线的技术设想,以及从 Training Copilot 走向 Vibe Training 的产品终局。
田渊栋离开 Meta FAIR 半年后,与 Richard Socher、熊蔡明、Tim Rocktäschel 等 7 位顶级研究员一起创立 Recursive Superintelligence(RSI),6.5 亿美元融资、46.5 亿美元估值。 这一期他第一次系统讲述了 RSI 的技术路线:用 AI 优化 AI(左脚踩右脚),把 auto research 作为商业化第一步,以及他认为现在 AI 能力大约在"满分 10 分的 0.5 分"。 对话还覆盖了 NeoLab 全景、coding 之后的下一波、大厂蒸馏员工的"吸星大法"、以及"水越来越少,鱼必须变成四维生物"的就业大趋势。
Lex Fridman 与 Anthropic 的三位核心人物同场对谈: CEO Dario Amodei 讲 scaling 假设、RSP 的 if-then 结构、"race to the top" 战略与 Machines of Loving Grace; character lead Amanda Askell 讲 Claude 的性格工程、sycophancy 与最优失败率; interpretability 共同创始人 Chris Olah 讲 features、circuits、superposition 和那个著名的 deception feature。三人从战略、产品、研究三个层面拼出 Anthropic 对 "AI inside" 的完整 stereo view。
Grant Sanderson 以单位距离猜想的反例为起点,讨论 AI 数学为什么进展更快,以及 IMO、黎曼猜想与形式化验证分别能说明什么。对谈进一步追问真正困难的能力:提出好猜想与好定义、压缩证明为人类理解,并在海量机器生成数学中承担策展、教学与应用判断。