AI智识录

本文是前特斯拉AI总监、OpenAI创始成员Andrej Karpathy在听完AI先驱Rich Sutton的播客后撰写的深度反思。他结合一线经验，将当前LLM的发展路径比作从人类数据中召唤“幽灵”，以此对照Sutton倡导的、像“动物”一样从互动中学习的理想范式。Karpathy创造性地提出“预训练是我们蹩脚的进化”，在肯定当前方法的实用性之余，更呼吁业界从自然智能中寻找未来突破的灵感。 原文链接：karpathy.bearblog.dev 以下为全文翻译： 终于有机会听完...

姚顺雨 (Shunyu Yao) 是人工智能领域一位极具开创性的青年研究者，尤其以其在 AI 智能体 (AI Agents) 领域的奠基性工作而闻名。他最为人熟知的贡献是作为主要作者，引领了革命性的 ReAct 框架的开发。该框架巧妙地将“推理”(Reasoning)与“行动”(Acting)相结合，让语言模型能像人一样思考规划、并与外部工具互动来解决复杂问题，这已成为现代智能体技术的核心思路之一。姚顺雨毕业于清华大学姚班，并在普林斯顿大学获得博士学位。他...

Andrej Karpathy 是一位杰出的人工智能科学家和工程师，以其在深度学习领域的深刻见解闻名。他曾担任特斯拉的AI总监，领导开发自动驾驶系统 Autopilot 的核心视觉技术，也是 OpenAI 的创始成员之一，深度参与了前沿AI的研究。除了在工业界的巨大成就，他也是一位极具影响力的教育家。他在斯坦福大学开设的课程 CS231n被公认为该领域的经典入门课。 他最著名的思想贡献是提出了“软件2.0”这一概念，清晰地阐述了神经网络正在从根本上...

Sara Hooker 是一位人工智能研究者，在撰写《硬件彩票》（The Hardware Lottery）一文时，她在谷歌研究院的 Brain 团队工作 。她在这篇影响深远的文章中提出了一个“扎心”的观点：在 AI 研究中，一个算法或模型能够成功并得到广泛应用，并不仅仅因为它理论上更优秀，很大程度上是因为它恰好能高效地运行在当前主流的硬件（尤其是 GPU）上。很多“更好”的、但与硬件不兼容的想法，就像没有中奖的彩票一样，被历史遗忘了。 原文地址：a...

Yann LeCun (杨立昆)，是2018年图灵奖得主，“深度学习三巨头”之一。他开创性地提出了卷积神经网络 (CNN)，为现代计算机视觉技术奠定了基础，是人工智能领域举足轻重的奠基人。他目前担任 Meta 副总裁兼首席人工智能科学家及纽约大学教授，是一位非常活跃的公众人物，经常在社交媒体 (X/Twitter) 上发表观点，与同行辩论，并积极地向公众普及他对 AI 未来发展的独特蓝图。 Yann LeCun 在 NIPS 2016 大会上提出了他如今已是家喻户晓...

作者：理查德·萨顿（Richard S. Sutton） 萨顿被誉为“现代强化学习之父”，同时也是2024年图灵奖的得主。他曾在马萨诸塞、阿尔伯塔等大学任教，2017年加入DeepMind担任杰出研究科学家。萨顿和巴托合作发展了强化学习的概念，并将其作为人工智能的基础。他们使用马尔可夫决策过程作为数学基础，解释了智能体如何在随机环境中做出决策。萨顿提出了时序差分学习和策略梯度方法等重要理论。此外，他还与巴托合著了《强化学习：导论》一...