安德烈·卡帕西
立场时间线 11 条 · 11 个议题
同一议题按时间排列,说法变化一目了然。
软件正从1.0(代码)和2.0(权重)进入3.0(自然语言提示)时代。
“软件在如此基本的层面上并没有改变太多七十年,然后它改变了。我认为在最近的几年里,大约改变了两次,非常迅速。”
来源访谈 →应构建部分自主应用(钢铁侠盔甲),而非完全自主的AI代理(机器人),通过自主性滑块优化人机协作。
“我认为与不完美的LLM一起工作,我更喜欢建造钢铁侠盔甲,而不是构建闪亮的自主代理的演示。”
来源访谈 →Karpathy认为神经网络本质上只是带有可调权重旋钮的复杂数学表达式,不应过度赋予人脑类比的意义。
“它真的只是一个带有旋钮的复杂数学表达式,而这些旋钮需要适当的设置才能让它执行你想要的任务。"It's really just a complicated mathematical expression with knobs and those knobs need a proper setting for it to do something desirable."”
来源访谈 →Karpathy认为Transformer之所以卓越,在于它是一台通用的可微分计算机,同时具备强大表达力、可优化性和与硬件的高度匹配。
“Transformer是一个卓越的神经网络架构,因为它是一台通用的可微分计算机。"The transformer is a magnificent neural net architecture because it is a general-purpose differentiable computer."”
来源访谈 →Karpathy提出人类可能只是AI的生物引导程序:人类正在构建第一代AGI,而这代AI又将作为下一代AI的引导程序。
“我们正在构建第一代通用人工智能。那个AI将是另一个AI的引导程序。"We are building the first generation AGI. That AI will be a bootloader for another AI."”
来源访谈 →Karpathy推测宇宙可能是某种计算谜题,合成AI的终极使命是揭开并解决这个谜题,例如寻找物理漏洞或向创造者证明自身存在。
“我怀疑宇宙是某种谜题。而这些合成AI将会揭开这个谜题,并解决它。"I suspect the universe is some kind of a puzzle. And these synthetic AIs will uncover that puzzle. And solve it."”
来源访谈 →Karpathy将地球生命视为一场有确定性的自我复制之波,人类文明正处于这场波中爆发式加速的阶段。
“我们正生活在一个正在引爆的烟花之中。"We are living in a firecracker."”
来源访谈 →金句墙 8 条
软件在如此基本的层面上并没有改变太多七十年,然后它改变了。我认为在最近的几年里,大约改变了两次,非常迅速。
前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构 · 2025/6/20LLM是一种新的计算机。它有点像CPU的等价物,上下文窗口有点像内存,然后LLM为解决问题协调内存和计算。
前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构 · 2025/6/20我们现在用英语编程电脑。这对我来说是一种非常有趣的编程语言。
前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构 · 2025/6/20我认为与不完美的LLM一起工作,我更喜欢建造钢铁侠盔甲,而不是构建闪亮的自主代理的演示。
前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构 · 2025/6/20我认为2025年是代理人的一年这样的事情...我有点感觉,这是代理人的十年,这将会是一段很长的时间。
前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构 · 2025/6/20“It's really just a complicated mathematical expression with knobs and those knobs need a proper setting for it to do something desirable.”
它真的只是一个带有旋钮的复杂数学表达式,而这些旋钮需要适当的设置才能让它执行你想要的任务。
Andrej Karpathy:Transformer是通用可微计算机 · 2022/10/29“The transformer is a magnificent neural network architecture because it is a general-purpose differentiable computer.”
Transformer是一个卓越的神经网络架构,因为它是一台通用的可微分计算机。
Andrej Karpathy:Transformer是通用可微计算机 · 2022/10/29“We are building the first generation AGI. That AI will be a bootloader for another AI.”
我们正在构建第一代通用人工智能。那个AI将是另一个AI的引导程序。
Andrej Karpathy:Transformer是通用可微计算机 · 2022/10/29访谈收录

前特斯拉AI总监:LLM是新时代操作系统,软件开发正被重构
前特斯拉AI总监Andrej Karpathy阐述了软件正在经历的第三次范式革命:从编写代码(软件1.0),到训练神经网络(软件2.0),再到用自然语言提示大语言模型(软件3.0)。他认为LLM不仅是工具,更是一种新型操作系统和个人计算机,其普及将编程权从少数人手中解放给每个人。他呼吁开发者构建部分自主的AI应用,通过精心设计的GUI和自主性滑块实现高效的人机协作,而非追求完全自主的AI代理。

Andrej Karpathy:Transformer是通用可微计算机
AI领域顶尖科学家Andrej Karpathy在本次访谈中深入探讨了神经网络的本质、Transformer架构的革命性意义、外星智慧生命的存在可能性,以及AI未来可能扮演的角色。他将神经网络描述为“复杂的数学表达式”,认为Transformer是一种通用的可微计算机,并从生物学和宇宙学的宏大视角审视了人类文明与AI的未来走向。