AI驱动内存需求激增,价格一年暴涨500%

Latent Space的AINews报道指出,AI对算力的渴求已引发全球DRAM内存危机,价格在12个月内暴涨500%。超大规模买家已提前锁定2027年绝大部分产能,主流DRAM芯片价值已接近黄金。这标志着为硬件降价提供动力的摩尔定律在内存领域已被逆转,回退至2007年的价格水平。

导语

AI的飞速发展正给硬件基础设施带来前所未有的压力。最新一期的Latent Space AINews聚焦了一个日益严峻的全球性问题:内存(DRAM)价格在短短12个月内暴涨了500%。从消费级的DDR5内存套装到数据中心的核心存储,价格均已飙升至历史高位。超大规模云计算买家为保障供应,甚至已提前支付巨额定金,锁定了2027年全球绝大部分的DRAM产能。这场“内存危机”不仅影响着消费者,更深层地动摇了过去数十年驱动硬件成本下降的摩尔定律。

大纲与深读 6 章

展开「深读」看每一段讨论的问题与论据。

01

内存危机与价格暴涨

  • 内存价格在12个月内上涨500%,128GB DDR5套件价格是历史最低点的十倍。
  • 超大规模买家已锁定2027年全球几乎所有DRAM产能,并支付了预付款。
  • 摩尔定律在内存领域逆转,当前单位内存成本已回到2007年的水平。
深读这一段

讨论的问题:当前全球DRAM市场的供需状况及其对硬件成本和AI发展的影响是什么?

论据 / 案例:Tom's Hardware报告指出128GB DDR5套件价格是历史最低点的十倍;DRAM芯片每公斤价值超过黄金的一半;Daniel Lemire的推文称内存成本回到了约2007年的水平,逆转了约20年的价格下降趋势。

02

OpenAI暂停前沿训练

02:02
  • OpenAI暂停了部分前沿强化学习训练两周,以加强安全与对齐控制。
  • Sam Altman将此举归因于能力发展速度超过了安全准备的节奏。
  • 监控和隔离等安全措施可能增加约20%的计算开销,样本令牌监控能在约30分钟内通知相关团队。
深读这一段

讨论的问题:OpenAI为何暂停前沿强化学习训练,这反映了AI发展中的何种瓶颈?

论据 / 案例:Sam Altman表示能力发展速度超过了安全准备;Greg Brockman强调安全信心将成为前沿扩展速度的决定性因素;安全控制措施可能增加约20%的计算开销。

03

开源模型竞争格局

04:07
  • Qwen3.8-27B成为本地可运行前沿模型的焦点,在Cline排名中成为顶级本地模型。
  • 一个“移除拒绝”的MLX构建版本在Apple Silicon上运行,几乎零拒绝,保留了视觉、推理和工具使用能力。
  • GLM-5.3在相同价格和模型架构下,通过异步强化学习等后训练技术实现了智能指数上的显著跃升。
深读这一段

讨论的问题:当前开源或本地可运行模型在性能和安全边界方面出现了哪些关键进展?

论据 / 案例:Qwen3.8-27B在Cline排名中成为顶级本地模型;@kimmonismus展示了“移除拒绝”的Qwen3.8-27B本地构建版;GLM-5.3在智能指数上追平Kimi K3,GDPval-AA v2 Elo分跃升246点至1770。

04

推理基础设施加速

06:35
  • Mojo在Apache 2.0下开源,提供了跨加速器的可移植性工具链。
  • NVIDIA推出TensorRT模型连接器,简化从Hugging Face模型到TensorRT推理的部署流程。
  • DFlash 2声称在M5 Max上以70 tok/s运行Qwen3.8-27B,Cerebras CS-4声称支持10T模型并达到1000 tok/s。
深读这一段

讨论的问题:AI推理基础设施在工具链开放性和计算速度方面有哪些最新突破?

论据 / 案例:Mojo开源;NVIDIA TensorRT模型连接器简化部署;DFlash 2在M5 Max上运行Qwen3.8-27B达70 tok/s;Cerebras CS-4声称10T模型达1000 tok/s。

05

智能体评测与工具

08:41
  • Miles是一个经过9个月开发、包含72位贡献者的开源强化学习框架,用于调试和规模化运行。
  • Artificial Analysis推出搜索基准,在固定智能体框架中比较不同搜索提供商的性能。
  • LangSmith引入可调谐评估器,旨在以比前沿模型低82%的成本进行持续的生产跟踪评估。
深读这一段

讨论的问题:AI智能体开发在评测、调试和生产监控方面有哪些重要的工具和框架进展?

论据 / 案例:Miles框架有72位贡献者和1,326次提交;Artificial Analysis搜索基准中Parallel、Exa、Firecrawl领先;LangSmith调谐评估器成本降低82%。

06

多智能体系统与训练

10:54
  • 对1,902次多智能体编码运行的分析显示,指定协调员并不能可靠地改善结果。
  • 研究发现预训练的方差可能与初始化或数据顺序的方差一样大,影响训练结果的确定性。
  • 由麻省理工学院和斯坦福大学等机构发起的公共AI观测站,旨在公开测量真实的AI助手使用情况。
深读这一段

讨论的问题:在多智能体协调、模型训练的可重复性以及AI使用模式的测量方面有哪些新的研究发现?

论据 / 案例:对1,902次多智能体编码运行的分析;预训练浮点运算顺序和分片差异可导致显著的训练结果方差;公共AI观测站收集了24,521次同意对话的数据。

金句

  • "我们正式陷入了困境。几乎可以肯定,如果你正在阅读这篇文章,你就已经知道内存价格已经完全脱离了现实。"
  • "摩尔定律驱动所有硬件单价下降的趋势,对于内存来说已经被逆转。"
  • "内存的单价大约和2007年一样贵。据我所知,这是一个历史性的反常现象。"

原文链接

查看完整访谈

完整内容见原文:Latent Space / AINews · AI驱动内存需求激增,价格一年暴涨500%