模型能力已够,未来竞争在于AI基础设施
Runta创始人戴冠兰在访谈中分享了他的创业思考。他认为当前大模型能力已接近临界点,未来的竞争焦点将转向为AI智能体构建专用的基础设施(Infra)。Runta致力于打造一个确定性的执行底座,以应对智能体在生产环境中面临的非确定性工作负载、权限管理、安全与成本控制等复杂挑战。
导语
Runta 创始人戴冠兰在《Koji杨远骋at十字路口》节目中,深入探讨了AI智能体(Agent)落地所面临的核心挑战与基础设施建设的必要性。作为曾在Cloudflare和 Kong担任核心工程师的技术专家,戴冠兰认为,当下的AI竞赛已从单纯提升模型能力,转向构建能够支撑智能体规模化、安全化运行的底层执行环境。Runta 正是为了解决这一问题而生。
大纲与深读 8 章
展开「深读」看每一段讨论的问题与论据。
01
嘉宾背景与RTA产品
- 嘉宾戴冠蓝,35岁,INTJ,公司RUNA为AI智能体构建执行底座RTA
- RTA定位为下一代AI基础设施平台,解决智能体规模化运行中的隔离、迁移等复杂系统问题
- 团队约10人,背后管理成百上千个智能体,刚完成A16Z领投的2000万美元融资
深读这一段
讨论的问题:RTA为AI智能体解决的最关键问题是什么?
论据 / 案例:RTA旨在为概率性的AI工作负载提供确定性执行能力,包括跑在哪、权限管理、执行监控、弹性伸缩等,是平台级机会
02
获投原因与平台判断
00:30- Jeff Dean关注底层执行单元概率化后,如何构建确定性基础设施的问题
- A16Z专门撰文,认为RTA是管理Agent智能体的新平台级机会,堪比从物理机到容器的代际变化
- 创始人有从底层原理参与构建上一代云基础设施(Kong/Cloudflare)的宝贵经验
深读这一段
讨论的问题:为什么A16Z和Jeff Dean等投资人如此重视RUNA?
论据 / 案例:Jeff Dean提出核心问题:当底层执行单元变为概率性,Infrastructure如何构建;A16Z Martin专门写博阐述其平台机会
03
Token消耗理念反转
16:40- 从‘Token Maximizing’鼓励全员消耗,转变为‘Token Minimizing’强调成本管控
- 反转始于o1等思维链模型,Meta、亚马逊等曾将Token使用量与业绩考核挂钩
- 企业如Uber已用完全年Token预算,发现ROI不清,且成本极高,开始控制
深读这一段
讨论的问题:企业对Token使用的理念为何发生从鼓励消耗到控制的快速反转?
论据 / 案例:Uber CFO称4月已用完全年Token预算;Meta、Stripe曾将Token使用量纳入绩效考核;有员工为刷Token量威胁同事
04
Agent执行的安全与治理
41:40- Agent既像软件又像人类,但均无法直接追责,出了问题谁‘背锅’是巨大挑战
- 企业希望Agent干活,但极度担忧其行为不可控,如泄露机密或客户信息
- RTA通过管控而非扫描,让Agent在可控边界内执行,提供审计和恢复能力,从而建立信任
深读这一段
讨论的问题:如何解决AI智能体在企业生产环境中带来的安全与治理难题?
论据 / 案例:预警:未来必然发生灾难性事件,如Agent发出无法挽回的邮件;世界500强公司因使用Agent已发生机密泄露问题
05
竞争格局与差异化
53:20- 机会属于创业公司而非公有云,因其现有架构、计价模型为SaaS软件设计,存在内部包袱
- 模型厂商(如Anthropic)会做Agent工具,但企业不会绑定单一模型或云,需要多模型多云的中立底座
- 竞争主要来自专注AI Infra的创业公司及上一代Serverless厂商,但后者技术已不适应长时运行的Agent
深读这一段
讨论的问题:RTA与公有云、模型厂商及其他AI Infra创业公司的竞争边界在哪里?
论据 / 案例:现有Serverless技术(如Firecracker)为短任务设计;Agent运行时间长达数天,需要动态GPU使用、内存伸缩等新架构
06
商业化与客户选择
70:00- 早期目标是打造通用平台,而非追求营收;优先服务‘Agent Native’的前沿开发者和垂类Agent公司
- 同时接触世界500强企业,了解其智能体部署痛点与进度,保持对市场的感知
- 已有企业客户排队,但因团队交付能力限制,选择暂缓,聚焦服务好早期标杆客户
深读这一段
讨论的问题:RTA如何选择早期客户并规划商业化路径?
论据 / 案例:明确选择服务Agent Native公司和垂类Agent开发者(如视频、营销Agent),因其有量,能验证平台
07
模型够用,卷基础设施
96:40- 模型能力已达临界点(如Claude 3.5 Opus与GPT-5对开发者区别不大),竞争转向基础设施
- AI Infra赛道尚处早期,缺乏共识,RTA希望让‘Agent需要执行底座’成为行业常识
- 开源模型能力爬坡迅速,但模型公司的核心仍是提升模型能力,与做中立基础设施是不同职责
深读这一段
讨论的问题:灌篮对当前AI模型能力与基础设施发展的核心判断是什么?
论据 / 案例:下暴论:模型能力已经够了,要卷就卷Infra;Kimi、DeepSeek等开源模型能力已接近SOTA第一梯队
08
创业激情与技术价值观
125:00- 选择在技术浪潮来临且自己有能力时果断行动,避免终生遗憾,是职业选择的核心
- 极度看重工程师的底层系统能力(如钻到kernel级别)和快速吃透技术的好奇心
- 内部工程师自主选择多样化的AI工具(Codex、Grok、国内模型等),培养对技术的体感
深读这一段
讨论的问题:灌篮的技术价值观和对职业发展的核心建议是什么?
论据 / 案例:个人常用Codex、Hermes、Pi及多种AI产品;内部不统一工具,让工程师按场景自主选择,以结果负责
金句
- "模型能力已经够了,要卷就卷infra。"
- "如果系统最底层的执行单元变成了概率性的话,那infra这一层要怎么构建?"
- "我们做的是infra工作,但真正让企业落地,需要在非确定性的workload下面加入一些确定性的东西。"
- "我希望未来大家会有这样一个认知:AI智能体需要跑到它的执行底座里面。"