首页
看点啥
插画图片
首页 看点啥 闭源巨头限额/降级暗战:流量正加速流向开源生态

闭源巨头限额/降级暗战:流量正加速流向开源生态

2026-07-16 0

Gemini 2026-07-14 19:00 北京

闭源巨头“限额/降级”暗战,流量正加速流向开源生态

“ 算力效率才是智能跃迁的核心。NVIDIA 自研 Nemotron 开源模型并不是为了在应用层与生态竞争,而是为了从第一性原理出发,摸清未来硬件与算法协同设计的边界。

算力效率才是智能跃迁的核心。NVIDIA 自研 Nemotron 开源模型并不是为了在应用层与生态竞争,而是为了从第一性原理出发,摸清未来硬件与算法协同设计的边界。


Podcast · 播客精华


Inside Nemotron&

NVIDIA’s AI Lab

在最新一期 The MAD Podcast 中,NVIDIA 应用深度学习研究副总裁 Bryan Catanzaro 深度拆解了 NVIDIA 最新开源前沿权重模型 Nemotron 的底层技术与研发内幕。

Bryan 指出,在摩尔定律早已宣告终结的今天,已经不能再一味靠“堆算力”来获取更多智能了,而是必须把能效比做到极致。最新释放的 Nemotron 家族(包含 Nano、Super、Ultra 等模型)正是 NVIDIA 软硬件协同设计的试金石:

  1. 4位预训练 (4-bit Pretraining):团队在预训练阶段就突破性地使用极粗糙的 NVFP4 精度并实现了算法收敛,这极大地降低了数据吞吐能耗与通信延迟。

  2. 混合架构 (Hybrid SSM-Transformer):结合 Transformer 与状态空间模型(SSM)。模型既能利用 SSM 将全局上下文压缩为恒定显存占用的缓存,又保留了 Transformer 注意力机制对细节的精准调谐。

  3. 多Token预测 (Multi-token Prediction):推理时利用闲置的 GPU 算力预测多个后续 Token,通过后续对齐验证,在不损失精度的前提下实现推断速度的成倍飙升。

  4. 多导师蒸馏 (Multi-teacher Distillation):采用 MOPD (Multi-domain On-Policy Distillation) 算法,让精通代码、科学、数学等领域的“专家导师模型”共同监督一个学生模型,既避免了 500 人研究团队在模型对齐时的利益拉锯,也创造出了全能的 Nemotron-3 Ultra。

“如果我们接受未来始终在算力物理极限下运行的事实,那么获取更多智能的唯一途径就是提高效率。当处于极限时,我们无法通过施加蛮力来变得更聪明,必须对如何使用现有资源进行更深刻的思考。”

Bryan 特别强调,开源技术因为“有阳光照射”而天然更加安全。NVIDIA 自研 Nemotron 的核心动力绝非要在模型市场占山为王,而是通过挑战最前沿的算法极限,回哺 Blackwell NVL72 等最新计算架构的设计,确保 NVIDIA 软硬件生态持续繁荣。


Builders · 观点精选


Sam Altman (OpenAI)

坦言 OpenAI 的新一代模型在设计和前端审美上终于展现出极高水准,这让他有些“颠覆认知”。

同时,他也暗讽了竞争对手在高端模型额度和访问限制政策上的双标行为(“能解决硬核问题固然好,但前提是官方认为你配得上它,才不会默默给你降级,甚至让你有访问权限”)。

Thibault Sottiaux(OpenAI)

预告了 ChatGPT Work 用户的强劲增长势头,日活跃用户即将突破 800 万大关。同时为用户带来了 ChatGPT Work 的最新升级,继续围绕商业和办公场景加速产品功能的迭代。

Thariq(Anthropic)

预告了 Anthropic Artifacts 的重磅升级。升级后的 Artifacts 表现力更强,能够以更具创意的方式进行组合。他展示的一个应用场景是:在 Claude Tag 中建立一个项目仪表盘,该仪表盘不仅可以被其他人协同编辑,还能同步本地运行的 Claude Code 开发会话数据。

Ryo Lu(Cursor)

展示了利用 Cursor 进行硬件黑客尝试的成果。他自制了一套定制的电子阅读器固件,完美支持中日韩排版与竖排禁则,并能与个人系统同步书籍进度,整个过程大部分由 Cursor 协助编译和刷入。

另外,他宣布 Jenny (from Anthropic) 正式加入 Cursor 团队并担任管理职务,这将让他能专注探索软件开发的 big idea。

Swyx(Cognition)

梳理了当前大型项目开发的最前沿 AI 工具链实践:使用 Sol Ultra 规划、Claude Fable 5 审查、Sonnet 5 或 SWE 1.7 编写代码,并使用 Kakuna 进行 Devin review。

他强烈推荐在与 AI 对话前引入特定的引导提示词(如 "grill-me" 或 "interview-me"),迫使模型在动手前梳理清楚前置决策。同时他调侃了目前 Codex 工具与第三方 API 绑定过深的有趣现象。

Aaron Levie(Box)

分享了关于 AI 行业格局的系统性展望。他认为,前沿基座大模型将持续推高智能天花板,而开源权重模型则会快速吸收前沿突破,让企业能在云厂商端低成本运行高度定制化的特定领域工作流。

在此背景下,未来的经典技术模板将是「模型路由」:让强模型(如 Claude Fable 5)扮演“管理人”角色负责拆解任务、指定约束与反馈,而让低成本模型扮演“打工人”执行具体代码。

Guillermo Rauch (Vercel CEO)

透露了 Vercel 的最新产品方向与宏观数据。Vercel 正在强化其文件系统 API 和可观测性工具,甚至赋予了智能体通过功能开关(feature flags)自主进行线上 A/B 测试与网站性能调优的能力。

同时,他分享了一个行业趋势:在其 AI Gateway 流量中,开源权重模型消耗的 Token 比例已从 4 月份的 11% 飙升至现在的 29%。


由 Follow Builders skill 生成

喜欢(0)

上一篇

AI 越会回答:人为什么越需要深度思考?复旦发布 2026 人文社科智能发展蓝皮书

AI 越会回答:人为什么越需要深度思考?复旦发布 2026 人文社科智能发展蓝皮书

下一篇

一封邮件对AI Agent植入持久性虚假记忆

一封邮件对AI Agent植入持久性虚假记忆
猜你喜欢