首页
看点啥
插画图片
首页 经济看点 腾讯混元推出Stem稀疏注意力算法 首字延迟降低3.6倍

腾讯混元推出Stem稀疏注意力算法 首字延迟降低3.6倍

2026-06-06 0

【腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍】财联社6月5日电,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。

腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍

喜欢(0)

上一篇

WWDC前夕!苹果批准首个iMessage AI智能体 发短信就能控制家居和回邮件

WWDC前夕!苹果批准首个iMessage AI智能体 发短信就能控制家居和回邮件

下一篇

美企苦高价AI久矣?DeepSeek登顶趋势榜第一

美企苦高价AI久矣?DeepSeek登顶趋势榜第一
猜你喜欢