Matrix -Game3.5是什么
Matrix-Game 3.5 是昆仑万维黎曼动力团队开源的实时流式交互世界模型，基于 Patch Memory 与 Warped PRoPE 实现三维空间级长期记忆与几何一致性建模。模型支持 720P/20FPS 单卡实时生成，具备分钟级场景回溯能力，可响应键盘鼠标实时操控。从游戏引擎走向通用物理世界模拟，为机器人训练、自动驾驶仿真与具身智能提供开源基础设施。
Matrix -Game3.5的主要功能
- Patch Memory 长期记忆：将历史画面切分为三维空间坐标下的图像块（Patch），按空间位置检索重组，解决物体重现与场景漂移问题，物体重现得分突破此前行业 0.6 的上限。
- PRoPE + Warped RoPE 几何编码：将相机投影矩阵编码融入 Transformer 时空位置表示，使模型感知相机旋转、平移与投影关系，实现精准视角控制与几何一致性。
- 动静解耦记忆：静态场景由 Patch Memory 维护，动态主体通过轻量级 Reference Token 保持身份一致性，避免移动物体污染记忆导致重影。
- 实时流式生成：通过蒸馏将采样步数压缩至 3 步，结合分块因果推理、KV Cache、INT8 量化与 VAE 结构化剪枝，实现单卡 GPU 720P/20FPS 实时生成。
- 自动化数据管线：构建 Unreal-Gen（虚幻引擎）、AAA 游戏管线与互联网视频管线三类数据系统，产出 500 万+高质量视频切片、1 万+小时训练数据，覆盖 1200+游戏场景。
- NPC 交互与开放世界泛化：支持文本驱动的世界生成、角色动作控制与多智能体协同。
Matrix -Game3.5的技术原理
- 统一几何感知记忆框架：PRoPE 将相机位姿编码为相对位置码，不引入额外可学习参数；Warped RoPE 重新计算历史 Patch 在当前视角下的时空坐标，实现记忆复用时的坐标对齐。
- 渐进式蒸馏：分两阶段将双向 DiT 蒸馏为因果生成器——用 Perceptual Flow Matching 获得高质量少步因果初始化，通过 Self-Rollout DMD（分布匹配蒸馏）在自回归轨迹上训练，配合条件课程逐步蒸馏无分类器引导、相机控制与记忆条件生成。
- 轻量化可插拔架构：核心交互功能（PRoPE、Patch Memory、动静解耦）均不新增参数，用模块化插件形式适配不同视频基础模型。
微信关注回复“开源”，加入AI开源项目交流群
如何使用Matrix -Game3.5
- 下载模型：通过 GitHub（https://github.com/Riemann-Dynamics/Matrix-Game-3.5）或 HuggingFace 获取权重与推理代码。
- 部署环境：准备单张支持 CUDA 的 GPU，安装依赖后加载模型。
- 输入控制：通过键盘 WASD 移动、鼠标控制视角，或输入文本提示/相机轨迹生成交互世界。
- 实时交互：模型用 20FPS 流式输出后续帧，支持分钟级连续探索而不丢失场景一致性。
Matrix -Game3.5的核心优势
- 长时序一致性：首次在开源方案中系统性解决世界模型分钟级记忆瓶颈，镜头往返重访时场景元素保持完全一致。
- 实时可交互：从离线视频生成器升级为可玩的活世界，支持键盘/鼠标实时操控，延迟低至可玩级别。
- 开源生态：核心架构完全开源，GitHub 与 HuggingFace 可查，已被 DiT 作者谢赛宁团队（Solaris）、NVIDIA及 Adobe等引用为基准。
- 零参数增量设计：不堆参数、不破坏原始视频分布，保留基础模型原生开放内容生成能力。
Matrix -Game3.5的项目地址
- 项目官网：https://matrix-game-v3-5.github.io/
- GitHub仓库：https://github.com/Riemann-Dynamics/Matrix-Game-3.5
- HuggingFace模型库：https://huggingface.co/RiemannDynamics/Matrix-Game-3.5-Base
- 技术论文：https://matrix-game-v3-5.github.io/paper/Matrix-Game-3.5.pdf
Matrix -Game3.5的同类竞品对比
维度 | Matrix-Game 3.5 | Google Genie 3 | 开源状态核心架构完全开源闭源
分辨率720P720P
实时帧率20 FPS（单卡）实时
交互时长分钟级数分钟
记忆机制Patch Memory（三维空间块检索）未公开细节
控制方式键盘/鼠标/相机轨迹/文本提示导航指令+可提示世界事件
参数增量几乎零新增参数未公开
数据管线自研三类自动化管线（UE5/3A/互联网）基于 Street View 等谷歌数据
生态引用被谢赛宁团队、NVIDIA、Adobe 引用行业标杆
Matrix -Game3.5的应用场景
- AI 游戏引擎：替代传统游戏引擎实时生成可交互开放世界，降低 3A 游戏开发成本。
- 机器人虚拟训练：作为人形机器人/机械臂的虚拟训练沙盘，支持低成本海量场景试错与长时序任务规划。
- 自动驾驶仿真：构建真实物理规则的交通场景数字孪生，用于端到端驾驶策略训练。
- 具身智能研究：为具身 Agent 提供可交互的物理世界模拟环境，支持动作-状态联合训练。
- XR/元宇宙内容生成：实时生成沉浸式虚拟空间，支持用户自由探索与内容创作。
