这个团队给AI大模型装“护栏”

当大部分AI企业都在追求算法精度和应用场景的拓展时，瑞莱智慧CEO田天却将自己的企业定位为一家AI安全公司。

随着大模型时代的到来，幻觉、偏见、数据泄露、被注入恶意指令等问题开始浮现。瑞莱智慧采取了攻防两端的策略。一方面，团队研发了红队模型，主动对市面上的主流大模型进行对抗性测试。另一方面，瑞莱智慧提供安全加固方案——给大模型装上“护栏”，确保其在任务中输出可信、可控、符合规范的内容。“随着具身智能的发展，我们希望在前沿领域持续开展安全相关的研究和技术研发，适时推出新的AI安全产品。”田天说。

08