专家解读｜筑牢智能向善的伦理安全基石

近日，全国网络安全标准化技术委员会公布《人工智能应用论理安全指引1.0》（以下简称《指引》），标志着我国在人工智能应用治理领域迈出了重要一步。在当前生成式人工智能、智能体等新技术快速迭代、应用场景不断拓展的背景下，《指引》的制定旨在平衡技术创新与风险防范，确保人工智能发展始终服务于国家经济社会发展和人民福祉。

一、深刻认识人工智能应用带来的论理安全影响

开展有效治理的前提是精准识别技术发展带来的潜在风险。《指引》详尽归纳了人工智能技术应用可能带来的六大结构性影响。纵观全球，警惕并规制这些影响，已成为当前世界各国的普遍共识。

一是可能影响人类主导地位与生态可持续性。随着系统自主性的提升，人工智能的行为可能超出人类所预设与可控的范围。若关键决策节点缺乏有效监督，人类在社会运行中的主导地位将受到实质性冲击。同时，不合理的技术路线与算力扩张也可能带来系统性生态压力，影响人与自然的和谐发展。防范模型失控、确保人类主导地位以及推动绿色智能已成为全球核心关切。例如，联合国教科文组织《人工智能论理问题建议书》等全球性论理文件，也均将“人类主导和监督”以及“环境可持续性”作为核心原则。

二是可能影响社会基础秩序，加剧结构性分化。人工智能深度介入社会运行，在技术演进快于社会适应的错位下，可能冲击既有行为规范与市场秩序，削弱维系社会运转的基本信任机制。此外，海量自动化决策可能对不同群体产生差异化影响，放大固有偏见与歧视，造成结构性不利后果。维护社会公平秩序已成为多国监管焦点，如美国发布《人工智能风险管理框架》以应对算法偏见。我国近年来在算法推荐、深度合成等领域积累的专项治理经验，也为此次通过论理安全指引进一步防范技术带来的歧视性影响，奠定了扎实的工作基础。

三是可能异化个体认知，对公民权益造成威胁。人工智能普遍应用形成的新环境极易对个体认知与价值体系造成冲击，导致过度依赖或脱离现实社会交往。同时，隐蔽的数据处理与全新的应用方式，潜藏着侵害自然人生命健康、人格尊严、隐私财产及组织合法权益的隐患。纵观世界多国对人工智能的治理实践，保护个体免受智能异化与权益侵害是一项通行做法，如意大利数据保护局曾因情感干预与隐私风险紧急叫停某AI伴侣应用。《指引》对微观权益与认知风险的精准把控，为我国的防范治理指明了方向。

二、彰显以人为本与智能向善的中国特色

在全球探寻人工智能治理共识的当下，世界主要经济体均在加速构建符合自身价值观的监管框架。《指引》深刻洞察这一国际趋势，将社会主义核心价值观贯穿于技术应用规范的始终，深刻体现了技术发展造福人类、服务社会的中国特色与人文关怀。

一是细化落实顶层设计，贯通从论理原则到应用场景的实践路径。近年来，我国人工智能论理治理体系日益完善，通过《人工智能科技论理审查与服务办法（试行）》《人工智能安全治理框架》等文件的出台，已初步构建起从论理原则到程序规范的架构。在此背景下，此次出台的《指引》则进一步向下延伸，切实填补了从宏观论理规范向具体产业应用场景过渡的规则细化空间。指引不仅从理念层面提出引导，更通过详实的通用指引、应用开发指引、服务提供指引和应用使用指引，将宏观的审查要求转化为微观应用层面的具体操作规范。这种从前沿科研向具体场景落地的制度安排，形成了原则、办法与指引的一脉相承，使得人工智能论理安全治理真正实现了从实验室到应用场的落地见效。

二是贯通衔接法律规章，构建强制约束与柔性引导相结合的治理体系。近年来，我国坚持敏捷治理，在部门规章层面形成了清晰的演进逻辑。从《互联网信息服务算法推荐管理规定》规范算法分发，到《互联网信息服务深度合成管理规定》强调内容真实性，再到《生成式人工智能服务管理暂行办法》统筹全链条安全，《人工智能生成合成内容标识办法》明确标识要求，以及《人工智能拟人化互动服务管理暂行办法》规制拟人化行为，随着配套规定的不断完善，我国已建立起以算法备案、安全评估、内容标识等要求为核心的人工智能制度规范。在此脉络中，《指引》与上述法律规范互为补充，法律规范负责划定制度红线并解决违法惩戒问题；《指引》则确立论理锚点，通过更详细的操作建议引导技术向善，确保技术演进契合人类共同福祉。这种法律规范与论理安全指引双轮驱动的模式，既保持了监管的稳定性，又赋予了治理体系应对前沿技术不确定性的灵活性。

三是坚守以人为本，彰显科技向善与人文关怀底色。《指引》在论理安全原则中明确了“增进人类福祉”与“尊重生命权利”的安全底线，坚持人工智能的主导权应归属人类。其中极具中国特色的一点是，《指引》高度关注个人劳动就业权利的保护，明确提出事先评估并防范人工智能应用可能引发的就业替代或失业风险，着力引导技术发展促进提高生产生活水平。同时，人文关怀贯穿了文件的各个部分。例如，在通用指引和服务提供指引中，均重点强调了对未成年人、老年人、残障人士等易受影响群体的保护，倡导在应用开发和部署阶段切实提升便利性，避免造成使用机会的不公平。此外，“普惠共享”原则倡导构建合作共生、收益共享的人工智能生态，充分彰显了我国科技发展坚持消除偏见歧视、保障机会均等的社会责任感。

四是深化国际规则衔接，贡献人工智能治理的中国智慧。当前，全球人工智能治理面临着技术壁垒森严、规则碎片化以及数据鸿沟加剧等严峻挑战。指引在“敏捷共治”原则中，前瞻性地提出加强安全互认，推动治理规则、技术标准、安全基准等方面的国际衔接，以全面提升敏捷治理水平。这表明我国在筑牢国内应用安全底线的同时，始终秉持开放包容的大国态度。结合“普惠共享”原则的要求，《指引》鼓励技术开源，倡导共享人工智能知识成果、最佳实践与安全治理经验。这些倡议举措体现了我国坚持开放合作、共治共享的治理理念，为构建全球人工智能论理安全治理体系提供了具有建设性的中国方案，有助于进一步增强我国在全球前沿技术治理领域的话语权与影响力。

三、构建全链条、全生命周期的论理安全治理体系

人工智能治理是一项复杂的系统工程，单一环节的规制难以应对跨边界的技术风险。《指引》立足人工智能发展应用实践，按照参与主体的角色划分，对应用开发、服务提供和应用使用三个关键环节进行了分类引导，并结合不同垂直领域的特征，构筑了一套权责清晰、协同联动的指引体系。

一是在前端落实应用开发者主体责任，强化安全管理。开发者是决定技术演进方向的第一道关口。《指引》针对应用开发阶段提出了明确指引，核心在于将安全可控、公平公正、隐私保护等论理要求作为应用设计的默认设置。在具体研发流程中，引导开发者在数据选择、目标设定、算法设计等核心环节高度关注潜在的偏见歧视影响，从技术源头保障机会均等。同时，为防范技术黑箱带来的失控风险，《指引》强调设置事故信息追溯机制，保留与风险事件相关的必要信息，确保在发生争议或损害时能够复盘分析并支撑责任追溯，从而保障技术底层的透明与可信。

二是在中端规范服务提供者运营行为，完善风险控制机制。服务提供者是连接技术与使用者的桥梁，其运营规范程度直接关系到风险控制的成效。《指引》着重对服务提供者的管理责任作出指引，特别是在关键领域场景进行重要决策时，若使用不可解释的人工智能，将其限定为仅承担辅助决策作用、不提供直接决策依据，并设置人工复核机制，防止算法替代人类做出核心判断。此外，《指引》充分尊重使用者的自主选择权，提出以清楚明确的方式向使用者提供拒绝、干预及停止使用的选项，并引导设置包含人工紧急干预、中止应用等在内的事故应急处置机制，确保在面临突发论理安全风险时能够及时熔断止损。

三是在后端加强对应用使用者宣教引导，明确合理合规的使用导向。应用方不仅是技术的使用者，也是数字生态的重要共建者。《指引》专设了应用使用指引，倡导积极提升人工智能使用素养，形成理性、审慎的使用习惯。在内容生产与传播方面，《指引》划定了清晰的行为底线，提出在使用人工智能生成内容并对外发布时，履行主动声明及标识义务，不利用技术伪造他人身份或仿冒权威主体开展活动。同时，提醒审慎分享涉及个人或他人的敏感信息，防范因不当输入造成权益受损。

四是聚焦典型垂直场景特点，落实分类精细化治理指引。由于人工智能在不同领域的应用风险存在显著差异，一刀切的管理模式难以奏效。《指引》在通用指引中对多类典型垂直场景，前瞻性地给出了差异化的操作导向。例如，在涉及生命健康与人身安全的场景，明确了安全优先、审慎适用的底线思维；在涉及社会治理与公共服务的场景，强调公共利益优先与公平公正，保障技术应用不削弱公共服务的普惠性；在涉及信息资讯与传播的场景，则坚持真实可信与清朗生态导向，强化对生成与推荐的风险治理。这种分类施策的精细化指引，为各类场景下的合规落地提供了重要参考。

《指引》的出台，不仅是应对人工智能论理安全风险的技术性指引，更是统筹高质量发展与高水平安全、构建人工智能长效治理体系的战略性举措。展望未来，在规范引导下，我国人工智能产业将加速迈向更加稳健、成熟的发展阶段。一个权责清晰、合作共生、普惠共享的智能新生态正在逐步形成，人工智能将深度赋能社会进步，成为增进人民福祉和助力可持续发展的积极力量。同时，中国在人工智能应用论理安全领域积极探索与实践，也将持续为全球数字治理体系提供参考借鉴。我们将与国际社会一道，共同迎接智能时代的安全、公平与繁荣。

作者：张凌寒　中国政法大学人工智能法研究院院长、教授，联合国高级别人工智能咨询机构专家

来源：全国网安标委

审核：陈舞阳　赵　娟

编辑：柴于涵