韩国宣布开发自主安全专用AI模型 应对前沿AI安全威胁

7月16日，韩国科学技术信息通信部（下称“科技部”）正式宣布，将推进韩国自主“安全专用”人工智能（AI）模型的开发与普及工作，旨在应对由前沿AI技术引发的网络安全威胁，并确立AI安全主权。

AI

此次决策的直接背景，是Anthropic公司前沿AI模型“Claude Mitos”所暴露出的安全漏洞问题。在当天的报告中，科技部长官李宗昊（音）在回答总统相关提问时指出：“韩国虽然也在自主开发基础模型，但仅凭当前水平难以应对（此类威胁）。”

对此，科技部构思了两大应对战略：一是在自主AI模型上追加学习安全相关数据，打造安全专用模型；二是鉴于Mitos本身也非安全专用模型，而是一款高度发达的前沿AI模型，韩国也应着手开发前沿级AI模型。

科技部表示，将利用前沿AI技术，从本月起迅速对国民生活及安全领域的系统进行漏洞排查。李宗昊强调：“目前各企业为检查安全漏洞，使用AI已成为必需”，“科技部将准备安全专用AI模型乃至前沿级AI模型，持续检查安全漏洞，以实现安全的AI日常生活。”

AI手机

此次安全专用AI模型的开发，是韩国政府更宏大的“自主AI”战略的一部分。近期，政府已宣布将基于国产AI模型推出面向全体国民的免费聊天机器人服务。此外，为保障AI主权，政府还计划在行政、安全、国防等对安全性要求极高的领域，率先引入搭载国产NPU（神经网络处理单元）的本地化（on-premise）基础设施。

在AI国际竞争力方面，韩国政府设定了明确目标。李宗昊表示，韩国AI国际竞争力目前排名世界第三，并设定了在今年8月的评估中进入前两名的目标。政府在推进安全专用AI的同时，也将并行推进物理AI（Physical AI）及核心技术的国产化，并通过将白帽黑客（White Hacking）制度化的方式，强化整体安全生态。