中通院长余晓晖：AI企业应主动加固模型与智能体安全

“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者，均对新技术抱有浓厚兴趣并乐于尝试。”

3月25日，博鳌亚洲论坛“AI+”：数智赋能产业升级分会现场，中国信息通信研究院院长余晓晖指出，今年不少用户即便对开源AI智能体“龙虾”（OpenClaw）不甚了解，仍愿意主动体验；去年春节DeepSeek发布时，许多非行业人士也表现出高度关注。中国企业同样积极试水新技术，这为数字经济与人工智能发展注入了强劲活力，也是我国在相关领域实现突破的重要原因。

谈及AI治理如何平衡技术创新和可控性，余晓晖表示，当前社会在一定程度上低估了新技术带来的安全挑战。用户在使用“龙虾”时，往往忽视授权后其自主执行任务可能引发的不可控风险。其所在研究院此前测试也证实，相关技术存在诸多安全隐患。

但余晓晖认为，中国仍应积极拥抱新技术，推动其在各行业各领域探索应用，秉持创新精神而非畏惧退缩，以此提升生产力、增进社会福祉。

余晓晖进一步指出，面对新技术，社会应建立更全面的认知与敬畏之心，在应用过程中坚守基本安全底线。对企业与机构而言，未来自身的安全治理能力将愈发重要。在提升生产、学习与工作效率的同时，必须同步筑牢安全防线、构建安全治理体系，这在当前全球范围内均是一项极具挑战性的工作。

与此同时，余晓晖指出，国内外人工智能厂商肩负重大责任，需主动加强大模型、智能体等技术的安全加固。相关测试显示，当前国内外主流大语言模型（的安全水平）约15%至30%，相关工作仍需大力推进。目前团队已推动国内十余家人工智能头部企业作出人工智能安全承诺并进行信息披露，以切实解决相关安全问题。

“各方普遍希望在本轮人工智能浪潮中抓住机遇、不落人后，这是共同的诉求。当前应用场景广阔，但仍有几方面问题亟待解决。”余晓晖表示，一是小语种与模型多元化问题。需针对不同区域发展适配的小语种模型，实现技术普惠至关重要。

余晓晖指出，中国人工智能企业在此作出重要贡献，DeepSeek、月之暗面、阿里等推出的开源模型，为各国依托先进技术开展本土化训练、构建自主主权模型奠定了良好基础。

二是算力问题。余晓晖表示，这是当前面临的突出挑战，推动区域内算力互联互通，是满足算力需求的关键路径。

三是安全与治理问题。余晓晖指出，尽管各国政府已开展大量工作，但实际效果仍有不足。在区域层面，可围绕统一标准、协同治理规则、共建测试工具、加强技术团队与区域能力建设等方面深化合作。中国企业已深度参与其中，未来仍有广阔空间。各方应共同把握全球人工智能发展的创新红利，同时筑牢安全底线，妥善应对风险与治理挑战。