国安部警示：违规使用开源AI工具或致泄密风险

12月26日消息，国家安全部今日发文指出，当前，人工智能大模型正加速赋能千行百业，推动着我们的生活方式发生日新月异的变化。这位既能干又贴心的"数字伙伴"，正在以前所未有的速度融入我们的日常生活。然而，每一次技术浪潮的奔涌，必然会伴随新的挑战。随着AI技术触角的日益延伸、嵌入各行各业的深度日益加深，随之暴露出的数据隐私泄露、算法偏见等潜在风险也愈发引人关注，亟需我们共同筑牢安全防线，以推动这场深刻的智能技术变革行稳致远，为实现安全赋能的更美好未来保驾护航。

高速发展背后的"暗礁"：

一是数据隐私与安全边界模糊。个别单位因直接使用开源框架构建互联网大模型，导致攻击者未经授权即可自由访问内部网络，从而引发数据泄露和安全风险。据公开案例显示，某单位工作人员在处理内部文件时，违规使用开源AI工具，由于电脑系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法访问和下载。

二是技术滥用与虚假信息滋生。利用AI的深度学习算法进行自动化数据处理，可以实现图片、音频及视频的智能模拟和伪造，这种技术被称为深度伪造（Deepfake）。一旦该技术被滥用或恶意使用，将给个人合法权益、社会稳定甚至国家安全带来诸多风险和挑战。国家安全机关在工作中发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，并企图向境内传播，以误导舆论、制造恐慌，对我国国家安全构成威胁。

三是算法偏见与决策"黑箱"。AI的判断源于其学习的资料，若训练数据本身存在社会偏见或代表性不足等问题，大模型便可能放大歧视。测试显示，某些AI系统会系统性偏向西方视角。当研究人员用中英文向同一个AI提问历史问题时，发现英文回复会刻意回避、淡化某些史实，甚至会给出包含错误历史信息的内容，引发重大歧误，而中文回复则相对客观。

守护"数字伙伴"的三条守则：

守则一：划定"活动范围"。做到"权限最小化"，联网AI不处理涉密数据、语音AI不收集环境语音、智能助手不保存支付密码，关闭"数据共享""云空间"等不必要的访问权限。

守则二：检查"数字足迹"。养成定期清理AI聊天记录、修改AI工具密码、更新防病毒软件、查看账号登录设备等良好习惯。同时，避免随意下载使用来源不明的大模型程序，对提供身份证、银行账户或其他敏感信息的要求保持警惕。

守则三：优化"人机协作"。向AI提问时，可在提示词中明确禁止AI过度推演，并要求AI显示来源或思考过程。对重要信息进行跨平台验证，合理辨别AI生成结果，特别是涉及政治、历史、意识形态等话题时，要保持独立思考和辩证思维，避免陷入"AI幻觉"。

需要注意，国家安全机关还提示，安全是发展的前提，发展是安全的保障。只有懂科技、安全地使用科技，才能让AI大模型这一新兴科技成为推动社会进步的正面力量。广大用户应当提高安全意识，谨慎授权大模型软件权限。

如发现AI大模型存在窃取个人信息、向境外传输敏感数据等危害网络安全的问题线索，可通过12339国家安全机关受理电话、网络举报平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关进行举报。