AI时代网络更需安全阀，安富利解读关键作用

买房还要戴头盔？这不是什么行为艺术，而是一个真实的上过热搜的新闻。事情的原委并不复杂：开发商通过人工智能（AI）采集客户的人脸数据，用来判定用金在哪个销售渠道结算，同时封死了客户在不同渠道间比价的可能性——只要你之前在某处“露过脸”，系统就能调出其他渠道的报价，想再砍价？门都没有。无奈之下，这位客户只好用最原始的方式，把脸藏起来，对抗AI的“偷脸”行为。

这个案例像一盆冷水，浇醒了很多人。人脸识别、AI应用越来越普及，我们在享受便捷的同时，是不是也悄悄付出了一些安全代价？这确实值得认真盘算一下。

AI的安全问题

上面那个例子只是冰山一角。仔细来看，今天的AI面临至少三个层面的挑战。

第一个层面，是AI技术本身内在的安全风险。传统上的自动控制，逻辑是清晰的、可追溯的；但AI依赖的机器学习，更像一个“黑箱”——我们能看到输入和输出，但神经网络内部到底怎么工作的，并不完全清楚。如果训练数据被污染，或者模型自身存在缺陷，带来的问题会比传统信息安全更隐蔽、更难发现。

第二个层面，是AI技术被恶意使用。黑客向来紧跟最新技术，有时候甚至引领技术潮流。AI恰好给了他们一件新武器：他们可以用机器学习做海量数据分析，揣摩安全策略的软肋，找到突破口。安全领域有个无奈的困境：防御者要预判并阻断一万种可能的攻击，而进攻者只需找到一个漏洞就能得手。AI时代，这个差距只会更大。

第三个层面，是AI应用中的隐私泄露和数据滥用。开头那个购房案例就属于这一类。而且当AI与物联网结合成“人工智能物联网（AIoT）”后，风险蔓延的速度更快，波及面更广，防范的难度自然也更大。

应对AI安全挑战

问题确实棘手，但再难也要拧紧“安全阀”。这是必须解决的事情。

最让人头疼的，是缺少趁手的工具。全球知名白帽黑客Kevin Mitnick直言：目前还没有真正符合AI核心技术的安全工具或产品出现，他自己对AI产品的安全分析评估经验也有限。

不过转念一想：AI既然能被黑客用作攻击手段，那它强大的能力同样可以拿来防守。事实上，网络安全厂商已经在引入AI技术，去解决传统方案解决不了的新威胁——提升检测精度、实现更高效的数据分类、加快威胁响应处置。换句话说，AI不仅能对抗已有的攻击，还能感知和预测未来可能的安全威胁，让防御变得主动起来。

根据中国信通院发布的《中国网络安全产业白皮书（2019年）》，AI在网络安全领域已经有了不少实际落地场景，包括但不限于：

• 异常流量检测方面，AI为加密流量分析提供新方案。
• 恶意软件防御方面，针对特定场景的AI应用取得积极进展。
• 异常行为分析方面，AI可成为模式识别的有效补充。
• 敏感数据保护方面，AI助力数据识别和保护能力提升。
• 安全运营管理方面，基于AI的安全编排与自动化响应（SORA）逐渐兴起。

有了AI这把利剑，下一步就是探索体系化的解决方案。比如，腾讯发布了一个“AI安全攻击矩阵”，覆盖从模型开发前的环境搭建，到训练部署，再到后期使用维护的整个生命周期。这个矩阵尽可能列举出所有可能遇到的问题，并给出应对策略。开发者对照排查，就能降低已知风险。虽然这只是一个起步，但方向是对的。

技术之外的努力

AI对人类社会的影响是多方面、深层次的，所以安全策略不能只停留在技术层面。至少还有两个方向必须行动：

• 第一，法律层面。通过立法明确AI安全的“红线”，让黑客和滥用者付出应有的代价。
• 第二，行业自律。建立公认的行为准则，覆盖法律滞后于技术发展带来的灰色地带，给用户最大化的保障，也为AI的长远发展营造健康的生态。

最后看一组数据：IDC研究显示，2019年全球网络安全支出较2018年增长9.4%，达到1066.3亿美元；但同期网络犯罪的总成本可能超过2万亿美元——安全支出只有犯罪成本的二十分之一。这就是我们面对的安全现实。AI的出现会让环境更加复杂，但在安全问题上决没有妥协的余地，关键之处一旦失守，可不仅仅是丢一张“脸”那么简单。这种细思极恐的压力，也正是推动行业不断进步的动力。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：AI时代网络更需安全阀，安富利解读关键作用要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题