应对未来人工智能安全挑战的策略分析

Synack最近的一份报告指出，如果将网络安全人才和AI技术结合起来，攻击面的有效覆盖范围能达到传统方法的20倍。不过，想要把这些数字真正消化吃透，并不容易。大部分相关讨论都抛给读者一堆数字，让人自己去计算、去关联、去琢磨数字背后到底意味着什么实际问题——这活儿可不轻松。

今天互联网上，最引人入胜的两个话题就是人工智能和网络安全。想要在如今这个互联互通的数字经济中站稳脚跟，扎实的干货和独到的见解，一个都不能少。

人工智能的挑战：网络安全行业的视角

消费者技术协会（Consumer Technology Association）最近的一项调查显示，AI最出色的应用领域就是网络安全——在所有AI应用中，有44%用于检测和阻止安全入侵。

但硬币的另一面是，网络犯罪分子也越来越多地把AI当成数字弹药，而且手法愈发新颖。这直接催生了强大的安全威胁，也让对网络安全专家的需求水涨船高。

当前需要关注的三大问题：

1. 网络安全威胁持续升温

2019年，《华尔街日报》报道了一起案例：一群网络犯罪分子向一家英国能源公司的CEO索要22万欧元。剧情的转折点在于，他们用AI模仿了CEO的声音。教训是什么？AI给网络犯罪分子提供了额外的筹码，让他们能绕过企业安全体系中的盲点。

2. 网络攻击和数据泄露，数量和复杂度双双飙升

Varonis的一项研究把问题摆到了台面上：简单来说，基于AI的技术能自动完成任务、保护攻击者的身份、在企业欺诈和深度伪造领域开辟新战场，还能以几乎闻所未闻的速度和规模完善恶意服务——这还只是其中几个例子。

3. 对AI技术的依赖加深，（威胁的）机会窗口随之扩大

实际上，以AI为主导的技术是把双刃剑。它可能对企业有利，也可能沦为网络犯罪分子的利器。企业可以利用新兴技术和AI驱动的软件来强化安全体系。讽刺的是，攻击者也能临时抱佛脚，用同样的技术来突破这些安全防线、处理日常任务，从而带来更复杂、更环环相扣的风险。信不信由你，思科在2018年报告说，它们“代表客户阻止了7万亿次威胁，或者说每天阻止200亿次威胁”。目前来看，我们似乎陷入了一种脆弱的境地。

人工智能如何为网络安全流程添砖加瓦

凯捷（Capgemini）表示，三分之二的企业计划在2020年之前部署AI解决方案。

尽管威胁重重，但AI确实在增强和补充网络安全最佳实践的未来。以下是网络安全领域“AI优势”的缩影：

缩短威胁响应时间，降低防范违规的成本

Synack声称，“使用AI，评估漏洞可破解性的时间缩短了73%”。此外，凯捷研究的其他数据显示，“四分之三的高管认为，网络安全中的AI能加快漏洞响应速度，包括检测和补救。大约64%的人表示，这还降低了检测和响应的成本。”专家Kayne McGladrey在与CIO交流时解读了这些数字背后的含义：“AI的持久力能缩短发现时间，它不需要休假、不需要喝咖啡、也不需要睡觉。而且，它不像第一层级安全运营中心的分析师那样，需要没完没了地阅读日志文件和警报。”

轻松应对多任务处理

AI就像一个超级组织，能以多种方式被调用——审查用户行为、查找模式、在安全网络中寻找违规行为，这还只是冰山一角。

打造更动态的安全实践

将AI与人工结合起来，能帮公司更快地发现并关闭关键漏洞，速度能提升40%。更重要的是，这能让公司把精力集中在创建安全的“阻塞点”上，而不是花几百万美元去保护整个工作环境。最后，借助AI提升安全性，企业能获得更大的回报，并将风险降到最低——这正是如今公司越来越关注的方向。

最小化安全责任，收获高质量成果

人工智能常被贴上“智能”的标签，这没错。这项强大的技术能在众多应用领域中，帮组织凸显重复发生的事件，并消除潜在的损害。

网络安全中AI的三大核心应用场景

1. 梳理海量安全数据，自动完成日常任务

网络安全领域最大的担忧之一，就是组织每天需要处理的数据量太过庞大。这或许正是Gmail选择用AI路由，每天额外阻止1亿封垃圾邮件的原因。Seedcamp的CTO Da vid Mytton在解释AI如何碘伏网络安全领域时表示，问题已经迫在眉睫。Mytton对CIO说：“随着越来越多系统被接入，问题不再是‘知道发生了什么’，而是要突出‘发生了什么不寻常的事’。”这里说的“仪器化系统”指的是——谁在什么时间登录？下载了什么？何时下载的？何时访问了什么？

2. 减少错误安全警报，捕获异常事件

AI智能与威胁情报相结合，能检测并解决新的安全问题。与传统的防病毒软件相比，威胁检测率能达到95%，而传统软件只有90%——这意味着传统软件会漏掉10%的恶意样本。

同样，Foley & Lardner LLP的合伙人Michael Overly在与Digital Munition交流时，谈到了以时间敏感的方式解决这些漏网威胁的好处。他说：“希望这些系统能大幅减少错误警报和无关紧要的问题，只留下少数‘真正’的威胁需要审查和解决。”

3. 通过提供预测能力和提升效率，筑牢安全防线

在阻止安全漏洞方面，AI最具创新性和最有效的应用之一，就是生物特征认证。科技巨头苹果公司使用的“面部识别”就是这个路子。强大的Face ID技术结合了内置的红外传感器和神经引擎来识别用户。如果苹果的说法可信，那么好处是巨大的——“用另一张脸来欺骗AI解锁设备的概率只有百万分之一。”

70%的安全专业人士表示，AI不仅提供了额外的安全层，还让团队效率更高，甚至消除了多达55%的员工手动任务。通过附加的安全层，并帮助团队把精力集中在更重要的任务上，人工智能也为工作效率注入了动力。提升生产率，最终能降低所有参与人员的总体压力水平。

人工智能安全的主要观点与未来趋势

训练AI驱动的系统来保护我们

我们已经说了不少关于AI如何全天候工作来确保企业安全的话题，但技术本身的安全性和训练呢？专家和企业需要重新调整策略，把重心放在训练AI-ML模型上，从而最大限度地发挥这些系统的价值。可以训练ML系统从历史数据中学习并检测异常。这能让公司有效地缓解和管理网络攻击。

AI是数字军备竞赛中闪亮的新武器

从提升安全防御能力，到网络安全流程的超自动化部分，人工智能在防止网络攻击方面将扮演越来越重要的角色。凯捷最近报告说，“AI的采用将激增，三分之二（63%）的组织计划在2020年之前采用人工智能”。

人工智能作为防御能力

如前所述，人工智能是一把双刃剑，可以用来防御，也可以用来攻击组织的数字防御系统。网络安全专家需要腾出时间来主动识别攻击（例如：垃圾邮件尝试、禁用关键基础设施等）并进行防御。

人工智能的局限性和可能的解决方案

“人工智能无法解决你所有的安全问题。要把它看作提升安全状况的一种方法，而不是万灵丹。”——Akamai Technologies安全产品副总裁Raja Patel

专家更倾向于由人类而非AI验证的发现

根据White Hat Security的研究，“60%的安全专业人士对人类验证的网络威胁发现，比AI产生的发现更有信心。”在运行的安全流程中，人类智慧在四个领域胜过AI：直觉、创造力、人类经验和参考框架——这些进化功能，AI还没完全掌握，更不用说精通了。

显然，当前的网络安全环境至少在某种程度上，天平已经倾向了人类的能力。解决方案是什么？利用AI的技术实力来增强人才，可能是可靠的前进方向。IBM Security副总裁Aarti Borkar在Fast Company中写道，企业可以接受一个360度的解决方案：“防止AI内部偏见的一种方法，是建立认知多样性。包括开发AI模型的计算机科学家的多样性、向模型提供数据的数据的多样性，以及影响它的安全团队的多样性。”

建立AI系统需要大量的资产和资源，比如内存、准确的数据集和计算能力。更不用说，这是一项既昂贵又耗时的工作。

Osterman Research很好地捕捉了其他一些关于使用AI的担忧：

展望未来，让我们从整体角度看企业如何解决这些限制：

第一步，让公司投资于拥有经验丰富专业人员的成熟网络安全公司。

测试系统，并审计你的硬件和软件，以发现并主动修复安全漏洞。

安装并持续更新防火墙和其他恶意软件扫描程序，确保系统安全。

关注最新的网络威胁和安全协议，区分风险优先级，并制定有效策略。

人工智能驱动的未来网络安全：专家观点

我们已经罗列了数据，也做了分析。但专家们怎么看AI在网络安全中的普遍性和相关性呢？来看看《福布斯》中收集的一些专家意见，它们为我们描绘了这样一幅图景：

先使用这项技术的人，说了算

1563技术战略总监Sami Laine说：“我们将看到，威胁分子会把深度伪造作为一种企业网络攻击的策略，就像网络钓鱼攻击的运作方式一样。网络钓鱼攻击是网络骗子的金矿，它们可能对毫无戒心的员工造成严重破坏。这意味着，组织需要让自己的验证技术保持最新；创建深度伪造和检测深度伪造的工具将是同一回事。因此，谁先使用这项技术，将是一场军备竞赛。”

Deepfakes即服务的兴起

Forcepoint创新总监Audra Simons提出了一个有趣的观点：“随着深度伪造的真实性和潜力不断提升，我们希望它在2020年对我们生活的各个方面产生显著影响。我们将看到Deepfakes-As-A-Service在2020年脱颖而出，原因是出于娱乐和恶意目的，深度伪造被广泛采用。”

防不胜防，防御性AI的工作量有增无减

Darktrace战略威胁总监Marcus Fowler解释了如何用AI对抗AI：“随着2020年以AI为动力的网络攻击兴起，更完善的防御措施和对开源AI工具的访问，反而激励了对手加强攻击。AI不仅能让恶意软件在企业内部秘密移动，无需人工操作，而且攻击者还会以其他恶意方式使用AI，包括确定目标、进行侦察和扩大攻击范围。安全专家认识到，防御性AI是唯一能抵抗攻击性AI攻击的力量。而且，必须通过匹配或超越攻击者的创新速度来进行这场战斗。”

虚假信息和假新闻的出现

Radware的安全研究员Pascal Geenens谈到了这个困扰全球组织和国家的热门话题：“虚假信息和假新闻可能在公共和私营部门中肆虐，并且越来越多地被民族国家用作武器。2020年，深度学习算法可以生成伪造但看似逼真的图像和视频。AI的这种应用，将成为大规模信息传播活动的催化剂。”

数字化对AI和网络安全的影响

Nok Nok Labs总裁兼首席执行官Phil Dunkelberger总结了数字化的增长将如何影响组织、网络犯罪分子、政府和整个世界：“随着2020年数字化的继续，数据将比以往任何时候都更有价值。以前对日常消费者来说似乎微不足道的信息，将对整个领域的利益相关者和黑客具有重大价值。对手或现实生活中的‘数据赏金猎人’将寻找新的利用方式，政府将寻求更好的方式来访问它，企业将采取更强的安全措施来保护它，最终用户将要求更好的隐私权来保护其个人安全信息。此外，随着AI和机器学习的兴起，关键数据将影响医疗决策方式、自动驾驶汽车在何处/如何移动。而且，越来越多的东西将变得越来越主流，并且越来越多的威胁者希望获取信息。”

网络安全的第一道和最后一道防线

无论采用哪种方式，这都是一项关键的学习。“人工智能还没有准备好不久后单飞。”企业和专家更倾向于采取“中间立场”方法。人工智能可用作增强人类智能的智能工具，并帮助组织在网络安全威胁不断扩大的世界中保持竞争力和安全性。简而言之，AI的优势远远超过了局限性，并提供了一种有希望的（安全的）方法。你觉得呢？

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：应对未来人工智能安全挑战的策略分析要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题