防范黑客攻击AI与机器学习系统的措施

防范勒索软件已成为众多机构的优先事项，这并不令人惊讶。因此，许多人将希望寄托于人工智能（AI）与机器学习（ML），期待它们成为网络防御的“救星”。然而，切勿过早乐观——黑客同样在利用AI和ML强化自身，开发的攻击手段愈发狡猾。其中，一种名为“数据中毒”的攻击方式，正是利用了这些技术的弱点。

AI与ML为何存在风险

人工智能本质上也是一把双刃剑。YouAttest公司CEO Garret Grajek在邮件采访中指出，AI模型的强项是在海量数据中反复分析，最终得出一个“最佳推测”。他表示：“黑客早已利用AI实施身份验证与认证方面的欺诈手段，例如语音和视觉层面的攻击。所谓的‘武器化AI’，其目标正是窃取访问密钥。”康奈尔大学的研究人员也明确指出：“专业级数据中毒是对机器学习非常有效的攻击方式。通过在训练数据集中注入被污染的数据，模型的完整性将受到严重威胁。”

那么，通过AI和ML发起的攻击与传统“系统漏洞”攻击有何本质区别？哈佛大学Belfer科学与国际事务中心的Marcus Comiter在其论文中解释清晰：这些算法本身存在固有的局限与弱点，无法通过打补丁来修复。他补充道：“AI攻击从根本上扩大了可用于网络攻击的实体范围。有史以来第一次，物理对象本身也能成为攻击的武器。数据也以全新的方式被武器化，这意味着我们收集、存储和使用数据的方式必须随之改变。”

人为失误

要了解攻击者如何利用AI和ML实施数据中毒等行为，我们首先需要明确它们在保护数据和网络中的实际角色。随便问一位首席信息安全官，组织面临的最大威胁是什么？他们十有八九会回答：人性。

员工当然并非有意成为网络风险源，但他们毕竟是普通人。人会分心。今天一眼就能识别的威胁，明天可能就让人中招。一位急于赶截止日期、翘首以盼重要文件的员工，很可能点开一个带毒附件，误以为那就是所需内容。或者，员工根本未意识到危险，因为安全意识培训断断续续，未能真正入脑。攻击者对此心知肚明，与所有优秀罪犯一样，他们总是寻找进入网络、获取数据的最短路径。网络钓鱼攻击之所以如此普遍，根本原因就在于它确实有效。

将异常行为作为风险因素

这时，AI和ML恶意软件检测便能发挥作用。它们擅长发现模式、分析用户行为，在问题恶化前嗅探出异常。借助生成的算法，机器学习能够识别人类肉眼完全无法察觉的异常。例如，它可以感知员工正常的工作节奏，甚至打字节奏，一旦出现异常便自动发出警报。

当然，这些工具并非万能。不排除有人加班，或因受伤导致打字方式改变。但这些工具的初衷是捕捉真正反常的行为，例如攻击者使用窃取的账号进行活动。

简而言之，我们能用AI做什么？通过向无监督学习的机器告知网络和文件中哪些是正常、哪些是恶意，从而更好地阻止恶意文件、抵御勒索软件攻击。AI还能探测影子IT，识别授权连接中的潜在威胁，甚至掌握员工连接了多少端点设备。

要让AI和ML成功对抗网络威胁，它们需要依赖特定时间段内产生的数据与算法。这样才能高效发现问题，将安全团队从重复劳动中解放出来。但这也正是其软肋所在。AI和ML的崛起直接催生了数据中毒这一潜在威胁。

理解数据中毒

数据中毒主要有两种方式。一种是在系统中注入错误信息，使其给出错误的分类。乍看之下，给算法下毒似乎并不困难。毕竟，AI和ML只能学习人类教给它们的内容。想象一下，你正在训练一个算法识别马。你可能给它看了几百张棕色马的图片，同时用几百张黑白相间的奶牛图片教它识别奶牛。结果，当一头棕色奶牛混入数据集时，机器直接将其归类为马。对算法而言，棕色动物=马。人一眼就能看出区别，但除非你明确告诉它奶牛也可以有棕色，否则机器根本无法反应过来。

如果攻击者获取了训练数据，他们就能随心所欲地操控信息，教会AI和ML任何内容。他们可以让算法将正常代码误判为恶意代码，或相反。攻击者还能重建人类行为数据，用于发动社会工程攻击，或精确定位勒索软件的攻击目标。

攻击者利用训练数据的第二种方式是生成后门。Grajek表示：“黑客可能会利用AI挑选最值得利用的漏洞，然后将恶意软件部署在企业网络中。这些恶意软件能够自行决定何时行动、选择哪个攻击路径最有效。由于它们被设计为可变形的，检测起来就更加困难且耗时。”

攻击者如何实施数据中毒

数据中毒的关键在于：攻击者必须有机会接触到数据训练程序。因此，你可能面临的是内部攻击、商业竞争对手，甚至国家级别的攻击。

DARPA研究项目的Bruce Draper博士写道：“对抗性AI目前的重点研究领域是人类难以察觉的ML输入扰动。这些微小扰动就能欺骗ML分类器，改变其判断。尽管对抗性AI领域仍处于早期阶段，但已有数十种攻击与防御手段涌现，目前我们仍缺乏对ML漏洞的全面理论理解。”攻击者还能利用数据中毒让恶意软件变得更加智能。他们通过克隆短语来欺骗算法，破坏电子邮件安全。如今，这股风潮甚至波及生物识别领域——攻击者可以锁定一个合法用户，然后悄悄潜入系统。

数据中毒与深度伪造

深度伪造是数据中毒的一个分支，许多人预测它将成为数字犯罪的下一波浪潮。攻击者编辑视频、图片与录音，制作出逼真的素材。由于这些内容看起来几乎与真实照片或视频无异，很容易被用来进行勒索或传播尴尬内容。正如Comiter所指出的，在企业层面使用这种手法甚至可能引发人身安全风险。他在论文中写道：“AI攻击可以在自动驾驶汽车‘眼中’将停车标志变成绿灯——仅需在停车标志上贴几条胶带就能实现。”假新闻也属于数据中毒的范畴。社交媒体中的算法被篡改，使错误信息攀升至用户信息流顶端，从而排挤真正的新闻来源。

阻止数据中毒攻击

数据中毒攻击仍处于萌芽阶段，因此网络防御专家也在摸索中学习如何防御它。渗透测试与进攻性安全测试或许能帮助我们找到允许外部人员访问数据训练模型的漏洞。不少研究人员也在思考能否设计AI和ML的第二层防护，专门用于捕捉训练数据中的潜在错误。讽刺的是，我们仍然需要依靠人类去测试AI算法，去检查一头奶牛到底是不是奶牛，而不是一匹马。Grajek说：“AI不过是攻击者武器库中的又一件武器。黑客依然希望在企业网络中横向移动，提升自身权限。持续不断的、实时的权限提升监控，对于缓解攻击——无论是否由AI引发——都至关重要。”

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：防范黑客攻击AI与机器学习系统的措施要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题