人工智能与机器学习数据中毒的应对方法

勒索软件已成为众多企业的心腹大患，防御自然成为首要任务。人工智能与机器学习（ML）因此被推上安全前线，成为许多组织优先选用的防护利器。然而，攻击者同样在利用这些技术反向发动攻势。其中一种名为“数据中毒”的攻击手段，恰恰瞄准了AI与ML的薄弱环节。

为什么AI和ML存在安全隐患

任何技术都兼具双面性，AI也不例外。YouAttest的CEO Garret Grajek在邮件采访中直言不讳：AI模型擅长处理海量数据，并生成一个“最优推测”。而黑客已利用AI攻击身份验证系统——语音验证、人脸验证，无一幸免。所谓的“武器化AI”，其核心目标就是窃取访问密钥。

康奈尔大学的研究人员强调，专业级别的数据中毒攻击通过在训练数据集中掺杂“毒信息”，直接威胁模型完整性。这种攻击方式与传统系统漏洞攻击截然不同——它并非寻找代码缺陷，而是利用算法本身的固有限制。哈佛大学Belfer中心的Marcus Comiter在论文中明确指出：AI攻击使网络攻击的主体范围彻底扩展——物理对象第一次能够成为攻击武器，数据也能以全新方式被武器化，这要求我们重新审视数据的收集、存储与使用流程。

人为失误

要理解攻击者如何利用AI和ML实施数据中毒，必须先厘清它们在保护数据方面扮演的角色。询问任何一位CISO，组织数据面临的最大威胁是什么？答案几乎总是——人。

员工当然并非有意成为风险源，但人无完人，难免分心。今天可能随手点开一个看似正常的附件，结果导致感染；明天或许因为安全意识培训过于敷衍，根本记不住需注意的事项。攻击者深知这一点，他们总是寻找最便捷的突破口——网络钓鱼之所以长盛不衰，正是因为它极其有效。

将异常行为作为风险指标

在此背景下，基于AI和ML的恶意软件检测发挥了作用。它们能够识别模式、分析用户行为，在问题发生前嗅出异常。通过算法学习，ML可以甄别人眼无法察觉的异样——例如某个员工的工作时间规律发生改变，或者击键方式出现差异，系统便能自动触发报警。

当然，这套系统并非完美无缺。有人可能非工作时间加班，也可能因受伤导致打字节奏变化。但工具的目标是捕捉那些真正值得警惕的行为，比如攻击者使用窃取的账号进行活动。

在最佳情况下，AI能够通过区分真实文件与恶意文件，阻止有害文件进入网络，从而降低勒索软件攻击的风险。它还能发现影子IT、识别存在威胁的授权连接、掌握员工使用的端点设备数量。要让AI和ML真正发挥作用，它们依赖于特定时间段内积累的数据与算法。这正是它们能够发现问题、减轻安全团队负担的原因，但也是风险所在——AI和ML的普及直接催生了数据中毒这一潜在威胁。

认识数据中毒

数据中毒有两种主要手法。第一种：向系统中注入虚假信息，使其输出错误分类。表面上看，给算法下毒似乎不难——毕竟AI和ML只知道人类教会它们的东西。打个比方：你训练一个算法识别马匹，给它看了几百张棕色马的照片；同时你教它识别牛，提供了几百张黑白奶牛的图片。但如果混入一张棕色奶牛的照片，机器就会将其标记为“马”。因为算法只知道棕色动物是马。人类能一眼看出差别，但除非你明确告诉算法“牛也可以是棕色”，否则机器永远无法理解。

如果攻击者能够接触到训练数据，他们就能随意操纵信息，让AI学习他们想传授的内容——例如把正常代码判定为恶意代码，或者反过来。他们还能重构人类行为数据，用于发起社会工程攻击，或者确定勒索软件攻击的目标。

第二种方式更加隐蔽：利用训练数据生成后门。黑客可以借助AI挑选最值得利用的漏洞，然后将恶意软件植入企业网络中，让软件自行决定何时攻击、使用何种手段。这种攻击是可变的，检测起来更耗时、更困难——Grajek明确指出了这一点。

攻击者如何运用数据中毒

数据中毒有一个关键前提：攻击者必须能够访问数据训练程序。因此，你面临的可能来自内部人员、商业竞争对手，甚至是国家级攻击者。DARPA研究项目的Bruce Draper博士写道：“对抗性AI的当前研究集中在那些难以察觉的ML输入扰动上——它们能够欺骗分类器，改变输出。虽然这一领域仍相对新颖，但已有数十种攻击和防御手段涌现，而我们对于ML漏洞的全面理论理解仍然不足。”

攻击者同样可以利用数据中毒让恶意软件变得更聪明。例如，通过克隆短语来欺骗邮件过滤算法，甚至已经渗透到生物识别领域——锁定合法用户，然后悄然潜入。

数据中毒与深度伪造

深度伪造可视为数据中毒的一个分支，许多人预测它将成为数字犯罪的下一波浪潮。攻击者篡改视频、图片和录音，制造出真假难辨的内容。这些伪造品极易被误认为是真实记录，因此成为勒索或诽谤的有力工具。正如Comiter所指出的，在公司层面使用这类手法甚至可能带来人身危险：“AI攻击可以让自动驾驶汽车将停车标志识别成绿灯——只需在停车标志上贴几条胶带。”

假新闻同样属于数据中毒范畴。社交媒体算法遭受破坏后，错误信息会被推送到用户信息流顶端，挤掉真实新闻。

阻止数据中毒攻击

数据中毒仍处于早期阶段，网络防御专家们也在摸索防制方法。渗透测试与进攻性安全测试有助于发现漏洞——那些让外部人员访问训练模型的入口。一些研究者已经开始考虑为AI和ML再增加一层检测层，用于捕获训练数据中的潜在错误。讽刺的是，我们仍然需要人类来测试AI算法，确认一头牛是牛而不是马。

Grajek总结得很到位：“人工智能不过是攻击者武器库中又一件武器。黑客始终想要在整个企业范围内横向移动、提升权限。持续、实时的权限升级监控对于缓解攻击（无论是否由AI驱动）都至关重要。”

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：人工智能与机器学习数据中毒的应对方法要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题