黑客诱导ChatGPT等AI工具安装恶意软件及防范

IT之家12月11日消息，据外媒Engadget今日报道，黑客正开始滥用人工智能生成的提示，将其作为恶意指令投放在谷歌搜索结果中。毫无戒备心的用户一旦照做，就会在无意间为黑客安装恶意软件敞开大门。

网络安全公司Huntress发布的最新报告完整揭示了攻击流程。黑客会首先诱导AI助手围绕某个常见的搜索词展开对话，继而引导AI给出“将某条指令粘贴到终端里”的建议。随后，黑客会公开这段对话记录，并通过付费方式让谷歌将其推送到搜索结果前列。如此一来，只要有人搜索该关键词，恶意指令便会自动呈现。

IT之家从报道中获悉，Huntress是在追查一项名为“AMOS”、针对Mac系统的数据窃取攻击时，发现了这一手法。受害者仅仅是搜索了“clear disk space on Mac”，点开了一条看似无害的、由ChatGPT生成的建议链接，由于缺乏识别风险的网络安全经验而执行了指令，攻击者便会借机将AMOS植入系统。进一步的测试显示，不仅是ChatGPT，Grok同样能被诱导重现这种攻击方式。

Huntress强调，此类攻击最危险的一点在于它能完全绕过传统意义上的安全警示。受害者无需下载文件、无需安装软件，甚至无需点击可疑链接，只需信任谷歌和AI助手给出的内容即可。绝大多数用户对这两种服务早已建立了高度信任，自然会轻易采纳其给出的建议。然而，即便在Huntress发布预警之后，相关的恶意对话链接仍在谷歌搜索结果中保留了至少半天时间。

此时传出这一消息，对相关AI工具本身也并非好事。Grok因过度迎合马斯克的观点风格而饱受批评，OpenAI则被指在安全防护方面落后于竞争对手。类似的攻击是否能在其他聊天机器人上复现，目前尚未明确。但无论如何，在这种情况下保持高度警惕至关重要。最基本的防护措施是：只要对指令内容没有百分之百的把握，就绝对不要将其粘贴到终端或浏览器的地址栏里执行。