AI图像识别存隐私漏洞，黑客可借“看图”窃取用户数据

8月26日消息，科技媒体bleepingcomputer于昨日（8月25日）发布博文，披露了一种新型AI攻击手法。该技术由Trail of Bits的研究人员开发，可将恶意指令隐藏在高分辨率图片中，利用AI系统自动降采样处理使其显现，进而被大语言模型识别并执行，最终可能导致用户数据泄露。

这一方法由Trail of Bits团队的Kikimora Morozova与Suha Sabi Hussain共同提出，其灵感源自2020年德国布伦瑞克工业大学提出的图像缩放攻击理论。攻击者首先在高清图片中嵌入人眼难以察觉的指令，再借助AI系统常用的降采样算法，使这些指令在缩小图像尺寸的过程中显现出来。

根据报道，为提升性能并控制成本，多数AI平台会对用户上传的图片进行自动降采样处理，常用的算法包括最近邻、双线性插值和双三次插值等图像重采样方式。

攻击者可以针对这些算法精心设计图像，使得原本不可见的色块在降采样后形成可读文字。例如，在Trail of Bits展示的案例中，一张图片的深色区域在双三次降采样后变为红色，并最终呈现出黑色文字。

一旦这些文字显现，AI模型会将其视为用户输入指令的一部分，并与正常指令一同执行，从而导致数据泄露或其他恶意操作。研究人员在Gemini CLI环境中进行了验证，借助该漏洞在Zapier MCP“trust=True”模式下，未经用户授权就提取了Google日历数据并发送至指定邮箱。

该方法经测试在多个平台均有效，包括Google Gemini CLI、Vertex AI Studio（Gemini后端）、Gemini网页与API接口、安卓设备上的Google Assistant以及Genspark。

研究团队还发布了一款名为Anamorpher的开源工具（测试版），能够生成适配不同降采样算法的攻击图像，显示出该手法的潜在威胁范围远超目前已验证的系统。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

最新文章