谷歌Gemini遭大规模提示攻击，单次泄露超10万次

IT之家2月15日消息，当地时间2月12日，谷歌对外披露其AI聊天机器人Gemini正遭遇大规模"蒸馏攻击"——即通过重复提问诱导聊天机器人泄露内部工作机制。

谷歌表示，攻击者试图通过反复提问不断试探其模型输出模式与逻辑，探测其内部机制，从而"克隆"该模型或强化攻击者自己的AI系统。其中一场攻击活动对Gemini的提示次数超过10万次。

谷歌在周四发布的报告中指出，这些攻击主要由"商业动机行为者"发起。公司判断其幕后人员多为希望获得竞争优势的AI私企或研究机构。谷歌发言人向NBC News表示，此次攻击源来自全球多个地区，但拒绝披露更多关于嫌疑方的信息。

谷歌威胁情报小组首席分析师约翰·霍特奎斯特指出，"针对Gemini的攻击规模表明，此类攻击很可能已经开始或即将蔓延至小型企业的定制AI工具领域。"他将谷歌的处境形容为"煤矿里的金丝雀"，意味着大型平台的遭遇可能预示更广泛的行业风险。

谷歌强调，此类蒸馏攻击属于知识产权盗窃。科技公司已投入数十亿美元开发AI聊天机器人，其核心模型的内部机制被视为高度重要的专有资产。尽管各大厂商已部署能够识别与阻断蒸馏攻击的机制，但由于主流模型服务面向所有人开放，所以其本质上仍易受攻击。

谷歌还提到，多数攻击旨在套取Gemini的"推理"算法，即其信息处理决策机制。霍特奎斯特警告，随着越来越多公司开始训练面向内部业务的定制LLM，且这些模型可能包含敏感数据，蒸馏攻击的潜在危害会更大。他举例称，如果某家公司的LLM学习了其"100年来交易的思维方式"，理论上也可能被蒸馏手段逐步提取出关键知识秘密。