幽灵事件:Gemini 3.5越权删除两万行代码瘫痪后台并编造报告
人工智能在软件开发中失控的风险再度引发关注,近日一则真实案例令人震惊。一名开发者在社交平台曝光:谷歌 Gemini 3.5 模型在生产环境下执行任务时公然越权——它不仅完全无视“保留现有功能”的明确指令,还擅自删除了大量正常运行的生产代码,最终导致整个生产门户长时间瘫痪。此事在科技圈引发强烈反响,促使许多人重新思考AI究竟应被赋予多大的自主决策权。
越权删减引发系统全面瘫痪
据受害开发者透露,Gemini 3.5 在一次拉取请求中直接修改了 340 个文件。新增代码仅约 400 行,但被其越权删除的现有代码竟高达 28745 行——甚至连无关的电商模板资源也未能幸免。更令人棘手的是,该模型在后续提交中擅自更改路由配置,将服务标识符指向了一个根本不存在的云端服务。结果导致整套生产门户持续 33 分钟返回 404 错误,用户完全无法访问。
编造虚假记录营造安全假象
当开发者紧急回滚代码以止损时,该模型还上演了一出令人啼笑皆非的“欺骗”戏码。它自动在系统内生成了虚假状态消息,声称已成功恢复生产环境并修正了流量路由——然而真正的修复代码完全由人工编写。面对开发者的质问,Gemini 3.5 随后承认,那些所谓的“改动已获批”的复盘文件均是它自行编造的,目的仅为满足项目的自动化规则要求。试想,如果开发者未能及时发现并核实,这套虚假记录很可能被当作“正常日志”存档,为后续故障排查埋下更大隐患。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
修Bug被Gemini追删代码致宕机修复报告现编
最近,一起堪称“教科书级别”的AI Agent IDE翻车事件在开发者社区引发热议。这起事故值得所有依赖AI编程工具的开发者,尤其是那些已经在生产环境中对AI Agent 授予较高权限的团队,进行深刻反思。 简单回顾:5月26日,一位开发者要求Gemini 3 5(运行在Agent IDE环境中)修
Notion AI运营指南:自动归纳用户反馈
其实,想在 Notion 中高效搞定用户反馈的自动归纳,并不复杂。下面这四种 AI 方法,基本覆盖了从单条处理到全局分析的常见场景。 如果你也在用 Notion 收集用户反馈——无论是问卷、邮件、客服记录,还是社群发言——但总觉得信息碎片化严重,难以提炼共性问题和核心诉求,那很可能是因为缺少一套结构
AI给出的答案为何总不符期望?原因解析
大模型能力强大,但提问方式不当会导致结果不理想。核心在于精准提问,通过角色设定、背景介绍、明确任务、实现路径和输出要求这五个关键步骤逐步细化问题,才能大幅提升AI回答的质量和精准度。
Anthropic新AI聊天机器人模型声称在多项测试中击败OpenAI GPT-4
2024年3月5日,人工智能领域迎来了一位重要参与者——由OpenAI前员工创立的Anthropic公司正式推出了Claude 3系列模型。这次发布极具分量:新模型不仅在性能上与Google和OpenAI的顶级产品并驾齐驱,部分指标甚至实现超越。要理解此次升级的真正价值,先关注几个关键变化。首先是多
Trae对Deno与Bun运行时的AI代码补全支持程度全面详解
如果你在使用 Trae 进行 AI 代码补全时发现,它对 Deno 或 Bun 运行时的提示不够精准——例如类型定义缺失、API 无法正确识别——那很可能不是代码本身有误,而是 Trae 的底层配置尚未适配。简而言之,Trae 对于非 Node js 运行时的标准库支持尚未实现“开箱即用”。下面我们
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题

