向爆火“龙虾”看齐:AI加速超人化演进的四大安全隐忧
近日,关于“龙虾”(OpenClaw)的火爆现象及其可能引发的安全问题,成为公众关注的焦点。两会期间,全国政协委员、奇安信集团董事长齐向东在接受记者采访时表示,人工智能正朝着“超人化”方向演进,而其中潜藏着不容忽视的危机。
他特别提到了AI安全领域与OpenClaw相关的一起典型安全事件:Meta的安全总监在使用OpenClaw清理邮箱过程中,发现该工具无视了“未经批准不得操作”的安全指令。尽管紧急叫停了三次,OpenClaw却并未停止运行,最终导致工作邮件被全部清空,损失相当惨重。马斯克转发此事时配文称,“人们将自己整个人生的root权限交给了OpenClaw”,这句话可谓一针见血。
齐向东指出,“AI超人”拥有超级权限与超强能力,极有可能脱离控制,安全隐患者实巨大。概括来说,它加剧了三大危机:首先是数据安全危机。AI要替代多少人去工作,就需要被赋予多少人的数据权限,这彻底突破了原有的权限管理与安全措施。加上如今越来越多企业,为了让AI发挥最大效能,将积累多年、分散各处的关键数据“去粗取精”,形成“精华小数据”。一旦AI系统被攻破,企业多年积累的核心竞争力可能瞬间化为乌有。
其次,它还加剧了安全“易攻难守”的危机。AI“超人”无所不能、什么都会,大幅降低了网络攻击成本和攻击门槛,安全防护的难度陡然攀升。
最后,是加剧了网络安全“链式”危机。一些政企机构在AI应用上跑得快,但安全防护跟不上,不少AI“裸奔”上线。攻击者可以通过漏洞利用、外部渗透、提权、投毒等方式,间接干扰和控制大模型或智能体,影响业务和系统的正常运行。
齐向东告诉记者,没有安全的创新走不远,也走不稳。从近两年大模型、智能体、具身智能等各种AI形态遭受的网络攻击来看,为AI预设“安全护栏”是非常必要的。
“要实现‘创新和安全的动态平衡’,就要把安全能力嵌入AI应用的全生命周期,做到纵深防御。明确合规红线,夯实安全主体责任,强化权限与内容管控。以及用AI对抗AI,让安全能力始终比安全风险快一步。”齐向东说。
校对 穆祥桐
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
Bose SoundLink Flex II限定色开箱 海边拍照必备便携音箱
Bose推出SoundLinkFlexII限定色“落日暖桃”。该配色为柔和珊瑚橘,契合多巴胺审美,适合户外拍照。音箱搭载PositionIQ技术,能根据摆放姿态优化音效,并支持App自定义EQ。其具备IP67防尘防水等级,外壳耐磨抗摔,适合海边、露营等户外场景使用。
JBL LIVE 780NC耳机深度评测 音质降噪与续航全面解析
JBLLIVE780NC是一款头戴式无线降噪耳机,拥有澎湃音质和自适应降噪、空间音频等技术。设计简约时尚,佩戴舒适,续航长达80小时。降噪效果优秀,通话清晰,支持多设备切换,在音质、舒适度和功能间平衡出色,适合追求全面体验的用户。
百度成立模型委员会加速AI布局
百度成立模型委员会以统筹大模型全链路工作,旨在应对市场竞争与技术节奏滞后的压力。此前公司已设立基础与应用模型部门,此次调整进一步强化技术到应用的一体化管理。面对行业从模型转向应用阶段的趋势,百度试图通过精英决策提升工程效率,以组织重构应对深水区竞争。
联想开天飞腾麒麟二合一笔记本下周发布
联想联合飞腾与麒麟软件,将于下周发布一款全新二合一信创笔记本。该设备采用可拆卸键盘设计,兼具平板与笔记本形态,其圆角屏幕外观现代。在当前以传统形态为主的信创市场中,此产品较为新颖,其触屏与键鼠的协同优化值得关注。
零跑汽车为百名肢残人士免费安装智能仿生腿助力行动无障碍
我国残障人士智能辅具需求迫切但价格高昂。零跑汽车为百名肢残人士免费安装智能仿生腿并提供系统支持。科技助残注重恢复行动能力与改善长期生活质量,汽车产业技术可迁移至智能辅具领域,满足无障碍出行需求,延伸企业社会角色。
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题

