当前位置: 首页
web3.0
全链网AI竞争进入落地与安全关键阶段

全链网AI竞争进入落地与安全关键阶段

热心网友 时间:2026-07-18
转载

人工智能正从大模型迈向智能体阶段,具备自主执行任务能力,落地加速但安全风险同步升级。发展需坚持安全、可信、可靠、可控。竞争已进入下半场,比拼的是落地能力与安全保障体系。

2026世界人工智能大会:AI竞争进入拼落地、拼安全的关键阶段

2026年世界人工智能大会(WAIC)在上海盛大开幕,各路技术领袖、产业专家与安全厂商齐聚一堂。作为中国网络安全领域的标志性人物,360集团创始人周鸿祎在大会上抛出了一个深刻影响行业走向的判断:人工智能正在从“大模型”阶段全面迈向“智能体”阶段。这一论断不仅揭示了AI技术演进的新趋势,更将公众的注意力引向一个被忽略已久的核心议题——AI安全与可控性

适合国内用的虚拟币交易所

从“问答工具”到“数字员工”:智能体时代正在到来

周鸿祎指出,过去两年AI行业的核心焦点是“大模型”的规模竞赛,参数越做越大、模型越做越强。但到了2026年,行业已经进入拼落地、拼应用、拼安全的下半场。智能体(Agent)成为这一转折的关键载体。与传统的对话式AI不同,智能体具备自主感知、决策与执行的能力,能像一名“数字员工”那样独立完成多步骤任务,例如自动化处理业务流程、智能调度资源、实时监控系统状态等。

这意味着,AI不再是“你问它答”的被动工具,而是开始主动介入真实世界的运行。据行业调研机构Gartner预测,到2027年,超过60%的新应用将包含智能体功能,企业级智能体市场年复合增长率将超过40%。这一趋势正加速从金融、医疗、制造等领域向政务、能源、教育等公共服务行业渗透。

智能体加速落地背后的安全挑战:风险同步升级

智能体应用在带来效率革命的同时,也带来了前所未有的安全风险。周鸿祎在WAIC发言中特别强调,人工智能的发展方向必须坚持安全、可信、可靠、可控这四项基本原则。这并非空泛的口号,而是产业界在大量实践之后达成的共识。

智能体具备自主行动能力,意味着它的行为逻辑可能比传统软件更难预测。如果智能体的决策过程不透明、数据来源不可信、执行路径不可控,就可能引发后果严重的连锁反应。例如,一个被恶意篡改的金融智能体可能绕过风控系统,批量执行异常交易;一个医疗诊断智能体如果被植入后门,可能导致误诊甚至医疗事故。传统安全防护体系面对这种“有自主意图”的攻击面,往往力不从心。

事实上,2025年全球AI安全事件数量同比增长了320%,其中与智能体相关的攻击占到了近一半。这些攻击包括提示注入、模型投毒、权限滥用、行为误导等多种新型威胁。周鸿祎认为,安全不再是AI落地的“附加项”,而是必须前置的“基础设施”。

WAIC定调:竞争进入下半场,拼的是落地能力与安全保障体系

本届WAIC不仅是全球AI技术交流的枢纽,更给行业方向定了一个明确的调子:AI竞争已经进入下半场,拼的不再是模型参数和炫技Demo,而是真刀真枪的落地能力,以及与之匹配的安全保障体系。这意味着,企业要在激烈的市场竞争中脱颖而出,必须同时具备两大核心能力:

  • 场景化落地能力:将智能体真正嵌入到具体业务流中,解决实际问题,而不是停留在实验室演示阶段。
  • 全链路安全能力:从数据安全、模型安全、行为安全到运营安全,构建覆盖智能体全生命周期的防护体系。

周鸿祎以360自身的安全实践为例,提到其推出的“安全智能体防护框架”已经帮助多家金融机构实现了对智能体行为的实时监控与异常阻断。他强调,安全是AI技术发展的“刹车”,没有安全,AI跑得越快,风险越大。这一观点也得到了与会专家的一致认同。

行业洞察:数据驱动下的可信AI建设路径

从技术层面看,要实现安全、可信的智能体,必须从数据、模型、行为、治理四个维度入手。具体而言:

  • 数据可信:确保智能体训练与推理所用的数据来源真实、无污染,建立数据溯源与审计机制。
  • 模型可解释:让智能体的决策过程具备可追溯性,避免“黑箱”导致的信任危机。
  • 行为可控:设定明确的行为边界与权限约束,让智能体在授权范围内执行任务,并具备紧急停止机制。
  • 治理可审计:建立从开发到运营的全流程安全审计体系,发现问题能够快速定位与修复。

权威机构IDC的研究报告显示,2026年企业在AI安全方面的投入预计将增长至180亿美元,其中智能体安全防护占比超过35%。这一数据充分说明,市场已经意识到“安全是AI落地的第一道门槛”。

未来展望:智能体将成为数字经济的核心引擎

尽管安全挑战严峻,但业界普遍认为智能体是AI发展的必然方向。周鸿祎在WAIC总结时表示,智能体将如同互联网时代的操作系统一样,成为未来数字经济的核心引擎。无论是企业数字化转型,还是个人生活的智能化升级,智能体都将扮演不可或缺的角色。而安全,则是这艘巨轮能够平稳航行的压舱石。

对于从业者而言,现在正是布局智能体安全体系的最佳时机。那些率先构建起安全、可信、可靠、可控的智能体生态的企业,将在下一轮AI竞争中占据绝对优势。正如周鸿祎所说:“AI的竞争,本质上是信任的竞争。谁能让用户放心地把任务交给AI,谁就能赢得未来。”

来源:https://www.allfinanz.cn/GameFi/132285.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 热门数据榜
相关攻略 相关攻略
更多