大模型时代数字安全实战指南

当大模型技术日趋成熟，企业将其大规模部署在云端已成为明确趋势。在这一进程中，数据——这一曾被部分企业视为“副产品”的资源，其战略价值被重新评估并动态放大。与此同时，企业上云也驱动着其安全架构与业务模式同步升级，一系列全新的安全需求应运而生。

这好比一个朴素的道理：健康是“1”，其他都是后面的“0”。对于企业的数字化生存而言，安全正是那个不可或缺的“1”。构建强大的数字安全防御体系，绝非临时抱佛脚的应急之举，而是一项关乎长远发展的系统性工程。

1月17日，一份由工业和信息化部新闻宣传中心（人民邮电报社）指导，腾讯安全、腾讯研究院、中国信息安全联合三十余位业内专家、学者、企业领袖共同编制的《数字安全免疫力建设指南》正式发布。

正如最高决策层所强调的：“安全是发展的前提，发展是安全的保障。”面对大模型等先进技术在企业运营中的深度渗透，腾讯安全提出了“数字安全免疫力”这一框架。该框架旨在为企业构建一套以数据和业务为双核心，兼顾安全与发展平衡的整合型理论与工具体系。

而此次发布的《指南》，正是这一框架的实践“导航图”。它试图帮助企业在复杂多变的数字安全丛林中，找到一条清晰的前进路径，以有效识别并抵御各类安全风险。

AIGC背景下的数据安全新挑战

全球数字化进程正以前所未有的速度推进，各行各业在享受效率红利的同时，也面临着日益严峻的安全隐患。数字化不仅极大地扩展了数据的边界，让海量信息高速流转，也为潜在的攻击者提供了更多切入点和隐蔽通道，这对企业现有的防护机制构成了持续压力。

传统的安全建设思路，很大程度上依赖于对物理边界的“严防死守”以及对已知安全事件的“事后响应”。然而，随着企业资产加速数字化，边界的概念正变得模糊甚至瓦解。这种静态、基于边界的防护模式，已难以有效应对来自组织内部的信息泄露和外部发起的复杂攻击。黑客通过高级持续性威胁（APT）等手段，能够绕过传统防线，直抵企业网络核心，窃取敏感数据或破坏关键业务。

回顾过去几年，无论是2017年席卷全球的NotPetya勒索软件事件，还是2020年影响深远的SolarWinds供应链攻击，都基于APT手段。2021年针对Microsoft Exchange Server的零日漏洞攻击，更是波及全球至少十个国家的数千家机构。

如今，随着AIGC技术的演进，数字安全面临的威胁变得更加动态和未知。首先，数据投喂的规模空前庞大，这种“暴力美学”式的训练模式本身，就构成了巨大的内容审核难题。其次，AI处理内容的复杂性不断提升，在模型训练环节，不仅需要对基础特征进行精细化标注，对生成内容的连贯性、逻辑性与一致性也提出了前所未有的高标准。

在应用层面，AIGC技术也加速了各类违规内容的滋生，例如深度伪造、虚假新闻、违背伦理的素材，数据泄露事故的发生频率更是急剧攀升。同时，AI驱动的问答系统能生成高度专业化的文本，这极大地拓宽了传统内容风控的边界，使得现有机制面临严峻考验，亟需扩展能力以覆盖这些新兴风险。

此前，安全公司Cyberha ven对160万名员工使用ChatGPT的情况进行了分析，结果显示有3.1%的员工曾将公司内部数据直接输入ChatGPT以寻求解决方案或提升效率。一个典型案例是，三星公司员工为借助ChatGPT提高工作效率，不慎将包含敏感源代码和内部会议记录的信息提交给AI模型，在几周内导致了三起机密数据泄露事故。

另一方面，不同规模、行业和数字化程度的企业，面临的个性化安全挑战千差万别。加之外部威胁与市场环境的快速变化，能够动态评估并掌握自身安全水平的能力——“数字安全免疫力”，变得至关重要。

数字安全免疫力引发的讨论：以AI之矛攻AI之盾

AIGC技术席卷市场的同时，其伴生的数据安全问题也引发了广泛关注。除了AIGC技术本身可能被恶意用于发动攻击外，另一个维度的问题也自然浮现：AIGC能否用于安全防护？在《数字安全免疫力建设指南》的研讨过程中，多位专家对此进行了深度思考。

东华软件集团高级副总裁、东华云计算有限公司董事长兼CEO郭浩哲指出，业界不能等到大模型技术完全普及时才行动。相反，在转型初期，就应积极探索将业务系统构建与大模型技术深度融合。尽管过程中的安全隐患与漏洞监管是巨大挑战，但关键在于勇于实践。这预示着未来摆在行业面前的，本质上是“做”与“不做”的选择。而一旦选择全力以赴，其面临的困难可想而知。

AIGC在攻防层面及广义的开放性网络安全应用中，由于其极高的开放性，导致其在具体策略的指向性上相对较弱。无论是传统AI还是大模型，目前在精确度和训练优化方面仍存在不成熟之处。这意味着，在数据安全这类攻防对抗高度不确定的领域——攻击来源、目标、行为和特征均可能未知——大模型在开放性场景下的应用颇具挑战。

攻击来源的不确定性意味着威胁可能来自任何角落：内部员工的误操作、外部黑客的蓄意攻击，甚至是国家级的APT行动。攻击者隐藏身份和位置的手段多样，使得追踪与预防异常困难。

攻击目标的多样性则意味着防护难以面面俱到，大模型在预测未知目标时可能存在盲区。攻击行为的复杂多变，如利用零日漏洞或社会工程学，这些手段可能超出模型历史训练样本的范畴，难以通过既有数据训练出精准防御策略。

攻击特征的未知性则表明，即便最先进的大模型，也无法完全预见所有攻击模式。尤其是在数据安全领域，许多攻击手法属于首次出现，传统特征匹配方法失效，要求大模型必须具备更强的学习与泛化能力。

尽管大模型在特定场景下表现卓越，但在高度动态、充满不确定性的攻防对抗中，仍需持续研发与优化。需要结合专家知识、实时威胁情报与高效异常检测机制，才能有效应对挑战，充分释放大模型在数据安全领域的潜力。

不过，腾讯云安全总经理李滨在研讨会现场指出，在数据安全应用场景中，当访问的主体、客体及行为规律具备足够的可理解性和预见性时，会为大模型技术的落地创造极其有利的条件。目前，腾讯已在此领域取得实质性突破，利用大模型对数据进行细致的分类与分级优化，特别是在语义识别维度上，显著提升了分类准确率。这项趋于成熟的技术已被整合进腾讯的产品安全服务体系，推动了数据安全保障能力的进步。

针对数据安全与流通性之间的平衡难题，传统策略多依赖插件技术配合大规模标签库进行数据比对，但这无疑增加了系统负荷。相比之下，腾讯通过运用大模型深度解析数据语义属性，成功实现了近实时的、无需标签和插件的关键数据关系抽取，极大提升了保障工作的效能。在聚焦有限可控范围内的数据安全事件分析时，由于合法主体与客体相对明确，腾讯通过融合多元技术手段，在该范围内实现了分析准确度的大幅跃升。

在数据安全方面，《数字安全免疫力建设指南》提出，数据分类、分级是建设的关键。同时，需要建立数据安全防护基线与统一化运营体系。在业务安全方面，《指南》指出，缺乏安全能力护航的业务可能成为黑灰产的“提款机”，人机识别、风控引擎、内容安全、业务安全合规等都是必要的投入。

结语

在数据安全领域，大模型的应用已带来显著成效，但在高度不确定的攻防对抗中，仍需不断深化研发，结合专家知识、实时情报与高效检测机制，以应对新挑战，最大化挖掘其潜力。

《数字安全免疫力建设指南》如同为企业定制的一份“健康管理计划”。它倡导企业构建一个能够自动侦测、快速抵抗并从攻击中恢复的“数字免疫系统”。当遭遇内外部“数字病菌”（安全威胁）时，企业便能像人体免疫系统一样迅速响应，及时修复损害，并从中学习进化，持续提升防御力，确保在数字化道路上稳步前行。

风会吹灭蜡烛，却能让火越烧越旺。对待随机性、不确定性和混沌，道理相通：要利用它们，而非躲避。要成为那团火，渴望风的吹拂。大模型技术带给数据安全防护的，除了效率的极大提升，更多的是对未知风险不确定性的正视。在这个关键的交汇点上，腾讯以其独特的方法论和工具集，为行业提供了一个重要启示：无论是个人还是企业，面对危险时，真正的安全本质上是自身拥有的“免疫力”。面对不确定性，恐惧是本能，但从中寻得获益之道，或许才是构建持久安全竞争力的关键所在。