人民网与中科大联合推出AI生成内容检测工具AIGC-X

从AI绘画、作曲到虚拟人，再到近期席卷全球的ChatGPT，人工智能生成内容（AIGC）技术正以前所未有的速度重塑内容生产的面貌。然而，在这个内容无限“生长”的数字世界里，如何辨别虚实、去伪存真，已成为关乎行业长远健康发展的核心命题。

今天，一款名为AIGC-X的检测工具正式面向全网开放公测。这款工具由传播内容认知全国重点实验室（由人民日报社主管、依托人民网建设）、中国科学技术大学以及合肥综合性国家科学中心人工智能研究院联合推出，是国内首个专注于AI生成内容检测的公开工具。

据了解，AIGC-X能够快速区分机器生成文本与人工创作文本。目前的测试数据显示，其对中文文本的检测准确率已突破90%。

传播内容认知全国重点实验室首席科学家张勇东指出，以ChatGPT为代表的AIGC技术，凭借其在对话咨询、文章写作、内容润色等广泛场景的应用潜力，正步入发展的新阶段。但随之而来的伦理规范、内容侵权、信息造假等风险挑战同样不容小觑。行业迫切需要针对性的检测产品，以提升对这类新型内容生产模式的监管与治理能力。

他进一步介绍，AIGC-X采用了算法融合与知识驱动的人工智能框架，通过深度建模来捕捉文本的困惑度、突现频次等深层隐式特征。这使得该工具能够有效检测出由AI技术生成的假新闻、抄袭内容以及垃圾邮件，在内容版权保护、防范网络钓鱼、识别虚假信息和学术造假等领域具有广阔的应用前景。未来的规划中，AIGC-X将逐步扩展为能够识别人工智能生成的文本、图像乃至视频的通用智能检测模型。

“AIGC的健康发展，迫切需要适当的引导和规范。”传播内容认知全国重点实验室研究员靳国庆特别强调，必须高度重视防范AIGC技术在虚假信息、学术造假、网络钓鱼等灰色地带的滥用风险。“AIGC-X的推出，旨在推动AI风险管理与安全评测技术的发展，为构建一个安全、可控的AIGC生态系统提供坚实的技术支撑。”

事实上，在发布AIGC-X之前，传播内容认知全国重点实验室已成功研发并部署了“智晓助”和“白泽”两套人工智能内容风控系统，目前已在百余家机构投入使用。专注于内容风控业务的人民网信息技术有限公司，也已基于AIGC-X的核心技术，开发了名为“捕获AIGC”的产品。

来自工业和信息化部的数据显示，我国人工智能核心产业规模目前已超过4000亿元，相关企业数量接近4000家，带动了数万亿元的相关产业规模，且这一增长势头仍在持续。行业专家普遍预测，作为数字技术与实体经济深度融合的新范式，AIGC将在赋能千行百业创新发展的道路上扮演关键角色。

张勇东也表示，“AIGC-X并非一个静态的技术产品，它将随着AIGC本身的发展而持续演进。”目前，受限于开发时间与资源，AIGC-X在对一些非常规问题与复杂场景的支持上仍有完善空间。例如，当前版本主要支持中文内容检测，对英文内容的检测能力有待进一步提升；同时，对图像、音视频等多模态内容的检测能力也需持续完善，目标是实现对全媒体内容的有效检测，从而为AIGC的健康发展保驾护航。