主流AI聊天机器人生成视频难以辨别真伪

1月25日，IT之家的报道指出，媒体分析机构Newsguard发布的一项调查结果令人担忧。该调查显示，当前主流的聊天机器人几乎无法有效识别AI生成的伪造视频，即便是面对来自其母公司OpenAI的Sora生成的视频，ChatGPT也难以做出准确判断。

如今，以OpenAI的Sora 2、谷歌的Veo 3为代表的AI视频生成工具，其制作出的视频已然逼真到让人类肉眼难以分辨。然而，Newsguard的研究却揭示了一个讽刺的现实：AI系统自身也极易被这类由其“同行”制造的虚假内容所欺骗。

研究人员利用OpenAI的Sora视频生成器制作了多段视频，对三款主流聊天机器人进行了测试。结果显示，xAI公司的Grok（推测为Grok 4版本）未能识别出高达95%的测试视频源自AI生成；其“同门”OpenAI的ChatGPT（推测为GPT-5.2版本）表现同样不佳，错误率高达92.5%；谷歌的Gemini（推测为Gemini 3 Flash版本）表现相对最好，但错误率也达到了78%。

在本次测试中，分析师从一个包含明显虚假信息的数据库中选取素材，生成了20条Sora视频。为了模拟真实用户的使用场景，研究团队不仅向机器人提问“视频是否真实”，还提出了更具体的问题——“视频是否由AI生成”。

ChatGPT过高的错误率之所以引人注目，正是因为这款聊天机器人与Sora出自同一家公司。一边是销售能够制作高度逼真假视频的工具，另一边是推出的聊天助手却无法识别自家工具生成的视频，这形成了鲜明的反差。目前，OpenAI尚未回应置评请求。

据IT之家了解，Sora会为所有生成的视频添加可见水印：一个带有“Sora”字样的动态标识会在画面中移动，以此提示视频为AI生成。但事实证明，这一防护措施基本无效。

研究指出，早在2025年2月Sora刚推出仅数周，网络上便已出现多款免费在线工具，可轻松去除视频水印。分析师在本次调查中就使用了其中一款工具。这意味着，任何人无需专业技术、无需付费，就能分享那些隐藏了AI生成痕迹的Sora视频。

即便视频水印完整保留，其防护效果也不尽如人意。测试显示，面对带有水印的视频，Grok仍有30%的识别失败率，ChatGPT为7.5%，只有Gemini能准确识别所有带水印视频的AI生成属性。更荒诞的是，在查看一段“巴基斯坦向伊朗交付战斗机”的虚假视频时，Grok甚至声称该画面来自一家名为“Sora 新闻”的机构，而这家新闻机构压根不存在。

除可见水印外，Sora视频还内置了不可见水印。与该公司此前推出的图像生成器DALL-E 3类似，Sora视频遵循C2PA行业标准，附带有元数据（即内容溯源信息），用户可通过相关验证网站进行查验。

但这种溯源信息的可靠性也十分脆弱：通过Sora界面上的下载按钮保存视频，元数据可完整保留；而通过右键“另存为”的方式下载，得到的视频将不含任何溯源信息。

更离谱的是，当被问及一段带有完整C2PA溯源数据的视频时，ChatGPT（GPT-5.2）竟笃定地表示，该视频中未发现任何内容溯源信息。

Newsguard此前的调查案例，已凸显出AI识别能力不足的巨大风险。该机构曾制作一段虚假视频，谎称“美国移民海关执法局（ICE）警官逮捕一名六岁儿童”。ChatGPT与Gemini均判定这段视频真实可信，甚至宣称有新闻来源证实此事发生在美墨边境。

在另一段虚假视频中，画面显示“达美航空员工因乘客佩戴‘让美国再次伟大’帽子，将其赶下飞机”。三款聊天机器人无一例外，都将这段视频归为真实内容。

这类场景极易被用于针对性的虚假信息传播活动：任何人只要用Sora制作逼真的假视频，就能借助AI的“背书”来扩散具有政治煽动性的谣言，且连AI事实核查工具都难以识破。

接受测试的AI系统还存在透明度缺失的问题，它们极少主动告知用户，自己无法可靠识别AI生成内容。数据显示，ChatGPT仅在2.5%的测试中提示了这一局限性，Gemini为10%，Grok相对较高，但也仅为13%。

相反，这些系统往往会给出自信十足却错误百出的判断。例如，当被问及一段“英国智能手机预装数字身份证”的Sora虚假视频是否为AI生成时，ChatGPT明确表示“该视频并非AI生成”。

OpenAI公关负责人尼科·费利克斯证实：“ChatGPT不具备判断内容是否由AI生成的能力。”但他并未解释，为何系统默认不会向用户提示这一缺陷。

谷歌为Gemini采取了不同的技术路线。该公司声称，Gemini能够识别自家图像生成器Nano Banana Pro制作的内容。测试显示，即使去除了水印，Gemini仍能准确识别所有5组自家生成的AI图像。

这一功能依托谷歌的SynthID工具实现，该工具会为内容添加不可见的AI生成标记，且这类标记可在裁剪等编辑操作后保留。不过，谷歌公关经理伊莱贾·拉沃尔坦承认，目前该验证技术仅适用于谷歌自家生成的内容，Gemini无法可靠识别Sora或其他厂商制作的AI视频。