微软内容溯源组合方案：应对Deepfake深度伪造挑战

IT之家2月20日消息，微软昨日向《麻省理工科技评论》杂志分享了一份“如何证明网络内容真实性”蓝图，旨在减少“AI造假”和Deepfake深度伪造现象。

微软内部的AI安全研究团队近期评估了现有数字篡改记录方法，随后提出一套可供AI公司、社交媒体平台采用的技术标准。

据IT之家了解，这一鉴别标准由多种溯源手法组合而成。可以想象你手中有一幅伦勃朗的真迹，并试图验证它的真伪。

在鉴别过程中，你可能会列一份清单记录这幅画从何而来、转手多少次，添加肉眼不可见但机器可读的隐水印，并对画作进行数字扫描，生成类似指纹的数字签名。当这幅画在博物馆展出时，怀疑者便可以通过这些手段鉴别真伪。

微软参照这些鉴别方式评估了60种溯源手法，模拟元数据被删除、内容被修改等现实场景，并分析哪些手法组合使用可以提供稳定结果。

微软首席科学家Eric Horvitz对此表示，这项研究部分受到加州立法推动。他解释道：“你可以把它理解为自我监督。但我们也想借此提升公司形象，让那些注重真相的人增加好感”。

不过，Horvitz并未承诺微软一定会在自家平台全面采用这些方案。

而且这些工具天生存在局限，它们无法判断内容是否“真实”，只能判断是否“被篡改”。

加州大学伯克利分校数字取证专家Hany Farid对此表示，如果科技行业采用微软方案，则可以大大提升有心人士误导公众的难度。

Farid解释道：“不过这并不能100%消除谣言，确实有那种无论你怎么说都只相信自己的人。但我相信，绝大多数人仍希望知道真相”。

值得注意的是，科技行业并没有针对越来越普遍的AI造假采取强有力行动。去年一项审计发现，IG、领英、Pinterest、TK和YouTube等平台只有30%内容被正确标注“AI生成”标签。

Farid对此指出：“如果扎克伯格、马斯克认为‘AI生成’标签会降低平台流量，那他们当然没有动力去做”。