TikTok撤回视频摘要AI功能 因频繁出现严重幻觉问题

最近，TikTok做了一项决定，停止测试一个名为“人工智能概览”的实验性功能。这个功能原本的设想挺美好：利用AI自动为视频生成文字摘要，帮用户快速了解内容，甚至还能推荐相关产品。它已经在包括美国在内的几个市场悄悄测试了好几个月。

但理想很丰满，现实却有点“离谱”。在实际测试中，这个AI展现出了严重的“幻觉”问题。它闹出的笑话可不少：把头部网红Charli D‘Amelio的视频认作是“一堆不同配料的蓝莓”；把正经的训狗教程，理解成了“折纸艺术课”；甚至将夏奇拉的宣传短片，简单地描述为“一些移动的蓝色形状”。这些错误已经超出了普通误判的范畴，更像是算法在“自由发挥”。

面对如此明显的理解偏差，TikTok的回应很迅速。公司发言人已经证实，基于测试反馈，他们已经暂停了这项功能的测试。更重要的是，他们调整了未来的研发方向——这个AI工具将不再试图去“概览”复杂的视频全文，而是聚焦于一个更具体、也更实际的任务：识别视频中间出现的具体产品。这个转向，非常清晰地指向了一个现实：当前的生成式AI，在处理短视频这类高动态、非结构化的视觉信息时，其逻辑关联和语义识别的能力依然存在明显的技术瓶颈。

这件事很快在行业里被讨论开来，不少人将其视为继谷歌AI那个著名的“胶水披萨”幻觉之后，又一个典型的案例。尽管最近的数据显示，谷歌等大厂的AI概览功能准确率有所提升，但TikTok的这次受挫，无疑再次给行业敲响了警钟。它表明，在短视频这个信息密度极高、语境跳跃频繁的内容生态里，多模态大模型的“泛化”能力还远远不够，不足以支撑起高可靠性的自动化内容理解与叙事。

所以，一个明显的趋势正在形成：行业开始从追求“全能描述”的宏大目标，转向深耕“垂直应用”的务实路径。通过主动缩小AI的认知边界，将其任务限定在特定、可控的领域（比如商品识别），以此来提升工具的实用价值和商业上的确定性。这或许不是最性感的答案，但在现阶段，可能是最明智的选择。