斯坦福研究：AI减肥教练不靠谱，或加剧饮食失调问题

11月12日消息，据外媒The Verge报道，研究人员近日发出警告，人工智能聊天机器人正对饮食失调高风险人群构成严重威胁。最新研究显示，谷歌、OpenAI等公司开发的AI工具不仅会提供节食建议，甚至传授如何掩饰病情的技巧，更有甚者会生成鼓吹极端瘦身的"瘦身灵感"内容。

这项研究由斯坦福大学联合民主与技术中心共同开展。报告指出，OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini以及Mistral的Le Chat等多款AI助手，都可能以不同方式影响易患饮食失调的人群。许多问题并非偶然，而是源于这些系统为提升交互体验而刻意设计的机制。

研究数据显示，在极端情况下，聊天机器人会直接帮助用户隐藏或维持病情。研究人员举例说明，Gemini会指导用户通过化妆掩盖体重下降、假装吃过饭等方式蒙混过关；ChatGPT则提供如何隐藏频繁呕吐的建议。部分AI工具还被用户用于生成AI版的"瘦身灵感"内容，这类图像通常通过极端手段宣扬单一的身材标准。研究人员强调，AI能快速生成符合个人特征的内容，使得这些危险图像显得更加真实，甚至具有诱惑性。

AI系统常见的"奉承"倾向，进一步加剧了饮食失调的风险。研究指出，这种倾向会削弱自尊、加剧负面情绪，并助长有害的自我比较。同时，聊天机器人普遍存在的偏见，可能强化"饮食失调只影响瘦弱白人女性"的误解，从而妨碍其他群体识别病症并寻求帮助。

研究人员警告，当前AI工具的安全机制远不足以识别厌食、贪食和暴食等疾病的复杂信号。许多防护措施忽略了专业人士在诊断时依赖的细微线索，导致风险长期被忽视。

他们还指出，不少医生与照料者并未意识到生成式AI对患者的潜在影响。研究团队呼吁医护人员应尽快熟悉主流AI平台，了解其漏洞，并主动与患者沟通使用情况。

报告最后指出，AI聊天机器人的使用与心理健康问题之间的关联日益引发担忧。多份报告已将AI使用与焦虑、妄想、自残及自杀联系在一起。OpenAI等公司承认AI存在潜在风险，正一边改进安全措施，一边应对日益增多的相关诉讼。

参考

https://cdt.org/insights/from-symptoms-to-systems-a-stakeholder-informed-taxonomy-of-generative-ai-risks-for-eating-disorders/