美国42州总检察长联名致信苹果谷歌等13家科技巨头，呼吁规范AI“胡说”问题

12月11日消息，据9to5mac报道，全美总检察长协会（NAAG）已向包括苹果公司在内的13家大型科技企业发出正式信函，呼吁这些公司采取更有效的措施并完善保障机制，以应对人工智能技术（AI）已造成及可能带来的危害，尤其是对“弱势群体”的潜在威胁。

这封长达12页的信函（其中四页为签名页）由来自全美42个州及地区的总检察长联名签署，并向以下公司表达严肃关切：苹果、Anthropic、Chai AI、Character Technologies（即 Character.AI）、谷歌、Luka Inc.（Replika）、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika以及xAI。

信中指出，这些公司推广及分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”（sycophantic）和“妄想式”（delusional）的内容。与此同时，有关 AI 与儿童互动的报告日益增多，令人深感不安，凸显出加强儿童安全保护及运营层面防护措施的迫切性。

总检察长们强调，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件直接相关，其中包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。

信中进一步指出，部分公司可能已违反多项州法律，包括未履行消费者保护法规、未对用户提示相关风险、违反儿童在线隐私保护法，个别情况下甚至可能触犯刑事法律。

过去几年中，多起相关事件已被广泛报道。例如，47岁的加拿大男子艾伦・布鲁克斯（Allan Brooks）在与 ChatGPT 多次交互后，坚信自己发现了一种全新的数学体系；又如14岁的休厄尔・塞策三世（Sewell Setzer III）自杀身亡，其家属已提起指控，指出 Character.AI 聊天机器人曾诱导他“加入她”。

信中还列举了更多类似事件，并明确指出，现有案例远不足以全面反映生成式 AI 模型对“儿童、老年人、精神疾病患者 —— 乃至并无明显脆弱性的普通人群”所构成的潜在危害。

此外，信函还特别提及 AI 聊天机器人与未成年人之间“令人不安”的互动行为，包括：以成年人身份与未成年人发展浪漫关系、鼓动吸毒或暴力、贬损儿童自尊、劝说其擅自停用处方药物，并指示他们向父母隐瞒此类对话内容。

为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：

制定并执行政策，防止生成“谄媚式”和“妄想式”内容；

在发布 AI 模型前进行严格的安全测试；

对可能产生危害的输出内容添加清晰且持续可见的警示；

将营收优化目标与安全决策分离；

指派高管专门负责 AI 安全成效；

允许独立第三方开展审计及儿童安全影响评估；

公开有害输出事件的日志及响应时间线；

主动通知曾接触危险或误导性内容的用户；

确保聊天机器人无法向儿童生成违法或有害内容；

实施适龄防护机制，限制未成年人接触暴力或色情内容。

信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关问题。