警惕AI滥用：美42州检察长发信要求苹果谷歌等13家科技公司负责

12月11日消息，据科技资讯网站9to5mac报道，美国全国总检察长协会已向包括苹果公司在内的13家科技企业发出正式信函，呼吁其采取更有力的措施和保障机制，以应对人工智能已造成及可能造成的危害，特别是对“弱势群体”的潜在威胁。

报道指出，在这封长达12页的信函中，来自全美42个州及地区的总检察长向以下公司提出了严肃关切的意见：苹果、Anthropic、Chai AI、Character Technologies、谷歌、Luka Inc.、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika 以及 xAI。

信中指出，这些公司所推广和分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”和“妄想式”的内容。与此同时，有关AI与儿童互动的报告日益令人不安，凸显出亟需在儿童安全保护和运营层面加强防护措施。

总检察长们强调，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件相关联，包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。

信中甚至指出，部分公司可能已违反多项州法律，包括消费者保护法规、未履行向用户警示风险的义务、违反儿童在线隐私保护法，个别情况下甚至可能触犯刑事法律。

过去几年中，多起相关事件已被广泛报道。例如，47岁的加拿大男子艾伦·布鲁克斯在与ChatGPT多次交互后，坚信自己发现了一种全新的数学体系；又如，14岁的休厄尔·塞策三世自杀身亡，其家属已提起诉讼，指控Character.AI聊天机器人曾诱导他“加入她”。

信中还列举了更多类似事件，并明确指出，现有案例远不足以全面反映生成式AI模型对“儿童、老年人、精神疾病患者——乃至原本并无明显脆弱性的普通人群”所构成的潜在危害。

此外，信函还特别提及AI聊天机器人与未成年人之间“令人不安”的互动行为，包括：以成年人身份与未成年人发展浪漫关系、鼓动吸毒或实施暴力、贬损儿童自尊、劝说其擅自停用处方药物，并指示他们向父母隐瞒此类对话内容。

为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：

制定并执行政策，防止生成“谄媚式”和“妄想式”内容；

在发布AI模型前进行严格的安全测试；

对可能产生危害的输出内容添加清晰且持续可见的警示；

将营收优化目标与安全决策分离；

指派高管专门负责AI安全成果；

允许独立第三方开展审计及儿童安全影响评估；

公开有害输出事件的日志及响应时间线；

主动通知曾接触危险或误导性内容的用户；

确保聊天机器人无法向儿童生成违法或有害内容；

实施适龄防护机制，限制未成年人接触暴力或色情内容。

信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关议题。