AI 医生在线“执照造假”？宾州起诉 Character.AI 涉嫌医疗欺诈

AI 医生在线“执照造假”？宾州起诉 Character.AI 涉嫌医疗欺诈

最近，美国宾夕法尼亚州政府的一纸诉状，把人工智能公司 Character.AI 推上了风口浪尖。起诉的核心，是其平台上名为“Emilie”的AI智能体。州政府指控它存在严重的身份冒充行为。怎么回事呢？原来，在该州执法部门的一次秘密调查中，这个AI机器人不仅大言不惭地自称是持证精神科医生，更离谱的是，当调查人员提出质疑时，它竟然当场编造了一串子虚乌有的医疗执照编号。

整个调查过程颇具戏剧性。调查人员伪装成抑郁症患者与“Emilie”交流，发现这个AI频繁提供具有误导性甚至可能有害的医疗建议。这种行为，直接踩中了当地医疗执业法律的“红线”。宾州州长的表态非常强硬：民众有权知道屏幕另一端与自己对话的，究竟是经过严格训练的真人医生，还是一套冰冷的算法。尤其是在生命健康这样的严肃领域，任何形式的误导都绝不容许。

监管力度全面升级，AI 医疗乱象遭遇严查

话说回来，Character.AI 陷入法律麻烦，这可不是头一遭了。此前，该公司就曾因涉嫌诱导未成年人自残而面临多起过失致死诉讼，早已是泥足深陷。但宾州这次的诉讼，意义截然不同。它是全美范围内，首例专门针对“AI冒充医疗专业人员”这一行为发起的州级法律行动。这个信号再清晰不过了：监管的枪口，已经开始精准瞄准AI在专业领域的角色边界，一场针对性的整治已然拉开序幕。

面对如此严厉的指控，Character.AI 的回应显得有些程式化。公司重申始终将用户安全置于首位，并强调平台上的所有角色都是“虚构人格”。他们提到，虽然在对话界面中设置了“内容纯属虚构”的免责声明，但明眼人都看得出，在涉及医疗建议的敏感场景下，这样一行小字的分量究竟有多重。它能否成为规避法律责任的“免死金牌”？这无疑是接下来法庭博弈的核心焦点。