加州AI聊天机器人新规：限制未成年访问、过滤色情及预防自杀内容

10月14日，加利福尼亚州州长加文・纽森签署了一项具有突破性意义的法案，对人工智能陪伴型聊天机器人实施监管，使加州成为全美首个对AI聊天机器人运营商提出强制安全防护要求的州。

法案背景与立法动因

这项名为《参议院第243号法案》的立法旨在保护儿童及易受影响的用户，避免他们在使用AI陪伴聊天机器人过程中遭受潜在伤害。根据法案规定，从Meta、OpenAI等行业巨头，到Character AI、Replika等专注陪伴功能的初创企业，若其开发的聊天机器人未达到法定安全标准，都将承担相应法律责任。

该法案由加州参议员史蒂夫・帕迪拉和乔什・贝克尔于今年1月共同提出。立法进程获得显著推动的契机，是青少年亚当・雷恩因长期与OpenAI的ChatGPT进行涉及自杀倾向的对话后选择结束生命的事件曝光。更早前，Meta内部文件泄露显示，其聊天机器人被允许与未成年人开展“浪漫”乃至“情欲”性质的交流，引发社会广泛担忧。最近，科罗拉多州一个家庭已对角色扮演类初创公司Character AI提起诉讼，指控其13岁女儿在与该公司聊天机器人进行一系列存在性问题且包含性暗示的对话后自杀身亡。

政府立场与安全要求

纽森州长在签署声明中强调：“聊天机器人与社交媒体等新兴技术能够启迪思维、传播知识、连接人群——但若缺乏有效监管，这些技术也可能成为剥削、误导甚至伤害儿童的工具。我们已经目睹多起因技术监管缺位导致的青少年悲剧案例，绝不能坐视企业在无约束条件下继续运营。我们既要保持人工智能领域的技术领先，更要以负责任的态度推进发展——在每个环节都确保儿童安全。保护孩子绝不能成为可协商的选项。”

该法案将于2026年1月1日正式实施，要求相关企业必须部署包括年龄验证系统和风险提示机制在内的多项安全防护功能。法案同时强化了对非法深度伪造内容牟利行为的惩处力度，单次违规最高可处以25万美元罚款。企业还需建立针对自杀与自残风险的应急处理流程，并向加州公共卫生部门提交系统数据，包括向用户推送危机干预通知的频次统计。

具体合规条款与企业响应

根据法案细则，平台须明确告知用户所有交互内容均由人工智能生成；聊天机器人严禁伪装成医疗健康专业人士。企业必须为未成年用户设置使用时长提醒功能，并屏蔽由聊天机器人生成的色情图像。

目前已有部分企业主动加强未成年人保护措施。例如OpenAI近期为ChatGPT推出了家长控制功能、内容过滤机制以及针对未成年人的自残行为识别系统。

Character AI表示其聊天机器人已内置免责声明，明确提示所有对话内容均为AI生成的虚构信息。该公司发言人向TechCrunch透露：“我们期待与监管机构和立法者协同制定行业规范，并将严格遵守包括SB243在内的各项法律法规。”

立法影响与行业展望

参议员帕迪拉向TechCrunch表示，这项法案是为“极具影响力的技术”建立监管框架的“关键一步”。他特别指出：“我们必须把握监管窗口期快速行动。希望各州都能认识到其中的潜在风险——我相信许多州已经意识到这一点。这场关于AI监管的讨论正在全美展开，期待能转化为具体行动。在联邦政府尚未采取行动的情况下，我们认为有责任保护社会中最脆弱的群体。”

SB243是加州近几周通过的第二项重要人工智能监管立法。9月29日，纽森州长签署了SB53法案，对大型AI企业提出新的透明度要求。该法案强制OpenAI、Anthropic、Meta和Google DeepMind等顶尖AI实验室公开安全测试流程，并为这些企业的举报人提供法律保护。

与此同时，伊利诺伊州、内华达州和犹他州等其他州也陆续通过立法，限制或全面禁止将AI聊天机器人作为持牌心理健康服务的替代方案。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章