纽约州拟立法禁止AI提供法律与医疗建议

一则来自纽约州的最新立法动态，为依赖人工智能获取专业指导的用户敲响了重要警钟。据美国媒体Statescoop报道，纽约州议会正在审议一项关键法案，其核心内容明确：将禁止AI聊天机器人提供法律咨询或医疗建议，并赋予用户对违规运营商提起法律诉讼的权利。

这项编号为S7263的法案，在上一个会期提出后，已于上周三在州参议院互联网与技术委员会以6比0的票数获得通过。该法案并非孤立条款，而是一系列旨在全面规范AI聊天机器人应用的立法方案的重要组成部分。法案主要针对那些模拟医生、律师等需持证执业专业人士的AI系统，明确禁止其提供任何可能违反专业许可法规、或构成非法从事法律服务的“实质性回答、信息或建议”。

除了严格的内容禁令，法案还引入了明确的透明度要求。运营商必须清晰、醒目地告知用户正在与AI系统进行交互，相关提示需使用与聊天机器人界面相同的语言和易于阅读的字体。然而，法案也特别指出，此类提示声明不能作为运营商免除其法律责任的依据。

更具威慑力的是，法案确立了用户的私人诉讼权。这意味着，如果用户因信赖AI聊天机器人提供的错误建议而遭受人身或财产损失，有权向运营商索赔，并可要求对方承担相应的律师费用。法律专家分析指出，若无此类私人执行机制，许多针对数据和AI系统的监管规定在实际操作中往往效力不足。

若最终获得通过，该法律将在州长签署90天后正式生效。与之配套的立法措施还包括：保护未成年人免受聊天机器人不安全功能的影响，对在未成年人隐私保护方面存在不足的在线平台加强监管。此外，整个立法方案还涉及要求生成式AI系统进行明确标识，并对生物识别数据及“合成内容”的处理制定新的规则。

这一揽子法案由纽约州参议员、互联网与技术委员会主席克里斯滕·冈萨雷斯牵头提出。冈萨雷斯明确指出，立法的根本目的是确保人工智能技术的创新与发展，不以纽约州居民的安全为代价，尤其是必须保障儿童的安全。值得注意的是，今年1月，生成式AI聊天机器人应用Character.AI与谷歌就多起诉讼达成和解，这些案件正涉及聊天机器人在数起未成年人自杀事件中可能产生的影响。

正如冈萨雷斯在官方新闻稿中所强调的：“人们应当从真实的专业人士那里获得可靠的关怀，同时，在使用技术时，也理应享有透明度、问责机制以及数据安全的保障。”这或许正是此番纽约州AI立法背后最核心的公众利益关切。