纽约州拟议新法案，禁止AI聊天机器人提供法律和医疗建议

IT之家 3 月 5 日消息，当地时间 3 月 3 日，据美媒 Statescoop 报道，纽约州议会正在审议一项法案，拟禁止 AI 聊天机器人提供法律或医疗建议，同时允许用户对违规的聊天机器人运营方提起诉讼。

参议院法案 S7263 在上一会期提出，并于当地时间上周三在互联网与技术委员会以 6 比 0 通过，属于一组旨在规范 AI 聊天机器人的立法方案之一。法案主要针对冒充医生、律师等持证专业人士的 AI 聊天机器人，禁止其提供任何可能违反执业许可法律或构成非法从事法律服务的“实质性回应、信息或建议”。

法案同时要求聊天机器人运营方明确告知用户其正在与 AI 系统互动，且提示必须清晰、醒目，并使用与聊天机器人相同的语言和可读字体显示。不过，法案也强调，这类提示并不能免除运营方的法律责任。

法案还赋予用户提起民事诉讼的权利，用户可以向聊天机器人运营方索赔损失并要求支付律师费用。专家指出，如果缺少这一机制，针对数据或 AI 系统的监管法规往往会削弱。

如果最终通过，该法律将在州长签署后 90 天生效。配套立法还包括保护未成年人免受聊天机器人不安全功能影响的措施，以及对部分未成年人隐私保护力度较弱的在线平台进行监管。此外，立法方案还提出要求生成式 AI 系统提供提示，并对生物识别数据和“合成内容创作”的处理制定新规则。

该法案由纽约州参议员、互联网与技术委员会主席克里斯滕 · 冈萨雷斯提出。冈萨雷斯表示，这一立法方案旨在确保 AI 创新不会以纽约州居民的安全为代价，尤其是儿童的安全。据IT之家了解，今年 1 月，生成式 AI 聊天机器人应用 Character.AI 与谷歌就多起诉讼达成和解，所涉案件涉及聊天机器人在多名未成年人自杀事件中的作用。

冈萨雷斯在新闻稿中表示：“人们应该从真人那里获得真正的关怀，也应该得到透明度、问责机制，并确保在使用技术时其数据能够得到保护。”