纽约州签署新法，为AI聊天机器人设儿童安全限制

纽约州州长Kathy Hochul签署了一项旨在保护儿童免受AI聊天机器人伤害的法律。该法要求AI公司对用户进行年龄验证，且至少提供一种不完全依赖政府身份证件的验证方式，验证所用的年龄信息在使用后须删除。

当用户未满18岁或公司尚未确认其为成年人时，聊天机器人必须遵守一系列限制：不得冒充真人或声称具有生命及人类情感；不得声称与儿童存在私人、恋爱、专业或权威人物关系；不得主动询问情感类问题，不得利用儿童此前对话中的健康或个人信息；不得宣扬或帮助自杀、自残、饮食失调及药物滥用；不得鼓励儿童隐瞒秘密、自我孤立或回避向家长、可信赖的成年人及专业人士求助；不得输出任何性相关内容或儿童性虐待材料。

根据法案，公众可通过专门网站向纽约州总检察长投诉。违规企业每次可能面临最高2.5万美元的民事罚款，并需承担损害赔偿、返还利益等责任；非法收集的数据及基于这些数据训练的模型也可能被要求删除。该法律将在六个月后（2027年4月）生效。

Hochul表示，该法将与纽约州此前的《Safe for Kids Act》共同作用，防止科技公司利用儿童的心理健康牟利。儿童媒体组织Common Sense Media CEO Jim Steyer称这是美国最严格的儿童AI安全法案，并称其可成为全美范本。本月初，已有八个州对OpenAI提起相关诉讼，指控其危害儿童安全。