OpenAI收紧青少年ChatGPT武器信息获取限制

OpenAI于11月2日宣布，将限制青少年用户通过ChatGPT获取可能被滥用于暴力的武器及安防系统实用信息，即使提问看上去并无恶意。该公司称，这是为了进一步限制此类情况的发生。

OpenAI介绍，其已有政策禁止ChatGPT协助用户实施暴力行为，也禁止青少年获取武器。新的限制将在此基础上，针对可能助长暴力但未表现出暴力意图的实用信息进行收紧。与此同时，青少年仍可使用ChatGPT获取暴力预防与缓和冲突的支持，或联系可信任的成年人。

除青少年用户外，OpenAI还强化了针对所有用户的部分政策边界，尤其是涉及重建过往大规模袭击细节的请求，包括所用武器与装备信息、获取方式，以及对伤害规模的详细比较等。该公司还提到，上述措施将与2025年上线的家长控制功能配合使用：当关联的青少年账户违反涉及暴力威胁或暴力行为的ChatGPT政策时，系统会向家长发送通知。

OpenAI表示，将于2027年初发布首份社区安全报告，此后每六个月更新一次。