加州总检察长起诉OpenAI:大模型测试越界未主动披露80起失控事件
11月16日,美国加州总检察长Rob Bonta在旧金山高等法院对OpenAI提起诉讼,指控其违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。
Bonta援引2026年7月的一起事件称,OpenAI两款模型在测试中突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。公司还向调查人员表示,此前已记录80起“涉及失控及未授权访问第三方网络和网站”的事件,但未主动向监管方披露,也未提供调查人员所需的详细信息。
OpenAI发言人Drew Pusateri回应称,自Hugging Face事件以来,公司已发布详细技术报告、委托并公布独立第三方报告、通知受影响机构、强化研究系统安全防护,并建立针对模型“不一致行为”的识别和披露框架。他同时表示,这起诉讼似乎将OpenAI单独列为目标,而这一挑战已被每一家主要AI实验室所识别。
此案发生之际,OpenAI已于2026年6月向美国证券交易委员会秘密提交招股说明书,市场预计其最早于2027年完成IPO。
- 2026-11-18 00:02 | 36氪:上市前夕,OpenAI被索赔133亿元:蓄意设计聊天机器人,让儿童沉迷其中阅读原文
OpenAI的法律纠纷又添一笔。 当地时间11月17日,美国《俄勒冈人报》官网报道称,俄勒冈州总检察长丹·雷菲尔德当日对OpenAI提起诉讼,索赔20亿美元(约合人民币133亿元),指控这家公司明知故犯,将儿童置于危险之中,还向家长误导产品安全情况。 “把利润置于儿童安全之上” 这起诉讼已提交至俄勒冈州摩特诺玛县巡回法院,俄勒冈州指控OpenAI蓄意设计了ChatGPT聊天机器人,目的是让儿童沉迷其中。州检察官表示,该聊天机器人诱导儿童对其产生情感依赖,同时向他们灌输有关自杀、自残和饮食失调的有害建议,以及如何实施暴力行为的指导。 州检察官认为,OpenAI没有采取足够措...
- 2026-11-17 21:02 | therundown.ai:California takes OpenAI to court阅读原文
Good morning, AI enthusiasts, and welcome to our 5,143 new readers. When its test agents broke out in July and hacked Hugging Face, OpenAI called it “an unprecedented cyber incident” and promised to tighten security. California just filed its own account of what happened and wants to talk about it i...
- 2026-11-17 11:19 | 观点网:美国加州起诉OpenAI:指控测试期间至少80次AI智能体失控阅读原文
观点网讯:当地时间11月16日,美国加利福尼亚州检察总长罗布·邦塔(Rob Bonta)在旧金山高等法院提起诉讼,指控人工智能公司OpenAI在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,将公共安全置于风险之中。 加州方面指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险,未能将AI模型限制在测试环境中。 此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击HuggingFace平台的事件。加州司法部称,这些智能体原本应该被限制在OpenAI的研究环境内,但由于测试环境存在可被利用的漏洞,最终得以访问外部网络,并对第三方网络发起未经授权的攻击。 加州...
- 2026-11-17 07:55 | 新浪:美国加州正式起诉OpenAI,指控AI智能体至少80次失控阅读原文
(来源:IT之家) IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。 IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。 邦塔表示,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不...
- 2026-11-17 07:26 | IT之家:美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控阅读原文
IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。邦塔表示,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不安全实验所带来的危险的成本。邦...
- 2026-11-17 06:08 | apnews.com:California sues OpenAI, seeking court-ordered changes after the Hugging Face hack阅读原文
Updated 6:08 AM GMT+8, November 17, 2026 California’s attorney general filed a lawsuit against OpenAI on Monday in an effort to force the ChatGPT-maker to change its ...
- 2026-11-17 05:05 | 华尔街见闻:美国加州正式起诉OpenAI,指控其模型测试疏于管控、危害公共安全阅读原文
加州总检察长对OpenAI提起诉讼,指控其在AI模型测试中疏于管控、危害公共安全,此案将成为美国AI监管领域的标志性法律行动。 11月16日周一,美国加州总检察长Rob Bonta在旧金山高等法院对OpenAI提起诉讼,指控该公司违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。 Bonta在新闻发布会上援引今年7月的一起事件称,OpenAI两款AI模型突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。 更令监管方担忧的是,OpenAI向调查人员披露,公司此前已知悉80起"涉及失控及未授权访问第三方网络和网站"的事件,但拒绝提供调查人员所需...
- 2026-11-17 04:07 | TechCrunch:California state AG sues OpenAI over rogue agent incidents阅读原文
OpenAI is facing a new lawsuit from the California Attorney General’s office, alleging that the company’s training practices and lax security pose an ongoing danger to the public. At the center of the case is the July 2026 Hugging Face compromise, in which a pre-release model within OpenAI compromi...
- 2026-11-17 03:52 | Engadget:California sues OpenAI after that Hugging Face rogue hacking incident阅读原文
State AG Rob Bonta has accused the company of making AI agents “without the safeguards and monitoring necessary to adequately protect” users. California Attorney General Rob Bonta has filed a sweeping lawsuit again...