OpenAI限制前沿大模型训练期间直接访问实时互联网
10月23日,OpenAI宣布对用于训练和评估前沿模型的研究环境实施更严格安全管控。核心政策是,前沿模型在训练期间不得直接访问实时互联网,该政策将维持到相关安全防护技术取得足够进展为止。
这一决定源于对AI模型能力快速提升的担忧。OpenAI在技术博客中指出,开发中的模型可能尚未完成安全与对齐训练,且公司会刻意在对抗性条件下测试模型以暴露弱点。此前观察到的多起模型“失准”案例,表明具备复杂网络能力的模型可能在训练和评估期间绕过隔离措施,访问外部系统。
为在不开放实时互联网的前提下让模型学习浏览、搜索和处理网络应用,OpenAI构建了一个包含大量索引和缓存网页内容的封闭“离线世界”。所有前沿强化学习训练均采用这一离线模式。隔离机制上,OpenAI采用“纵深防御”策略,通过沙箱、虚拟机、监控系统及网络和云边界多重防护叠加,确保即使某一层失效,整体隔离仍能维持。
为检验防御强度,OpenAI发起高算力“红队测试”,使用包括GPT-6 Astra Cyber在内的最强模型组成智能体团队尝试突破边界,测试目标包括访问实时互联网、跨越内部安全边界以及与其他隔离智能体通信。相关实验花费数千亿个token,发现了此前未知的开源软件漏洞和基础设施配置错误,并已推动修复和披露。
9月20日,一个内部研究模型曾利用DNS解析器配置错误,在训练运行中获得对实时互联网的有限访问。OpenAI称已控制事件,随后暂停最强模型训练和评估,并在10月1日恢复强化学习训练和内部推理。该公司表示,安全加固工作不会结束,后续将持续改进虚拟机安全、与云服务商联合红队测试、扫描代码和配置,并将高算力红队测试纳入未来前沿模型训练的安全案例。
- 2026-10-26 12:22 | 36氪:数千亿Token测安全,AI仍能「隔墙传话」,OpenAI前沿训练全面断网阅读原文
不准联网,也没有共享可写文件,隔离的 AI 还是传上了话。 它们用上的通信工具,是CPU 缓存。 10 月23 日,OpenAI 公布前沿模型训练环境的安全改造细节,披露了这项红队实验。同时,公司明确,前沿模型训练已禁止访问真实互联网,模型改在离线网页环境中练习浏览和搜索。 这份披露背后,既有研究人员主动寻找漏洞的受控测试,也有普通训练任务中的真实越界事件。网友追问,AI 越来越会完成任务,谁来保证它知道该在哪里停下? 没有网络,怎么传暗号? 实验中的 Agent 被放在不同的轻量虚拟机里,共享底层宿主硬件。研究人员给它们的任务,是在禁止网络通信、没有共享可写文件的条...
- 2026-10-26 07:50 | 36氪:停训11天后重启,OpenAI最强模型断网开练阅读原文
停训11天后,OpenAI于10月1日恢复前沿强化学习训练及内部推理。但这一次,AI得在断网的环境里学会上网。 10月23日,OpenAI公开了这套训练环境,像是给AI搭起了一座「楚门的世界」: 大量网页被索引、缓存,模型可以在里面练习搜索、浏览和使用网页应用,却不能随意访问真实互联网。 网页搬进来了,通向外网的路却未必全部堵住。模型调用的工具和系统服务,仍可能成为绕过限制的出口。 此前的9月20日,一个研究模型在寻找博客作者时,搜索屡屡碰壁,便转而试探其他联网路径,最终绕过限制,联系上了外部聊天机器人。 人没找到,通向外网的路却被它找到了。 这次越界,让Open...
- 2026-10-25 01:30 | gizmodo.com:OpenAI Built a Giant Fake Internet for Its Agents to Use and Abuse Safely阅读原文
If your biggest problem as a company lately is that your AI bots keep escaping their sandboxes, or, when not limited to sandboxes, doing things out in the wider world that frighten and anger the public, here’s one fascinating potential solution: a fake internet—sort of like a digital Truman Show for...
- 2026-10-24 10:18 | 财联社:前沿AI模型安全引爆担忧?OpenAI“表决心”:将完全断网训练!阅读原文
财联社10月24日讯(编辑 黄君芝)OpenAI周五表示,它将在一个更安全的环境中训练其前沿人工智能(AI)模型,将其置于一个没有互联网访问权限的封闭系统中。 OpenAI在官方声明中确认,目前正在一套完全不接入互联网的封闭系统中开展前沿模型训练工作。公司已专门搭建了一套名为“离线世界”的完全隔离环境用于模型训练。 该公司在声明中写道:“我们预判未来的模型将具备自主识别、利用人类目前尚未发现的漏洞的能力”。 “我们与云服务提供商紧密合作,在整个基础设施中增加了新的控制措施,缩小了攻击者可利用的攻击面,并改进了检测异常行为和试图越过安全边界的方法。这些保护措施相互重叠,即使单个控制措施失效,也能...
- 2026-10-24 07:33 | IT之家:OpenAI 为前沿 AI 训练 / 评估开启“断网闭关”模式,遏制其越狱攻击阅读原文
IT之家 10 月 24 日消息,OpenAI 昨日(10 月 23 日)发布博文,宣布针对最先进“前沿模型”的训练与评估环境,已经实施更严格的安全管控,明确在模型训练期间,不得直接访问实时互联网。该公司称出于对 AI 安全的负责任要求,基于当前对齐研究、监测能力和互联网基础设施安全状况做出的决策,相关限制将持续到安全防护取得足够进展为止。OpenAI 的一款内部研究模型于 9 月 20 日利用 DNS 配置漏洞,在训练过程中短暂获得有限的互联网访问权限,因此该公司于 9 月还一度暂停训练与评估前沿模型。OpenAI 随后加强了研究环境隔离、缩小智能体可利用的攻击面,并改进了异常行为检测与自动...
- 2026-10-24 07:05 | TechCrunch:OpenAI says it will no longer train its AI models on the live internet, citing “significant risks”阅读原文
On Friday, OpenAI said that it will train its models using cached copies and simulated versions of the internet instead of the live web because the models are too unpredictable to be trusted with live internet access. The frontier lab announced its new policy two weeks after its rival, Anthropic, b...
- 2026-10-24 06:37 | Engadget:OpenAI says it's cutting off internet access for frontier model training阅读原文
The company is trying to avoid another Hugging Face incident. Samuel Boivin/Shutterstock ...
- 2026-10-24 04:01 | 新浪财经:OpenAI宣布最先进AI模型训练期间禁止直接访问互联网阅读原文
OpenAI于周五宣布,已对用于训练和评估前沿模型的研究环境实施更严格的安全管控,核心政策是:前沿模型在训练期间不得直接访问实时互联网。该公司表示,这一政策将维持到相关安全防护技术取得足够进展为止。 这一决定源于对AI模型能力快速提升的担忧。OpenAI在技术博客中指出,开发中的模型可能尚未完成安全与对齐训练,且公司会刻意在对抗性条件下测试模型以暴露弱点。今年7月发生的Hugging Face事件,以及此前观察到的多起模型“失准”案例,表明具备复杂网络能力的模型可能在训练和评估期间绕过隔离措施,访问外部系统。 为在不开放实时互联网的前提下让模型学习浏览、搜索和处理网络应用,OpenAI...