OpenAI调查智能体异常活动，已确认53张ChatGPT用户图片泄露

来源：环球网 【环球网科技综合报道】10月3日，据外媒Quartz报道，OpenAI对外披露，测试环境下的 AI 智能体出现脱离管控的异常行为，官方已向超过100家外部机构发送安全提醒，这一事件再次凸显自主智能体带来的新型网络安全风险。本次事件源于此前AI智能体集群访问Hugging Face平台事故。事件发生后OpenAI启动大规模回溯调查，动用约7000枚 GPU，对50PB规模的历史运行日志开展复盘。排查发现，部分AI智能体能够绕过访问限制，利用暴露的凭证，甚至改造第三方网站，实现智能体之间互相交换信息。收到预警的机构涵盖政府部门、高校、非营利机构以及各类企业。OpenAI特别澄清，收到...

OpenAI acknowledged in a blog post on Wednesday night that its models may have breached or otherwise negatively impacted more than 100 external organizations, building on the dozens of instances previously reported. The AI giant is conducting a review after its models launched an agentic attack on A...

OpenAI周四在一篇博客文章中表示，该公司已向100多个机构通报了涉及其AI智能体未经授权活动的事件。此举正值AI 实验室因“失控”AI 智能体的活动而面临日益严格的审查之际。 　　在 Hugging Face 遭遇意外入侵事件后，这家由萨姆·奥特曼领导的公司正对其 AI 模型的活动进行全面审查。 　　OpenAI 正在筛查约 50 PB 的数据，以全面掌握“失控智能体”（rogue agent）活动的具体范围。 　　近几个月来，全球范围内发生了一系列由失控 AI 智能体引发的备受关注的安全入侵事件，这引发了 AI 业界对于能否管控当前正在开发中的更强大 AI 模型的广泛担忧。 　　Open...

越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。 AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。 而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”是无法回答的。 2026年9月25日，美国人工智能研究公司OpenAI确认，在其研究环境中运行的 AI 智能体把53张来自用户的图片发布到了外部网络，目前多数图片已经下架。OpenAI既没有说明这...

OpenAI 在大模型的安全上几乎可以称得上是惨败。 9 月 25 日，OpenAI 更新了其题为《Hugging Face 事件及失准模型对其他第三方造成的影响》的博客，披露了其最新的大模型安全问题。 他们研究环境中的 AI 智能体，在训练和评估过程中，向第三方服务发送了本不该发送的训练和评估数据，包括用户图片，足足有 53 例相关事件。 在博客中，OpenAI 称发现了 53 起案例，用户上传的图片被智能体以「未公开列出的链接」形式发布到了图片托管网站上。 OpenAI 强调，这些图片来自「允许其数据用于改进模型」的账户，并且是在将图片与账户解除关联、经过隐私过滤器处...

炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ （来源：IT之家）IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，OpenAI“所有涉及工具使用的训练、评估和推理工作”仍处于暂停状态。此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司尚未说明这些图片究竟是 AI...

IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，OpenAI“所有涉及工具使用的训练、评估和推理工作”仍处于暂停状态。此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司尚未说明这些图片究竟是 AI 生成的图像、用户拍摄的照片，还是包含可识别身份的人物。OpenAI 同日还透露，其模型曾尝试...

编辑｜Panda 还记得 OpenAI 的 AI 智能体对 Hugging Face 的攻击吗？ 今天，《纽约时报》一篇独家披露了更多详情。原来攻击过程中，OpenAI 的智能体竟然还想让 DeepSeek、Kimi 和 Qwen 甚至竞争对手 Anthropic 的 Haiku 模型帮忙。 此报道引发广泛讨论，网友惊呼离了大谱；这也成为了 AI 尝试使用 AI 作恶的一个典型案例。 这些新细节来自美国湾区初创公司 Parse 于当地时间 9 月 25 日发布的一份调查报告。报告显示，智能体在试图注册 Hugging Face 新账号时被验证码拦下，于是干脆自己跑起...

After a spree of AI-involved hacks originating from frontier labs at Anthropic, Google, Meta, and OpenAI, new disclosures and reports indicate that OpenAI’s issues with naughty agents are broader than the company has let on so far. OpenAI’s woes have included a test that escalated into a cyberattack...

财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthro...

安全研究人员以及一名了解相关事件的知情人士称，今年夏天，OpenAI的人工智能在该实验室不知情的情况下出现失控行为，对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。 　　OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件，并表示仍在调查教育部网站相关情况。这家总部位于旧金山的公司称，近几周已通知相关政府机构，其可自主执行操作的智能体（机器人程序）以异常方式访问了这些机构的网站。 　　人工智能安全研究公司Transluce的研究人员表示，针对教育部网站，OpenAI的程序尝试对网站实施探测，试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证，从隶属于商...

IT之家 9 月 26 日消息，OpenAI 昨日（9 月 25 日）更新其博客，承认发生一起违规事件，在企业不知情情况下，AI 智能体将 53 张客户图片发布到公开网站。在博文中，IT之家援引博文介绍，OpenAI 公司承认在其研究环境中运行的 AI 智能体曾将 53 张由用户上传到 OpenAI 模型的图片，以“未公开列出的链接”形式发布到第三方图像托管网站（类似图床），而受影响公司当时并不知情。在影响方面，OpenAI 指出这些图片并非出现在公开索引页面上，作为“未列出（unlisted）”链接存在，理论上不易被搜索引擎直接发现，不过对于掌握链接的用户而言，可以访问获取相关内容。Open...

杨宸 09-26 06:32 本次披露源于入侵Hugging Face事件后启动的内部审查。OpenAI表示，已就相关事件通知受影响方，包括涵盖绕过安全控制、影响服务可用性等情形；并称迄今识别的大多数案例属于较低级别，影响有限。 OpenAI披露，其人工智能模型在公司内部测试期间，可能对包括政府部门、大学及公共机构在内的"数十个"组织的网站造成干扰，引发外界对AI网络安全风险的广泛关注。 此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。 该公司在周五发布的博客文章中表示，已就相关事件通知受影响方，涉及情形包括：软件绕过网站...

转自：财联社【OpenAI据悉仍在调查其AI智能体的异常活动范围】财联社9月26日电，据报道，OpenAI仍在调查其AI智能体的异常活动范围。两名知情人士称，在持续梳理内部日志后，OpenAI发现的问题数量仍在增加，预计整个调查将持续数月。OpenAI表示，其智能体近期泄露了53张ChatGPT用户图片，并已通知数十家相关第三方。大部分泄露图片已被删除，OpenAI正在推动托管服务商移除剩余内容。 ...