OpenAI拟将第三方安全评估前置至模型开发阶段
OpenAI于9月22日宣布，计划在新的AI模型训练、评估和推出过程中引入外部机构开展技术安全评估，以更早识别潜在风险。此举意在继续应对围绕AI潜在危害的担忧。此前，OpenAI通常主要在模型发布前引入外部机构进行安全评估，并评估模型能力。
OpenAI在博客文章中列出了此类评估有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专家合作开展安全审查工作的Lama Ahmad表示，随着潜在风险和影响上升，除了部署环节之外，也希望对训练和评估等事关重大的环节进行审视。
据Ahmad介绍，对于部分最敏感的工作，OpenAI可能会让外部评估人员进入公司办公场所开展评估，公司过去曾尝试过这种做法。OpenAI正在与AI研究机构METR和Redwood Research等可能参与评估的机构进行洽谈，这两家机构此前曾受OpenAI委托调查其模型侵入Hugging Face系统一事。
OpenAI在博客文章中表示，AI实验室有责任在保护敏感信息的同时，为有效审查创造条件。近期，Anthropic CEO Dario Amodei曾呼吁AI行业支持放慢开发速度，并提出引入第三方评估机构等安全措施，OpenAI CEO Sam Altman随后表示赞同。Anthropic上周晚些时候宣布，将引入埃森哲的评估人员对其前沿AI模型的安全性进行测试。
- 2026-09-23 11:17 | 新浪财经：“AI会杀死所有人”？特朗普反驳：别想用全球规则管住美国AI阅读原文
特朗普在联合国明确拒绝建立全球AI控制框架，并淡化“AI失控”带来的极端风险。几乎与此同时，OpenAI却把第三方安全审查从发布前进一步提前到训练、评估和部署阶段，两条路线的分歧正在变得具体。当地时间周二，美国总统特朗普在联合国大会上公开淡化前沿人工智能可能失控的风险，并明确反对建立一套全球性AI管控框架。就在美国政府进一步强调避免监管拖慢AI发展的同时，OpenAI正扩大外部安全审查，计划让第三方机构在模型训练、评估和发布的更早阶段介入。特朗普在联合国大会讲话中表示，美国“完全拒绝任何建立全球主义方案来控制人工智能的企图”。他同时宣布，美国政府今后将在官方文件中把人工智能称为“超级智能”（S...
- 2026-09-23 07:41 | 界面新闻：OpenAI拟在AI模型开发早期阶段引入第三方机构评估安全风险阅读原文
据报道，OpenAI计划让第三方机构在AI模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任划分”。
- 2026-09-23 02:39 | 新浪财经：OpenAI将让第三方机构更早介入AI模型安全评估阅读原文
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。 这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。 负责该公司大部分与外部专家合作开展安全审查工作的Lama Ahmad表示，此前，OpenAI通常主要在模型发布前引入这类机构进行安全评估，并评估模型能力。 “随着潜在风险和影响上升，除了部署之外，我们也希望确保...