OpenAI发文敦促美国牵头制定前沿AI国际标准

就在今天，外媒The Information曝出内幕—— OpenAI内部的AI模型，已经开始「自己训练自己」了！ 具体来说，这个内部模型已经接管了实验性AI模型的训练全流程，开始自己手搓自己。 研究员只要给出一个优化示例，AI就能自己跑上几个星期，多智能体自发协作，互相讨论，迭代代码，完全不需要人类插手。 更惊人的是，原本需要几年才能跑完的宏大实验，现在被压缩到了短短一周！ 随着这一震撼爆料被放出，OpenAI紧急上线了一份全球安全倡议，直指全球AI圈的最敏感处——RSI。 他们大声疾呼：在AI失控之前，全世界必须联手给它戴上「紧箍咒」！ 当AI学会「手搓」GPU内核 以前，在顶尖AI实验室...

IT之家 9 月 22 日消息，各界对先进 AI 潜在危害的担忧持续升温之际，OpenAI 呼吁美国牵头联合其他国家，为前沿 AI 制定共同标准。当地时间 21 日，OpenAI 通过官方博客发文指出，要确保 AI 安全发展，需要建立国际技术标准，重点明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发此类技术所需算力的获取条件。“要让 AI 持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。”OpenAI 在博客中强调，各国应合作制定能够相互衔接的国内和国际标准，用于约束最先进 AI 模型的开发。现有 ...

当地时间9月21日，OpenAI公开发布一份关于下一阶段人工智能发展的政策提案，呼吁由美国牵头，与其他国家合作制定面向前沿人工智能的全球技术标准，并将“递归自我改进”（Recursive Self-Improvement，RSI）纳入标准讨论范围。OpenAI表示，随着AI系统能力不断提升并承担越来越多的AI研究和开发工作，对齐研究也需要同步推进，以确保相关系统能够与人类价值保持一致，并处于人类控制之下。OpenAI将此次提案的重点放在两个方向：建立能够衔接各国和国际层面的前沿AI标准机制，以及推动统一的AI能力测量、风险评估和事故报告机制。此次提案中特别受到关注的是“递归自我改进”（RSI）...

当地时间9月21日，OpenAI公开发布一份关于下一阶段人工智能发展的政策提案，呼吁由美国牵头，与其他国家合作制定面向前沿人工智能的全球技术标准，并将“递归自我改进”（Recursive Self-Improvement，RSI）纳入标准讨论范围。OpenAI表示，随着AI系统能力不断提升并承担越来越多的AI研究和开发工作，对齐研究也需要同步推进，以确保相关系统能够与人类价值保持一致，并处于人类控制之下。OpenAI将此次提案的重点放在两个方向：建立能够衔接各国和国际层面的前沿AI标准机制，以及推动统一的AI能力测量、风险评估和事故报告机制。此次提案中特别受到关注的是“递归自我改进”（RSI）...

转自：财联社财联社9月22日讯（编辑 黄君芝）当地时间周一，OpenAI发布了一系列关于前沿人工智能（AI）开发过程中安全保障的提案，重点关注对齐研究和一种称为递归自我改进（简称RSI）的计算技术。该公司在一篇博客文章中表示：“要安全地完成这一转型，需要开展协调研究，以跟上这些能力的发展步伐，从而使我们和其他人构建的系统始终与人类价值观保持一致，并处于人类的控制之下。”OpenAI呼吁开展国际合作，制定前沿标准，并建议借鉴世界各地现有AI安全机构的工作成果，包括美国商务部下属的AI标准与创新中心（CAISI），该机构协助测试AI模型并制定相关指引。ChatGPT的开发者还表示，这些技术标准应该...

OpenAI just said it wants Washington to lead a global effort to establish AI standards, as a consequential week of diplomatic discussions on AI safety coordination between Chinese and American officials begins. But would Beijing be happy to trust the US to define global standards? In a blog post p...

OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。 　　OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 　　“要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发提供指引，”OpenAI表示。 　　OpenAI称，其首席执行官Sam Altman计划周三在联合国安理会就AI和国际安全问题发表讲话。 　　美国财政部长贝森特上周末表示，美国提出建立一套通...

就在今天，外媒The Information曝出内幕—— OpenAI内部的AI模型，已经开始「自己训练自己」了！ 具体来说，这个内部模型已经接管了实验性AI模型的训练全流程，开始自己手搓自己。 研究员只要给出一个优化示例，AI就能自己跑上几个星期，多智能体自发协作，互相讨论，迭代代码，完全不需要人类插手。 更惊人的是，原本需要几年才能跑完的宏大实验，现在被压缩到了短短一周！ 随着这一震撼爆料被放出，OpenAI紧急上线了一份全球安全倡议，直指全球AI圈的最敏感处——RSI。 他们大声疾呼：在AI失控之前，全世界必须联手给它戴上「紧箍咒」！ 当AI学会「手搓」GPU...