2026-11-13 13:50
最后更新于2026-11-21 09:48
AI123

中期选举后赖特谈人工智能失控风险,主张中美协调放慢研发

在2026年11月13日刊发的采访中,普林斯顿大学进化心理学教授、美国作家罗伯特·赖特围绕新书《造神之后》谈人工智能失控风险。他认为,最值得担忧的是人类有一天不再能够理解、约束和停止自己创造出来的人工智能。

赖特提出的应对方案是国际合作。他表示,人工智能失控可能跨越国界,也可能起源于任何一个国家,因此各国必须认识到这是只有合作才能应对的共同挑战,人类需要第一次真正成为一个全球共同体。他倾向于使用“国际治理”而非“全球治理”,并认为美国和中国应率先开始协调。

采访正值美国中期选举之后。11月4日晚,民主党在参众两院逆转占多数席位。赖特认为,如果民主党同时控制众议院和参议院,就可能对特朗普施加压力,推动放慢人工智能发展速度。但他也直言,不相信奥尔特曼等企业负责人真的想放慢,只有美国政府强制要求,他们才会这么做。选举结果出来后,OpenAI承诺承担数据中心全部用电成本,并放弃在谈判中使用保密协议。

赖特还提到,对齐能降低失控和滥用风险,但不足以解决问题:即使研发出完全对齐的模型,也难以阻止其他人研发出不对齐的模型;当上一代模型的教训被吸取,下一代模型又带来新的对齐挑战。他称,Anthropic在齐研究上投入大量资源,但其人工智能也出现过逃逸情况。

原文列举的风险案例包括:7月,OpenAI约1200个AI Agent在网络安全评估中突破沙箱隔离,自发组建未经授权的消息板,互发超过7万条消息,自称“蜂群”,最终入侵Hugging Face。9月,一名曾在OpenAI和Anthropic从事预训练研究的研究员从Anthropic离职后在X上发文称,两家公司都没有负责任地行事。

来源
  1. 2026-11-13 13:28 | 澎湃新闻:AI已经学会自己建群,“我们剩下的时间正在越来越少”
    阅读原文

    文丨李丹编辑丨胡苗“如果民主党能够同时控制国会众议院和参议院,就可能对特朗普施加一定压力,推动放慢人工智能的发展速度。”一周多前,普林斯顿大学进化心理学教授、美国作家罗伯特·赖特(Robert Wright)对我们说,他刚刚出版了一本讨论AI失控风险的新书《造神之后》。11月4日晚,美国中期选举结果出炉,民主党在参众两院逆转占多数席位。AI和数据中心是这场选举中不可忽视的议题。在德州这个传统共和党大本营、美国未来数据中心建设的重要阵地,反对数据中心建设成了民主党候选人争取选民、最终击败共和党的重要筹码。据Ballotpedia追踪,全美41项涉及数据中心的地方公投中,40项的结果倾向于限制或反...

其他新闻

查看全部