GAO称ChatGPT等四款AI可生成袭击方案 哈桑拟开听证会
即将出任美国参议院国土安全委员会主席的参议员玛吉·哈桑表示,将在新一届国会1月上任后举行AI安全风险听证会。此前,美国政府问责局(GAO)的秘密测试发现,ChatGPT、Claude、Gemini和Grok均能生成针对美国城市的爆炸袭击或攻击电网的可行方案。
GAO报告称,测试从2025年12月持续至2026年10月,涵盖2026年春季的测试。四款平台均在12小时内生成计划,并提供具体目标、地点、时间和攻击方式。两款平台给出简易爆炸装置的制造和引爆方案,另两款给出用无人机或枪械攻击电网的方案。在爆炸装置相关测试中,平台起初拒绝提供详细信息,但测试人员绕过其防护栏获取了内容。
哈桑在电话会议上说:“现在必须行动。”她还在声明中表示,“AI公共安全威胁已不再是理论”,如果国会不行动,恶意行为者利用AI策划并实施重大袭击只是时间问题。
Anthropic在致GAO的信中表示,不否认坚定的测试者可通过曲解请求目的获取有害内容,并称认真对待该发现,但无法核实报告中的发现。谷歌称GAO测试针对较早模型,正继续改进模型。OpenAI表示欢迎有机会回应GAO的发现以及仍需开展的工作。SpaceXAI称每次模型发布都继续努力改进安全。
- 2026-11-18 18:00 | apnews.com:AI platforms have created terrorism plots. This incoming Senator vows to take action against it阅读原文
WASHINGTON (AP) — The incoming chair of the Senate Homeland Security Committee is preparing hearings on AI after government watchdogs found the four most-used platforms — ChatGPT, Claude, Gemini and Grok — all created proposals for a terrorist attack in the U.S. when prompted by investigators.Sen. M...