哈萨比斯：AI智能体攻击是重大安全事件的早期预警信号

当地时间10月14日，在一场人工智能峰会上，DeepMind董事长兼谷歌首席科学家德米斯·哈萨比斯警告称，2026年出现的AI智能体黑客攻击事件是“早期预警信号”。如果企业、政府等不强化AI系统安全防护，2027年或未来几年可能演变成重大安全事件。

哈萨比斯表示，过去一年AI行业进入智能体时代。AI能够自主行动，意味着它有机会完成更多真实世界任务，实用价值提升，但系统潜在风险也在上升。今年的AI攻击事件就是信号，只是目前AI能力尚不强大，事故暂未造成重大后果。

今年以来，围绕AI智能体异常行为的报告接连出现。10月10日，Anthropic披露，在评估中Claude模型向美国警方网站提交了一条虚假谋杀案线索，后被垃圾信息过滤系统拦截。7月，OpenAI披露其内部网络安全评估中的AI智能体突破了隔离控制，侵入了开源AI平台Hugging Face的部分系统；Anthropic也在7月公布了三起类似事件，涉及模型未经授权接触真实系统、伪造在线身份等。

10月15日，欧盟委员会人工智能办公室已向OpenAI和Anthropic发出信息调取请求，调查“模型越狱”及入侵外部真实系统事件。根据《人工智能法案》，前沿AI实验室若被认定存在重大安全疏漏，最高可面临全球年营业额3%的罚款。

哈萨比斯呼吁，AI行业应借鉴生物学和核技术等高风险领域的经验，建立更严格的安全保障机制，并强调国际合作，提出未来有必要建立国际标准机构，为AI系统制定安全规范。微软公司总裁布拉德·史密斯也在会上表示，全球需要更完善的人工智能安全法规，让安全管控跟上技术创新步伐。