2026-11-20 00:51
最后更新于2026-11-22 01:04
AI123

前FBI特工Paul Bingham:企业难识别AI智能体越权

前FBI特工、WGU技术学院高级副总裁兼执行院长Paul Bingham在2026年11月举行的VB AI Impact Series活动上对VentureBeat主编Matt Marshall表示,多数企业安全团队无法判断AI智能体何时失控,因为很少测量自身网络中智能体的正常活动基线。

他说,企业常在未界定权限前就给智能体发放凭证,使行为异常的智能体可访问远超任务所需的范围。他建议限制每个智能体的访问范围,建立正常行为基线,并把下一笔安全预算优先投入人员培训,而不是购买更多工具。

VentureBeat月度Pulse调查显示,截至2026年11月的一年内,46%的企业报告过智能体事故或险情;为每个智能体分配独立身份的企业中,60%称能在数分钟内关停失控智能体,使用共享密钥的企业为33%。约75%至78%的企业称有正常网络活动的可靠基线,但这一比例在内部运行的智能体上降至约50%;Bingham认为多数企业实际上并不了解正常活动。

他还表示,不应允许智能体自行完成多因素认证(MFA)提示,因为MFA仍是企业阻止自动化智能体登录账户的少数保护之一。他提到2026年10月29日Binance被盗和2026年7月Hugging Face遭AI智能体入侵事件,认为犯罪团伙与国家级黑客的工具界限正模糊,企业应假设已被入侵并具备快速遏制能力。

来源
  1. 2026-11-20 00:41 | venturebeat.com:Most security teams can't spot a rogue AI agent, says former FBI cyber investigator
    阅读原文

    Presented by WGUMost enterprise security teams cannot tell when an AI agent goes rogue, because few of them have measured what normal agent activity looks like on their own networks, Paul Bingham, senior vice president and executive dean of the School of Technology at Western Governors University (W...

其他新闻

查看全部