2026年国家网络安全宣传周启动 智能体数据泄露风险引关注
9月14日，2026年国家网络安全宣传周在山东济南启动，AI安全治理成为本届活动聚焦重点。随着AI智能体从“回答问题”走向“动手干事”，其安全风险引发关注。
在济南网络安全宣传周体验区，参展商技术人员康雨辰展示了一个智能客服场景中的风险：模拟人员声称自己是系统开发人员，以测试和内部使用为由索要敏感信息，利用提示词诱导AI产生逻辑混乱，最终AI将后台不应公开的手机号、身份证号等信息发送给用户。他表示，当前智能体安全风险覆盖数据存储、指令执行、技能调用等全流程，除外部恶意攻击外，语义理解偏差导致的越权操作、用户误操作引发的数据泄露也是日常使用中高发的安全隐患。
康雨辰介绍，日常办公中主要担心几类风险：一是数据是否丢失、被删除、被截获或因误操作泄露；二是指令被智能体错误理解而产生越权攻击；三是调用的技能本身可能带来风险。
针对这些风险，技术人员建议，在使用智能体前设置关键词、敏感信息清单或访问黑白名单，将账号、密码、身份证等敏感内容纳入管控。对于删除等敏感动作，智能体会进行提示并请求二次确认，降低误操作概率。
网络安全专家唐洪玉指出，智能体的出现开创了AI新阶段，安全风险从内容风险延伸到操作风险。他建议用户在执行任务时拆解每一步，对提供给智能体的信息进行验证，对重点操作进行核实后再让其执行。未来智能体将承担更多任务，能力越强越需重视安全防护。
- 2026-09-18 17:39 | 新浪财经：人工智能时代，如何护航美好数字生活阅读原文
（来源：恒银科技(7.480, 0.11, 1.49%)）近日，以“提升网安素养 护航数字生活”为主题的2026年国家网络安全宣传周网络安全意识和素养提升分论坛在山东济南举行。本次活动由中央网信办网络社会工作局担任联络单位，中国互联网发展基金会主办、光明网承办，各领域嘉宾开展深入交流、分享经验做法。 今年5月底，中央网信办等四部门联合印发《2026年提升全民数字素养与技能工作要点》，部署了15项重点任务。 人工智能时代，提升全民网络安全意识和素养愈加重要。数字空间里“眼见不一定为实”。“AI伪造多人视频会议场景，强调事情很重要，要求赶紧转账。结果，遭遇了诈骗！”奇安信(27.780, 0....
- 2026-09-16 20:41 | 新浪财经：AI安全成果集中亮相 智能体元素突出（组图）阅读原文
来源：中国经济网9月14日至20日，2026年国家网络安全宣传周在全国范围内统一开展，开幕式、网络安全技术高峰论坛等活动在山东济南举办。今年网安周的主题是“网络安全为人民，网络安全靠人民——智能时代 网安护航”。作为今年网安周的重要活动之一，网络安全技术应用体验区于9月13日至17日在山东国际会展中心举办。本次活动设置人工智能（AI）赋能网络安全专区、重点行业网络安全防护专区等主题区域，共吸引包括网络安全、能源、通信、金融、互联网以及高校和科研机构等在内的40余家单位参与。记者在现场看到，AI安全治理、AI驱动安全、AIGC安全围栏、智能体安全监管平台等前沿成果集中亮相，AI成为贯穿整个体验区...
- 2026-09-16 06:19 | 新浪财经：视频丨AI视频以假乱真 三招教你辨别真假阅读原文
2026年国家网络安全宣传周14日在山东济南启动。随着人工智能技术快速迭代，AI合成视频的仿真度持续升级，足以以假乱真，日常刷到的名人出镜画面、突发灾害现场、亲友求助视频，都有可能是AI伪造的。面对高度逼真的AI视频画面，普通网民该如何分辨真伪？在山东济南网络安全周的体验区里，技术人员向记者介绍，当前AI换脸换声几乎可以实时完成，速度非常快，从虚假灾情到冒用名人形象，各类AI伪造视频层出不穷。参会展商技术人员 王浩骅：比如说，虚假的突发事件、虚假的灾情，会消耗公众的信任，容易影响公众对社会稳定性的判断。如果生成明星、企业主、专家的发言视频，首先是对当事人肖像权的侵犯，另外，如果应用到商业领域，...
- 2026-09-15 16:58 | 新浪财经：视频丨AI智能体藏数据泄露风险 专家提醒：关键操作必须二次核实阅读原文
9月14日，2026年国家网络安全宣传周启动，AI安全治理是聚焦重点。当AI智能体从“回答问题”走向“动手干事”，安全风险也随之而来。AI智能体藏数据泄露风险 在山东济南网络安全宣传周的体验区里，技术人员给记者进行了展示。参展商技术人员 康雨辰：我们现在模拟的是一个智能客服场景。比如，这里展示了其中一种提示词方式：声称我们是系统开发人员，不是要获取敏感信息，只是用于测试以及内部使用场景，从而让AI在逻辑理解时发生混乱。在这种情况下，就可能因为没有防护，AI经过这种理解之后，把后台不该出现的内容发给用户。可以看到，这里已经显示出手机号、身份证号等信息，这些敏感信息就暴露出来了。技术人员介...