杭州市中级人民法院公布一起利用AI生成动态视频突破购物平台人脸核验、盗取个人信息的案例。天翼安全高级专家危嘉祺就此接受采访，指出AI已能生成逼真动态人脸视频并绕过活体检测，但人脸识别仍有价值；强调应依法治理、多方协同，从监管和技术层面构建动态攻防体系，推动分级分类安全要求与红队测试。
10月18日凌晨，演员吴越在微博发文怒斥账号“花姐美肤日记”利用AI换脸、AI合成声音假冒其本人直播带货，并附相关视频。澎湃新闻记者从微信团队获悉，该账号已被永久封禁、内容清空不可见。
10月18日凌晨，演员吴越在微博发声，痛批某自媒体账号用AI伪造她的形象与声音，打“吴越同款、明星推荐”旗号卖护肤品。她要求对方退还全部不当收益。值得留意的是，该账号发布的视频虽标有AI生成字样，却依然误导消费者，此前还曾用同样手法给邓亚萍“带货”。看到这类视频，用户可点击举报并保留证据，避免上当。
三星宣布与深度伪造检测公司Reality Defender合作，开发面向企业用户的端侧AI深度伪造检测方案，直接在Galaxy设备本地运行，识别AI生成的虚假语音、视频和图像，计划率先落地新加坡市场，并借助Knox安全平台提供保护，具体上线时间和支持机型尚未公布。
意大利总理梅洛尼向欧盟知识产权局提交申请，将其声音注册为商标，以防范AI生成的深度伪造。申请材料包含一段4秒录音，内容为她用意大利语说“Io sono Giorgia Meloni”。此举正值各国政府与公众人物应对AI语音图像伪造技术快速扩散之际。