作者：
吕倩
10 月 12 日，青岛保时捷女销冠牟女士在个人微博账号晒出青岛市公安局李沧分局行政处罚决定书，并配文称，「网络不是法外之地，一切都有迹可循。」
事件起因据牟女士 11 日在微博描述：近期，网络上出现大量利用 AI 技术恶意合成的虚假视频以及与面部侧脸局部相似的不良视频，对牟女士进行诽谤与侮辱，甚至肆意传播，泄露其电话及微信号，已对个人正常生活造成严重影响。牟女士严正声明：所有相关内容均为伪造，已委托律师完成证据固定，并于 10 日晚向公安机关报案，启动法律程序追查到底。同时悬赏征集传播者证据。
12 日牟女士发布的青岛市公安局李沧分局行政处罚决定书，主要是对违法行为链条中传播者丁某的处罚决定。决定书内容显示，2025 年 10 月 10 日丁某在一微信车友群内转发牟女士照片图文并搭配不雅视频，对其侮辱，后被查获。根据 《中华人民共和国治安管理处罚法》 第四十二条第二项规定，给予丁某行政拘留五日的行政处罚。
违法行为人丁某在 11 日写下悔过书，承认自身错误并向牟女士道歉。但牟女士报案并启动法律程序追究所有涉案人员民事及刑事责任，直接进行 AI 合成图文与视频的违法者暂未抓获。牟女士表示，相关案件已正式进入司法程序，交由警方依法处理。
国内 AI 行业监管范畴内，AI 合成内容治理已走出 「原则倡导」 阶段，进入 「法治化+标准化+技术落地」 的深水区。据公开信息，2024 年 9 月 14 日，国家互联网信息办公室发布 《人工智能生成合成内容标识办法 （征求意见稿）》，要求人工智能生成合成内容标识包括显式标识和隐式标识。
北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括表示，内容标识是目前关于人工智能内容治理中的一种非常重要的机制设计，它对于避免深度伪造带来的安全风险有非常大的价值，且通过标准的统一也有助于引导各方的业务规则、业务设计和业务模式，对于全链条的风险防范具有非常重要的作用，也能有助于公众识别 AI 内容的真伪和权威性。
今年 9 月 1 日起，《人工智能生成合成内容标识办法》 与国家市监总局、国家标准委于 2025 年 2 月 28 日发布的强制性国家标准 《网络安全技术人工智能生成合成内容标识方法》 均正式施行。抖音、快手、腾讯、微博、B 站等平台均在当天或提前发布公告，上线 「显式+隐式」 双重标识功能，并配套限流、下架、封号等处置措施。
北京市竞天公诚律师事务所认为，《标识办法》 从宏观管理角度规定了提供人工智能生成合成服务的网络信息服务提供者、提供网络信息内容传播服务的服务提供者、互联网应用程序分发平台、用户等主体在生成合成内容中添加、检测显式标识和隐式标识等方面的主要义务，构建了标识管理的基础架构体系；《标识方法》 旨在通过统一的、具体的技术标识规范，解决生成合成内容与真实信息的边界模糊问题，遏制技术滥用对公共秩序和个体权益的侵害。另外，《标识办法》 和 《标识方法》 首次使用了 「人工智能生成合成内容」 这一表述，标志着我国生成式人工智能标识管理迈入系统化、精细化的新阶段。
在上述治理举措基础上，目前行业内 AI 合成乱象仍呈 「禁而不绝」 状态，原因包括多方面：AI 技术门槛大幅下滑；内容平台 「先发布后过滤」 的审核机制给违法行为留存机会时差；标识与水印可通过批量擦除、裁剪等形式去除。
当 「一键换脸」 就能换来真金白银，「去标裁剪」 只需动动手指，违法成本与暴利收益之间的杠杆迅速失衡，导致 「名人换脸+直播带货」、AI 仿造知名医生宣传药品等灰色产业链泛滥。AI 合成内容治理仍需持续优化，包括技术上提升水印鲁棒性 （被攻击时不易失效）、立法上提高惩罚强度、平台层面提升审核效率与前置审核责任等。
（第一财经）
文章转载自东方财富