每经编辑｜陈柯名 潘海福
刚刚，抖音集团副总裁李亮发文：今年一季度我们发现平台出现大量利用 AI 仿冒 「于东来」 语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。封禁这 1000 多个黑灰产团伙账号的同时，我们还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15 万元。AI 带来技术进步的同时也被很多黑灰产盯上，针对这些滥用 AI 的行为抖音一直在重点治理。对于相关违法违规内容，欢迎大家共同监督。
随后，抖音黑板报转发响应：如果发现违规账号和内容，可以通过以下方式举报，我们会第一时间核实处理。1、点击视频转发按钮，在 「举报」 中选择 「AI 生成内容问题」 进行举报；2、发送详情至举报邮箱：feedback@douyin.com。
此前，有商家用 AI 仿冒运动员及其家人带货、利用 AI 虚假宣传，抖音采取下架、清退措施。
胖东来此前发文追责
2025年2月，胖东来商贸集团发布 「胖东来关于侵权行为的处理公示(四)」，称目前网络和实体经营中出现大量利用胖东来名义的各种侵权行为。公示第二条明确指出，胖东来在网络平台发现个别商家，通过AI仿冒于东来先生声音，利用于东来先生肖像博取流量热度，使得相关公众误以为该产品来自胖东来超市，以此进行牟利，此行为不仅侵犯了于东来先生肖像权，也涉嫌虚假商品宣传，胖东来法务正在通过法律途径进行追责和维权，最大限度的防止大家被误导。
图片来源：视觉中国
而在更早的2024年11月，胖东来商贸集团就曾发布声明，称公司在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或公司享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。
声明明确表示，「前述行为已侵犯了于东来先生的人格权及著作权，对公司品牌形象造成消极影响。」
胖东来表示，对于此类未经授权，擅自利用AI技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序，表示严厉谴责！严正警告存在上述行为的账号立即停止侵权行为！对于为博取网络关注、获取流量而严重侵犯于东来先生及公司合法权益的，将坚决采取法律措施追究其法律责任！
典型 AI 内容滥用案例
9 月 2 日，抖音电商安全与信任中心发布了关于加强治理 AI 内容滥用的公告。公告称，平台已对违规视频和账号采取下架、清退等措施，并强调 AI 应用必须合规，任何误用、滥用行为将被严厉打击。
抖音电商近期发现，少数商家和达人存在滥用或误用 AI 技术的情况，甚至借助 AI 生成误导内容，损害消费者合法经济权益，扰乱平台正常交易秩序。
具体表现如下：
少数商家利用 AI 技术生成虚假商品展示、夸大不实的功能宣传内容，误导消费者购买，造成用户财产损失。
利用 AI 生成虚拟人物冒充真实身份，冠以权威专家、名人的虚假人设进行带货，损害消费者信任，违规变现。
在商品详情页、直播间使用 AI 生成的虚构测评、编造使用体验，刻意制造虚假口碑，影响消费者理性判断。
以下将通过典型 AI 内容滥用案例，帮助各位商家及达人理解平台的电商 AI 内容治理规则：
典型违规案例一：
AI 仿冒名人带货
少数视频创作者利用 AI 仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。例如，有账号合成某知名运动员父亲、哥哥的声音，并使用相同文案称 「家里要盖新房」，借此博取流量。在这些 AI 合成视频中，往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者下单。目前站内已及时处置相关视频，也呼吁广大创作者尊重名人肖像权，共同维护平台的营商环境。
合规解析：创作者不得利用 AI 生成虚拟人物或仿冒社会名人、特定专业身份 （如军警等），进行带货变现，或通过卖惨方式违规营销。
典型违规案例二：
生成违背常识的 AI 内容
创作者利用 AI 创作不符合现实或不存在的商品内容，甚至夸大商品大小、量产等，涉嫌虚假宣传。如，少数创作者在直播间利用 AI 展示樟树港辣椒丰收的场景，辣椒的数量、分布和植株生长规律完全不符合现实农业，并在口播中夸大种苗的量产，误导消费者下单。
合规解析：创作者不得利用 AI 生成违背常识、虚构编造等内容，如与农业现实完全违背的内容等。
典型违规案例三：
AI 内容与售卖商品完全无关
少数视频创作者利用 AI 制作与售卖商品完全无关的内容，从而吸引消费者关注。如，创作者实际售卖产品为硫磺润肤露，但利用 AI 更改各地方新闻报道画面作为素材吸引用户关注后，讲解推销相关商品。
合规解析：创作者不得使用与商品无关的虚假或误导性素材，如篡改新闻报道为虚假商品测评等来吸引关注。
典型违规案例四：
缺少 AI 自主声明
少数视频创作者未主动添加 AI 视频声明。
合规解析：用户发布 AI 生成的内容时，需自主声明，不做自主声明，平台会根据规则进行识别和治理。
此前据界面新闻报道，《人工智能生成合成内容标识办法》9 月 1 日正式生效。
微博：对识别到的 AI 生成内容添加隐式标识及显式标识
微博发布公告称，站方依据 《办法》 要求，通过升级产品功能及技术识别手段，对平台内识别到的的 AI 生成内容依规添加隐式标识及显式标识。
微博还在公告中表示，如用户发表的文本、图片、音视频等内容由人工智能生成合成，用户应在 「选择内容声明」 功能栏中选择 「内容由 AI 生成」。站方在用户自主声明的基础上，还在投诉侧增加 「未添加 AI 标识」 投诉分类，如发现平台用户发布的微博内容包含 AI 生成内容但未进行 AI 内容标记声明，可以选择此分类进行投诉。
快手：已上线 AI 内容标识
快手发布公告称，平合已上线 AI 内容标识，会在 AI 生成的内容中添加 「AI 生成」 显式标识以及嵌入文件元数据中的隐式标识。如果用户上传的内容明确由 AI 生成或疑似由 AI 生成，平台会在内容周边进行显著提示。
抖音：升级 AI 内容标识功能
抖音发布 《关于升级 AI 内容标识功能的公告》，进一步规范平台上的 AI 内容创作与传播。《公告》 显示，抖音已上线两项核心功能：一是 AI 内容标识功能，协助创作者为 AI 内容添加提示标识，方便用户辨别；二是 AI 内容元数据标识读写功能，可识别并写入 AI 内容的元数据信息，为内容溯源提供技术支撑。
编辑|陈柯名 潘海福
校对|程鹏
封面图来源：视觉中国
每日经济新闻综合自抖音黑板报、抖音电商安全与信任中心、
中新经纬、界面新闻等
文章转载自 每经网
