当地时间 11 月 6 日，巴菲特执掌的伯克希尔公司声明称，优兔上传播的巴菲特评论视频系 AI 伪造。巴菲特担忧此类欺诈视频误导大众。如今，「深度伪造」 内容快速传播，预防和阻止其误导大众成难题。国内外不少学者、名人成 AI 假视频受害者。面对 AI 滥用乱象，中央网信办已启动整治工作，我国多部法律法规也对 AI 内容规范提出明确要求。
每经编辑｜杜宇
据央视财经，当地时间 11 月 6 日，美国著名投资人巴菲特执掌的伯克希尔-哈撒韦公司发表声明，紧急澄清视频平台优兔上传播的几段关于巴菲特发表评论的视频，是用人工智能伪造的 「欺诈性视频」，并非巴菲特本人录制。
图片来源：央视财经
6 日，伯克希尔-哈撒韦公司在其网站上发表声明称，巴菲特注意到，优兔上传播着几段关于巴菲特发表评论的视频，并配有伪造图像或人工智能生成的图像。一般来说，这类视频图像可能看起来像是巴菲特，但模仿者声音单调，显然不是巴菲特的声音。巴菲特担心，这类欺诈性视频正在成为一种蔓延的病毒。因为，不熟悉巴菲特的人可能会认为这些视频是真的，并被这些视频的内容误导。自 5 月伯克希尔股东大会以来，巴菲特很少公开发表评论。
出生于 1930 年的巴菲特，是全球著名的投资家。1957 年，他成立巴菲特投资俱乐部，后于 1965 年收购濒临破产的纺织企业伯克希尔-哈撒韦公司，并通过卓越的投资决策，将其逐步转变为全球最具价值的投资控股集团之一。
如今，利用生成式人工智能制造的虚假图片、音频和视频信息等 「深度伪造」 内容正在快速传播，被用来骚扰他人、诈骗金钱，甚至干扰选举。业内分析人士指出，如何预防和阻止 「深度伪造」 内容误导大众，已成为摆在各国政府和科技巨头面前的难题。美国目前在联邦层面没有旨在控制人工智能风险的法规。上个月，加州州长纽森签署一项监管人工智能聊天机器人的法案，要求聊天机器人运营商在用户与人工智能聊天机器人互动方面提供 「关键」 保护措施，如确保聊天机器人不与未成年人或其他弱势群体谈论自杀等话题。
图片来源：视觉中国
事实上，不只是巴菲特这样的投资大师深受 AI 伪造视频之苦。在国内，也有不少学者、名人等成为 AI 假视频的受害者。
今年 3 月，据央视财经报道，网络上曾出现中国工程院院士张伯礼为某美白护肤品做宣传的视频。但张伯礼本人表示，这些内容全是假的，「我从来没用过这个护肤品，我也没做过这方面的宣传，更没研究过，所以里边完全是编造的。」
据界面新闻，近日，演员温峥嵘被 AI 盗播带货的新闻受到诸多关注。她自曝刷到 AI 盗播自己的直播间，上前质问竟被拉黑，以至于 「我现在很难证明我是我。」
对此，抖音集团副总裁李亮 11 月 6 日在社交平台发文称，经核查后发现，被曝光的 「三个直播间同时开播」 案例并非发生在抖音平台。经过与相关方联系，并根据投诉线索核查，发现平台上确实存在一些利用 AI 仿冒名人带货的短视频内容。
李亮还表示，这类 AI 侵权仿冒行为，严重损害了创作者、商家及平台在消费者心中的信誉，不符合平台的长期利益，平台非常重视并开展专项治理工作。AI 内容侵权识别是行业性技术难题，恶意仿冒账号也在不断与平台进行技术对抗，公司会持续加大投入应对挑战，维护创作者、商家和消费者的合法权益。
面对乱象，中央网信办于今年 6 月启动了 「清朗·整治 AI 技术滥用」 专项行动第二阶段工作，重点整治 7 类突出问题，包括利用 AI 制作发布色情低俗内容，利用 AI 假冒他人实施侵权违法行为。
我国已有多部法律法规对 AI 内容规范做出了要求，例如，网络安全法第 22 条和 《生成式人工智能服务管理暂行办法》 第 9 条及第 11 条对个人信息保护作出了明确要求；《互联网信息服务深度合成管理规定》 第 6 条禁止任何组织和个人利用深度合成服务侵犯他人合法权益等，第 10 条要求深度合成服务提供者必须采取技术或人工方式，对输入数据和合成结果进行审核。
9 月 1 日起施行的 《人工智能生成合成内容标识办法》 则对标注进行了更加清晰的指引。该办法强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益。
每日经济新闻综合央视财经、界面新闻、公开资料
封面图片来源：央视财经
文章转载自 每经网
