【TechWeb】7 月 4 日消息，随着 AI 技术获得的门槛变低，一些黑灰产也瞄准了 AI 新型诈骗手段，为社会带来了安全隐患。为了唤起公众对 AI 安全的认知，联合行业对抗 AI 风险，并真正为行业提供鉴真辨伪的工具产品，蚂蚁研发了 AIGC 和深度伪造的鉴真产品，并在 2024 世界人工智能大会上首次展出。
「多模态 AI 鉴真」 是模拟蚂蚁大模型安全检测平台 「蚁天鉴 2.0」 的 AIGC 检测和证照深度合成检测两大能力推出的互动产品。观众可选择证照、音频、视频等多样化素材，该互动会先对这些素材做一番伪造模拟生成。之后，该产品能对上述伪造的素材快速进行精准鉴别，并形成检测报告。在真实的生产场景，蚁天鉴 AI 鉴真解决方案，支持多模态内容真实性和深度伪造检测，防范深度合成技术滥用风险，图像识别准确率 99.9%，达到信通院测评行业最高优秀级别，已经具备了引领性的 AI 安全对抗能力。
在 「谍影重重」 互动装置前，观众还可用一场情景剧的方式打开深度伪造 （Deepfake） 的攻防 「魔盒」。首先，用户在该装置上传一张照片，可通过 AI 换脸合成一张新的人脸照片。下一步，可使用合成后的照片甚至视频去刷脸，该互动能够鉴别出该照片或者视频是否是 AI 合成，进而阻止风险行动。这一套装置背后，是蚂蚁数科安全科技品牌 ZOLOZ 搭建的端云一体的技术体系。「Deepfake 攻和防是一个相对且不断精进的过程，你在进步，Deepfake 也在进步，我们要做的就是跑在它的前面」，蚂蚁工作人员表示。
蚂蚁集团认为，大模型从智能涌现到应用涌现实现人人可得，需要布局关键技术，用以解决大模型的可信、经济、易用三大难题。本次会展中，蚂蚁展区展示了应对大模型大规模应用背后的系列关键技术。
大模型可信应用是指在面向专业领域 （如金融、医疗等） 应用时，构建一个以大模型为核心的专业智能服务体系。该体系应确保应用的专业性、真实性、可控性和安全性，以满足专业领域的高标准要求，可通过专业知识库、智能体、知识图谱、运筹优化等技术来实现。本次大会入选 SAIL TOP30 奖的 「智能认知决策技术与平台」 便是关键技术成果。
