在本次世界人工智能大会上，合合信息首次展示了“无限扫描”“AI鉴伪”等多项黑科技，致力于解决多模态大模型在图像、视频语料处理中面临的清晰度及信息伪造问题，为大模型高效、安全发展带来了新的想象空间。
从PS图像处理软件到大模型生成，AI让图像、视频等内容生成的手段愈发简单，也让篡改的形式更隐蔽，载体更多样。2022年，合合信息在行业内率先推出了PS篡改检测技术。面对持续升级的AI安全挑战，合合信息不断更新迭代AI鉴伪技术，实现了从静态图像到多模态信息鉴伪的技术跨越。
在本次大会上，合合信息展示了AI鉴伪技术在人脸视频、AIGC生成图像、证件票据等当今AI伪造“重灾区”中的应用体验，帮助公众了解AI如何通过视觉特征判断、图像合理性判断、多维度交叉验证，精准洞察多模态语料数据中“看不见”的伪造痕迹，为大模型安全、可信发展筑起“净化防线”。
在合合信息AI安全展台互动区，观众正在体验一场“真假人脸”的科技较量。站在屏幕前扫描面部，系统就会实时生成一个“数字假面”，当真假人脸同屏对比时，不少观众惊讶地发现，AI伪造面容近乎完美地复刻了真实人脸的表情纹路。展会互动装置中实时生成的“假脸”，由当前主流伪造算法之一“ROOP算法”生成，在合合信息AI人脸鉴伪模型的解析下，一张张“假脸”被精准挑出。
据合合信息技术团队成员介绍，目前合成人脸的技术手段多样复杂，传统的检测技术在应对新出现的人脸伪造算法时往往“有心无力”。针对不同的人脸篡改形式，团队基于大规模数据训练，形成了多层次AI篡改检测方案。例如，应对人脸图像交换伪造，合合信息AI人脸鉴伪模型能够锚定人眼不可见的高级视觉差异，为每一个像素打上真伪标签并计算伪造像素占比，为图像真伪概率“打分”。此外，面临形式更多变的伪造情况，例如由伪造算法直接生成的复杂图像。团队采用了多种神经网络模型，聚焦于图像特征，实现多维度交叉验证真伪，让判断结果更精准。
检测速度是实际应用场景下的另一大强需求。目前制作一张“假脸”只需几秒钟，诈骗团伙利用工具进行批量换脸，用“规模化攻击”寻找“AI安全防御漏洞”，使得成千上万的“数字假面”如病毒般弥散在社交平台、金融系统甚至公共安全领域。合合信息人脸鉴伪模型可对人脸视频实现毫秒级实时鉴定，大幅提升篡改检测效率，具备泛化能力强、检测准确率高的技术优势，在银行身份核验、远程开户、大额交易验证等泛金融场景具备广泛的应用前景。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
暂无评论...