应对生成式造假风险，文档图像篡改检测标准启动制定 天天热议

(资料图片)

文档图像是信息的重要载体，却经常被不法分子利用软件、算法进行篡改并用于散播谣言、经济诈骗、编造虚假新闻等，给个人、社会造成了恶劣的影响。AIGC（生成式人工智能）全球爆火后，人们对“生成式造假”风险的攀升倍感忧虑，图像内容的安全与可信性也成为公众关注的焦点。中国信息通信研究院（以下简称“中国信通院”）近期启动《文档图像篡改检测标准》制定工作。该项标准由中国信通院牵头，上海合合信息科技股份有限公司、中国图象图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合编制。

《文档图像篡改检测标准》将为文档图像内容安全提供可靠保障，助力新时代AI安全体系建设。标准制定牵头方中国信通院相关负责人介绍，《文档图像篡改检测标准》将基于产业现状，围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题，凝聚行业共识，以期为行业提供有效指引。

随着技术的发展和电子设备普及率的提升，人们修改图像的门槛变得越来越低，以往图像内容加工需要使用专业的软件，现在通过某些平台或者软件，动动手指即可产出一张虚假图片，数字图像的原始性和真实性面临严峻挑战。此前，图像篡改检测的技术研究对象主要集中于自然场景图像。然而，真正为人们的生活带来风险的通常是被篡改的资质证书、文档、聊天截图等。

业内人士介绍，传统的检测系统往往难以对这些文档图像进行篡改判定及修改内容定位，主要原因如下：一方面，真实场景中的篡改方法多样、篡改视觉痕迹细微，对篡改检测方案提出了挑战；文档版面的复杂化、文本内容的多样化亦成为图像内容检测识别过程中的“拦路虎”，加大了篡改检测实施的难度。此外，传统的图像篡改检测方法在面对全局性的裁剪、调色处理以及组合式造假手法时，其检测覆盖面、精准度、安全性尚存在提升空间，需要政府、研究机构、企业等多方主体联合起来，通过建立技术规范标准，助力AI视觉图像产业健康成长。

据标准制定参与方合合信息相关负责人介绍，其团队研发了基于深度学习的图像篡改检测技术及相关系统，可检测出多种篡改形式，智能捕捉图像在篡改过程中留下的细微痕迹，并以热力图的形式展示图像区域篡改地点，相关技术已被应用于银行、保险等行业中。

流程编辑：U016

关键词：