图说：合合信息图像篡改检测技术对户口本图片篡改痕迹进行定位 采访对象提供

文档图像是信息的重要载体，却经常被不法分子利用软件、算法进行篡改。这些虚假材料往往被用于散播谣言、经济诈骗、编造虚假新闻，给个人、社会造成了恶劣的影响。AIGC全球爆火后，人们对“生成式造假”风险的攀升倍感忧虑，图像内容的安全与可信性也成为了公众关注的焦点。

(资料图片仅供参考)

为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务管理》等文件中对于AI服务的规范性要求，系统性建立图像内容安全行业发展秩序，中国信息通信研究院（以下简称“中国信通院”）启动了《文档图像篡改检测标准》制定工作。该项标准由中国信通院牵头，上海合合信息科技股份有限公司、中国图象图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合编制。

《文档图像篡改检测标准》将为文档图像内容安全提供可靠保障，助力新时代AI安全体系建设。作为牵头方，中国信通院表示，《文档图像篡改检测标准》将基于产业现状，围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题，凝聚行业共识，以期为行业提供有效指引。

图像篡改风险近在咫尺，标准出台迫在眉睫

随着技术的发展和电子设备普及率的提升，人们修改图像的门槛变得越来越低，以往图像内容加工需要使用专业的软件，现在通过某些平台或者软件，动动手指即可产出一张虚假图片，数字图像的原始性和真实性面临严峻挑战。

此前，图像篡改检测的技术研究对象主要集中于自然场景图像。然而，真正为人们的生活带来风险的通常是被篡改的资质证书、文档、聊天截图等。传统的检测系统往往难以对这些文档图像进行篡改判定及修改内容定位，主要原因如下：

一方面，真实场景中的篡改方法多样、篡改视觉痕迹细微，对篡改检测方案提出了挑战；文档版面的复杂化、文本内容的多样化亦成为图像内容检测识别过程中的“拦路虎”，加大了篡改检测实施的难度。

此外，传统的图像篡改检测方法在面对全局性的裁剪、调色处理以及组合式造假手法时，其检测覆盖面、精准度、安全性尚存在提升空间，需要政府、研究机构、企业等多方主体联合起来，通过建立技术规范标准，助力AI视觉图像产业健康成长。

图像内容安全成为“可信AI”未来重点建设方向

AI是一把“双刃剑”。中国信通院发布的《可信人工智能产业生态发展报告（2022）》提到，可信已成为人工智能产业发展必备要素，驱动人工智能规范发展。

“可信”反映了AI系统、产品和服务在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度，相关概念正随着技术发展的脚步，从模糊走向清晰、从起步走向成熟。今年以来，以语言生成类、视觉生成类模式为代表的AIGC产品引发了社会对于图文内容“可信度”问题的讨论。《文档图像篡改检测标准》的制定，或将为中国“可信AI”在机器视觉、图像处理领域的体系建设提供有力支持。

利用科技手段实现文本篡改痕迹精准检测，将为文档图像内容安全提供可靠保障，助力新时代AI安全体系建设。在图像内容安全领域，已有部分企业展开了前沿探索，利用科技手段对篡改文本图像实行真伪判定、篡改痕迹检测，人工智能科技企业合合信息是其中的代表。

据悉，合合信息研发了基于深度学习的图像篡改检测技术及相关系统，可检测出多种篡改形式，智能捕捉图像在篡改过程中留下的细微痕迹，并以热力图的形式展示图像区域篡改地点，相关技术已被应用于银行、保险等行业中。

新民晚报记者 金志刚

标签