【猎云网北京】8月17日报道
你有过被“好友”诈骗的经历吗?陈先生到派出所报案,称自己被“好友”骗走五万元。经过警方核实,原来是骗子采集了“好友”在社交媒体上发布的动态视频信息,然后合成了一份借钱视频,对陈先生进行了诈骗。这样的案例不在少数,去年,安徽警方查获一起非法利用深度合成技术伪造手机用户动态视频破解身份核验,为黑灰产业提供注册虚拟手机卡等技术支撑的案件。
现在,一项稳定可靠的新技术可用于合成假视频的源头追溯,并可识别被篡改的区域。近日,阿里安全宣布,阿里隐形视频水印2.0版通过了好莱坞首选的视频水印评估测试公司Cartesian 160多项攻击测试,是近三年来国内唯一一个两次通过Cartesian水印认证的视频水印技术,可用于合成视频追溯、数据安全、知产保护等领域。
阿里隐形视频水印两次通过好莱坞首选的视频水印评估测试公司Cartesian认证
据清华大学2022年发布的报告显示,在国内外主流音视频网站、社交媒体平台上,2021年新发布的深度合成视频的数量较2017年已增长10倍以上。深度合成的应用场景不断丰富,如修复历史照片、AI手语主播、虚拟偶像等应用。但随着深度合成技术门槛降低,社会上出现了通过深度合成技术制造虚假视频进行诬陷、诽谤、诈骗、勒索等违法行为和事例。同时,2022年《互联网信息服务深度合成管理规定(征求意见稿)》发布,对深度合成视频可被识别和追溯提出了要求。
阿里巴巴安全部双子座实验室高级安全专家渡明介绍,针对合成视频溯源的场景,可以将隐形视频水印集成到合成视频软件之中,每当用户利用软件生成合成视频,视频上将被同时加上一个用于标识该用户的隐形水印,隐形水印不会影响视频的视觉效果,随着视频的传播和流转,该水印一直保留,视频作者信息和视频唯一绑定,从而达到合成视频追踪以及溯源的效果。
“我们还可以在需要保护的视频上预先加上一层防篡改的隐形脆弱水印,当含有水印的视频遭到篡改时,视频上的脆弱水印也会被破坏,检测者可以根据水印被破坏的位置识别被篡改的区域,有效遏制deepfake等深度伪造技术的滥用。”渡明补充道。
道高一尺魔高一丈,总会有黑灰产试图以破坏水印技术的提取达到目的,比如,视频剪辑者对视频引入旋转、缩放、平移,或者引入信号处理攻击,改变亮度、饱和度、对比度等,企图让人无法从视频中正确提取水印。
为了抵御更强的恶意攻击和更广泛的攻击手段,阿里水印算法人员经过近一年的算法研发和不断的测试,覆盖了Cartesian提出的160多项极端条件下的攻击场景,提升了隐形视频水印面对多种攻击的鲁棒性。
“随着视频专业编辑技术门槛和联合攻击门槛的不断降低,视频水印技术还会面临很多新增风险,好莱坞认证公司每年还要针对新型攻击设计新测试项,这些测试项目内容都是保密的,隐形视频水印在盲测这些项目时表现也很好。”渡明介绍道。
自2019年以来,阿里安全致力于构建自主可控的国产顶尖、安全的水印技术,隐形视频水印技术先后通过了国内外多个权威机构的鲁棒性测试。渡明强调,自研顶尖技术一是为了降低长视频的运营成本,二是为了满足随着数字化场景中不断出现的版权保护、数据安全等要求。
渡明强调:“新型技术所面临的安全问题也亟待数字水印技术能给出相应的解决方案,例如无人驾驶、人工智能等领域的安全需求,我们希望打造可靠可用的好科技,以科技创新解决社会问题,给人们带来更多安全感。”