新闻动态 > 媒体报道

网信办约谈 “深度伪造”已成新兴网络威胁

2021/03/19

近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。


近两年,深度伪造,即deepfake不断登上新闻头条,成为一种主要的新兴网络威胁:

比如“假靳东”事件,仅靠合成的语音和视频就能演变成现象级诈骗;比如2017年,有人制作发布了奥巴马的deepfake演讲视频,引起全球风波;甚至连美国安全专家都曾发出警告,称DeepFake可能成为对下届美国总统大选造成影响的最有威胁的人工智能技术之一。

图片9.jpg

△国外可自动生成特朗普声音的网站

《人工智能时代数字内容治理机遇与挑战》报告中也指出,如今数字内容深度伪造正威胁社会稳定。政治或经济利益驱动下的内容造假,大范围地广泛传播或是针对特定人群的精准推送,将恶化数字内容质量,破坏信息传播秩序,甚至催生或煽动社会极化情绪, 诱发各种社会问题。

深度伪造是一种技术手段,所以要对这些数字内容进行治理,必须拥有“魔高一尺,道高一丈”的AI反制技术——鉴伪技术

据悉,联合国区域间犯罪与司法研究所人工智能与机器人中心开始研究检测虚假视频的技术;

美陆军作战能力发展司令部也在积极研发基于云的“VICE”视频识别系统和基于服务器的“VIBES”语音识别系统,防范深度伪造;

国内目前各大厂商正在全速布局相关领域,远鉴就已经掌握了优秀的声纹鉴伪技术,并将其应用于多媒体音视频分析与处理,帮助合作伙伴有效对多媒体信息进行监控及关联,完善风险防控机制和措施,对语音、视频、图像等多媒体信息全方位作业。

远鉴的声纹鉴伪技术通过提取声音多尺度频域信息特征,再结合多算法融合分类与判决等技术,能够对语音产生的真实性、来源真实性等多个维度进行考量和分析,有效防止人声模仿、语音合成、录音回放、声音转换等行为,达到防范“深度伪造”的目的。在利用来源于多家语音合成平台的数据进行多次检测后,远鉴的检测准确率高达98.7%,效果相当理想。

图片10.jpg

其实除了深度伪造的风险,直播、短视频等音视频社交平台还存在着很多潜藏的风险——比如人工审核团队审核不及时、一人多马甲管理难、违规代播发现难等等问题。音视频处理与分析能力已经成为了此类应用重要的博弈砝码,优秀的技术能力能帮助应用更好的鉴别违法违规信息、保护优质内容、大幅提升用户体验度。

人工智能时代,数字内容治理的机遇与挑战将长期并存,技术既可以用来伪造视频、图像等内容,也能成为辨别虚假内容的“火眼金睛”。只要及时布局防御技术,加速相关技术研究,就无需恐慌,AI赋能数字内容产业繁荣发展才是大势所趋。

热门新闻