诞生之初，Deepfake是一项有趣的图像处理技术，仅（jǐn）仅带来搞笑和娱（yú）乐视频，但殊不知，潘多拉魔盒（hé）就此（cǐ）被打开（kāi），催生出 黑产、恶搞（gǎo）政客“操纵”民意，Deepfake正逐步进化为一种（zhǒng）新（xīn）型“病（bìng）毒”，人（rén）类伦理道德的“遮羞（xiū）布”也被无情揭开（kāi）。

portant;" />

图：Saturday Night Live中凯（kǎi）特（tè）·麦金农换脸（liǎn）伊丽莎白·沃伦

面（miàn）对因新（xīn）技（jì）术（shù）而引（yǐn）发的（de）公众恐慌，相关（guān）监管机构也加快采取行动，出台“打（dǎ）假”策略，旨在打击（jī）Deepfake虚假音视频（pín），控制“造（zào）假病毒”的传播。同时，国内也迎来（lái）了“最严数据（jù）管理”的一（yī）年。

11月29日，中（zhōng）国国家网信办也正（zhèng）式发布《网络音视（shì）频信息服务管理规定》，指出自（zì）2020年1月1日起，AI造假视频不得随意发布。新（xīn）规定中关于AI造（zào）假音视频的规定主要有四条：“按照国家有关（guān）规定开展安（ān）全评估”、“以显著方式予以标识”非真实（shí）音频信（xìn）息、不得利用AI造（zào）假技术发布虚假新闻、部（bù）署AI造假音视频鉴别技术和健（jiàn）全辟谣机制等。

新规中不难发现（xiàn），有（yǒu）效抑制Deepfake及类（lèi）似造假需（xū）要“两（liǎng）手抓”，除了利用（yòng）法（fǎ）律（lǜ）法规严控“别有用心者”作（zuò）恶（è），更要从源头加（jiā）强（qiáng）安全评估、鉴别技术等能力（lì），借助技（jì）术手段提前布局，在检测方面领先一（yī）步（bù）。

近日，来自清（qīng）华大学的人（rén）工智能企业——RealAI正（zhèng）式发布了一款深度（dù）伪造视频检（jiǎn）测工具，可一键实现（xiàn）对深度伪（wěi）造(Deepfake)视频的自动精准识别（bié）。

一、 一键（jiàn）换脸到一键“打假”

RealAICEO田天（tiān）表示，尽管需求达成一（yī）致，但目前（qián）大（dà）规模应用（yòng）的（de）打假方（fāng）法（fǎ）面临（lín）诸多困难。

首先，Deepfake的（de）开（kāi）源技术让AI换脸的使用门槛降低到手（shǒu）机美（měi）颜、P图的水平，一键（jiàn）换脸带来了“造（zào）谣”成本的（de）降（jiàng）低（dī）、爆炸式的传播。可是在（zài）防御层，相应标准化（huà）的检测工具却几乎没（méi）有，人工鉴别不仅专业（yè）性要求高，且效率低。所以，无论对（duì）于个人（rén）、平台还是第（dì）三方（fāng）机构而（ér）言（yán），打（dǎ）假辟谣（yáo）的时间窗（chuāng）口很短（duǎn），难度却（què）很高。

portant;" />

图：雷佳音（yīn）(左)换脸郭德纲（gāng）(右)

另外，更严重的问题（tí）在于，很多情况下，Deepfake“以假乱真”的（de）程度（dù）极（jí）高，人（rén）眼难以察觉。加之其算（suàn）法（fǎ）目前还无法建模分（fèn）析（xī），检测技术（shù）的研究被严重影响，而（ér）造假方的适应速度却很快，新技术（shù）日益迭（dié）代。

RealAI基于第三代AI技术推（tuī）出的深度（dù）伪（wěi）造（zào）视（shì）频检测产（chǎn）品，通（tōng）过采（cǎi）用“数据增（zēng）广”的方式，用伪造的视频训（xùn）练出一个新的（de）模（mó）型，从而让模型（xíng）能够更好（hǎo）识别出（chū）伪造痕迹（jì），分辨出造假视频，可谓“魔高一（yī）尺，道高一丈”。该（gāi）产品支持图像（xiàng）、视频（pín）内（nèi）容鉴别（bié），用户基于API接口将待检测的图片、视频（pín）上传，一键即可反馈真伪。

事实（shí）上，开（kāi）展针对（duì）Deepfake的“打假”研究（jiū）的团队早就存（cún）在，但相（xiàng）关的成果仅停留（liú）在算法层面，更多的（de）是为学术研究提供（gòng）使用（yòng），无（wú）法应对真实环境下大范围传（chuán）播的虚假内容，所（suǒ）以，RealAI推出的这款标（biāo）准化自动检测（cè）工具可以说给规模（mó）化的“打假”行动带来了新希望。

二、检（jiǎn）测（cè）准确率达99%，Deepfake“在劫（jié）难逃”

作（zuò）为清华大学人工智能研究院核（hé）心孵化企业，以及国内首家安全可控人工（gōng）智能系统提供商，RealAI在AI安（ān）全与攻防技术领域拥有业界领先优势（shì）。在今年刚结（jié）束的GeekPwn2019国际（jì）安全极客大赛中，其与清华大学联合战队一举获得“CAAD CTF 图像对抗样本（běn）挑战（zhàn）赛”以及“CAAD 隐身挑（tiāo）战赛”两（liǎng）项比赛的冠军。

portant;" />

深厚（hòu）的技术积累也让RealAI安全研究团队对（duì）“造（zào）假方”的攻击原理有着更深刻的理解（jiě），能（néng）够更有针（zhēn）对性地开发检测工具。本（běn）次推（tuī）出的深度伪造视频检（jiǎn）测（cè）产品，将原本高难度（dù）的检测（cè）过程大幅简化，只（zhī）需接入SDK即可一键实时检测（cè），调用简单快捷。

portant;" />

Deepfake视频检测产品流（liú）程图

与目（mù）前市面（miàn）上已有的检（jiǎn）测技术相比，RealAI的视频检测工具利用深度学习算（suàn）法、大量数据集（jí）训练模型（xíng），能够检测出绝大多数AI换脸（liǎn）假视频，准确率达99%(内部测试（shì）数据集上)。在（zài）面（miàn）对算（suàn）法的换脸效果越来越逼真的情况，RealAI的研发团队也集中研发（fā）新型的检测算法，以迭代和更新RealAI的检测算法库。

更（gèng）值（zhí）得注意的是，该产品适用于复杂视（shì）频内容检测（cè），支（zhī）持多种（zhǒng）格式和多人（rén）脸检测模式，1S识别，最高（gāo）可（kě）支（zhī）持（chí）10人（rén）以上（shàng）同（tóng）屏。

三、Deepfake的潘多拉魔盒终将（jiāng）被关上

随着Deepfake技术被滥（làn）用，传（chuán）统意（yì）义上“真实”与“虚假”的（de）界限被模糊，这（zhè）对于社会生活的影（yǐng）响之大此前未被预想到（dào），但如今技术（shù）作恶所带来的负面（miàn）影响正全面爆发。

比如，网络上肆意（yì）传播的视频（pín）、图（tú）片内容，内容（róng）平台传统（tǒng）的审核机制无法辨别Deepfake生成（chéng）内容，若采用人工审核，需要投入额外的时间（jiān）、人力成本;特（tè）定对象（xiàng）被编造虚（xū）假信息在社交平台上广泛传播，处于舆论中心的（de）当事人由于（yú）找不到（dào）能够（gòu）证实（shí）“谣言”是捏（niē）造的有效途径，个人声誉因此受损;案件调查、法庭辩论中涉（shè）及的视频、图像等证据材料，警察、律师等人员（yuán）无（wú）法单凭肉眼识别证据是否是基于Deepfake伪造，需要专业工具鉴定真伪;事（shì）故（gù）中真伪难辨的影像资料，保险公（gōng）司的审（shěn）查人（rén）员缺乏Deepfake造假（jiǎ）认知以及（jí）不配备专业鉴别能（néng）力，存在（zài）被诈骗理赔（péi）的风险……

“人人都怕换脸术”的恐（kǒng）慌，让反Deepfake的检测需求变的异常迫切，本次RealAI检测工具的推出（chū），通过与内（nèi）容平台、执法机（jī）构（gòu）、保险公司等机（jī）构开展（zhǎn）合（hé）作，能够在虚假（jiǎ）内（nèi）容甄别（bié）、线上资料审核（hé）以及影像物证真（zhēn）实性检验等实际应用场景（jǐng）发挥（huī）作用，并帮助企业与个人更好的进行信息管控与风险预（yù）警（jǐng）。

最后（hòu），在这场AI军（jun1）备竞赛中，Deepfake将持续演化，RealAI也将持续迭（dié）代技术、打磨产品。RealAICEO田天表（biǎo）示，未来AI必然是安全可控的AI，一键“打（dǎ）假”终将超越一键换脸的速度，Deepfake的潘多拉魔盒也终将被关上。