关上Deepfake的潘多拉魔盒RealAI推出深度伪造视频检测工具

诞生之初,Deepfake是一项有趣的图像处理技术,仅仅带来搞笑和娱乐视频,但殊不知,潘多拉魔盒就此被打开,催生出 黑产、恶搞政客“操纵”民意,Deepfake正逐步进化为一种新型“病毒”,人类伦理道德的“遮羞布”也被无情揭开。

疫情发生以来,各地各级工会组织主动作为,通过发出通知倡议、拨付专项资金、筹集抗疫物资等方式,实打实地开展防控工作,展现“娘家人”的作为。广大工会干部、劳模工匠结合工作实际,或坚守岗位履行职责,或默默奉献不求回报,他们中间有走访慰问的、有救治病患的、有捐款捐物的,不一而足,屡见不鲜。

RealAICEO田天表示,尽管需求达成一致,但目前大规模应用的打假方法面临诸多困难。

一、一键换脸到一键“打假”

深厚的技术积累也让RealAI安全研究团队对“造假方”的攻击原理有着更深刻的理解,能够更有针对性地开发检测工具。本次推出的深度伪造视频检测产品,将原本高难度的检测过程大幅简化,只需接入SDK即可一键实时检测,调用简单快捷。

更值得注意的是,该产品适用于复杂视频内容检测,支持多种格式和多人脸检测模式,1S识别,最高可支持10人以上同屏。

作为清华大学人工智能研究院核心孵化企业,以及国内首家安全可控人工智能系统提供商,RealAI在AI安全与攻防技术领域拥有业界领先优势。在今年刚结束的GeekPwn2019国际安全极客大赛中,其与清华大学联合战队一举获得“CAAD CTF图像对抗样本挑战赛”以及“CAAD隐身挑战赛”两项比赛的冠军。

比如,网络上肆意传播的视频、图片内容,内容平台传统的审核机制无法辨别Deepfake生成内容,若采用人工审核,需要投入额外的时间、人力成本;特定对象被编造虚假信息在社交平台上广泛传播,处于舆论中心的当事人由于找不到能够证实“谣言”是捏造的有效途径,个人声誉因此受损;案件调查、法庭辩论中涉及的视频、图像等证据材料,警察、律师等人员无法单凭肉眼识别证据是否是基于Deepfake伪造,需要专业工具鉴定真伪;事故中真伪难辨的影像资料,保险公司的审查人员缺乏Deepfake造假认知以及不配备专业鉴别能力,存在被诈骗理赔的风险……

图为华裔青少年们正在学习制作非遗荣昌陶器。钟欣 摄

好消息是,本月底,受冷空气影响,内蒙古大气扩散条件会得到改善,届时呼和浩特等地空气质量将有所好转。(完)

根据高纪平所言,医护人员在工作中面对的困难和他们的选择,读来同样使我们泪目——“为方便穿防护服,爱美的姑娘剪去齐腰长发;队员们用入住宾馆的信纸写下了‘火线入党申请书’;(黄冈)大别山区域医疗中心接收转运病人,很多没值班的队员都主动参加,他们高喊‘挺进大别山’……”正所谓,“哪有什么白衣天使,不过是一群孩子换了一身衣服,学着前辈的样子,治病救人,和死神抢人罢了。”

“人人都怕换脸术”的恐慌,让反Deepfake的检测需求变的异常迫切,本次RealAI检测工具的推出,通过与内容平台、执法机构、保险公司等机构开展合作,能够在虚假内容甄别、线上资料审核以及影像物证真实性检验等实际应用场景发挥作用,并帮助企业与个人更好的进行信息管控与风险预警。

Deepfake视频检测产品流程图

诸如上述场景,通过连日来媒体报道,我们既感动又熟悉。在中华民族的传统记忆中,春节代表团圆、祥和,百姓希冀安康、幸福。但是,今年春节正逢新型冠状病毒肆虐,防疫抗疫工作刻不容缓,广大医护人员面对毒害没有畏惧、退缩,而是心甘情愿、义无反顾地选择了离别、危险,置自己于险地不顾,去换回他人的平安,谱写了一曲曲生命的壮歌。在这样的壮举前,任何文字、赞美都不免有些苍白无力。毕竟,他们时刻在和死神竞速,这既是在彰显“南丁格尔精神”,也是在践行“希波克拉底誓词”。

最后,在这场AI军备竞赛中,Deepfake将持续演化,RealAI也将持续迭代技术、打磨产品。RealAICEO田天表示,未来AI必然是安全可控的AI,一键“打假”终将超越一键换脸的速度,Deepfake的潘多拉魔盒也终将被关上。

该活动在澳门议事亭前地等著名景点为澳门民众和来澳游客奉献了两场精彩的具有河北特色的演出。演员们表演了《顶坛》《空竹》《高椅倒立》《大环舞》等10多个精彩的杂技、武术和滑稽节目。众多澳门市民和来澳游客被精彩的演出吸引,驻足围观拍照。演出结束时,演员高举“欢乐春节”和“京畿福地乐享河北”的标语登台谢幕,与观众合影留念。

三、Deepfake的潘多拉魔盒终将被关上

事实上,开展针对Deepfake的“打假”研究的团队早就存在,但相关的成果仅停留在算法层面,更多的是为学术研究提供使用,无法应对真实环境下大范围传播的虚假内容,所以,RealAI推出的这款标准化自动检测工具可以说给规模化的“打假”行动带来了新希望。

首先,Deepfake的开源技术让AI换脸的使用门槛降低到手机美颜、P图的水平,一键换脸带来了“造谣”成本的降低、爆炸式的传播。可是在防御层,相应标准化的检测工具却几乎没有,人工鉴别不仅专业性要求高,且效率低。所以,无论对于个人、平台还是第三方机构而言,打假辟谣的时间窗口很短,难度却很高。

据内蒙古环保厅监测显示,28日9时,呼和浩特空气质量继续走低,为重度污染。

新规中不难发现,有效抑制Deepfake及类似造假需要“两手抓”,除了利用法律法规严控“别有用心者”作恶,更要从源头加强安全评估、鉴别技术等能力,借助技术手段提前布局,在检测方面领先一步。

内蒙古气象局最新消息显示,由于近期天气静稳,雾和霾天气趁机发展,呼和浩特AQI指数长时间偏高,为内蒙古空气质量最差城市。

RealAI基于第三代AI技术推出的深度伪造视频检测产品,通过采用“数据增广”的方式,用伪造的视频训练出一个新的模型,从而让模型能够更好识别出伪造痕迹,分辨出造假视频,可谓“魔高一尺,道高一丈”。该产品支持图像、视频内容鉴别,用户基于API接口将待检测的图片、视频上传,一键即可反馈真伪。

习近平主席会见世卫组织总干事谭德塞时强调,“我们完全有信心、有能力打赢这场疫情防控阻击战。”有中央的决策部署,有千万劳动者的奋勇前行,很快,你会发现:伟大祖国不仅是美好的人间,更是健康的人间!

此次活动是河北省文化和旅游厅第四年组派河北艺术团赴澳门,与澳门市政署合作举办“欢乐春节”活动。每年河北的演出和展览已经成为澳门庆祝春节的品牌活动,受到澳门特别行政区政府、当地民众和来澳游客的欢迎。活动推动了中国优秀传统文化的传播,展示了河北地域文化特色和旅游资源,有力提升了河北文化和旅游的知名度及影响力。

近日,来自清华大学的人工智能企业——RealAI正式发布了一款深度伪造视频检测工具,可一键实现对深度伪造(Deepfake)视频的自动精准识别。

12月14日,来自缅甸的25名华裔青少年来到重庆荣昌学习非遗技艺。当日,华裔青少年们学习制作了折扇和陶器,通过参观、学习、制作等深入了解了国家级非物质文化遗产的制作过程。这批华裔青少年于本月10日来到重庆,参加2019年“寻根之旅”冬令营(重庆营)活动。

另外,更严重的问题在于,很多情况下,Deepfake“以假乱真”的程度极高,人眼难以察觉。加之其算法目前还无法建模分析,检测技术的研究被严重影响,而造假方的适应速度却很快,新技术日益迭代。

绝不仅是医护人员,当抗疫战役打响时,没有人能独善其身。各条战线上的集体和劳动者都在用自己的方式奉献着,为最终战胜疫情贡献力量。工会亦如此,高纪平的另一个身份是湖南省卫生工会主席。

11月29日,中国国家网信办也正式发布《网络音视频信息服务管理规定》,指出自2020年1月1日起,AI造假视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

记者了解到,从除夕夜迄今,受燃放爆竹等因素的影响,呼和浩特空气质量欠佳已是不争事实。一些市民说:“这几天很难见到艳阳高照的时刻。”

二、检测准确率达99%,Deepfake“在劫难逃”

与目前市面上已有的检测技术相比,RealAI的视频检测工具利用深度学习算法、大量数据集训练模型,能够检测出绝大多数AI换脸假视频,准确率达99%(内部测试数据集上)。在面对算法的换脸效果越来越逼真的情况,RealAI的研发团队也集中研发新型的检测算法,以迭代和更新RealAI的检测算法库。

面对因新技术而引发的公众恐慌,相关监管机构也加快采取行动,出台“打假”策略,旨在打击Deepfake虚假音视频,控制“造假病毒”的传播。同时,国内也迎来了“最严数据管理”的一年。

受河北省文化和旅游厅组派,河北省艺术中心(河北省对外文化交流中心)副主任王迎庆率河北邢台、沧州两地演员一行17人参加此次活动。澳门市政署市政管理委员会委员马锦强、澳门文化艺术界代表和市民学生代表等出席观看演出。(完)

随着Deepfake技术被滥用,传统意义上“真实”与“虚假”的界限被模糊,这对于社会生活的影响之大此前未被预想到,但如今技术作恶所带来的负面影响正全面爆发。

市民李永春说:“真希望来一场雪,驱散呼和浩特上空的朦胧。”