蚂蚁集团百万奖金悬赏“AI打假”专家

近日，外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集，针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。

Deepfake（深度伪造技术）即利用深度学习算法，实现音视频内容的模拟和伪造，可用于电影制作、视频编辑、虚拟现实等领域。近年来，在境外已发生多起恶意利用该技术进行AI换脸欺诈，造成经济财产或名誉受损的事件，而且有向境内蔓延的趋势。

△ 识别图中二维码即可报名参赛

Deepfake骗走2亿港币

今年初，骗子利用“AI换脸”和AI音频合成的视频内容，冒充一家英国跨国公司的CFO，从该公司驻香港分公司，骗走了2亿港币。  

回顾香港警方透露的案件细节，香港分公司的员工先收到了一封英国总部CFO的邮件，称总部正在计划一个“秘密交易”，需要将公司资金转到几个香港本地的账户中待用。

这名员工一开始就认为这是钓鱼诈骗邮件，但是骗子不断给他发邮件讨论这个秘密交易的必要性。最终，骗子给他拨打了一个视频电话。

在视频电话中，这位员工看到了公司的CFO和其他他认识的“几位同事”在一起开会。骗子冒充的CFO还在视频会议中要求这位员工进行自我介绍。

然后视频会议中的“CFO”要求他赶快进行转账，之后就突然中断了视频。信以为真的员工就分15次向5个香港本地的账户陆续汇款了2亿港币的资金。

转账完成的第5天，回过味来的该名员工向英国公司求证，最终发现被骗了。

香港警方在通报中称，以往“AI换脸”的诈骗一般都是一对一的。本起案件中的欺诈团队在Deepfake技术的支持下，通过让AI学习该公司发布在油管上的视频以及其他公开素材，不仅成功伪造了CFO的形象和声音，甚至还伪造出整个“高管团队”，让受害人防不胜防。

只有AI才能战胜Deepfake

网络上的技术专家曾经分享过一些抵御Deepfake的“妙招”，譬如让对方眨眼或是转头之类的。然而由于AI自身的学习能力，Deepfake技术在不断进步。这些妙招不仅纷纷失去了作用，还容易让人降低警惕。

鉴于人类对Deepfake的无能为力，用AI来制衡Deepfake就被提上了日程。OpenAI就曾推出过一款名为“AI生成内容识别器”的工具。不过由于该工具对AI生成内容的检出成功率仅为26%，OpenAI方面在去年7月底将该工具下线。

虽然OpenAI的anti-deepfake尝试失败了，但是用AI来打击Deepfake的技术路线无疑是正确的。面对全球范围的技术挑战，培养具有实战能力的anti-deepfake人才刻不容缓，于是全球Deepfake攻防挑战赛应运而生。

本次大赛由蚂蚁集团主办、蚂蚁数科承办，ATEC前沿科技探索社区、蚂蚁安全实验室、中国科学技术大学网络空间安全学院作为联合协办方，在线身份认证服务商ZOLOZ提供技术支持，阿里云提供算力支持。该赛事在全球知名的数据科学竞赛平台Kaggle进行，各赛道决赛前三名的赛队将受邀前往位于上海的INCLUSION·外滩大会现场领奖，并参与表演赛。

据主办方，大赛分设图片赛道和音视频赛道，数据集由公开数据和伪造数据组成。其中，伪造图片数据涵盖了现实场景中超50种生成方式，伪造音视频中则纳入了超100种组合攻击方式，训练数据集总量超过100万。选手需要训练AI模型，给出数据伪造概率值，准确率TOP20入围决赛。决赛将邀请专家根据结果准确率、结合方案创新性、泛化性、实用性、可解释性等多维度评选出TOP战队。赛事报名时间将于7月31日截止，8月31日完成比赛。（点击文末“阅读原文”查看赛事详情。）

财经光年将全程报道本次全球Deepfake攻防挑战赛，同时也期待能有中国选手在本届大赛上斩获佳绩！