明明是绳趋尺步的女学生，因像片被盗用，被"换脸"之后，成为小电影的主角。却因为拿不出来阐发"我不是我"的凭据，背上莫须有的骂名。

这不是电视剧情节，而是韩国真确的、正在发生的 Deepfake 事件。

监犯分子获取女性像片后，通过 AI 时候 Deepfake 将其"换脸"，执造并不存在的"事实"误会女性，堕入自证罗网的女性们无法自证白皙，只可号召各人眷注阔绰 Ai 带来的危害。

很快，这件被称为" N 号房卷土重来"的事件，激发了全球眷注。

毕竟跟着 AI 时候的发展，咱们任何东说念主齐可能成为被 Deepfake（深度伪造）的对象，成为那些咱们没拍过、没录过的音视频的"主角"。

因此，如何确保咱们的安全、驻扎 AI 时候的阔绰，或者实时识别出 Deepfake 的狡计，变得山水相连。

这亦然外滩大会 AI 改换赛 · 全球 Deepfake 攻防挑战赛上，来自全球 26 个国度及地区的 2200 名"最坚定脑"思要的处理的难题。

本次 Deepfake 攻防赛由中国工程院院士王耀南担任众人委员会名誉主席，蚂蚁数科 ZOLOZ 和天玑实验室四肢大赛出题方，赛题包含图像和视频两大主流的 Deepfake 议论成见，是 CV ( 即计较机视觉 ) 限制巨擘赛事之一，诱骗了全球超 1500 支军队参与。

赛事数据集由公开数据和伪造数据构成，其中，伪造图片数据涵盖了试验场景中超 50 种生成面容，伪造音视频中则纳入了超 100 种组合攻击面容，组委会洞开的教练数据集总量杰出 100 万。

经由 3 个多月的强烈比拼，大赛圆满收敛，但对于 AI 与对抗的故事并莫得收敛：

在 9 月 6 日 Deepfake 攻防赛扮演赛上，由蚂蚁数科和中国科技大学收集空间安全学院并吞假想的高传神 Deepfake 图像亮相现场，对选手 AI 模子进行终极检会。来自中科院的 VisionRush 团队取得图像赛说念三等奖。

这也意味着，该 AI 模子能高效、灵验地识别诈欺生成式 AI 时候制作的作秀视频，为深受 Deepfake 困扰的受害者处理难题。

而早在 9 月 2 日，VisionRush 团队反馈赛事组委会号召，公开了这个模子源代码，旨在匡助那些深受 Deepfake 时候困扰的受害者。

某种进程上来说，本届大赛已圆满收敛，但鼓舞" AI 向善"的初心故事，还在络续。

以下是对于他们的真确故事：

文 | 常宁宁

剪辑 | 卓然

我要怎么阐发"我"不是我？

一个看似毫无逻辑的问题，却极有可能因为 Deepfake 时候的阔绰成为试验。

……

咱们但愿通逾期候技能，为每一个可能受到伤害的东说念主提供保护。

9 月 2 日，"全球 Deepfake 攻防挑战赛"参赛团队" VisionRush "决定在网上开源其参赛作品，转圜 Deepfake 受害者后，团队成员之一的中科院 95 后助理工程师张欣怡在微博上写下了如上这段笔墨。

张欣怡场地的 VisionRush 参赛队，由 7 名来自中科院自动化议论所的师生构成，平均年岁仅 25 岁。在本次比赛中，他们诈欺赛方提供的超 150 万数据，教练出了根据视频轨说念来识别是否为生成式 AI 伪造视频的 AI 模子。

图 | 中国科学院自动化议论所 VisionRush 参赛队

这一模子，能灵验地匡助 Deepfake 的受害者们阐发"我不是我"这个难题。

" Deepfake "是由 "deeplearning"（深度学习）和 "fake"（伪造）两个单词组合而成，是通过东说念主工智能时候，将图片或视频中某东说念主面部特征与其他东说念主的与其他东说念主的图像或视频进行会通的时候，从而创造出以伪乱果真作假视频或像片。

跟着生成式 AI 的时候发展，Deepfake 的门槛越来裁汰，如今仅凭一张像片，便不错低老本炮制无数肉眼难辨真伪的图片和视频，任何东说念主齐不错"作秀"，也可能成为"被作秀"潜在打算。

因作秀老本太低，受害者常常难以阐发视频中的"我不是我"。

举例，最近韩国卷土重来的" N 号房"事件，有杰出 200 所学校的女生被 Deepfake 换脸成为色情图片女主角，在海量"有图有真相"中，女生们堕入自证罗网中。

但在时候东说念主眼里，既然这些视频是 Deepfake 的，独一是 fake 就有缝隙，肉眼看不出来的，就要用" AI 的成见击败 AI "。

37 岁的王博毕业于北大计较机专科，现时是中科院自动化议论所副议论员。王博要点多媒体骨子安全，比如说文本、音视频等骨子是否波及违法无益骨子。时代，他见证了中国 AI 时候的发展，也见证了 2020 年前后，生成式 AI 加持下，Deepfake 迢遥普及后，在收集天下掀翻的大浪。

如行恶分子通过换脸名东说念主政要、伪造音视频，坏心曲解策略，激发公论不安、威迫国土安全；或者糊弄分子仅凭一张收集上的自拍，就能通过视频换脸，随后实践电诈。

据不彻底统计，仅在 2022 年，我国 AI 糊弄案件就达到了 50 万件，波及金额杰出 100 亿元。

VisionRush 的赵鹏鹏就曾见过一个报案，监犯分子通过 Deepfake 换脸成校长，糊弄了一个班级群的家长，群内成员无一东说念主避免。

与此同期，由于大部分的 Deepfake 监犯聚集在收集空间，受限于取证贫困等客不雅身分，大部分受害者维权贫困，且即使能维权生效，时刻周期也漫长，时代变成的名誉亏本、豪情伤害更是无法猜想。

"咱们通盘这个词大团队，专注在安全限制 20 多年了。永远莫得换成见，其实情感也就在内部了。咱们依然思为净化收集空间，作念一些用功。  "王博说。

但对抗 Deepfake 极其背后的黑产，仅靠一个 7 东说念主团队的力量并不够，是以 VisionRush 也但愿开源后，越来越多专科东说念主士能参与进来，诈欺这个模子去作念一些更有好奇的事情。

就如参赛队员张欣怡在微博中所说，"咱们但愿通逾期候技能，为每一个可能受到伤害的东说念主提供保护。"

对抗 Deepfake 又称"伪造对抗"，虽亦然 AI 限制，但相较于"生成式 AI "确切是太冷门了——买卖后劲不如生成式 AI、研发回需要参预资金。 

包括此次比赛，亦然 VisionRush 团队为数未几的专科"对口"比赛。在得知蚂蚁集团举办了全球界限的安全大赛、不错和来自全球的同业交手后，团队立即设立了报名参赛，除了"切磋练兵"的心态外，也思去考据一下我方实力。

毕竟现时"伪造对抗"眷注少，角落化，但并不料味着其靠近的压力更小，甚而因为各方面身分，"伪造对抗"靠近的压力更大。

当先在生成式 AI 的时候加持下，黑产的攻击也越发纵欲。

姚伟斌就躬行感受到了这种 " 荒诞 "。姚伟斌系蚂蚁数科的安全科技品牌 ZOLOZ 的时候贯注东说念主，ZOLOZ 基于蚂蚁集团杰出 20 年的安全基础，为金融、政务、互联网等外洋客户提供安全保险，而这些客户也恰巧是黑产思要诈欺 Deepfake 攻击的对象。

"以攻击浓度而言，旧年咱们的外洋客户靠近的攻击浓度约 1%，本年达到了 10% "，这意味着以前 100 次处事中约有 1 次黑产攻击，现时 100 次走访中有 10 次攻击，将来这个数据可能高涨到 50%，甚而更高。

但在识别作假的对抗时候却同生成式 AI 时候之间存在雄伟代际差。

最直不雅的对比在数据模子投资上。AI 模子的智商和投资成正关联，即参预的资源、数据、算力越多，AI 模子越坚定。

市面上一个生成式 AI 的模子投资可能达到千万级，但伪造对抗一个模子可能就几十万预算，雄伟投资各异意味着二者之间力量"悬殊"，若黑产分子以生成式 AI 为火器发动攻击时，珍视收集安全的"伪造对抗"大致靠近"军火不及"的逆境。

王博说，"现时互联网中的伪造数据爆发式增长，很难对全网数据进行审查，伪造和鉴伪的资源参预抗击衡亦然一大挑战。"

某种进程上来说，作念"伪造对抗"像是一场"逆行"，但这场"逆行"莫得回头路。

毕竟 AI 四肢将来趋势，亦然概括国力的一环，若是莫得相应的安全智商去制衡，AI 的发展可能会误入邪路。

"是以和 Deepfake 的这场战役必须打，而况必须赢"，姚伟斌说。

AI 莫得心情，大致会沦为作恶的器具，但 AI 终究是"术"层面的东西，还需要"说念"的层面来珍视。

"作念科研这份使命，需要有迷漫耐烦和对持不懈的用功，还要能抵触抵触迷漫多的勾引。"王博坦言，挣钱不错体现一个东说念主的价值，但是处理一个科知识题，处理国度一项紧要需求，是更有价值更有好奇的事情，这不是资产能斟酌的。"

"有东说念主作念生成，就要有东说念主去作念对抗。"他们确信，这个天下老是会有东说念主快意共同"逆行"打赢这场战役的。毕竟比较于时候层面的东西，那些不变的普世价值不雅，才更能推送社会长足进步。

AI 行业靠近的安全挑战刻报复缓。

往常，由于 AI 门槛高，使用场景相对有限，对其潜在危害的筹议大多局限于学术界。关联词，跟着生成式 AI 时候的发展，Deepfake 等应用变得日益迢遥，关联的安全问题也随之"破圈"，才引起了公众的庸碌眷注。

在这么的布景下，"伪造对抗"限制不仅小众、鲜为东说念主知，通盘这个词行业也因起步较晚，相等贫苦实战型东说念主才。

现时大部分眷注"识别作假的对抗时候"的东说念主，如此次外滩大会的此次全球 Deepfake 攻防挑战赛选手中，大多是出于一种信念在对持。

举例，本次参赛的曾兆阳，他是一位领有 12 个大赛冠军头衔的天才要领员，曾在大型科技公司使命，并参与过综艺节目《毁掉吧！天才要领员》的录制，在算法限制颇具名气。

现时，他是粤港澳数字经济议论院的议论员，专注于机器视觉议论，即赋予机器"眼睛"，使其能够通过图像进行判断和辘集，这是 AI 限制的一个热切分支。

比年来，跟着东说念主工智能关联的糊弄案件加多，曾兆阳启动眷注到在 AI 时候的正反两面博弈的问题，于是在发现此次比赛之后，他抽空参与了本次比赛，并交上了我方的答卷。

香港城市大学的博士后吴海威，则早在 2019 年读研二时，就参与过 Facebook 举办的 Deepfake 检测大赛，之后的 3 年时刻里，不管科研压力多大，他屡次参与关联比赛，但愿通过竞赛去普及我方，为收集安全孝敬一份力气。

在 VisionRush 开源之后，吴海威、陈逸鸣场地的澳门大学 JTGroup 战队也接踵开源我方的参赛模子，他们亦然此次大赛图像赛说念一等奖军队。

但是，要思在"伪造对抗"中取得生效，仅凭一群东说念主的信念是不够的。

在 AI 时候发展的波澜中，每个东说念主的走时齐与 AI 缜密持续。咱们无法先见科技的芒刃何时会伤东说念主，也无法猜想其成果。因此，咱们需要在芒刃尚在手中时，就弃取扫视措施。

恰是基于"鼓舞 AI 向善"的初心，蚂蚁集团主理、蚂蚁数科经办了本次外滩大会 AI 改换赛 · 全球 Deepfake 攻防挑战赛。比赛的目的是唤起社会对 AI 安全的眷注，诱骗更多的参预，并培养实战型东说念主才，使识别作假骨子的对抗时候能够跟上生成式 AI 的措施，将 AI 时候纳入说念德的框架内。

鼓舞 AI 健康发展，不是少数东说念主的任务。

在 AI 庸碌应用于各个限制的情况下，社会需要更丰富、更多元化的实战型东说念主才梯队。比赛中，咱们不错看到选手布景的多元化。

除了来自 26 个国度的杰出 1500 支军队同台竞技外，还有好多来自字节杰出、小红书等一流互联网公司的 AI 议论者参与。

唐永威诚然不是计较机半说念削发，但他在 2022 年参加 ATEC 大赛时自学了 AI 时候。四肢别称数据分析师，他对数据有着自然的敏锐度。

在建模时，他一转业业内东说念主看到数据建模后测试修改的使命面容，而是基于对数据的分析和业务辘集，设立多少不同模子，进行算法攻防测试。

通过这种"更下千里"的操作，唐永威的 AI 检测模子在本次比赛中发达出色，取得了视频赛说念的一等奖。

这也再次阐发，鼓舞 AI 向善，弗成仅依赖于少数东说念主的用功，而是需要凝结各人的力量。

毕竟，温情四肢一种良习，既是社会的底色，亦然社会的共鸣，莫得东说念主能耳旁风。

 （应采访者条款开yun体育网，文中均弃取假名）