她决议开源AI模型，正面宣战“N号房2.0”

这几天，咱们都刷到韩国#N号房2.0#作业的新闻了吗？

从前席卷韩国的N号房，又双叒叕重来了。

而这次，首要的违法东西其实便是AI中一向饱尝争议的Deepfake（深度假造），或许能够就简略了解为，AI换脸。

说实话，间隔N号房作业的曝光，现已曩昔整整4年了。

2021年，跟着主犯赵主彬的被捕以及40年的刑期，颤动整个韩国的N号房作业，看似落下了帷幕。

可是就像你在家里发现了一只甲由相同，你掀翻家里的全部旮旯，一定能再发现很多只甲由。

而现在在新时代AI技能的加持下，他们扔掉了旧时代的偷拍，带着Deepfake，又东山再起了。

或许说，他们历来都没有消失过，仅仅从2021年的灰烬，从头燃起了熊熊大火。

这些违法者，运用Deepfake，组成身边女人同学、朋友的色情相片和视频，在Telegram上经过谈天室的办法进行张狂传达。

他们乃至依照一起的校园、区域，来建了N个群。

一重用身边的熟人作乐，乃至是要挟，还以AI视频+揭露受害女人身份、家庭住址为理由，向受害人索要金钱。

这一次，最大的受害者集体，是学生。

而最大的加害者集体，也是学生。

比方有一位女教师就被奉告自己的涉黄图片在谈天室里被传达，而上传者正是她的学生。

她的学生运用和女教师的合照、女教师发在KakaoTalk （韩国版微信）上的相片，用deepfake定制了她的色情印象，乃至他还在定制的时分注明晰身段要求、姿态要求。

在一个 22.7 万人参加的 Telegram 谈天室，只需要女人的相片，就能在几秒内生成被用Deepfake换过脸的色情内容。

22 万什么概念？韩国 2023 年新生儿人数只要 23 万，总人口数只要 5000 多万。

而这，仅仅其间一个频道。

至于报警？呵。

在韩国的土壤上，N号房，就像是瘟疫，延伸开去后，就再也停不下来了。

这鳞次栉比的红点，便是瘟疫延伸的轨道。

为了对立，许多韩国女人在交际媒体上发帖，呼吁韩国和外界对Deepfake违法作业的重视。

在韩国国内发帖现已简直无用，他们就像三体中的来临派相同，请求外部言论，能来净化国内。

她们在X上用英文发帖，乃至还在微博用中文求助：

全部人都知道，家丑不可外扬。

试问，假如在韩国内部，还能有处理的办法，她们会请求三体人来临，来治好她们的全部吗，你能幻想到，这是有多无助，多失望吗？

可是，土壤的问题，我觉得，真的，挺无解的。

这块就不深说了，也不好说，有爱好的，能够自己去深扒一下。

说实话，我觉得，韩国这波Deepfake的N号房问题，不止是韩国问题，仅仅韩国那儿实在太烂了，最早露出出来罢了。

这是全国际女人的问题。

土壤的作业，咱们简直做不了任何东西，可是从技能上，我觉得，咱们仍是能够有一些单薄的解的。

Deepfake的换脸视频，至少在现在这个时刻点看，不是完美无瑕全无漏洞，所以，那假如，咱们至少，能辨认出AI换脸视频呢？

其实在这件事爆出来的时分，我就一向在看各种东西，在找辨认的办法。但我究竟不是技能人，很慢，又很笨。

直到今日，我在抖音和微博上，看到同一个热搜。

真的，好像天上降真主，真乃人世太岁神。

她把他们的模型直接开源了，用来对立Deepfake。

我也不知道为什么，我有点想哭。

“Girls help girls”具像化的出现，或许也是女人工程师更能共情女人面临Deepfake违法时的惊惧和无助。

这位工程师名叫张欣怡，是来自中科院的博士。本年她和中科院的团队正好参加了外滩大会Deepfake攻防赛。

也便是9月3日当晚，大会也发布了三强名单，张欣怡和她地点的团队VisionRush赫然在列。

张欣怡说：

“经团队赞同，已将近期参加在上海举行的外滩大会AI立异赛·全球Deepfake（深度假造技能）攻防挑战赛的AI模型向全球开源。”

是的，他们直接开源了。

这个模型叫DeepfakeDefenders，在Github上就能找到。

链接在此：https://github.com/VisionRush/DeepFakeDefenders

外滩大会设立了100万元人民币的奖金池，但张欣怡和她的团队并没有停步于这个竞赛，而是为了能够协助更多人，将获奖的项目直接开源。

而且张欣怡自己@啦啦啦啦啦啦啦0-0也在微博表明后续会持续开发运用，下降群众的运用门槛。他们是真的期望能够协助到更多人！

中科院的这套Deepfake检测体系，仍是很有意思的。

我硬着头皮啃了半响代码，惋惜电脑不太行，没能顺畅跑通case。

可是我花了一晚上跟几个做计算机视觉的朋友讨教学习了一下它是怎样作业的。

本质上，仍是仿照人类视觉体系的作业原理。

我略微用比方讲得通俗易懂一点，咱们应该就能了解为什么中科院的这个DeepfakeDefenders体系能精确地辨认出深度假造的图片了。

让咱们把这个体系幻想成一个超级仔细、眼力贼强又经验丰富的超级侦察。

这位侦察有两只眼睛，一只叫ConvNeXt（一种纯卷积神经网络），另一只叫RepLKNet（一种新式的卷积神经网络架构）。这两只眼睛各有特点，能从不同视点调查图片的细节。

现在，咱们给侦察一张相片，让他判别这张相片是真的仍是假的(深度假造)。

他会怎样做呢?

首要，他会用ConvNeXt这只眼睛仔细调查相片。它就像是一个放大镜，能一起看到相片的全体和部分细节。此刻侦察会留意相片中的颜色改动、纹路特征，乃至是像素等级的纤细差异。

然后呢，侦察会用RepLKNet这只眼睛再看一遍。这只眼睛更像是一个广角镜头，能看到更大规模的信息，特别拿手发现那些或许藏在相片任何旮旯的假造痕迹。

可是光靠看还不行，侦察还有一个特别的“辨别东西箱”。

他会从东西箱里拿出各种“滤镜”，在看相片时戴上不同的镜片。

有的滤镜会改动相片的亮度和对比度；有的会旋转或翻转相片；还有一种特别的SRM滤镜，能让那些肉眼难以发觉的纤细痕迹变得更显着。

经过这些不同的“滤镜”，侦察就能从多个视点重复查看相片，不放过任何可疑的当地。

在做出最终判别之前，他还会回想起他曾经侦查过的很多真假相片（也便是练习进程）。他会把当时的相片和回忆中的那些相片进行比较，看看有没有类似的特征。

最终的最终，侦察会归纳全部调查成果，给出一个判别：这张相片是真的，仍是假的。

当然，上面这段解说和比方也仅仅我自己的了解。

如有不对，欢迎大佬在谈论区指导。

坦率地讲，Deepfake掀起的这次N号房作业，对我的牵动真的很大。

假如从上一年很早就重视我的老粉或许会知道，我写过大模型、写过AI绘图、写过TTS、写过SVC、写过AI视频、写过AI 3D。

我写了200多篇文章，但唯一，历来没有写AI换脸或许Deepfake的任何内容。

由于，Deepfake，是一把双刃剑，更是潘多拉魔盒。

在电影制造中，它让咱们得以欣赏到“年青版”的小罗伯特唐尼在《美国队长3》中的精彩表演，也让吴京和刘德华在《漂泊地球2》“重返二十岁”。

令人惊叹的视觉作用背面，是技能为人类创造力插上的翅膀。

可是，当这项技能被一些不法分子滥用时，咱们只能被逼面临着一个又一个令人毛骨悚然的实际。

不仅仅是N号房用Deepfake来侵略女人，还有各种欺诈。

比现在年2月，欺诈者经过公司的YouTube视频和从其他揭露途径获取的媒体材料，成功地仿制了英国公司高层管理人员的形象和声响，再运用Deepfake技能制造伪冒视频，形成多人参加视频会议的作用，骗得财政职工2亿港元。

那些传统的身份验证办法（如视频通话承认）在面临如此高明的Deepfake技能时，早已显得无能为力。

当咱们的形象能够被随意篡改，咱们的声响能够被恣意仿照，咱们的行为能够被任意假造。

它撕裂了社会信赖的根底，动摇了人们对实际的认知。

在一个连“我是我”都无法确认的国际里，本相变得可疑，实际变得含糊。

正如张欣怡所说，“在脸被偷走的一起，咱们的身份、声誉、隐私、尊重也都被偷走了。”

是她，是我，更是全部人。

“这个国际有漆黑，也有照亮漆黑的光。假如一个人的火把太小，咱们就把火把传给国际的每一个人。”

可是，好在，咱们还有咱们。

在这场大战中，咱们既是兵士，也是战场自身。

举起一束漆黑中的火把。

筑起另一座自在的罗马。

谢谢你。

张欣怡。

本文来自微信大众号：数字生命卡兹克，作者：卡兹克、稳稳、小瑞、东毅