老汉色影院 韩国"N号房"事件卷土重来 这一次是Deepfake、触及超200所学校 - 视点·不雅察 - cnBeta.COM
发布日期：2024-08-31 08:35 点击次数：56
老汉色影院
早在本年5月，《韩联社》便通报过一则音问，本体是：
首尔大学毕业生朴某和姜某，从2021年7月至2024年4月，涉嫌哄骗Deepfake换脸合成色情相片和视频，并在通讯软件Telegram上高深传播，受害女性多达61东说念主，包括12名首尔大学学生。
仅是这位朴某便用Deepfake合成了简略400个色情视频和相片，并与同伙一齐分发了1700个露骨的本体。
然则，这件事情照旧Deepfake在韩国泛滥的冰山一角。
就在最近，与之关连的更多细念念极恐的内幕被陆续扒了出来。
举例韩国妇女东说念主权连络所公布了一组数据：
从本年1月1日到上周日，共有781名Deepfake受害者在线乞助，其中288名（36.9%）是未成年东说念主。
而这个“N号房2.0”也诟谇常恐怖的存在。
据《阿里郎》进一步的报说念：
一个与Deepfake关连的Telegram聊天室，竟眩惑了220000东说念主，他们通过转变妇女和女孩的相片来创建和共享伪造的图像，受害者包括大学生、老师，以致是军东说念主。
不仅是受害者有未成年东说念主，以致加害者也有无数的青少年。
不仅如斯，此次公论的兴起进程也诟谇常的drama。
因为闹事的韩国男性们（以下简称韩男）不错说诟谇常的狂妄，有公论苗头的时候，他们就会稍稍“克制”一下：
有些韩男对这件事的气派亦然较为恶劣，以致有初中男生开公开写到“无须悲伤，你不够漂亮，不至于被Deepfake”这种话。
于是乎，韩国女性们（以下简称韩女）的反击启动了。
她们将“阵脚”转向韩国除外的外交媒体，举例在X上，有东说念主发布了制作Deepfake学校的舆图：
还有韩女在微博中发布“求救贴”：
跟着公论在各大外交媒体上发酵，韩国政府也露面作念出了表态：
咫尺还是有进步200个学校收到Deepfake影响；谋划将Deepfake犯警的刑期从5年进步到7年。
据了解，韩国警方已建树越过使命组，突出搪塞深度伪造性犯警等伪善视频案件，该使命组将运行到来岁3月31日。
Deepfake已逐步进化
事实上，最新Deepfake时代还是进化到了“恐怖”阶段！
生图AI Flux以一组真假难分的TED演讲相片，引千万??（前推特）网友在线打假。（左边由AI生成）
夜深直播的“马斯克”，也眩惑了上万群众围不雅打赏，以致搞起了网友连麦。
要知说念，整场直播仅用一张图片就能齐备及时换脸。
这一切真实如网友所言，Deepfake已将科幻照进实践。
老汉色影院
其实，Deepfake一词最早发祥于2017年，那时又名Reddit用户“Deepfakes”将色情女演员的面部替换成了一些好意思国盛名演员，引起一派争议。
而这项时代不错追预想2014年，Goodfellow与共事发表了全球首篇先容GAN的科学论文。
那时就有迹象标明，GAN有望生成仿真度极高的东说念主脸。
其后跟着深度学习时代的发展，自动编码器、生成回击汇注等时代逐步被应用到Deepfake中。
浅薄先容下Deepfake背后的时代旨趣。
比如伪造一个视频。
其中枢旨趣是哄骗深度学习算法将商酌对象的面部“嫁接”到被师法对象上。
由于视频是连气儿的图片组成，因此只需要把每一张图片中的脸替换，就能得回变脸的新视频。
这里要用到自动编码器，在应用于Deepfake的情况下输入视频帧，并编码。
△图源：维基百科
它们由编码器妥协码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。
浅薄说，编码器将一些要津特征信息（如面部特征、身体姿势）退换成低维的潜在空间示意，而解码器将图像从潜在示意中归附出来，用于给汇注学习。
再比如伪造图像。
这里主要用到生成回击汇注（Gan），它诟谇监督式学习的一种才智，通过让两个神经汇注互相博弈的步地进行学习。（此才智也不错用于伪造视频）
第一个算法称为生成器，输入就地噪声并将其退换为图像。
然后，该合成图像被添加到确凿图像流（举例名东说念主图像）中，这些图像被输入到第二个算法（称为判别器）中。
判别器试图远隔样原本源于确凿照旧合成，每次详确到二者之间的各别时，生成器齐会随之诊治，直至最终再现确凿图像，使判别器无法再远隔。
然则，除了让外不雅上看起来无法远隔，现时的Deepfake正在认知“组合拳”。
声息克隆也升级了。咫尺，冒昧找一个AI器具，只需提供几秒原音，就能立马copy你的声息。
用合成声息伪造名东说念主的事件也层见叠出。
此外，1张图生成视频已不再新奇，而且咫尺的使命重心在于后续打磨，比如让神色、姿势看起来更天然。
其中就有一项唇形同步时代（Lip syncing），比如让小李子启齿言语。
奈何识别Deepfake？
天然Deepfake咫尺还是很传神了，但底下照旧给众人先容一些识别技能。
咫尺汇注上众人究诘的多样才智，归纳起来等于:
不寻常或改悔的面部姿势
不天然的身体通顺（肢体畸变）
着色不天然
音频不一致
不眨眼的东说念主
皮肤的病弱与头发和眼睛的病弱并不相符
眼镜要么莫得眩光，要么有太多眩光，而且非论东说念主奈何迁移，眩光角度齐保持不变。
放大后看起来很奇怪的视频
……
得，列灯谜克看了直呼内行，不外单凭肉眼不雅察确切有点费东说念主了！
更高效的才智还得是，用魔法击败魔法——用AI检测AI。
国表里盛名科技企业均有关连算作，比如微软就斥地了一种身份考据器具，不错分析相片或视频，并对其是否被把持给出评分。
大奶女OpenAI此前也晓谕推出一款器具，用于检测由AI图像生成器DALL-E 3创建的图像。
在里面测试中，该器具在98%的时代内正确识别了DALL-E 3生成的图像，而且能以最小的影响惩处常见修改，如压缩、编著和豪阔度变化。
芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来详情真假。
而在国内，商汤数字水印时代可将特定信息镶嵌到多模态的数字载体中，援救图像、视频、音频、文本等多模态数字载体。官方称这种时代能保证进步99%的水印索求精度，且不会耗费画质精度。
天然了，量子位此前也先容过一种很火的识别AI生图的才智——诊治豪阔度查验东说念主物牙齿。
豪阔度拉满下，AI东说念主像的牙齿就会变得特地诡异，领域虚浮不清。
Science发文：需要范例和检测器具
就在昨天，Science也发表了一篇著述对Deepfake进行了接头。
这篇著述认为，Deepfake所带来的挑战是科学连络的完好意思性——科学需要信任。
具体而言，等于由于Deepfake传神的作秀、以及难以检测等原因，进一步威逼到对科学的信任。
而濒临这一挑战，Science认为应当“两手持”，一是使用Deepfake的时代说念德范例，二是斥地精确的检测器具。
在谈及Deepfake与解说发展的关系时，著述认为：
尽管Deepfake对科学连络和同样的完好意思性组成紧要风险，但它们也为解说提供了契机。
Deepfake的改日影响将取决于科学妥协说界奈何搪塞这些挑战并哄骗这些契机。
灵验的演叨信息检测器具、健全的说念德范例和基于连络的解说才智，不错匡助确保Deepfake在科学中得回增强，而不是受到Deepfake的好像。
一言以蔽之，科技说念路千万条，安全第一条。
One More Thing
当咱们让ChatGPT翻译关连事件的本体时，它的响应是这么：
嗯，AI看了齐认为欠妥。
参考诱导：
[1]https://en.yna.co.kr/view/AEN20240826009600315
[2]https://en.yna.co.kr/view/AEN20240828003100315?input=2106m
[3]https://en.yna.co.kr/view/AEN20240829002853315?input=2106m
[4]https://www.arirang.com/news/view?id=275393&lang=en
[5]https://www.science.org/doi/10.1126/science.adr8354
[6]https://weibo.com/7865529830/OupjZgcxF
[7]https://weibo.com/7929939511/Out1p5HOQ老汉色影院