作者丨Aeneas 拉燕
来源丨新智元
【导读】在网上，不断冒出的Deepfake视频让人们难辨真假。Tiktok上的假汤姆·克鲁斯已经拥有了360万粉丝。Deepfake的门槛变低，也带来了源源不断的问题……
在世界上最受欢迎的社交媒体平台之一TikTok上，源源不断的Deepfake视频正在冒出来。
这些视频对拍摄对象的面部或身体进行了数字化改造，让用户完全变成了另一个人。
当然啦，大家一般都是换名人的脸。
就比如，TikTok上的这位@deeptomcriuse，已经发布了数十个假冒汤姆·克鲁斯的deepfake视频，并且有了360万粉丝。
好家伙，这相似度，是汤姆·克鲁斯本人看了也懵逼的程度。
在另一个Deepfake视频中，一个fake的扎克伯格承认了自己对于窃取用户大数据的野心。
「想象一下：当一个人手握数十亿人的数据，他就掌握了他们的生活和未来……Spectre让我知道，谁掌握了数据，谁就掌握了未来。」
请记住，以上这些话都不是小扎说的。
仔细看原版和翻版的视频，的确真假难辨……
在这个恶搞视频中，基努·里维斯刚刚制止了一场持枪抢劫。
而这位马斯克中国分克甚至骗过了马斯克本尊。
错的不是技术，而是人
虽然在大多时候，Deepfake被网友们用来搞怪，但令人担忧的是，越来越多人在用这门技术进行虚假宣传、欺诈、抹黑公众人物。
Deepfake很好地融合了文本、图像和镜头处理。与绿屏和计算机生成图像相比，它为视觉插入提供了更便宜、更精致的技术。
本来这项技术在诞生的伊始，寄托着创造者的美好愿望，比如帮助人们哀悼和怀念逝去的亲人。
然而罪恶的不是技术，而是人性。
很多时候，Deepfake被用来制作虚假新闻、诋毁名人，甚至伪造色情内容。
美国大选期间，AI换脸技术就成了政客之间相互攻击的工具。
特朗普就曾在推特上转发过一个伪造的拜登吐舌头的视频，播放量一晚上就超过了1000万。
这么明显的恶搞，一般人都不会信。但如果是那种似是而非的视频呢？
2019年，英国保守党方面疑似在选举中伪造工党国会议员Keir Starmer接受电视采访时口齿不清的视频。
而DeepNude 2.0（现已停用）被用来让穿着衣服的女性在镜头中呈现裸体，经常被用于报复和敲诈。
此外，Deepfake还经常被用于诈骗。当信赖的朋友或亲戚打来视频电话向你借钱，你大概率会中招。
一项研究发现，2020 年使用数字技术进行的诈骗使美国金融机构损失了200亿美元。
Deepfake很容易，立法很难
DeepFake的创作者强调，如果想让这些换脸视频看起来更加真实，就要花费大量的时间和精力。
然而DeepFake也确实在变得越来越容易。
随着更多DeepFake应用程序的开发，在未来，哪怕是技术水平不高的人也能越来越容易地制作出看起来很逼真的DeepFake视频。
只要想想在过去的十年里，ps是怎么蓬勃发展的，就大概能预测到DeepFake未来的发展了。
而立法、监管和检测软件正在努力跟上DeepFake的蓬勃发展。
2019年，Facebook因未能删除政治家Nancy Pelosi的合成视频而受到批评，因为它不符合其对DeepFake的定义。
2020年，Twitter和TikTok禁止分享可能会欺骗、迷惑或伤害他人的合成视频（除非标清楚是DeepFake）。
而YouTube则是下架了所有与2020年美国联邦选举有关的DeepFake视频。
但是，即使这些政策有意引导，平台管理员也很难及时处理每一条上报的视频。
在澳大利亚，新南威尔士州的Ashurst公司的律师表示，现有的版权和相关法律可能无法保护澳大利亚人免受DeepFake的影响。
虽然国外已经开始尝试制定法律规整这个领域，但这些法律大多都集中在政治传播方面。
例如，加利福尼亚州规定，在选举期间张贴或传播经过数字处理的候选人内容是非法的。但不从政的人并不受这条法律的保护。
而最好的补救措施之一，就是让用户尽量掌握辨别的技巧。
我们能做什么？
通常情况下，能让DeepFake露馅的第一个迹象是，有些东西看着似乎不对劲。
如果是这样，就要更仔细地观察被拍者的脸，想一想：脸部是否太光滑，或有不寻常的颧骨阴影？
眼睑和嘴巴的动作是否看起来不连贯或不自然？
头发看起来是真的吗？
要知道，目前的深度造假技术很难保持头发（尤其是面部毛发）的原始外观。
你可以在网上搜索该视频或视频中人物的关键词，因为许多可疑的DeepFake视频已经被揭穿了。
试着判断一下来源的可靠性——它看起来是真的吗？如果视频发布在社交媒体平台上，那么发帖人的账户是否经过了验证？
你还可以对播放的视频进行截图，并进行谷歌反向图片搜索，检查视频的原始版本是否存在，将其与可疑的版本进行对比。
最后，如果你确实发现了一个DeepFake的视频，一定要记得点举报。
参考资料：
https://techxplore.com/news/2022-07-celebrity-deepfakes-tiktok-theyre-common.html
本文仅做学术分享，如有侵权，请联系删文。
3D视觉工坊精品课程官网：3dcver.com
1.面向自动驾驶领域的多传感器数据融合技术
2.面向自动驾驶领域的3D点云目标检测全栈学习路线！(单模态+多模态/数据+代码)
3.彻底搞透视觉三维重建：原理剖析、代码讲解、及优化改进
4.国内首个面向工业级实战的点云处理课程
5.激光-视觉-IMU-GPS融合SLAM算法梳理和代码讲解
6.彻底搞懂视觉-惯性SLAM：基于VINS-Fusion正式开课啦
7.彻底搞懂基于LOAM框架的3D激光SLAM: 源码剖析到算法优化
8.彻底剖析室内、室外激光SLAM关键算法原理、代码和实战(cartographer+LOAM +LIO-SAM)
9.从零搭建一套结构光3D重建系统[理论+源码+实践]
10.单目深度估计方法：算法梳理与代码实现
11.自动驾驶中的深度学习模型部署实战
12.相机模型与标定(单目+双目+鱼眼）
13.重磅！四旋翼飞行器：算法与实战
14.ROS2从入门到精通：理论与实战
15.国内首个3D缺陷检测教程：理论、源码与实战
16.基于Open3D的点云处理入门与实战教程
重磅！3DCVer-学术论文写作投稿 交流群已成立
扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。
同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。
一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。
▲长按加微信群或投稿
▲长按关注公众号
3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、激光/视觉SLAM、自动驾驶等）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近4000星球成员为创造更好的AI世界共同进步，知识星球入口：
学习3D视觉核心技术，扫描查看介绍，3天内无条件退款
圈里有高质量教程资料、答疑解惑、助你高效解决问题
觉得有用，麻烦给个赞和在看~
