叙述脸被人偷走，用来造谣和报复AI假照片是新的霸凌手段，但还要靠AI解决问题……

啃蝌蚕丝

西班牙的米丽亚姆・阿迪布的女儿今年14岁，有一天，女儿告诉她自己被“霸凌”了，她拿出手机，向阿迪布展示了一张不属于自己，但却有自己的脸的露骨照片。作为妇科医生的阿迪布提到，若不是她足够了解女儿的身体，真的会以为这张照片是真的。而这张以假乱真的照片已经在当地的社交媒体群组里不断传播。自己的脸忽然出现在其他“身体”上，但看起来像是真的｜图源络近一个月，相同的事情也发生在英国和韩国。韩国女孩Heejin（化）在社交媒体上发现，她居然有一个专属于自己的“聊天室”，在里面，许多张她几年前拍的，还是学生时的照片上的脸，被放在不属于自己的假的露骨照片上。Deepfakes是一个近些年来才出现的词，它由“深度学习（deeplearning）”和“虚假（fake）”两个词合成，顾思义，就是用AI工具来做出的假的图像、视频或音频。在AI的帮助下，这些假照片越来越逼真了！你也许早已在社交媒体上见过许许多多的假照片，比如各种人做着他们“其从未做过的事”。2022年，有人想看演员尼古拉斯・凯奇主演的经典电影，便将他的脸换到各种知电影片段中；2022年，这种换脸的门槛变得越来越低，在deepfake或手机脚本上，你就算完全不懂AI，也能很做出一张虚假照片。有许多可以让你看到“假”照片。但是当你上传照片想看看老去的自己时，是否阅读过此的隐私声明你的脸也有可能遭到隐私露｜Face脚本而不需要门槛的造假技术很就滋生了一系列具有威胁性和犯罪的行为：假新闻、金融欺诈，以及越来越频繁发生的青少年、儿童和女性遭遇到的露骨照片恶性事件。面对没有门槛的造假技术，我们需要的，可能是没有门槛的抵抗它的技术。络上一起传播广泛的deepfake性犯罪事件被揭露后，科学院自动化所的研究团队VisionRush就宣布开源他们的AI打假工具。而这种对抗AI造假的技术，其也是通过AI来现的。在前期，AI将学习各种AI生成图片的特征，也就是成为“造假图片专家”，因此在识别阶段，就能拿着一些特殊的“放大镜”，用不同的角度来检查照片中的像素，并且根据学到的内容，来特别提取这些照片中容易出错的“特征”，比如说纹理，光照，表情和边缘的细节。这项技术参与了一个月前举办的外滩大会AI创新赛・全球Deepfake攻防挑战赛。而在8月30日，这项比赛的组委会就倡议大家，可以将参赛的模型开源。而比赛中获奖的VisionRush和JTGroup便很宣布将自己的模型开源。而这也是希望技术人员能够合力做出更加完善的模型，并且做成、脚本，让普通人也能轻轻松松地使用对抗deepfake犯罪的工具。而在另一个方面，比较近互联巨头微软的Bing也做出了对抗Deepfake的动作。9月初，Bing宣布和StopNCII合作，希望能帮助到deepfake受害者。StopNCII是一个帮助受害者保护自己的免费数据库。在络上，如果一张照片借用了受害者的脸，不管它如何处理，那张脸的“代码”都是一样的。当受害者发现自己的照片可能已经被露，甚至有被造假的风险后，他们可以给自己的脸申请一个独特的“数字指纹”。而StopNCII和一系列其他的社交媒体平台合作，则会同步这些指纹，在平台上搜索是否有这些“指纹”。如果有，平台上的相关影像将会被下架。如今，已经有许多社交媒体平台和StopNCI合作，Bing是首个和它合作的搜索引擎，除此之外还有reddit，TikTok，Instagram，Snap等。而谷歌的搜索引擎也宣布将会降低搜索内容中露骨和AI合成内容的权重，未来也将帮受害者删除那些非自愿的伪造内容。从检测假照片，到删除假照片，目前也许都有了一些解决方案，如今也希望能更加完善。而作为互联的用户，我们如今还是不得不从源头上保护我们的个人隐私，比如，尽量少在互联享儿童和青少年影片，警惕偷拍行为，以及查看脚本对你个人信息的访问权限等。

要知道大模型知识库市场一定会给整个行业带来极大的影响力。通过API和SDK无缝接入企业微信、公众号、钉钉等渠道，助力企业低成本打造智能营销、客服与销售场景AI应用，解决大模型落地难题。https://www.betteryeah.com/product/knowledgebase