目录 📚

引言
深度伪造的现状
AI成人内容的危害性
对受害者的影响
缺乏相关法规
AI工具的责任
AI成人内容的偏见和性别刻板印象
历史上的造假
连接与现实的脱节
培养对深度伪造的批判能力
希望和监管的重要性

引言 💥

深度伪造技术（deepfakes）是指使用人工智能生成的虚假视频和图像，使其看起来非常逼真和真实。这项技术的崛起带来了一系列的问题和挑战，特别是在成人内容领域。本文将探讨深度伪造技术在创建成人内容方面的应用以及其对受害者造成的伤害。同时，我们将讨论现有法规的不足以及AI工具制造商的责任，并提出一些可能的解决方案。保护个人隐私和打击深度伪造，是保护我们现在和未来社会的一个重要问题。

深度伪造的现状 🎭

据2019年的数据显示，96%的深度伪造视频是性质上的，并且几乎全部是对非自愿女性的伪造。随着Dolly和Midjourney等AI工具的发布，创作深度伪造视频变得比以往任何时候都更加容易，对受害女性的影响也更加严重。最近，美国某小镇的一名女教师因她被伪造成成人视频中的角色而被解雇。学生家长发现了这段视频，并明确表示不希望这名女教师继续教育他们的孩子，结果她被立即解雇。然而，这名女教师从未亲自拍摄过淫秽视频，是生成式人工智能创造了她的形象，并添加到一位成人演员的身体上。她声称自己是清白的，但学生家长无法理解这样的视频是如何伪造的，他们拒绝相信她。我们也很难责怪他们，我们都见识过生成式人工智能有多么强大。类似这样的事件还有很多，它们证明了AI成人内容的危险性，如果不加以控制，情况会更糟。

AI成人内容的危害性 🔞

实际上，技术本身并不是问题所在，问题在于人们使用技术的方式以及缺乏相关法规的限制。科技给我们带来了很多惊人的东西，从社交媒体的互联性到让普通人像你我一样通过Masterworks赞助艺术投资的能力。Masterworks是一家位于纽约的获奖金融科技公司，允许拥有少量资本的普通投资者像亿万富翁一样进行投资，并获得潜在利益。通过让普通人投资来自伟大艺术家的当代艺术作品，Masterworks已经售出了价值4500万美元的艺术品，并将净收益分发给投资者。为什么要投资艺术呢？因为在过去的26年里，艺术品的增长率超过了标普500指数，即使银行危机仍在持续，Masterworks在过去一个月内又售出了两件作品。CNBC、CNN和纽约时报等媒体已经注意到这一点，到目前为止已经有超过70万人注册。需注意的是，观看本频道的订阅者可以通过描述中的链接免费获取无义务账户。回到我们的故事，乍看之下，AI色情可能看起来无害，如果我们可以生成其他形式的内容而不需要人类演员，为什么不可以呢？当然，这可能会减少行业中的工作，但也可能引发行业中的一些问题。如果AI被用来创造虚拟人物，情况就不会那么糟糕。但问题在于，生成式人工智能主要被用于深度伪造，以使观众相信他们看到的人物是特定的真实人物，而这些人往往没有同意出现在视频中。

对受害者的影响 ⚠️

谈到同意，在淫秽的情境中逼真地描绘女性，加害者在未经受害人许可的情况下进行性行为，这本身就构成性侵犯的行为。但是，生成式人工智能用于制作这些视频是否会造成实际的伤害呢？对于受害者而言，被描绘在这些视频中会造成许多后果。看到自己被裸露来侵犯个人的身心健康，视频在互联网上广泛传播，这是典型情形。QTC ylla是一位Twitch直播主，以她的游戏、烘焙和生活方式内容拥有大量粉丝。她还创建了Streamer Awards来向她的同行内容创作者致敬，包括Brendan Ewing，也就是atriot。在2023年的1月，atriak正在直播时，他的观众注意到他浏览器上打开了一个深度伪造网站的标签。之后，有用户在Reddit上发现该网站上有QTC Cinderella等直播主的深度伪造视频，内容包括明显的性行为。Cinderella遭到这些图像和视频的骚扰，看到这些后，她说："在看到那些照片后，我遭受了身体异形感，我感觉自己已经被毁了，这并不简单是遭受了侵犯，还要复杂得多"。在此之后的几个月里，QTC Cinderella经常受到这些图像和视频的骚扰，一些可恶的人甚至将这些照片发送给了她17岁的表弟。不幸的是，这并不是一个例外。制造深度伪造者被知道会将这些视频发送给受害者的亲属，特别是如果他们不喜欢受害者在公共场合的所作所为。"Not Your Porn"的创始人是一个致力于从互联网上删除非自愿色情内容的组织。她也成为了因AI生成的视频描绘她进行淫秽行为的目标，并且有人将这些视频发送给了她的家人。想象一下，这对她和她的家人来说是多么糟糕的感受。悲伤的事实是，即使受害者能够证明视频的不真实，伤害可能已经造成。

一个深伪视频可能会在关键时刻影响某人的职业生涯，Cinderella能够重新站起来并保住了她的粉丝，但那位失去了生计的教师却没有那么幸运。想象一下，如果有人在选举前24小时发动对一名参选人的深伪攻击，那么可能会造成多大的破坏，而这个人的团队还没有机会证明这个视频是伪造的。不幸的是，有关深伪的法规非常有限，迄今为止，美国仅有三个州通过了直接应对深伪的法律。即使有这些法律，技术的复杂性使得追踪和起诉制造深伪者变得非常困难，这些人大多在个人网站上发帖，而不是社交媒体上，因此对于他们可以分享什么内容并没有规定或内容管理的限制。由于追踪和起诉制造这种内容的个人非常具有挑战性，责任应该落在制造这些工具的公司身上，防止它们被用于恶意行为。公平地说，一些公司已经在努力，比如Dolly和mid-journey这样的平台已经采取了一些措施，防止人们伪造活人的形象，Reddit也正在努力改进其AI检测系统，并且已经在禁止平台上的这种内容方面取得了显著进展。这些努力是重要的，但我不确定它们能否完全消除深伪的威胁。越来越多的生成式AI工具出现，将需要新的内容管理努力，也许某些平台最终不会在乎，尤其是如果这使他们优于已经确立的平台。此外，随着上传内容的增加，PornHub在2022年收到了超过200万个视频，随着新的AI工具可以在没有实体摄像机的情况下生成内容，这个数字可能还会增加。任何一种内容管理系统都无法跟上如此庞大的上传量。

AI工具的责任 🤖

这些深伪的最糟糕之处在于受害者无法仅仅通过关掉互联网来解决问题。我们几乎所有的生活都依赖于互联网，所以离线将会对他们的职业和个人生活造成巨大的不利影响，要求任何人为了保护自己而离开互联网并不是一个合理的要求，责任应该落在平台和政府身上，并创造工具来防止这些事情如此容易发生。如果受骚扰的女性都下线，恶意用户就会取得胜利，他们的这种策略会非常成功，他们可以有效地让批评者沉默起来，并随心所欲地攻击他们想攻击的人。AI工具制造商应该承担责任，确保这些工具不被用于邪恶目的。尽管有些公司已经在努力，但我不确定它们是否完全能够消除深伪的威胁。更多的生成式AI工具正在出现，不久的将来，将需要新的内容管理努力，而且这些平台最终可能不再关心这个问题，特别是如果这使他们在与已经确立的平台竞争时占据优势。

AI成人内容的偏见和性别刻板印象 🙅‍♀️

使用AI工具创作大量的成人内容，这导致算法在呈现女性形象方面存在明显的偏见。许多女性报告称，当她们尝试使用AI工具创造自己的形象时，她们往往被过度性化。这些偏见来自AI的训练数据，即互联网。尽管裸体和淫秽的图像已被一些生成式AI平台过滤掉，但这些偏见仍然存在。这些平台必须做的不仅仅是让开放互联网来训练他们的AI，如果他们想防止对女性的过度性化成为正常输出。

历史上的造假 🕰️

深伪现在可能正在成为头条新闻，但事实是，类似的伪造早在很久之前就开始出现了。在生成式AI出现之前，人们使用诸如Photoshop和视频编辑软件的工具将名人的脑袋放在成人电影演员的身体上。总体来说，这些视频都不太令人信服。然而，现在情况非常不同，特别是通过AI。我们正接近不能判断真实与伪造之间区别的边界。法国后现代哲学家波德里亚曾警告过这样一个时刻，即我们无法区分现实和同化之间的区别。人们利用技术来应对复杂的现实，我们首先发明了地图来引导我们穿越错综复杂的土地，然后创建了大众媒体来理解周遭的战争并帮助简化其复杂性。但总会有一个时刻，我们会迷失在现实中，当我们花费更多的时间看着手机上的世界模拟，而不是参与我们周围的真实世界时，我们几乎到达了这个时刻。由于技术能够在我们的设备上逼真地复制现实，我们不太愿意走出去见识自己眼前的真实世界。我们的人类意识无法区分何为真实，何为模拟，这就是波德里亚所说的超现实状态，它使我们容易受到恶意操纵，从深伪到导致数百万人丧生的宣传。

在培养深度伪造的批判能力方面 🤔

你可能还记得几年前有很多公益广告片，通常由名人发表警告我们要警惕深伪。它们很烦人，但最终成功地让公众高度警觉于虚假视频。但是，似乎这些公益广告并没有提到成人内容的深伪，也许是因为这些视频的消费者无论真假都不在乎，他们对这种幻觉情有独钟。有一点是真实的，如果公众接受到深伪色情的广泛培训，那么其潜在的伤害将被限制在一定程度上，成为更有批判力的信息消费者，当我们看到这些有害视频时，我们可能能够减轻这种危险新媒体的影响。

我们并不陌生于对在线内容的批判和辨别能力，在维基百科首次亮相时，它能否作为一个合法的信息来源是难以置信的，它曾被情景喜剧和深夜电视嘲讽，它象征着相信你在互联网上读到的可笑之处。随着时间的推移，情况发生了变化，对维基百科的看法也发生了变化，而且这是理所应当的。我们在很长一段时间内对用户生成的互联网平台持有健康的怀疑态度，问题是，我们在批判性方面是否能够识别和辨别深伪，同时承认一些内容是真实的？我们是否会迷失在模拟和现实之间，只是不信任我们在网上看到的或者更糟糕的是，操纵者是否能通过使深伪成为日常事件来成功成为我们的认可，我们接受这些作为在线存在的代价？

希望和监管的重要性 👀

事实是，当谈到深伪时，我们面临着一条困难的道路，没有人确定我们是否为此做好了准备。AI将不可避免地取代人类目前所做的许多事情，它已经可以逼真地模仿人类的交流和设计了，我们意识不到区分人类输出和AI输出的能力已经引发了一系列问题，这些问题将很难解决。如今，企业已经开始在其市场和销售部门中使用chatbot的写作能力，甚至可以预见不久将来我们会看到AI编写的电视节目。对于作家来说，这是一夜之间即将消失的梦想工作和日常工作，随后将有更多的机会使用AI进行欺骗，比如想象在一年后有人可以轻松伪造你认识的任何人的视频和音频。有意图的人可以创造出对他人造成真正伤害的内容，现在就是AI生成的成人视频对女性造成痛苦，但如果我们无法辨别真实和虚假，人性世界将面临严峻的挑战。

无论如何，我不确定我们是否准备好面对这个问题，或者我们是否能做到。