让我们打击深度虚假色情网站——以及兜售这些网站的社交媒体巨头

　　大多数人对人工智能的担忧都集中在未来。但是我们并没有足够的关注这些技术是如何使目前的性侵案件急剧增加的。

　　以深度假色情为例，这是一种基于图像的性虐待形式，在未经人们同意的情况下，通过数字技术修改受害者的性图像并将其分享。在英国，这一现象正在急剧上升:谷歌“深度假色情”(deepfake porn)搜索结果的顶部将不再是对这种虐待行为的批评讨论，而是人们可以购买和访问这些虐待图片的网站。多年来，我一直在写关于性虐待的文章，我深感担忧的是，我们在阻止这方面做得不够。

　　近几个月来，人们分享了新副总理安吉拉·雷纳和包括泰勒·斯威夫特在内的名人经过数码处理的性爱照片。但你不需要很出名才能出现在这些图片或视频中——这项技术很容易获得，前伴侣或陌生人很容易利用它来羞辱和贬低你。作为一名技术勒德分子，我仍然认为一个人需要一些数字技能才能做出这种滥用行为。不是这样的。你可以简单地拍下某人的照片，把它放入一个“裸体”应用程序中，应用程序的人工智能就会生成一张假裸体照片。一家网络安全公司的顾问杰克·摩尔(Jake Moore)告诉我:“创建这些图像既快捷又容易，即使对完全没有技术技能的人来说也是如此。”

　　这种虐待对受害者的影响是创伤性的和危险的:首先，你的形象被秘密窃取;然后，它被“裸体化”的创伤;然后，当照片在网上被分享给其他人时，再次受到创伤。这种虐待的受害者报告了严重的精神健康后果。一名妇女告诉本报，在她成为深度伪造图像的目标后，她反复做噩梦和偏执。另一位名叫拉纳·阿尤布(Rana Ayyub)的女性也曾公开表示自己是攻击目标，她因为一张深度伪造的色情图片而遭受了大量骚扰，不得不向联合国寻求保护。

　　那么我们如何才能阻止它，为什么我们不这样做呢?现已被推翻的保守党政府曾计划提出一项法案，通过将深度虚假色情定为刑事犯罪来解决令人担忧的泛滥问题，但该法案存在严重漏洞，将使受害者暴露在危险之中，并给了犯罪者太大的自由，继续制作这些图像。特别是，该法案并没有涵盖所有形式的深度伪造色情作品——包括那些使用表情符号覆盖生殖器的色情作品，例如——它需要动机证明，比如犯罪者意图使用这些图像来获得性满足。

　　阅读更多

　　这是一个几个层面上的问题:首先，它让犯罪者有可能辩称，他们只是为了“搞笑”(我想到了唐纳德·特朗普(Donald Trump)的“更衣室谈话”评论)，甚至是为了“艺术目的”(上帝保佑我们)而创作这些图像。这给我们带来了这类虐待的一个主要问题。在某些圈子里，它可以伪装成有趣的东西，或者我们应该把它当作“笑话”。这助长了一种特定类型的男性行为，这种行为在#MeToo运动之后呈上升趋势，该运动试图通过指责女性过于重视“幼稚”行为来淡化各种形式的性虐待。

　　第二，在把证明犯罪者动机的责任推给控方时，这为刑事起诉设置了一个非常高的- -也许是不可能的- -门槛。很难证明犯罪者在制作深度伪造的色情图片时的想法或感受。因此，警方可能不太愿意起诉这些犯罪的人，这意味着肇事者的后果会更少。

　　工党最近的一项倡议着眼于解决其中的一些问题，所以我将关注这些空白是否会在即将出台的立法中得到填补。党可以做很多事情来打击这些犯罪，还有一些我们现在可以做的事情。例如，我们可以对深度伪造的色情作品寻求民事救济，这可能比诉诸刑事司法系统更快、更有效。允许法院迅速删除图片的新规定也可能给受害者带来巨大帮助。

　　阅读更多

　　但还有一个更大的问题，我们需要解决:搜索引擎和社交媒体网站推广这类内容。杜伦大学(Durham University)研究色情和性虐待法律监管的教授克莱尔·麦克格林(Clare McGlynn)告诉我，她已经与一家知名科技公司讨论了这个问题好几个月了，但该公司仍然没有改变算法，以防止这些网站出现在第一页的顶部。社交媒体网站也是如此。麦克格林和摩尔都表示，他们在Instagram、TikTok和X上看到过深度假冒网站的广告。

　　这不仅仅是一个暗网问题，在暗网中，非法或有害的内容隐藏在互联网的最粗略的范围内。深度造假的色情作品正在社交媒体上公开出售。从理论上讲，这应该会使问题更容易解决，因为社交媒体网站可以简单地禁止这类广告。但我没有多少信心:作为一名女记者，我在社交媒体上受到了很多谩骂，而当我向社交媒体公司投诉时，却从未得到任何回应。

　　这就是我们的监管机构应该介入的地方。Ofcom可能开始惩罚允许深度虚假广告的搜索引擎和社交媒体网站。如果政府将深度造假定为刑事犯罪，监管机构将被迫采取行动。我们的新首相已经明确表示，他的政府致力于变革。让我们希望，保护性虐待受害者和遏制深度虚假色情作品的浪潮是其中的一部分。

　　露西娅·奥斯本-克劳利是一名记者和作家

　　你对这篇文章提出的问题有什么看法吗?如果你想提交回复不超过300字的电子邮件考虑在我们的信件部分发表，请点击这里。