我在X上举报了凯特琳·克拉克的深度伪造视频，结果却出乎意料
阅读7分钟
4月20日，步行者队在季后赛首战对阵雄鹿队时，凯特琳·克拉克决定亲临现场支持。当她坐在甘布里奇球馆的一个包厢里时，她出现在了巨型屏幕上，现场17214名球迷爆发出热烈的欢呼声。
克拉克自豪地穿着一件黄色的步行者队T恤，对着镜头微笑。她示意两个小孩和她一起出现在屏幕上。三个人一起欢笑和挥手。这是一个温馨的时刻，步行者队的社交媒体团队捕捉到了这一幕，随后发布在X平台上，也就是之前的Twitter。
三天后X上的一个账号盗用了这段视频，利用人工智能技术，发布了一段露骨的虚假视频（被称为“深度伪造”）。视频的开头部分与原视频相同，克拉克穿着步行者队的T恤向人群挥手。但视频的后半部分被篡改，内容具有攻击性。
这段虚假视频迅速走红。截至6月30日，它的浏览量已达到970万次，步行者队的原视频只有33万次。X用户立即抨击了这段深度伪造视频，敦促其他人举报。我也是众多举报者之一，希望能够将其删除。
发生的事情是X平台上新环境的典型表现，女性的深度伪造视频问题日益严重。
X对深度伪造视频的回应
在举报克拉克视频的24小时内，我收到了来自X的电子邮件。邮件通知我该视频并未违反该网站的任何敏感媒体规则，将被允许保留。
用户最终在该推文上添加了一条社区注释，指出“这是一个未经当事人同意的性暴露内容深度伪造视频。在一些州这种行为属于专门针对深度伪造的犯罪，在所有州都属于刑事骚扰。共和党人也支持这些法律。”
截至6月25日，该推文仍然存在，继续为该账号带来收益。多次要求与X审核团队成员对话的请求均未得到回应，发送给该账号背后人士的两次采访请求也未得到回复。多次尝试以违反X服务条款为由举报该推文，但均未成功。
克拉克绝非唯一一个被深度伪造技术盯上的女性运动员。深度伪造网站已经盯上了多位WNBA球员，包括克拉克、安吉尔·里斯和卡梅伦·布林克等人。里斯曾公开谈论过这个问题。
创建我的虚假AI照片太疯狂和奇怪了！— 安吉尔·里斯 (@Reese10Angel) 3月20日, 2024
里斯的露骨深度伪造视频仍在X上流传。6月7日，我举报了一个，成功将其删除。里斯的深度伪造视频比克拉克的更加露骨，触及了审核人员的目标底线。
X上的深度伪造社区非常清楚这条底线在哪里。用户已经开始分享他们向X的人工智能机器人Grok提供的提示，以便生成色情或其他性化图像，绕过该网站的审核过滤器。
许多女性对X未能删除这些帖子感到沮丧。一些人已经互相分享了如何更改个人设置，以防止Grok篡改她们的照片。
政界人士正在努力遏制这些深度伪造视频的扩散。5月21日，特朗普总统签署了《下架法案》，该法案获得了两党支持，对未经同意传播的私密图像以及人工智能创建的深度伪造视频处以更严厉的处罚。
特朗普在对媒体发表评论时说：“今天，我们正在使其完全非法。”
根据该法案的措辞，该法律“要求某些在线平台在收到通知后立即删除此类描述”。平台必须在收到通知后48小时内删除相关内容。
X的首席执行官琳达·亚卡里诺出席了特朗普的声明发布会，承诺该公司将支持该法案。X好像在遵守新法律方面存在问题。
深度伪造视频也存在于其他社交媒体网站上。但康奈尔科技学院安全、信任和安全倡议主任亚历克西奥斯·曼扎里斯表示，X在遏制这个问题上的做法与众不同。曼扎里斯对深度伪造视频的激增进行了广泛的研究。
曼扎里斯告诉《体育新闻》：“对解决这个巨大的问题，还有很多可以做的。特别是X，它在这方面是落后的。”
埃隆·马斯克是一位自称的言论自由绝对主义者，他在2022年接管该公司后不久，就解散了X的100人信任与安全委员会。在他上任的头四个月里，他将员工总数削减了80%。
这些裁员严重影响了该网站的审核。2024年1月，在泰勒·斯威夫特的众多色情深度伪造视频出现在该网站上后，X受到了广泛的批评。斯威夫特的粉丝们在该网站上发布了大量关于她的正面视频，以使这些露骨视频更难被找到，X暂时禁用了对她名字的搜索。这些深度伪造视频在最终被删除之前，浏览量超过了4500万次。
在斯威夫特事件之后，马斯克承诺到2024年底在奥斯汀新成立一个信任与安全中心，聘用100名全职员工。但这些招聘无法得到证实。
马斯克本人对政治深度伪造视频的态度与他网站的政策不一致。2024年8月，他从个人账户分享了一段卡玛拉·哈里斯的深度伪造视频，配文“这太棒了”。
马斯克还利用法庭来对抗深度伪造立法。2024年11月，X起诉加利福尼亚州一项针对选举中使用的深度伪造视频的州法律。X辩称，该法律违反了第一修正案，将导致其平台上的审查。
在克拉克深度伪造推文发布后的第二天，X通过其全球政府事务团队发表声明，谴责明尼苏达州禁止深度伪造选举相关内容的类似努力。
X辩称，“该法律中提到的禁止‘深度伪造’听起来可能很 benign，它会将无害的、与选举相关的言论（包括幽默）定为犯罪，使社交媒体平台因不审查此类言论而承担刑事责任。这项法律非但不能捍卫民主，反而会削弱民主。”
该声明还自豪地表示，X是唯一一家挑战明尼苏达州法规的社交媒体平台，他们的社区注释计划足以打击虚假生成的内容。
可以采取哪些措施来遏制深度伪造视频
在阻止深度伪造视频泛滥方面，已经取得了一些进展。最大的网站之一Mr Deepfakes于5月被关闭。该网站拥有超过65万用户，托管了包含多位女性运动员（包括WNBA球员）的色情深度伪造视频。
还需要做更多的工作，这个问题正在日益严重。所谓的“裸化”应用程序使生成露骨的深度伪造视频比以往任何时候都更容易，它们的影响范围在不断扩大。
曼扎里斯认为，《下架法案》追究深度伪造视频的传播者和创作者之还能追究这些公司的责任，将会更加有效。但该法案根本没有提及它们。
曼塔扎里斯认为，大型科技公司也需要做更多的工作来打击这些应用程序。
曼扎里斯说：“裸化网站不如Meta那么复杂。大型平台投入必要的资金和研究人员，这将大大减少它们的影响范围。这不会完全消除它们，但会使它们很难通过主流平台访问。”
科技公司尚未投入必要的资金来阻止这个问题。深度伪造视频继续充斥着社交媒体网站。这个问题影响了广泛的女性群体——根据最近的一项研究，6%的美国青少年曾成为人工智能裸化应用程序的目标。
克拉克是世界上最杰出的运动员之一，拥有一大批粉丝，他们会提高人们对涉及她的问题的认识。她的一个深度伪造视频都无法X上删除，这对其他人意味着什么？
您是未经您同意而发布的深度伪造视频或露骨图像的受害者，网络公民权利倡议组织和StopNCII提供资源来提供帮助。