本周，人工智能生成的泰勒·斯威夫特(Taylor Swift)的露骨色情图片在X(以前的Twitter)上流传，突显出阻止人工智能生成的深度伪造被制作和广泛分享是多么困难。
据美国有线电视新闻网报道，周三，世界上最著名的流行歌手的假照片几乎传播了一整天，在被删除之前，这些假照片的浏览量达到了数千万。
像大多数其他社交媒体平台一样，X的政策禁止分享“可能欺骗或混淆人们并导致伤害的合成、操纵或脱离背景的媒体”。
X没有明确点名斯威夫特，但在声明中表示:“我们的团队正在积极删除所有被识别出的图片，并对发布这些图片的账户采取适当行动。”
广告下面的故事继续
404 Media的一份报告称，这些图片可能来自Telegram上的一个群，用户在那里分享人工智能生成的女性露脸图片，这些图片通常是由微软设计师制作的。据报道，该组织的用户开玩笑说斯威夫特的照片是如何在X上走红的。
“泰勒·斯威夫特人工智能”这个词当时也在该平台上流行起来，进一步推广了这些照片，让更多的人看到了它们。霉霉的粉丝们通过使用相关关键词，在平台上大量发布霉霉的正面信息，尽最大努力掩盖这些照片。“保护泰勒·斯威夫特”这句话当时也很流行。
虽然全世界的霉粉们对X的反应迟缓表示愤怒和沮丧，但它引发了关于未经同意、电脑生成的真人图像泛滥的广泛讨论。
广告下面的故事继续
华盛顿大学计算机科学教授奥伦·埃齐奥尼(Oren Etzioni)在接受《纽约时报》采访时表示:“互联网一直是一股黑暗的暗流，各种各样的未经同意的色情内容。”“现在它是一种特别有害的新菌株。”
获取最新的全国新闻。
发送到您的邮箱，每天。
“我们将看到大量人工智能生成的露骨图像。制作这款游戏的人认为这是一次成功。”
凯莉·戈德堡(Carrie Goldberg)是深度伪造和其他形式的非自愿性内容的受害者的代理律师，她告诉NBC新闻，关于社交媒体平台上深度伪造的规定还不够，公司需要做得更好，从一开始就阻止它们被发布。
戈德堡在提到斯威夫特粉丝的支持时表示:“大多数人都没有数百万的粉丝在他们受到伤害时为他们辩护。”“即使是那些有深度造假政策的平台，它们也不擅长执行这些政策，尤其是如果内容传播得很快，就会变成典型的打地鼠游戏。”
“正如技术正在制造问题一样，它也是显而易见的解决方案，”她继续说道。
广告下面的故事继续
“这些平台上的人工智能可以识别并删除这些图像。如果有一张图像正在扩散，那张图像也可以被水印和识别。所以没有任何借口。”
但在检测虚假和破坏性图像和错误信息时，X可能要处理额外的复杂问题。当埃隆·马斯克(Elon Musk)在2022年收购该服务时，他做出了一系列三管齐下的决定，这些决定被广泛批评为允许有问题的内容蓬勃发展——他不仅放松了网站的内容规则，还削弱了Twitter的审核团队，并恢复了之前因违反规则而被禁止的账户。
现在的趋势
联合国机构在被指控参与以色列袭击后解雇了工作人员
一名男子被判谋杀20岁的凯琳·吉利斯，罪名是她开错了车道
数字调查机构Memetica的负责人本·德克尔在接受CNN采访时表示，虽然霉霉成为攻击目标是不幸和错误的，但这可能是推动关于人工智能深度造假的讨论走向前沿所需要的推动力。
2:09
名人警告粉丝不要被深度造假所欺骗
2024环球新闻，Corus娱乐公司的一个部门。
