新技术反复出现的故事是意想不到的后果。以人工智能图像生成器为例。它们的创造者声称它们增强了人类的想象力，让每个人都成为艺术家，但他们往往没有提到它们在多大程度上帮助创造了非法的深度色情作品。很多。
上周末，X不得不关闭了对“泰勒·斯威夫特”(Taylor Swift)的搜索，因为这个前身为Twitter的网站充斥着大量伪造的这位歌手的色情照片，无法全部清除。
其中一张图片在被删除前就被浏览了超过4500万次。斯威夫特的丑闻暴露了一个更大的问题。网络上大约96%的深度造假是色情的。但这也可能是一些真正的解决方案出台之前的最后一个转折点。
仅1月份就发生了足够多的事情，表明在缺乏适当监管的情况下，生成式人工智能的危害开始超过其益处。这项技术被用于更多的诈骗和银行欺诈，它使谷歌搜索结果变得更糟，它用美国总统乔·拜登的假机器人电话欺骗选民。
但斯威夫特的攻击表明，生成式人工智能的毒性影响最阴险，它在未经授权的性图像市场上创造了全新的受害者和施虐者群体。他们指出，生成式人工智能一直在以一种更安静但同样具有破坏性的方式破坏女性的尊严，例如，生成的图像在默认情况下带有性意味，有色人种女性的情况更糟。
深度造假是这个问题的缩影，在斯威夫特之前，它一直在雷达下飞行。在过去的一年里，高中生们利用女同学的真实照片制作深度假色情作品。在西班牙的一个小镇，一群男孩使用人工智能工具对20多名年龄在11岁至17岁之间的女孩的社交媒体照片进行数字化“脱衣”，然后在WhatsApp和Telegram上传播。
二十多年来，多亏了Photoshop这样的软件，假色情片才成为可能，但直到现在，任何人都可以如此快速、轻松地制作假色情片，比如，不同的应用程序可以把一个人的脸换成另一个人的身体。
但更多的人和当局现在注意到，最新的受害者是斯威夫特，这位杂志年度人物帮助美国GDP增长了0.5个百分点，她与苹果公司等公司的流媒体服务开战并获胜，她提高了女性足球的收视率。白宫新闻秘书Karine Jean-Pierre周五表示:“我们对虚假图片流传的报道感到震惊。”“我们将尽我们所能处理这个问题。”
议员们对此表示强烈反对，而霉霉的大批粉丝们则在X上掀起了“保护霉霉”的热搜，其中一些人诉诸治安维持法，挖出了据称是许多非法图片背后的推特用户。据报道，斯威夫特正在考虑对一家发布了其中一些照片的深度色情网站采取法律行动。
斯威夫特不是一个做事半途而废的人，所以我们看到的可能不仅仅是一场诉讼。也许她会支持一些已经提交国会的法案，这些法案旨在解决未经授权的深度造假问题。其中一项法案规定，制作和分享此类图片是非法的，而另一项法案则提议对肇事者处以五年监禁，并向受害者提供法律追索权。
人们很容易耸耸肩，争辩说事情已经泄露了。这些工具已经激增;有些是开源的，而且像Twitter这样的社交媒体网络已经削减了他们的信任和安全团队，很有可能让它们像病毒一样传播开来。
当微软首席执行官萨蒂亚·纳德拉(Satya Nadella)最近被问及Swift的深度攻击时，他直接说出了“护栏”之类的陈词滥调，而没有提出任何具体的政策建议，这可能是因为他的公司处于当今蓬勃发展的生成式人工智能业务的核心。据404 Media报道，至少有一些Swift的形象也是用微软的图像生成器创建的。
解决方案是有希望的。国会正在审议的一些措施是一个开始，虽然长期规则仍在制定中，但当局可以通过惩罚一些最严重的肇事者来处理目前的情况。
威慑是有效的，即使对那些认为自己可以隐藏在网络匿名外衣背后的人来说也是如此。一个典型的例子是网络黑客组织“匿名者”(Anonymous)，大约十年前，该组织几名最知名的黑客被捕并被指认后，该组织的活动几乎立即消失了。据《新闻周刊》报道，一名推特用户承认自己最先发布了一些疯传的照片，并在他的账户被设为隐私之前说:“兄弟，我做了什么……他们可能会因为我发的泰勒·斯威夫特的帖子而通过新的法律。”
早在斯威夫特成为受害者之前，许多没有斯威夫特这种影响力的年轻女性就已经经历了成为目标的心理痛苦。在看到自己的名誉在网上被羞辱地玷污，并承受长期后果后，他们不得不收拾残部。
未经授权的深度色情可不是闹着玩的——它是一种数字性暴力，有可能助长更广泛的厌女和网络虐待文化。斯威夫特也许比世界上任何一个女人都更有能力阻止这种情况的发生。希望她能充分利用这次机会。
布隆伯格的意见
