泰勒斯威夫特的深伪色情影片并不新鲜但这并不代表我们不应该关心这个问题。

Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X平台前身为Twitter引发病毒式传播之后，我们不禁要问：这对AI的未来意味著什么？

最近，一系列不安的事件中，AI生成的泰勒斯威夫特的露骨图片在X平台上疯狂流传，揭示了AI能力更黑暗的一面。这些图片被认为是使用Microsoft Designer创造的，迅速引起了广泛的关注，并突显出AI生成假色情内容日益严重的挑战。

随著这些图片在平台上迅速传播，这一事件不仅引发了粉丝和隐私维权者的愤怒，也提出了关于AI在媒体创作中的伦理使用的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt在这场即时讨论中带来了丰富的知识和专业见解。萨拉特密切关注科技、安全和伦理的交集，提供了对AI生成内容影响的深刻看法。

在接下来的部分中，我们将深入探讨他的见解，探索图像操控的历史平行，AI能力所带来的伦理难题，以及在日益由AI驱动的世界中对数位信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将当前AI生成逼真图像的能力与过去Photoshop的使用进行了比较。就像Photoshop在多年前革新了图像处理，AI如今也大大简化了创造现实图片的过程。然而，操控图像的概念并不新鲜；AI只是一个最新的工具，这一持续的历程。

“这在某种程度上只是一种不同的照片编辑软体，”他解释道，强调操控图像的问题已经困扰了十多年。现在的关键在于，AI技术带来的便利和可及性。这一变化引发了有关社会如何适应和规范这些新工具的重要问题，因为这些工具让创造现实图片的门槛比以往任何时候都低。

AI和露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图片的伦理影响，特别是针对特定个体的未经同意的情况。虽然生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于创造可识别人物的露骨图片的便利性。

“AI生成色情内容可能并没有什么内在的不妥或伦理性问题，”萨拉特说。 “但对我来说，伦理问题在于你可以相对轻松地生成带有已知或特定面孔的图片。”

这一能力不仅限于泰勒斯威夫特这样的名人，可能适用于任何人，这强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享的裸体图片在48个州已被禁止，AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异突显了立法需要跟上技术发展的必要性。

AI公司如何防止生成深伪色情？

或许因为接触生成AI是一个相对新的现象，目前在未经主体同意的情况下创造露骨内容的保护措施非常有限。然而，萨拉特指出，对AI公司来说，实施这些措施并不会太困难：例如，不允许针对特定人员生成图片或使用顾客提交的图片作为素材来源，将为绝大多数人提供足够的屏障。

“当然，有些人可能能破坏这些限制，强迫模型做它不应该做的事情，”萨拉特说。“我认为，现在几乎不可能完全避免这种情况你只能让它更难。我想我在这里想表达的是，提供这些服务的公司应该更加努力去避免这些。”

还有可能有人自己创建一个没有任何限制的色情生成模型。然而，萨拉特指出，即使这是可能的，但需要大量的技术知识和计算能力才能做到。

“实际上，能够自己创建生成裸体的AI的人并不多，”萨拉特说。“所以，这将更类似于使用Photoshop，需要具备一定的技能才能做到。”

萨拉特将当前AI发展状况与安全行业的演变进行比较。他观察到，我们正见证安全行业“在AI上重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是成熟技术的关键。

在X平台上出现的泰勒斯威夫特AI生成图片凸显了负责任地使用AI的重要性。随著AI技术的持续进步，在技术能力、伦理考量和安全措施之间取得平衡将变得至关重要。透过向米哈尔萨拉特这样的专家学习并反思过去的挑战，我们可以以更为明智和谨慎的方式来应对这一复杂领域。