泰勒斯威夫特的深伪色情作品并不新鲜，但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台上迅速走红后，我们不禁要问：这对AI的未来意味著什么？

最近，一起令人不安的事件中，AI生成的知名歌手泰勒斯威夫特的露骨图片遍布于X前称推特，显示了AI能力的阴暗面。这些图片据信是使用微软设计师工具创建的，吸引了广泛关注，也突显了AI生成假色情内容日益增长的挑战。

随著这些图片迅速在平台上扩散，该事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了有关在媒体创作中伦理使用AI的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt在这场关于AI的及时讨论中带来了丰富的知识和专业见解。萨拉特聚焦于技术、安全与伦理交集的问题，提供了关于AI生成内容的影响的深入见解。

在接下来的部分中，我们将深入探讨他的观点，探究图片操控的历史平行、AI能力所带来的伦理困境，以及在日益AI驱动的世界中对数位信任与安全的更广泛影响。

假色情内容并非新问题

萨拉特将当前AI生成逼真图像的能力与过去的Photoshop使用做了类比。就像Photoshop在几年前彻底改变了图片操控一样，AI现在使创建现实图片变得容易得多。然而，操纵图像的概念并不新鲜；AI只是这场持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软体，”他解释道，强调操纵图像的概念已经困扰人们十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一转变引发了有关社会如何适应与规范这些新工具的重要问题，因为这些工具使创建逼真图像变得比以往任何时候都要容易。

AI与露骨内容的伦理困境

最迫切的担忧之一是使用AI生成露骨图像的伦理影响，特别是未经特定个人同意的情况下。虽然生成一般的裸露图像可能不会引起太多伦理问题，但真实的问题在于，创建可识别人物的露骨图片变得如此简单。

“AI生成色情内容本身可能并不本质上错误或有伦理问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对轻易地生成一张带有已知或特定面孔的图片。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，强调对伦理指导和立法的需求：虽然所谓的“报复色情”或未经同意分享裸照在48个州是违法的，但AI生成的深伪色情目前仅在10个州被禁止，这一明显的差异凸显了需要立法跟上技术的迫切性。

AI公司如何防止深伪色情的生成？

也许因为访问生成性AI还是一个相对较新的现象，所以在未经对象同意之前，创建露骨内容的保护措施非常少。然而，萨拉特认为，对AI公司来说，实施这些措施并不会非常困难：禁止生成特定人物的图片或使用客户提交的图片作为源材料的简单措施，将为绝大多数人提供足够的屏障。

“当然，有些人能够突破这些限制，迫使模型做一些它不该做的事情，”萨拉特说。“我认为，在目前的情况下，要完全避免这种情况几乎是不可能的你只能让它变得更困难。我的意思是，提供这些服务的公司应该更加努力地去避免这种情况。”

还有一种可能性是有人创建自己的色情生成模型，而不设置任何限制。然而，萨拉特指出，尽管这是可能的，但需要大量的技术知识和计算能力才能做到。

“能够自己创建AI生成裸照的人并不多，”萨拉特说。“所以，它会更像是使用Photoshop，在那里你需要有一定的技能才能做到这一点。”

萨拉特将当前的AI开发状态与安全产业的演变做了比较。他观察到，我们正见证安全产业“从AI重新开始”。这一比较凸显了将AI开发视为一个持续过程的重要性，识别和修复漏洞是成熟技术的关键。

在X上泰勒斯威夫特的AI生成图像突显了负责任使用AI的重要性。随著AI的进一步发展，平衡技术能力、伦理考量与安全措施将是至关重要的。通过向米哈尔萨拉特等专家学习并反思过去的挑战，我们可以更有见地和谨慎地导航这一复杂的领域。