泰勒斯威夫特的深伪色情影片并不稀奇但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台前身为Twitter走红之后，我们不禁要问：这对AI的未来意味著什么？

最近，AI生成的著名歌手泰勒斯威夫特的明确图片在X平台上迅速传播，展示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创建的，引发了广泛的关注，也凸显了AI生成假色情内容日益增长的挑战。

随著这些图片在平台上迅速扩散，这一事件不仅引发了粉丝和隐私权倡导者的愤怒，也提出了关于媒体创作中伦理使用AI的关键问题。

Avast的威胁情报总监米哈尔萨拉特Michal Salt拥有丰富的知识和专业知识，对这一重要话题做出了深入的讨论。关注技术、安全和伦理的交集，萨拉特提供了关于AI生成内容影响的细腻观察。

在接下来的部分中，我们将深入探讨他的见解，探索图像操控的历史平行，AI能力带来的伦理困境，以及在我们日益AI驱动的世界中数字信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将当前AI生成逼真图片的能力与过去使用Photoshop的情况进行比较。正如Photoshop多年来对图像操控的革命性影响一样，AI现在也使创造逼真图片变得显著更容易。然而，操控图像的观念并不新鲜；AI只是这一持续剧中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软体，”他解释道，强调操控图像的概念已经存在十多年了。目前的关键区别在于AI技术带来的便利性和可及性。这一变化引发了重要问题，即社会如何适应并监管这些新工具，因为这些工具使创造逼真图片变得比以往任何时候都要容易。

AI和色情内容的伦理困境

最紧迫的关注之一是使用AI生成明确图片的伦理影响，尤其是针对特定个体而未经其同意的情况。当生成一般的裸体图片时，可能不会引发太多伦理质疑，但真正的问题在于创造可识别人物的明确图片的简便性。

“AI生成的色情应该并没有任何固有的问题或伦理上的不当之处，”萨拉特说。“但对我来说，伦理问题在于你可以相对轻易地生成带有某个已知或特定面孔的图片。”

这种能力不仅扩大到诸如泰勒斯威夫特这样的名人，还可能涵盖任何人，强调了伦理指导方针和立法的必要性：所谓的“报复色情”或非自愿分享裸体图片在48个州是非法的，而AI生成的深伪色情目前在只有10个州被禁止。这一明显的差异突显了立法需要跟上技术发展的必要性。

AI公司如何防止生成深伪色情？

也许由于生成AI的使用相对较新，目前针对在未经对象同意的情况下创建明确内容的护栏仍然较少。然而，萨拉特认为，对AI公司来说，实施这些护栏并不会很困难：例如，不允许生成特定人员的图片，或者不使用客户提交的图片作为来源资料，就会对绝大多数人提供足够的屏障。

“当然，有些人会找到突破限制的方法，强迫模型执行不该做的事情，”萨拉特说。“我认为目前这几乎无法完全避免只能让它变得更加困难。我想强调的是，提供这些服务的公司应该更加努力地避免这种情况。”

也有可能有人创建自己的色情生成模型，没有任何限制。然而，萨拉特指出，尽管这有可能，但这需要 大量 的技术知识和 大量 的计算能力。

“真正能够自行创建生成裸体的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，必须具备一定的技能才能做到。”

萨拉特将当前AI开发的状态与安全行业的演变进行比较。他观察到，我们正见证著安全行业“从头开始学习AI”。这一比较突显了将AI开发视为一个持续过程的重要性，在此过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图片突显了责任使用AI的重要性。随著AI不断发展，平衡技术能力与伦理考量及安全措施将变得至关重要。通过向像米哈尔萨拉特这样的专家学习，并反思过去的挑战，我们能够以更具知识和小心谨慎的态度来驾驭这一复杂的领域。