艾玛麦高云 2024年1月30日

在AI生成泰勒斯威夫特的色情图片在X平台上引发热议后，我们不禁思考：这对未来的AI意味著什么？

最近，一些AI生成的泰勒斯威夫特露骨图片迅速在X前身为Twitter流传，展现了AI技术的阴暗面。这些图片据信是使用微软设计工具创作的，引发了广泛的关注，并突显出由AI生成的假色情内容所面临的日益严峻挑战。

这些图片在平台上迅速传播，不仅令粉丝和隐私倡导者感到愤怒，也引发了关于AI在媒体创作中伦理使用的重要问题。

Avast的威胁情报总监米哈尔萨拉特Michal Salt拥有丰富的知识和专业能力，为这一时事讨论提供了微妙的观点。他密切关注科技、安全和伦理的交集，深入探讨AI生成内容的影响。

在接下来的部分中，我们将深入了解他的见解，探讨图像操控的历史平行，AI技术带来的伦理困境，以及在这个日益以AI驱动的世界中，对数位信任和安全的更广泛影响。

假色情不是新问题

萨拉特将目前AI生成逼真图像的能力与过去的Photoshop使用进行比较。正如Photoshop多年前彻底改变了图片处理，现在AI也使得创建现实图片变得更加容易。然而，操控图像的概念并不新鲜；AI只是这场持续斗争中的最新工具。

“这某种程度上只是不同的照片编辑软体，”他解释道，并强调操控图像的问题已经关注了十多年。现在的关键区别在于AI技术带来的便利和可及性。这一变化提出了重要问题，即社会如何适应和规范这些新工具，这些工具使得创建现实主义图片变得前所未有的容易。

AI与露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图片的伦理含义，特别是针对特定个体而未经其同意的情况。虽然生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题是生成可识别人物的露骨图片的难易程度。

“AI生成色情内容本身可能并没有固有的问题或伦理困境，”萨拉特说。“但对我来说，伦理问题在于，你可以相对轻易地生成一个带有已知或特定面孔的图片。”

这种能力不限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，强调了制定伦理指南和立法的必要性：虽然所谓的“报复色情”即非自愿分享裸体在48个州是非法的，但AI生成的深伪色情目前在十个州仅被禁。这一明显的差异突显了立法需要跟上技术的必要性。

AI公司如何防止生成深伪色情？

或许因为生成AI的访问相对较新，因此对于未经主体同意创造露骨内容的防护措施相对较少。然萨拉特认为，对AI公司来说，实施这些措施并不会特别困难：例如不允许生成特定人员的图片或使用客户提交的图片作为材料，便可为绝大多数人提供足够的屏障。

“当然，有些人能够打破这些限制，迫使模型做它不应该做的事情，”萨拉特说。“在我看来，目前几乎不可能完全避免这一点只能让其更难。我认为我想表达的观点是，提供这些服务的公司应该更加努力地避免这种情况。”

还有可能有人会创建自己的色情生成模型，可能不设限。萨拉特指出，尽管可能，但这需要相当多的技术知识和计算能力。

“并不是很多人能够自己创建生成裸体的AI，”萨拉特说，“所以，这更类似于使用Photoshop，你需要具备一定的技能才能做到。”

萨拉特将目前AI发展的状态与安全行业的演变进行比较，他观察到我们正在目睹安全行业“与AI一起重新开始”。这一比较强调了将AI开发视为一个持续过程的重要性，其中识别和修复漏洞是技术成熟的关键。

在X平台上出现的泰勒斯威夫特AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量及安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习，并反思过去的挑战，我们可以更有信息化和谨慎地应对这一复杂的领域。