泰勒斯威夫特的深伪色情视频并不新鲜但这并不意味著我们不必关心这个问题。
Emma McGowan 2024年1月30日
随著AI生成的泰勒斯威夫特色情图片在X前Twitter上引发热议，我们不禁要问：这对AI的未来意味著什么？
最近，一些AI生成的泰勒斯威夫特的露骨图片迅速在X平台上传播，凸显了AI能力的阴暗面。这些图片被认为是使用微软设计工具创建的，引起广泛关注，并突显了AI生成伪色情内容所面临的日益严峻挑战。
随著这些图片迅速在平台上扩散，事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关AI在媒体创作中伦理使用的重大问题。
Avast的威胁情报总监米哈尔萨拉特Michal Salt带来了丰富的知识和专业能力，以应对这一关键话题。他对科技、安全和伦理交汇处的敏锐洞察，为我们提供了对AI生成内容影响的深入见解。
在接下来的部分中，我们将深入探讨他的见解，回顾图像操控的历史类比，AI能力所带来的伦理困境，以及在日益由AI驱动的世界中，数字信任与安全的更广泛意义。
假色情并不是新问题
萨拉特将目前AI在生成逼真图像方面的能力与过去的Photoshop使用作了类比。正如Photoshop革命性地改变了图像操控，现在AI也大大简化了生成现实图像的过程。然而，操控图像的概念并不新鲜；AI只是这场漫长斗争中的最新工具。
“这在某种程度上只是一种不同的照片编辑软体，”他解释道，强调操控图像的问题已存在超过十年。现在的关键区别在于，AI技术带来了更大的便利和易用性。这一转变引发了有关社会如何适应和规范这些新工具的重要问题，这些工具使得创建逼真图像变得比以往任何时候都更容易。
AI与露骨内容的伦理困境
最迫切的问题之一是利用AI生成露骨图像的伦理含义，特别是在未经当事人同意的情况下。尽管生成一般的裸体图像可能不会引发太多伦理问题，但真正的问题在于轻易地创造出可辨认的具体个体的露骨图像。
“AI生成的色情内容本身可能没有什么固有的问题或伦理上的困难，”萨拉特说。“但对我来说，伦理问题在于，您可以相对轻易地生成带有已知或具体面孔的图像。”
这一能力不仅扩展到像泰勒斯威夫特这样的名人，还可能影响到任何人，强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或未经同意的裸照分享在48个州是非法的，但AI生成的深伪色情目前仅在10个州被禁止。这一巨大差异强调了立法滞后于技术的必要性。
AI公司如何防止深伪色情的产生？
或许因为生成AI的使用相对较新，对于在未经主体同意的情况下创造露骨内容，目前几乎没有任何防范措施。然而，萨拉特认为，实施这些措施对于AI公司来说其实并不困难：一些简单的措施，比如不允许生成特定人的图像或不使用客户提交的图像作为材料，就可以有效地为绝大多数人提供足够的障碍。
“当然，某些人可能会突破这些限制，迫使模型做一些它不应该做的事，”萨拉特说。“在我看来，目前几乎不可能完全避免这种情况人们只能使这种情况变得更难。我想表达的重点是，提供这些服务的公司应该更努力去避免这一问题。”
也有可能有人自己创建一个没有任何限制的色情生成模型。不过，萨拉特指出，尽管这是可能的，但需要大量的技术知识和很高的计算能力才能做到。
“并不是很多人能够自己创建一个生成裸体的AI，”萨拉特表示。“因此，这更像是使用Photoshop，您需要达到一定的技术水平才能做到。”
萨拉特将当前AI开发的状态与安全行业的演变作了对比。他观察到，我们正见证著安全行业因AI而“重启”。这一比较强调了将AI开发视为一个持续过程的重要性，在这个过程中，识别并修复漏洞是技术成熟的关键。
泰勒斯威夫特在X上被生成的图片强调了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量和安全措施之间取得平衡至关重要。通过向专家如米哈尔萨拉特学习并回顾以往的挑战，我们可以以更加知情和谨慎的方式应对这一复杂的局面。
蚂蚁加速npv下载