人工智能的迅速发展让深度伪造（Deepfake）技术成为一种新的网络威胁，任何人都可能在毫无防备的情况下成为受害者。知名律师凯瑞·戈德伯格指出，“只要有一个人形就可能成为受害者。”尤其在当前AI工具的普及下，即使从未拍摄或分享过私密照片的人也可能被卷入这种非自愿的色情内容生成之中。
深度伪造色情与以往的“报复性色情”不同，AI技术可以轻易将一个人的面部叠加到其他人的身体上，或将普通照片处理成裸露形象。仅在过去一年中，受害者名单中包括从公众人物到普通学生，涉及范围之广令人担忧。这种被迫成为“受害者”的经历对当事人或其家庭来说通常充满恐惧与无力，尤其是年轻人，他们对网络世界的庞大和不确定性往往无所适从。
应对深度伪造色情的三步保护措施
然而，尽管深度伪造带来了巨大挑战，受害者仍可采取一些有效的措施。戈德伯格建议，当事人第一步应保存证据，即便其本能反应是迅速将内容从网络上删除。保留证据可以为未来的法律诉讼提供支持。其次，谷歌、Meta、Snapchat等主流平台都提供了表格，可用来申请删除不合规的图片。此外，像StopNCII.org和Take It Down等非营利组织也能够协助受害者同时从多个平台上移除图像。
政策支持与立法进展
深度伪造色情的影响促使政策制定者罕见地跨党派合作，尝试推动相关立法。近期，多名受害的青少年和家长在国会听证会上作证，支持打击非自愿色情和深度伪造内容的立法提案。由共和党议员泰德·克鲁兹与民主党议员艾米·克洛布查共同推动的法案，提议对发布该类内容的行为进行刑事处罚，并要求社交媒体平台在收到受害者通知后及时删除相关内容。然而，目前大多数受害者只能依赖各州不完整的法律网络，其中一些州并未对成人的非自愿深度伪造内容提供足够保护。
深度伪造色情提醒我们，即使在数字社会中很难做到绝对安全，作为网络用户，唯有相互尊重，才能避免成为加害者。
