AI创意生成一套不雅照，广泛传播过千万次的背后：我们该如何自保？

近日，全球喜爱的音乐巨星泰勒·斯威夫特（Taylor Swift）成为AI生成工具的受害者：在极短时间内，国外社交平台涌现一批以泰勒·斯威夫特为主角的“不雅照片”，浏览量飙升千万。

国外社交平台涌现大量以泰勒·斯威夫特为主角的“不雅照片”。（图源：网络截图）

据外媒报道：当地时间1月26日，白宫发言人皮埃尔在记者会上回应了这一事件，并表示：“我们对这种图片的流传感到震惊。虽然社交媒体公司在内容管理方面作出了自己的独立决定，但我们认为他们在执行自己规则方面可以发挥重要作用，以防止错误信息和未经同意的真实人物的私密图像传播。”皮埃尔还尤其补充了执法不严对女性的影响更大，她们是网络骚扰的主要目标。

据悉，这些深度伪造的泰勒照片是由某人或某些人使用AI生成并上传到了一家不良网站上，这一网站上充斥了众多以名人为主角的不雅照，虚假照片很快传播到了主流社交媒体并在网友之间迅速传播，这也引起了泰勒数以千万粉丝的强烈不满和愤怒，粉丝们发起了“保护泰勒”的话题，“这太恶心了，这是非法的。”“真不懂这些作恶的人脑子里都是什么。”“尊重泰勒·斯威夫特，尊重所有女性。”

泰勒·斯威夫特“不雅照”疯传反映了人工智能技术在隐私保护和版权方面的哪些潜在风险？目前对于这种滥用人工智能技术的行为，我国法律和监管层面有哪些应对措施？这些措施是否足够有效？ 从长远来看，应该采取哪些措施来提高公众对人工智能伦理和安全性的认识，以及如何培养用户的责任感和正确使用技术的意识？1月29日，带着上述疑问，封面新闻记者专访了电子科技大学公共管理学院副教授、英特信律所律师黄小洵与泰和泰律师事务所律师刘青。

目前，泰勒·斯威夫特AI照片已经无法在X等社交平台上搜索，但仍有已经下载相关照片的用户在私下传播甚至贩卖。

白宫发言人让-皮埃尔26日在记者会上回应“泰勒·斯威夫特AI不雅照”疯传一事 （图自福克斯新闻网报道配图）

实际上这不是泰勒第一次成为AI深度伪造的受害者，就在不久前，有人使用人工智能技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。据报道，目前泰勒的团队已在考虑通过法律手段来应对这一事件，传播虚假照片的网站可能会面临法律诉讼。

在粉丝们为泰勒的遭遇而深感愤怒的同时，网络上也传达出了对AI深度伪造技术的发展感到恐惧的声音：“泰勒是影响力很大的明星，要是我们普通人也被深度伪造了不雅照可怎么办？”“这真的和我们的生活息息相关，AI照片视频的人类面部表情已经很像真人了，声音也能模仿得一样，这样的骗局普通人难以分辨。”“AI发展得太快太恐怖了，我都不敢想如果是我那真的要跳进黄河洗不清了。”

从2023年起，国内已发生多起AI深度伪造诈骗案件，中招率相当高，叫人防不胜防，也已出现了多起利用AI技术造黄谣、传播不良信息的恶性事件。

泰和泰律师事务所律师刘青告诉封面新闻记者，若遭遇诈骗应第一时间报警寻求警方的帮助，注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。

如发现自己的肖像被盗用或者“被换脸”该如何处理？刘青建议，用户应当第一时间保留证据，以便后续维权。“同时，用户还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频，也可以提起人格权诉讼，用法律武器维护自己的合法权益。”

事实上，面对以假乱真的AI伪造技术，国内外的专家学者、相关领域的企业机构也想过不少措施应对。

2023年12月，一款名为mist的隐形图片水印在网上开源发布，该水印用于抵抗AI模型对图片的训练和抓取，这一水印能够极大程度地干扰AI模型，使之生成的图片遭受不同程度的破坏。此外，也有开发者建议让AI生成平台、公司给相关的AI生成软件加上隐形水印机制，以快速识别AI并进行溯源，各个社交平台也应以技术手段加强对于疑似AI生成图、文、视频内容的识别功能。

封面新闻记者注意到，抖音、小红书等平台也已对疑似为AI生成的图文视频内容进行标识以提示用户小心分辨真假。

“其实关于这个问题也是有争议的，其实在业界本身也有一种观点，认为人工智能生成物不属于人类智力成果，不应当给予版权保护，对此我持赞同意见。”黄小洵向封面新闻记者解释道。但当前存在很大的问题，是人工智能生成内容被商业化运作该怎么办？“这种情况是不是可以通过版权保护来实现相关经济利益的合理分配？我认为如果这样认定，将打破版权法只保护智力成果的法律设定。更何况对AI内容生成物的创作者到底是AI内容生成工具的提供者还是工具使用者？使用者到底在AI生成的作品中提供多少创造性？现在都是不确定的。”

黄小洵认为，如果把这种简单输入指令生成内容就称之为创作，将可能极大压缩人类未来自身的创作空间，对人类自主创作的发展其实是不利的。“从这一点来讲，如果给人工智能生成内容给予版权保护，可能会违背版权法产生的目的，即通过给予创作人更多经济利益的保护，希望创作人能够创作出更丰富文化成果的初衷，也使得版权制度合理性受到冲击。”

毫无疑问，AI生成不雅照并进行传播，是一种滥用人工智能技术的行为。对此，在我国当前的法律和监管层面是否有相关的保护举措，这些举措是足够有效的吗？

“首先这是两个概念，比如在泰勒·斯威夫特AI照片事件中，相当于是有人恶意泰勒此前的作品进行再创作。这类事件在我国的版权法中，其实有相关规定，我国版权法赋予作者享有保护作品完整权，也就是任何人不能歪曲、篡改他人创作的作品。所以以不雅的方式对已有作品进行再创作，这种行为本身从版权法角度来讲，就已经侵犯了原作者的保护作品完整权。”

黄小洵还指出，其次泰勒AI生成不雅照在传播当中，属于淫秽作品的传播行为，这个也在我国的传播立法中明确禁止的。“创作是一回事，传播又是另一回事。”

如果创作者创作的就是一个色情作品，能不能受到著作权法的保护呢？黄小洵直言，只要这个色情作品具有独创性，就会受到著作权法保护的。“但它不能以任何方式进行传播，否则就违反了我国禁止传播淫秽作品的相关法律。”

对于泰勒·斯威夫特AI生成不雅照事件若发生在中国，其中涉及的两个行为，都落入现存的法律规定的控制范围之内，现行的措施也是可以足够有效控制相关非法行为的。

然而，这些防止AI、识别AI的技术手段是治标不治本的，对AI深度伪造只能起到有限的阻止、震慑作用，在黄小洵看来，深度伪造技术的泛滥根源之一在于高额利润回报。制造传播这些深度伪造图片、视频者可能从中获得高额回报，即便国家法律认定AI深度伪造不合法，也无法阻止逐利者继续滥用这一技术。

针对此类事件，社交媒体平台和内容分享网站应该如何加强内容审核和用户行为规范，以防止类似事件的发生？“我认为相关AI软件在使用前，是不是可以通过合同的方式来进行使用者行为的限制，比如使用者在使用软件过程中，对作品版权进行限制，如果用AI生成了作品，可以要求使用者不能够进行商业化、不得生成违法作品等条款，通过对生成内容进行预先设定，以合同的方式来限制他人对原作品的滥用。”黄小洵说道。

电子科技大学公共管理学院副教授、英特信律所律师黄小洵

在AI与公众社会融合越广越深的当下，如何进一步提高公众对人工智能伦理和安全方面认知？“去培养用户的相关意识是非常有必要的，因为我们现在面临与AI相关的领域越来越多，很可能个人就成为AI作品的创作者。在相关技术发展的过程当中，我们其实有一个认知，如果回溯版权法的整个发展历程，每当面临新的技术，就会产生新的作品形式，公众其实都会产生一种新的法律认知。”黄小洵告诉封面新闻记者，当前非常有必要来提高公众对AI相关产品使用的法律意识，因为人工智能涉及的问题很广，比如我们用AI在进行学术研究过程中，同样会引发相关的伦理问题，但很多AI工具的使用者法律意识都是很模糊的。

对AI技术的管控，显然不能仅停留在倡议阶段，规范的立法和相应的惩处制度的推行也迫在眉睫，AI技术不是洪水猛兽，但确实需要一个能约束它的铁笼，对此，黄小洵直言法律是有滞后性的。“在法律相对滞后的情况下，我认为各方应该携手去出台一些倡议书或者公约，以这种方式来共同促进AI生成工具更好地为用户服务。”当然媒体在适当的时间节点进行相关内容的宣传科普也是很重要的，在黄小洵看来，这是全行业彼此之间应该共同为之努力的事情。“协同合作，加大公众对相关问题的认知，最终实现各方利益的平衡。”