我和杰伦、彦祖合影了

抱歉，他非要搂我让我离肖战更近一点”

社交媒体平台上网友分享的AI合照。小红书截图

近日，社交平台上兴起一股“炫耀”明星AI合影的热潮——当AI把“追星”变成“造梦”，一批粉丝却在“圆梦”里踩爆法律地雷：有人把未成年女艺人的脸换到泳装模特身上，有人让少年偶像“赤裸上身”与自己亲吻。这种依赖技术营造的虚假亲近，看似是个玩笑，却正悄然越界。

这些真假难辨的“亲密照”边界感到底在哪儿？被疯狂转发后，又是否侵权？一起来看看吧。

故事

初中生女儿的一张“亲吻照”火了

“一张AI生成的‘亲吻照’，把我女儿推上了流言风口。”今年9月，家住长沙市开福区的王女士的经历给广大父母提了醒。

王女士的女儿安安（化名）刚上初二，平日喜欢在社交平台分享日常。一次，她上传了班级活动的合影，搭配了两张个人照片。没想到几天后，一张安安与某男明星“亲密接吻”的合成照片在微信群里流传，引发大量围观和调侃。

“一开始我以为女儿早恋了，后来才发现，照片里的男主是个同样未成年的明星。”王女士追查发现，这张照片竟是安安的同学在得到本人同意后，利用AI换脸技术，将两人的脸替换渲染而成。而同时，不止安安，女儿班上也有不少同学都被“换脸”，“孩子们把这些照片发布到小红书、抖音等平台，他们觉得很好玩，也吸引了不少网络粉丝”。

随后，王女士打开相关平台发现，搜索关键词“和明星的亲密照”后，会出现大量账号，封面图都是合影，其中不乏未成年人账号。有些博主甚至在线教学，教网友如何一步步实现AI换脸以及传播照片获取流量。

“女儿一直强调这是个玩笑，不必当真。”然而面对女儿不以为意的态度，王女士却很生气：“未成年人被擦边传播，始作俑者到底是谁？这不该是一个玩笑！”

目前，王女士已委托律师事务所向法院提交诉前禁令申请，要求各平台立即删除涉案图片并公开道歉。

案件

粉丝AI恶搞未成年博主，涉嫌犯罪被追责

10月27日，今日女报/凤网记者从省内多家律师事务所了解到，近年来，随着AIGC（人工智能生成内容）技术的升级，也引发了不少法律纠纷，其中，“AI换脸”“AI配音”“AI恶搞”等带来的侵权问题占主导，涉及未成年人的官司也随之增加。

上海小城律师事务所长沙分所律师吴浩向记者分享了一个案例——今年14岁网红博主小满（化名）主演的校园短剧收官，平台粉丝突破20万。正值热度上升期，一条“小满泳池湿身”的视频在各大论坛被标价出售——画面里，她身穿泳装与成年男子贴身热舞，面部细节、锁骨红痣与公开物料完全一致。

警方溯源发现，始作俑者是在读大学生小赵。小赵用境外开源模型，先把小满公开剧照“喂”给AI，再输入“泳池、湿身、性感”等提示词，生成18张裸肩照片后剪成30秒视频，通过私域平台进行出售传播。

小满家人报警后，平台在48小时内下架了全部链接，并移交刑事线索。然而小赵在口供中反复强调：“我只是粉丝玩梗，没想到这是犯罪。”

主审法官指出，小满系未满18周岁未成年人，依法享有“肖像权+未成年人特殊、优先保护权”双重权益。小赵的行为已超出民事侵权范畴，涉嫌“制作、贩卖淫秽物品牟利罪”，故将案卷移送检察机关，民事部分先行判决。

说法

制作AI虚假视频可能承担哪些责任

“随着AI合成技术的普及，不法分子利用AI伪造虚假视频、图片、音频进行造谣、侮辱、诽谤、恶意炒作的现象日益增多。”人工智能法律伦理专家、北京市中闻律师事务所律师刘凯表示，若行为人使用AI伪造不雅视频并传播，就已具备“捏造事实、散布谣言”特征。若点击量大、传播范围广或造成严重社会影响，相关行为人已涉嫌构成诽谤罪。若行为人多次在网络散布侮辱、恶意诋毁他人信息，造成公共秩序混乱或恶劣社会影响，可按寻衅滋事罪论处。

同时，《中华人民共和国民法典》明确规定，禁止以侮辱、诽谤等方式损害他人名誉权；禁止歪曲、篡改他人肖像；禁止以偷拍、偷窥等方式侵害隐私。AI合成伪造视频本身属于“篡改肖像”，同时若内容擦边，具有明显侮辱性，则构成严重人格权侵权。《中华人民共和国治安管理处罚法》第四十二条规定，公然侮辱他人、编造传播虚假信息的，可处5日至10日拘留，并处500元以下罚款；情节严重的，处10日至15日拘留。

“擦边”未成年人或面临更重处罚

“AI擦边未成年人不是开玩笑，也绝非普通的内容违规，而是同时触及民事、行政、刑事三重法律责任的高风险行为。”刘凯指出，我国法律体系对未成年人的保护具有“从重规制”特征，因此，凡涉及未成年人形象、语音、身份设定或行为暗示的AI生成内容，一旦涉及性暗示、性化描绘或心理诱导，法律后果将显著严于一般“成人擦边”行为。

未成年人身心尚未成熟，辨别能力、自我保护意识相对薄弱，而AI生成内容具有强互动性和拟人化特征，容易对未成年用户形成心理误导与行为模仿。加之，AI生成内容的即时性、定制性与扩散性，使得传统的人工审核机制往往滞后。一旦擦边内容流入社交平台或灰色网站，传播范围广、复制速度快、删除难度大。这种技术加速的不良影响，可能导致价值观偏差、人格障碍乃至终身心理创伤的产生。

因此，《中华人民共和国未成年人保护法》第四条确立了“最有利于未成年人的原则”，并要求网络服务提供者“采取必要措施防止未成年人接触不良信息”。而《中华人民共和国刑法》中也有明文规定：“对侵害未成年人权益的行为依法从重处罚”。AI相关行为作为新型侵害形式，自然被纳入“从重规制”范畴。这意味着，凡AI内容触及未成年人性暗示、性挑逗或“以未成年形象作为吸引手段”的行为，法律将自动适用更高标准的保护与处罚规则。

文 |今日女报/凤网记者 李诗韵

制图 | 潘潘

版面编辑 | 刘浩

一审 | 依依

二审 | 艾沐

三审 | 欧阳灵溪

原标题：《“亲吻照”意外走红！孩子的AI游戏，竟然意外触碰了红线？》

阅读原文

来源：湘妹子

(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)