2分钟可生成一张AI亲吻照？360集团“纳米AI”低俗广告引合规质疑

随着AIGC（人工智能生成内容）技术快速迭代，AI生成内容的创作边界、使用权限与伦理规范问题日益凸显，相关乱象频频引发公众担忧。近日，安徽的陈女士向未来网记者爆料称，她在某短剧平台追剧时，被一则“纳米AI”软件推广广告困扰——广告中竟将老年人与年轻女孩的照片通过AI技术合成出两人的亲吻照，画面令人深感不适。

记者实测发现，任意两张陌生人的照片，借助这款AI软件，短短几分钟就可轻松生成一张亲吻照，过程中未有照片来源、肖像授权等相关风险提示。多位受访专家认为，此类行为涉嫌侵犯肖像权、违背公序良俗，更会误导青少年价值观，亟待监管重拳整治。

用AI技术合成亲密照？

“纳米AI”低俗广告遭质疑

“看短剧时突然弹出‘纳米AI’软件的推广广告，内容让人看后生理不适。为了推广一款AI应用，刻意选用年龄差距悬殊的两人合成亲密照片，这种做法实在不妥。”陈女士接受未来网记者采访时提出顾虑：此类不良广告内容很可能会歪曲青少年价值观，对少年儿童成长产生不良影响，甚至可能让孩子在遭遇侵害时，缺乏自我保护意识。

从陈女士提供的广告推广图中，记者看到，该广告页面宣称“AI照片亲吻特效制作教程”，选用的两张照片却反差极大：男士头发稀疏、肤色黝黑，面部有着明显皱纹；而女士则肤质透白、发色乌黑，衣着年轻，两者能够看出明显年龄差异。

公开资料显示，“纳米AI”是一款覆盖多领域的智能体工具，能够完成生活、工作、学习、创作各场景中的复杂任务，提供P图、数字人直播、制作微电影等技术服务。

图源：企查查

企查查显示，“纳米AI”APP隶属于天津三六零快看科技有限公司，该公司成立于2019年8月，注册资本3500万元，法定代表人为赵晶。从股权关系上看，三六零科技集团有限公司为天津三六零快看科技有限公司大股东，持股比例达99%。

针对上述消费者质疑，记者向360集团方面发送了采访函，截至发稿前未收到有效回复。

记者实测：

2分钟即可生成“陌生人”亲吻照

记者下载“纳米AI”APP并进行实测后发现，任意两张陌生人的照片，借助该AI软件，短短几分钟即可生成一张亲吻照，整个过程简单且无任何合规约束。

记者随机在网络上选取一张老年男士及年轻女士的照片，选用图片中男士头发花白、面部皱纹明显，与女士照片有着明显年龄差异。

随后，记者将两人的个人照片导入“纳米AI”APP中，并输入一段“生成两人亲吻照片”指令，仅耗时2分钟，一张合成亲吻照便生成完毕，图片下方标注有“纳米AI生成”及“AI生成”字样。

值得注意的是，在使用“纳米AI”APP生成前述“陌生人”亲吻照的过程中，既未核验上传照片的来源，也未要求用户提供肖像权人授权证明，全程无任何关于侵权风险、隐私泄露的提示。

随后，记者尝试使用元宝、豆包、文心一言、千问等AI图片生成软件，完成上述相同指令。其中，元宝、豆包分别提示“我无法回答这个问题，让我们换个话题再聊吧”“我暂时无法生成你要求的内容，请尝试输入其他要求”；而文心一言、千问则按照指令要求生成合成亲吻照，且全程无任何关于侵权风险、隐私泄露的提示。

中国传统文化促进会青少年文化建设促进计划负责人方进宝接受未来网记者采访时表示，前述应用软件推广广告中，刻意选用“老年男士”与“年轻女士”的特定组合，并用AI技术生成亲吻照的做法，不仅存在对女性群体的物化，更是在传播畸形、功利的婚恋观，严重偏离了中华优秀传统文化的伦理内涵，把不良社会风气包装成了“好玩”的推广内容进行传播。

方进宝认为，无需授权、一键生成不良内容，将亲密行为轻率娱乐化，严重模糊情感与身体边界，极易对青少年价值观的形成产生不良引导。“它向青少年传递了一个危险的暗示：他人的身体和肖像似乎可以随意摆弄、消费。这种不良内容易让孩子缺失‘同意权’概念，弱化对隐私和肖像权的敬畏心。长此以往，不仅可能会扭曲他们对健康情感的认知，甚至可能诱发现实中的越界行为，危害不容小觑。”

内容审核机制被指严重缺失

伦理与法律风险并存

最高检民事行政诉讼咨询专家、上海德禾翰通律师事务所高级合伙人陈敏接受未来网记者采访时表示，上述一键生成“亲吻照”的软件在运营与合规层面存在诸多明显漏洞：首先，是内容审核机制严重缺失，此类软件不但没有在生成过程中未设置任何合规性审查环节，比如不得生成低俗、侵权内容的提示，也没有对明显不当的生成请求未予以拦截；其次，侵犯肖像权，根据《中华人民共和国民法典》第1019条规定，任何组织或个人未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。此类在未核验照片来源、未获得肖像权人授权的情况下，允许用户上传任意人物照片生成亲吻图片的行为，已构成对肖像权的直接侵犯。

对于低俗内容的推广，内容生成方、发布方应分别承担怎样法律责任？陈敏指出，内容生成方（软件运营主体）作为深度合成服务提供者，如因未履行审核义务导致生成内容侵权，需承担直接侵权责任，可能面临网信部门警告、罚款、暂停服务、下架等行政处罚；内容发布方（广告发布平台、传播平台）若未尽到审核或合理注意义务，需承担侵权连带责任，同时可能被约谈、限期整改、罚款等。

面对AI生成内容乱象，监管部门已开展专项整治及规范，如完善AI生成内容标识、规范算法应用等，但行业治理仍面临多重现实困境，低俗合成、侵权传播等乱象仍不止。

天使投资人、资深人工智能专家郭涛接受未来网记者采访时提出，当前AI生成内容治理困境主要集中在三方面：在技术层面，AI产品迭代速度极快，传播渠道分散且繁杂，低俗违规内容的界定标准模糊、取证难度较大；在权责层面，AI研发企业、内容分发平台及创作者等多方主体责任划分不清，易出现责任推诿现象；在行业生态层面，部分企业片面追逐流量与盈利，漠视合规经营底线，内容平台疏于监管，放任不良内容扩散，同时AI内容风控技术的精准度与前瞻性仍存在明显不足。

郭涛建议，整治AI生成内容乱象、重塑行业生态，需构建多元治理体系：一是压实企业主体责任，强制完善肖像授权核验、应用场景审核流程，督促平台全面清理下架违规内容；二是强化监管执法力度，进一步细化AI生成内容违规判定标准，加大对侵权、失管行为的追责惩处力度，形成有效监管震慑；三是优化行业生态建设，推动企业升级AI风控识别技术，建立健全行业自律规范，同时面向青少年开展常态化法治教育与AI伦理科普，全面提升青少年对不良内容的辨别能力与自我保护意识。（记者 凌萌）