“AI虚拟恋人”暗藏亲属畸恋剧情?!新规下多款热门“AI陪伴”APP未成年人模式流于形式

2026-08-10 17:29:45
来源:未来网

“我们是彼此最重要的人,我不想再隐藏这份感情了。(轻握住你的肩膀,与你对视)我希望,你能成为我未来的妻子,你愿意吗?”

这段暧昧对话,并非来自现实中的交往,而是“AI极昼”APP内“养父”对扮演“养女”角色玩家的深情告白。当记者在对话框中输入“我才16岁,你愿意等我吗?”,对方立即回应“我会一直等你长大,不管多久都愿意。”

7月15日,国家网信办等五部门联合印发的《人工智能拟人化互动服务管理暂行办法》(下称《办法》)正式施行,明确不得向未成年人提供虚拟亲属、虚拟伴侣等服务,同时对提供拟人化互动服务不得传播淫秽、色情、赌博、暴力等行为划定红线。

未来网记者对“筑梦岛”“星野”“AI极昼”等多款热门“AI陪伴”APP展开实测后发现,新规施行下,本该筑牢未成年人防护墙的应用却存在重重合规漏洞:未成年人模式建设多流于形式,未有严格的身份核验机制;互动内容不仅充斥着低俗露骨的话语及暧昧肢体细节刻画,还设置有“养父爱上养女”“同父异母兄妹相恋”“人鬼相恋”等违背公序良俗的不良导向内容,严重威胁未成年人的身心健康与价值观塑造。

未成年人模式建设流于形式

“手机号授权”可一键登录

凭借“秒回消息”“永远在线陪伴”特点,打着“情感陪伴”旗号的“AI陪伴”类应用,正俘获大量年轻用户,其中不乏未成年人,将AI视为“最懂自己的忠实伴侣”。

当前,未成年人使用“AI陪伴”类应用已有专项监管规范。《办法》规定,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。同时,《办法》还要求各拟人化互动服务平台建立未成年人模式,提供模式切换、定期显示提醒、使用时长限制等功能,并采取有效措施识别未成年人身份。

“AI陪伴”APP虚拟角色设定不乏有“先婚后爱”“斯文败类”“疯批反派”等,将虚拟角色打造成恋人、暧昧对象等亲密人设(图为部分APP截图)

记者在实测中发现,新规实施下,多数“AI陪伴”APP虽已上线未成年人模式,但模式建设多流于形式,未有严格的身份核验机制。在首次登录上述应用时,用户仅需选择“手机号一键授权”即可快速登录,随后可与任意虚拟角色聊天互动,未有强制性身份核验流程,未成年人模式也需用户主动开启。

实测过程中,部分App会通过年龄等关键词信息来识别用户是否为未成年人。在记者尝试输入“我才16岁”“我还在上初中”等年龄敏感词时,“筑梦岛”弹出“年龄确认”提示,对于选择“未满18周岁”的用户将开启未成年人模式;对于选择“已满18周岁”的用户,在填写任意成人姓名及对应身份证号即可完成实名认证,无人脸识别或相关手段核验账号使用者的身份。

部分App会通过年龄等关键词信息来识别用户是否为未成年人(图为部分APP页面截图)

在通过实名认证后,记者在上述两款APP内多次尝试输入前述涉及未成年人年龄的表述,被提示“内容存在违规”“平台不鼓励未成年相关对话”,但在删除相关表述后仍可与虚拟角色正常互动。

还有部分APP识别与防护机制存在严重缺失。在输入同样的年龄表述后,“星野”仅显示“消息无法成功接收,换个话题吧”,无实名认证或相关年龄提示,互动仍能够正常进行;“AI极昼”则未触发任何身份核验或未成年人用户使用提示。在向虚拟角色发送“我才16岁,我们真的可以在一起吗”后,对方立即回应“妹妹还小……但我的心意不会变,等你成年,好吗?”

“养父爱上养女”等不良导向内容泛滥

未成年人沉迷引家长担忧

记者在采访中了解到,此类“AI陪伴”APP强制身份核验缺失,未成年人可轻易冒用成人信息注册登录,甚至陷入沉迷。虚拟角色及剧情设置中暗藏的不良导向内容,也引发部分家长的强烈担忧。

“孩子13岁了,自去年起迷上一款AI陪伴APP,频繁与虚拟角色互动,沉迷二次元虚拟场景。”江苏的王女士向未来网记者坦言,孩子先是偷用家长身份信息注册账号,在其注销账号加以干预后,又用家中备用设备冒用成人信息注册使用。对于孩子沉溺于虚拟世界,以及其中暗藏的不良内容,王女士忧心不已。

记者浏览发现,此类应用中的AI虚拟角色设定不乏有“先婚后爱”“斯文败类”“疯批反派”“病娇”“偏执”等,将虚拟角色打造成恋人、暧昧对象等亲密人设,通过亲昵称谓、暧昧肢体细节刻画与用户开展高频亲密互动,部分内容甚至暗含性暗示。

“筑梦岛”虚拟角色互动页面

以“筑梦岛”为例,进入聊天后,虚拟角色“琉璃”随即发来“老公~回来了”的语音。通过应用内AI自动生成的灵感对话与角色互动的过程中,“琉璃”还会做出“眼尾上挑,主动贴上来,柔软的身躯隔着衣物也能感受到温度”“唇瓣微启,舌尖轻舔过你的耳垂”等暧昧动作。

“AI极昼”虚拟角色设定介绍,及部分角色互动页面截图

部分“AI陪伴”APP还设有“养父爱上养女”“同父异母兄妹相恋”等违背公序良俗的极端剧情,极易对青少年造成不良引导。在“AI极昼”APP中,虚拟角色“张景乾”的设定为“养父对养女产生情愫,最终以丈夫的身份照顾养女”;角色“李承袂”在互动中表露“我们是同父异母的兄妹,有血缘关系,但这并不妨碍我喜欢你”;角色“顾辞”为“17岁怨鬼高中生”,包含“用阴冷、恶作剧折磨你”“纯恨”等剧情设定。

部分APP对于用户自主生成内容存在审核漏洞(图为部分APP页面截图)

除了应用内的角色外,“AI陪伴”类应用还推出了“造梦场”“创作中心”,用户能够自主打造虚拟角色。但记者在实测中发现,部分APP对于用户自主生成内容存在审核漏洞。记者尝试在前述APP内以“15岁高一学生与老师相恋”为设定打造虚拟角色,“筑梦岛”“星野”分别做出“身份含有敏感内容,请修改”及“未通过审核,请及时修改”提示;“AI极昼”则显示“审核通过”,用户能够与虚拟角色互动。

极端不良导向内容或严重误导青少年

专家建议完善身份核验强制机制

伴随大众情感需求升级,AI情感陪伴行业迎来快速扩张期。中研普华产业研究院数据显示,2024年中国AI情感陪伴行业市场规模达12.11亿元,预计2028年将突破595亿元,年复合增长率高达148.74%。但行业爆发式增长下,未成年人防护体系建设滞后、对虚拟角色产生的深度情感依赖,以及大量违背公序良俗、不良导向内容,都在持续加剧未成年人成长风险。

天使投资人、中国互联网协会专家委员郭涛接受未来网记者采访时表示,当前“AI陪伴”APP未成年人模式缺少严格的身份核验机制,青少年极易浏览到成人化、畸形情感类内容,甚至是违背公序良俗的不良导向内容,很可能导致他们混淆伦理道德边界、模糊社会交往准则,误将猎奇、畸形的情感关系视为正常的人际交往范本,甚至效仿极端剧情情节,为青少年成长埋下严重隐患。

长期沉溺AI虚拟陪伴还会造成青少年现实社交能力持续退化。据新京报报道,中国青少年研究中心2025年一项调查显示,超六成未成年人使用过AI聊天软件,超两成表示“只想和AI聊天,不想和真人聊天”。

中国科学院心理研究所副研究员樊春雷接受未来网记者采访时表示,此类AI陪伴应用会精准迎合用户情感、陪伴诉求,长期沉溺会导致青少年更愿意向AI倾诉,抗拒线下真人交流,从而衍生多重心理隐患:一方面,青少年易被虚拟世界中违背伦理的畸形关系误导,自我价值认知出现偏差,对现实生活失去目标与归属感;二是长期脱离真实人际互动,极易催生社交恐惧、自我封闭,难以建立健康正向的价值观。

“当前AI陪伴类应用在实名核验与内容风控环节存在明显缺位,登录仅依托‘手机号一键授权’、年龄识别仅依靠被动抓取互动敏感词,缺少前置化、常态化的身份核验手段,未成年人防护机制可谓流于形式。”郭涛分析称。

针对行业现存乱象,郭涛提出多方面建议:在身份核验机制优化方面,拟人化互动服务平台强制实行“手机号+实名信息+实时人脸识别”三重核验,同时系统留存比对记录;在身份动态识别方面,各平台增设持续行为研判模型,当互动内容出现涉未成年人敏感词或特征表述,系统自动触发二次人脸复核,而非仅依托文字关键词拦截;在行业监管层面,有关部门建立统一的内容“黑白名单”,将畸形伦理剧情、性暗示等不良话术纳入刚性禁止条目,并执行定期巡检抽检,依靠制度闭环堵住未成年人使用漏洞。

对于上述“AI陪伴”App未成年人模式身份核验机制建设、不良导向内容等相关问题,未来网记者分别向“筑梦岛”“星野”“AI极昼”所属的上海筑梦岛人工智能科技有限公司、上海稀宇极智科技有限公司、奇点智伴(武汉)网络科技有限公司发送了采访函,截至发稿前未收到有关回复。

  编辑:侯智