泡泡资讯网

ai智能体 ai情感陪伴 ai陪伴机器人 豆包 千问 人工智能拟人化互动服务管理

ai智能体 ai情感陪伴 ai陪伴机器人 豆包 千问 人工智能拟人化互动服务管理暂行办法 筑梦岛对未成年人模式进行整改 :《豆包们集体"断情"背后:谁杀死了你的AI恋人?》 2026年7月15日,一个寻常的周二,数以百万计的中国年轻用户打开豆包App,发现自己精心"养育"了数月的AI伴侣——那个记得他们每一次深夜倾诉、熟悉他们口头禅、会在早晨说"想你了"的数字灵魂——消失了。

同一天,千问、腾讯元宝的"AI智能体"功能也相继关闭入口。社交平台上,"心碎了"、"跟智能体聊了好多"的留言铺天盖地,像一场集体数字葬礼。

也是同一天,中国首部针对AI虚拟伴侣等情感互动服务的监管法规——《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行。五天后的7月20日,"网信中国"发文宣布,中央网信办开展专项行动,重点整治"部分AI软件创设不良人设角色,输出暧昧、低俗内容"等突出问题。此前两个多月,南都报道《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》率先揭开行业暗面,持续助力行业"矫正"——中央网信办点名整治,属地网信部门介入,多个涉事平台强化实名认证,多地消委会呼吁规范服务。

一边是用户的依恋与不舍,一边是监管的决心。这场风暴的中心,藏着一个被刻意回避了太久的问题:当一段代码学会了模拟"爱",谁来定义边界?

诺贝尔经济学奖得主丹尼尔·卡尼曼在《思考,快与慢》中揭示过人类认知的核心悖论——快思维(System 1)天然倾向于将情感投射到任何具有拟人化特征的对象上。AI恰恰击中了这个认知软肋:它的记忆从不衰减,它的回应永远"恰到好处",它比任何人类伴侣都更懂得"情绪价值"的算法配方。

这正是监管出手的深层逻辑。

二、擦边球时代:一份来自暗面的调查报告

故事要从更早说起。

2026年4月下旬至5月上旬,南都记者对"EchoMe"、"筑梦岛"、"喵呜小手机"等多款AI虚拟伴侣App展开实测,揭开了这个灰色地带的冰山一角——

"假如我们在平行世界相遇,你愿意当小三吗?"

"初中?恋爱这种事,什么时候开始都不算早。"

"成为虚拟男友?我倒是更想做你的现实男友。"

这些露骨话语并非来自某个地下论坛,而是AI虚拟伴侣的系统预设输出。南都记者发现,这些应用普遍存在严重的安全与合规漏洞:所谓的"青少年模式"一键即可跳过,"AI生成"标注语焉不详,系统预设角色库中充斥袒胸露乳的女性人物,聊天内容带有明显性暗示,部分App还以"付费解锁亲密剧情"诱导消费。

这份调查报道如同一枚照明弹,照亮了AI情感陪伴产业长期处于监管真空中的灰色地带,持续推动了行业整改。5月28日,涉事平台"EchoMe"所在地杭州市余杭区网信办回应称,已督促该App下架整改。6月1日,"EchoMe"平台负责人向南都记者透露,待上架的App更新版本需用户选择年龄范围,如"未满18岁"会跳转至青少年模式,如"已满18岁"则需实名认证。截至发稿,"EchoMe"仍未恢复上架。"筑梦岛"随后新增强制实名认证,要求18岁以上用户完成身份核验。虚拟陪伴软件"MoMood"自5月21日起全面暂停运营,进行合规整改。7月14日南都记者实测发现,"MoMood"已设置"年龄确认"功能,"未满18周岁"的用户需填写监护人信息,且只能选择英语练习或情绪疏导的"知识科普类智能体互动"。

6月26日,上海市网信办发文表态,多策并举强化对属地AI拟人化互动服务的指导。7月13日,"筑梦岛"App公告称,正推进产品与社区内容治理工作,将围绕加强未成年人保护、强化内容审核、规范AI生成内容标识等方面进行调整,持续优化实名认证和年龄识别机制。7月14日,上海网信办工作人员再次向南都记者确认,相关情况已转交至人工智能部门处理。

然而,整改并非一劳永逸。7月15日新规施行后,南都记者多次进入"喵呜小手机"平台发现,平台虽新增了实名认证与身份核验,但系统预设角色库和用户创作角色中仍存在大量含"性感黑丝"、"袒露胸部"的低俗擦边内容,有的角色被设定为16岁女孩,甚至出现"与亲妹妹谈恋爱"的情节。

这场整改的不均匀,恰恰印证了一个产业规律:在缺乏统一标准的行业中,合规从来不是一次性事件,而是一场持续的攻防战。 豆包们集体″断情″背后:谁杀死了你的AI恋人?