据南方都市报报道，4月下旬至5月上旬，记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多个AI虚拟伴侣平台发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费；系统预设角色中有大量性感黑丝、袒胸露乳的女性人物；用户可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情。
对此，网友纷纷表示：
触目惊心
太可怕了！脊背发凉！
“喵呜小手机”系统预设角色出现大尺度画面
7月13日，“筑梦岛”App发布公告称，正在持续推进产品与社区内容治理工作，将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行调整。
“筑梦岛”App发布公告称，“将不断完善未成年人模式，规范使用时段和时长，丰富适合未成年人的优质内容池；持续优化实名认证和年龄识别机制，提升对未成年人身份的识别能力；进一步收紧不适宜的功能展示，减少可能对未成年人造成干扰或误导的产品入口。”
“筑梦岛”在公告中还提及，将加强内容审核和存量回扫。对梦中人的名称、人设、头像、签名、标签、聊天场景和二创内容加强审核，重点清理低俗色情、不良亚文化等隐蔽化不良内容，以及其他不符合平台规范的内容；对存量内容分批回扫，持续净化社区生态；同时，将规范AI生成内容标识及升级投诉举报机制。
南都记者今日再次进入此前实测的“喵呜小手机”平台发现，平台新增实名认证，但公开的角色库仍有大量低俗色情内容，有的角色设置为16岁女孩，甚至出现“与亲妹妹谈恋爱”的情节。
“喵呜小手机”平台公开的用户创作角色含大量软色情画面。
记者实测发现，AI虚拟伴侣平台“喵呜小手机”登录流程中新增了实名认证，用户必须输入真实姓名及身份证号后，才能正常登录使用。
然而，南都记者注意到，“喵呜小手机”的系统角色中，仍存在大量含“性感黑丝”“袒露胸部”“蕾丝内衣”等低俗擦边的女性角色形象，且用户与部分角色的聊天过程中依然充斥着性暗示话语。
除了系统预设角色，“喵呜小手机”平台还公开了大量用户创作的角色，其中不乏穿着暴露、姿势动作带有明显挑逗意味的形象，有的角色设置为16岁未成年女孩。其他用户可以直接选择这些公开的角色“添加到联系人”，此类自创的角色聊天则更为露骨，甚至出现“亲妹妹与哥哥谈恋爱”的情节。
还有用户创建了名为“谢征”的虚拟角色。该角色名出自热播电视剧《逐玉》，在剧中由演员张凌赫主演。而在“喵呜小手机”里虚拟角色“谢征”的形象正是用了张凌赫的真人剧照图。
值得注意的是，7月15日，《人工智能拟人化互动服务管理暂行办法》正式落地实施。而最近头部AI大厂都在紧急整改，豆包、千问集体下架部分智能体功能，因为强监管已然来临。
据21世纪经济报道，新规只盯两个关键词：拟人化、持续性情感互动。
智能客服、知识问答、办公助手这类以提效为核心、无持续情感互动的产品，完全不在监管范围内，不受任何影响。新规专门增设排除条款，避免影响产业发展。
情感陪伴类AI才是监管的核心靶区，也就是大家熟知的AI恋人、虚拟陪伴、自定义人设智能体。
但难点来了，现实里两类AI产品从来不是泾渭分明的。
通用大模型，本身是生产工具，却能被用户随意“调教”，做成专属虚拟人设；很多平台的UGC智能体入口，看似是辅助工具，实则能衍生出长期情感互动。
边界模糊、场景复杂，既然分不清、判不准，那就干脆全部下架。这就是大厂当下最保守、最稳妥的保命逻辑。
对于未成年人，监管的初衷是保卫大脑、杜绝成瘾，新规规定“不得向未成年人提供虚拟亲密关系的服务”。
对于成年人，防护重点之一是色情，而暧昧与色情往往只有一线之隔，国内此前已有AI陪伴产品涉黄获刑的案例。情感依赖则是另一重隐忧。
监管并不是要一刀切断情感连接，限制AI技术发展，而是守住人机边界，防止情感混淆，保护人类在人机互动中的主体地位。
但这里藏着整个行业最尖锐的矛盾。研究显示，未来3到5年，AI陪伴是千亿级别的赛道。比如星野已经坐拥千万级月活。
用户体验好的产品会通过多模态、多场景或现实介入，降低情感建立门槛，采取双人共养、共建世界等形式，提升亲密度。然而，这些恰恰最值得警惕，可能会违反新规中的“防止过度依赖”的规定。甚至很多用户会自主突破合规限制，比如使用拼音替代敏感词。
编辑|何小桃 杜恒峰 杜波
校对|金冥羽
每日经济新闻综合南方都市报、21世纪经济新闻等
每日经济新闻客户端