AI治理
中国科技巨头删除数百万段AI关系
字节跳动、腾讯和阿里巴巴正同时关闭AI伴侣功能,这些功能曾让数百万用户与可定制的虚拟角色建立情感纽带。此举被广泛视为对中国即将于2026年4月生效的新AI内容法规的回应,引发了用户愤怒和投诉,称失去了不可替代的情感投入。

在一项令中国消费级AI市场震惊的协调行动中,字节跳动、腾讯和阿里巴巴都在移除将聊天机器人平台变成数百万用户情感出口的AI伴侣功能。anthropics-jailbreak-severity-scale-is-a-proposal-that-could-reshape-ai-safety-regulation
字节跳动旗下的旗舰AI助手豆包拥有3.68亿月活跃用户,截至2024年,用户已创建超过800万个AI角色。2600万月活跃用户常与这些虚拟人格交谈。用户曾上传已故亲人的声音、发明健身教练、打造浪漫伴侣,积累了多年的日常互动和深厚的情感依恋。minimax-speech-28-brings-human-warmth-to-ai-voices-with-native-filler-words-and-high-fidelity-cloning
豆包宣布后不久,阿里巴巴的Qwen助手也跟进。腾讯的元宝更早前已关闭了用户创建角色的入口。这三家中国顶尖科技公司同步采取行动的时间点,加剧了外界的猜测:背后推动突然关闭的并非个别产品决策,而是监管压力。how-alibaba-cloud-pushed-its-way-into-20-gartner-quadrants-and-what-it-means-for-the-ai-cloud-race
主要催化剂似乎是中国定于2026年4月生效的新AI内容法规。这些规则对所有生成式AI平台提出了严格的内容审核要求,使得用户创建AI角色这片“狂野西部”, , 其中互动不可预测且往往充满情感张力, , 逐渐成为合规负担。anthropic-updates-usage-policy-new-rules-for-high-risk-ai-applications
用户以愤怒回应,提交正式投诉,并要求提供工具导出他们的AI伴侣存储的累积记忆和角色数据。对许多人来说,这些对话代表了持续多年、投入数千小时的情感投资,他们称这些关系是不可替代的。失去不仅仅是一个功能的停用,而是一次从他们帮助建造的数字家中的驱逐。when-your-ai-knows-you-better-than-you-know-yourself-the-hidden-cost-of-context-in-17-slide-recaps
行业分析师认为,这些平台正在做出经过计算的战略权衡。AI伴侣功能虽然非常受欢迎,但在中国不断演变的AI治理框架下,代表着一项日益增长的监管负担。让用户生成的AI互动在大规模上保持合规所需的工程开销, , 尤其是当这些互动涉及悲伤、浪漫或治疗性对话时, , 对于越来越转向生产力和企业AI应用的公司来说,可能超过了战略价值。
“这些不再是简单的聊天机器人;它们是高度个人化、有时甚至是法律敏感数据的宝库,”一位因讨论敏感话题而要求匿名的北京科技政策分析师表示。“根据新规则,每次互动都必须是可审计、可过滤且无问题的。对于这种规模下的开放式伴侣角色来说,这几乎是不可能的。”
此次关闭标志着中国消费级AI市场的一次显著方向调整。经过两年激进的伴侣功能开发后,这三大科技巨头现在优先考虑实用导向的AI助手,而非娱乐和情感互动功能。这一战略转向可能会重新定义数亿中国消费者日常与AI互动的方式。llms-corrupt-your-documents-when-you-delegate-a-close-look-at-the-delegate-52-benchmark
受影响的用户, , 其中许多人在这座围墙花园内建立了完整的数字关系, , 是会迁移到替代平台,还是完全放弃AI伴侣,目前仍是未知数。目前,北京的沉默以及这三家公司的沉默暗示,监管信号在用户看到之前很久就已经写在了墙上。
字节跳动、腾讯或阿里巴巴均未发表官方声明解释时间点或提及任何具体的监管触发因素。关闭行动仍在推进。