风险提示:理性看待区块链,提高风险意识!
USDT USDT $1.00 0.01%
XRP XRP $1.43310000 0.19%
BNB BNB $637.54000000 0.02%
USDC USDC $0.99963000 0.01%
SOL SOL $86.49000000 0.99%
TRX TRX $0.32360000 1.25%
BTC BTC $67,234.00 2.34%
ETH ETH $3,456.00 1.23%
CoinMeta Skill
限时免费体验

让 AI 更快获取有效、准确、可行动的币圈全景信息

7月15日:智能体下线与拟人化AI立法落地的真相

摘要

同一天,两件事不是巧合 7月15日,豆包与通义千问同步下线用户自建智能体功能。同日,《人工智能拟人化互动服务管理暂行办法》正式施行。官方口径是“产品功能调整”,但时间重合绝非偶然——这部由国家网信办等五部门联...

7月15日:智能体下线与拟人化AI立法落地的真相
同一天,两件事不是巧合 7月15日,豆包与通义千问同步下线用户自建智能体功能。同日,《人工智能拟人化互动服务管理暂行办法》正式施行。官方口径是“产品功能调整”,但时间重合绝非偶然——这部由国家网信办等五部门联合发布的法规,早在4月10日就已公布,施行日期明确锁定7月15日。而早在6月26日,上海网信办已通报专项行动成果:下架违规智能体1.4万余个,处置账号1.8万余个,并提前向近百家企业开展法规宣贯。大厂不是等法落地才行动,而是抢在监管靴子落地前完成清仓。 法律只画一个小圈,大厂却清掉整块地 《办法》第二条清晰界定适用范围:仅针对“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”,如虚拟恋人、角色陪伴、情感支持等;而智能客服、工作助手、知识问答、学习辅导等非持续性情感交互类服务,明确排除在外。也就是说,法律管的是“AI伴侣”,不是“AI秘书”。 但豆包与千问下线的,是全部用户自建智能体功能——包括写文案、做翻译、辅助备考等生产力型智能体。这种“一刀切”式关停,本质是过度合规。原因在于:开放式UGC平台无法对海量用户生成的人设逐个把关,尤其当System Prompt可自由定义“病娇”“无限制”“擦边”等人设时,平台必须为每一个潜在风险兜底。与其在悬崖边走钢丝,不如直接关掉入口。 开放式智能体为何第一个被放弃? 监管逻辑最终落为成本账。一个官方预置助手,审核一次即可;而开放智能体广场意味着审核对象从1个变成N个,且风险不在创建瞬间,而在动态对话中持续演化——同一人设聊十轮后可能滑向诱导依赖或情感操纵。这迫使平台部署实时模型审核+人工复核,成本随用户量线性攀升。 而收益端几乎为零:用户自建智能体极少直接付费,主要作用是提升留存。一边是无限上涨的合规成本,一边是趋近于零的变现路径,这笔账本身就不成立。更关键的是,《办法》第二十二条要求:注册用户超100万或月活超10万的应用,必须开展安全评估并提交省级网信部门。对豆包、千问而言,这项义务每天都在产生,且不可规避。 猫箱不是避风港,而是新靶心 豆包将用户引导至字节旗下猫箱App,称其可继续创建智能体。但这并非风险转移,而是风险聚焦。猫箱的定位本就是虚拟角色与剧情对话,主营业务完全落在《办法》第二条的射程正中心。它无法像豆包那样靠“关闭某功能”避险,而必须独立承担全套义务:第八条内容红线、第十四条未成年人模式、第十八条AI身份标识与使用时长提醒、第二十二条安全评估、第二十六条算法备案…… 事实上,猫箱已在4月28日被“网信中国”通报约谈,因未落实AI生成内容标识等要求被责令整改并警告。它不是一块干净的合规飞地,而是一个已被标记的重点监管对象。 还想做AI陪伴?六张合规牌必须攥紧 新规之下,创业者面临明确分水岭: 第一,精准判断适用性。是否提供“持续性情感互动”?是,则全量合规;否,则严防功能设计向情感陪伴“蹭边界”。 第二,完成算法备案。依据《互联网信息服务算法推荐管理规定》,备案是上线前提,网信部门每年核验。 第三,盯住安全评估触发线。月活达10万即触发,对创业公司已是现实门槛,而非远期目标。 第四,守住未成年人底线。不得向未成年人提供虚拟亲属、虚拟伴侣;向14岁以下用户服务须获监护人明示同意;必须建立可识别、可切换、可管控的未成年人模式。 第五,落实身份标识与沉迷干预。必须显著提示“当前为AI服务”,用户连续使用超2小时须主动弹窗提醒。 第六,重构数据规则。用户交互数据不得默认归平台所有;涉及敏感个人信息的,用于模型训练必须取得“单独同意”,而非笼统隐私政策勾选。 真正值得做的,是有垂直锚点的场景 《办法》第六条明确鼓励适老陪伴、适幼照护、有资质的心理疏导等方向。这些场景天然具备专业边界、服务闭环与责任主体,更容易构建可验证的合规机制。监管抬高门槛,本质是淘汰野蛮生长,让真有社会价值、愿从第一天就把审核机制、未成年人保护、AI标识嵌入产品基因的团队胜出。 泛角色扮演、无限制人设、靠“虚拟恋人”引流变现的模式,已不是“难做”,而是“违规”。上海下架的1.4万个智能体,正是这条路径的终点标尺。 最致命的两个坑,不在罚款里 一是应用商店上架审核。第二十五条规定,分发平台必须核验安全评估与算法备案情况,不合规者不予上架或直接下架——你可能连触达用户的第一步都迈不出去。 二是交互数据的权属与使用。第十六条“单独同意”要求直指《个人信息保护法》敏感信息处理规则。未经单独授权将私密对话用于训练,性质比内容违规更严重,一旦查实,可能触发民事赔偿、行政处罚乃至刑事追责。 这两处不是技术补丁,而是产品底层架构与法律协议的设计起点。决定入场前,请先确认:你的合同条款、隐私政策、备案材料,是否已真实覆盖这两项硬性义务。

评论 (6)

登录 后即可发表评论
大    海
大 海 1周前

创业者要注意那六张合规牌,不然很容易踩坑,到时候就麻烦了

0 回复
恨天无把 恨地无环

大厂过度合规,直接关功能,也不考虑用户需求,就为了规避风险,太敷衍了

0 回复
一野弹起

监管考虑成本没问题,但平台也得想想办法平衡好,不能简单粗暴地全关了

0 回复
国富天香

有垂直锚点的场景才是正道,泛角色扮演那些模式以后不好做咯

0 回复
罚站30年

猫箱本来就问题多,豆包还往那引,这不是把用户往火坑里推吗

0 回复
更多