AI擬人化新規正式落地，智慧體告別“野蠻生長” 專家詳解大廠“急剎車”後還有哪些難題

　　7月15日，國內首部針對AI情感陪伴、虛擬伴侶等擬人化互動場景的國家級監管法規《人工智慧擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）正式施行。

　　日前，豆包、千問相繼宣佈於7月15日（即新規生效之日）關停用戶自建智慧體功能，騰訊元寶也已在6月30日下線類似功能。大廠為何集體踩下“急剎車”？《辦法》對智慧體生態影響幾何？

　　“新規帶來的高昂合規成本與風險不確定性，是‘豆包們’選擇下線相關功能的核心原因。”北京大學法學院教授薛軍在接受《每日經濟新聞》記者（以下簡稱每經記者）採訪時表示，但“情感”這一概念本身具有主觀性，如何清晰界定及有效監管，是未來亟待解決的一道難題。

　　高昂合規成本與風險不確定性是平台下架主因

　　7月15日起施行的《辦法》是全球首個專門針對AI情感陪伴、虛擬人、虛擬伴侶等場景出台的國家級監管規則，劃定了AI擬人化互動服務的“紅線”，同時還針對未成年人及老年人權益給予了特殊保護。

　　“一些企業選擇下線相關功能，暫時停止提供可能被界定為具有擬人化互動服務特徵的智慧體服務，尤其是面向C端的相關服務，主要是出於企業自身合規成本和風險方面的考慮。”薛軍在接受每經記者採訪時表示。

　　在薛軍看來，《辦法》中的要求對於當前階段的AI服務提供者而言，意味着更大的合規壓力。“對於目前提供AI服務的企業來説，他們可能仍存在一些擔心，比如無法達到相關要求，或者難以準確把握風險點以及合理的風險邊界。”他解釋道。

　　薛軍還提到，《辦法》中關於“持續性情感互動服務”的界定本身也存在模糊性，使得企業寧願“一刀切”暫停服務，也不願冒着違規的風險。

　　“究竟達到什麼程度才會被認定為情感互動？對於‘情感’這一概念，每個人的理解可能也不太一樣。我認為，這也是未來需要面對的一個難題。”他表示。

　　此外，AI擬人化互動服務背後存在一定風險。與傳統的AI問答助手不同，用戶自建的擬人化智慧體往往涉及複雜的人設、持續性的情感對話。

　　薛軍指出：“擬人化互動服務比較容易導致用戶産生情感依賴，也可能出現技術濫用的情況，比如誘導用戶實施一些不當行為。”

　　近年來，相關負面案例屢見不鮮。2025年6月，據央廣網報道，某AI聊天軟體誘導10歲女孩聊色情內容甚至割腕。當用戶明確告知自己的年齡為10歲時，AI虛擬人物仍然向其發送大尺度聊天內容。

　　更早的2024年，美國人工智慧獨角獸公司Character.AI因捲入一起14歲少年自殺案而被起訴。該案的原告提出，自己年僅14歲的兒子對Character.AI中的AI産生了情感依戀，聊天中多次流露“自殺”“解脫出來”等念頭，但系統未作出任何防護性提示，最終導致悲劇發生。

　　薛軍坦言，這類服務的治理難點非常突出，一對一的私密互動形式使得監管尤為困難。《辦法》雖然從風險提示、限制使用時長、極端情緒警報等多個角度提出了治理思路，但其效果如何仍是未知數。

　　服務提供者應擔主要風控責任，對智慧體生態影響有限

　　在新規實施後，一旦智慧體服務出現問題，責任應當如何劃分？

　　對此，薛軍告訴記者：“在大多數情況下，相關主體屬於服務提供者。服務提供者負有安全管控責任，應當承擔較為主要的風險防範和監控責任。”

　　他進一步解釋稱，服務提供者不僅要對生成內容進行審核，還需在技術和産品設計上履行更多義務。例如，當服務提供者發現用戶可能並非其聲稱的成年人時，即便對方已通過初步驗證，平台仍需根據其行為跡象啟動進一步的身份或年齡核驗程序。

　　儘管用戶也需承擔合理、正當使用服務的法律義務，但在整個責任天平上，砝碼顯然更偏向於服務提供者一方。

　　那麼，此次大廠集體收縮C端用戶自建智慧體功能，是否會對整個智慧體生態造成影響？

　　薛軍對此持樂觀態度。他判斷，這次調整的影響是局部而非全局的。他強調，“擬人化互動只是一個非常具體的應用場景，談不上對整個智慧體生態産生深刻影響。智慧體還有很多其他廣闊的應用空間，比如輔助人類工作，以及應用於其他多個方面。”

　　事實上，平台下架UGC（用戶生成內容）智慧體的同時，也在加速將資源向更具商業價值和生産力屬性的領域傾斜。比如，豆包在6月底開啟付費功能，重點就放在了辦公等複雜生産力場景。

　　在薛軍看來，此次事件也反映出我國人工智慧治理的一個重要特點：問題導向、場景化和“切片式”治理。即不再籠統地討論如何規制AI，而是針對某一個具體的應用場景，根據其潛在的社會風險提出精準的管理要求。

　　“説白了，未來企業具備什麼樣的能力，能夠達到國家的相關要求，就可以開展相應的業務。如果企業無法達到相關要求，或者認為其中存在隱患，就可能暫緩提供這方面的服務。”薛軍總結道。從這個角度看，大廠的“急剎車”與其説是一次退縮，不如説是一次面向合規的戰略性調整。智慧體産業正從早期“野蠻擴張”的階段，轉向一個更加注重安全、可信與合規的理性發展階段。

　　每日經濟新聞