國家網信辦：擬人化互動服務提供者發現用戶存在極端情緒和沉迷的 應采取必要措施予以干預

每經AI快訊，12月27日，國家互聯網信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》，現向社會公開征求意見。意見稿提出，提供者應當具備用戶狀態識別能力，在保護用戶個人隱私前提下，評估用戶情緒及對產品和服務的依賴程度，發現用戶存在極端情緒和沉迷的，采取必要措施予以干預。提供者應當預設回復模板，發現涉及威脅用戶生命健康和財產安全的高風險傾向的，及時輸出安撫和鼓勵尋求幫助等內容，并提供專業援助方式。提供者應當建立應急響應機制，發現用戶明確提出實施自殺、自殘等極端情境時，由人工接管對話，并及時采取措施聯絡用戶監護人、緊急聯系人。針對未成年人、老年人用戶，提供者應當在注冊環節要求填寫用戶監護人、緊急聯系人等信息。