抖音副總裁：發現大量利用AI仿冒“于東來”違規營銷帶貨內容，已封禁1000多個黑灰產團伙賬號，一企業被罰15萬元

每經編輯｜陳柯名 潘海福    

剛剛，抖音集團副總裁李亮發文：今年一季度我們發現平臺出現大量利用AI仿冒“于東來”語音、形象，違規營銷帶貨的賬號和內容，這些黑灰產的行為不僅侵犯了相關企業的權益，還嚴重誤導了消費者。封禁這1000多個黑灰產團伙賬號的同時，我們還把相關線索舉報給了監管部門。經過調查，泉州市豐澤區市監局沒收相關企業違法所得并處罰款15萬元。AI帶來技術進步的同時也被很多黑灰產盯上，針對這些濫用AI的行為抖音一直在重點治理。對于相關違法違規內容，歡迎大家共同監督。

隨后，抖音黑板報轉發響應：如果發現違規賬號和內容，可以通過以下方式舉報，我們會第一時間核實處理。1、點擊視頻轉發按鈕，在“舉報”中選擇“AI生成內容問題”進行舉報；2、發送詳情至舉報郵箱：feedback@douyin.com。

此前，有商家用AI仿冒運動員及其家人帶貨、利用AI虛假宣傳，抖音采取下架、清退措施。

胖東來此前發文追責

2025年2月，胖東來商貿集團發布“胖東來關于侵權行為的處理公示(四)”，稱目前網絡和實體經營中出現大量利用胖東來名義的各種侵權行為。公示第二條明確指出，胖東來在網絡平臺發現個別商家，通過AI仿冒于東來先生聲音，利用于東來先生肖像博取流量熱度，使得相關公眾誤以為該產品來自胖東來超市，以此進行牟利，此行為不僅侵犯了于東來先生肖像權，也涉嫌虛假商品宣傳，胖東來法務正在通過法律途徑進行追責和維權，最大限度的防止大家被誤導。

圖片來源：視覺中國

而在更早的2024年11月，胖東來商貿集團就曾發布聲明，稱公司在第三方網絡平臺發現多個賬號，未經授權擅自利用AI技術手段生成于東來先生的聲音，并對于東來先生或公司享有著作權的視頻內容進行非法剪輯和篡改，加入AI生成聲音及誤導性文案后發布，對公眾造成誤導和混淆。

聲明明確表示，“前述行為已侵犯了于東來先生的人格權及著作權，對公司品牌形象造成消極影響。”

胖東來表示，對于此類未經授權，擅自利用AI技術手段和生成畫面，實為博取流量而采取的違法侵權行為，對公眾造成了誤導，破壞了網絡生態健康和秩序，表示嚴厲譴責！嚴正警告存在上述行為的賬號立即停止侵權行為！對于為博取網絡關注、獲取流量而嚴重侵犯于東來先生及公司合法權益的，將堅決采取法律措施追究其法律責任！

典型AI內容濫用案例

9月2日，抖音電商安全與信任中心發布了關于加強治理AI內容濫用的公告。公告稱，平臺已對違規視頻和賬號采取下架、清退等措施，并強調AI應用必須合規，任何誤用、濫用行為將被嚴厲打擊。

抖音電商近期發現，少數商家和達人存在濫用或誤用AI技術的情況，甚至借助AI生成誤導內容，損害消費者合法經濟權益，擾亂平臺正常交易秩序。

具體表現如下：

少數商家利用AI技術生成虛假商品展示、夸大不實的功能宣傳內容，誤導消費者購買，造成用戶財產損失。

利用AI生成虛擬人物冒充真實身份，冠以權威專家、名人的虛假人設進行帶貨，損害消費者信任，違規變現。

在商品詳情頁、直播間使用AI生成的虛構測評、編造使用體驗，刻意制造虛假口碑，影響消費者理性判斷。

以下將通過典型AI內容濫用案例，幫助各位商家及達人理解平臺的電商 AI 內容治理規則：

典型違規案例一：

AI仿冒名人帶貨

少數視頻創作者利用AI仿冒名人形象、聲音和口型，用于商品宣傳，誤導不了解的用戶下單購買。例如，有賬號合成某知名運動員父親、哥哥的聲音，并使用相同文案稱“家里要蓋新房”，借此博取流量。在這些AI合成視頻中，往往掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導消費者下單。目前站內已及時處置相關視頻，也呼吁廣大創作者尊重名人肖像權，共同維護平臺的營商環境。

合規解析：創作者不得利用AI生成虛擬人物或仿冒社會名人、特定專業身份（如軍警等），進行帶貨變現，或通過賣慘方式違規營銷。

典型違規案例二：

生成違背常識的AI內容

創作者利用AI創作不符合現實或不存在的商品內容，甚至夸大商品大小、量產等，涉嫌虛假宣傳。如，少數創作者在直播間利用AI展示樟樹港辣椒豐收的場景，辣椒的數量、分布和植株生長規律完全不符合現實農業，并在口播中夸大種苗的量產，誤導消費者下單。

合規解析：創作者不得利用AI生成違背常識、虛構編造等內容，如與農業現實完全違背的內容等。

典型違規案例三：

AI內容與售賣商品完全無關

少數視頻創作者利用AI制作與售賣商品完全無關的內容，從而吸引消費者關注。如，創作者實際售賣產品為硫磺潤膚露，但利用AI更改各地方新聞報道畫面作為素材吸引用戶關注后，講解推銷相關商品。

合規解析：創作者不得使用與商品無關的虛假或誤導性素材，如篡改新聞報道為虛假商品測評等來吸引關注。

典型違規案例四：

缺少AI自主聲明

少數視頻創作者未主動添加AI視頻聲明。

合規解析：用戶發布 AI 生成的內容時，需自主聲明，不做自主聲明，平臺會根據規則進行識別和治理。

此前據界面新聞報道，《人工智能生成合成內容標識辦法》9月1日正式生效。

微博：對識別到的AI生成內容添加隱式標識及顯式標識

微博發布公告稱，站方依據《辦法》要求，通過升級產品功能及技術識別手段，對平臺內識別到的的AI生成內容依規添加隱式標識及顯式標識。

微博還在公告中表示，如用戶發表的文本、圖片、音視頻等內容由人工智能生成合成，用戶應在“選擇內容聲明”功能欄中選擇“內容由AI生成”。站方在用戶自主聲明的基礎上，還在投訴側增加 ?“未添加AI標識”投訴分類，如發現平臺用戶發布的微博內容包含AI 生成內容但未進行AI 內容標記聲明，可以選擇此分類進行投訴。

快手：已上線AI內容標識

快手發布公告稱，平合已上線AI內容標識，會在AI生成的內容中添加“AI生成”顯式標識以及嵌入文件元數據中的隱式標識。如果用戶上傳的內容明確由AI生成或疑似由AI生成，平臺會在內容周邊進行顯著提示。

抖音：升級AI內容標識功能

抖音發布《關于升級AI內容標識功能的公告》，進一步規范平臺上的AI內容創作與傳播。《公告》顯示，抖音已上線兩項核心功能：一是AI內容標識功能，協助創作者為AI內容添加提示標識，方便用戶辨別；二是AI內容元數據標識讀寫功能，可識別并寫入AI內容的元數據信息，為內容溯源提供技術支撐。

編輯|陳柯名 潘海福

校對|程鵬

封面圖來源：視覺中國

每日經濟新聞綜合自抖音黑板報、抖音電商安全與信任中心、

中新經緯、界面新聞等