首頁資訊起底孫儷打假的AI帶貨視頻：有人教克隆明星聲音引流變現(xiàn)

起底孫儷打假的AI帶貨視頻：有人教克隆明星聲音引流變現(xiàn)

來源：泰然健康網(wǎng) 時(shí)間：2025年05月21日 23:04

AI劃重點(diǎn) · 全文約2427字，閱讀需7分鐘

1.孫儷、鄧超工作室針對(duì)近期利用AI技術(shù)偽造兩人形象和聲音進(jìn)行虛假廣告宣傳的行為公開打假。

2.5月18日，兩家工作室發(fā)現(xiàn)部分網(wǎng)絡(luò)用戶在自媒體平臺(tái)發(fā)布與孫儷、鄧超相關(guān)的虛假廣告宣傳視頻。

3.其中，偽造的視頻推薦減肥和育兒產(chǎn)品，種類有十余種之多。

4.專家建議執(zhí)法部門提高執(zhí)法能力、配備相應(yīng)技術(shù)，以快速有效識(shí)別利用人工智能等新型手段欺騙消費(fèi)者的行為。

5.此外，南都記者發(fā)現(xiàn)，短視頻平臺(tái)上經(jīng)常出現(xiàn)的明星勵(lì)志語錄很多也是AI技術(shù)合成編造。

以上內(nèi)容由騰訊混元大模型生成，僅供參考

近日，孫儷、鄧超工作室發(fā)文，針對(duì)近期網(wǎng)絡(luò)上大量利用AI技術(shù)偽造兩人形象和聲音進(jìn)行虛假廣告宣傳的行為公開打假。5月20日，南都、N視頻記者搜索發(fā)現(xiàn)，相關(guān)偽造合成的視頻仍有很多未被清理，還有賬號(hào)將克隆的明星聲音“做一些雞湯、人生哲理”視頻引流變現(xiàn)。

利用AI技術(shù)偽造視頻推薦產(chǎn)品的亂象此前多有發(fā)生。近期，四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求對(duì)人工智能生成合成內(nèi)容進(jìn)行顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。有專業(yè)人士曾告訴南都、N視頻記者，執(zhí)法部門應(yīng)提高執(zhí)法能力、配備相應(yīng)技術(shù)，以快速有效識(shí)別利用人工智能等新型手段欺騙消費(fèi)者的行為。

偽造合成視頻帶貨減肥產(chǎn)品

5月18日，孫儷和鄧超工作室均發(fā)文稱，工作室近日發(fā)現(xiàn)有部分網(wǎng)絡(luò)用戶在自媒體平臺(tái)發(fā)布與孫儷、鄧超相關(guān)的虛假廣告宣傳視頻，此類虛假視頻通過技術(shù)合成的方式，把孫儷、鄧超的形象和聲音制作成虛假采訪視頻為某些商家的產(chǎn)品進(jìn)行推薦。工作室嚴(yán)正聲明，凡此類自媒體賬戶所發(fā)布的產(chǎn)品推薦視頻均為虛假信息，請(qǐng)網(wǎng)友一定不要相信，避免上當(dāng)受騙。

孫儷工作室打假的“AI帶貨視頻”。

上述工作室還警告此類虛假信息的發(fā)布者及傳播者，立即刪除全部虛假廣告視頻，工作室已保全相關(guān)侵權(quán)內(nèi)容，將通過法律途徑嚴(yán)格追究相關(guān)責(zé)任方的法律責(zé)任。

根據(jù)工作室發(fā)布的截圖，南都記者注意到，孫儷和鄧超的影像、聲音被生成用于推薦減肥和育兒產(chǎn)品，種類有十余種之多。

5月20日，南都記者搜索發(fā)現(xiàn)，短視頻平臺(tái)上仍有相關(guān)偽造合成的視頻。其中一條視頻顯示的是孫儷的形象，她在談?wù)摐p肥：“我平常也不太控制，甜品這些高熱量的也都會(huì)吃，但是因?yàn)榕膭〉臅r(shí)候，導(dǎo)演要求我瘦一點(diǎn)，所以我的營養(yǎng)師就讓我每天飯前沖泡一杯xxx茯苓。喝了一個(gè)多月吧，瘦了大概20多斤，效果好到我自己都難以置信?！碑?dāng)然，視頻早已被打假。

南都記者對(duì)比此類視頻，其模式大同小異，明星坐在鏡頭前“接受采訪”談減肥等經(jīng)驗(yàn)，臺(tái)詞需要替換的只有推薦的產(chǎn)品名。視頻評(píng)論區(qū)，賬號(hào)博主會(huì)貼出產(chǎn)品的售賣店鋪信息，并宣稱這是“明星都在用的小秘密”。

南都記者查詢到，除了孫儷、鄧超，其他眾多明星都曾出現(xiàn)在技術(shù)合成的視頻里，推薦減肥類等產(chǎn)品。這些視頻均未標(biāo)注系A(chǔ)I生成。

例如，在一個(gè)合成視頻中，另有女明星也是“一個(gè)月瘦了20多斤”，而這個(gè)視頻推薦的是“xx膏”。經(jīng)南都記者觀察，此類視頻多數(shù)技術(shù)尚未完善，合成的聲音并不自然，和口型畫面無法完全吻合，整個(gè)視頻不太流暢。

有些明星勵(lì)志語錄系A(chǔ)I合成

利用AI技術(shù)偽造視頻推薦產(chǎn)品的亂象此前多有發(fā)生。

今年4月，演員張馨予曾公開打假AI偽造其聲音帶貨。其發(fā)文稱：“近期發(fā)現(xiàn)有品牌AI復(fù)制我的聲音，未經(jīng)授權(quán)編造剪輯廣告視頻，還有減肥藥廣告，我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用AI技術(shù)非法剪輯投放廣告，我一定追究到底。”

綜藝節(jié)目的嘉賓被篡改偽造聲音帶貨。

南都記者調(diào)查發(fā)現(xiàn)，綜藝節(jié)目的嘉賓也被篡改偽造聲音帶貨。社交平臺(tái)上，搜索“跟著綜藝學(xué)減肥”等關(guān)鍵詞，跳出多條“原來看綜藝真能學(xué)到真東西”的視頻。這些視頻剪切綜藝?yán)锩餍呛歪t(yī)生、專家的互動(dòng)畫面，偽造合成帶貨內(nèi)容。視頻里，明星抱怨“最近減肥一直不掉秤”，醫(yī)生回應(yīng)“給你推薦個(gè)方子，xx咖啡，網(wǎng)上有賣的，對(duì)減輕體重特別好”。南都記者留意到，醫(yī)生的聲音有明顯的合成痕跡。

這些賬號(hào)帶貨的產(chǎn)品包括減肥、治療近視等，也已被官方打假。有節(jié)目方幾個(gè)月前對(duì)此現(xiàn)象回應(yīng)稱，部分社交媒體上營銷賬號(hào)未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實(shí)施產(chǎn)品推廣行為，嚴(yán)重誤導(dǎo)公眾，已構(gòu)成虛假宣傳。不過，南都記者發(fā)現(xiàn)，截至5月20日類似的視頻依然大量存在，未被清理。

此外，南都記者注意到，短視頻平臺(tái)上經(jīng)常出現(xiàn)的明星勵(lì)志語錄很多也是AI技術(shù)合成編造。一個(gè)專門合成某劉姓女明星語錄的博主擁有3萬多粉絲，其多條視頻單條點(diǎn)贊量超過10萬。

“如果發(fā)朋友圈是為了記錄生活，那就不必在乎點(diǎn)贊和評(píng)論。如果化妝是為了自己開心，那就不要管他人的評(píng)價(jià)。不要為了耳邊的聲音所羈絆，更不要為了迎合別人而活，希望你我都能去做自己喜歡的，去成為最想成為的人?！鄙鲜霾┲鞯囊曨l模式是用一段感悟愛情、人生的語音，配上該女明星的影視劇畫面。

這些聽起來像該女明星的聲音，實(shí)際上是AI合成，博主在賬號(hào)簡(jiǎn)介中也表示“配音皆是本人原創(chuàng)”。然而，視頻頁面并未標(biāo)注系A(chǔ)I創(chuàng)作。有了流量，該賬號(hào)充分加以利用。南都記者看到，賬號(hào)店鋪上線幾十種產(chǎn)品售賣，包括衣服、零食、日用品等。

專家建議提高執(zhí)法能力應(yīng)對(duì)

南都記者調(diào)查發(fā)現(xiàn)，目前互聯(lián)網(wǎng)上隨處可見AI合成聲音相關(guān)軟件，不少直接打著“如何AI克隆明星聲音”的噱頭，并有詳細(xì)的教程。經(jīng)南都記者實(shí)測(cè)，上傳明星名人十幾秒的音頻素材，再輸入任何文字，軟件即可迅速生成這段口播內(nèi)容。上傳音頻素材過程中，軟件平臺(tái)沒有要求提供授權(quán)證明。

還有人教授如何利用AI偽造視頻進(jìn)行商業(yè)變現(xiàn)。有中介稱，找爆款文案，將克隆的明星聲音“做一些雞湯、人生哲理”達(dá)成情感共鳴，流量會(huì)很大，“有了流量完全可以帶貨”。該中介提到，變現(xiàn)方式包括帶貨勵(lì)志成長(zhǎng)書籍、做IP收學(xué)員等。

南都此前報(bào)道，今年4月，“網(wǎng)信中國”公眾號(hào)發(fā)文稱，為規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。本次專項(xiàng)行動(dòng)分兩個(gè)階段開展。其中，第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。

另外，近期，四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求對(duì)人工智能生成合成內(nèi)容進(jìn)行顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。新規(guī)自今年9月1日起施行。

此前，有媒體曝光了“機(jī)構(gòu)炮制假非遺、AI生成假神醫(yī)”的市場(chǎng)亂象。在多個(gè)短視頻及電商平臺(tái)上，熱銷產(chǎn)品“苗古金貼”在介紹頁面寫著，“第56代苗古金貼傳承人”唐付政，早年進(jìn)入“國醫(yī)大學(xué)”深造，形成了特有的苗古金貼治療方法，享譽(yù)四方。然而該“非遺項(xiàng)目傳承人”照片實(shí)為AI生成，左手大拇指幾乎與食指等長(zhǎng)，中指下方還多出一根手指。

北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)加強(qiáng)專業(yè)類賬號(hào)注冊(cè)管理和日常巡查，防止虛假標(biāo)注，誤導(dǎo)網(wǎng)民。

對(duì)于AI生成假神醫(yī)等新型科技手段，謝永江表示，按照規(guī)定，人工智能生成的作品應(yīng)當(dāng)進(jìn)行標(biāo)注，上述用AI生成假神醫(yī)從而賣貨的企業(yè)系以虛假內(nèi)容做虛假宣傳，涉嫌違法。此類違規(guī)違法營銷現(xiàn)象，也向執(zhí)法部門提出了挑戰(zhàn)。謝永江稱，執(zhí)法部門應(yīng)提高執(zhí)法能力、配備相應(yīng)技術(shù)，以快速有效識(shí)別利用人工智能等新型手段欺騙消費(fèi)者的行為。

出品：南都即時(shí)

采寫：南都記者馬輝

網(wǎng)址: 起底孫儷打假的AI帶貨視頻：有人教克隆明星聲音引流變現(xiàn) http://www.u1s5d6.cn/newsview1305283.html