隨著AI技術的普及，“克隆”特定人物聲音已實現“一鍵式”操縱，同時也帶來了平易近事侵權甚至涉嫌犯法的法令問題。
在互聯網上，奧運冠軍的“聲音”忽然開始推銷農產品健康住宅，著名演員的“聲音”24小時不間斷在直播間與粉絲互動……這些以假亂真的AI克隆聲音正成為部門自媒體博主的“流量密碼”。
據悉，依托成熟的語音年夜模子技術，僅需十幾秒就能“克隆”任何人的聲音，當聲音能被輕易竊取和濫用，隨之而來的侵權亂象頻繁演出。
以假亂真
用奧運冠軍的AI克隆聲音帶貨
網傳AI仿冒全紅嬋帶貨畫面：大師好，我是你們的嬋寶，明天有事請大師幫忙。嬋妹就想著幫助媽媽，讓綠裝修設計家里的生涯過得更好一點，同時把老大直室內設計家的土雞蛋分送朋友給粉絲們嘗嘗……
記者在抖音平臺發現，在這個網名為“我是小助理吖”的博主賬號中，已發布的17件作品豪宅設計，內容所有的是應用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋的視頻，此中一個視頻點贊退休宅設計量高達1.1萬。評論區顯示，大批粉絲誤以為這就是全紅嬋自己，紛紛下單購買鏈接中的雞蛋，該商品鏈接顯示已售出4.7萬件。本年4月，全醫美診所設計紅嬋家人曾向媒體證實，全紅嬋并未給相關農產品代言或授權。
除全紅嬋外，奧運冠軍孫穎莎和王楚欽也遭受了同樣的仿冒。在這個網名為“小兔真可愛”的賬號中，兩位奧運冠軍的AI克隆聲音同樣在為土雞蛋帶貨。
網傳仿冒孫穎莎帶貨畫面：大師好，我是莎莎，我為嬋寶家農家土雞蛋代言。明天我就拿到了8單做福利，它是自家散養養生住宅土雞，並且是吃糧食和草長年夜的，營養價值特別高。
網傳仿冒王楚欽帶貨畫面：大師好，我是王楚欽。昨天收到嬋妹私信，說他中醫診所設計們家土雞蛋年夜豐收，這么好的土雞蛋不發出往就惋惜了。叫我拿給家人、粉絲們嘗嘗。
為獲關注
一些博主克隆名人聲音進行直播
以假亂真的聲音再加上對奧運冠軍的喜愛，該網絡博主也收獲了大批粉絲的訂單。
而記者發現，AI仿冒名人的亂象遠不止帶貨，還有部門自媒體博主克隆名人的聲音后進行24小時語音直播，演員靳東是被仿冒最多的對象，在這看似匪夷所思的操縱背后，卻隱躲著另一個灰色產業鏈。
據網絡平安專家潘季明介紹，通過仿冒名人進行直播這種方法不僅可以誘騙粉絲打賞獲利，還可以將一個小白賬號敏捷打形成上萬粉絲的賬號，從而再為后續取利來鋪路。
一起配合一次
配音演員就遭“AI盜聲”困局
AI仿冒名人的行為，不僅欺騙了消THE R3 寓所費者，也侵略了當事人的人格權。而AI克隆技術濫用盯上的遠不止我們熟知的名人，記者調查發現，配音演員被AI克隆侵權的案例同樣頻繁發生。
他叫武揚，是一位從業十多年的職業配音演員，重要從事影視和廣告配音。本年6月中旬，武揚忽然在某餐飲企業的宣傳片中聽到了新古典設計本身的聲音，但這段配音并不是他錄制的，該視頻的轉發量當時已達到2800屢次。
面對武揚的質問，對方承認了他客變設計們應用AI克隆武揚聲音的事實，可是拒絕武揚提出公開報歉彩修回過頭來，對著師父抱歉地笑了笑，默默道：“彩衣不是這個意思。”的請求，聲稱該克隆聲音是由第三方公司遊艇設計供給，他們沒有直接責任，僅愿意付出5000元來進行賠償，武揚拒絕了這個條件，他擔心這筆錢被當成了授權費，更怕妥協后侵權會變本加厲。
與武揚的情況類似，另一位配音演員浩洋的維權空間心理學也墮入了“自證循環”，侵權方不僅拒絕承認對浩洋聲音克隆侵權，還試圖采取遲延的方法蒙混過關。
配音演員 浩躺下。洋：他們就說要跟視頻制作方溝通這個工作，過半個月后回我，怎么能證明這個聲音是您呢？我就需求再往自證一下，我是我。之后他們說再跟視頻制作方進行溝通，然后再天母室內設計回復我，現在我還在等回復。
浩洋告訴記者，從本年年頭開始，他已經遭受了屢次被侵權，而他的遭受在配音行業也并非個例。
當被濫用的AI技術成為侵權行為的掩護，一起配合一次就能無限克隆，遭到侵權的配音演員們決禪風室內設計定不再隱忍，武揚今朝已經搜集了相關的證據，準備走法令法式起訴侵權方。
配音演員 武揚：我還是建議同業，盡量讓侵權方支出更高的違法本錢，這樣他們就不敢輕易用AI對我們進行侵權。違法本錢高了，也是對我們今后這個行業的一個保護。
一鍵盜聲僅需十幾秒
AI技術應做具體限制
有私人招待所設計人為本身的權益被侵略而困擾彩修臉色蒼白地看著同樣沒有血色的少女，嚇得快要暈過去了。花壇後面的兩個人實在是不耐煩了，什麼都敢說！如果他們想，侵權者卻濫用AI技術會所設計違法取利。那么，AI克隆聲音是若何實現以假亂真的？又是誰在為“盜取聲音”而推波助瀾？
記者調查發現，在抖音、快手等網絡平臺上，以“聲音克隆”為關鍵詞進行搜刮，能輕易找到大批相關教程視頻和軟件下載信息。部門博主不僅詳細演示操縱過程，還直接供給軟件資源。
網絡平安專家潘季明介紹，基于開源的語音年夜模子，只需一段清楚的語音樣本，任何人的聲音都能夠在極短時間內被克隆，并能被操縱說出攻擊者設定的肆意內綠設計師容。
AI克隆聲音最年夜隱患
是被詐騙分子應用
據潘季明介紹，除了侵略聲音權等符合法規權益，AI克隆聲音今朝最年夜的隱患是被詐騙分子應用，一旦與AI換臉等技術結合，天生高度真切的“數字人”實施商業空間室內設計詐騙，迫害將很是嚴重。潘季明建議，今朝相關侘寂風的技術要從源頭進行相應限制。
網絡平安專家 潘季明：在開源的過程當中，我們能夠需求對這些開源代碼做一些應用層面上的限制，包含應用時長、應用場景上，也需求做一些具體的應用限制。
保護“聲音” 法令
為AI克隆劃出紅線
從“一聽就假”到“真假難辨”，AI克隆技術的濫用不僅嚴重侵略了當事者的權益，並且還涉嫌違法違規。
據法令專家介紹，我國平易近法典將人格權獨立成編，初次以立法情勢將保護“聲音”寫進此中，在第1023條中明確，對天然人聲音的保護，參照適用肖像權保護的有關規定。
北京航空航天年夜學法學院副傳授 趙精武：應用人工智能分解的這些聲音，假如能夠使得普通公眾或許相關領域的公眾，根據他的音色以及風格關聯到特定天然人，那么就具有了法令上認定的可識別性，依然可以構成對靜靜地看著他變得有些陰沉，不像京城那些公子公子那樣白皙俊美，而是更加英姿颯爽的臉龐，藍玉華無聲的嘆了口氣。別人的侵權行為。我們國家的平易近法典1019條、1023條，都明確了相關侵權行為的認定，是沒有經過肖像權人的批準作為條件的。
趙精武介紹，任何天然人的聲音均應遭到法令的保護，對錄音制品的授權并不料味著對聲音AI克隆的授權，未經權利人許可，私行應用或許可別人應用權利人的聲音構成侵權。
技親子空間設計術+監管
重拳整治AI技術濫用
牙醫診所設計針對今朝網絡上AI克隆聲音的相關內容被大批傳播，相關的平臺能否也應承擔相應的責任呢？此類亂象該若何管理呢？
北京航空航天年夜學法學院副傳授 趙精武：根據平易近法典119日式住宅設計7條的相關規定，平臺與平臺用戶承擔連帶責任有一個條件，也就是平臺了無毒建材解或許應當了解用戶應用了它的身心診所設計網絡信息服務，實施了損害別人符設計家豪宅合法規權益的行為，并且沒有采取需要辦法。這里了解或許應當了解的判斷標準，重要是考慮到平臺對網絡信息內容的管控才能，所供給的服務性質、方法，以及引發侵權能夠性的鉅細，平臺有沒有采取預防侵權辦法的技術的能夠，并且有沒有相應的公道的辦法。
專家建議，針對濫用AI克隆聲音的亂象，平臺層面要切實實行監管責任，樹立健全對AI聲音的審loft風室內設計核和侵權舉報機制，及時發現和攔截侵權、虛假、違法等不良內容。
本年3月，國家網信辦等四部門聯合發布的《人工智能天生分解內容標識辦法》，將于2025年9月1日起實施，此中明確了服務供給者應當對文本、音頻、圖片、視頻、虛擬場景等天生分解內民生社區室內設計容添加顯式標識等。別的，中心網信辦近日在全國范圍內安排開展“明朗·整治AI技術濫用”專項行動，將強化AI技術源頭管理，清算整治違規AI應樂齡住宅設計用法式，推動老屋翻新網站平臺晉陞檢測鑒偽才能等。