親耳聽到的就是真的嗎？未必。網路平台上，AI聲音隨處可見。
從「張文宏醫生」推銷蛋白棒視頻「走紅」網路，後被本人「打假」，到多位配音演員稱聲音被AI「偷走」，公開維權……「新華視點」記者調查發現，隨著人工智慧技術和語音大模型應用的發展，AI合成聲音App大量出現，最快只需十幾秒便可「克隆」出來。與此同時，AI聲音濫用現象愈發突出，不時引發爭議。
AI聲音濫用不時發生
記者在某短視頻平台以「AI克隆聲音」為關鍵詞檢索發現，明星翻唱、新聞播報、吐槽點評等大量視頻涉及AI聲音，有些甚至出現不雅辭彙，不少視頻點贊和評論量過千。
而AI聲音濫用事件也不時發生，引發關注和討論。
在社交平台上，通過AI模仿惡搞各領域名人的音視頻不在少數。此前，短視頻平台湧現了大量AI模仿某知名企業家聲音吐槽堵車、調休、遊戲等熱門話題的視頻，個別視頻甚至還有髒話出現，一度登上熱搜。該企業家隨後發視頻回應稱：「相關事件的確讓自己挺困擾，也挺不舒服，希望大家都不要『玩』了。」
一些商家在短視頻平台帶貨時，通過AI模仿聲音技術將主播「變」為知名女明星、知名醫生，銷售服裝、保健品等相關產品，對消費者造成了嚴重誤導。國家傳染病醫學中心主任、復旦大學附屬華山醫院感染科主任張文宏接受媒體採訪時表示，通過語音合成來模仿他的聲音進行直播帶貨，這樣的賬號「不止一個，且一直在變」，他多次向平台投訴但屢禁不絕。
胖東來創始人於東來的聲音也曾頻遭AI模仿，相關平台出現了大量與事實不符的合成視頻。胖東來商貿集團為此發布聲明稱，多個賬號未經授權擅自利用AI技術手段生成於東來的聲音，加入誤導性文案，對公眾造成誤導和混淆。
記者了解到，有不法分子通過「AI換聲」仿冒一位老人的孫子，以「打人須賠償，否則要坐牢」為由，詐騙老人2萬元。類似的詐騙案件在全國已發生多起，有的詐騙金額達到上百萬元。
中國社會科學院大學互聯網法治研究中心主任劉曉春表示，在未經過授權、未進行標註的情況下，用他人聲音製作AI語音產品，尤其是「借用」公眾人物的聲音，很容易引起誤解，不僅會侵害個人信息安全，還可能擾亂網路空間生態和秩序。
聲音是如何被「偷」走的？
AI如何生成以假亂真的聲音？受訪專家介紹，AI能夠「克隆」聲音，主要是依靠深度學習演算法，即短時間內從採集的聲音樣本中提取關鍵特徵，包括頻率、音色、聲調、語速、情感等，將這些特徵記錄為數學模型，再通過演算法合成。
中國科學院自動化研究所模式識別實驗室工程師牛少東說，隨著演算法越來越先進，在高性能設備和高精度模型的加持下，AI生成的語音內容從兩年前的「一眼假」升級到如今的「真假難辨」。
大四學生耿孝存最近經常在網路音樂播放器中收聽幾首翻唱歌曲，他一直以為這些歌曲由某知名女歌手翻唱，後來才得知其實全部是AI合成的。「聲音逼真到我從來沒懷疑過。」耿孝存說。
AI聲音在最近一兩年時間內變得格外「流行」。清華大學新聞與傳播學院教授瀋陽說，人工智慧技術的普及，讓AI模擬聲音的門檻大幅降低。通過一些開源軟體和平台，沒有專業知識的普通用戶也能操作。
大量App能夠進行AI合成聲音，最快只需十幾秒。記者在應用商店搜索發現，相關App有數十款，下載量最高超千萬次。
記者聯繫了一款App的客服人員，對方表示，花198元就能解鎖付費會員，對著鏡頭說幾遍「12345」，AI就會根據聲音生成各類內容的出鏡口播視頻。記者操作後發現，通過這款軟體生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權證明。
業內人士告訴記者，AI模擬人聲在互聯網「流行」，有追逐流量和變現的目的。通過「克隆」名人聲音製作的惡搞、獵奇類視頻，在相關平台播放和點贊量均不低，有的甚至還被推上熱搜。發布者也相應獲得流量曝光、粉絲增長、廣告收入等播放收益。
此外，「偷」人聲音也有不法利益驅動。國家金融監管總局2024年7月發布的《關於防範新型電信網路詐騙的風險提示》中提到，不法分子可能對明星、專家、執法人員等音視頻進行人工合成，假借其身份傳播虛假消息，從而實現詐騙目的。
多措並舉強化治理
用AI生成他人聲音，是否違法違規？多位受訪專家表示，個人聲音中包含的聲紋信息具備可識別性，能以電子方式記錄，能關聯到唯一自然人，是生物識別信息，屬於個人信息保護法規定的敏感個人信息之一。
2024年4月，北京互聯網法院宣判全國首例「AI聲音侵權案」，明確認定在具備可識別性的前提下，自然人聲音權益的保護範圍可及於AI生成聲音。該法院法官認為，未經權利人許可，擅自使用或許可他人使用錄音製品中的聲音構成侵權。
近年來，有關主管部門出台《人工智慧生成合成內容標識辦法（徵求意見稿）》《互聯網信息服務深度合成管理規定》《生成式人工智慧服務管理暫行辦法》等規定，一定程度上給AI技術使用劃定了紅線。
瀋陽等專家認為，關於人工智慧應用產生的造謠侵權、刑事犯罪、道德倫理等問題，建議有關部門細化完善相關規則，通過典型案例、司法解釋等方式給予更為明確的規範指引，釐清法律法規邊界。
中國科學院科技戰略諮詢研究院院長潘教峰認為，需進一步強化人工智慧倫理規制，超前部署人工智慧風險研究，提前預判人工智慧技術應用可能帶來的社會影響。
2024年12月，廣電總局網路視聽司發布《管理提示（AI魔改）》，要求嚴格落實生成式人工智慧內容審核要求，對在平台上使用、傳播的各類相關技術產品嚴格准入和監看，對AI生成內容做出顯著提示。
多位專家表示，各類社交網路、短視頻平台要強化主動監管意識，及時發現、處理可能涉及侵權的AI生成作品；相關部門應繼續加大對利用AI技術進行詐騙等違法犯罪行為的打擊力度，形成更加完善的常態化治理機制。
牛少東說，在AI時代，個人也要更加註意保護自己的生物特徵信息，增強法律意識，抵制他人侵權等行為。
來源：新華社
作者：邵魯文、溫競華
編輯：景晨
【聲明：本號為「全民閱讀推廣」官方公益賬號，轉載此文是出於傳遞更多信息之目的。若有來源標註錯誤或其它不妥之處，請聯繫我們。我們將及時更正。謝謝】
