近日，一些短片平台湧現了大量某知名企業家吐槽的影片。在影片中，該企業家對塞車、調休、遊戲等熱門話題進行了調侃和銳評，甚至還有不雅詞彙穿插其間，引發網友熱議。
事實上，那些吐槽影片並非該企業家本人在發聲，而是由網友利用AI軟體採集該企業家原聲生成的配音，但逼真的效果讓不少人信以為真。
AI的發展為生活帶來了許多便利，但一些亂像也引發質疑。以AI語音合成技術為例，只要打開軟體、動動手指，一則以假亂真的配音影片就能新鮮出爐。然而，有的影片越過了開玩笑的邊界，「偷走」他人聲音進行惡搞、造謠，帶來了惡劣的社會影響。
20秒就能生成一條AI音頻
記者在社群軟體上檢索AI配音發現，不少用戶發布了相關影片的生成教學。其中，大部分的影片配音都源自於某擬真語音大模型應用。
在該應用程式網站上，創作者上傳任意人物的一段音訊作為訓練素材，隨後AI透過學習可複製出一個聲音角色。網站中的其他使用者只需輸入文本，便可以使用該聲音產生內容。
按照該網站的使用指引，記者添加了上述知名企業家的聲音角色，輸入一段100字的文本，然後點擊“開始生成”，約20秒，一條與該企業家聲音相似度極高的AI音頻就生成了。記者發現，截至目前，該聲音角色已被使用79.9萬次，生成字元數達4455.5萬個。
被「偷走」聲音的公眾人物還有不少。今年9月底，一段據稱是某直播平台老闆盧某某的酒後錄音在網絡上流傳，整體呈現出盧某某對於消費者的傲慢態度，以及對相關人士的不尊重表達，為該平台招致了不小的爭議。後警方調查發現，音訊內容不實，係大模型偽造而成。
一位業內人士告訴記者，透過模仿音頻樣本的語調、語速、情感、口音、發聲方式等特徵，AI技術已經能夠高度還原音頻樣本的聲音，達到人耳和其他鑑定方式難以區分的程度。
“從早期的“一眼假”到如今的“真假難辨”，AI的發展進入了“深度偽造”時代。”中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春向記者表示，在未在授權、未進行標註的情況下，用他人聲音製作AI語音產品，尤其是「借用」公眾人物的聲音，很容易引起誤解，這不僅會侵害個人資訊安全，還可能擾亂網路空間生態秩序。
濫用他人聲音侵害人格權
目前，不少網友在合成他人的AI音訊時，僅抱著娛樂心態，並沒有意識到背後隱藏的法律風險。記者註意到，在一條「AI配音教學」影片的留言區，有學員提問「這樣不侵權嗎」？
部落客回覆：“大家都在做，如果提示違規，刪了就行了。”
對此，北京盈善律師事務所律師張清鑫分析稱，與「肖像」類似，自然人的聲音具有唯一性、獨特性，是自然人人格的重要組成部分，聲音權益是人格權的一種。製作並上傳他人AI音訊的行為，無論是出於商業目的或娛樂目的，都已構成對其人格權的侵犯。若配音內容違法或違反公序良俗，可能侵害他人的名譽權。
據了解，今年4月，北京網路法院一審開庭宣判了全國首例AI生成聲音人格權侵權案。該案中，配音師因認為自身作品被短視頻平台利用AI生成語音產品，嚴重侵犯了自己的聲音權益，將短視頻平台及製作方等5家公司訴至法院，最終原告獲賠經濟損失25萬元。
在審理過程中，被告公司辯稱，人工智慧合成後的聲音產品，與自然人聲音在人身權屬性上有所區別，目前技術都會對人工智慧合成聲音進行水印標記，切斷了人工智慧合成聲音與自然人聲音之間的聯繫，不會產生對應自然人的人格屬性。而法院認為，AI聲音與原告聲音具有高度一致性，能夠引起一般人產生與原告有關的思想或感情活動，能夠將該聲音聯繫到原告本人。在具備可辨識性的前提下，自然人聲音權益的保護範圍可及於AI生成聲音。
「判決對於釐清和掌握AI生成聲音的邊界具有指導意義。」劉曉春說。
治理手段要跟上科技步伐
清華大學新聞傳播學院新媒體研究中心今年4月發布的研究報告顯示，近一年來，經濟與企業類AI謠言量成長99.91%。受訪專家表示，法律法規和治理手段要跟上科技發展的步伐，對AI技術的應用進行明確的約束，引導科技向善。
張清鑫認為，AI語音應用工具提供方不能“置身事外”，而是要把好第一道關，強化對源頭素材的把控和對生成內容的監管，完善運營規則，並在出現問題時積極配合有關部門，追溯違法音訊的生成源頭。
今年9月，國家網信辦發布的《人工智慧生成合成內容識別辦法（徵求意見稿）》提出，提供網路資訊內容傳播平台服務的服務提供者應採取措施，規範產生合成內容傳播活動。包括提供必要的識別功能，並提醒使用者主動聲明發佈內容中是否包含生成合成內容等。
「作為內容傳播的服務提供者，短視頻等傳播平台應盡到相關義務。」劉曉春建議，除了提示用戶進行標識以外，平台也應對AI生成內容建立甄別和追蹤的機制。如果發現涉嫌偽造的內容或接到相關投訴，應要求內容發佈者及時對偽造內容進行標識，在不標識的情況之下，可以根據平台規則刪除內容，造成嚴重後果的可以進行禁言、封號等處理。
