日韩av五月天00_亚洲中文字幕夜夜爱_亚洲a∨无码天堂在线观看_中文老熟妇乱子伦在线视频

駐馬店融媒宣傳下載
您當前所在位置:駐馬店廣視網>法治> 正文

分 享 至 手 機

濫用公眾人物聲音惡搞,AI技術應用“玩過界”被質疑

時間:2024-10-28 08:03:17|來源:工人日報|點擊量:2381

從“一眼假”到“真假難辨”再到“深度偽造”,生成一條音頻只需20秒

濫用公眾人物聲音惡搞,AI技術應用“玩過界”被質疑

近日,一些短視頻平臺涌現(xiàn)了大量某知名企業(yè)家吐槽的視頻。在視頻中,該企業(yè)家對堵車、調休、游戲等熱門話題進行了調侃和銳評,甚至還有不雅詞匯穿插其間,引發(fā)網友熱議。

事實上,那些吐槽視頻并非該企業(yè)家本人在發(fā)聲,而是由網友利用AI軟件采集該企業(yè)家原音生成的配音,但逼真的效果讓不少人信以為真。

AI的發(fā)展為生活帶來了許多便利,但一些亂象也引發(fā)質疑。以AI語音合成技術為例,只需要打開軟件、動動手指,一條以假亂真的配音視頻就能新鮮出爐。然而,有的視頻越過了開玩笑的邊界,“偷走”他人聲音進行惡搞、造謠,帶來了惡劣的社會影響。

20秒就能生成一條AI音頻

記者在社交軟件上檢索AI配音發(fā)現(xiàn),不少用戶發(fā)布了相關視頻的生成教程。其中,大部分視頻的配音都源于某擬真語音大模型應用。

在該應用網站上,創(chuàng)作者上傳任意人物的一段音頻作為訓練素材,隨后AI通過學習可克隆出一個聲音角色。網站中的其他用戶只需輸入文本,便可以使用該聲音生成內容。

按照該網站的使用指引,記者添加了上述知名企業(yè)家的聲音角色,輸入一段100字的文本,然后點擊“開始生成”,約20秒,一條與該企業(yè)家聲音相似度極高的AI音頻就生成了。記者發(fā)現(xiàn),截至目前,該聲音角色已被使用79.9萬次,生成字符數(shù)達4455.5萬個。

被“偷走”聲音的公眾人物還有不少。今年9月底,一段據(jù)稱是某直播平臺老板盧某某的酒后錄音在網絡上流傳,整體呈現(xiàn)出盧某某對于消費者的傲慢態(tài)度,以及對相關人士的不尊重表達,為該平臺招致了不小的爭議。后警方調查發(fā)現(xiàn),音頻內容不實,系大模型偽造而成。

一位業(yè)內人士告訴記者,通過模仿音頻樣本的語調、語速、情感、口音、發(fā)聲方式等特征,AI技術已經能夠高度還原音頻樣本的聲音,達到人耳和其他鑒定方式難以區(qū)分的程度。

“從早期的‘一眼假’到如今的‘真假難辨’,AI的發(fā)展進入了‘深度偽造’時代。”中國社會科學院大學法學院副教授、互聯(lián)網法治研究中心主任劉曉春向記者表示,在未經過授權、未進行標注的情況下,用他人聲音制作AI語音產品,尤其是“借用”公眾人物的聲音,很容易引起誤解,這不僅會侵害個人信息安全,還可能擾亂網絡空間生態(tài)秩序。

濫用他人聲音侵犯人格權

當前,不少網友在合成他人的AI音頻時,僅抱著娛樂心態(tài),并沒有意識到背后隱藏的法律風險。記者注意到,在一條“AI配音教程”視頻的評論區(qū),有學員提問“這樣不侵權嗎”?

博主回復稱:“大家都在做,如果提示違規(guī),刪了就行了。”

對此,北京盈善律師事務所律師張清鑫分析稱,與“肖像”類似,自然人的聲音具有唯一性、獨特性,是自然人人格的重要組成部分,聲音權益是人格權的一種。制作并上傳他人AI音頻的行為,無論是出于商業(yè)目的還是娛樂目的,都已構成對其人格權的侵犯。如果配音內容違法或違反公序良俗,可能侵犯他人的名譽權。

據(jù)了解,今年4月,北京互聯(lián)網法院一審開庭宣判了全國首例AI生成聲音人格權侵權案。該案中,配音師因認為自身作品被短視頻平臺利用AI生成語音產品,嚴重侵犯了自己的聲音權益,將短視頻平臺及制作方等5家公司訴至法院,最終原告獲賠經濟損失25萬元。

在審理過程中,被告公司辯稱,人工智能合成后的聲音產品,與自然人聲音在人身權屬性上有所區(qū)別,目前技術都會對人工智能合成聲音進行水印標記,切斷了人工智能合成聲音與自然人聲音之間的聯(lián)系,不會產生對應自然人的人格屬性。而法院認為,AI聲音與原告聲音具有高度一致性,能夠引起一般人產生與原告有關的思想或感情活動,能夠將該聲音聯(lián)系到原告本人。在具備可識別性的前提下,自然人聲音權益的保護范圍可及于AI生成聲音。

“該判決對于厘清和把握AI生成聲音的邊界具有指導意義。”劉曉春說。

治理手段要跟上科技步伐

清華大學新聞與傳播學院新媒體研究中心今年4月發(fā)布的一份研究報告顯示,近一年來,經濟與企業(yè)類AI謠言量增長99.91%。受訪專家表示,法律法規(guī)和治理手段要跟上科技發(fā)展的步伐,對AI技術的應用進行明確的約束,引導科技向善。

張清鑫認為,AI語音應用工具提供方不能“置身事外”,而是要把好第一道關,強化對源頭素材的把控和對生成內容的監(jiān)管,完善運營規(guī)則,并在出現(xiàn)問題時積極配合有關部門,追溯違法音頻的生成源頭。

今年9月,國家網信辦發(fā)布的《人工智能生成合成內容標識辦法(征求意見稿)》提出,提供網絡信息內容傳播平臺服務的服務提供者應當采取措施,規(guī)范生成合成內容傳播活動。包括提供必要的標識功能,并提醒用戶主動聲明發(fā)布內容中是否包含生成合成內容等。

“作為內容傳播的服務提供者,短視頻等傳播平臺應盡到相關義務。”劉曉春建議,除了提示用戶進行標識以外,平臺也應對AI生成內容建立甄別和追蹤的機制。如果發(fā)現(xiàn)涉嫌偽造的內容或者接到相關投訴,應當要求內容發(fā)布者及時對偽造內容進行標識,在不標識的情況之下,可以根據(jù)平臺規(guī)則刪除內容,造成嚴重后果的可以進行禁言、封號等處理。(記者 陳曦)

免責聲明:凡本網注明“來源:XXX(非駐馬店廣視網、駐馬店融媒、駐馬店網絡問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺)”的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,作品版權歸原作者所有,如有侵犯您的原創(chuàng)版權請告知,我們將盡快刪除相關內容。凡是本網原創(chuàng)的作品,拒絕任何不保留版權的轉載,如需轉載請標注來源并添加本文鏈接:http://www.howtobuymyhome.com/fazhi/show-124-337487-0.html,否則承擔相應法律后果。

  • 責任編輯 / 詹云清

  • 審核 / 李俊杰 劉曉明
  • 終審 / 平筠
  • 上一篇:注意!這些都是詐騙項目
  • 下一篇:自賣價格翻幾倍 景區(qū)限制游客帶食品進入合法嗎?