Deepfake詐騙風險升級!AI視訊生成技術再突破,法律與防詐必知指南

新一代人工智慧(AI)技術再度降低影音生成門檻,軟體團隊發表最新即時視訊角色模型「Atmee v2」,僅需一張照片與十秒語音,就能創建可進行雙向互動的視訊對話角色。隨著這項技術大幅削減運算成本與製作難度,未來網路視訊通話的真偽辨識將面臨更大考驗。

即時視訊生成技術大突破 運算成本顯著降低

這項新發表的AI系統,主要將即時互動拆解為「行為邏輯」與「畫面渲染」兩個核心模組。名為 Causeur 的行為模組負責評估對方的說話時機、語氣變化與反應動作,連對方中途打斷對話都能做出即時對應;而渲染模組 Atmee v2 則專注於高畫質臉部微表情、身體動作及背景環境的呈現,每秒能輸出高達 24 至 30 幀的串流影像。

過往生成高流暢度且具備語音對齊能力的動態影片,需要極高的硬體運算資源與繁複流程。然而,新模型宣告可在單張圖形處理器(GPU)上順暢運作,生成速度較過往通用影片模型提升數十倍,運算成本更大幅降低。此外,相關平台也提供免程式碼的簡易介面,使用者只需上傳相片並錄製聲音,便可輕鬆建立專屬角色。

深偽視訊門檻大幅下降 衍生詐騙犯罪隱憂

雖然這項創新為線上客服、虛擬社群與數位娛樂帶來更多可能性,但如此低門檻的生成方式,也讓深偽(Deepfake)技術濫用的疑慮再度引發關注。過往民眾遇到聲音或影像合成時,多半能從嘴角不自然、眨眼頻率異常或對話延遲過長來識別真偽;但在即時雙向對話模型成熟後,擬真度大幅提升,即時視訊將不再能作為驗證對方身份的絕對依據。

對你的影響

對於網路原生世代的年輕族群而言,日常社群互動、求職面試甚至線上交友,都可能接觸到這類即時視訊技術。你必須特別注意以下幾點:

  • 視訊不再等於本人:當接獲親友透過通訊軟體急需借錢、匯款,或是接獲自稱檢警機關的視訊調查時,即使畫面中對方長相與聲音極度擬真,也切勿直接轉帳或提供個人帳戶資料。
  • 多管道交叉驗證:遇到涉及財物或敏感資訊的要求,應立即掛斷電話,利用原本熟悉的聯絡方式(如撥打手機號碼或當面確認)進行二度確認。
  • 求助與通報管道:若懷疑遇到疑似利用 Deepfake 進行詐騙的情況,請立即撥打內政部警政署 165 反詐騙諮詢專線,或撥打 110 報案。若已不幸造成財產損失,可尋求法律扶助基金會或專業律師協助研擬後續法律救濟程序。

法律白話說

擅自利用他人的照片與聲音訓練或生成 AI 視訊角色,涉及多重法律責任,切勿因好奇或惡作劇而觸法:

  • 刑法加重詐欺罪:若利用 AI 深偽技術偽造他人影像或聲音,企圖詐取財物,將觸犯《中華民國刑法》第 339 條之 4 加重詐欺罪。由於涉及「冒用政府機關或他人名義」或「以網際網路等傳播工具散布」等要件,處一年以上七年以下有期徒刑,刑責遠重於普通詐欺罪。
  • 侵害肖像權與姓名權:未經同意拿親友或名人的照片與語音生成 AI 角色,會侵害《民法》第 18 條與第 195 條保障的人格權(肖像權、聲音權與姓名權),被害人有權要求停止侵權行為,並得請求相當金額的精神慰撫金及損害賠償。
  • 個人資料保護法:個人的臉部特徵與聲音屬於生物識別資訊與個人資料,依據《個人資料保護法》,未經當事人同意擅自蒐集、處理或利用,可能面臨主管機關罰鍰,嚴重者亦需承擔刑事責任。

常見問題

收到朋友視訊電話急需借錢,畫面上看起來很像本人,該怎麼確認真偽?

建議立即掛斷通話,改以一般行動電話號碼撥打給對方,或透過平時常用的私人通訊管道再次確認,切勿僅憑視訊畫面就進行轉帳。

未經同意使用別人的照片與語音製作 AI 對話角色,會違反什麼法律?

這可能侵害他人的肖像權與個人資料保護法,受害者可依民法請求損害賠償;若進一步利用該 AI 角色進行詐欺或誘騙他人,更將面臨刑法加重詐欺罪等刑事責任。

遇到疑似 Deepfake 視訊詐騙時該向哪個機關求助?

可立即撥打內政部警政署 165 反詐騙諮詢專線尋求協助或檢舉,若已有財產損失則應備妥相關對話紀錄至警察局撥打 110 報案。

返回頂端