從單純的照片換臉、單人語音模仿，到如今能夠高精準重現多人在線互動的複雜視訊情境，深偽（Deepfake）技術的犯罪應用正以驚人速度演進。這類新型態犯罪不僅造成高額財務損失，更直接挑戰企業運作機制，導致公眾信任與個人身分權益的全面瓦解。TWNIC 副執行長丁綺萍指出，深偽技術的氾濫已引發政府與監管機關的高度關注，安全威脅等級顯著提升。
過往網路案件主要集中於一般詐騙與販毒，近期主管機關頻繁洽詢深偽案件應對措施，顯示該現象已成為全國性重大課題。其中最著名的案例莫過於香港某知名財務總監受邀參加 Zoom 視訊會議，會議中除該總監外，其餘參與的「高階主管與同事」全是由深偽技術生成的虛擬假人，最終導致其誤信指令並匯出高達 2,500 萬美元（約 7.8 億新台幣）。
中華資安國際總經理洪進福強調，深偽惡用的危害遠超單純的金錢損失，當技術遭惡意使用時，被冒用身分的個體與接收並散播該資訊的社會大眾均為受害者，最終將引發整體社會信任體系的崩潰。
生成式 AI 模型架構的重大突破，是大幅提升視覺與聽覺特徵偽造精細度的關鍵，同時也帶來了前所未有的辨識困境。丁綺萍提到，現今影音採樣門檻大幅降低，詐騙集團僅需高階主管或名人公開的數秒鐘影音片段（如訪談或法說會影片），即可進行高精度的深偽模擬。過去教導大眾觀察眼睛閃動一致性、眼球變化、臉部細微閃爍或邊緣抖動等傳統肉眼辨識防線，在新型技術面前已徹底失效。洪進福進一步解釋，模型架構的轉變消除了早期生成的瑕疵。早期生成式 AI 主要採用生成對抗網路（GAN），易產生「六隻手指」或臉部扭曲等明顯特徵；現今技術已轉向擴散模型（Diffusion Model），透過加入雜訊並記錄還原過程，生成的影片與照片極度精細且不再出現早期 GAN 的瑕疵。這代表人類視覺能力已無法跟上技術發展速度，單靠肉眼追趕 AI演進並不現實。
深偽詐騙之所以屢屢成功，核心在於攻擊者精確利用了社交工程與人性中的心理弱點，而非單純破解技術系統。面對防不勝防的科技詐欺，個人必須建立正確的心理防範機制與標準操作流程。丁綺萍分析，詐騙機制精確擊中人性信任弱點，根據社會心理學者 Robert Cialdini 的研究，人性信任存在七個弱點原則（包含社會認同、權威、共同性、稀缺性等），該理論曾被用於政治競選，亦在 Black Hat 研討會中被揭露為 APT 社群進行社交工程攻擊的心理機制。因此，個人防禦的核心在於養成「不怕麻煩」的習慣，收到來自長官、親友涉及金錢與重大決策的訊息時，應立即掛斷或暫停，透過回撥或第三方管道二次確認。洪進福則提倡大眾應建立「數位情緒韌性」，駭客利用的是人類習慣的「眼見為憑」信任機制，因此遭遇金錢或緊急狀況時應恪守「停、看、聽、再驗證」原則，並秉持「盡信書不如無書」的態度，始終將 AI 當作輔助工具，絕不將最終決策權與判斷完全讓渡給 AI。
為因應深偽技術與生成式 AI 帶來的社會威脅，政府機關、監管機構及資安產業正透過法規增修、產業自律與風險分類架構，加速建構數位信任的防線與制度基礎。
在技術與行政層面，TWNIC 實施 DNS RPZ 機制，於接獲行政處分或法院判決後，針對已被通報且告知之非法詐騙或犯罪網站進行域名屏蔽。在法規推動上，2021 年「小玉案」主犯利用上百名女性影像生成不實性影像謀利，最初以個資法處理效果有限，後續引發公眾關注並直接推動刑法修正，增訂加重詐欺罪（處 1 年以上 7 年以下有期徒刑）及不實性影像罪。國際與國內的監管框架也陸續到位，歐盟率先推出《AI Act》，採分階段裁罰，違規最高可處 3,500 萬歐元或企業全球營業額 7% 的罰款；台灣國科會於 2026 年 1 月公佈《人工智慧基本法》草案（全文 20 條），要求各主管機關於 2028 年 1 月前完成領域內法規調整；數發部亦於 2026 年 7 月訂定 AI 風險分類與框架，且《詐欺犯罪危害防制條例》規範網路廣告業者若使用深偽或 AI 生成之個人影像必須強制標示與揭露，涉詐廣告須於 24 小時內完成下架處理。資安產業亦積極降低 AI 帶來的新興風險，正如世界經濟論壇（WEF）發布之《全球風險報告》已將 AI 技術產生的錯誤資訊（Misinformation）與假資訊（Disinformation）列入全球前十大重大風險，產業關鍵在於如何透過技術力量與防護機制有效減輕威脅。
深偽技術的演進已徹底顛覆傳統「眼見為憑」的信任機制，成為威脅個人、企業與社會安全的重大風險。技術本身雖屬中立，但當其被濫用於惡意用途時，所產生的影響已延伸至全體社會信任的瓦解。面對深偽威脅，無法單靠肉眼去追趕技術的演化；建立數位信任必須仰賴制度面與個人面的雙重防禦。在制度面上，政府與機構需透過專法框架、風險分類、廣告標示揭露與域名屏蔽機制等法治手段提供保障；在個人面上，則需建立「數位情緒韌性」，保持獨立思考，落實「停、看、聽、再驗證」與雙重管道確認，將 AI 視為輔助工具而非決策依歸，共同建構堅固的數位信任防線。