資訊安全網: 深度偽造

深度偽造簡介

深度偽造是「深度學習」和「偽造」的合併詞，即是利用人工智能／深度學習技術無中生有，製作出看似可信和逼真的視像、圖像或音頻，其中一個應用例子就是修改電影片段，而非重新拍攝或於後期製作中修改臉部表情。

近年，由於深度偽造惡意用於製造假視像、偽造圖像和金融欺詐，所傳播的錯誤訊息或虛假訊息可能會侵蝕企業的聲譽和社會之間的信任，因而引起大眾關注。現在要取用創作深度偽造的工具十分容易，引起公眾對於以假亂真的深度偽造製成品的關注，認為須加以偵察，以及限制其使用。

深度偽造的原理

創作深度偽造的合成數據技術日趨成熟。

-

人手操作：應用縮放、旋轉和顏色調整等後期處理步驟改善視覺效果、比例和視角的連貫性。

-

自動化操作：採用數碼電腦繪圖和深度學習技術修改視像、圖像或音頻，使其具有更良好的語義一致性。

-

人工智能生成：使用或從頭開始製造逼真的視像、圖像或音頻。

圖 1：深度偽造的演變

深度偽造技術包括一系列的演算，用於識別臉部和聲音的重要參數，並學習將參數重組為合成視像、圖像或音頻。技術大致可分為視覺和音頻兩類，而屬性操作水平則按媒體的來源和所需的合成結果分類。

音頻的深度偽造技術用於偽造令人信以為真的說話，語音聽起來就像是某人所說，但事實並非如此。

-

文本轉換語音合成：使用逼真的旁白語音製作器將文本轉換為聽起來自然的說話。

-

逼真的人工智能語音：使用合成語音的人工智能從錄音樣本中演算出真人的聲音，並以十分準確及相似的語調與他人溝通。

-

編輯語音：修改語音，調節出完全不同的聲音。

視覺的深度偽造技術用於偽造視像，將現有圖像或視像中的人轉換為其他人的肖像。

-

換臉：將原來視像中的人臉更換為目標人臉。

-

同步口形：製造目標人物的合成視像，令受操作的視像中的口形與與操控的語音輸入吻合。

-

面部再現：採用即時演算把所操作的目標人物臉部表情呈現在視像上。

-

全臉合成：製造不存在但逼真的人臉。

-

臉部操作：通過修改特定區域來改變一個人的臉部外觀，但同時保持其他不相關的區域不變。

深度偽造的影響

由於深度偽造越來越逼真和令人相信，人們難以在真實視像內將虛假的部分分辨出來。由於深度偽造看起來十分真實，促使觀眾相信，並在社交媒體上分享，加速虛假訊息的傳播。

我們已發現不少惡意深度偽造，這些深度偽造所帶來的一些影響臚列如下。

圖 2: 深度偽造造成的影響示例

1.

製造負面的輿論
導致受害人的聲譽嚴重受損，例如利用某些名人的臉孔或聲音被用來散布謠言。

2.

影響經濟活動
描述虛假事件以誹謗企業，從而推動市場情緒，引發股市動盪。

3.

製造法律問題
深度偽造可能涉及在未經擁有人准許的情況下複製和分發版權材料，而不當使用或會導致法律問題。同樣，泄露或更改某人的個人資料亦可能構成侵犯私隱。在法庭訴訟中，涉及錄音、視像等電子證據的糾紛，只有其真實性通過法證水印工具鑑定方可使用。

4.

促成網絡攻擊
深度偽造可促成網絡攻擊和詐騙。

-

冒充受信任的人並獲取個人訊息，以進行魚叉式（例如身分盜用、CEO 詐騙）。

-

使用虛假身分資料進行欺詐，例如冒充死者以獲取經濟利益的“幽靈欺詐”（欺詐性交易）。

-

使用合成臉部表情或複製語音等以削弱利用人臉識別作為活體偵測的可靠性。

打擊深度偽造

隨着深度偽造技術的廣泛應用，我們越來越難相信耳聞目睹的事物。因此，若要保障人們對數碼內容的信任，必須偵測深度偽造。大多數偵測深度偽造的方法都利用深度學習技術，以及識別臉部區域中出現的視覺加工。通過識別深度偽造的創作模式，偵測技術能夠使用深度學習發現細微的差異。除了利用科技偵測深度偽造外，我們亦可運用一些肉眼識別的技巧：

圖 3: 肉眼識別深度偽造的技巧

鑑於深度偽造技術的威脅對企業構成嚴重影響，因此企業必須採取預防措施，減低成為深度偽造欺詐受害者的機會。

圖 4: 機構的良好作業模式

1.

預防

-

鼓勵在訊息處理過程中進行事實核查。

-

制定內部程序驗證可疑的內容，識別其來源及創作者身分。

-

使用統一的訊息分發／傳播和報告渠道。

-

就識別圖像和視像的真實性為員工提供適當培訓。

2.

偵測

-

經常監察與業務相關的網上媒體，以過濾任何虛假圖像或視像。

-

進行比較分析，以對比媒體庫的真實內容，以及於互聯網上進行反向圖像搜索。

3.

保護

-

在所分享的內容上加上數碼水印，以免有關內容被再用於深度偽造。

-

在進行活體偵測及臉部識別時採用臉部生物辨識的防止仿冒工具，以對付深度偽造。

-

採用媒體和來源工具，以驗證媒體的真實性。

4.

應對

-

制定，以便在出現虛假訊息時遏制有關情況，並採取行動。

-

識別錯誤訊息／虛假訊息，並立即對誤導性陳述作出回應。