如果你聽說過深度偽造(deepfakes)，即人們做著從未做過的事或者說著從未說過的話的高度逼真視頻，你可能會認為這是一種可疑的技術發展成果。例如，它們可能被用于高級網絡釣魚詐騙中來冒充企業高管，在這類詐騙中，虛假語音郵件被用來向員工索要緊急資金。深度偽造技術逐漸進入我們的生活，在帶來驚喜和便利的同時，也暴露出一系列風險隱患，飽受爭議。

　　它們的存在引發了大量識別它們的方法的研究。

　　但深度偽造并非一無是處。事實上，它們可以被用于有益的用途。

　　它們可以讓跨國企業的高管用員工的母語傳達信息，實時翻譯演講內容并且口型與所說的話相匹配。它們被用于創建逼真的模擬場景以促進員工發展，或者讓歷史人物重現生機，從而讓學校里的復雜話題更通俗易懂。

　　為何研究人員需要“有益的”深度偽造技術

　　醫學領域是有益的深度偽造技術的最大使用者之一。這些深度偽造技術通常被用于為機器學習程序創建額外的訓練數據。例如，當研究人員訓練人工智能(AI)在諸如磁共振成像(MRI)或X射線等醫學影像中檢測某些類型的癌癥時，他們可能會使用深度偽造技術來為其數據集添加更多影像。

　　這是必要的，因為許多數據集規模較小或者不完整。訓練人工智能模型需要對細節一絲不茍，需要大量的人工干預來標記數據集的某些特征。有時，掃描結果標記不正確或者標記不一致，因為不同的人使用了不同的標準。這些問題可能會使人工智能模型更難以準確學習。生成合成數據有助于克服這些挑戰，不過合成數據的質量也必須得到仔細監控。

　　制作深度偽造（作品）變得更容易了

　　IEEE高級會員Vivekanandhan Muthulingam表示：“雖然多年來制作深度偽造(作品)的技術變得更容易獲取了，但這仍然需要一定水平的專業知識。”

　　Muthulingam說：“現在有一些用戶友好型的工具和應用程序可供使用，這些工具和應用程序讓個人在沒有廣泛編程知識的情況下就可以嘗試制作深度偽造(作品)。然而，要獲得高質量的成果仍然需要對機器學習原理和視頻編輯有更深入的理解。”

　　制作這些深度偽造(作品)的人也需要了解相關的主題內容。

　　IEEE會士Houbing Song說：“要制作‘有益的’深度偽造(作品)，既需要人工智能知識，也需要專業領域知識。”

　　倫理考量

　　專家警告說，僅僅因為深度偽造是出于善意目的而創建的，并不能免除倫理責任。負責任地使用它們意味著要誠實，并設置保護措施以支持學習和創新，同時又不危及信任或安全。在訓練數據方面可能也存在倫理考量，這些數據可能涉及版權或知識產權主張，或者是因為擔心將患者信息用于訓練數據。

　　也可能存在一些灰色地帶，在這些地帶深度偽造的價值并非一目了然。

　　Song說：“一個深度偽造作品是好是壞將取決于其益處與社會期望的契合程度。從長遠來看，如果我們善用深度偽造技術，那么該技術的益處將超過風險。”