電子發燒友網報道（文/莫婷婷）ChatGPT橫空出世，人工智能市場迎來快速的增長。數據顯示，2022年我國人工智能市場規模達到2680億元，預計2023年全年將達到3200億元，同比增長達到33.8%。

如今，AI技術席卷各個行業，“AI歌手”就是其中的一個例子。只不過，若是科技不向善，AI就不是科技行業的“戰士”，反而會成為一個“刺客”。在AI換臉技術為娛樂圈、直播圈帶來新意時，一些因為AI換臉帶來的騙局也是來勢兇猛。如何用技術手段解決AI安全問題，成為業內人士需要解決的挑戰。

當前，AI換臉技術制作出虛假的視頻和圖片可以以假亂真，用肉眼難以分辨出來。此前，有網友稱接到熟人的視頻電話，需要幫助其轉賬，在放松警惕之后受害人給對方轉了132萬。發現被騙后，受害人迅速報警追回被騙的132萬元。

在AI換臉技術里面，“Deepfake”是比較知名的技術之一。Deepfake由deep machine learning（深度機器學習）和fake photo（假照片）組合而成。但這些技術也并非找不到破綻。用肉眼難以判斷人臉是否真實存在還是由AI機器生成，而AI圖像篡改檢測模型等模型結構可以很好地進行鑒別。

合合信息智能創新事業部總經理唐琪在公開演講時分享了以AI機器生成人臉的相關鑒別技術，他提到，由AIGC生成的視頻，因為視頻本身具有連續的特征，所以會在人臉的周圍會形成細微偽影。因此合合信息在特征提取器的淺層引入紋理增強模塊放大淺層特征中的細微偽影，增強模型對真實人臉和偽造人臉的感知與判斷準確度。

AI人臉和真實人臉的對比（圖源：合合信息）

“因為不同的AIGC模型或者不同AIGC生成的形式，會在整個神經網絡的不同層次留下不同的特征行為。所以我們引入了注意力機制，讓模型可以很好地關注神經網絡不同層級的特征和紋理特征，有效融合這些特征，從而增強模型對于不同AIGC生成的人臉相關圖像的辨別和感知能力，從而提高模型的有效性。”結合自身的研發方向和技術積累，合合信息推出了AI圖像安全技術的解決方案。

AI換臉技術在幾年前就已經被濫用，并且形成了黑色產業鏈，例如以前在淘寶、貼吧等平臺搜索關鍵詞，就會有相應的店鋪或者商家出現在首頁上。好消息是，隨著人們安全意識的增強，相關平臺都加大了審核力度。如今在淘寶上打入“AI換臉”等關鍵詞已經不會出現相關店鋪。

只不過店鋪的關注并不意味這條產業鏈已經斷裂，特別是隨著AIGC技術的成熟，不法分子利用AI技術的犯罪手段也越來越“高明”，他們利用偽造人臉進行身份驗證、信用卡詐騙、身份冒用、遠程會議等犯罪行為。

當這些假借AI的名頭進行欺詐的現象大量涌現時，讓人們開始質疑AI技術的安全性和可靠性。而AI技術帶來的問題，最終仍需依賴于更為成熟、先進的科技手段和方法來逐一解決。現階段，用AI檢測模型已經成為解決AI安全的手段之一。