今年早些時候，年僅 20 歲的烏克蘭網紅奧爾加·洛耶克（Olga Loiek）在網上遭遇了一羣 AI 生成的克隆人。“我真的被嚇壞了，我看到我的臉在用中文推銷商品，”她向媒體表示。這些在社交媒體平臺上銷售產品的主播，其臉和聲音均是通過 AI 換臉技術生成的，他們將自己描述爲在中國的外國人，銷售着外國的土特產。
使用奧爾加肖像和聲音的賬號多達近百個，涵蓋了國內的主流社交媒體平臺，其粉絲數量從幾千到幾十萬不等，其中一個虛假賬戶甚至吸引了 30 萬粉絲。奧爾加稱，自己的肖像可能被用於虛假宣傳活動，成爲造假者牟利賺錢的手段。
被盜的人臉成別人賺錢的主播
直播電商通常由主持人向其追隨者展示一系列產品，而後他們可通過集成的購買按鈕進行購買。儘管聽起來略顯俗氣，但這些節目吸引了大量觀衆：去年通過直播商務銷售的商品超過 1 萬億元人民幣，現在中國有超過 100 萬人擔任直播主持人。
AI 克隆、換臉生成的虛擬網紅完全可按照客戶的需求製作，能夠每天 24 小時不眠不休地進行直播，實現“日不落”的不間斷工作，可幫助品牌在“非黃金時段”達到與真人主播相似的效果。而且，這些虛擬主播使品牌能夠精確地控制其信息傳遞，確保一致的品牌代表和運營效率。相較於傳統的網紅合作伙伴關係，其潛在成本更低，不可預測性更低，耗費的成本也非常低。倘若沒有奇葩問題的互動，數字人或許能一直不‘露餡’。
然而，這種創新的銷售方式帶來了諸多複雜的影響。更甚者，由此引發了技術的濫用，在未徵得當事人同意的情況下，就進行肖像克隆並用於商業使用或詐騙。奧爾加·洛耶克的遭遇便是一個顯著的例子。攻擊者只需下載受害人在社交媒體上分享的照片、視頻、音頻、活動等，僅需 30 秒到 1 分鐘的樣本，就能製作出高度逼真的聲音、形象，進而再造一個主播，進行視頻直播。
調查發現，虛擬主播的製作極爲簡單，僅需一張照片便能實現克隆，最快僅需 60 秒。
頂象防禦雲業務安全情報中心發佈的《“AI 換臉”威脅研究與安全策略》情報專刊指出，AI 欺詐氾濫的另一個主要因素是AI工具的可用性，這些工具使創建虛假視頻圖片變得更加容易。尤其隨着網絡犯罪即服務（Cybercrime as-a-Service）的出現，普通人也能夠輕鬆購買到 AI 欺詐的服務或技術。攻擊者利用社交媒體、電子郵件、遠程會議、網絡招聘、新聞資訊等一系列媒介，對企業和個人進行各類AI欺詐攻擊。
個人怎麼防範被盜用？
AI 帶來的安全威脅也日益引發人們的關注，並迅速成爲一種新的威脅手段，給企業和個人用戶帶來了前所未有的風險。
《“AI換臉”威脅研究與安全策略》 情報專刊認爲，要防範打擊AI欺詐，一方面需要有效識別檢測出AI僞造的內容，另一方面防範AI欺詐的利用和擴散。這不僅需要技術對策，更需要複雜的心理戰和公衆安全意識的提升。因此，企業需要加強數字身份識別、審查賬號的訪問權限，對數據收集最小化收集等。同時，加強員工關於如何發現AI威脅。
1、構建基於 AI 驅動的安全工具體系。基於人工審查與 AI 技術相結合的反欺詐系統，提高自動化和效率，檢測和響應基於 AI 的網絡攻擊。
2、加強身份驗證與保護。包括啓用多重身份驗證、對靜態和傳輸中的數據進行加密以及實施防火牆等。對賬號異地登錄、更換設備、更換手機號、休眠賬戶突然活躍等加強頻繁驗證，持久性檢查以確保用戶的身份在使用期間保持一致。對設備信息、地理位置以及行爲操作進行比對識別，能夠發現並防範異常操作。
3、加強賬號授權控制。基於最小權限原則限制對敏感系統和賬戶的訪問，確保訪問其角色所需的資源，從而減少賬戶被盜用的潛在影響，防止未經授權訪問您的系統和數據。
4、持續瞭解最新技術與威脅。儘可能隨時瞭解 AI 技術的最新發展，以相應地調整保障措施。對 AI 模型的持續研究、開發和更新對於在日益複雜的安全形勢中保持領先地位至關重要。
5、減少社交媒體的敏感信息分享。減少或者杜絕在社交媒體上分享賬戶服務、家庭家人、交通出行、工作崗位等敏感信息，防範欺詐分子盜用下載後，進行圖片和聲音的僞造，而後進行身份僞造。
傳統的安全工具和措施已無法有效防禦基於AI帶來的欺詐威脅，要及時識別欺詐風險，需要事前、事中、事後進行全面的風險防控。頂象最新升級的反欺詐技術與安全產品，能夠爲企業搭建一個多渠道全場景多階段的安全體系，系統對抗AI帶來新威脅，其中包含保障App安全的App加固，防範AI的惡意註冊與登錄的無感驗證，識別AI僞造的設備的設備指紋，挖掘潛在欺詐威脅、防範AI複雜攻擊的Dinsight實時風控，攔截“AI換臉”攻擊的全鏈路全景式人臉安全威脅感知方案等。
通過多渠道全場景多階段的安全體系，基於威脅感知、安全防護、數據沉澱、模型建設、策略共享等安全服務，能夠滿足不同業務場景，擁有各行業策略且能夠基於自身業務特點實現沉澱和更迭演進，實現平臺的精準防控，從而快速有效地應對 AI 攻擊，進行個性化防護。