飛象原創(chuàng)（高靖宇/文）只需一張靜態(tài)照片，詐騙分子便可通過深度合成技術(shù)生成逼真視頻，甚至克隆聲音，冒充親友、領(lǐng)導(dǎo)或明星實施詐騙。今年全國兩會，“靳東兩會建議AI換臉立法”登上熱搜；雷軍則在其議案中提到，“AI換臉擬聲”濫用已成為違法侵權(quán)的重災(zāi)區(qū)。隨著AI技術(shù)的深度應(yīng)用，所帶來的安全挑戰(zhàn)也日益嚴峻。
電詐技術(shù)翻新
一家跨國公司地方分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會議”，并按要求先后轉(zhuǎn)賬多次，將2億港元分15次轉(zhuǎn)到5個賬戶內(nèi)。實際上，那場會議中，除了他自己以外，其余與會人員全部是詐騙團隊通過“AI換臉”和“AI換聲”偽造的。
在AI的幫助下，完成AI換臉換聲變得極為簡單。在某暗網(wǎng)論壇，一段10秒的換臉視頻售價僅50元，支持定制化服務(wù)。詐騙團伙通過社交媒體、釣魚網(wǎng)站等渠道獲取受害者人臉信息，再利用開源AI工具生成逼真視頻，實施“冒充熟人”“虛假投資”等詐騙。
AI詐騙相比傳統(tǒng)詐騙，技術(shù)手段更高級、詐騙手段更隱蔽，也更容易引起信任。一項由媒體機構(gòu)發(fā)起的大學生調(diào)研，在回收的近1500份有效調(diào)查問卷中，半數(shù)受訪大學生本人或身邊的人曾遭遇疑似AI詐騙，7成大學生對AI詐騙感到恐慌，表示自己會被AI詐騙。
用魔法打敗魔法
從AI換臉的“數(shù)字面具”到偽基站的“隱形幽靈”，再到騷擾電話的“狂轟濫炸”，詐騙手段的升級速度遠超想象。但手機技術(shù)的反擊同樣迅猛：硬件級識別、云端大數(shù)據(jù)、行為模式分析……這些創(chuàng)新正在構(gòu)建一道道“防詐護城河”。
榮耀MagicOS 9.0能夠識別視頻中的人是否為“AI換臉”，當用戶在進行視頻通話時，用戶可以利用榮耀MagicOS 9.0的AI換臉檢測功能，對視頻中的人物進行人臉檢測，排除對方通過AI換臉進行詐騙的潛在風險，提升用機安全感。
結(jié)合AI技術(shù)，vivo在手機中內(nèi)置了AI接聽詐騙電話的功能，它可以智能識別潛在的詐騙來電，在你接聽之前進行判斷。這就像是給你的耳朵裝上了一雙“慧眼”，讓你在“無形的戰(zhàn)斗”中多了一份保護。
小米MIUI注重在隱私安全方面的新特性，例如增加系統(tǒng)級全鏈路反詐，貫穿電信詐騙整條鏈路，提供「電詐預(yù)警」「官方標識」「詐騙應(yīng)用安裝攔截」「轉(zhuǎn)賬防護」多重守護，實現(xiàn)全方位守護用戶的信息與財產(chǎn)安全。
目前，AI手機已經(jīng)開始普及，手機廠商都宣稱自己的端側(cè)AI大模型能力，但普遍的AI功能仍依賴云側(cè)大模型。端云協(xié)同中，用戶與模型交互數(shù)據(jù)密切，較多涉及個人隱私，而這些敏感信息如何確保不會被AI收集訓(xùn)練？OPPO 正推出隱私云計算系統(tǒng)，旨在確保用戶的敏感信息，如瀏覽記錄和私人通話，不會被用于 AI 訓(xùn)練。
結(jié)語：
技術(shù)永遠不是萬能的，在AI構(gòu)筑的手機堡壘之外，更需要筑牢認知防火墻。反詐專家建議采取"三要三不要"原則：要核實對方身份真實性，要通過官方渠道確認信息；要警惕過度利好的誘惑，不要輕信天上掉餡餅；要保護好個人隱私信息，不要隨意透露生物特征。同時應(yīng)定期更新手機系統(tǒng)，開啟雙重認證功能。"最好的反詐技術(shù)，就是每個人心中那道不會被AI攻破的防火墻。"
