和你語音通話甚至視頻對話的，可能不是本人!近期，利用人工智能“換聲”“換臉”實施電信詐騙引發(fā)全網(wǎng)關(guān)注。以AI為代表的的新一代信息技術(shù)就像一把雙刃劍，我們在享受其帶來的便利和效率的同時，也應(yīng)追根溯源，對數(shù)據(jù)安全和治理引起高度重視。

　　在美國軟件公司ElevenLabs的網(wǎng)站，上傳任何人的一段簡短音頻，只需花費1美元，5分鐘后就能讓這個聲音說你指定的任何話了。不僅如此，還有會講中國脫口秀的“馬斯克”，翻唱周杰倫的AI孫燕姿。AI技術(shù)日新月異，不僅大幅降低了使用成本，還讓詐騙變得更容易和更加隱蔽。在自然語言和人臉識別上，中國有海量訓(xùn)練好的數(shù)據(jù)，基于AI大模型的小樣本學(xué)習(xí)，效率很高、成本很低。這就讓AI這柄“雙刃劍”，一面向善，一面向惡。

　　向善，可以根據(jù)故去者的音頻，讓他們繼續(xù)“活”在當(dāng)下，例如“鄧麗君”演繹的新歌;根據(jù)逝去親人的生前錄音，讓他們在今天的場景中再現(xiàn)，以慰思念;向惡，則可以利用AI技術(shù)合成親人聲音實施詐騙，比如利用AI語音技術(shù)偽造緊急情況，騙取關(guān)心自己的親人交出現(xiàn)金或私人信息。。

　　面對AI詐騙，個人要提高防范意識。相比傳統(tǒng)電信詐騙，AI詐騙更加隱蔽和逼真，更加高效和精準(zhǔn)，也更加難以防范和追查。在生成AI面前，大多數(shù)人沒有防范意識，“朋友”的臉和“朋友”的聲音就是信任的來源。面對AI詐騙，傳統(tǒng)的防詐技術(shù)還無法及時攔截、預(yù)警。要防范此類詐騙，首先還是要當(dāng)事人自己有警惕之心，避免個人信息被盜用。

　　面對AI詐騙，應(yīng)追根溯源，提升數(shù)據(jù)治理水平。一方面，相關(guān)監(jiān)管部門的防詐措施要跟上，加快防詐的技術(shù)管理手段升級，識別并及時發(fā)出警示;要擴(kuò)大宣傳廣而告之新型AI詐騙的特點，提示風(fēng)險，提供識別手段。另一方面，要從法律法規(guī)、產(chǎn)業(yè)自律和AI接口管理等多個層面入手，堵住AI技術(shù)背后的危害源頭，切斷AI詐騙的灰色產(chǎn)業(yè)鏈，使AI應(yīng)用合理合法。今年4月份，國家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法(征求意見稿)》公開征求意見，其中第五條就對提供服務(wù)方有規(guī)定，要求利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任，履行個人信息保護(hù)義務(wù)。

　　面對AI詐騙，還要見招拆招，“魔高一尺道高一丈”。例如各行各業(yè)對身份認(rèn)證的基礎(chǔ)需求加快了人臉識別等AI技術(shù)的應(yīng)用，給不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統(tǒng)進(jìn)行資金盜取詐騙提供可乘之機(jī)。針對人臉識別攻擊，我們要在技術(shù)上進(jìn)行多模態(tài)融合防護(hù)。多模態(tài)生物識別技術(shù)相較于單一生物特征，通過設(shè)計融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補(bǔ)某些生物特征容易被偽造的弱點，提升識別精確度，可以形成對人臉識別攻擊的技術(shù)防御。

　　在防止AI技術(shù)被濫用的同時，我們對AI這樣新一代信息技術(shù)的應(yīng)用不能因噎廢食。ChatGPT等前沿AI技術(shù)對社會生產(chǎn)力的推動作用顯而易見，面對新技術(shù)變革，我們除了積極擁抱，更要心懷敬畏，提升風(fēng)控能力，令其為推動產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型、提升實體經(jīng)濟(jì)服務(wù)質(zhì)效發(fā)揮更大的作用。

　　作者：劉晶　　來源：中國電子報、電子信息產(chǎn)業(yè)網(wǎng)