近日，內(nèi)蒙古包頭警方公布一起利用人工智能換臉技術(shù)(shù)實(shí)(shí)施詐騙的案件。相較于傳統(tǒng)電信詐騙，此類(lèi)詐騙利用AI換臉技術(shù)(shù)繞過(guò)面容核驗(yàn)等防范措施，更具欺騙性。為AI換臉技術(shù)(shù)加裝安全網(wǎng)(wǎng)尤為必要。

　　人工智能技術(shù)(shù)在促進(jìn)(jìn)社會(huì)(huì )經(jīng)(jīng)濟(jì)發(fā)(fā)展的同時(shí)(shí)，也暴露出一定風(fēng)(fēng)險(xiǎn)。以AI換臉技術(shù)(shù)為例，普通用戶(hù)獲取教程并不難。除被用作電信詐騙，AI換臉還被用于冒充名人直播帶貨，合成視頻販賣(mài)營(yíng)(yíng)利，甚至誹謗、敲詐勒索他人等。

　　AI換臉技術(shù)(shù)打破了眼見(jiàn)為實(shí)(shí)的傳統(tǒng)認(rèn)知，如不加干預(yù)，隨著(zhù)技術(shù)(shù)迭代升級(jí)，AI換臉或?qū)⒂l(fā)(fā)逼真，反詐防騙難度進(jìn)(jìn)一步加大，因驗(yàn)證身份帶來(lái)的交易成本也將提升。技術(shù)(shù)研發(fā)(fā)者、平臺(tái)運(yùn)營(yíng)(yíng)方以及監(jiān)管部門(mén)等有責(zé)任堵住漏洞，防范AI換臉野蠻生長(zhǎng)(cháng)。

　　要為AI換臉技術(shù)(shù)劃定紅線(xiàn)。目前，對(duì)生成式人工智能的治理，已告別無(wú)法可依。生成式人工智能技術(shù)(shù)的使用原則、規(guī)則得以確立，各方權(quán)利、義務(wù)(wù)與責(zé)任基本明確，有利于A(yíng)I技術(shù)(shù)濫用的源頭治理。各類(lèi)科技企業(yè)(yè)、開(kāi)發(fā)(fā)者也應(yīng)主動(dòng)(dòng)開(kāi)展合規(guī)自查，引導(dǎo)技術(shù)(shù)向善。

　　要從根源鏟除AI換臉詐騙賴(lài)以生存的土壤。人臉的深度偽造，離不開(kāi)對(duì)目標(biāo)人臉的模型學(xué)(xué)習(xí)與面容合成、通信協(xié)(xié)議破解技術(shù)(shù)的配合。公安、網(wǎng)(wǎng)信等部門(mén)應(yīng)形成合力，從數(shù)據(jù)安全、技術(shù)(shù)研發(fā)(fā)、圖像傳播等方面全鏈條打擊AI技術(shù)(shù)濫用行為。各平臺(tái)也應(yīng)對(duì)用戶(hù)上傳的圖像進(jìn)(jìn)行技術(shù)(shù)處理。

　　要以科技賦能提升用戶(hù)反詐能力。AI換臉雖可暫時(shí)(shí)蒙騙人眼，但在技術(shù)(shù)層面的留痕卻難以被掩蓋。要加快推動(dòng)(dòng)AI生成圖像識(shí)別、鑒真技術(shù)(shù)的應(yīng)用，短視頻平臺(tái)、社交軟件等要對(duì)合成圖像進(jìn)(jìn)行顯著(zhù)標(biāo)注，幫助用戶(hù)辨別真?zhèn)?，讓詐騙無(wú)處遁形。 （本文來(lái)源：經(jīng)(jīng)濟(jì)日?qǐng)?bào) 作者：史書(shū)一）