謹(jǐn)防AI擊穿安全底線
(資料圖片)
原標(biāo)題：謹(jǐn)防AI擊穿安全底線
AI既可以換臉還可以擬聲，逼真到視頻聊天也看不出破綻。近日，包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。
類似案例在多個省份都有出現(xiàn)。騙子往往通過有償收購等手段，獲取他人音頻素材等基礎(chǔ)“物料”，利用AI技術(shù)合成聲線、“活化”照片，然后“騙過”驗(yàn)證、登錄他人社交平臺并聯(lián)系“好友”詐騙獲利。深度合成技術(shù)正瓦解“眼見為實(shí)”的信任邏輯，一張正臉靜態(tài)照片，經(jīng)過“活化”處理之后，可以呈現(xiàn)豐富表情、生成流暢視頻。同樣，經(jīng)處理后的聲音也可呈現(xiàn)真人音效。
目前，人工智能的深度學(xué)習(xí)和算法越來越先進(jìn)，深度合成應(yīng)用呈指數(shù)級增長，濫用該技術(shù)的行為正帶來肉眼可見的倫理問題。除了用AI換臉詐騙，還有人用它制作他人不雅視頻、冒充明星帶貨等。在支付場景日益豐富的今天，人類的面部、聲音、指紋、虹膜等生物信息的使用越來越廣泛，隱私泄露等風(fēng)險(xiǎn)隱患也隨之增多。恰如那句網(wǎng)絡(luò)流行語：你永遠(yuǎn)不知道網(wǎng)絡(luò)的對面是一個人還是一條狗。如果不對此類技術(shù)加以限制，AI技術(shù)不僅容易威脅到人身財(cái)產(chǎn)安全、傷害個人尊嚴(yán)和隱私，還可能構(gòu)成更大社會危害。
英國科幻劇《黑鏡》通過若干小故事帶領(lǐng)觀眾思考未來數(shù)字化生存的挑戰(zhàn)。要防止墜入技術(shù)濫用的深淵，當(dāng)然需要公眾提升防護(hù)意識、避免網(wǎng)絡(luò)“踩坑”，不過在技術(shù)優(yōu)勢面前，個人自我防護(hù)效果畢竟有限，因而更需要相關(guān)部門和企業(yè)積極引導(dǎo)技術(shù)向善，完善風(fēng)險(xiǎn)治理體系。
面對有可能擊穿安全底線的技術(shù)風(fēng)險(xiǎn)，有必要出臺法律明確監(jiān)管框架，給AI技術(shù)套上韁繩。當(dāng)前，AI合成技術(shù)還屬新生事物，立法和監(jiān)管應(yīng)當(dāng)緊跟實(shí)際甚至具備一定前瞻性。相關(guān)平臺要加大力度研發(fā)防騙反詐監(jiān)測系統(tǒng)和應(yīng)急軟件，同時(shí)基于自身大數(shù)據(jù)能力和安全防護(hù)能力，對侵權(quán)行為及時(shí)采取刪除、屏蔽、終止交易和服務(wù)等必要措施，以科技防騙杜絕科技詐騙。（韓宗峰）
標(biāo)簽：
