規(guī)范AI服務(wù)管理，為技術(shù)應(yīng)用劃定法律紅線

規(guī)范AI服務(wù)管理，為技術(shù)應(yīng)用劃定法律紅線（主題）

(資料圖)

中國(guó)婦女報(bào)全媒體記者 張萌

《生成式人工智能服務(wù)管理暫行辦法》將于8月15日起正式施行。提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。

不久前，內(nèi)蒙古包頭市警方發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元。

一天中午，郭先生接到好友的微信視頻，說(shuō)自己的朋友在外地競(jìng)標(biāo)需要430萬(wàn)元保證金，且需要公對(duì)公賬戶轉(zhuǎn)賬，想要借郭先生公司的賬戶走賬?；趯?duì)好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢(qián)款是否到賬，就分兩筆把430萬(wàn)元轉(zhuǎn)到了好友朋友的賬戶上。后來(lái)郭先生撥打好友電話，才知道被騙。騙子通過(guò)智能AI換臉和擬聲技術(shù)，佯裝好友對(duì)他實(shí)施了詐騙。

“當(dāng)時(shí)他是給我打了視頻的，我在視頻中也確認(rèn)了是好友的面孔和聲音才放下戒備?！惫壬f(shuō)。

幸運(yùn)的是，接到報(bào)警后，包頭、福州兩地警銀聯(lián)動(dòng)，迅速啟動(dòng)止付機(jī)制，成功止付攔截336.84萬(wàn)元，但仍有93.16萬(wàn)元被轉(zhuǎn)移。

此類(lèi)AI詐騙事件并非孤例。近幾年，多地出現(xiàn)使用智能AI技術(shù)進(jìn)行電信詐騙的案件。隨著深度合成技術(shù)的開(kāi)發(fā)，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為日益增多。那么，AI詐騙常用手段有哪些？AI換臉、AI換聲涉嫌侵犯哪些權(quán)利？法律底線在何處？

AI詐騙的常用手段

AI換臉、換聲技術(shù)是通過(guò)運(yùn)用人工智能技術(shù)和深度算法，可以將人臉、表情、聲音等進(jìn)行高效準(zhǔn)確的替換，實(shí)現(xiàn)深度偽造，讓人真假難辨。

技術(shù)持續(xù)更新?lián)Q代，我們接觸到AI實(shí)時(shí)換臉技術(shù)的門(mén)檻日漸降低。內(nèi)蒙古尊恒律師事務(wù)所律師張躍飛在接受中國(guó)婦女報(bào)全媒體記者采訪時(shí)表示，AI詐騙通常有以下幾種常用手段——

第一種：聲音合成。

詐騙者通過(guò)騷擾電話錄音等來(lái)提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過(guò)對(duì)方。

第二種：AI換臉。

人臉效果更易取得對(duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過(guò)視頻方式進(jìn)行信息確認(rèn)。詐騙者首先分析公眾發(fā)布在網(wǎng)上的各類(lèi)信息，根據(jù)所要實(shí)施的騙術(shù)，通過(guò)AI技術(shù)篩選目標(biāo)人群。在視頻通話中利用AI換臉，騙取信任。

第三種：轉(zhuǎn)發(fā)微信語(yǔ)音。

詐騙者在盜取微信號(hào)后，會(huì)向其好友“借錢(qián)”，為取得對(duì)方的信任，他們會(huì)轉(zhuǎn)發(fā)之前的語(yǔ)音進(jìn)行詐騙。微信沒(méi)有語(yǔ)音轉(zhuǎn)發(fā)功能，但他們會(huì)通過(guò)提取語(yǔ)音文件實(shí)現(xiàn)語(yǔ)音轉(zhuǎn)發(fā)。

第四種：利用AI程序篩選受害人。

詐騙者利用AI來(lái)分析公眾發(fā)布在網(wǎng)上的各類(lèi)信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可制定出詐騙腳本，實(shí)施精準(zhǔn)詐騙。如實(shí)施情感詐騙時(shí)，可以篩選出經(jīng)常發(fā)布感情類(lèi)信息的人群；實(shí)施金融詐騙時(shí)，可以篩選出經(jīng)常搜索投資理財(cái)信息的人群。

張躍飛提醒大家，對(duì)于個(gè)人而言，人臉、聲音、指紋等生物信息以及身份證、銀行卡賬號(hào)等個(gè)人信息的保護(hù)變得尤為重要。如果熟人在線上提出轉(zhuǎn)賬需求時(shí)，要通過(guò)多重驗(yàn)證來(lái)確認(rèn)對(duì)方身份，特別是對(duì)AI技術(shù)了解不多的老年人更要加強(qiáng)防范。

AI技術(shù)濫用的法律風(fēng)險(xiǎn)

近日，“AI明星”正成為短視頻平臺(tái)新一輪流量密碼，同時(shí)，一些普通主播為增加賣(mài)點(diǎn)，吸引流量，通過(guò)“AI換臉技術(shù)”搖身一變成為一線當(dāng)紅女星進(jìn)行直播帶貨。

張躍飛告訴記者：“能以假亂真、掩人耳目的AI技術(shù)在民事方面易引發(fā)肖像權(quán)等侵權(quán)行為，在刑事方面易引發(fā)詐騙罪、侵犯公民個(gè)人信息罪等?！?/p>

根據(jù)民法典第一千零一十八條規(guī)定，“肖像是通過(guò)影像、雕塑、繪畫(huà)等方式在一定載體上所反映的特定自然人可以被識(shí)別的外部形象?！边@表明肖像權(quán)的范圍并不僅限于人的面部特征，只要能夠識(shí)別特定自然人的外部形象都受到肖像權(quán)的保護(hù)。民法典明確了侵犯肖像權(quán)的具體行為，其中包括未經(jīng)肖像權(quán)人同意，丑化、污損，或者利用信息技術(shù)手段偽造等方式侵犯他人的肖像權(quán)。

未經(jīng)明星本人同意，擅自利用“AI技術(shù)”變成明星臉來(lái)帶貨，根據(jù)民法典第一千零一十九條規(guī)定，“任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”。該行為涉嫌侵害明星的肖像權(quán)。

如果帶貨過(guò)程中有故意丑化或者損毀的情形，導(dǎo)致被換臉明星的社會(huì)評(píng)價(jià)降低，根據(jù)民法典第一千零二十四條規(guī)定，“任何組織或者個(gè)人不得以侮辱、誹謗等方式侵害他人的名譽(yù)權(quán)”。該行為涉嫌侵犯明星的名譽(yù)權(quán)。

如果“AI換臉技術(shù)”未經(jīng)當(dāng)事人同意，就處理其生物特征等敏感信息，根據(jù)民法典第一千零三十二條規(guī)定，“任何組織或者個(gè)人不得以刺探、侵?jǐn)_、泄露、公開(kāi)等方式侵害他人的隱私權(quán)”。該行為涉嫌侵犯他人隱私權(quán)。

另外，對(duì)于著作權(quán)人而言，程序運(yùn)營(yíng)者和普通用戶未經(jīng)授權(quán)和許可，擅自將圖片或視頻作為模板提供給不特定用戶用于“換臉”或?qū)Q臉后的視頻通過(guò)信息網(wǎng)絡(luò)公開(kāi)傳播，則可能構(gòu)成對(duì)信息網(wǎng)絡(luò)傳播權(quán)和保護(hù)作品完整權(quán)的侵害。

劃“紅線”注“標(biāo)識(shí)”確保個(gè)人信息安全

技術(shù)是把雙刃劍，一旦技術(shù)被濫用，就隱含了巨大的風(fēng)險(xiǎn)。面對(duì)AI技術(shù)的快速發(fā)展和濫用現(xiàn)象，有效的監(jiān)管和規(guī)范必不可少。我國(guó)與人工智能技術(shù)相關(guān)的法律法規(guī)正在不斷完善。

國(guó)家網(wǎng)信辦出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行，主要針對(duì)深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定，其中要求深度合成服務(wù)提供者提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。由此可見(jiàn)，做好風(fēng)險(xiǎn)防范首先要從技術(shù)開(kāi)發(fā)者、服務(wù)提供者入手。

近日，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），將于今年8月15日起施行。

國(guó)家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏表示，出臺(tái)《辦法》，堅(jiān)持發(fā)展與安全并重，既鼓勵(lì)創(chuàng)新，又依法治理，堅(jiān)持包容審慎、分級(jí)分類(lèi)的思路，以安全促發(fā)展，以發(fā)展保安全。

隨著人工智能與日常生活場(chǎng)景結(jié)合越來(lái)越密切，針對(duì)在此基礎(chǔ)上凸顯的隱私泄露、造謠詐騙等問(wèn)題，《辦法》將保護(hù)使用者的個(gè)人信息安全擺在了重要位置?！掇k法》第九條提出，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

這一條就將生成式人工智能服務(wù)提供者明確納入了網(wǎng)絡(luò)平臺(tái)責(zé)任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無(wú)處可遁。

《辦法》第十一條要求服務(wù)提供者不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄?！掇k法》第十四條提出，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。

而針對(duì)目前生成式人工智能內(nèi)容難以被分辨，甚至出現(xiàn)技術(shù)被濫用、誤用等問(wèn)題，《辦法》明確服務(wù)提供者應(yīng)當(dāng)對(duì)相關(guān)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)。標(biāo)識(shí)的作用在于警示和提醒用戶，該內(nèi)容是由AI生成的。

技術(shù)進(jìn)步需要更加健全、與時(shí)俱進(jìn)的規(guī)則和法律保護(hù)，完善相關(guān)法律體系和實(shí)施細(xì)則，加強(qiáng)有效監(jiān)管，明確行為底線，各個(gè)環(huán)節(jié)形成合力，多管齊下，才能讓人工智能產(chǎn)業(yè)在法律法規(guī)的軌道內(nèi)平穩(wěn)健康發(fā)展。