您的位置:首頁 > 快訊 >

AI造假亂象頻出 堅守底線是關鍵


(資料圖片僅供參考)

原標題:AI造假亂象頻出 堅守底線是關鍵

AI技術的發(fā)展是今年上半年的科技熱點,但也有人打起了AI的歪主意。5月4日,微博平臺上一名博主利用AI技術合成假視頻,稱緬甸郵輪上存在器官移植手術室。視頻一經放出就引來了一大波流量,一度沖上微博熱搜榜。隨后,微博社區(qū)觀察員官方賬號@圍脖俠 對上述消息進行辟謠并對造謠用戶禁言,并請廣大用戶以官方新聞報道為準,切勿輕信各類通過拼湊網絡素材、由AI合成的搬運視頻。

這類AI造假亂象近年來多有發(fā)生,給人們帶來諸多擔憂。但AI技術終究只是工具,用好了利人,亂用了害人。歸根結底,堅守底線才是使用AI技術的關鍵。

隨著技術的飛速發(fā)展,AI合成作品越來越接近真實,不少不法分子利用AI技術造假博取流量,謀取利益。今年3月28日,廣東廣州一女子在地鐵上的照片被AI“一鍵脫衣”,造謠圖在網絡廣泛傳播,對當事人的工作與生活造成了極大影響。4月7日,浙江杭州檢察機關曝光了一個“女神群”,此群利用換臉技術將女星照片合成到淫穢視頻當中,再進行販賣,傳播。這些行為在道德上毫無底線,在法律上嚴重侵害了被害人的肖像權、名譽權等,是對他人的不尊重,也是對法律底線的挑戰(zhàn)。

類似的造假在各行各業(yè)中都有出現。4月15日,德國雜志《Die Aktuelle》利用AI技術生成了所謂的對“車王”邁克爾·舒馬赫的“專訪”,但最終被證實采訪視頻是由AI合成。在引起廣泛爭議后,該雜志出版商已向這位傳奇人物致歉,雜志主編也火速被“炒”。

同樣,AI技術在繪畫界的運用也極為廣泛,其中也不乏造假亂象。AI繪圖本質上是把目前網絡上已有的圖片融合拼接起來合成一張新的圖片,并不能算得上真正意義上的繪畫。但由于其“方便快捷”,就有人使用AI技術,售賣無版權的AI圖片。通過收集其他畫師的作品來為自己生成新的圖片,并用于商業(yè)用途,這是對客戶的不尊重,也給相關畫師帶來了版權上的困擾。

技術發(fā)展的勢頭是不可阻擋的,技術本身無對錯,但其應用不該突破底線,應當在正當、合法的領域合理使用。在使用AI技術時,我們都應恪守本心、堅守底線,使其在正道上發(fā)展,讓AI技術真正利人、利己、利社會。(岳凱 李子羿)

標簽:

相關閱讀