ChatGPT走紅，但也帶來治理風(fēng)險
(相關(guān)資料圖)
原標(biāo)題：ChatGPT走紅，但也帶來治理風(fēng)險
ChatGPT是人工智能發(fā)展史上又一款現(xiàn)象級產(chǎn)品。此前，人工智能領(lǐng)域曾多次出現(xiàn)過類似情況。例如，1997年，IBM開發(fā)的深藍計算機在國際象棋的世紀(jì)大戰(zhàn)中打敗了當(dāng)時的世界冠軍卡斯帕羅夫；2016年，谷歌開發(fā)的AlphaGo在與世界頂尖棋手李世石的五番對決中，以4:1的成績獲勝。
但此次推出的ChatGPT不同點在于，它超越了單一的游戲領(lǐng)域，讓各行各業(yè)的普羅大眾直接領(lǐng)教了一番人工智能的魅力攻勢。特別是ChatGPT不僅上知天文、下知地理，而且在文本生產(chǎn)、數(shù)據(jù)分析、代碼編寫、圖像生成等多模態(tài)話語領(lǐng)域均體現(xiàn)出讓人驚艷的可靠性、高效性與邏輯性，它以生產(chǎn)力工具的面貌突然出現(xiàn)在大眾面前，也因此產(chǎn)生遠超以往的社會震動。已有經(jīng)驗表明，人總是容易高估一年內(nèi)的短期變化，卻容易低估十年內(nèi)的長期變化。雖然ChatGPT發(fā)展為成熟的應(yīng)用進入普通生活場景，仍需一定時日，但基于長期眼光來看，ChatGPT所帶來的風(fēng)險并不會僅局限在個體層面，從社會緯度來看，這類人工智能產(chǎn)品或?qū)⒔o網(wǎng)絡(luò)社會治理帶來前所未有的挑戰(zhàn)。
從內(nèi)容質(zhì)量來看，“幻覺” (Hallucination)對真實性的污染使得未來的虛假信息治理面臨更嚴(yán)峻挑戰(zhàn)。所謂“幻覺”，指的是自然語言處理模型生成自然流暢，語法正確，但實際上毫無意義，或包含虛假信息的內(nèi)容，就像人產(chǎn)生幻覺一樣。作為人工智能領(lǐng)域最先進的產(chǎn)品之一，ChatGPT在底層數(shù)據(jù)與核心技術(shù)方面均為世界領(lǐng)先，特別是其核心的人工智能語言大模型在參數(shù)規(guī)模上已經(jīng)達到千億級別，這使其具備優(yōu)秀的意圖識別與語言理解能力。但是因為數(shù)據(jù)質(zhì)量與技術(shù)的限制，它也難以避免幻覺現(xiàn)象。
幻覺問題導(dǎo)致一些網(wǎng)民在試用時發(fā)現(xiàn)，ChatGPT在交互中會生成不少事實性錯誤，有時對一些簡單問題也會一本正經(jīng)地胡說八道。Meta公司推出的大型語言模型Galactica主打科學(xué)研究領(lǐng)域的內(nèi)容生成服務(wù)，上線后也被發(fā)現(xiàn)部分生成內(nèi)容失實，三天后就遭下線。因此，紐約大學(xué)教授蓋瑞·馬庫斯認(rèn)為，盡管ChatGPT能夠生成合乎語言邏輯的內(nèi)容，但這些內(nèi)容本身并不一定真實。在隔行如隔山的今天，這種似是而非的內(nèi)容對非專業(yè)用戶具有極大的迷惑性。再加上隨著現(xiàn)代科學(xué)的蓬勃發(fā)展，科學(xué)技術(shù)的先進性與權(quán)威性已經(jīng)深度捆綁，并植入到了大眾的腦海之中。ChatGPT也可以利用這種認(rèn)知慣性，裹挾著科學(xué)之威，在潛移默化中影響對特定問題的社會認(rèn)知。
從信息生產(chǎn)與傳播角度來看，ChatGPT還實現(xiàn)了傳播模式的升級。就互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)模式而言，無論是最初的PGC（專家生產(chǎn)內(nèi)容），還是后來大行其道的UGC（用戶生產(chǎn)內(nèi)容），內(nèi)容生產(chǎn)的主體都是人，但以ChatGPT等為代表的應(yīng)用卻帶來新的AIGC時代（AI生產(chǎn)內(nèi)容）。與此前的模式相比，AIGC實現(xiàn)了傳播主體、內(nèi)容與媒介的深度一體化，標(biāo)志著基于互聯(lián)網(wǎng)的深度媒介化進入到一個新階段。媒介化是一個宏觀層面上的概念，是對媒介效果的宏觀社會效應(yīng)的一種延展，其根本點在于以此概念來理解媒介所帶來的復(fù)雜社會后果。已有研究表明，媒介化是“所有社會進程中的一個獨特維度”，媒介化學(xué)派代表性人物弗里德里?！た肆_茨甚至將媒介化視為可以塑造交往形態(tài)和歷史進程的“元進程”。從這個角度來看，ChatGPT就不只是作為一種中立性和工具性的中介存在于治理體系之中，而是會成為不同利益、立場的群體進行互動的平臺和交往場域，并以其內(nèi)在的技術(shù)邏輯改造傳統(tǒng)的權(quán)力運行邏輯，改變已有的權(quán)力結(jié)構(gòu)，對現(xiàn)實社會中的利益博弈施加內(nèi)在影響，從而產(chǎn)生廣泛且深刻的影響。
例如，雖然ChatGPT仍在試用階段，但眾多社會從業(yè)者體驗之后都感到可能被替代的擔(dān)憂。關(guān)鍵是ChatGPT還處于持續(xù)更新的狀態(tài)中，可以想見，那些擔(dān)憂并非杞人憂天，《人類簡史》的作者赫拉利所預(yù)言的大規(guī)?！盁o用階層”的出現(xiàn)也并非危言聳聽。雖然技術(shù)的每一次更新都會創(chuàng)造新的勞動就業(yè)機會，但落到個體的角度，卻存在各種可能的結(jié)果。由技術(shù)發(fā)展帶來的系統(tǒng)性、結(jié)構(gòu)性失業(yè)問題，對任何國家而言，都是不得不防的社會風(fēng)險。
這還僅僅是ChatGPT對勞資關(guān)系可能造成的影響。從技術(shù)發(fā)展的邏輯來看，賦能會導(dǎo)向賦權(quán)，ChatGPT延伸了個體的信息生產(chǎn)與傳播能力，也會因此激發(fā)社會行動者達權(quán)通變的意愿，利用相關(guān)技術(shù)與工具拓展各類權(quán)力訴求，這又可能帶來權(quán)力格局的深度調(diào)整。特別是在國際緯度，以ChatGPT為代表的人工智能與國家的信息安全、經(jīng)濟發(fā)展、社會穩(wěn)定等問題息息相關(guān)，未來很可能成為大國競爭的戰(zhàn)略工具。屆時，個別國家以其技術(shù)優(yōu)勢獲得更大的霸權(quán)優(yōu)勢，將成為全球網(wǎng)絡(luò)治理中的新難題。
在現(xiàn)代社會，各類新技術(shù)一度被視為“解蔽世界的力量”而被寄予厚望，但歷史卻多次展現(xiàn)了事與愿違的結(jié)果。面對以ChatGPT為代表的人工智能技術(shù)可能帶來的治理風(fēng)險，我們當(dāng)然不能以“用勺子挖運河”的思維一禁了之，也沒必要恐慌焦慮，但是應(yīng)樹立完善的技術(shù)發(fā)展與應(yīng)用觀念，警惕激進主義傾向，審慎對待技術(shù)的采用和相應(yīng)產(chǎn)業(yè)的政策制定，防止技術(shù)在利益的裹挾下無序應(yīng)用。（湯景泰，作者是復(fù)旦大學(xué)新聞學(xué)院教授）
標(biāo)簽： 人工智能 技術(shù)發(fā)展 為代表的
