天天熱頭條丨“ChatGPT禁令”頻發(fā)為哪般
(相關(guān)資料圖)
原標(biāo)題：“ChatGPT禁令”頻發(fā)為哪般
要說(shuō)2023年初的互聯(lián)網(wǎng)熱點(diǎn)當(dāng)屬ChatGPT，但是最近多家公司和機(jī)構(gòu)開始對(duì)ChatGPT的使用施加限制。以ChatGPT為代表的人工智能技術(shù)在給人類帶來(lái)便利的同時(shí)也引發(fā)了諸多擔(dān)憂。
首先是信息泄露和合規(guī)風(fēng)險(xiǎn)。摩根大通近日開始限制員工使用ChatGPT，成為第一家在工作場(chǎng)所限制使用ChatGPT的華爾街投行。隨后，花旗集團(tuán)和高盛集團(tuán)也加入華爾街禁用ChatGPT之列。而此前，微軟和亞馬遜因擔(dān)心泄露機(jī)密信息，禁止公司員工向ChatGPT分享敏感數(shù)據(jù)，因?yàn)閱T工輸入的信息可能會(huì)被ChatGPT用作進(jìn)一步迭代的訓(xùn)練數(shù)據(jù)。咨詢公司埃森哲也出于類似原因，警告員工不要將客戶信息透露給ChatGPT。
其次是內(nèi)容剽竊和作弊風(fēng)險(xiǎn)。在大學(xué)和出版界，“ChatGPT禁令”已經(jīng)較為普遍。為避免學(xué)生過(guò)于依賴此類工具，美國(guó)、法國(guó)、英國(guó)等多國(guó)學(xué)校發(fā)出禁令，禁止學(xué)生在學(xué)校內(nèi)使用類似于ChatGPT的人工智能工具完成學(xué)習(xí)任務(wù)和考試。香港大學(xué)近日也表示，禁止在港大所有課堂、作業(yè)和評(píng)估中使用ChatGPT或其他人工智能工具。美國(guó)知名科幻雜志《克拉克世界》宣布，由于近期收到大量人工智能生成的稿件，決定停止接收投稿。在學(xué)術(shù)、應(yīng)試和文學(xué)創(chuàng)作等領(lǐng)域，ChatGPT的表現(xiàn)十分優(yōu)秀，遭到的反對(duì)也最為激烈，因?yàn)槿藗儞?dān)心對(duì)此類軟件的過(guò)度依賴將會(huì)使人喪失獨(dú)立思考的能力。
此外，ChatGPT等人工智能技術(shù)對(duì)網(wǎng)絡(luò)和數(shù)據(jù)安全的威脅也值得關(guān)注。盡管ChatGPT本身尚不具備直接攻擊網(wǎng)絡(luò)安全和數(shù)據(jù)安全的能力，但由于它具有自然語(yǔ)言生成和理解的能力，能夠用來(lái)編程或?qū)懻撐?，自然也能被用?lái)編寫惡意代碼、垃圾郵件等。
任何一項(xiàng)新技術(shù)的誕生往往伴隨著弊端與風(fēng)險(xiǎn)。面對(duì)人工智能帶來(lái)的挑戰(zhàn)，相應(yīng)的安全技術(shù)和監(jiān)管制度應(yīng)該跟上。許多大學(xué)已經(jīng)在使用檢測(cè)抄襲的軟件，ChatGPT的開發(fā)者OpenAI公司表示，該軟件的目標(biāo)是與教育工作者合作，幫助教師和學(xué)生從人工智能中受益，不希望ChatGPT在學(xué)校或其他任何地方被用于誤導(dǎo)目的，已經(jīng)在開發(fā)應(yīng)對(duì)措施，以幫助識(shí)別該系統(tǒng)生成的文本。而針對(duì)此類應(yīng)用的安全風(fēng)險(xiǎn)，目前國(guó)內(nèi)外已經(jīng)有不少業(yè)內(nèi)企業(yè)著手建設(shè)人工智能安全平臺(tái)，以提升對(duì)于威脅的檢測(cè)和響應(yīng)能力?？傮w來(lái)看，只有在合理的監(jiān)管和治理之下，人工智能技術(shù)才能更好地為人服務(wù)。（周明陽(yáng)）
標(biāo)簽： 人工智能 人工智能技術(shù) 數(shù)據(jù)安全
