萬億巨頭出手：禁止員工使用ChatGPT類工具！ChatGPT安全性惹爭(zhēng)議 世界觀點(diǎn)

自誕生之日起即炙手可熱的ChatGPT，因安全風(fēng)險(xiǎn)而廣受科技巨頭們審視，這一次出手的是萬億巨頭三星。

據(jù)外媒報(bào)道，近期三星電子已在內(nèi)部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔(dān)心會(huì)帶來安全風(fēng)險(xiǎn)。

三星的擔(dān)心并非空穴來風(fēng)。據(jù)此前消息顯示，三星電子引入聊天機(jī)器人ChatGPT不到20天就發(fā)生了3起涉及ChatGPT的事故。與此同時(shí)，目前多家國(guó)際投行及科技公司均對(duì)ChatGPT持謹(jǐn)慎態(tài)度。

(資料圖片僅供參考)

不過，雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對(duì)AI采取封閉式態(tài)度。據(jù)國(guó)外科技媒體報(bào)道，近日三星向旗下所有的手機(jī)以及平板電腦產(chǎn)品推送了微軟BingAI更新，在這一更新完成后，三星用戶可直接通過手機(jī)或者平板使用微軟BingAI。

來看詳情——

禁止員工使用生成式AI

違者可能遭解雇

據(jù)外媒周一報(bào)道，三星電子已在內(nèi)部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔(dān)心會(huì)帶來安全風(fēng)險(xiǎn)。

報(bào)道稱，內(nèi)部備忘錄表示，三星電子擔(dān)心傳輸?shù)焦雀鐱ard和微軟Bing等人工智能平臺(tái)的數(shù)據(jù)存儲(chǔ)在外部服務(wù)器上，難以檢索和刪除，最終可能會(huì)泄露給其他用戶。

內(nèi)部備忘錄顯示，三星電子上個(gè)月進(jìn)行了一項(xiàng)關(guān)于內(nèi)部使用AI工具的調(diào)查，其中65%的受訪者認(rèn)為此類服務(wù)存在安全風(fēng)險(xiǎn)。今年4月初，三星工程師將內(nèi)部源代碼上傳到了ChatGPT，目前還不清楚這些信息包含什么。

與此同時(shí)，三星正在開發(fā)自己的內(nèi)部AI工具，用于翻譯和總結(jié)文件以及軟件開發(fā)，還在研究阻止敏感公司信息上傳到外部服務(wù)的方法?！翱偛空趯彶榘踩胧?，以創(chuàng)造一個(gè)安全的環(huán)境，以安全地使用生成式AI來提高員工的生產(chǎn)力和效率。但是，在準(zhǔn)備好這些措施之前，我們暫時(shí)限制生成式AI的使用?！?/p>

據(jù)了解，三星電子的新政策禁止在公司自有的電腦、平板電腦和手機(jī)以及內(nèi)部網(wǎng)絡(luò)上使用生成式AI系統(tǒng)，不會(huì)影響銷售給消費(fèi)者的設(shè)備，例如Android智能手機(jī)和Windows筆記本電腦。

另外三星在備忘錄中表示：“我們要求您認(rèn)真遵守我們的安全指南，否則可能會(huì)導(dǎo)致公司信息泄露，違者進(jìn)行紀(jì)律處分，甚至包括解雇。”

曾出現(xiàn)資料外泄事故

不到20天3起

三星此次采取備忘錄的方式提醒全體員工之舉，并非空穴來風(fēng)。

據(jù)此前消息顯示，三星電子引入聊天機(jī)器人ChatGPT不到20天就發(fā)生了3起涉及ChatGPT的事故。3起事故中，其中2起與半導(dǎo)體設(shè)備有關(guān)，另一起與內(nèi)部會(huì)議有關(guān)。具體為：

案件一，三星設(shè)備解決方案部門的職員A在半導(dǎo)體設(shè)備測(cè)量資料庫(kù)下載軟件時(shí)，發(fā)現(xiàn)源代碼出現(xiàn)錯(cuò)誤，便將有問題的部分復(fù)制到ChatGPT中尋找解決方案。

案件二同樣發(fā)生在設(shè)備解決方案部門，職員B將用于識(shí)別產(chǎn)品良率的程序代碼輸入進(jìn)ChatGPT，要求其優(yōu)化代碼。

案件三是該部門的職員C為了制作會(huì)議記錄，將手機(jī)上的會(huì)議內(nèi)容轉(zhuǎn)換為文檔，之后將文檔輸入進(jìn)ChatGPT。

相關(guān)報(bào)道稱，前兩起案件已分別導(dǎo)致三星公司的半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率等機(jī)密內(nèi)容錄入到ChatGPT的學(xué)習(xí)資料庫(kù)中。

不難發(fā)現(xiàn)，上述三起泄密事件均發(fā)生在三星電子半導(dǎo)體暨裝置解決方案（Device Solutions）部門。此前，三星曾因擔(dān)憂內(nèi)部機(jī)密外泄而禁用ChatGPT，但基于半導(dǎo)體是“生成式AI”的建構(gòu)基礎(chǔ)，三星自3月11日起允許DS部門使用ChatGPT。

對(duì)于上述泄密事件，三星方面回應(yīng)，已加強(qiáng)ChatGPT相關(guān)的安全措施，將進(jìn)一步收緊內(nèi)部監(jiān)管和員工培訓(xùn)。公司還特地發(fā)布公告叮囑員工注意使用ChatGPT的方式，如果再次發(fā)生類似事件，內(nèi)部可能會(huì)切斷ChatGPT服務(wù)。

三星通過內(nèi)部公告警示說：“在ChatGPT中輸入內(nèi)容的瞬間，數(shù)據(jù)就會(huì)發(fā)送到外部服務(wù)器并存儲(chǔ)，公司無法收回。如果ChatGPT學(xué)習(xí)相關(guān)內(nèi)容，敏感內(nèi)容可能會(huì)提供給不特定的多數(shù)人?！?/p>

已推送微軟Bing AI更新

雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對(duì)AI采取封閉式態(tài)度。

據(jù)外媒報(bào)道，三星近日向旗下所有的手機(jī)以及平板電腦產(chǎn)品推送了微軟Bing AI更新，在這一更新完成后，三星用戶可直接通過手機(jī)或者平板使用微軟Bing AI。

據(jù)韓媒今年3月報(bào)道，三星電子DX部門負(fù)責(zé)人韓鐘熙（副會(huì)長(zhǎng)）21日在首爾舉行的新產(chǎn)品發(fā)表活動(dòng)中表示，將集中全部力量擴(kuò)大機(jī)器人事業(yè)，把機(jī)器人作為新的增長(zhǎng)動(dòng)力，同時(shí)加強(qiáng)了外部投資及合作。三星風(fēng)險(xiǎn)投資當(dāng)天表示，利用從三星電子出資籌集的基金，向無人駕駛機(jī)器人初創(chuàng)公司New Bility投資了30億韓元。

作為韓國(guó)最大的跨國(guó)企業(yè)集團(tuán)，三星集團(tuán)包括眾多國(guó)際下屬企業(yè)，其中三星電子為三星旗下最大的子公司。數(shù)據(jù)顯示，三星電子總市值達(dá)391.02億韓元（約合2.01億人民幣）。

4月27日，三星電子公布了其2023年第一季度的財(cái)報(bào)。數(shù)據(jù)顯示，2023年第一季度，三星電子實(shí)現(xiàn)營(yíng)業(yè)利潤(rùn)6402億韓元（約合人民幣33億元），同比下降95%，為14年來的最低水平；凈利潤(rùn)1.40萬億韓元（約合人民幣72億元）；銷售額63.75萬億韓元（約合人民幣3295億元），同比下降18%。

值得關(guān)注的是，三星電子半導(dǎo)體業(yè)務(wù)第一季度虧損4.58萬億韓元（約合人民幣236億元），而去年同期該業(yè)務(wù)有8.45萬億韓元的利潤(rùn)。三星電子表示，由于科技行業(yè)的長(zhǎng)期低迷嚴(yán)重打擊了其存儲(chǔ)芯片業(yè)務(wù)，第一季度利潤(rùn)驟減至金融危機(jī)以來所未見。

ChatGPT安全性惹爭(zhēng)議

因安全問題而對(duì)ChatGPT采取“禁用”、“暫?！笔侄蔚拇笮凸?，三星不是第一家，也不會(huì)是最后一家。

首先對(duì)ChatGPT表示“拒絕”的，當(dāng)屬金融行業(yè)。ChatGPT掀起熱潮不久后，今年2月，JP摩根大通、美國(guó)銀行、花旗、富國(guó)銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT。這不僅因?yàn)镃hatGPT屬于第三方應(yīng)用軟件，不是公司內(nèi)部系統(tǒng)，更因?yàn)榕cAI共享敏感財(cái)務(wù)數(shù)據(jù)的潛在監(jiān)管風(fēng)險(xiǎn)。

例如，摩根大通不準(zhǔn)員工在辦公室使用ChatGPT，其表示，有關(guān)禁令并非源自任何特定事件，而是基于公司對(duì)第三方軟件的正常管控。美國(guó)銀行例行提醒員工切勿使用未經(jīng)授權(quán)軟件時(shí)，也特別點(diǎn)名提到ChatGPT。

德意志銀行表明，嚴(yán)禁員工在公司內(nèi)用ChatGPT，并從內(nèi)部阻斷連接OpenAI網(wǎng)站。而盡管高盛鼓勵(lì)編程人員采用AI來輔助編程，但禁止旗下交易員使用ChatGPT。

韓國(guó)方面，除三星外，全球第二大存儲(chǔ)芯片巨頭韓國(guó)SK海力士稱“除必要時(shí)刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT。韓國(guó)液晶面板龍頭公司LG Display通過公司內(nèi)部帖子和教育、活動(dòng)等，隨時(shí)強(qiáng)調(diào)公司內(nèi)部信息保護(hù)和防止泄漏等信息安全認(rèn)識(shí)。

據(jù)日媒報(bào)道，日本軟銀集團(tuán)此前向全體員工通報(bào)了禁止在ChatGPT中輸入機(jī)密信息等注意事項(xiàng)，該集團(tuán)還計(jì)劃制定了哪些業(yè)務(wù)或用途可以使用交互式AI的規(guī)則。瑞穗金融集團(tuán)、三菱UFJ銀行、三井住友銀行禁止將ChatGPT等交互式AI用于業(yè)務(wù)。松下控股旗下松下Connect在制定信息泄露對(duì)策后才允許使用交互式AI。富士通設(shè)置了“AI倫理治理室”，提醒用戶使用交互式AI時(shí)的注意點(diǎn)。

3月23日，OpenAI的首席執(zhí)行官Sam Altman公開承認(rèn)開源庫(kù)中出現(xiàn)錯(cuò)誤，導(dǎo)致部分用戶與ChatGPT的聊天記錄被泄露。當(dāng)天他發(fā)布致歉推文，表示已經(jīng)修復(fù)了錯(cuò)誤并完成驗(yàn)證。

政府方面，此前意大利個(gè)人數(shù)據(jù)保護(hù)局曾宣布禁止使用ChatGPT，并限制OpenAI公司處理意大利用戶信息。不過據(jù)意媒上周五報(bào)道，被勒令下線近一個(gè)月后，ChatGPT已經(jīng)在該國(guó)恢復(fù)服務(wù)。

4月30日，七國(guó)集團(tuán)數(shù)字與技術(shù)部長(zhǎng)會(huì)議同意對(duì)人工智能采取“基于風(fēng)險(xiǎn)的”監(jiān)管。七國(guó)集團(tuán)的部長(zhǎng)在聯(lián)合聲明中表示，此類監(jiān)管也應(yīng)為人工智能技術(shù)的發(fā)展“維護(hù)一個(gè)開放和有利的環(huán)境”。

另外，近期歐盟提出新的立法草案，要求ChatGPT等人工智能工具的開發(fā)商，披露他們?cè)跇?gòu)建AI系統(tǒng)時(shí)使用的版權(quán)材料。這一規(guī)則將賦能出版商和內(nèi)容創(chuàng)作者，使他們?cè)谧髌繁籆hatGPT等AI工具用作生成內(nèi)容的原始材料時(shí)，可尋求利潤(rùn)分成。

（文章來源：中國(guó)基金報(bào)）