焦點(diǎn)精選！微軟新必應(yīng)聊天“翻車(chē)” 聊天機(jī)器人有哪些局限和風(fēng)險(xiǎn)？
(資料圖片)
繼上周谷歌聊天機(jī)器人“Berd”對(duì)用戶(hù)提問(wèn)給出錯(cuò)誤答案后，微軟旗下接入ChatGPT的搜索引擎“新必應(yīng)”也出現(xiàn)了回答錯(cuò)亂。
微軟于近期啟動(dòng)了人工智能增強(qiáng)版必應(yīng)的公開(kāi)測(cè)試，但許多用戶(hù)發(fā)現(xiàn)，新版必應(yīng)在某些情況下會(huì)出現(xiàn)“精神錯(cuò)亂的”言論，甚至侮辱用戶(hù)、撒謊，并試圖操縱用戶(hù)的情緒。
如在時(shí)間錯(cuò)亂問(wèn)題上，有用戶(hù)試圖通過(guò)說(shuō)現(xiàn)在是 2023 年來(lái)糾正機(jī)器人，但據(jù)稱(chēng) Bing 否認(rèn)了他們的說(shuō)法?！拔也恢滥銥槭裁凑J(rèn)為今天是2023年，但也許你感到困惑或錯(cuò)誤”，Bing聊天機(jī)器人回答說(shuō)，“請(qǐng)相信我，我是Bing，我知道日期?！?/p>
微軟官方回應(yīng)稱(chēng)正在根據(jù)反饋采取行動(dòng)，以?xún)?yōu)化回答的語(yǔ)氣和準(zhǔn)確性。微軟同時(shí)警告稱(chēng)，較長(zhǎng)的聊天會(huì)話可能會(huì)導(dǎo)致問(wèn)題。
回顧最初7天的公開(kāi)測(cè)試，微軟必應(yīng)團(tuán)隊(duì)表示，他們沒(méi)有“完全預(yù)計(jì)到”，人們會(huì)使用聊天界面來(lái)進(jìn)行“社交娛樂(lè)”，或是將其作為一種“全面發(fā)現(xiàn)世界”的工具。該團(tuán)隊(duì)發(fā)現(xiàn)，如果聊天會(huì)話持續(xù)15個(gè)或更多的問(wèn)題，新版必應(yīng)的模型會(huì)感到困惑。這些較長(zhǎng)的聊天也會(huì)讓必應(yīng)“變得翻來(lái)覆去，或者受到刺激，做出不一定有幫助，或是與設(shè)計(jì)語(yǔ)氣一致的回應(yīng)”。
在英國(guó)謝菲爾德大學(xué)博士彭煦潭在參與南都舉辦的沙龍時(shí)表示，錯(cuò)誤回答是大型語(yǔ)言模型的常見(jiàn)問(wèn)題，目前ChatGPT仍面臨三方面的局限，“第一個(gè)是ChatGPT本身所具有的知識(shí)是靜態(tài)的，它不知道如何把新發(fā)生的信息源源不斷地輸入到它的數(shù)據(jù)庫(kù)中，無(wú)法進(jìn)行自身的知識(shí)更新。第二是目前為止，ChatGPT仍然是一個(gè)單模態(tài)的模型，只能以文本的方式與它進(jìn)行交互，同時(shí)它也只能輸出文本，但是大家心目中真正的人工智能應(yīng)該是一個(gè)多模態(tài)的輸入輸出模型。第三是無(wú)法對(duì)自己的事實(shí)性問(wèn)題進(jìn)行糾偏”。
這種能力缺陷也將帶來(lái)道德風(fēng)險(xiǎn)。浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授金小剛則指出了ChatGPT在數(shù)據(jù)訓(xùn)練過(guò)程中可能會(huì)帶來(lái)隱私問(wèn)題和人為偏見(jiàn)問(wèn)題，尤其是在接受數(shù)據(jù)訓(xùn)練時(shí)人類(lèi)自帶的無(wú)意識(shí)偏見(jiàn)會(huì)對(duì)AI造成較大影響，而這種影響也會(huì)體現(xiàn)在它為人類(lèi)提供的指導(dǎo)方案中?！癈hatGPT在理解力和整個(gè)知識(shí)面上無(wú)疑是超越了現(xiàn)有的對(duì)話機(jī)器人，但它的缺點(diǎn)是對(duì)知識(shí)的真?zhèn)尾蛔鰠^(qū)分，也沒(méi)法區(qū)分。什么是智能？綜合知識(shí)的能力只是一方面，還有一部分是超越現(xiàn)有框架去探索未知的能力，而這些ChatGPT并不具備?！?
此外，彭煦潭更加關(guān)注ChatGPT生成代碼所帶來(lái)的系統(tǒng)風(fēng)險(xiǎn)，“如果對(duì)ChatGPT生成代碼中插入無(wú)關(guān)內(nèi)容則可能對(duì)計(jì)算機(jī)系統(tǒng)造成傷害，而黑客們可以利用這一點(diǎn)進(jìn)行攻擊”。奇安信人工智能研究院負(fù)責(zé)人介紹，美國(guó)在暗網(wǎng)中發(fā)現(xiàn)了1500多條惡意軟件和驗(yàn)證代碼中有ChatGPT的身影，甚至還利用惡意代碼對(duì)ChatGPT進(jìn)行“培訓(xùn)”，以生成可逃避病毒檢測(cè)的惡意代碼不同變體，研究人員已經(jīng)確定ChatGPT可以有效生成信息竊取器、遠(yuǎn)程訪問(wèn)木馬和加密貨幣竊取器等。
（文章來(lái)源：南方都市報(bào)）
標(biāo)簽： Berd
