世界微資訊！微軟將把必應聊天回復限制在 5 條以內(nèi)，以防人工智能越界
IT之家 2 月 18 日消息，微軟表示，在必應聊天機器人多次失控幾天后，公司將對其人工智能聊天機器人實施一些對話限制。
在發(fā)現(xiàn)必應存在侮辱用戶、欺騙用戶，甚至操縱用戶情感等行為之后，微軟決定將其其聊天回復限制在每天 50 個問題、每個問題 5 條回復以內(nèi)。
“我們的數(shù)據(jù)表明，絕大多數(shù)人都能在 5 次回復內(nèi)找到他們想要的答案，只有大約 1% 的聊天對話會產(chǎn)生 50 條以上的消息” 。
(相關資料圖)
據(jù)介紹，如果用戶觸發(fā)五條回答的限制，Bing 將提示他們開始一個新主題以避免長時間的聊天。
本周早些時候，微軟警告說，這些包含 15 個或更多問題的長時間聊天會話可能會使必應“變得重復或被提示 / 激怒給出不一定有幫助或不符合我們設計的響應。” 微軟認為在五個回合后結(jié)束對話意味著“模型不會混淆”。
微軟目前仍在努力改善必應的設計，但目前還不清楚這些限制將持續(xù)多久。微軟只表示:“隨著我們不斷獲得反饋，我們將探索擴大聊天會話的上限?！?/p>
IT之家各位或多或少聽過，科技圈上周掀起了一次關于聊天機器人的小高潮，微軟和谷歌都試圖通過展示早起版本的 AI 搜索來先發(fā)制人。微軟更是宣布，該公司的 AI 搜索僅用 48 小時就吸引 100 多萬人注冊。
這種技術(shù)可以針對用戶的問題直接給出答案，看起來就像是真人創(chuàng)作的一樣。微軟 CEO 薩提亞?納德拉（Satya Nadella）表示，該技術(shù)“或許會掀起知識工作的工業(yè)革命”。但對于擔心準確性的人來說，人工智能還有許多不足之處。
在微軟進行演示時，這項嵌入在必應搜索中的類 ChatGPT 技術(shù)分析了 Gap 和 Lululemon 的財報。但業(yè)內(nèi)人士將其給出的答案與財報原文對比后卻發(fā)現(xiàn)，這款聊天機器人遺漏了一些數(shù)據(jù)，甚至會杜撰一些內(nèi)容。
“必應 AI 在演示過程中給出了一些完全錯誤的答案，但卻沒人注意到?！豹毩⑺阉饕嫜芯繂T德米特里?布里爾頓（Dmitri Brereton）寫道，“相反，大家都對必應的宣傳歡欣鼓舞?！?/p>
布里爾頓發(fā)現(xiàn)，除了財務數(shù)據(jù)上的錯誤外，微軟在演示中針對吸塵器規(guī)格和墨西哥旅行計劃的回答可能存在事實性錯誤。布里爾頓最初并不是為了給微軟“挑刺”，他只是在細致對比微軟和谷歌的答案時意外發(fā)現(xiàn)了這些問題。
人工智能專家稱這一現(xiàn)象為“幻覺”，也就是說，基于大語言模型生成的工具有杜撰內(nèi)容的傾向。上周，谷歌推出了一款與之競爭的人工智能工具，演示過程中同樣存在事實性錯誤 —— 但當時的錯誤很快就被人發(fā)現(xiàn)。
拓展閱讀：
《ChatGPT 版微軟必應內(nèi)置聊天機器人向用戶表白，并讓其跟妻子離婚》
《微軟：與 AI 增強版必應長時間聊天會導致“翻車”》
《微軟上調(diào) Bing Search API 定價，費用最高增長 1000%》
標簽： Bing
