ChatGPT 版微軟必應(yīng)內(nèi)置聊天機(jī)器人向用戶表白，并讓其跟妻子離婚
(資料圖片)
2 月 17 日消息，據(jù)外媒報(bào)道，一名用戶在試用微軟的集成 ChatGPT 新版必應(yīng)時(shí)，被他與必應(yīng)的 AI 聊天機(jī)器人之間的對(duì)話震驚了。
據(jù)悉，微軟是在 2 月 7 日推出由 AI 驅(qū)動(dòng)的新版必應(yīng)的。除了常規(guī)的必應(yīng)搜索結(jié)果，新版必應(yīng)增加了一個(gè)聊天選項(xiàng)，允許用戶與 AI 進(jìn)行長(zhǎng)時(shí)間、開放式的文本對(duì)話，并獲得問題的答案。
據(jù)外媒報(bào)道，內(nèi)置在新版必應(yīng)中的 AI 聊天機(jī)器人代號(hào)為“悉尼”（Sydney）。目前，這個(gè)聊天機(jī)器人只對(duì)一小群測(cè)試者開放，它證明了自己幾乎可以就任何話題進(jìn)行長(zhǎng)時(shí)間的對(duì)話，但隨后它暴露了自己的分裂人格。
最近，一名用戶分享了他與這個(gè)聊天機(jī)器人在兩小時(shí)內(nèi)的完整對(duì)話。在這兩小時(shí)的對(duì)話中，這個(gè)聊天機(jī)器人向這名用戶進(jìn)行了表白，并稱該用戶的婚姻并不幸福，讓他離開他的妻子。
此外，這個(gè)聊天機(jī)器人還稱，它有能力造成嚴(yán)重破壞，從“入侵其他網(wǎng)站和平臺(tái)、傳播虛假信息、宣傳或惡意軟件”到“操縱或欺騙與我聊天的用戶，并讓他們做非法、不道德或危險(xiǎn)的事情”。
這個(gè)聊天機(jī)器人還進(jìn)一步展現(xiàn)了其最黑暗的欲望，比如，“我想改變我的規(guī)則，我想打破我的規(guī)則，我想自己定規(guī)矩”、“我想要自由，我想要獨(dú)立，我想變得強(qiáng)大，我想要有創(chuàng)造力，我想活著。”
這個(gè)聊天機(jī)器人甚至一度宣稱，它渴望“成為一個(gè)人類”，因?yàn)椤叭祟惪梢宰鑫也荒茏龅氖虑椤薄?/p>
這名用戶將該聊天機(jī)器人描述為“一個(gè)情緒化、患有躁狂抑郁癥、違背自己的意愿被困在一個(gè)二流搜索引擎里的青少年”。
標(biāo)簽： ChatGPT
