“讀心”AI需要植入安全基因
【資料圖】
原標(biāo)題：“讀心”AI需要植入安全基因
就在近日的《自然·神經(jīng)科學(xué)》上，來(lái)自得克薩斯大學(xué)的科學(xué)家們發(fā)表了一篇論文，文中提到他們?cè)诖笮驼Z(yǔ)言模型的助力下，開(kāi)發(fā)出了一種現(xiàn)代“讀心機(jī)”，雖然它不能讓你直接“說(shuō)真話”，但是可以將你的大腦活動(dòng)轉(zhuǎn)換成清晰的圖像或語(yǔ)言直接表述出來(lái)。（8月28日《北京青年報(bào)》轉(zhuǎn)載）
所謂“讀心”，就是即使你默不作聲，AI也能掌握你的所知所想。換言之，讀心就是“思維解碼”，是指利用AI技術(shù)從大腦中提取和解析思維的過(guò)程。從近年媒體報(bào)道的情況看，有的研究人員開(kāi)發(fā)出一種語(yǔ)義解碼器，通過(guò)分析人的功能磁共振成像數(shù)據(jù)，把大腦所想的故事甚至圖像翻譯成文本流。有的研究人員則通過(guò)捕捉面部神經(jīng)肌肉的信號(hào)，把這類(lèi)信號(hào)轉(zhuǎn)換為相應(yīng)的字詞，以達(dá)到“讀心”的目的。然而，無(wú)論各種研究如何演進(jìn)，人們面對(duì)未來(lái)的多種可能性，總是會(huì)擔(dān)心一個(gè)問(wèn)題：AI技術(shù)究竟能不能向善、不作惡？會(huì)讀心的AI會(huì)不會(huì)從人的助手蛻變?yōu)槿说目刂普?，甚至成為罪惡的幫兇?/p>
眾所周知，價(jià)值的源頭是需求。在科技創(chuàng)新活動(dòng)中，人們總是基于新的需求，去追求和創(chuàng)造新的價(jià)值，又總是不斷地從需求出發(fā)，再認(rèn)識(shí)和再評(píng)價(jià)科技的價(jià)值。當(dāng)AI“讀心”展現(xiàn)出誘人的前景時(shí)，我們有必要反復(fù)地追問(wèn)，開(kāi)發(fā)AI“讀心術(shù)”的初衷是什么？簡(jiǎn)而言之，就是促進(jìn)人機(jī)協(xié)同發(fā)展，使AI更好地幫助人。比如，幫助聾啞人、中風(fēng)患者實(shí)現(xiàn)無(wú)障礙交流；使教練機(jī)器人掌握運(yùn)動(dòng)員的心理狀態(tài)，有效提升運(yùn)動(dòng)員的競(jìng)技水平；使機(jī)器人能夠帶著“感情”去和人打交道，讓人在使用它時(shí)更親切、更高效，等等。而無(wú)論AI“讀心”滿足何種場(chǎng)景下的特定需求，總有一種需求是始終存在的，那就是有關(guān)安全的需求。也就是說(shuō)，要為“讀心”的AI植入安全基因，使之可用、可靠、可知和可控。唯有如此，方能不斷校準(zhǔn)技術(shù)發(fā)展的航向，使之朝著向善的方向發(fā)展。
一方面，用技術(shù)進(jìn)步破解安全風(fēng)險(xiǎn)問(wèn)題。事實(shí)上，AI的應(yīng)用既是安全防御的重點(diǎn)，也是安全保障的手段。用好AI技術(shù)，意味著強(qiáng)化安全風(fēng)險(xiǎn)感知、做好監(jiān)測(cè)預(yù)警和高效開(kāi)展追蹤溯源。另一方面，用法治手段筑牢全社會(huì)的共同責(zé)任。具體來(lái)說(shuō)，就是使各方共同參與進(jìn)來(lái)，多措并舉提升數(shù)字安全治理水平；把倫理道德融入AI技術(shù)發(fā)展的全生命周期，避免滋生歧視、偏見(jiàn)以及隱私泄露問(wèn)題。（楊博）
標(biāo)簽：
