2018人工智能變?nèi)斯ぶ钦系氖笏查g
Synced最近對(duì)全年的人工智能十大“失敗案例”進(jìn)行了首次總結(jié)(2018 in Review： 10 AIFailures)。
AI人臉識(shí)別闖紅燈 董明珠躺槍
董明珠在寧波“闖紅燈”被抓?原來(lái)是在過(guò)馬路時(shí)公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識(shí)別系統(tǒng)捕捉到，竟然誤以為是真人!董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。
那輛巴士剛好被投放了印有董明珠頭像的廣告。當(dāng)這輛巴士行駛在寧波中山東路，經(jīng)過(guò)江夏橋東一帶時(shí)，恰好從中間垂直方向穿過(guò)了一條亮著紅燈的斑馬線(xiàn)，而車(chē)身廣告上董明珠的照片正臉剛好對(duì)準(zhǔn)了一側(cè)的紅燈，如果是個(gè)真人的話(huà)，TA的確是在闖紅燈。高大上的AI檢測(cè)系統(tǒng)頓時(shí)變成“人工智障”，把照片當(dāng)成了真人，直接把這輛公交車(chē)拍了下來(lái)，還鎖定了車(chē)身上董明珠的照片，判定此人闖紅燈。該系統(tǒng)還從數(shù)據(jù)庫(kù)里搜索，把董明珠的車(chē)身廣告照片和一行「***，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應(yīng)稱(chēng)，技術(shù)人員已經(jīng)對(duì)該系統(tǒng)進(jìn)行了全面升級(jí)。
Uber自動(dòng)駕駛汽車(chē)殺死一名行人
在公共道路上第一個(gè)已知的與車(chē)輛相關(guān)的自動(dòng)駕駛行人死亡事件中，優(yōu)步的自動(dòng)駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當(dāng)場(chǎng)死亡。
Uber發(fā)現(xiàn)其自動(dòng)駕駛軟件決定在汽車(chē)傳感器檢測(cè)到行人后卻沒(méi)有采取任何行動(dòng)。根據(jù)美國(guó)國(guó)家運(yùn)輸安全委員會(huì)關(guān)于事故的初步報(bào)告，這是因?yàn)閁ber的自動(dòng)模式禁用了沃爾沃工廠(chǎng)安裝的自動(dòng)緊急制動(dòng)系統(tǒng)。
在悲劇發(fā)生之后，Uber在北美城市暫停了自駕駕駛測(cè)試，而Nvidia和豐田也在美國(guó)停止了自駕車(chē)道路測(cè)試。事故發(fā)生8個(gè)月后，Uber宣布計(jì)劃在匹茲堡恢復(fù)自駕車(chē)路試，盡管該公司的自駕車(chē)未來(lái)仍然不明朗。
IBM Watson醫(yī)療保健出現(xiàn)重大漏洞
BM最初是一個(gè)問(wèn)答機(jī)器，一直在廣泛的應(yīng)用程序和流程(包括醫(yī)療保健)中探索Watson的AI功能。 2013年，IBM開(kāi)發(fā)了Watson首個(gè)針對(duì)癌癥治療推薦的商業(yè)應(yīng)用程序，該公司在過(guò)去五年中與醫(yī)院和研究中心建立了許多重要的合作伙伴關(guān)系。但Watson AI Health并沒(méi)有給醫(yī)生留下深刻印象。一些人抱怨它對(duì)癌癥治療提出了錯(cuò)誤的建議，可能會(huì)導(dǎo)致嚴(yán)重甚至致命的后果。
據(jù)報(bào)道，在沒(méi)有顯著進(jìn)步的項(xiàng)目上花費(fèi)數(shù)年后，IBM正在縮小Watson Health的規(guī)模并裁掉該部門(mén)員工的一半以上。
亞馬遜AI招聘工具性別歧視
據(jù)報(bào)道，亞馬遜人力資源部門(mén)在2014年至2017年期間使用了支持AI的招聘軟件來(lái)幫助審核簡(jiǎn)歷并提出建議。然而，該軟件對(duì)男性申請(qǐng)人更有利，因?yàn)槠淠Ｐ褪窃谶^(guò)去十年中提交給亞馬遜的簡(jiǎn)歷上接受培訓(xùn)的，當(dāng)時(shí)雇用了更多的男性候選人。
據(jù)報(bào)道，該軟件降級(jí)了包含“女性”一詞的簡(jiǎn)歷，或暗示申請(qǐng)人是女性，例如因?yàn)樗麄冊(cè)妥x過(guò)女子大學(xué)。亞馬遜此后放棄了該軟件。該公司并未否認(rèn)使用該工具提出建議，但表示從未用于評(píng)估候選人。
DeepFakes將色情主角錯(cuò)認(rèn)成《星戰(zhàn)》Daisy Ridley
去年12月，Reddit網(wǎng)上出現(xiàn)了一些國(guó)際頂級(jí)女星——25歲《星戰(zhàn)》女星黛絲烈尼(Daisy Ridley)的色情視頻，原因竟然是是“DeepFakes”采用生成對(duì)抗網(wǎng)絡(luò)，將明星的臉與色情視頻中女性的臉進(jìn)行了交換。
雖然面部交換技術(shù)已經(jīng)開(kāi)發(fā)多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現(xiàn)在都可以制作他們自己非常有說(shuō)服力的假視頻。色請(qǐng)視頻的創(chuàng)作者，就是將《星球大戰(zhàn)》知名演員Daisy Ridley的臉與上面的色情女星交換了。
2018年，逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然這種方法在技術(shù)上并非“失敗”，但其潛在的危險(xiǎn)是嚴(yán)重而深遠(yuǎn)的：如果視頻證據(jù)不再可信，這可能會(huì)進(jìn)一步鼓勵(lì)流傳假新聞。
標(biāo)簽： 人工智能 自動(dòng)駕駛
