自動(dòng)駕駛汽車接近停車標(biāo)志，但并沒有減速，而是加速駛?cè)敕泵Φ氖致房?。后來的一份事故?bào)告顯示，標(biāo)牌的表面已經(jīng)粘了四個(gè)小矩形。這些人欺騙了汽車的車載人工智能(AI)，將“停止”一詞誤讀為“限速45”。
此類事件實(shí)際上并未發(fā)生，但是破壞AI的潛力是非?，F(xiàn)實(shí)的。研究人員已經(jīng)證明了如何愚弄的AI系統(tǒng)進(jìn)入誤讀停止的跡象，通過仔細(xì)定位貼紙1。他們通過在眼鏡或帽子上貼上印刷圖案來欺騙人臉識(shí)別系統(tǒng)。通過在音頻中插入白噪聲模式，他們欺騙了語(yǔ)音識(shí)別系統(tǒng)以聽取幻象短語(yǔ)。
這些只是打破AI中領(lǐng)先的模式識(shí)別技術(shù)(稱為深度神經(jīng)網(wǎng)絡(luò)(DNN))的難易程度的一些示例。事實(shí)證明，這些方法在正確分類各種輸入(包括圖像，語(yǔ)音和有關(guān)消費(fèi)者偏好的數(shù)據(jù))方面非常成功。它們是日常生活的一部分，運(yùn)行從自動(dòng)電話系統(tǒng)到流媒體服務(wù)Netflix上的用戶推薦的所有內(nèi)容。然而，以人類通常難以察覺的微小變化的形式對(duì)輸入進(jìn)行更改，可能會(huì)混淆周圍最好的神經(jīng)網(wǎng)絡(luò)。
加利福尼亞大學(xué)伯克利分校計(jì)算機(jī)科學(xué)博士學(xué)位的學(xué)生Dan Hendrycks說，這些問題比不完美的技術(shù)中的怪異怪癖更令人擔(dān)憂。像許多科學(xué)家一樣，他開始將它們視為DNN從根本上是脆性的最驚人的例證：出色地完成了他們的工作，直到進(jìn)入陌生領(lǐng)域，它們以無法預(yù)測(cè)的方式破裂。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！