近年來(lái)，人工智能已經(jīng)取得了長(zhǎng)足的進(jìn)步，但正如許多人工智能使用者所表明的那樣，人工智能仍然容易出現(xiàn)一些人類并不會(huì)犯的驚人錯(cuò)誤。雖然這些錯(cuò)誤有時(shí)可能是人工智能進(jìn)行學(xué)習(xí)時(shí)不可避免的后果，但越來(lái)越明顯的是，一個(gè)比我們意想中嚴(yán)重得多的問(wèn)題正帶來(lái)越來(lái)越大的風(fēng)險(xiǎn)：對(duì)抗性數(shù)據(jù)。

對(duì)抗性數(shù)據(jù)描述了這樣一種情況，人類用戶故意向算法提供已損壞的信息，損壞的數(shù)據(jù)打亂了機(jī)器學(xué)習(xí)過(guò)程，從而欺騙算法得出虛假的結(jié)論或不正確的預(yù)測(cè)。

作為一名生物醫(yī)學(xué)工程師，筆者認(rèn)為對(duì)抗數(shù)據(jù)是一個(gè)值得關(guān)注的重要話題。最近，加州大學(xué)伯克利分校(UC Berkeley)教授唐恩·宋(Dawn Song)“欺騙”了一輛自動(dòng)駕駛汽車，讓它以為停車標(biāo)志上的限速是每小時(shí)45英里。

這種性質(zhì)的惡意攻擊很容易導(dǎo)致致命的事故。同樣地，受損的算法數(shù)據(jù)可能導(dǎo)致錯(cuò)誤的生物醫(yī)學(xué)研究，重則危及生命或影響醫(yī)學(xué)事業(yè)的創(chuàng)新發(fā)展。

直到最近，人們才意識(shí)到對(duì)抗性數(shù)據(jù)的威脅，我們不能再忽視它了。

關(guān)鍵詞：