央視“3·15”晚會將人臉識別的商場應(yīng)用推向了風(fēng)口浪尖。近日，張家港市場監(jiān)管局通報(bào)稱，發(fā)現(xiàn)轄區(qū)內(nèi)一家名創(chuàng)優(yōu)品門店裝有“3·15”晚會曝光的非法采集顧客人臉信息的“萬店掌”監(jiān)控。執(zhí)法人員發(fā)現(xiàn)，店長手機(jī)APP中的人臉識別功能仍在使用。3月22日，名創(chuàng)優(yōu)品工作人員表示，將第一時(shí)間整改下架人臉識別監(jiān)控系統(tǒng)。
如何看待人臉識別在商場、小區(qū)等場所應(yīng)用引發(fā)的爭議？在數(shù)字化轉(zhuǎn)型過程中，如何保持隱私保護(hù)與產(chǎn)業(yè)發(fā)展的平衡？近日舉行的上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心研討會上，解放日報(bào)·上觀新聞記者采訪了學(xué)術(shù)界、政府智庫和產(chǎn)業(yè)界的三位專家。
人臉識別監(jiān)管可采取備案制
上海交通大學(xué)中國法與社會研究院院長季衛(wèi)東、上海市科學(xué)學(xué)研究所科技與社會研究室主任王迎春指出，人臉屬于生物識別信息，具有不可篡改性，在信息采集、傳輸、存儲等管理鏈上的任何一個(gè)環(huán)節(jié)出現(xiàn)問題，造成的社會危害往往很難逆轉(zhuǎn)。而且與指紋、虹膜等生物識別信息不同，人臉識別是無感采集，就像“3·15”晚會曝光的場景那樣，顧客在不知情的情況下就被采集了人臉。隨后，“萬店掌”能識別顧客的性別和年齡段，并根據(jù)人臉數(shù)據(jù)比對，將顧客打上“新顧客第一次到店”“熟客，第11次到店”“會員”等標(biāo)簽。“人臉信息的采集必須遵循知情同意原則，所以商場將人臉識別用于精準(zhǔn)營銷，是非法采集行為。”季衛(wèi)東教授說。
如果被采集者知情并同意，企業(yè)是否就不受約束了呢？絕非如此。兩位專家表示，人臉數(shù)據(jù)的傳輸、儲存、運(yùn)用等環(huán)節(jié)如果出現(xiàn)信息泄露等問題，潛在的社會危害會很大，如引發(fā)利用人臉數(shù)據(jù)偽造證件的新型犯罪。
對此，王迎春建議國家和地方政府采取人臉識別備案制，并盡早發(fā)布人臉數(shù)據(jù)管理平臺標(biāo)準(zhǔn)。“生物醫(yī)藥領(lǐng)域的臨床試驗(yàn)采取備案制，一旦出現(xiàn)問題，政府就能追溯調(diào)查。對于人臉識別的商業(yè)應(yīng)用，我們也可采取備案制這種監(jiān)管模式。”王迎春解釋說。
人臉數(shù)據(jù)管理平臺標(biāo)準(zhǔn)對政府監(jiān)管也很重要，有了國家、行業(yè)或地方標(biāo)準(zhǔn)，就能更科學(xué)、嚴(yán)格地評估數(shù)據(jù)庫和云平臺的安全性，企業(yè)必須達(dá)標(biāo)，才能獲得儲存人臉數(shù)據(jù)的資質(zhì)。“在人臉識別監(jiān)管方面，上海可先行探索，比如參照醫(yī)療大數(shù)據(jù)由申康中心管理的做法，將大多數(shù)企業(yè)采集的人臉數(shù)據(jù)交由一個(gè)可信平臺進(jìn)行統(tǒng)一管理。”
在季衛(wèi)東看來，上海可在成立市大數(shù)據(jù)中心的基礎(chǔ)上建設(shè)“數(shù)據(jù)銀行”。這是一類構(gòu)建在高速分布式存儲網(wǎng)絡(luò)上的數(shù)據(jù)中心，作為中立的信托結(jié)構(gòu)，對各類數(shù)據(jù)進(jìn)行脫敏和存儲。“個(gè)人可以將自己的數(shù)據(jù)存到‘?dāng)?shù)據(jù)銀行’，銀行支付給個(gè)人利息，并將脫敏數(shù)據(jù)提供給企業(yè)有償使用。”建設(shè)“數(shù)據(jù)銀行”，有利于在確保數(shù)據(jù)安全可信的情況下，實(shí)現(xiàn)數(shù)字經(jīng)濟(jì)的利益分配公平，讓數(shù)據(jù)所有人獲得經(jīng)濟(jì)回報(bào)。
企業(yè)自律應(yīng)遵循三個(gè)原則
除了加強(qiáng)政府監(jiān)管，企業(yè)自律對人臉識別的安全應(yīng)用也很重要。商湯科技智能產(chǎn)業(yè)研究院院長、上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心聯(lián)袂主任田豐認(rèn)為，人工智能企業(yè)應(yīng)遵循“透明、負(fù)責(zé)、友好”三個(gè)原則。“透明，就是要充分保證人臉信息被采集者的知情權(quán)，采集前必須獲得授權(quán)，采集后應(yīng)有健全的保護(hù)機(jī)制，防止數(shù)據(jù)泄露。”田豐解釋，“負(fù)責(zé)，是指產(chǎn)品開發(fā)的所有步驟必須可靠、可追溯，還要有風(fēng)險(xiǎn)防范措施。友好，指人工智能的算法、應(yīng)用開發(fā)和使用都是善意的，把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點(diǎn)。”
企業(yè)的健康發(fā)展也離不開政府的科學(xué)管理。田豐建議政府對數(shù)據(jù)實(shí)施分級分類管理，對生物特征、個(gè)人醫(yī)療健康等隱私性很強(qiáng)的數(shù)據(jù)嚴(yán)加保護(hù)；對與個(gè)人隱私關(guān)聯(lián)度較低的產(chǎn)業(yè)數(shù)據(jù)，可在脫敏后有條件地開放，釋放其產(chǎn)業(yè)創(chuàng)新價(jià)值。
“在人臉識別應(yīng)用的一些爭議問題上，可由第三方機(jī)構(gòu)開展用戶調(diào)研，了解公眾對各種人臉識別應(yīng)用場景的具體需求，以及支持、反對比例。”田豐說。例如在小區(qū)門禁使用人臉識別這個(gè)問題上，居民的態(tài)度到底如何？可開展調(diào)研。
在邯鄲一個(gè)小區(qū)，居民通過人臉識別經(jīng)過出入口。新華社發(fā)
相關(guān)法律制定要保持平衡
季衛(wèi)東的觀點(diǎn)與田豐有些相仿。他認(rèn)為，在相關(guān)法律制定上，要防止數(shù)據(jù)權(quán)利和隱私保護(hù)措施的過激化、僵硬化。“這方面的法律制定應(yīng)保持規(guī)制與產(chǎn)業(yè)發(fā)展的平衡，并劃出清晰的倫理底線和法律底線。”個(gè)人信息保護(hù)固然重要，但也要兼顧大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等產(chǎn)業(yè)的發(fā)展。“現(xiàn)在是人工智能的寒武紀(jì)，新的智能物種在大量涌現(xiàn)。為了新興產(chǎn)業(yè)發(fā)展，我們要‘硬法’和‘軟法’結(jié)合，在嚴(yán)格遵守法律原則和規(guī)則的基礎(chǔ)上，因勢利導(dǎo)、綜合治理，促使企業(yè)加強(qiáng)內(nèi)部管理和倫理培訓(xùn)。”
據(jù)了解，全國人大法工委去年10月公開就《中華人民共和國個(gè)人信息保護(hù)法（草案）》征求意見。草案對處理包括人臉等生物特征在內(nèi)的敏感個(gè)人信息作出規(guī)定：只有在具有特定目的和充分必要性的前提下，方可處理敏感個(gè)人信息，并要求“向個(gè)人告知處理敏感個(gè)人信息的必要性以及對個(gè)人的影響”。
“以人為本的數(shù)字化轉(zhuǎn)型應(yīng)遵循三個(gè)原則：效率、溫度、舒適。”王迎春說，“在追求創(chuàng)新效率的同時(shí)，政府和企業(yè)要考慮老年人、殘疾人等弱勢群體的體驗(yàn)，讓數(shù)字化轉(zhuǎn)型有溫度。還要考慮轉(zhuǎn)型的舒適度，防止人臉識別等技術(shù)對個(gè)人隱私的侵犯。”在他看來，溫度、舒適與效率并不矛盾，可信安全人工智能孕育著巨大的藍(lán)海市場，有待廣大企業(yè)開發(fā)以人為本的技術(shù)解決方案。
