全國(guó)政協(xié)委員、交通運(yùn)輸部科學(xué)研究院副院長(zhǎng)王先進(jìn)
中國(guó)網(wǎng)科技3月5日訊(記者 張潤(rùn)琪)近年來(lái)，伴隨著人工智能迅速發(fā)展，人工智能治理成為了社會(huì)各界廣泛關(guān)注的重要議題。為此，全國(guó)政協(xié)委員、交通運(yùn)輸部科學(xué)研究院副院長(zhǎng)王先進(jìn)在2021年全國(guó)兩會(huì)上，準(zhǔn)備了一份題為《關(guān)于構(gòu)建高效靈活的人工智能治理體系》的提案。
人工智能治理處于初期探索階段 存在監(jiān)管體系滯后于技術(shù)發(fā)展等難題
據(jù)王先進(jìn)介紹，人工智能治理還處于初期探索階段，正在向可信評(píng)估、操作指南、政策法規(guī)等方面落地實(shí)踐、逐步深入。2017年國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》明確要從法律法規(guī)、倫理規(guī)范、重點(diǎn)政策、知識(shí)產(chǎn)權(quán)與標(biāo)準(zhǔn)、科學(xué)普及等方面為人工智能發(fā)展提出保障措施。2019年科技部牽頭的國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則》，提出了人工智能治理的框架和行動(dòng)指南。
王先進(jìn)在接受中國(guó)網(wǎng)科技記者采訪時(shí)表示，從《新一代人工智能治理原則》發(fā)布到現(xiàn)在，我國(guó)在AI治理方面取得了長(zhǎng)足進(jìn)步。在法律政策層面，相關(guān)部門發(fā)布了多項(xiàng)法律法規(guī)為AI治理劃定“紅線”，比如《中華人民共和國(guó)民法典》對(duì)個(gè)人信息保護(hù)，AI換臉、變聲侵犯肖像權(quán)等內(nèi)容做出了明確規(guī)定。同時(shí)，有非常多的專家學(xué)者對(duì)AI倫理涉及到的議題進(jìn)行討論，比如WAIC、智源大會(huì)中涌現(xiàn)出了諸多值得深思的觀點(diǎn)。而各方也在積極向全球輸出“中國(guó)樣本”，比如2020年發(fā)布的《全球人工智能治理年度觀察2019》就是首份由我國(guó)智庫(kù)發(fā)起全球參與的人工智能治理報(bào)告。
另外，企業(yè)界也在對(duì)AI治理做出積極的努力，王先進(jìn)稱，“據(jù)我了解，我國(guó)有一批像曠視科技一樣的人工智能企業(yè)，正在積極探索適合本土國(guó)情的治理方法論，他們不僅成立了國(guó)內(nèi)首個(gè)人工智能道德委員會(huì)，組建了AI治理研究院，還與研究機(jī)構(gòu)、高校形成生態(tài)聯(lián)盟，共同研發(fā)課題等。”此外，王先進(jìn)認(rèn)為，我國(guó)民眾的AI治理意識(shí)正在覺(jué)醒，并逐漸參與到AI治理的環(huán)節(jié)中來(lái)，如“人臉識(shí)別第一案”正是體現(xiàn)了我國(guó)人民對(duì)于科技的認(rèn)知和思考正在“成長(zhǎng)”。
但是，王先進(jìn)發(fā)現(xiàn)，人工智能因算法不透明、難解釋、跨界傳播性和外溢性強(qiáng)，比一般的數(shù)字治理涉及范圍更廣、難度更大、問(wèn)題更突出。
王先進(jìn)在提案中提到，人工智能存在監(jiān)管體系滯后于技術(shù)發(fā)展、政府單向監(jiān)管無(wú)法有效管控風(fēng)險(xiǎn)、企業(yè)缺乏合規(guī)治理有效工具和體系等問(wèn)題，觸發(fā)個(gè)人隱私保護(hù)、沖擊就業(yè)格局、危害公共安全等風(fēng)險(xiǎn)，給治理體系帶來(lái)全新挑戰(zhàn)。須高度重視美國(guó)、歐盟、英國(guó)、日本等各主要國(guó)家地區(qū)已經(jīng)將治理納入各國(guó)人工智能發(fā)展戰(zhàn)略中，我國(guó)亟須增加國(guó)際人工智能治理體系的話語(yǔ)權(quán)和影響力。
建議實(shí)行“三角”治理機(jī)構(gòu)平衡創(chuàng)新發(fā)展 鼓勵(lì)企業(yè)“自治”
對(duì)此，王先進(jìn)提出四項(xiàng)建議：一是實(shí)行倫理、科技、法制三角治理機(jī)構(gòu)平衡創(chuàng)新發(fā)展與精準(zhǔn)治理。倫理規(guī)范引導(dǎo)先行，落實(shí)AI倫理原則，通過(guò)先行預(yù)設(shè)及時(shí)引導(dǎo)科技向善、健康發(fā)展；通過(guò)法律法規(guī)明確底線，明確責(zé)任歸屬，爭(zhēng)取實(shí)現(xiàn)“敏捷治理”；通過(guò)技術(shù)工具和標(biāo)準(zhǔn)制定等技術(shù)手段解決技術(shù)發(fā)展問(wèn)題。
針對(duì)目前亟需解決的人工智能技術(shù)發(fā)展問(wèn)題，王先進(jìn)告訴中國(guó)網(wǎng)科技記者，從人工智能技術(shù)應(yīng)用所產(chǎn)生社會(huì)問(wèn)題類型看，主要可分為由技術(shù)發(fā)展所引發(fā)的所謂“新問(wèn)題”，和由技術(shù)應(yīng)用所激化的社會(huì)既有問(wèn)題。新問(wèn)題包括因個(gè)性化算法大規(guī)模應(yīng)用所導(dǎo)致的信息繭房、機(jī)器創(chuàng)作的版權(quán)、自動(dòng)駕駛汽車追責(zé)等；老問(wèn)題則包括人臉識(shí)別加劇社會(huì)歧視、由各類智能監(jiān)控帶來(lái)的社會(huì)無(wú)隱私擔(dān)憂等。
而從人工智能技術(shù)引發(fā)問(wèn)題的風(fēng)險(xiǎn)環(huán)節(jié)看，主要包括數(shù)據(jù)、算法與系統(tǒng)、應(yīng)用三個(gè)環(huán)節(jié)。因此要想系統(tǒng)化對(duì)人工智能進(jìn)行治理，實(shí)現(xiàn)技術(shù)對(duì)社會(huì)的正向促進(jìn)，就應(yīng)該在構(gòu)建體系化的倫理、法制框架外，還應(yīng)引入并大力推廣針對(duì)數(shù)據(jù)問(wèn)題、算法與系統(tǒng)問(wèn)題、應(yīng)用問(wèn)題的技術(shù)治理解決方案。以技術(shù)治理技術(shù)問(wèn)題，不僅可以在很多情況下高效地識(shí)別、管理和應(yīng)對(duì)潛在風(fēng)險(xiǎn)，同時(shí)也能激發(fā)技術(shù)創(chuàng)新，變革經(jīng)營(yíng)模式。
二是提倡多元共治，厘清各方責(zé)任。建立以多元共治實(shí)現(xiàn)對(duì)AI治理的長(zhǎng)效機(jī)制，將政府、企業(yè)、行業(yè)組織、科研機(jī)構(gòu)、媒體、公民等利益主體聯(lián)合起來(lái)，共同解決復(fù)雜問(wèn)題；明確AI技術(shù)應(yīng)用中終端廠商、經(jīng)銷商、應(yīng)用開發(fā)者、用戶等參與各方的權(quán)責(zé)，確保責(zé)任可追溯；政府和行業(yè)組織應(yīng)加強(qiáng)對(duì)人工智能等新技術(shù)應(yīng)用的科普，引導(dǎo)理性客觀的輿論報(bào)道。
三是人工智能企業(yè)躬身入局，加強(qiáng)企業(yè)自治。鼓勵(lì)企業(yè)承擔(dān)創(chuàng)新技術(shù)創(chuàng)新應(yīng)有的責(zé)任，自覺(jué)完善內(nèi)部治理和合規(guī)管理，開展技術(shù)和產(chǎn)品人員的技術(shù)道德倫理培訓(xùn)，同時(shí)提升數(shù)據(jù)保護(hù)技術(shù)能力。主管部門可通過(guò)優(yōu)秀案例評(píng)選等方式總結(jié)企業(yè)治理可復(fù)制的經(jīng)驗(yàn)和模式，通過(guò)適當(dāng)方式予以宣傳推廣。設(shè)立人臉識(shí)別等敏感領(lǐng)域的準(zhǔn)入資質(zhì)。
王先進(jìn)表示，中外人工智能企業(yè)已經(jīng)意識(shí)到了人工智能技術(shù)所帶來(lái)的治理問(wèn)題，并紛紛公開發(fā)布各自的人工智能倫理原則或治理標(biāo)準(zhǔn)，例如我國(guó)的科技巨頭百度、騰訊、阿里等企業(yè)倡議對(duì)人工智能技術(shù)的正當(dāng)使用和數(shù)據(jù)安全保護(hù)。同時(shí)，作為中國(guó)最早的一批AI企業(yè)，曠視在國(guó)內(nèi)企業(yè)中率先發(fā)布了《人工智能應(yīng)用準(zhǔn)則》，在企業(yè)內(nèi)部從研發(fā)學(xué)術(shù)、產(chǎn)品工程、客戶渠道、運(yùn)營(yíng)管理等四個(gè)維度進(jìn)行治理實(shí)踐推進(jìn)。
“但目前來(lái)看，行業(yè)里尚未出人工智能治理的標(biāo)準(zhǔn)化管理路徑或成熟模式。”王先進(jìn)認(rèn)為，企業(yè)做AI治理，是AI企業(yè)要想實(shí)現(xiàn)長(zhǎng)期發(fā)展的必由之路。如果企業(yè)不在AI技術(shù)商業(yè)化的初期就規(guī)劃好AI應(yīng)用的正確路徑，引發(fā)出一系列問(wèn)題后再去治理，無(wú)論是企業(yè)和社會(huì)都難以承擔(dān)這個(gè)成本。當(dāng)然，企業(yè)在發(fā)展的過(guò)程中不可能把所有的問(wèn)題都看得非常全面，其中蘊(yùn)含了技術(shù)發(fā)展與文化、道德倫理的沖突，需要社會(huì)各界給予輸入和指導(dǎo)。
四是加強(qiáng)國(guó)際治理對(duì)話和國(guó)際標(biāo)準(zhǔn)布局。積極參與國(guó)際治理和標(biāo)準(zhǔn)研討，同時(shí)請(qǐng)主管部門支持引導(dǎo)頭部企業(yè)參與G20的多邊國(guó)際標(biāo)準(zhǔn)和治理規(guī)則討論，形成政府和企業(yè)雙軌溝通互補(bǔ)，強(qiáng)化我國(guó)AI領(lǐng)域國(guó)際影響力和話語(yǔ)權(quán)，引導(dǎo)AI領(lǐng)域的國(guó)際治理規(guī)則和標(biāo)準(zhǔn)制定。
