人民智庫(kù) 曠視AI治理研究院 | 聯(lián)合發(fā)布
2020年度全球十大人工智能治理事件及變革趨勢(shì)前瞻
當(dāng)前,新一代人工智能技術(shù)正在全球范圍內(nèi)蓬勃興起,與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng),為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能,正在深刻改變著人類(lèi)的生產(chǎn)生活方式。與此同時(shí),如何在新技術(shù)變革浪潮中始終立于主動(dòng),實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理,確保其持續(xù)健康發(fā)展,也成為國(guó)際國(guó)內(nèi)、社會(huì)各界廣泛關(guān)注的重要現(xiàn)實(shí)問(wèn)題、重大時(shí)代議題。
黨的十八大以來(lái),以習(xí)近平同志為核心的黨中央高度重視前沿科技領(lǐng)域發(fā)展與治理,中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術(shù)領(lǐng)域相關(guān)問(wèn)題分別進(jìn)行集體學(xué)習(xí)。習(xí)近平總書(shū)記高度重視新一代人工智能發(fā)展與治理,提出“要深刻認(rèn)識(shí)加快發(fā)展新一代人工智能的重大意義,加強(qiáng)領(lǐng)導(dǎo),做好規(guī)劃,明確任務(wù),夯實(shí)基礎(chǔ),促進(jìn)其同經(jīng)濟(jì)社會(huì)發(fā)展深度融合,推動(dòng)我國(guó)新一代人工智能健康發(fā)展”。
剛剛過(guò)去的2020年,波瀾壯闊、極不平凡。“兩個(gè)一百年”目標(biāo)歷史交匯,中華民族偉大復(fù)興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用,新冠肺炎疫情仍在多國(guó)肆虐,人工智能在疫情防控、社會(huì)治理、國(guó)際協(xié)作等多個(gè)領(lǐng)域發(fā)揮重要作用,新一代人工智能技術(shù)發(fā)展取得諸多重大成果,世界各國(guó)積極探索與人工智能發(fā)展相適應(yīng)的治理路徑,出現(xiàn)諸多具有標(biāo)志性意義、可能產(chǎn)生深遠(yuǎn)影響的重要事件。對(duì)這些事件進(jìn)行梳理總結(jié)、深入研究,有助于深化對(duì)人工智能治理規(guī)律的認(rèn)識(shí),有助于更精準(zhǔn)把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢(shì),有助于引發(fā)社會(huì)各界就人工智能治理領(lǐng)域關(guān)鍵問(wèn)題、重點(diǎn)難點(diǎn)進(jìn)行深入思考,形成更廣泛共識(shí)。
人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題,涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國(guó)際關(guān)系等諸多領(lǐng)域。對(duì)國(guó)際國(guó)內(nèi)人工智能治理標(biāo)志性事件開(kāi)展研究,也必然需要各界共同推動(dòng)。為此,人民智庫(kù)與曠視AI治理研究院成立聯(lián)合課題組,共同開(kāi)展“2020年度全球十大人工智能治理事件”遴選、評(píng)議,組織相關(guān)領(lǐng)域權(quán)威專(zhuān)家學(xué)者,從AI與公眾福祉、AI與公平正義、AI政府(企業(yè))治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個(gè)主要維度出發(fā),依據(jù)理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究?jī)r(jià)值等四個(gè)評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行評(píng)議,并面向社會(huì)公眾開(kāi)展在線(xiàn)問(wèn)卷調(diào)查,對(duì)人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者,相關(guān)部委、行業(yè)協(xié)會(huì)領(lǐng)導(dǎo)專(zhuān)家等典型群體進(jìn)行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見(jiàn)、觀點(diǎn),最終評(píng)選出2020年度全球十大人工智能治理事件。
這些事件,反映著人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢(shì),反映著新一代人工智能技術(shù)的廣泛應(yīng)用前景,反映著公眾對(duì)人工智能治理引導(dǎo)科技向善,助力政府、機(jī)構(gòu)、企業(yè)的多層次、多樣化參與,通過(guò)新一代信息技術(shù)的良性發(fā)展增進(jìn)人類(lèi)福祉、改善民生的熱切期待。
助手還是殺手?讀懂人類(lèi)意識(shí)的AI或者擁有自主意識(shí)的AI?關(guān)系人類(lèi)福祉的人工智能,要走“邊發(fā)展,邊治理”的新模式
人工智能這一概念,自1956年美國(guó)達(dá)特茅斯會(huì)議提出至今,經(jīng)歷了漫長(zhǎng)的野蠻生長(zhǎng)初生階段。霍金提出“人工智能也有可能是人類(lèi)文明史的終結(jié),除非我們學(xué)會(huì)如何避免危險(xiǎn)”;馬斯克認(rèn)為,人工智能的“風(fēng)險(xiǎn)大得多”,并且這是“威脅人類(lèi)文明存在的根本性風(fēng)險(xiǎn)”。近年來(lái),伴隨無(wú)人駕駛、人臉識(shí)別、智能語(yǔ)音等人工智能技術(shù)的廣泛應(yīng)用,以及基于深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放、自主操控為特征的新一代人工智能技術(shù)發(fā)展的第三次浪潮來(lái)臨,對(duì)于人工智能治理的討論再次被社會(huì)各界廣泛提及。
中國(guó)互聯(lián)網(wǎng)飛速發(fā)展近30年,相關(guān)專(zhuān)家總結(jié)互聯(lián)網(wǎng)治理的經(jīng)驗(yàn)教訓(xùn)時(shí),認(rèn)為過(guò)去我們的治理模式之一就是“先發(fā)展,后治理”,即先“摸著石頭過(guò)河”,待問(wèn)題出現(xiàn)或者積累到一定程度,再進(jìn)行專(zhuān)項(xiàng)治理并建立規(guī)范。然而人工智能在我國(guó)的爆發(fā)式發(fā)展所具備的新特征更為明顯:一是政策支持和重視程度更高;二是與社會(huì)資本的結(jié)合度更高;三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領(lǐng)域;四是技術(shù)基礎(chǔ)、產(chǎn)業(yè)基礎(chǔ)及經(jīng)濟(jì)社會(huì)發(fā)展需求更為強(qiáng)烈。這些因素都直接決定了人工智能治理不可能重復(fù)互聯(lián)網(wǎng)治理的老路,對(duì)治理結(jié)構(gòu)、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn),也需要我們以更創(chuàng)造性的理念來(lái)應(yīng)對(duì)。
本次十大事件評(píng)選中,涉及人工智能與人類(lèi)福祉、公平正義高度的事件受到的關(guān)注度最高,如通過(guò)算法黑箱侵犯外賣(mài)小哥利益的事件“AI成‘監(jiān)工’:算法下外賣(mài)騎手挑戰(zhàn)交通規(guī)則,‘助手’可能變‘殺手’”(排名第1,得票率51.20%);以及假借人工智能技術(shù)進(jìn)行違法行為的事件“湖南岳陽(yáng)警方破獲AI犯罪案,技術(shù)犯罪仍要懲罰人”(排名第9,得票率48.75%)。國(guó)際方面,最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界,有可能對(duì)人類(lèi)福祉造成不良影響的事件,如:“人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù),‘讀懂意識(shí)’讓隱私無(wú)處遁藏”(排名第2,得票率50.09%);“人工智能技術(shù)突破現(xiàn)有邊界,具備‘自主意識(shí)’,可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能”(排名第8,得票率48.75%)。
黨的十九屆四中全會(huì)《決定》提出,“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國(guó)家治理體系現(xiàn)代化的重要組成部分,是以習(xí)近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類(lèi)發(fā)展面臨前所未有的新機(jī)遇和新挑戰(zhàn)的歷史時(shí)刻作出的重大部署,對(duì)于克服科技領(lǐng)域存在的倫理問(wèn)題、促進(jìn)我國(guó)科技事業(yè)健康發(fā)展,具有重要意義。