人民智庫 曠視AI治理研究院 | 聯(lián)合發(fā)布
2020年度全球十大人工智能治理事件及變革趨勢前瞻
當前，新一代人工智能技術正在全球范圍內(nèi)蓬勃興起，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術相互融合、相互因應，為經(jīng)濟社會發(fā)展尤其是數(shù)字經(jīng)濟發(fā)展注入新動能，正在深刻改變著人類的生產(chǎn)生活方式。與此同時，如何在新技術變革浪潮中始終立于主動，實現(xiàn)人工智能等前沿科技領域有效治理，確保其持續(xù)健康發(fā)展，也成為國際國內(nèi)、社會各界廣泛關注的重要現(xiàn)實問題、重大時代議題。
黨的十八大以來，以習近平同志為核心的黨中央高度重視前沿科技領域發(fā)展與治理，中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術領域相關問題分別進行集體學習。習近平總書記高度重視新一代人工智能發(fā)展與治理，提出“要深刻認識加快發(fā)展新一代人工智能的重大意義，加強領導，做好規(guī)劃，明確任務，夯實基礎，促進其同經(jīng)濟社會發(fā)展深度融合，推動我國新一代人工智能健康發(fā)展”。
剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個一百年”目標歷史交匯，中華民族偉大復興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國肆虐，人工智能在疫情防控、社會治理、國際協(xié)作等多個領域發(fā)揮重要作用，新一代人工智能技術發(fā)展取得諸多重大成果，世界各國積極探索與人工智能發(fā)展相適應的治理路徑，出現(xiàn)諸多具有標志性意義、可能產(chǎn)生深遠影響的重要事件。對這些事件進行梳理總結、深入研究，有助于深化對人工智能治理規(guī)律的認識，有助于更精準把握人工智能技術、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢，有助于引發(fā)社會各界就人工智能治理領域關鍵問題、重點難點進行深入思考，形成更廣泛共識。
人工智能治理是復雜性、系統(tǒng)性很高的社會議題，涵蓋政策、技術、產(chǎn)業(yè)、法律、傳播、倫理、安全、國際關系等諸多領域。對國際國內(nèi)人工智能治理標志性事件開展研究，也必然需要各界共同推動。為此，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評議，組織相關領域權威專家學者，從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個主要維度出發(fā)，依據(jù)理論價值、實踐價值、新聞價值、研究價值等四個評價標準進行評議，并面向社會公眾開展在線問卷調(diào)查，對人工智能產(chǎn)業(yè)領域從業(yè)者，相關部委、行業(yè)協(xié)會領導專家等典型群體進行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見、觀點，最終評選出2020年度全球十大人工智能治理事件。
這些事件，反映著人工智能治理領域實踐探索和前沿趨勢，反映著新一代人工智能技術的廣泛應用前景，反映著公眾對人工智能治理引導科技向善，助力政府、機構、企業(yè)的多層次、多樣化參與，通過新一代信息技術的良性發(fā)展增進人類福祉、改善民生的熱切期待。
助手還是殺手？讀懂人類意識的AI或者擁有自主意識的AI？關系人類福祉的人工智能，要走“邊發(fā)展，邊治理”的新模式
人工智能這一概念，自1956年美國達特茅斯會議提出至今，經(jīng)歷了漫長的野蠻生長初生階段?；艚鹛岢?ldquo;人工智能也有可能是人類文明史的終結，除非我們學會如何避免危險”；馬斯克認為，人工智能的“風險大得多”，并且這是“威脅人類文明存在的根本性風險”。近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術的廣泛應用，以及基于深度學習、跨界融合、人機協(xié)同、群智開放、自主操控為特征的新一代人工智能技術發(fā)展的第三次浪潮來臨，對于人工智能治理的討論再次被社會各界廣泛提及。
中國互聯(lián)網(wǎng)飛速發(fā)展近30年，相關專家總結互聯(lián)網(wǎng)治理的經(jīng)驗教訓時，認為過去我們的治理模式之一就是“先發(fā)展，后治理”，即先“摸著石頭過河”，待問題出現(xiàn)或者積累到一定程度，再進行專項治理并建立規(guī)范。然而人工智能在我國的爆發(fā)式發(fā)展所具備的新特征更為明顯：一是政策支持和重視程度更高；二是與社會資本的結合度更高；三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領域；四是技術基礎、產(chǎn)業(yè)基礎及經(jīng)濟社會發(fā)展需求更為強烈。這些因素都直接決定了人工智能治理不可能重復互聯(lián)網(wǎng)治理的老路，對治理結構、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn)，也需要我們以更創(chuàng)造性的理念來應對。
本次十大事件評選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關注度最高，如通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監(jiān)工’：算法下外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；以及假借人工智能技術進行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術犯罪仍要懲罰人”（排名第9，得票率48.75%）。國際方面，最受關注的是人工智能技術突破現(xiàn)有邊界，有可能對人類福祉造成不良影響的事件，如：“人工智能可以翻譯大腦想法將大腦信號轉化為文本數(shù)據(jù)，‘讀懂意識’讓隱私無處遁藏”（排名第2，得票率50.09%）；“人工智能技術突破現(xiàn)有邊界，具備‘自主意識’，可實現(xiàn)獨立研發(fā)、自我修復等功能”（排名第8，得票率48.75%）。
黨的十九屆四中全會《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進國家治理體系現(xiàn)代化的重要組成部分，是以習近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類發(fā)展面臨前所未有的新機遇和新挑戰(zhàn)的歷史時刻作出的重大部署，對于克服科技領域存在的倫理問題、促進我國科技事業(yè)健康發(fā)展，具有重要意義。
