習(xí)近平總書(shū)記指出，“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的‘頭雁’效應(yīng)。”人工智能的快速發(fā)展不僅推動(dòng)經(jīng)濟(jì)社會(huì)的深刻變革，同時(shí)也為政府決策模式的變革提供了新路徑，對(duì)于建立健全大數(shù)據(jù)輔助科學(xué)決策機(jī)制、全面提升政府決策科學(xué)化民主化水平具有重要意義。
信息是決策的基礎(chǔ)，但信息規(guī)模越大，結(jié)構(gòu)性越復(fù)雜，意味著處理難度也越大。與人類(lèi)決策相比，人工智能技術(shù)可以更加高效、快速、準(zhǔn)確地搜集和處理海量非結(jié)構(gòu)化數(shù)據(jù)，并將主次矛盾、因果關(guān)系、約束條件等呈現(xiàn)出來(lái)，為確定政策目標(biāo)提供有價(jià)值的參考，便于決策者把握決策需求、認(rèn)清問(wèn)題癥結(jié)、抓準(zhǔn)主要矛盾、科學(xué)制定對(duì)策。
人工智能的機(jī)器學(xué)習(xí)方法可以通過(guò)分析數(shù)據(jù)中的模式和規(guī)律，自動(dòng)訓(xùn)練和模擬模型，更加精準(zhǔn)地預(yù)測(cè)潛在問(wèn)題和風(fēng)險(xiǎn)的發(fā)生概率、復(fù)雜性與嚴(yán)重程度，事前預(yù)估不同政策方案實(shí)施后果，從而幫助決策者設(shè)置政策議程、優(yōu)選政策方案。同時(shí)，人工智能的自然語(yǔ)言處理技術(shù)和文本情感分析技術(shù)使政府與公眾可利用文字、聲音、圖片等多種形式進(jìn)行互動(dòng)，這不僅拓寬了公眾參與決策的渠道，還豐富了政府回應(yīng)民眾訴求的途徑，提高政府決策的透明度。政府還可利用計(jì)算機(jī)識(shí)別技術(shù)和深度學(xué)習(xí)技術(shù)對(duì)海量民意進(jìn)行識(shí)別、整理、分析，了解公眾共同的利益訴求、把握“最大公約數(shù)”，進(jìn)而制定更符合民意的政策，實(shí)現(xiàn)價(jià)值聚合，提高政府信任度。
盡管人工智能提高了政府的決策能力，但也給政府決策帶來(lái)諸如決策失靈等相關(guān)問(wèn)題。
一是公平性風(fēng)險(xiǎn)。公平是政府決策的核心價(jià)值之一，但數(shù)據(jù)偏見(jiàn)和算法偏見(jiàn)使人工智能輔助政府決策面臨公平性風(fēng)險(xiǎn)。一方面，大數(shù)據(jù)雖是海量數(shù)據(jù)，但卻不是全數(shù)據(jù)。與理想化的全數(shù)據(jù)相比，大數(shù)據(jù)反映的現(xiàn)實(shí)是不完備的，例如，一些數(shù)字素養(yǎng)較弱群體的數(shù)據(jù)信息就難以被人工智能抓取。在帶有“參與者偏差”的不完備數(shù)據(jù)基礎(chǔ)上進(jìn)行的決策可能會(huì)延續(xù)數(shù)據(jù)本身蘊(yùn)含的價(jià)值偏差，加劇社會(huì)不公平。另一方面，算法決定了海量數(shù)據(jù)的應(yīng)用方向及其計(jì)算效果，而算法設(shè)計(jì)過(guò)程中難免受到研發(fā)者價(jià)值傾向的影響。當(dāng)前絕大多數(shù)算法由經(jīng)營(yíng)主體開(kāi)發(fā)，其價(jià)值導(dǎo)向與公共部門(mén)未必完全一致，加之算法黑箱的存在使政府決策的公平性難以得到有效保證。
二是安全性風(fēng)險(xiǎn)。利用人工智能技術(shù)輔助政府決策通常需要收集大量數(shù)據(jù)，其中包含涉及個(gè)人隱私、商業(yè)機(jī)密、國(guó)家安全等敏感信息。有些信息單個(gè)或少量的存在并不敏感，但海量匯聚和挖掘分析后可能具有一定的敏感性。如果這些數(shù)據(jù)未能受到足夠保護(hù)，可能會(huì)造成數(shù)據(jù)濫用甚至泄露，不僅損害個(gè)人和企業(yè)的隱私權(quán)，還可能對(duì)國(guó)家安全構(gòu)成威脅。
三是倫理風(fēng)險(xiǎn)。算法和技術(shù)的加入使政府決策的影響因素日益復(fù)雜，原有的權(quán)責(zé)配置發(fā)生變化，造成責(zé)任主體虛化，帶來(lái)倫理風(fēng)險(xiǎn)。運(yùn)用人工智能輔助政府決策在一定程度上賦予了算法與技術(shù)決策權(quán)，一旦出現(xiàn)算法失靈，就會(huì)導(dǎo)致決策失誤，公共利益受損。由于人工智能算法并不擁有責(zé)任主體地位，因此，決策失靈的責(zé)任追究和政治問(wèn)責(zé)出現(xiàn)困境。
為防范人工智能技術(shù)給政府決策帶來(lái)的風(fēng)險(xiǎn)，更好地推動(dòng)人工智能賦能政府決策，需要在審視現(xiàn)行決策模式和制度基礎(chǔ)上，針對(duì)人工智能技術(shù)的特點(diǎn)，采取多方面措施。
一是建立參與式算法決策框架。公共的價(jià)值觀既包括決策結(jié)果的公平公正，也包括決策過(guò)程的公開(kāi)參與。為化解因數(shù)據(jù)偏見(jiàn)和算法偏見(jiàn)帶來(lái)的公平性風(fēng)險(xiǎn)，一方面，吸納政策利益相關(guān)主體代表參與算法設(shè)計(jì)與構(gòu)建，提高算法的公開(kāi)性和透明性，將公共價(jià)值融入到算法設(shè)計(jì)中去。另一方面，加強(qiáng)對(duì)算法決策的前期審核與后期評(píng)估，建立人工智能輔助政府決策的倫理審查機(jī)制，組織技術(shù)專(zhuān)家、公眾和協(xié)會(huì)等定期參與倫理審查，防范人工智能輔助政府決策的倫理風(fēng)險(xiǎn)。
二是加強(qiáng)適配算法決策的制度建設(shè)。一方面，建立算法救濟(jì)制度。算法的不透明性與不可解釋性客觀上壓縮了公眾遭遇算法不公時(shí)的申訴與反饋渠道。為此，在制度上保障公眾的知情權(quán)、選擇權(quán)與要求人工介入權(quán)，暢通算法決策的救濟(jì)渠道，及時(shí)根據(jù)公眾意見(jiàn)修正算法缺陷，矯正價(jià)值偏差。另一方面，建立算法問(wèn)責(zé)制度。當(dāng)基于特定算法決策嚴(yán)重?fù)p害公眾利益時(shí)，立即開(kāi)展算法問(wèn)責(zé)，清晰判定算法開(kāi)發(fā)者、審查者和實(shí)施者責(zé)任，倒逼各方以更高價(jià)值標(biāo)準(zhǔn)開(kāi)發(fā)、審查和執(zhí)行決策算法。
三是注重復(fù)合型人才的分散化儲(chǔ)備。兼具技術(shù)能力和決策能力的復(fù)合型人才是推動(dòng)人工智能賦能政府決策的關(guān)鍵，可以有效降低決策人員與技術(shù)專(zhuān)家之間的溝通成本，預(yù)估并規(guī)避算法決策的潛在風(fēng)險(xiǎn)。而復(fù)合型人才在少數(shù)組織的過(guò)度集中可能阻礙技術(shù)進(jìn)步，更可能導(dǎo)致掌握人工智能前沿技術(shù)的大企業(yè)不當(dāng)介入和影響政府決策。為此，政府積極設(shè)立專(zhuān)門(mén)的人工智能技術(shù)部門(mén)，促進(jìn)復(fù)合型人才的分散化儲(chǔ)備，建立與經(jīng)營(yíng)主體的日常性互動(dòng)及合作，掌握前沿技術(shù)進(jìn)展，增強(qiáng)利用人工智能技術(shù)輔助決策的主動(dòng)性。
四是動(dòng)態(tài)選擇決策模式。根據(jù)算法對(duì)決策過(guò)程主導(dǎo)性的高低，可將決策模式分為算法主導(dǎo)型、算法輔助型和算法咨詢(xún)型三類(lèi)。雖然人工智能為提高政府決策能力提供了重要的技術(shù)價(jià)值，但目前的算法決策仍然是一種有限理性的決策輸出，還需要發(fā)揮人類(lèi)決策在價(jià)值判斷和自由裁量上的優(yōu)勢(shì)。因此，既要在制度上明確算法決策的地位和權(quán)限，賦予算法決策應(yīng)有的權(quán)威，也要根據(jù)決策任務(wù)的復(fù)雜性審慎選擇決策模式，實(shí)現(xiàn)人類(lèi)決策與算法決策的耦合協(xié)同，有效防范政府決策風(fēng)險(xiǎn)。
