“用主流價(jià)值導(dǎo)向駕馭‘算法’”，是習(xí)近平總書記明確提出的要求。算法是基于數(shù)據(jù)用系統(tǒng)方法描述、解決問題的策略機(jī)制，在經(jīng)濟(jì)、社會(huì)生活多領(lǐng)域廣泛應(yīng)用的同時(shí)，基于累積數(shù)據(jù)不斷迭代，成為影響信息分發(fā)、服務(wù)提供、機(jī)會(huì)分配、資源配置的基礎(chǔ)性機(jī)制和力量。當(dāng)前，既要把握人工智能發(fā)展趨勢(shì)，用得好，也要管得住，有效防范算法濫用帶來的風(fēng)險(xiǎn)隱患，更要通過加強(qiáng)算法綜合治理，實(shí)現(xiàn)以主流價(jià)值導(dǎo)向駕馭算法。
加強(qiáng)算法綜合治理是必答題
21世紀(jì)以來，算法技術(shù)發(fā)展迅速，自動(dòng)化決策在經(jīng)濟(jì)生活、社會(huì)生活中日益獲得更大影響力和主導(dǎo)權(quán)?；ヂ?lián)網(wǎng)平臺(tái)通過使用算法提升信息服務(wù)與用戶需求匹配度而獲得競(jìng)爭(zhēng)優(yōu)勢(shì)，單一平臺(tái)甚至擁有日活數(shù)億用戶。中國(guó)龐大的用戶群為算法發(fā)展提供了堅(jiān)實(shí)基礎(chǔ)。在海量增長(zhǎng)的用戶數(shù)據(jù)支撐下，算法不斷迭代，智能水平也在逐次提升。
“算法面前，人變成了工具？”等尖銳問題引發(fā)強(qiáng)烈共鳴。推薦算法推送同類信息令用戶心生厭倦，人們?nèi)找鎿?dān)憂算法推薦服務(wù)催生的各種“信息繭房”、倫理問題等。更重要的是，算法推薦服務(wù)對(duì)社會(huì)生活、公眾認(rèn)知和意識(shí)形態(tài)具有越來越大的支配作用，必然要納入政府綜合治理范圍。
從公眾利益和國(guó)家安全層面看，絕不能任由推薦算法決定青少年的信息獲取和價(jià)值觀形成，絕不能任由推薦算法決定信息分發(fā)導(dǎo)致意識(shí)形態(tài)安全失衡，絕不能因法律、技術(shù)監(jiān)管能力不到位使互聯(lián)網(wǎng)信息算法推薦服務(wù)在關(guān)鍵時(shí)刻帶來風(fēng)險(xiǎn)。可以說，加強(qiáng)推薦算法綜合治理是一道必答題。
多方入手實(shí)施算法綜合治理
算法綜合治理有效實(shí)施，至少需要加強(qiáng)四個(gè)方面建設(shè)。
其一，樹立正確導(dǎo)向。算法由人設(shè)計(jì)就應(yīng)由人操控、有人負(fù)責(zé)。算法推薦所體現(xiàn)的價(jià)值取向，相當(dāng)程度上體現(xiàn)了算法推薦服務(wù)提供者的價(jià)值觀。算法應(yīng)用必須向上向善，是社會(huì)共識(shí)；堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，是對(duì)算法推薦服務(wù)提供者的基本要求；不得利用算法推薦服務(wù)從事危害國(guó)家安全、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)，不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息，是算法推薦服務(wù)提供者必須遵守的底線規(guī)則；建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)，積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容，提高正能量傳播的精準(zhǔn)性和有效性，則是算法推薦服務(wù)提供者應(yīng)有的價(jià)值取向和追求。在算法綜合治理中必須用多種規(guī)則、手段強(qiáng)力要求，切實(shí)監(jiān)管，確保實(shí)現(xiàn)。
其二，健全法律法規(guī)。2021年9月1日施行的《中華人民共和國(guó)數(shù)據(jù)安全法》對(duì)數(shù)據(jù)處理活動(dòng)進(jìn)行了全面規(guī)范。將于11月1日施行的《中華人民共和國(guó)個(gè)人信息保護(hù)法》，第一次在法律文本中定義了“自動(dòng)化決策”一詞的含義為“通過計(jì)算機(jī)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動(dòng)”，并明確規(guī)定“個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策”時(shí)，“應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正”，應(yīng)提供“不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式”；還應(yīng)就“利用個(gè)人信息進(jìn)行自動(dòng)化決策”“事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄”。
國(guó)家互聯(lián)網(wǎng)信息辦公室等九部門公布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，對(duì)管理好、使用好、發(fā)展好算法應(yīng)用做出了頂層設(shè)計(jì)，確定了“利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”的目標(biāo)，并就健全算法安全治理機(jī)制、構(gòu)建算法安全監(jiān)管體系、促進(jìn)算法生態(tài)規(guī)范發(fā)展做出了規(guī)定和系統(tǒng)安排。國(guó)家網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，第一次區(qū)分了生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類五類向用戶提供信息內(nèi)容的算法技術(shù)，并就算法推薦服務(wù)提供者的責(zé)任和義務(wù)、算法推薦服務(wù)公告和算法備案等制度、算法推薦未成年人模式做出了詳細(xì)規(guī)定。這個(gè)管理規(guī)定明確將根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對(duì)用戶行為的干預(yù)程度等，對(duì)算法推薦服務(wù)提供者實(shí)施分類分級(jí)管理，并對(duì)算法安全評(píng)估和監(jiān)督檢查做出了具體規(guī)定。
數(shù)據(jù)安全法、個(gè)人信息保護(hù)法的施行，指導(dǎo)意見出臺(tái)和管理規(guī)定公開征求意見，為算法綜合治理提供了規(guī)則依據(jù)、奠定了法治基礎(chǔ)。
其三，提升監(jiān)管能力。算法綜合治理需要專業(yè)監(jiān)管能力。算法不斷迭代、甚至自我更新是其智能水平的體現(xiàn)。人們對(duì)算法的“可解釋性”有多種觀點(diǎn)，對(duì)算法推薦結(jié)果的“不可解釋性”也有深深擔(dān)憂，因此把算法稱為“黑箱”。算法監(jiān)管不僅需要專業(yè)監(jiān)管隊(duì)伍和不斷提升的依法監(jiān)管能力，還需擁有不斷迭代的檢測(cè)、驗(yàn)證、評(píng)估工具和技術(shù)監(jiān)管能力，算法綜合治理才可能落到實(shí)處。監(jiān)管部門應(yīng)當(dāng)具有在不掌握算法內(nèi)部結(jié)構(gòu)、核心內(nèi)容的情況下，以一定規(guī)則、特定輸入條件、輸出結(jié)果對(duì)算法進(jìn)行綜合測(cè)試的專業(yè)能力；或是根據(jù)算法使用者所提供的算法相關(guān)情況對(duì)其推薦服務(wù)結(jié)果進(jìn)行綜合驗(yàn)證的專業(yè)能力；以及根據(jù)相關(guān)規(guī)定對(duì)算法安全做出評(píng)估，對(duì)其自評(píng)估報(bào)告進(jìn)行驗(yàn)證的專業(yè)能力?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》第三部分“構(gòu)建算法安全監(jiān)管體系”中就對(duì)“積極開展算法安全評(píng)估”提出了要求，包括“組織建立專業(yè)技術(shù)評(píng)估隊(duì)伍，深入分析算法機(jī)制機(jī)理，評(píng)估算法設(shè)計(jì)、部署和使用等應(yīng)用環(huán)節(jié)的缺陷和漏洞，研判算法應(yīng)用產(chǎn)生的意識(shí)形態(tài)、社會(huì)公平、道德倫理等安全風(fēng)險(xiǎn)，提出針對(duì)性應(yīng)對(duì)措施”。這樣的專業(yè)技術(shù)評(píng)估，是有效實(shí)施算法綜合治理的物質(zhì)基礎(chǔ)。
其四，優(yōu)化協(xié)同機(jī)制。建立健全有法可依、多元協(xié)同、多方參與的算法安全治理機(jī)制，是中國(guó)進(jìn)行算法綜合治理的組織優(yōu)勢(shì)、制度優(yōu)勢(shì)所在和重要保障。協(xié)同機(jī)制建設(shè)的基礎(chǔ)是權(quán)利、義務(wù)、責(zé)任的配置。通過法律、法規(guī)、規(guī)章和相關(guān)規(guī)定，進(jìn)一步明確政府、企業(yè)、行業(yè)組織和網(wǎng)民在算法安全治理中的權(quán)利、義務(wù)和責(zé)任，特別是強(qiáng)化企業(yè)對(duì)算法應(yīng)用產(chǎn)生結(jié)果所負(fù)的主體責(zé)任，才能夠形成政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的算法安全多元共治局面。因此，要求企業(yè)建立算法安全責(zé)任制度和科技倫理審查制度，健全算法安全管理組織機(jī)構(gòu)，加強(qiáng)風(fēng)險(xiǎn)防控和隱患排查治理，提升應(yīng)對(duì)算法安全突發(fā)事件的能力和水平。協(xié)同機(jī)制有效運(yùn)轉(zhuǎn)也需要各個(gè)相關(guān)部門依法依規(guī)協(xié)同運(yùn)作，需要吸引專業(yè)人才隊(duì)伍，匯聚多方資源投入，為算法安全治理提供有力支撐。
（作者系天津大學(xué)新媒體與傳播學(xué)院院長(zhǎng)、天津市中國(guó)特色社會(huì)主義理論體系研究中心研究員）
