人工智能正日益成為新質(zhì)生產(chǎn)力的重要要素和核心驅(qū)動力，推動生產(chǎn)方式和生產(chǎn)關(guān)系發(fā)生深刻變革。當(dāng)前，一系列人工智能交叉領(lǐng)域的重大突破正在重新定義人類社會的數(shù)據(jù)交互、多模態(tài)生成、智能制造、信息連接和智算資源范式。以Vision Pro為代表的空間計算、以Sora為代表的生成式人工智能、以Figure01為代表的具身機(jī)器人、以Starlink為代表的天地一體化網(wǎng)絡(luò)和以GB200為代表的算力基礎(chǔ)設(shè)施，都昭示著以人工智能為代表的戰(zhàn)略性新興科技產(chǎn)業(yè)集群對傳統(tǒng)生產(chǎn)力和生產(chǎn)關(guān)系格局的重塑已成為不可逆轉(zhuǎn)的趨勢。人工智能新質(zhì)生產(chǎn)力急速崛起，數(shù)字技術(shù)與實(shí)體經(jīng)濟(jì)加速融合，智能化發(fā)展成為社會共識。
人工智能技術(shù)的廣泛應(yīng)用，在促進(jìn)數(shù)字社會發(fā)展的同時，也為網(wǎng)絡(luò)攻擊帶來了新的途徑和手段，并引發(fā)一系列亟待應(yīng)對的安全挑戰(zhàn)，比如，“奶奶漏洞”可以繞過人工智能倫理提示詞攻擊、GPU算力芯片可被側(cè)信道攻擊、大模型深度偽造詐騙、生成式人工智能生成虛假新聞等，這些網(wǎng)絡(luò)安全事件都暴露出人工智能安全問題的新變化。導(dǎo)致網(wǎng)絡(luò)攻擊加劇主要有以下三方面原因：一是人工智能賦能網(wǎng)絡(luò)攻擊手段升級。網(wǎng)絡(luò)攻防技術(shù)呈現(xiàn)自動化、智能化、體系化快速演進(jìn)等趨勢，網(wǎng)絡(luò)攻擊更加隱蔽高效；二是人工智能系統(tǒng)自身安全挑戰(zhàn)凸顯。人工智能系統(tǒng)自身也面臨數(shù)據(jù)中毒、模型竊取、算法歧視等諸多安全風(fēng)險，網(wǎng)絡(luò)攻擊更加多變難溯；三是人工智能引發(fā)的倫理與社會風(fēng)險加劇。人工智能誤判、濫用、失控、操縱等引發(fā)的連鎖反應(yīng)極可能導(dǎo)致災(zāi)難性后果，網(wǎng)絡(luò)攻擊更加未知。
人工智能發(fā)展帶來的網(wǎng)絡(luò)安全新挑戰(zhàn)不容忽視，既有技術(shù)層面的攻防對抗，也有系統(tǒng)自身的脆弱性，更有深層次的倫理困境。如何筑牢人工智能安全防線，維護(hù)人工智能健康發(fā)展，事關(guān)國家安全、經(jīng)濟(jì)運(yùn)行和社會穩(wěn)定大局。
人工智能快速發(fā)展將使未來數(shù)字世界具有時空超越性和快速演進(jìn)性兩大新特征，目前已有的伴生性網(wǎng)絡(luò)安全防護(hù)已無法有效解決網(wǎng)絡(luò)攻擊加劇的新挑戰(zhàn)，亟須加快推動人工智能安全屏障的建設(shè)。一是堅持系統(tǒng)思維方式，從國家發(fā)展戰(zhàn)略全局審視新興安全挑戰(zhàn)，注重人工智能安全韌性風(fēng)險評估，提升戰(zhàn)略威脅預(yù)知能力。二是提出新生網(wǎng)絡(luò)安全理念，由伴生防護(hù)向內(nèi)生防御至新生防范轉(zhuǎn)變，強(qiáng)化主動縱深防御體系。三是凝聚創(chuàng)新聯(lián)合生態(tài)，匯聚交叉科學(xué)戰(zhàn)略專家、技術(shù)團(tuán)隊和產(chǎn)業(yè)力量，集中攻研人工智能、數(shù)字孿生、網(wǎng)絡(luò)安全等關(guān)鍵技術(shù)，形成國家戰(zhàn)略科技新力量。四是建設(shè)關(guān)鍵數(shù)字基礎(chǔ)設(shè)施，優(yōu)先面向人工智能+產(chǎn)業(yè)數(shù)字化新場景，加快開展人工智能+先行先試試驗平臺能力建設(shè)，提高人工智能安全水平。
堅持高水平科技自立自強(qiáng)，積極開展人工智能安全領(lǐng)域技術(shù)攻關(guān)。網(wǎng)絡(luò)攻擊當(dāng)前難以徹底根除，應(yīng)優(yōu)先構(gòu)建網(wǎng)安事件持續(xù)跟蹤分析能力，可從人、機(jī)、物、態(tài)四個方面做安全風(fēng)險評估，建立一套人工智能產(chǎn)業(yè)安全韌性指標(biāo)體系，針對不同行業(yè)周期性指數(shù)評估排名，發(fā)揮長處、補(bǔ)齊短板，在考慮技術(shù)演進(jìn)和業(yè)務(wù)迭代的前提下，充分結(jié)合不同行業(yè)的業(yè)務(wù)屬性和技術(shù)特征，部署構(gòu)建功能完備的數(shù)字孿生實(shí)驗場景，開展網(wǎng)絡(luò)安全能力評估工作。主動謀劃、超前布局，積極達(dá)成我國戰(zhàn)略威脅預(yù)知能力的實(shí)質(zhì)性躍變目標(biāo)。
未來網(wǎng)絡(luò)空間將從靜態(tài)的“場”走向動態(tài)的“境”，人工智能安全需要從單點(diǎn)式、場景化防御方式向全鏈條、情境化的主動防御能力轉(zhuǎn)變?？梢允狼?、國情、民情為基點(diǎn)，從存量、增量、變量三個方面系統(tǒng)性部署網(wǎng)絡(luò)安全攻防場景，遵循“孿生—擬生—派生—演生—新生”的邏輯路徑，運(yùn)用生成式人工智能布置規(guī)劃網(wǎng)絡(luò)安全對抗系統(tǒng)，通過情境模擬動態(tài)評估未知安全態(tài)勢變化，持續(xù)提升人工智能安全的風(fēng)險感知、應(yīng)急響應(yīng)、快速處置能力，強(qiáng)化主動縱深防御體系，為構(gòu)建高質(zhì)量人工智能安全生態(tài)提供堅實(shí)保障。
人工智能領(lǐng)域具有強(qiáng)前沿交叉科學(xué)屬性，人工智能安全隊伍建設(shè)更需要跨領(lǐng)域、跨學(xué)科、跨行業(yè)乃至跨國界的人才聚合和交流，應(yīng)充分發(fā)揮體制優(yōu)勢，積極構(gòu)建人工智能安全產(chǎn)學(xué)研創(chuàng)新聯(lián)合體，逐步打通人才鏈的微循環(huán)、內(nèi)循環(huán)、外循環(huán)和大循環(huán)，加速形成人工智能安全技術(shù)創(chuàng)新鏈和未來產(chǎn)業(yè)鏈，為數(shù)字經(jīng)濟(jì)做強(qiáng)做優(yōu)做大提供高質(zhì)量人才隊伍。
當(dāng)前人工智能安全領(lǐng)域的探索大多還處于實(shí)驗室研究階段，到應(yīng)用場景的“最后一公里”有待進(jìn)一步打通。應(yīng)加快推進(jìn)實(shí)驗成果向真實(shí)場景的延伸，搭建人工智能安全攻防對抗試驗平臺，開展全流程、高頻次的攻防演練，在實(shí)戰(zhàn)環(huán)境中檢驗攻防技術(shù)，不斷完善人工智能安全防護(hù)體系。通過從實(shí)驗到試驗的轉(zhuǎn)變，夯實(shí)人工智能安全標(biāo)準(zhǔn)規(guī)范、法律法規(guī)的現(xiàn)實(shí)基礎(chǔ)，為全面推進(jìn)以人工智能為代表的未來產(chǎn)業(yè)健康發(fā)展保駕護(hù)航。
未來應(yīng)掌握“場景到情境、存量到變量、孿生到新生、實(shí)驗到試驗”的技術(shù)路徑演進(jìn)規(guī)律，加快建設(shè)基于數(shù)智孿生的人工智能安全應(yīng)用技術(shù)試驗場，夯實(shí)人工智能安全基座，實(shí)現(xiàn)對人工智能風(fēng)險的提早預(yù)防、實(shí)時監(jiān)測、快速響應(yīng)和持續(xù)應(yīng)對，推動人工智能安全治理體系和治理能力的不斷提高，為數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展筑牢安全之基。
