人工智能正日益成為新質生產力的重要要素和核心驅動力，推動生產方式和生產關系發(fā)生深刻變革。當前，一系列人工智能交叉領域的重大突破正在重新定義人類社會的數(shù)據交互、多模態(tài)生成、智能制造、信息連接和智算資源范式。以Vision Pro為代表的空間計算、以Sora為代表的生成式人工智能、以Figure01為代表的具身機器人、以Starlink為代表的天地一體化網絡和以GB200為代表的算力基礎設施，都昭示著以人工智能為代表的戰(zhàn)略性新興科技產業(yè)集群對傳統(tǒng)生產力和生產關系格局的重塑已成為不可逆轉的趨勢。人工智能新質生產力急速崛起，數(shù)字技術與實體經濟加速融合，智能化發(fā)展成為社會共識。
人工智能技術的廣泛應用，在促進數(shù)字社會發(fā)展的同時，也為網絡攻擊帶來了新的途徑和手段，并引發(fā)一系列亟待應對的安全挑戰(zhàn)，比如，“奶奶漏洞”可以繞過人工智能倫理提示詞攻擊、GPU算力芯片可被側信道攻擊、大模型深度偽造詐騙、生成式人工智能生成虛假新聞等，這些網絡安全事件都暴露出人工智能安全問題的新變化。導致網絡攻擊加劇主要有以下三方面原因：一是人工智能賦能網絡攻擊手段升級。網絡攻防技術呈現(xiàn)自動化、智能化、體系化快速演進等趨勢，網絡攻擊更加隱蔽高效；二是人工智能系統(tǒng)自身安全挑戰(zhàn)凸顯。人工智能系統(tǒng)自身也面臨數(shù)據中毒、模型竊取、算法歧視等諸多安全風險，網絡攻擊更加多變難溯；三是人工智能引發(fā)的倫理與社會風險加劇。人工智能誤判、濫用、失控、操縱等引發(fā)的連鎖反應極可能導致災難性后果，網絡攻擊更加未知。
人工智能發(fā)展帶來的網絡安全新挑戰(zhàn)不容忽視，既有技術層面的攻防對抗，也有系統(tǒng)自身的脆弱性，更有深層次的倫理困境。如何筑牢人工智能安全防線，維護人工智能健康發(fā)展，事關國家安全、經濟運行和社會穩(wěn)定大局。
人工智能快速發(fā)展將使未來數(shù)字世界具有時空超越性和快速演進性兩大新特征，目前已有的伴生性網絡安全防護已無法有效解決網絡攻擊加劇的新挑戰(zhàn)，亟須加快推動人工智能安全屏障的建設。一是堅持系統(tǒng)思維方式，從國家發(fā)展戰(zhàn)略全局審視新興安全挑戰(zhàn)，注重人工智能安全韌性風險評估，提升戰(zhàn)略威脅預知能力。二是提出新生網絡安全理念，由伴生防護向內生防御至新生防范轉變，強化主動縱深防御體系。三是凝聚創(chuàng)新聯(lián)合生態(tài)，匯聚交叉科學戰(zhàn)略專家、技術團隊和產業(yè)力量，集中攻研人工智能、數(shù)字孿生、網絡安全等關鍵技術，形成國家戰(zhàn)略科技新力量。四是建設關鍵數(shù)字基礎設施，優(yōu)先面向人工智能+產業(yè)數(shù)字化新場景，加快開展人工智能+先行先試試驗平臺能力建設，提高人工智能安全水平。
堅持高水平科技自立自強，積極開展人工智能安全領域技術攻關。網絡攻擊當前難以徹底根除，應優(yōu)先構建網安事件持續(xù)跟蹤分析能力，可從人、機、物、態(tài)四個方面做安全風險評估，建立一套人工智能產業(yè)安全韌性指標體系，針對不同行業(yè)周期性指數(shù)評估排名，發(fā)揮長處、補齊短板，在考慮技術演進和業(yè)務迭代的前提下，充分結合不同行業(yè)的業(yè)務屬性和技術特征，部署構建功能完備的數(shù)字孿生實驗場景，開展網絡安全能力評估工作。主動謀劃、超前布局，積極達成我國戰(zhàn)略威脅預知能力的實質性躍變目標。
未來網絡空間將從靜態(tài)的“場”走向動態(tài)的“境”，人工智能安全需要從單點式、場景化防御方式向全鏈條、情境化的主動防御能力轉變?？梢允狼?、國情、民情為基點，從存量、增量、變量三個方面系統(tǒng)性部署網絡安全攻防場景，遵循“孿生—擬生—派生—演生—新生”的邏輯路徑，運用生成式人工智能布置規(guī)劃網絡安全對抗系統(tǒng)，通過情境模擬動態(tài)評估未知安全態(tài)勢變化，持續(xù)提升人工智能安全的風險感知、應急響應、快速處置能力，強化主動縱深防御體系，為構建高質量人工智能安全生態(tài)提供堅實保障。
人工智能領域具有強前沿交叉科學屬性，人工智能安全隊伍建設更需要跨領域、跨學科、跨行業(yè)乃至跨國界的人才聚合和交流，應充分發(fā)揮體制優(yōu)勢，積極構建人工智能安全產學研創(chuàng)新聯(lián)合體，逐步打通人才鏈的微循環(huán)、內循環(huán)、外循環(huán)和大循環(huán)，加速形成人工智能安全技術創(chuàng)新鏈和未來產業(yè)鏈，為數(shù)字經濟做強做優(yōu)做大提供高質量人才隊伍。
當前人工智能安全領域的探索大多還處于實驗室研究階段，到應用場景的“最后一公里”有待進一步打通。應加快推進實驗成果向真實場景的延伸，搭建人工智能安全攻防對抗試驗平臺，開展全流程、高頻次的攻防演練，在實戰(zhàn)環(huán)境中檢驗攻防技術，不斷完善人工智能安全防護體系。通過從實驗到試驗的轉變，夯實人工智能安全標準規(guī)范、法律法規(guī)的現(xiàn)實基礎，為全面推進以人工智能為代表的未來產業(yè)健康發(fā)展保駕護航。
未來應掌握“場景到情境、存量到變量、孿生到新生、實驗到試驗”的技術路徑演進規(guī)律，加快建設基于數(shù)智孿生的人工智能安全應用技術試驗場，夯實人工智能安全基座，實現(xiàn)對人工智能風險的提早預防、實時監(jiān)測、快速響應和持續(xù)應對，推動人工智能安全治理體系和治理能力的不斷提高，為數(shù)字經濟高質量發(fā)展筑牢安全之基。
