在移動互聯(lián)網(wǎng)，大數(shù)據(jù)，云計算等新技術的驅動下，人工智能加速發(fā)展，呈現(xiàn)出深度學習、知識推理、人機協(xié)同、群智開放等新特征，形成新的發(fā)展空間，成為了當前科技創(chuàng)新和產(chǎn)業(yè)推動產(chǎn)業(yè)升級轉型的重點。
發(fā)展人工智能技術的根本出發(fā)點在于提高人類的生活水平。因而我國發(fā)展人工智能的初心也必須從造福人民出發(fā)，以保障和改善民生為本源，推動人工智能在人們日常工作，學習和生活中的深度應用，加強在教育、醫(yī)療衛(wèi)生、體育、交通、助殘養(yǎng)老和家政服務的應用。同時要開發(fā)用于政府決策和社會治理的人工智能系統(tǒng)，加強社會信息資源整合，推進智慧城市建設，加強人工智能在生態(tài)領域運用，從而提高公共服務和社會治理水平。
技術的發(fā)展從來都是一把雙刃劍，人工智能在給人類社會帶來便利的同時也帶來新的安全問題及風險。首先，人工智能自身存在諸多的內生安全問題，不論在模型與系統(tǒng)方面，還是在數(shù)據(jù)層面的安全漏洞都會直接影響人工智能算法的安全性。其次是人工智能的風險濫用，利用深度的偽造技術，產(chǎn)生不實內容，從而誤導公眾。第三是機器學習算法的黑箱問題，其中不可避免隱藏了歧視和偏見。當此類算法應用到需要進行風險識別和信用評估等金融和司法領域時，就可能產(chǎn)生不公正的決策結果。最后是人工智能可能造成的數(shù)字鴻溝問題，人工智能研究和應用需要一定的經(jīng)濟基礎，對于一些落后的國家和地區(qū)的人們來講，無法以均等的機會來獲得人工智能技術帶來的福祉。因此在發(fā)展人工智能的同時，必須高度重視可能帶來的風險挑戰(zhàn)，加強前瞻預防和約束引導，最大限度降低風險，確保人工智能安全、可靠可控發(fā)展。為了保障我國人工智能發(fā)展任務的順利推進，我們要加強人工智能相關法律倫理和社會問題的研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架，明確人工智能法律主體以及相關權利、義務和責任，在發(fā)展AI過程中解決倫理和安全問題。
（作者為中國科學院院士）
