在移動(dòng)互聯(lián)網(wǎng)，大數(shù)據(jù)，云計(jì)算等新技術(shù)的驅(qū)動(dòng)下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、知識(shí)推理、人機(jī)協(xié)同、群智開放等新特征，形成新的發(fā)展空間，成為了當(dāng)前科技創(chuàng)新和產(chǎn)業(yè)推動(dòng)產(chǎn)業(yè)升級(jí)轉(zhuǎn)型的重點(diǎn)。
發(fā)展人工智能技術(shù)的根本出發(fā)點(diǎn)在于提高人類的生活水平。因而我國發(fā)展人工智能的初心也必須從造福人民出發(fā)，以保障和改善民生為本源，推動(dòng)人工智能在人們?nèi)粘９ぷ?，學(xué)習(xí)和生活中的深度應(yīng)用，加強(qiáng)在教育、醫(yī)療衛(wèi)生、體育、交通、助殘養(yǎng)老和家政服務(wù)的應(yīng)用。同時(shí)要開發(fā)用于政府決策和社會(huì)治理的人工智能系統(tǒng)，加強(qiáng)社會(huì)信息資源整合，推進(jìn)智慧城市建設(shè)，加強(qiáng)人工智能在生態(tài)領(lǐng)域運(yùn)用，從而提高公共服務(wù)和社會(huì)治理水平。
技術(shù)的發(fā)展從來都是一把雙刃劍，人工智能在給人類社會(huì)帶來便利的同時(shí)也帶來新的安全問題及風(fēng)險(xiǎn)。首先，人工智能自身存在諸多的內(nèi)生安全問題，不論在模型與系統(tǒng)方面，還是在數(shù)據(jù)層面的安全漏洞都會(huì)直接影響人工智能算法的安全性。其次是人工智能的風(fēng)險(xiǎn)濫用，利用深度的偽造技術(shù)，產(chǎn)生不實(shí)內(nèi)容，從而誤導(dǎo)公眾。第三是機(jī)器學(xué)習(xí)算法的黑箱問題，其中不可避免隱藏了歧視和偏見。當(dāng)此類算法應(yīng)用到需要進(jìn)行風(fēng)險(xiǎn)識(shí)別和信用評(píng)估等金融和司法領(lǐng)域時(shí)，就可能產(chǎn)生不公正的決策結(jié)果。最后是人工智能可能造成的數(shù)字鴻溝問題，人工智能研究和應(yīng)用需要一定的經(jīng)濟(jì)基礎(chǔ)，對(duì)于一些落后的國家和地區(qū)的人們來講，無法以均等的機(jī)會(huì)來獲得人工智能技術(shù)帶來的福祉。因此在發(fā)展人工智能的同時(shí)，必須高度重視可能帶來的風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防和約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠可控發(fā)展。為了保障我國人工智能發(fā)展任務(wù)的順利推進(jìn)，我們要加強(qiáng)人工智能相關(guān)法律倫理和社會(huì)問題的研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任，在發(fā)展AI過程中解決倫理和安全問題。
（作者為中國科學(xué)院院士）
