6月17日，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡(jiǎn)稱(chēng)《治理原則》），提出了人工智能治理的框架和行動(dòng)指南。

　　近年來(lái)，人工智能迅速發(fā)展，正在深刻改變?nèi)祟?lèi)社會(huì)生活、改變世界。為促進(jìn)新一代人工智能健康發(fā)展，加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究，積極推動(dòng)人工智能全球治理，新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室成立了國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)。

　　起草《治理原則》是委員會(huì)今年的重點(diǎn)工作，《治理原則》經(jīng)過(guò)網(wǎng)上建議征集、專(zhuān)家反復(fù)研討、多方征求意見(jiàn)等環(huán)節(jié)，凝聚了廣泛共識(shí)。

　　《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類(lèi)命運(yùn)共同體?！吨卫碓瓌t》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條原則。

　　《治理原則》全文如下：

新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能

　　全球人工智能發(fā)展進(jìn)入新階段，呈現(xiàn)出跨界融合、人機(jī)協(xié)同、群智開(kāi)放等新特征，正在深刻改變?nèi)祟?lèi)社會(huì)生活、改變世界。為促進(jìn)新一代人工智能健康發(fā)展，更好協(xié)調(diào)發(fā)展與治理的關(guān)系，確保人工智能安全可靠可控，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類(lèi)命運(yùn)共同體，人工智能發(fā)展相關(guān)各方應(yīng)遵循以下原則：

　　一、和諧友好。人工智能發(fā)展應(yīng)以增進(jìn)人類(lèi)共同福祉為目標(biāo)；應(yīng)符合人類(lèi)的價(jià)值觀和倫理道德，促進(jìn)人機(jī)和諧，服務(wù)人類(lèi)文明進(jìn)步；應(yīng)以保障社會(huì)安全、尊重人類(lèi)權(quán)益為前提，避免誤用，禁止濫用、惡用。

　　二、公平公正。人工智能發(fā)展應(yīng)促進(jìn)公平公正，保障利益相關(guān)者的權(quán)益，促進(jìn)機(jī)會(huì)均等。通過(guò)持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開(kāi)發(fā)、產(chǎn)品研發(fā)和應(yīng)用過(guò)程中消除偏見(jiàn)和歧視。

　　三、包容共享。人工智能應(yīng)促進(jìn)綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求；應(yīng)促進(jìn)協(xié)調(diào)發(fā)展，推動(dòng)各行各業(yè)轉(zhuǎn)型升級(jí)，縮小區(qū)域差距；應(yīng)促進(jìn)包容發(fā)展，加強(qiáng)人工智能教育及科普，提升弱勢(shì)群體適應(yīng)性，努力消除數(shù)字鴻溝；應(yīng)促進(jìn)共享發(fā)展，避免數(shù)據(jù)與平臺(tái)壟斷，鼓勵(lì)開(kāi)放有序競(jìng)爭(zhēng)。

　　四、尊重隱私。人工智能發(fā)展應(yīng)尊重和保護(hù)個(gè)人隱私，充分保障個(gè)人的知情權(quán)和選擇權(quán)。在個(gè)人信息的收集、存儲(chǔ)、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。完善個(gè)人數(shù)據(jù)授權(quán)撤銷(xiāo)機(jī)制，反對(duì)任何竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為。

　　五、安全可控。人工智能系統(tǒng)應(yīng)不斷提升透明性、可解釋性、可靠性、可控性，逐步實(shí)現(xiàn)可審核、可監(jiān)督、可追溯、可信賴(lài)。高度關(guān)注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全評(píng)估和管控能力。

　　六、共擔(dān)責(zé)任。人工智能研發(fā)者、使用者及其他相關(guān)方應(yīng)具有高度的社會(huì)責(zé)任感和自律意識(shí)，嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。建立人工智能問(wèn)責(zé)機(jī)制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過(guò)程中應(yīng)確保人類(lèi)知情權(quán)，告知可能產(chǎn)生的風(fēng)險(xiǎn)和影響。防范利用人工智能進(jìn)行非法活動(dòng)。

　　七、開(kāi)放協(xié)作。鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界的交流合作，推動(dòng)國(guó)際組織、政府部門(mén)、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動(dòng)。開(kāi)展國(guó)際對(duì)話與合作，在充分尊重各國(guó)人工智能治理原則和實(shí)踐的前提下，推動(dòng)形成具有廣泛共識(shí)的國(guó)際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。

　　八、敏捷治理。尊重人工智能發(fā)展規(guī)律，在推動(dòng)人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時(shí)，及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險(xiǎn)。不斷提升智能化技術(shù)手段，優(yōu)化管理機(jī)制，完善治理體系，推動(dòng)治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。對(duì)未來(lái)更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開(kāi)展研究和預(yù)判，確保人工智能始終朝著有利于人類(lèi)的方向發(fā)展。

　　　　　　　　　　　　　國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)
　　　　　　　　　　　　　2019年6月17日