技術(shù)釋放巨大潛力，風(fēng)險(xiǎn)問(wèn)題廣受關(guān)注，我國(guó)發(fā)布《治理原則》——
發(fā)展負(fù)責(zé)任的人工智能

我國(guó)數(shù)據(jù)資源豐富，應(yīng)用場(chǎng)景需求迫切，基礎(chǔ)研究、技術(shù)開發(fā)的水平顯著提升，人工智能較快發(fā)展。與此同時(shí)，治理方面的問(wèn)題也隨之出現(xiàn)。

國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《治理原則》，以“發(fā)展負(fù)責(zé)任的人工智能”為主題，希望“負(fù)責(zé)任”貫穿人工智能的研發(fā)和應(yīng)用，促進(jìn)技術(shù)的健康發(fā)展。

近年來(lái)，人工智能迅速發(fā)展，作為引領(lǐng)新一代科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，人工智能正深刻影響社會(huì)生活、改變世界，在引發(fā)巨大變革的同時(shí)，也帶來(lái)了諸多風(fēng)險(xiǎn)，人工智能該如何健康發(fā)展？

6月17日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡(jiǎn)稱《治理原則》），提出了人工智能治理的框架和行動(dòng)指南。這是我國(guó)促進(jìn)新一代人工智能健康發(fā)展，加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究，積極推動(dòng)人工智能全球治理的一項(xiàng)重要成果。

治理問(wèn)題引起廣泛關(guān)注，學(xué)界業(yè)界都在探索自律

“自2017年國(guó)家新一代人工智能發(fā)展規(guī)劃發(fā)布以來(lái)，我國(guó)人工智能與各行業(yè)各領(lǐng)域的融合日益深入，展現(xiàn)出巨大的發(fā)展?jié)摿Α！鼻迦A大學(xué)蘇世民書院院長(zhǎng)、國(guó)家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾說(shuō)，人工智能正在對(duì)政府管理經(jīng)濟(jì)模式、社會(huì)結(jié)構(gòu)、國(guó)家安全甚至國(guó)際關(guān)系產(chǎn)生深刻的影響，隨著技術(shù)的發(fā)展和應(yīng)用，治理方面的問(wèn)題不斷出現(xiàn)，引起了科技界、產(chǎn)業(yè)界和社會(huì)的廣泛關(guān)注。“很多國(guó)際組織、產(chǎn)業(yè)聯(lián)盟和知名企業(yè)都在研究制定人工智能相關(guān)的準(zhǔn)則，我國(guó)一些學(xué)術(shù)組織和產(chǎn)業(yè)聯(lián)盟在這方面非?；钴S，業(yè)界也在積極探索行業(yè)自律?！毖懻f(shuō)。

為促進(jìn)新一代人工智能健康發(fā)展，國(guó)家新一代人工智能治理專業(yè)委員會(huì)成立，統(tǒng)籌推進(jìn)人工智能治理的相關(guān)工作，起草這份《治理原則》就是委員會(huì)今年的重點(diǎn)工作之一。

起草過(guò)程中，委員會(huì)注重廣泛聽取各方面意見?！拔覀?cè)诰W(wǎng)絡(luò)上公開動(dòng)員公眾參與，形成了上百條重要建議。”薛瀾說(shuō)，委員會(huì)還多次召開有關(guān)高校科研院所和企業(yè)代表參加的座談會(huì)，廣泛凝聚了學(xué)界、業(yè)界和社會(huì)的共識(shí)。

中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專業(yè)委員會(huì)委員曾毅介紹，目前全球各國(guó)政府、非政府組織和產(chǎn)業(yè)界機(jī)構(gòu)已發(fā)布了超過(guò)40份人工智能準(zhǔn)則，這些準(zhǔn)則往往是在發(fā)布征求意見稿之后聽取意見?！啊吨卫碓瓌t》是在未發(fā)布任何內(nèi)容的情況下，收集從業(yè)人員甚至普通用戶對(duì)人工智能的期待和愿景，這是《治理原則》最主要的一個(gè)特點(diǎn)?！?/p>

“負(fù)責(zé)任”是主題，涵蓋人工智能的基礎(chǔ)研發(fā)到應(yīng)用

“發(fā)展負(fù)責(zé)任的人工智能”成為《治理原則》的主題，在受訪專家看來(lái)，“負(fù)責(zé)任”涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用層，更應(yīng)成為貫穿人工智能發(fā)展的一條主線。薛瀾舉例說(shuō)：“比如我們提出的‘和諧友好’等原則，強(qiáng)調(diào)無(wú)論是人工智能提供的產(chǎn)品還是服務(wù)，都應(yīng)該是負(fù)責(zé)任的、全面的，應(yīng)以增進(jìn)人類共同福祉為目標(biāo)，應(yīng)該符合人類的價(jià)值觀和倫理道德，避免誤用，禁止濫用、惡用?！?/p>

《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類命運(yùn)共同體，這也構(gòu)成了《治理原則》的4個(gè)主要亮點(diǎn)。

更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，實(shí)現(xiàn)“雙輪驅(qū)動(dòng)”。上海大學(xué)教授、國(guó)家新一代人工智能治理專業(yè)委員會(huì)委員李仁涵說(shuō)：“人工智能是一個(gè)新生事物，發(fā)展還是第一位的。推動(dòng)我國(guó)人工智能的發(fā)展，也要在發(fā)展中解決問(wèn)題?！彼J(rèn)為，人工智能的健康發(fā)展，應(yīng)該及時(shí)納入治理框架之中。科技部戰(zhàn)略規(guī)劃司副司長(zhǎng)張旭表示，要平衡發(fā)展和治理的關(guān)系，對(duì)一些共性問(wèn)題要加強(qiáng)標(biāo)準(zhǔn)和規(guī)范的制定，同時(shí)對(duì)于差異性的問(wèn)題，要通過(guò)一些具體的規(guī)范把《治理原則》的內(nèi)容更好納入進(jìn)來(lái)，使示范推廣和產(chǎn)品應(yīng)用更好結(jié)合，推動(dòng)《治理原則》的落地。

確保人工智能安全可控可靠，規(guī)避風(fēng)險(xiǎn)隱患。“人工智能的發(fā)展仍然存在技術(shù)和社會(huì)潛在影響的雙重‘不確定性’，因此我們要對(duì)更高級(jí)的人工智能潛在風(fēng)險(xiǎn)持續(xù)地開展研究和預(yù)判，確保人工智能健康穩(wěn)健發(fā)展。”曾毅指出，現(xiàn)在一些技術(shù)開發(fā)者沒有經(jīng)過(guò)這方面的專業(yè)訓(xùn)練，通過(guò)創(chuàng)新為社會(huì)帶來(lái)正面效應(yīng)的同時(shí)，對(duì)相關(guān)的風(fēng)險(xiǎn)不重視或無(wú)意識(shí)，給社會(huì)帶來(lái)了較大的隱患，希望《治理原則》的發(fā)布，推動(dòng)“自適應(yīng)”的治理，確保人工智能朝著對(duì)全人類、全社會(huì)及自然生態(tài)有益的方向發(fā)展?！拔覀儸F(xiàn)在是把這些原則寫在紙上，最終希望能寫到每一個(gè)人工智能開發(fā)人員和使用者的心里?！彼f(shuō)。

推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，促進(jìn)包容共享。曾毅認(rèn)為，人工智能作為一項(xiàng)使能技術(shù)，應(yīng)與自然、社會(huì)和諧發(fā)展。“我國(guó)是一個(gè)發(fā)展中國(guó)家，發(fā)展人工智能，更應(yīng)該正視發(fā)展中的一些新情況、新問(wèn)題?！彼f(shuō)，“人工智能應(yīng)積極促進(jìn)綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求，同時(shí)在發(fā)展中縮小地域差距，提升弱勢(shì)群體的適應(yīng)性，努力消除數(shù)字鴻溝，這符合我國(guó)人工智能發(fā)展的現(xiàn)實(shí)需要。”

共建人類命運(yùn)共同體，提倡開放協(xié)作?！昂芏鄧?guó)家的發(fā)展階段不同，人工智能可能也面臨著不同的應(yīng)用場(chǎng)景，這就需要在交流溝通的基礎(chǔ)上開展合作研究和對(duì)話。”薛瀾表示，只有在充分尊重各國(guó)人工智能治理原則和實(shí)踐的前提下，推動(dòng)形成具有廣泛共識(shí)的國(guó)際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，才能增進(jìn)人類共同福祉。

人工智能治理原則，今后還將根據(jù)變化進(jìn)行調(diào)整

《中國(guó)新一代人工智能發(fā)展報(bào)告2019》顯示，我國(guó)人工智能論文發(fā)表量全球領(lǐng)先，企業(yè)數(shù)量等多項(xiàng)指標(biāo)居全球第二位。在李仁涵看來(lái)，我國(guó)數(shù)據(jù)資源豐富，應(yīng)用場(chǎng)景需求迫切，基礎(chǔ)研究、技術(shù)開發(fā)的水平都有顯著的提升，這些因素共同促進(jìn)了我國(guó)人工智能的較快發(fā)展。

曾毅認(rèn)為，我國(guó)人工智能技術(shù)快速發(fā)展的同時(shí)，人工智能治理的能力和水平也在提升?！霸跀?shù)據(jù)隱私、安全治理方面，相關(guān)部門和全社會(huì)都付出了巨大的努力，這一點(diǎn)是有目共睹的。”他舉例說(shuō)，“以《治理原則》提出的‘個(gè)人數(shù)據(jù)授權(quán)撤銷機(jī)制’來(lái)說(shuō)，在全球來(lái)看也是非常領(lǐng)先的一個(gè)概念。這說(shuō)明，我們一直非常重視這方面的工作，并且是以非常負(fù)責(zé)任的態(tài)度來(lái)推進(jìn)的?！?/p>

“考慮到人工智能發(fā)展的高度復(fù)雜性和不確定性，要按照漸進(jìn)性的思路推進(jìn)人工智能的治理?！毖懕硎?，《治理原則》是一份框架性文件，對(duì)人工智能健康發(fā)展主要發(fā)揮宏觀引導(dǎo)作用，今后還將根據(jù)形勢(shì)的變化和需要，不斷進(jìn)行充實(shí)和調(diào)整。在薛瀾看來(lái)，人工智能的發(fā)展過(guò)程中也面臨著一些基礎(chǔ)性的工作，立法就是其中之一?！拔覀儼l(fā)布的《治理原則》，也為今后的立法工作提供了重要基礎(chǔ)?！彼J(rèn)為，人工智能發(fā)展非?？?，而立法的周期較長(zhǎng)，因此也很難只用法律框架來(lái)支撐人工智能的發(fā)展，“這就需要相關(guān)的原則準(zhǔn)則、行業(yè)規(guī)范，包括從業(yè)者的自律，來(lái)協(xié)同推進(jìn)其健康發(fā)展?！保ㄓ浾?谷業(yè)凱）