9月3日，世界互聯(lián)網(wǎng)大會(huì)國(guó)際組織在北京召開(kāi)推動(dòng)構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體邁向新階段理論研討會(huì)，總結(jié)推動(dòng)構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體理念提出十年來(lái)的理論成果和實(shí)踐經(jīng)驗(yàn)，探討攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體邁向新階段的深刻內(nèi)涵、重大意義和時(shí)代價(jià)值。聯(lián)合國(guó)人工智能高級(jí)別咨詢(xún)機(jī)構(gòu)專(zhuān)家組成員、中國(guó)科學(xué)院自動(dòng)化所人工智能倫理與治理中心主任曾毅在會(huì)上圍繞“通過(guò)國(guó)際合作促進(jìn)全球人工智能安全與治理能力建設(shè)”作主旨發(fā)言。主要發(fā)言?xún)?nèi)容如下：
聯(lián)合國(guó)人工智能高級(jí)別咨詢(xún)機(jī)構(gòu)專(zhuān)家組成員
作為一名研究人工智能技術(shù)的科研人員，我首先想講的是，人工智能到底是什么。大家總討論人工智能和機(jī)器學(xué)習(xí)的關(guān)系，人工智能和機(jī)器學(xué)習(xí)既有關(guān)，但又非常不同。人工智能不僅僅關(guān)系到機(jī)器學(xué)習(xí)，還有在學(xué)習(xí)、發(fā)育、演化等機(jī)制方面受自然智能的啟發(fā)。人類(lèi)的大腦在跟世界進(jìn)行交互的過(guò)程當(dāng)中，之所以有一個(gè)安全的框架、倫理和道德的框架，也是演化的結(jié)果。所以，我們要受到大自然的啟發(fā)，研究人工智能學(xué)習(xí)、發(fā)育和演化的機(jī)制，使得人工智能以更安全、更具道德的方式逐步接近、甚至超越人類(lèi)智能。對(duì)于社會(huì)、生態(tài)、文明，人工智能既可以產(chǎn)生積極影響，也有可能帶來(lái)風(fēng)險(xiǎn)與安全隱患，但人工智能安全與治理的目的是確保人工智能穩(wěn)健發(fā)展，而非掣肘人工智能的發(fā)展。
現(xiàn)在，人工智能技術(shù)仍是一個(gè)看似智能的信息處理工具，仍然會(huì)犯一些人不會(huì)犯的錯(cuò)誤，所以要保證其內(nèi)部機(jī)制的安全、可靠、可控和可治理。但實(shí)際上，我們?cè)谌斯ぶ悄艿脑O(shè)計(jì)、研發(fā)、部署、使用各個(gè)階段，都要保障人工智能的安全，這樣才能全周期、全鏈條地保證安全、可靠、可控，更關(guān)鍵的是可治理。要讓“安全”成為人工智能發(fā)展的第一性原理，不可刪除，成為人工智能發(fā)展的基因。我們現(xiàn)在應(yīng)對(duì)人工智能的安全風(fēng)險(xiǎn)，更多是一種反應(yīng)式的。能否變被動(dòng)為主動(dòng)地應(yīng)對(duì)可能的風(fēng)險(xiǎn)，而非不停地給人工智能系統(tǒng)打補(bǔ)丁，這是非常重要的范式轉(zhuǎn)變。
在人工智能發(fā)展過(guò)程中，沒(méi)有任何一個(gè)國(guó)家和地區(qū)能夠獨(dú)善其身，我們有責(zé)任共護(hù)安全、共享發(fā)展。研究數(shù)據(jù)表明，人工智能越發(fā)達(dá)的國(guó)家出現(xiàn)人工智能風(fēng)險(xiǎn)的頻次越高，而目前沒(méi)有任何一個(gè)國(guó)家研發(fā)的人工智能可以確保絕對(duì)安全。人工智能科學(xué)技術(shù)與應(yīng)用發(fā)達(dá)的國(guó)家能夠更早地享受到人工智能帶來(lái)的益處，卻同時(shí)需要相對(duì)更早地應(yīng)對(duì)人工智能潛在的風(fēng)險(xiǎn)。國(guó)際合作，是確保全球人工智能安全、可靠、可控的唯一途徑。
今年7月，聯(lián)合國(guó)大會(huì)通過(guò)中國(guó)作為主提國(guó)，140多國(guó)參與支持的“加強(qiáng)人工智能能力建設(shè)的國(guó)際合作”決議，這是近期人工智能領(lǐng)域非常重要的國(guó)際共識(shí)。反觀當(dāng)今，國(guó)際人工智能安全與治理體系，表現(xiàn)出明顯的“小院高墻”“大院小門(mén)”的特點(diǎn)，目前還不具備行之有效、包容性足夠廣泛的國(guó)際治理體系，亟需建立以聯(lián)合國(guó)為主渠道的全球人工智能安全與治理體系。我們不僅要通過(guò)國(guó)際合作建立相對(duì)完善、可相互借鑒的人工智能安全與治理體系，來(lái)應(yīng)對(duì)近期人工智能的風(fēng)險(xiǎn)，更要未雨綢繆，集全球之智共同研究與應(yīng)對(duì)前沿人工智能潛在的災(zāi)難性甚至是生存風(fēng)險(xiǎn)。系統(tǒng)化的安全與治理國(guó)際合作，將有力地促進(jìn)人工智能在全球范圍內(nèi)的穩(wěn)健發(fā)展與應(yīng)用，賦能全球可持續(xù)發(fā)展目標(biāo)與人類(lèi)命運(yùn)共同體的實(shí)現(xiàn)。