【科學(xué)向未來(lái)】

 

　　作者：曾毅（中國(guó)科學(xué)院自動(dòng)化研究所類腦智能研究中心研究員、副主任）

 

　　著名作家阿西莫夫1940年在科幻小說(shuō)中提出了“機(jī)器人三原則”：機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀；機(jī)器人必須服從人類的命令，除非這條命令與第一條相矛盾；機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。今天，人工智能逐漸從科幻走向現(xiàn)實(shí)，人們對(duì)人工智能可能產(chǎn)生的危害也愈加警惕，希望能夠?yàn)槠渲贫?zhǔn)則以確保人工智能科技和產(chǎn)業(yè)向?qū)ι鐣?huì)有益的方向順利發(fā)展。

 

構(gòu)建新一代人工智能準(zhǔn)則

 

光明圖片/視覺(jué)中國(guó)

 

　　1.以和諧互補(bǔ)的方式鏈接不同的人工智能準(zhǔn)則提案

 

　　人工智能既是經(jīng)過(guò)數(shù)十年錘煉發(fā)展出來(lái)的科學(xué)領(lǐng)域，又是改變未來(lái)的重要顛覆性技術(shù)。人工智能的研究與發(fā)展不僅關(guān)系到國(guó)家科技、經(jīng)濟(jì)發(fā)展、社會(huì)穩(wěn)定，更關(guān)系到國(guó)家在科技、產(chǎn)業(yè)領(lǐng)域的國(guó)際影響與國(guó)際局勢(shì)。

 

　　人工智能在帶來(lái)機(jī)遇的同時(shí)也帶來(lái)潛在的風(fēng)險(xiǎn)與隱患。例如應(yīng)用最為廣泛的深度神經(jīng)網(wǎng)絡(luò)模型在對(duì)輸入引入極小的噪聲（如改變圖像輸入中某個(gè)關(guān)鍵的一個(gè)像素值）情況下，就有可能使網(wǎng)絡(luò)的識(shí)別和預(yù)測(cè)結(jié)果產(chǎn)生顛覆性的錯(cuò)誤（如將青蛙識(shí)別為卡車、烏龜識(shí)別為槍支）。若沒(méi)有充分的風(fēng)險(xiǎn)評(píng)估，新興技術(shù)在對(duì)社會(huì)發(fā)展帶來(lái)機(jī)遇的同時(shí)，很有可能引入不可預(yù)計(jì)的安全隱患與風(fēng)險(xiǎn)。

 

　　現(xiàn)在對(duì)于人工智能的發(fā)展而言，首要的問(wèn)題是選擇正確的道路。創(chuàng)新、價(jià)值、倫理是一個(gè)鐵三角，創(chuàng)新性技術(shù)對(duì)社會(huì)帶來(lái)潛在價(jià)值的同時(shí)，可能存在難以預(yù)期的風(fēng)險(xiǎn)，并對(duì)社會(huì)倫理提出重大挑戰(zhàn)。因此，發(fā)展人工智能技術(shù)普惠經(jīng)濟(jì)與社會(huì)的同時(shí)，關(guān)注人工智能的社會(huì)屬性，從社會(huì)風(fēng)險(xiǎn)、倫理準(zhǔn)則與治理角度確保人工智能科學(xué)、技術(shù)、產(chǎn)業(yè)的健康、良性發(fā)展至關(guān)重要。

 

　　為了確保發(fā)展有益的人工智能，世界上各國(guó)政府、非政府組織、科學(xué)團(tuán)體、科研機(jī)構(gòu)、非營(yíng)利性組織、企業(yè)都提出了人工智能發(fā)展準(zhǔn)則。包括英國(guó)政府、國(guó)際電子電器工程學(xué)會(huì)、國(guó)際勞工組織。至今，于公開(kāi)渠道可見(jiàn)的人工智能準(zhǔn)則提案已接近40個(gè)，涉及以人為本、合作、共享、公平、透明、隱私、安全、信任、權(quán)利、偏見(jiàn)、教育、通用人工智能等主題。例如，美國(guó)生命未來(lái)研究所倡導(dǎo)的阿西洛瑪人工智能準(zhǔn)則（Asilomar AI Principles）、英國(guó)上議院提出的人工智能準(zhǔn)則（AI Code）等，都希望通過(guò)在人工智能倫理與準(zhǔn)則制定方面的領(lǐng)先來(lái)引領(lǐng)人工智能的發(fā)展。

 

　　事實(shí)上目前任何一個(gè)國(guó)家、機(jī)構(gòu)、組織提出的人工智能準(zhǔn)則都僅覆蓋了少部分主題（更為具體的層面，人工智能準(zhǔn)則提案涉及超過(guò)50個(gè)主要議題），雖然不少準(zhǔn)則提案都有自身的特色，有其他方案未能覆蓋的考量，但想要構(gòu)建統(tǒng)一、全面、完善的人工智能準(zhǔn)則既是難以實(shí)現(xiàn)的，又是沒(méi)有必要的——難以實(shí)現(xiàn)的原因是人工智能這門(mén)科學(xué)技術(shù)本身、人工智能準(zhǔn)則、倫理的內(nèi)涵和外延都是在不斷完善的；沒(méi)有必要的原因是每個(gè)國(guó)家、組織與機(jī)構(gòu)的準(zhǔn)則提案都結(jié)合自身實(shí)際情況，有組織目標(biāo)、環(huán)境、文化、倫理傳統(tǒng)相關(guān)的特殊考慮。

 

　　筆者認(rèn)為，真正有價(jià)值的做法是認(rèn)可每一個(gè)國(guó)家、機(jī)構(gòu)提案在一定范圍的意義，而為了更好地實(shí)現(xiàn)人工智能的全球治理，重點(diǎn)將不是統(tǒng)一人工智能的準(zhǔn)則，而是以更和諧互補(bǔ)的方式鏈接不同的人工智能準(zhǔn)則提案，使其在局部（如國(guó)家、組織機(jī)構(gòu)等）有序與一致，世界的全局范圍內(nèi)不同的準(zhǔn)則提案仍可交互和協(xié)商，最終實(shí)現(xiàn)和諧互補(bǔ)、優(yōu)化共生。

 

　　2.調(diào)和政府與企業(yè)在準(zhǔn)則制定上的現(xiàn)存差異

 

　　在對(duì)不同人工智能準(zhǔn)則提案的量化分析中可以看到：相對(duì)而言，各國(guó)政府對(duì)人工智能的潛在風(fēng)險(xiǎn)與安全高度重視，但企業(yè)的重視程度相對(duì)薄弱。這反映了在企業(yè)從事人工智能創(chuàng)新過(guò)程中對(duì)于潛在風(fēng)險(xiǎn)與安全隱患可能估計(jì)不足。例如，在對(duì)人工智能風(fēng)險(xiǎn)的評(píng)估中，部分企業(yè)認(rèn)為如果總體可能的利益遠(yuǎn)遠(yuǎn)超過(guò)可預(yù)見(jiàn)的風(fēng)險(xiǎn)和不利因素，則可以進(jìn)行相關(guān)探索。但從學(xué)術(shù)的視角看，一方面，依據(jù)潛在利益與風(fēng)險(xiǎn)之間的量化差異決定企業(yè)是否采取相關(guān)行動(dòng)本身就是一個(gè)危險(xiǎn)的視角；另一方面，如果沒(méi)有站在全社會(huì)的全局視角進(jìn)行綜合研判與分析，僅從企業(yè)自身視角進(jìn)行預(yù)測(cè)與判斷，則很有可能因?yàn)榫窒薜乃伎寂c行動(dòng)對(duì)社會(huì)造成潛在的巨大危害。

 

　　因此，應(yīng)當(dāng)看到政府重視與企業(yè)相對(duì)不足的考慮之間的差距，并采取引導(dǎo)、監(jiān)管、建立人工智能產(chǎn)品與服務(wù)的風(fēng)險(xiǎn)與安全評(píng)估體系等有效措施彌補(bǔ)政府期望與企業(yè)實(shí)踐之間的鴻溝。

 

　　同時(shí)，一些準(zhǔn)則在相關(guān)技術(shù)途徑可能引發(fā)風(fēng)險(xiǎn)的方面可能估計(jì)不足。例如某些提案中對(duì)通用人工智能（各個(gè)認(rèn)知功能達(dá)到人類水平，簡(jiǎn)稱AGI）、超級(jí)智能（所有認(rèn)知功能超過(guò)人類水平，簡(jiǎn)稱ASI）涉及很有限。

 

　　這方面學(xué)術(shù)機(jī)構(gòu)的討論和相關(guān)研究應(yīng)當(dāng)為政府決策提供有力支撐，例如阿西洛瑪人工智能準(zhǔn)則中提出超級(jí)智能以全人類受益為標(biāo)準(zhǔn)來(lái)發(fā)展，劍橋大學(xué)近期提出并正在進(jìn)行一項(xiàng)名為“通用人工智能的實(shí)現(xiàn)途徑及潛在風(fēng)險(xiǎn)”的研究。

 

　　3.兼顧專用人工智能和通用人工智能的發(fā)展

 

　　在人工智能頂層設(shè)計(jì)當(dāng)中，是否發(fā)展通用人工智能，還是僅限于發(fā)展領(lǐng)域特定的專用人工智能？這是諸多人工智能準(zhǔn)則提案中主要存在的巨大分歧。

 

　　例如，歐盟人工智能研究實(shí)驗(yàn)室聯(lián)合會(huì)（CLAIRE）就明確提出應(yīng)限制人類水平智能、通用智能以及超級(jí)智能的發(fā)展。德國(guó)的人工智能計(jì)劃也集中于發(fā)展專用人工智能。而阿西洛瑪人工智能準(zhǔn)則、OpenAI等機(jī)構(gòu)提出的人工智能準(zhǔn)則中則明確提出應(yīng)當(dāng)對(duì)更安全的通用人工智能進(jìn)行充分考慮與發(fā)展。

 

　　事實(shí)上發(fā)展專用智能并不一定能夠完全避免風(fēng)險(xiǎn)，因?yàn)閷Ｓ弥悄芟到y(tǒng)在應(yīng)用中很可能遇到不可預(yù)期的場(chǎng)景， 具備一定的通用能力反而有可能提升智能系統(tǒng)的魯棒性和自適應(yīng)能力。因此應(yīng)針對(duì)智能的通用性這個(gè)主題鏈接不同國(guó)家、組織、機(jī)構(gòu)的考慮，實(shí)現(xiàn)頂層設(shè)計(jì)的互補(bǔ)。

 

　　人類認(rèn)知功能的多樣性以及人工智能應(yīng)用場(chǎng)景的復(fù)雜性使得很難對(duì)人工智能的風(fēng)險(xiǎn)、安全以及倫理體系進(jìn)行絕對(duì)完善的建模，特別是涉及到人工智能產(chǎn)品、服務(wù)與具有不同文化背景的人類群體交互。任何國(guó)家都應(yīng)制定適應(yīng)本國(guó)的實(shí)際社會(huì)、科技、經(jīng)濟(jì)發(fā)展與文化需求的人工智能準(zhǔn)則。但更關(guān)鍵的是需要全世界不同政府、學(xué)術(shù)組織、產(chǎn)業(yè)界深度交互與協(xié)同，對(duì)人工智能的發(fā)展進(jìn)行對(duì)全社會(huì)有益的戰(zhàn)略性設(shè)計(jì)，對(duì)其潛在的社會(huì)風(fēng)險(xiǎn)與倫理挑戰(zhàn)進(jìn)行系統(tǒng)性評(píng)估與預(yù)測(cè)，并構(gòu)建世界范圍內(nèi)總體和諧、互為補(bǔ)充、優(yōu)化共生的發(fā)展準(zhǔn)則。