人(ren)工智(zhi)能(neng)科(ke)學與(yu)(yu)技術的發展(zhan)日(ri)新月異，它直接(jie)作用于(yu)社會，也將以最直接(jie)的方式接(jie)收到社會的反(fan)饋(kui)。它在推動科(ke)技、經濟(ji)、社會的發展(zhan)中起到的持續性(xing)積(ji)極作用毋(wu)庸置(zhi)疑，然(ran)而如果在其發展(zhan)過程(cheng)中沒有對社會潛在影響(xiang)和可持續性(xing)進行(xing)充(chong)分考(kao)慮，可能(neng)會造(zao)成預期之外(wai)的負面影響(xiang)。因此，對人(ren)工智(zhi)能(neng)倫理的考(kao)量應貫穿于(yu)人(ren)工智(zhi)能(neng)產(chan)品與(yu)(yu)服務的整個生命周(zhou)期。

　　需秉承以人為本(ben)及可持續發展(zhan)的理念

　　符(fu)合人類倫理(li)與(yu)(yu)價值(zhi)觀的人工(gong)智(zhi)能(neng)應秉承以人為(wei)本及可持續(xu)發(fa)展的理(li)念，尊重(zhong)隱私，促進公(gong)平公(gong)正，不引入(ru)種(zhong)族、文(wen)化(hua)等偏見(jian)，人工(gong)智(zhi)能(neng)技(ji)術(shu)的發(fa)展應做到透(tou)明(ming)與(yu)(yu)可解釋(shi)、安全可控(kong)、可驗(yan)證、可追責，為(wei)推動技(ji)術(shu)普惠(hui)各行(xing)各業(ye)、各個國家與(yu)(yu)地區，應避免惡意競爭，促進開放合作與(yu)(yu)包容共(gong)享。

　　倡導和諧(xie)(xie)發(fa)(fa)(fa)展(zhan)應(ying)當是新一代人(ren)(ren)工智能(neng)倫理與(yu)治理的(de)(de)主旋律。一方(fang)面(mian)(mian)為實現通過人(ren)(ren)工智能(neng)增進人(ren)(ren)類(lei)共同福祉這一目標，采用(yong)的(de)(de)途徑并(bing)不唯一，應(ying)當始(shi)終秉承與(yu)實踐(jian)和而不同、和合(he)向善的(de)(de)發(fa)(fa)(fa)展(zhan)理念。另一方(fang)面(mian)(mian)應(ying)推動人(ren)(ren)類(lei)與(yu)技(ji)術的(de)(de)和諧(xie)(xie)共生，避免技(ji)術的(de)(de)誤用(yong)、濫用(yong)、惡用(yong)對(dui)人(ren)(ren)類(lei)權益的(de)(de)傷害，總(zong)體愿景應(ying)是發(fa)(fa)(fa)展(zhan)對(dui)人(ren)(ren)類(lei)與(yu)生態(tai)有益的(de)(de)人(ren)(ren)工智能(neng)。

　　無(wu)論采取哪種(zhong)技(ji)術(shu)(shu)(shu)途徑實現(xian)新一(yi)代人工智(zhi)(zhi)能(neng)，都(dou)無(wu)法杜絕(jue)在(zai)發(fa)展(zhan)過程中可能(neng)帶來(lai)的(de)(de)(de)潛(qian)(qian)在(zai)技(ji)術(shu)(shu)(shu)與社會(hui)風(feng)(feng)險及對(dui)現(xian)代科技(ji)倫(lun)理的(de)(de)(de)潛(qian)(qian)在(zai)沖(chong)擊。技(ji)術(shu)(shu)(shu)發(fa)展(zhan)的(de)(de)(de)途徑與方式的(de)(de)(de)多樣性(xing)使得其(qi)所帶來(lai)的(de)(de)(de)風(feng)(feng)險也具有(you)不確定性(xing)，因此(ci)應當(dang)在(zai)探索新一(yi)代人工智(zhi)(zhi)能(neng)，特(te)別是不同類型的(de)(de)(de)高等智(zhi)(zhi)能(neng)的(de)(de)(de)過程中，建立對(dui)其(qi)技(ji)術(shu)(shu)(shu)與社會(hui)風(feng)(feng)險的(de)(de)(de)持續(xu)戰略性(xing)前(qian)瞻研究，以(yi)避(bi)免、降低潛(qian)(qian)在(zai)風(feng)(feng)險帶來(lai)的(de)(de)(de)負面(mian)影響。

　　在對(dui)(dui)未(wei)來(lai)(lai)人(ren)工智能(neng)(neng)的(de)潛在風(feng)險及應對(dui)(dui)策略(lve)的(de)研究方(fang)面，應最(zui)大限度地共(gong)享對(dui)(dui)隱患的(de)認識及危機處理方(fang)案(an)與經(jing)驗。只有(you)建立(li)全球共(gong)享、群(qun)策群(qun)力的(de)機制(zhi)并采取(qu)行動，才能(neng)(neng)保證安全，避免顛覆性技術(shu)可能(neng)(neng)帶來(lai)(lai)的(de)災(zai)難性風(feng)險。

　　多方協(xie)作(zuo)實(shi)現發(fa)展(zhan)與(yu)治理雙輪驅動

　　作為我(wo)國新(xin)(xin)(xin)一代(dai)(dai)人(ren)工(gong)(gong)智能戰略(lve)的牽頭(tou)單位，2019年3月(yue)，科技部組建了國家新(xin)(xin)(xin)一代(dai)(dai)人(ren)工(gong)(gong)智能治(zhi)(zhi)理專(zhuan)業委(wei)員(yuan)會。同(tong)年6月(yue)，該委(wei)員(yuan)會發布了《新(xin)(xin)(xin)一代(dai)(dai)人(ren)工(gong)(gong)智能治(zhi)(zhi)理原則——發展負責任的人(ren)工(gong)(gong)智能》，這是我(wo)國新(xin)(xin)(xin)一代(dai)(dai)人(ren)工(gong)(gong)智能戰略(lve)對發展與治(zhi)(zhi)理關(guan)系的原則性闡述，也(ye)是中國新(xin)(xin)(xin)一代(dai)(dai)人(ren)工(gong)(gong)智能治(zhi)(zhi)理的重要基(ji)礎。

　　為了確保(bao)中國新一(yi)代人(ren)(ren)工智能向對(dui)社會有益的(de)方向發展(zhan)(zhan)(zhan)，新一(yi)代人(ren)(ren)工智能應采取發展(zhan)(zhan)(zhan)與治(zhi)理(li)(li)雙(shuang)輪驅動的(de)戰(zhan)略(lve)。治(zhi)理(li)(li)的(de)目的(de)并不是阻礙發展(zhan)(zhan)(zhan)，而(er)是保(bao)持發展(zhan)(zhan)(zhan)的(de)穩健。

　　敏捷治(zhi)(zhi)理(li)(li)應(ying)(ying)成為中國人工(gong)(gong)(gong)智(zhi)(zhi)能治(zhi)(zhi)理(li)(li)重(zhong)要特征之一。這里敏捷治(zhi)(zhi)理(li)(li)可以(yi)被(bei)解讀為有兩方面(mian)的(de)含義(yi)：一方面(mian)是人工(gong)(gong)(gong)智(zhi)(zhi)能治(zhi)(zhi)理(li)(li)隨人工(gong)(gong)(gong)智(zhi)(zhi)能技術的(de)進展(zhan)進行自適應(ying)(ying)，使得治(zhi)(zhi)理(li)(li)工(gong)(gong)(gong)作能夠更(geng)適應(ying)(ying)發展(zhan)的(de)特點；另(ling)一方面(mian)是相關治(zhi)(zhi)理(li)(li)工(gong)(gong)(gong)作動作迅速(su)。

　　與新一(yi)代(dai)人(ren)工(gong)(gong)智(zhi)(zhi)能發(fa)展(zhan)一(yi)脈相承，作(zuo)為中國人(ren)工(gong)(gong)智(zhi)(zhi)能發(fa)展(zhan)的(de)重要方(fang)面，人(ren)工(gong)(gong)智(zhi)(zhi)能治理(li)在中國也(ye)應通過多部(bu)門聯(lian)動深(shen)度協作(zuo)的(de)方(fang)式(shi)進(jin)行。政府部(bu)門、科研機構、企(qi)業等(deng)創新單元(yuan)在人(ren)工(gong)(gong)智(zhi)(zhi)能治理(li)工(gong)(gong)作(zuo)中應各自承擔相應的(de)責任并深(shen)度協作(zuo)，真正從技術和社會等(deng)不同視角實現新一(yi)代(dai)人(ren)工(gong)(gong)智(zhi)(zhi)能的(de)敏捷治理(li)。

　　建立人工智能治理公(gong)共服務體系(xi)防(fang)患于未(wei)然

　　未來(lai)，一方(fang)面(mian)需要政府相關部門、科研機構(gou)、產業(ye)對(dui)(dui)人工智能可能存在的風險、安全與倫理隱患(huan)加以足夠的重(zhong)視，并對(dui)(dui)人工智能倫理與治理進行(xing)戰略性(xing)的關注(zhu)與投(tou)入(ru)，加強自(zi)律(lv)自(zi)治。另一方(fang)面(mian)，對(dui)(dui)于國家和地方(fang)相關機構(gou)而言，應當推動人工智能治理相關高端智庫、執行(xing)機構(gou)、協(xie)作網絡的建立，并鼓(gu)勵(li)公眾參與討論，及時了(le)解公眾對(dui)(dui)技術參與變革社會的思考。

　　需要(yao)指(zhi)出，新一(yi)代人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)治(zhi)(zhi)(zhi)(zhi)理工(gong)作(zuo)的(de)重點(dian)應(ying)當是防患于未(wei)然，而不僅僅是事后的(de)警戒、責令整改(gai)與(yu)懲治(zhi)(zhi)(zhi)(zhi)。發展與(yu)治(zhi)(zhi)(zhi)(zhi)理的(de)雙輪驅動需要(yao)將人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)倫(lun)理與(yu)治(zhi)(zhi)(zhi)(zhi)理工(gong)作(zuo)推動為兼服務與(yu)監管(guan)于一(yi)身的(de)公共(gong)(gong)體(ti)系。應(ying)鼓(gu)勵政府(fu)相關部門(men)、科(ke)研(yan)(yan)(yan)機構、企業及其他創(chuang)新單(dan)元，乃至公眾共(gong)(gong)建新一(yi)代人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)倫(lun)理與(yu)治(zhi)(zhi)(zhi)(zhi)理公共(gong)(gong)體(ti)系。應(ying)在政府(fu)和相關機構的(de)指(zhi)導下(xia)，鼓(gu)勵新一(yi)代人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)倫(lun)理與(yu)治(zhi)(zhi)(zhi)(zhi)理公共(gong)(gong)服務平臺的(de)建設并(bing)(bing)面(mian)向政府(fu)、科(ke)研(yan)(yan)(yan)機構、企業、公眾提供服務，從而負責任(ren)地推動并(bing)(bing)確保新一(yi)代人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)的(de)穩健發展。（作(zuo)者(zhe)系中科(ke)院(yuan)自(zi)動化(hua)研(yan)(yan)(yan)究(jiu)所研(yan)(yan)(yan)究(jiu)員、北(bei)京智(zhi)源人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)研(yan)(yan)(yan)究(jiu)院(yuan)人(ren)(ren)(ren)工(gong)智(zhi)能(neng)(neng)(neng)倫(lun)理與(yu)安全(quan)中心主任(ren) 曾毅(yi)）