今年7月，中(zhong)央政(zheng)治(zhi)局(ju)召開(kai)會(hui)(hui)議(yi)，分(fen)析研究當前經濟形(xing)勢(shi)，部署(shu)下半年經濟工作。會(hui)(hui)議(yi)強調，要推動(dong)數字經濟與先進制造業、現(xian)代服務(wu)業深度融合，促進人工智能(neng)安全發展。圍繞人工智能(neng)安全發展的(de)一系列問(wen)題，學(xue)習時報高(gao)端智庫(ku)版(ban)組織了(le)此(ci)次三方筆(bi)談。 

 

做好人工智能發展的風險防范

中國科學技術信息研究所黨委書記、所長 科技部新一代人工智能發展研究中心主任 趙志耘

 

　　當前，ChatGPT類大模(mo)型加速了(le)數字世界(jie)和物(wu)理(li)世界(jie)的(de)深度融合，引領人(ren)工智(zhi)能(neng)進(jin)入新(xin)的(de)發(fa)(fa)展(zhan)(zhan)階段。與此(ci)同時，人(ren)工智(zhi)能(neng)固(gu)有(you)的(de)不(bu)確定性、不(bu)透(tou)明(ming)性、難以解釋、事實性錯(cuo)誤等能(neng)力局限，對經濟發(fa)(fa)展(zhan)(zhan)、國際政治和全球治理(li)等方面帶來深遠影響(xiang)，引發(fa)(fa)了(le)全球對大模(mo)型廣泛(fan)應用安全風險的(de)熱(re)議(yi)。如何應對人(ren)工智(zhi)能(neng)風險并把握人(ren)工智(zhi)能(neng)發(fa)(fa)展(zhan)(zhan)的(de)戰略主動，有(you)效(xiao)保障國家安全，已成(cheng)為我國國家安全治理(li)的(de)重要議(yi)題。

 

　　大模型(xing)技(ji)術(shu)引(yin)發(fa)新(xin)的(de)安(an)全(quan)(quan)風(feng)險和治(zhi)理挑戰。隨著技(ji)術(shu)的(de)更新(xin)迭代，人工智能的(de)應用門檻持續降低(di)，伴隨著誤用濫用情況的(de)增(zeng)加(jia)，經濟社會(hui)領域的(de)多重(zhong)安(an)全(quan)(quan)風(feng)險也在交織疊加(jia)。

 

　　一是放大隱(yin)私信(xin)息(xi)泄露風(feng)險。當前，人工(gong)智能開發者和服務提供者可能利用用戶(hu)數據進(jin)行優化(hua)訓練，但(dan)相關服務條款(kuan)卻并未對(dui)數據使用做(zuo)出解釋說明(ming)，可能涉及在用戶(hu)不知情(qing)情(qing)況下收集(ji)個人信(xin)息(xi)、商業秘(mi)密等(deng)，安全(quan)(quan)風(feng)險較為突出。為保護個人信(xin)息(xi)安全(quan)(quan)，部分歐(ou)洲國(guo)家對(dui)大模型進(jin)行了(le)嚴(yan)格(ge)監管和審查，甚至考(kao)慮禁止ChatGPT等(deng)人工(gong)智能應用。

 

　　二是輿(yu)論(lun)引導與文(wen)(wen)化滲透(tou)風(feng)險。在(zai)輿(yu)論(lun)和(he)文(wen)(wen)化領域，人(ren)工智能技術可被用于算法引導、平(ping)臺滲透(tou)、網絡監控、內容生成等信息(xi)處理環(huan)節，由大模型驅動的文(wen)(wen)本創(chuang)作工具(ju)可能產生頗具(ju)影響力或(huo)說(shuo)服力的信息(xi)，使得虛(xu)假信息(xi)不易被識破(po)，負面輿(yu)情傳(chuan)播速(su)度加快，進而導致(zhi)侵犯他人(ren)合法權(quan)益、擾亂(luan)經濟(ji)秩(zhi)序和(he)社(she)會秩(zhi)序，甚至危害(hai)國(guo)家安(an)全和(he)社(she)會公共(gong)利益。

 

　　三是情報軍事(shi)領(ling)域應用(yong)(yong)的(de)新威(wei)脅。人工智能(neng)的(de)自動(dong)生成代碼功能(neng)使黑客技術的(de)習得過程更為容易，使網絡攻防的(de)更新頻率大(da)幅提升。利用(yong)(yong)ChatGPT類大(da)模型可以幫助機器學(xue)習識(shi)別(bie)更加復雜的(de)文本及(ji)實體(ti)，或將擴大(da)無人軍用(yong)(yong)智能(neng)無人裝備的(de)應用(yong)(yong)，增大(da)軍事(shi)對峙(zhi)摩擦，對國家安全帶(dai)來(lai)嚴(yan)峻挑戰。

 

　　加(jia)快推進人(ren)工(gong)智(zhi)能(neng)安(an)全(quan)治理(li)。面(mian)對人(ren)工(gong)智(zhi)能(neng)技術快速發(fa)展、風險持續蔓延的(de)(de)形勢，增強人(ren)工(gong)智(zhi)能(neng)的(de)(de)安(an)全(quan)性成為國(guo)際組(zu)織(zhi)、各國(guo)政府及產業界等共同關注的(de)(de)議題。

 

　　我(wo)國(guo)高度重視人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)安全(quan)(quan)問(wen)題，不斷加強人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)發(fa)展的潛在風險研判和防范，建立健全(quan)(quan)人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)安全(quan)(quan)治理(li)體系，對人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)技術(shu)本身所致的內生(sheng)安全(quan)(quan)、人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)應用中的衍(yan)生(sheng)安全(quan)(quan)以及影響和決定人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)前景的發(fa)展安全(quan)(quan)問(wen)題進行(xing)系統性治理(li)，確保(bao)人(ren)工(gong)(gong)(gong)(gong)智(zhi)能(neng)安全(quan)(quan)、可靠、可控。

 

　　2017年，國務院發(fa)(fa)布(bu)《新(xin)(xin)一代人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)發(fa)(fa)展規(gui)(gui)劃》，對人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)(li)(li)工(gong)(gong)作(zuo)進(jin)(jin)(jin)行了專門部(bu)署，并要求建立人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)安全(quan)(quan)(quan)(quan)監管(guan)和評估體(ti)系。我(wo)國不(bu)斷完善數據安全(quan)(quan)(quan)(quan)、網(wang)絡安全(quan)(quan)(quan)(quan)、人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)等相(xiang)關法律制(zhi)度建設(she)，為(wei)新(xin)(xin)技(ji)術(shu)的(de)(de)快速應(ying)用奠定(ding)法律基礎。研(yan)究制(zhi)定(ding)算法推薦、深度合成、生成式人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)等領域的(de)(de)管(guan)理(li)(li)(li)規(gui)(gui)定(ding)，對人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)發(fa)(fa)展進(jin)(jin)(jin)行引導和規(gui)(gui)范(fan)，保障相(xiang)關技(ji)術(shu)產品的(de)(de)有(you)序發(fa)(fa)展。先后(hou)發(fa)(fa)布(bu)《新(xin)(xin)一代人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)(li)(li)原則——發(fa)(fa)展負(fu)責(ze)任(ren)的(de)(de)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)》《新(xin)(xin)一代人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)倫理(li)(li)(li)規(gui)(gui)范(fan)》，為(wei)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)技(ji)術(shu)的(de)(de)開發(fa)(fa)和應(ying)用設(she)定(ding)道德(de)約束，促(cu)使人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)更好地服務于人(ren)(ren)(ren)(ren)(ren)類。此外，我(wo)國也積極參(can)與全(quan)(quan)(quan)(quan)球人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)(li)(li)，堅(jian)持倫理(li)(li)(li)先行、和平利用、安全(quan)(quan)(quan)(quan)可控等治理(li)(li)(li)原則，呼(hu)吁加強對人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)軍事應(ying)用的(de)(de)監管(guan)，以負(fu)責(ze)任(ren)的(de)(de)態度促(cu)進(jin)(jin)(jin)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)安全(quan)(quan)(quan)(quan)治理(li)(li)(li)。

 

　　推(tui)動(dong)形成人工智能(neng)安(an)(an)(an)全(quan)(quan)治理(li)的強(qiang)大合(he)力(li)。盡(jin)管已開(kai)展(zhan)一(yi)系列治理(li)行動(dong)，但(dan)人工智能(neng)安(an)(an)(an)全(quan)(quan)治理(li)還面(mian)臨(lin)諸多(duo)全(quan)(quan)球共(gong)性難題(ti)。人工智能(neng)技術目前并(bing)不具備較強(qiang)的可解釋性、準確性和真(zhen)實(shi)性，難以完(wan)全(quan)(quan)實(shi)現(xian)人工智能(neng)治理(li)所倡導的透(tou)明度、可靠(kao)性和安(an)(an)(an)全(quan)(quan)性。如何在創新發(fa)展(zhan)和有效監(jian)管之間(jian)取得平衡也是(shi)各國普遍面(mian)臨(lin)的問題(ti)。既(ji)要避免(mian)過度監(jian)管阻礙(ai)技術發(fa)展(zhan)，也要防止管理(li)力(li)度不夠(gou)而(er)引發(fa)嚴(yan)重(zhong)問題(ti)。

 

　　當前，人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)影響下的(de)(de)國際科技(ji)(ji)、經濟及政治(zhi)領(ling)域發(fa)(fa)生沖(chong)突的(de)(de)可能(neng)(neng)(neng)性(xing)(xing)日益增(zeng)(zeng)大。我(wo)國正處(chu)在人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)技(ji)(ji)術快(kuai)(kuai)速(su)發(fa)(fa)展(zhan)的(de)(de)階段，必須堅(jian)持貫徹總(zong)體(ti)(ti)國家安(an)全(quan)(quan)(quan)(quan)(quan)觀，構建多元參與、協(xie)同(tong)共治(zhi)的(de)(de)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)治(zhi)理(li)(li)機(ji)制(zhi)，調動各(ge)主體(ti)(ti)參與治(zhi)理(li)(li)的(de)(de)積極性(xing)(xing)，促進(jin)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)與經濟社會健康有序融合，以高水平科技(ji)(ji)安(an)全(quan)(quan)(quan)(quan)(quan)保障國家總(zong)體(ti)(ti)安(an)全(quan)(quan)(quan)(quan)(quan)。一是(shi)(shi)建立(li)健全(quan)(quan)(quan)(quan)(quan)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)安(an)全(quan)(quan)(quan)(quan)(quan)治(zhi)理(li)(li)機(ji)制(zhi)。堅(jian)持審(shen)慎(shen)監(jian)(jian)管、開放包(bao)容原則(ze)，強化(hua)風(feng)險研(yan)判(pan)和(he)監(jian)(jian)測(ce)預(yu)警，完善科技(ji)(ji)倫理(li)(li)審(shen)查和(he)監(jian)(jian)管制(zhi)度。二是(shi)(shi)增(zeng)(zeng)強法(fa)(fa)治(zhi)保障能(neng)(neng)(neng)力。加快(kuai)(kuai)推進(jin)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)立(li)法(fa)(fa)，開展(zhan)生成式(shi)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)、信息(xi)安(an)全(quan)(quan)(quan)(quan)(quan)利(li)用等(deng)法(fa)(fa)律問(wen)題研(yan)究(jiu)，建立(li)追溯和(he)問(wen)責機(ji)制(zhi)，清晰界定人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)相關主體(ti)(ti)權利(li)、義務(wu)及責任邊(bian)界，從而(er)保障各(ge)類(lei)群體(ti)(ti)的(de)(de)合法(fa)(fa)權益。三是(shi)(shi)增(zeng)(zeng)強人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)技(ji)(ji)術治(zhi)理(li)(li)能(neng)(neng)(neng)力。強化(hua)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)數(shu)據(ju)安(an)全(quan)(quan)(quan)(quan)(quan)、隱私保護等(deng)技(ji)(ji)術研(yan)發(fa)(fa)，強化(hua)對(dui)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)算法(fa)(fa)和(he)模型的(de)(de)審(shen)計監(jian)(jian)管和(he)對(dui)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)系統安(an)全(quan)(quan)(quan)(quan)(quan)性(xing)(xing)測(ce)試評估，增(zeng)(zeng)強抗系統性(xing)(xing)風(feng)險能(neng)(neng)(neng)力。四是(shi)(shi)增(zeng)(zeng)強國際安(an)全(quan)(quan)(quan)(quan)(quan)合作能(neng)(neng)(neng)力。倡導以人(ren)(ren)(ren)(ren)(ren)(ren)為本、智(zhi)(zhi)能(neng)(neng)(neng)向善理(li)(li)念(nian)，在《中國關于規范人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)軍事應(ying)用的(de)(de)立(li)場文件(jian)》等(deng)基礎上，發(fa)(fa)揮聯合國、G20、上合組(zu)織等(deng)多邊(bian)機(ji)制(zhi)的(de)(de)作用，拓展(zhan)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)安(an)全(quan)(quan)(quan)(quan)(quan)共識，避免(mian)人(ren)(ren)(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)濫用帶(dai)來(lai)的(de)(de)安(an)全(quan)(quan)(quan)(quan)(quan)風(feng)險。

 

推進大模型賦能數智化應用健康發展

中國科學院自動化研究所副所長 曾大軍

 

　　近年來，大(da)模型(xing)技術飛速發展，極大(da)提升了(le)全(quan)球人(ren)工(gong)智(zhi)(zhi)能技術發展和應用迭(die)代速度，被認(ren)為是“邁向通用人(ren)工(gong)智(zhi)(zhi)能的(de)里程碑技術”。面對新一輪大(da)模型(xing)引領的(de)人(ren)工(gong)智(zhi)(zhi)能變革，加快推(tui)進大(da)模型(xing)賦能數智(zhi)(zhi)化應用健(jian)康發展具(ju)有重要(yao)意(yi)義。

作(zuo)為最成功的(de)一類大(da)模(mo)(mo)(mo)型(xing)，大(da)語(yu)言模(mo)(mo)(mo)型(xing)是一種包含大(da)規模(mo)(mo)(mo)參數(shu)、使用大(da)量文本數(shu)據(ju)訓練出來(lai)的(de)深度學習模(mo)(mo)(mo)型(xing)，展(zhan)現了(le)大(da)模(mo)(mo)(mo)型(xing)的(de)能力(li)和(he)基(ji)本技術(shu)(shu)(shu)框(kuang)架(jia)。目前(qian)，這(zhe)一技術(shu)(shu)(shu)思路(lu)和(he)框(kuang)架(jia)已被用來(lai)處理圖像、視頻等多模(mo)(mo)(mo)態數(shu)據(ju)，并被推廣(guang)應用于機器人(ren)控制與智能決策(ce)等場景。各(ge)類大(da)模(mo)(mo)(mo)型(xing)正處于迅猛發(fa)展(zhan)之(zhi)中，眾多高科(ke)技企業紛紛投身大(da)模(mo)(mo)(mo)型(xing)建設(she)，圍(wei)繞大(da)模(mo)(mo)(mo)型(xing)已經形(xing)成相對成熟的(de)技術(shu)(shu)(shu)框(kuang)架(jia)，但產品和(he)生(sheng)態尚(shang)在發(fa)展(zhan)形(xing)成之(zhi)中。總體而言，大(da)模(mo)(mo)(mo)型(xing)的(de)技術(shu)(shu)(shu)發(fa)展(zhan)歷程相比以往任何人(ren)工智能技術(shu)(shu)(shu)都更迅猛，其影響力(li)也是史無(wu)前(qian)例的(de)。

 

　　大(da)(da)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)的(de)(de)“大(da)(da)”主要體(ti)現在(zai)3個方(fang)(fang)面，即模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)參(can)數(shu)(shu)規(gui)模(mo)(mo)(mo)(mo)(mo)大(da)(da)、訓(xun)(xun)練數(shu)(shu)據(ju)(ju)規(gui)模(mo)(mo)(mo)(mo)(mo)大(da)(da)和(he)算力消耗需(xu)(xu)(xu)求(qiu)大(da)(da)。模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)參(can)數(shu)(shu)方(fang)(fang)面，當前主流大(da)(da)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)的(de)(de)參(can)數(shu)(shu)規(gui)模(mo)(mo)(mo)(mo)(mo)通常在(zai)千(qian)億甚至(zhi)萬億級別，遠遠大(da)(da)于以往(wang)的(de)(de)各類深度學習(xi)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)。訓(xun)(xun)練數(shu)(shu)據(ju)(ju)方(fang)(fang)面，大(da)(da)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)在(zai)前期訓(xun)(xun)練階(jie)段和(he)后期調優(you)階(jie)段都需(xu)(xu)(xu)要海量(liang)的(de)(de)數(shu)(shu)據(ju)(ju)支撐(cheng)，例如引爆(bao)大(da)(da)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)范式的(de)(de)聊天機(ji)器人ChatGPT，預訓(xun)(xun)練數(shu)(shu)據(ju)(ju)量(liang)達到了45TB，其研發公司還在(zai)拉丁美(mei)洲等地區招募了約1000名(ming)員工，專門從事與大(da)(da)模(mo)(mo)(mo)(mo)(mo)型(xing)(xing)相關(guan)的(de)(de)訓(xun)(xun)練數(shu)(shu)據(ju)(ju)標注(zhu)工作。算力需(xu)(xu)(xu)求(qiu)方(fang)(fang)面，根據(ju)(ju)有關(guan)市場調查機(ji)構估計，ChatGPT的(de)(de)運行需(xu)(xu)(xu)要上萬片(pian)最(zui)先進的(de)(de)圖(tu)形處理(li)芯片(pian)同時工作，耗電量(liang)巨大(da)(da)。

 

　　大(da)(da)模(mo)型(xing)(xing)(xing)已經(jing)展現(xian)出(chu)驚人(ren)(ren)(ren)(ren)的(de)(de)(de)能(neng)(neng)力，基(ji)于大(da)(da)語言(yan)模(mo)型(xing)(xing)(xing)的(de)(de)(de)聊(liao)天機器人(ren)(ren)(ren)(ren)是以(yi)人(ren)(ren)(ren)(ren)機對話為接口的(de)(de)(de)高效(xiao)信息獲取、智能(neng)(neng)處(chu)理和內容生成(cheng)工具，能(neng)(neng)夠實現(xian)高質量的(de)(de)(de)信息整合、翻譯和簡(jian)單的(de)(de)(de)問題求解與規劃。其受到全(quan)(quan)社會廣泛關(guan)注，主要(yao)是它(ta)已經(jing)初步具備通(tong)用(yong)人(ren)(ren)(ren)(ren)工智能(neng)(neng)的(de)(de)(de)部分特性(xing)，包括通(tong)順的(de)(de)(de)自然語言(yan)生成(cheng)、全(quan)(quan)領域的(de)(de)(de)知識體系覆蓋、跨任務場景(jing)的(de)(de)(de)通(tong)用(yong)處(chu)理模(mo)型(xing)(xing)(xing)、通(tong)暢的(de)(de)(de)人(ren)(ren)(ren)(ren)機交互接口。當然，聊(liao)天機器人(ren)(ren)(ren)(ren)只(zhi)是大(da)(da)模(mo)型(xing)(xing)(xing)的(de)(de)(de)起點，大(da)(da)模(mo)型(xing)(xing)(xing)未來的(de)(de)(de)發(fa)展趨勢(shi)也已初見端倪(ni)。

 

　　第一，大(da)模(mo)(mo)型(xing)有望(wang)引領(ling)諸多(duo)行業的(de)數(shu)智(zhi)化(hua)創新發(fa)(fa)(fa)展。大(da)模(mo)(mo)型(xing)的(de)學習模(mo)(mo)式類(lei)似(si)人類(lei)大(da)腦，通過學習不(bu)(bu)同的(de)數(shu)據，能(neng)夠形成多(duo)樣化(hua)的(de)能(neng)力，不(bu)(bu)需(xu)要(yao)按照(zhao)任務開(kai)發(fa)(fa)(fa)定制化(hua)的(de)算法(fa)。通過自然的(de)人機(ji)交互(hu)，智(zhi)能(neng)化(hua)地(di)解決(jue)復(fu)雜問題和(he)(he)實現輔助決(jue)策，推動各行業體系(xi)變革和(he)(he)生態發(fa)(fa)(fa)展。例如(ru)，未來的(de)信息(xi)系(xi)統可以由領(ling)域(yu)用戶(hu)通過與大(da)模(mo)(mo)型(xing)的(de)交互(hu)直接搭建和(he)(he)維護(hu)，“用戶(hu)即程序員”，顛覆信息(xi)系(xi)統研發(fa)(fa)(fa)和(he)(he)應用范(fan)式。

 

　　第二，領域專用和輕(qing)量(liang)化大模(mo)型是當前技術研究的(de)(de)重點(dian)。大模(mo)型雖然(ran)已(yi)經(jing)展現出諸多優(you)勢，但依然(ran)存在可(ke)靠性差、訓練(lian)數據依賴、因果推理(li)能(neng)力弱、搭建成(cheng)本(ben)高(gao)等(deng)短板，在部分領域深度應用上的(de)(de)表現弱于專用小(xiao)模(mo)型。為了(le)更充分地發揮大模(mo)型優(you)勢，金融(rong)、教育、醫療(liao)等(deng)領域專用大模(mo)型已(yi)取得了(le)階段性成(cheng)果，有望促(cu)進(jin)各項專業能(neng)力的(de)(de)涌現。

 

　　第三，大(da)模(mo)(mo)型有望發(fa)展(zhan)成為(wei)更加通用的(de)(de)(de)人工智(zhi)能。大(da)模(mo)(mo)型起步于文(wen)本(ben)信息(xi)(xi)處理(li)，現已涵蓋圖片(pian)、音視(shi)頻等多(duo)模(mo)(mo)態數據。在(zai)不久的(de)(de)(de)將(jiang)來，大(da)模(mo)(mo)型將(jiang)超越(yue)信息(xi)(xi)域，結合硬件設施，發(fa)展(zhan)成為(wei)與物理(li)和人類世界互動(dong)的(de)(de)(de)具(ju)象智(zhi)能，逐步縮(suo)小(xiao)與真(zhen)正的(de)(de)(de)“通用人工智(zhi)能”的(de)(de)(de)差(cha)距。

 

　　雖然大(da)模型展現的(de)能(neng)力(li)已經(jing)讓全社會看到了通用人工智能(neng)的(de)曙光，但當(dang)前大(da)模型也有(you)一定的(de)局限(xian)性。一方面(mian)，由于大(da)模型自身結構和(he)機制漏洞，有(you)被惡意攻擊的(de)風險；另(ling)一方面(mian)，大(da)模型自身的(de)知識表達和(he)學習模式還存在缺(que)陷，導致其(qi)回答中經(jing)常(chang)出現“幻覺”，如(ru)常(chang)識性錯誤、杜(du)撰內容等。

 

　　推進大模型賦能數智(zhi)化應(ying)(ying)用(yong)健(jian)康發(fa)展，應(ying)(ying)堅持規劃引(yin)領、需求帶動、應(ying)(ying)用(yong)導向、安全為基，引(yin)導、扶持和監督大模型在(zai)更廣(guang)泛的(de)領域應(ying)(ying)用(yong)中(zhong)長(chang)計遠慮(lv)、扎(zha)實落地、穩步(bu)推進。

 

　　首先(xian)，掌握技(ji)術主動(dong)權，加快自主可控的(de)(de)(de)(de)國產(chan)(chan)大模型(xing)(xing)全鏈條(tiao)建設。依托我國現有的(de)(de)(de)(de)人工智(zhi)能人才基礎，構建面(mian)向(xiang)大模型(xing)(xing)與(yu)通用人工智(zhi)能技(ji)術的(de)(de)(de)(de)平臺和隊伍。加大芯片、大數據(ju)、人工智(zhi)能等(deng)產(chan)(chan)業(ye)的(de)(de)(de)(de)投入與(yu)整合力(li)度，保障“海量(liang)數據(ju)”“頂(ding)尖人才”“算力(li)支撐”的(de)(de)(de)(de)落(luo)地(di)，推進我國全階段自主可控大模型(xing)(xing)建設，掌握大模型(xing)(xing)技(ji)術發展的(de)(de)(de)(de)主動(dong)權和話語權。大力(li)支持國產(chan)(chan)大模型(xing)(xing)的(de)(de)(de)(de)下游技(ji)術攻關(guan)和產(chan)(chan)品推廣，促進國產(chan)(chan)大模型(xing)(xing)產(chan)(chan)品的(de)(de)(de)(de)應用落(luo)地(di)和迭代(dai)升級。

 

　　其次，深化大模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)應(ying)(ying)用(yong)生態(tai)建(jian)設，構建(jian)“通用(yong)大模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)+專用(yong)小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)”的(de)(de)成熟應(ying)(ying)用(yong)生態(tai)。早在大模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)產(chan)生之前，基于領域經(jing)驗歸納和業務知識構建(jian)的(de)(de)“小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)”已(yi)經(jing)廣泛應(ying)(ying)用(yong)于各(ge)(ge)行業。應(ying)(ying)充分認(ren)識并應(ying)(ying)用(yong)好(hao)大模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)和傳(chuan)統小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)各(ge)(ge)自(zi)的(de)(de)特性，在推廣大模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)產(chan)品的(de)(de)同時進一(yi)步推進小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)技術的(de)(de)升級和應(ying)(ying)用(yong)，發揮(hui)好(hao)小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)輕量(liang)級、高效(xiao)率、善(shan)于解(jie)決特定問題的(de)(de)優勢(shi)，逐步推進大小(xiao)模(mo)(mo)(mo)(mo)型(xing)(xing)(xing)(xing)(xing)(xing)(xing)融合(he)的(de)(de)應(ying)(ying)用(yong)生態(tai)。

 

　　最后，建立健全大模(mo)型(xing)安全審(shen)(shen)查(cha)制度與法律體系(xi)，從(cong)源頭(tou)規避大模(mo)型(xing)發展風險。推動建立行之(zhi)有(you)效的數據(ju)審(shen)(shen)查(cha)機制和接入許可規范，從(cong)源頭(tou)把(ba)控(kong)大模(mo)型(xing)內(nei)容安全性，并主動參與全球人工智能模(mo)型(xing)使用規范的標(biao)準制定。同時，對于大模(mo)型(xing)可能產生的風險進行合理評估(gu)與審(shen)(shen)核(he)，如歧(qi)視、仇恨言論、私人信息(xi)泄(xie)露、虛假信息(xi)、協助犯(fan)罪等。

 

鍛長補短 打造人工智能產業新優勢

安徽省合肥市人大常委會副主任，合肥高新區黨工委書記、管委會主任 宋道軍

 

　　隨(sui)著(zhu)國內外大模(mo)型相繼發(fa)布(bu)，全(quan)球掀起了(le)人(ren)工(gong)智(zhi)能(neng)發(fa)展新浪潮，開啟了(le)通用人(ren)工(gong)智(zhi)能(neng)賦能(neng)千行百(bai)業的(de)路(lu)徑，引領人(ren)工(gong)智(zhi)能(neng)產(chan)業創(chuang)新發(fa)展。我國人(ren)工(gong)智(zhi)能(neng)發(fa)展在(zai)產(chan)業規(gui)模(mo)、應用場景等(deng)方(fang)面具有一定競爭優(you)勢(shi)，但算法、算力、數據和(he)安全(quan)方(fang)面存(cun)在(zai)明顯(xian)短板。

近年來，合(he)肥充分發揮(hui)人(ren)才、科(ke)創(chuang)和產(chan)業融合(he)發展優(you)勢，堅持創(chuang)新驅(qu)動、平臺支撐、開放共享、生態賦能，人(ren)工(gong)(gong)智能創(chuang)新能力領先、產(chan)業聚鏈成群、綜合(he)實力躋身(shen)全(quan)(quan)(quan)國前列。接下來，推進(jin)人(ren)工(gong)(gong)智能安(an)全(quan)(quan)(quan)發展，將以創(chuang)新引領、鍛長補短為主(zhu)線，全(quan)(quan)(quan)力打(da)造國內領先、國際一流的人(ren)工(gong)(gong)智能創(chuang)新策源、要素(su)供給、場景應(ying)用和安(an)全(quan)(quan)(quan)治(zhi)理(li)高地。

 

　　打(da)造創新(xin)策源高地，迸發(fa)產(chan)(chan)業(ye)動(dong)能(neng)。我國(guo)(guo)(guo)人(ren)工(gong)(gong)智(zhi)能(neng)領(ling)(ling)域(yu)核心(xin)(xin)(xin)技(ji)(ji)(ji)術創新(xin)較少，大模(mo)(mo)型(xing)研發(fa)所(suo)用(yong)的(de)算法及相關核心(xin)(xin)(xin)技(ji)(ji)(ji)術絕大部分仍來自國(guo)(guo)(guo)外(wai)，國(guo)(guo)(guo)內自研訓練(lian)工(gong)(gong)具(ju)與國(guo)(guo)(guo)際主流相比仍存(cun)在(zai)一定差距(ju)，需在(zai)技(ji)(ji)(ji)術創新(xin)上(shang)取得(de)新(xin)突(tu)破，打(da)造產(chan)(chan)業(ye)發(fa)展(zhan)核心(xin)(xin)(xin)動(dong)力(li)和競爭(zheng)力(li)。一是不斷集聚和依托(tuo)來自中(zhong)國(guo)(guo)(guo)科(ke)大、國(guo)(guo)(guo)家(jia)(jia)實驗(yan)室、綜合性國(guo)(guo)(guo)家(jia)(jia)科(ke)學(xue)中(zhong)心(xin)(xin)(xin)等戰略科(ke)技(ji)(ji)(ji)力(li)量(liang)(liang)的(de)人(ren)工(gong)(gong)智(zhi)能(neng)高能(neng)級創新(xin)平臺和高層次領(ling)(ling)軍人(ren)才團隊(dui)，聚焦基礎理論研究、關鍵核心(xin)(xin)(xin)技(ji)(ji)(ji)術、核心(xin)(xin)(xin)支撐部件等領(ling)(ling)域(yu)，推動(dong)核心(xin)(xin)(xin)算法、GPU芯(xin)片、云計算等關鍵技(ji)(ji)(ji)術突(tu)破，構建自主可(ke)控(kong)大模(mo)(mo)型(xing)技(ji)(ji)(ji)術體系。二是推動(dong)類腦智(zhi)能(neng)技(ji)(ji)(ji)術突(tu)破，研究神經網絡學(xue)習、知(zhi)識推理等創新(xin)計算模(mo)(mo)型(xing)和方法，構建新(xin)的(de)通用(yong)人(ren)工(gong)(gong)智(zhi)能(neng)發(fa)展(zhan)路(lu)徑。三是推動(dong)量(liang)(liang)子(zi)計算技(ji)(ji)(ji)術研發(fa)，突(tu)破量(liang)(liang)子(zi)比特操(cao)控(kong)、量(liang)(liang)子(zi)模(mo)(mo)擬加(jia)速、量(liang)(liang)子(zi)編(bian)譯等核心(xin)(xin)(xin)技(ji)(ji)(ji)術，推動(dong)量(liang)(liang)子(zi)計算商用(yong)進程。

 

　　打(da)造要(yao)素供給(gei)高(gao)地(di)，強化(hua)產業(ye)支撐。我國智(zhi)能(neng)算(suan)力(li)基礎薄弱(ruo)，GPU芯(xin)片面臨“卡(ka)(ka)脖子(zi)(zi)”難(nan)(nan)(nan)題，可用于(yu)人工智(zhi)能(neng)計(ji)算(suan)的(de)智(zhi)能(neng)算(suan)力(li)嚴(yan)重不(bu)足，分(fen)布分(fen)散且異構(gou)嚴(yan)重，統一調度難(nan)(nan)(nan)度大(da)，缺(que)乏(fa)大(da)規(gui)模(mo)公益性開放算(suan)力(li)平臺(tai)；訓(xun)(xun)練(lian)(lian)數據(ju)供給(gei)不(bu)足，中文語音、詞(ci)匯和(he)語法多(duo)(duo)樣復雜，數據(ju)量雖大(da)但數據(ju)質量參差(cha)不(bu)齊，數據(ju)清洗(xi)和(he)數據(ju)標注難(nan)(nan)(nan)度較(jiao)高(gao)，需在算(suan)力(li)和(he)數據(ju)支撐上(shang)開展統籌建(jian)設和(he)有效(xiao)積累(lei)。一是支持相關龍頭企(qi)業(ye)聯合攻關，構(gou)建(jian)千P智(zhi)能(neng)算(suan)力(li)集(ji)群，實現(xian)國產算(suan)力(li)訓(xun)(xun)練(lian)(lian)性能(neng)完全對標國際領(ling)先企(qi)業(ye)，突破大(da)模(mo)型訓(xun)(xun)練(lian)(lian)算(suan)力(li)底座的(de)“卡(ka)(ka)脖子(zi)(zi)”難(nan)(nan)(nan)題。二是推動(dong)大(da)規(gui)模(mo)高(gao)質量多(duo)(duo)渠道數據(ju)資(zi)源獲(huo)取、無監督預(yu)訓(xun)(xun)練(lian)(lian)數據(ju)清洗(xi)、人機協同(tong)的(de)多(duo)(duo)模(mo)態眾包數據(ju)標注平臺(tai)研發，構(gou)建(jian)100TB以(yi)上(shang)超大(da)規(gui)模(mo)多(duo)(duo)模(mo)態多(duo)(duo)語種數據(ju)資(zi)源，爭(zheng)創國家級數據(ju)訓(xun)(xun)練(lian)(lian)基地(di)。三(san)是推動(dong)國產GPU、自(zi)然(ran)語言處理(li)、數據(ju)挖掘、深(shen)度學習(xi)等領(ling)域(yu)企(qi)業(ye)集(ji)聚(ju)，構(gou)建(jian)自(zi)主可控產業(ye)鏈體系(xi)。

 

　　打(da)造場(chang)景(jing)(jing)應用(yong)高(gao)地(di)(di)，提升(sheng)產(chan)業(ye)(ye)能(neng)級。龐大人(ren)口(kou)基(ji)數(shu)產(chan)生(sheng)的(de)(de)(de)海量數(shu)據和背后的(de)(de)(de)巨(ju)大市(shi)場(chang)需求，是(shi)我(wo)國人(ren)工智能(neng)產(chan)業(ye)(ye)發(fa)展(zhan)得天獨(du)厚(hou)的(de)(de)(de)優勢，需加速全時全域(yu)(yu)場(chang)景(jing)(jing)探索(suo)(suo)應用(yong)。一是(shi)推(tui)(tui)動(dong)“科研探索(suo)(suo)+”應用(yong)示范(fan)，充分(fen)發(fa)揮人(ren)工智能(neng)技術(shu)在文(wen)獻數(shu)據獲(huo)取(qu)、實驗(yan)預(yu)測(ce)、結果分(fen)析(xi)等(deng)方面的(de)(de)(de)作(zuo)用(yong)，支持域(yu)(yu)內高(gao)校院所(suo)與人(ren)工智能(neng)企業(ye)(ye)聯(lian)合(he)設立科研合(he)作(zuo)專(zhuan)項，研發(fa)科學智能(neng)計算(suan)模型(xing)，充分(fen)挖掘(jue)分(fen)析(xi)實驗(yan)數(shu)據，學習、模擬(ni)、預(yu)測(ce)和發(fa)現(xian)各種現(xian)象與科學規律，爭取(qu)在量子信息、可(ke)控核聚變、深空探測(ce)等(deng)領域(yu)(yu)實現(xian)創新突破。二是(shi)推(tui)(tui)動(dong)“千行(xing)百業(ye)(ye)+”應用(yong)示范(fan)，推(tui)(tui)動(dong)國產(chan)大模型(xing)賦能(neng)地(di)(di)域(yu)(yu)聚力(li)發(fa)展(zhan)的(de)(de)(de)產(chan)業(ye)(ye)地(di)(di)標，在相關(guan)重(zhong)點產(chan)業(ye)(ye)開展(zhan)大模型(xing)應用(yong)示范(fan)，推(tui)(tui)出新能(neng)源和智能(neng)網(wang)(wang)聯(lian)汽車、工業(ye)(ye)互聯(lian)網(wang)(wang)、智能(neng)家居等(deng)行(xing)業(ye)(ye)大模型(xing)，并(bing)形成一批(pi)可(ke)復(fu)制推(tui)(tui)廣的(de)(de)(de)細分(fen)領域(yu)(yu)應用(yong)解決(jue)方案(an)和標桿型(xing)示范(fan)應用(yong)案(an)例(li)。

 

　　打(da)造(zao)安(an)(an)(an)(an)全(quan)(quan)治(zhi)理高地，優化產業環(huan)境。當前，我國人(ren)工(gong)智能(neng)安(an)(an)(an)(an)全(quan)(quan)監(jian)(jian)管面(mian)臨(lin)一(yi)(yi)些挑(tiao)戰。數(shu)據(ju)(ju)保(bao)護(hu)方面(mian)，用(yong)(yong)(yong)(yong)(yong)戶信息泄露和(he)(he)濫(lan)用(yong)(yong)(yong)(yong)(yong)涉及(ji)的(de)(de)網(wang)(wang)絡(luo)和(he)(he)數(shu)據(ju)(ju)安(an)(an)(an)(an)全(quan)(quan)技(ji)術有(you)待(dai)突破，數(shu)據(ju)(ju)保(bao)護(hu)相關法律(lv)制(zhi)度不完善(shan)(shan)；算(suan)法安(an)(an)(an)(an)全(quan)(quan)方面(mian)，對算(suan)法偏見、算(suan)法設計(ji)(ji)公(gong)正性和(he)(he)普(pu)適性的(de)(de)監(jian)(jian)管仍(reng)存在不足，需堅持(chi)統籌發(fa)展和(he)(he)安(an)(an)(an)(an)全(quan)(quan)，加強風(feng)險(xian)(xian)防(fang)(fang)控。一(yi)(yi)是高水平、高標準(zhun)建設“中國（合(he)肥）安(an)(an)(an)(an)全(quan)(quan)谷”，爭(zheng)取(qu)在AI大模型網(wang)(wang)絡(luo)、數(shu)據(ju)(ju)安(an)(an)(an)(an)全(quan)(quan)、算(suan)法安(an)(an)(an)(an)全(quan)(quan)、云安(an)(an)(an)(an)全(quan)(quan)等關鍵技(ji)術領域(yu)取(qu)得重大突破，形(xing)成一(yi)(yi)批具有(you)全(quan)(quan)國競爭(zheng)力(li)的(de)(de)網(wang)(wang)絡(luo)與數(shu)據(ju)(ju)安(an)(an)(an)(an)全(quan)(quan)核(he)心產品和(he)(he)解決方案，全(quan)(quan)面(mian)提升網(wang)(wang)絡(luo)和(he)(he)數(shu)據(ju)(ju)安(an)(an)(an)(an)全(quan)(quan)防(fang)(fang)護(hu)能(neng)力(li)。二是完善(shan)(shan)風(feng)險(xian)(xian)防(fang)(fang)控和(he)(he)處置機(ji)制(zhi)，遵守人(ren)工(gong)智能(neng)發(fa)展有(you)關法律(lv)法規(gui)、倫理規(gui)范和(he)(he)技(ji)術標準(zhun)，實行設計(ji)(ji)問責(ze)和(he)(he)應用(yong)(yong)(yong)(yong)(yong)監(jian)(jian)督(du)并重的(de)(de)雙層監(jian)(jian)管結(jie)構，防(fang)(fang)范和(he)(he)打(da)擊數(shu)據(ju)(ju)濫(lan)用(yong)(yong)(yong)(yong)(yong)、侵犯用(yong)(yong)(yong)(yong)(yong)戶隱私(si)等行為。

 

　　總之，打造人(ren)(ren)(ren)工智能(neng)(neng)(neng)產業新(xin)優勢(shi)，需(xu)在技術、要素、場景(jing)和(he)安全等多(duo)方(fang)面充分(fen)整合調(diao)度(du)資源，各方(fang)合力推(tui)(tui)進(jin)。國家層面應重點支(zhi)持大模型(xing)領(ling)域(yu)(yu)重大研發攻關項目，適度(du)超前布局綠色智能(neng)(neng)(neng)的多(duo)層次算力設施體系，加強(qiang)數據標準(zhun)(zhun)體系建設和(he)完善數據交易機制(zhi)，加快(kuai)制(zhi)定人(ren)(ren)(ren)工智能(neng)(neng)(neng)安全領(ling)域(yu)(yu)標準(zhun)(zhun)規范，鼓勵(li)地方(fang)和(he)企業積極探索創新(xin)通(tong)用(yong)人(ren)(ren)(ren)工智能(neng)(neng)(neng)場景(jing)應用(yong)，推(tui)(tui)動我國人(ren)(ren)(ren)工智能(neng)(neng)(neng)產業發展形(xing)成新(xin)優勢(shi)、取得新(xin)進(jin)步。

 

原標題：人工智能如何發展更安全
學習時報
責任編輯：鄭繼民
頁面編輯：蘇偉