人(ren)工智(zhi)能正加速(su)各行(xing)各業(ye)(ye)的(de)智(zhi)能化(hua)轉(zhuan)型，但數據隱私、算法偏見、技(ji)術濫用等安全(quan)問(wen)題也給人(ren)工智(zhi)能的(de)治理與產業(ye)(ye)發展帶來(lai)嚴峻挑(tiao)戰。

　　未來(lai)(lai)人工智(zhi)能(neng)如何兼顧(gu)創新發展(zhan)與安(an)(an)全(quan)可控？在前不久舉辦的(de)北京(jing)智(zhi)源(yuan)大會(hui)AI安(an)(an)全(quan)與產業治理論壇上，中國科學院(yuan)院(yuan)士、清華大學人工智(zhi)能(neng)研究院(yuan)院(yuan)長張鈸表示，未來(lai)(lai)人工智(zhi)能(neng)產業發展(zhan)在擴大應用(yong)場景的(de)同時，必須實現數據、算法與應用(yong)層(ceng)的(de)安(an)(an)全(quan)可控。

　　“人工(gong)智(zhi)(zhi)能(neng)的安全可控問題要從技(ji)術層面來解決。”在具體實現(xian)路徑上，張鈸提出了發(fa)展(zhan)(zhan)(zhan)“第(di)三(san)代(dai)人工(gong)智(zhi)(zhi)能(neng)”，即融(rong)合第(di)一(yi)代(dai)知識驅動和第(di)二代(dai)數據(ju)驅動的人工(gong)智(zhi)(zhi)能(neng)，利(li)用數據(ju)、知識、算法和算力4個要素，發(fa)展(zhan)(zhan)(zhan)安全、可信、可靠(kao)和可擴展(zhan)(zhan)(zhan)的AI技(ji)術。

　　如何定(ding)義人(ren)工智能“安(an)全可控(kong)(kong)”？北京瑞萊智慧(hui)科技(ji)有限公司CEO田天認為，“安(an)全”是指(zhi)打造數據安(an)全與(yu)算法安(an)全兩大核(he)心(xin)能力(li)，解決數據強依(yi)賴帶來的(de)(de)隱(yin)(yin)私泄露等隱(yin)(yin)患，同(tong)時(shi)提升(sheng)算法的(de)(de)可靠性(xing)，從而保證系統(tong)在網(wang)絡過載或有意(yi)攻擊情況(kuang)下，依(yi)然穩定(ding)運行不崩潰；“可控(kong)(kong)”既指(zhi)應用(yong)層面的(de)(de)合規可控(kong)(kong)，更指(zhi)核(he)心(xin)技(ji)術的(de)(de)自主可控(kong)(kong)，以自主可控(kong)(kong)為根基，通過理論創(chuang)新、技(ji)術突破(po)形成核(he)心(xin)競爭(zheng)力(li)。安(an)全可控(kong)(kong)是發(fa)展第三代人(ren)工智能的(de)(de)核(he)心(xin)基準，也是加快人(ren)工智能高(gao)質(zhi)量發(fa)展的(de)(de)有力(li)支撐。

　　數(shu)據(ju)的(de)不安(an)(an)(an)(an)全(quan)和算法的(de)不安(an)(an)(an)(an)全(quan)是制(zhi)約當前(qian)人工智(zhi)(zhi)能(neng)(neng)產(chan)業發(fa)展的(de)主要(yao)因素，也是發(fa)展安(an)(an)(an)(an)全(quan)可控人工智(zhi)(zhi)能(neng)(neng)需要(yao)解(jie)決的(de)核心問(wen)(wen)題(ti)。在中(zhong)國信(xin)息通信(xin)研究院安(an)(an)(an)(an)全(quan)所信(xin)息安(an)(an)(an)(an)全(quan)研究部主任魏薇看(kan)來，人工智(zhi)(zhi)能(neng)(neng)與數(shu)據(ju)產(chan)業互促發(fa)展的(de)同時(shi)，安(an)(an)(an)(an)全(quan)問(wen)(wen)題(ti)也相(xiang)互影響。一方面，人工智(zhi)(zhi)能(neng)(neng)對數(shu)據(ju)強依賴的(de)發(fa)展特性(xing)導致其面臨的(de)自(zi)身數(shu)據(ju)安(an)(an)(an)(an)全(quan)風(feng)險、應用導致的(de)數(shu)據(ju)安(an)(an)(an)(an)全(quan)風(feng)險以及應用加劇的(de)數(shu)據(ju)治(zhi)理挑戰(zhan)日益凸(tu)顯；另(ling)一方面，人工智(zhi)(zhi)能(neng)(neng)也為(wei)數(shu)據(ju)治(zhi)理工作提(ti)供自(zi)動化、智(zhi)(zhi)能(neng)(neng)化、高效化、精準化的(de)智(zhi)(zhi)慧支撐。

　　相較(jiao)數據(ju)安(an)(an)全(quan)，算法(fa)安(an)(an)全(quan)問題初(chu)露端倪。阿里安(an)(an)全(quan)資深算法(fa)專家何源介紹，雖然人工智(zhi)能技術已(yi)經在(zai)(zai)凈化(hua)網絡環境、知識(shi)產權(quan)保護、生物識(shi)別、線下安(an)(an)防(fang)等安(an)(an)全(quan)工作中發揮(hui)著(zhu)越來(lai)越大的助力作用，讓安(an)(an)全(quan)更智(zhi)能，但其本身也面臨著(zhu)魯棒性不(bu)夠、可解釋性差、技術濫(lan)用等安(an)(an)全(quan)風險。比如，算法(fa)漏(lou)洞(dong)的存在(zai)(zai)可以針對圖(tu)像檢索系統開展攻(gong)擊，導(dao)致非原(yuan)創圖(tu)片逃(tao)逸檢測，對網站安(an)(an)全(quan)與商家權(quan)益(yi)造成(cheng)威脅。

　　發展(zhan)安(an)全(quan)(quan)(quan)可控的(de)人工(gong)智能是一(yi)項系(xi)統性的(de)工(gong)作(zuo)，需要從行業標準、法(fa)律(lv)規范(fan)、技術發展(zhan)等(deng)多個(ge)維(wei)度打(da)造(zao)與之配套的(de)“基礎(chu)設施”，其中技術基礎(chu)設施的(de)打(da)造(zao)仍將發揮基礎(chu)性作(zuo)用。比如，基于安(an)全(quan)(quan)(quan)多方(fang)計算(suan)、聯邦學習、匿蹤查詢等(deng)技術打(da)造(zao)數據安(an)全(quan)(quan)(quan)共享平(ping)臺解決數據隱(yin)私(si)難題，讓數據安(an)全(quan)(quan)(quan)共享流通；打(da)造(zao)人工(gong)智能系(xi)統防火墻(qiang)，為人臉識別、目標檢測、圖(tu)像(xiang)分類等(deng)系(xi)統提(ti)供(gong)安(an)全(quan)(quan)(quan)檢測與防御加固，從根本上(shang)提(ti)升系(xi)統安(an)全(quan)(quan)(quan)性。

　　在(zai)新基建浪潮(chao)驅動下(xia)(xia)，人(ren)工(gong)(gong)智(zhi)能產(chan)業即將迎(ying)來與(yu)傳統(tong)產(chan)業深度(du)(du)融(rong)合的(de)機遇期。田天表示，在(zai)安全(quan)可(ke)控(kong)的(de)核心支(zhi)撐下(xia)(xia)，人(ren)工(gong)(gong)智(zhi)能能夠實現從“單(dan)點自動化(hua)(hua)”到“深度(du)(du)智(zhi)能化(hua)(hua)”的(de)價值提升(sheng)。例如，在(zai)金(jin)融(rong)領域，人(ren)工(gong)(gong)智(zhi)能的(de)創(chuang)新融(rong)合正為金(jin)融(rong)行業打(da)造出一個兼(jian)具決(jue)策分(fen)析(xi)與(yu)感官(guan)感知的(de)“智(zhi)慧(hui)大腦”。而在(zai)安全(quan)可(ke)控(kong)的(de)支(zhi)撐下(xia)(xia)，“智(zhi)慧(hui)大腦”能夠拓(tuo)展全(quan)新能力邊界，形成(cheng)更(geng)好的(de)“決(jue)策左腦”與(yu)更(geng)加安全(quan)可(ke)靠的(de)“感知右腦”。

　　在(zai)安(an)全(quan)可(ke)控(kong)的(de)(de)助力下(xia)，“深度智(zhi)能(neng)(neng)”時代正(zheng)加(jia)速到來，人(ren)(ren)工(gong)(gong)智(zhi)能(neng)(neng)在(zai)各行業(ye)(ye)領域的(de)(de)應用廣度和(he)深度將不斷得到拓展。“第三代人(ren)(ren)工(gong)(gong)智(zhi)能(neng)(neng)通過(guo)釋放‘數據、知識、算法、算力’的(de)(de)全(quan)新維(wei)度，為實現安(an)全(quan)可(ke)控(kong)的(de)(de)新一代人(ren)(ren)工(gong)(gong)智(zhi)能(neng)(neng)提(ti)供(gong)可(ke)能(neng)(neng)，讓(rang)人(ren)(ren)工(gong)(gong)智(zhi)能(neng)(neng)走出‘淺層(ceng)智(zhi)能(neng)(neng)’的(de)(de)舒適區，重塑產業(ye)(ye)價值。”田天說。