圖(tu)(tu)說：人(ren)工(gong)智(zhi)能(neng)寧靜行(xing)業(ye)三部(bu)曲采訪(fang)工(gong)具供圖(tu)(tu)（下同(tong)）

　　昨(zuo)天，2022天下人(ren)(ren)工(gong)(gong)智(zhi)能大會(hui)可(ke)托(tuo)AI論壇(tan)在上海西岸美術(shu)館(guan)進行。論壇(tan)會(hui)聚環球頂尖AI智(zhi)腦(nao)，配(pei)合探索多(duo)元化的落地辦法，進一步推進可(ke)托(tuo)AI財產連續(xu)發展。瑞萊伶(ling)俐RealAI合伙人(ren)(ren)、初(chu)級副總裁朱萌默示，平(ping)安(an)是第一準則，瑞萊伶(ling)俐將連續(xu)構建平(ping)安(an)、牢靠、可(ke)控的人(ren)(ren)工(gong)(gong)智(zhi)能基礎設施(shi)，為“可(ke)托(tuo)AI”供(gong)應(ying)手藝支持(chi)，助力AI向“善”進化。

　　圖說：瑞(rui)萊伶俐合伙人、高等副總裁朱萌

　　第二代AI遭(zao)受“天花板”第三代AI探索“破局點(dian)”

　　自1956年(nian)(nian)達刻(ke)茅斯(si)集會降生“人(ren)工智(zhi)能”的(de)觀點(dian)后，AI歷經(jing)了兩起兩降，才步入(ru)到當前的(de)快速進(jin)展期(qi)間。每一輪技能周期(qi)海潮迭起常常取技能創(chuang)新慎(shen)密(mi)相連(lian)，第一代人(ren)工智(zhi)能是(shi)常識驅(qu)動的(de)標記推理，正(zheng)在上(shang)世(shi)紀七八十(shi)年(nian)(nian)代顯現飛騰；以(yi)后，人(ren)工智(zhi)能步入(ru)低谷(gu)；第二(er)代人(ren)工智(zhi)能是(shi)數據驅(qu)動的(de)深度進(jin)修，正(zheng)在本世(shi)紀第二(er)個十(shi)年(nian)(nian)勇往直前。

　　但學界普遍認為，由使用(yong)(yong)的(de)角度來看，以(yi)數(shu)據驅動的(de)深(shen)度進修(xiu)，其手藝潛力已靠近“天花板”。理由是，深(shen)度進修(xiu)的(de)實質是使用(yong)(yong)沒有加工處置過的(de)數(shu)據用(yong)(yong)幾率進修(xiu)的(de)“黑箱”處置辦法探(tan)求紀律(lv)。這一辦法實質上極度軟弱，帶(dai)來了新的(de)風險和題目(mu)。如“反抗樣本攻擊”，經過正在(zai)輸入數(shu)據中增加擾動，即(ji)可(ke)以(yi)使體系作出錯(cuo)誤(wu)判斷。

　　朱(zhu)萌(meng)以瑞萊(lai)伶俐團隊所做的研究(jiu)成果(guo)舉例：正在自動駕駛(shi)場景中，經(jing)過建改(gai)錐桶的外形，就(jiu)能讓(rang)汽(qi)車感知(zhi)模塊失效，徑(jing)直(zhi)碰(peng)上去；經(jing)過正在T恤(xu)上打印含特別的斑紋，就(jiu)能讓(rang)方(fang)針檢驗體系捕獲不到穿這件衣服的人，實現(xian)“隱身”；制造帶有特制斑紋的眼鏡，刷開數十部商用手機的人臉(lian)解(jie)鎖(suo)等。

　　正在“信任危機”的覆蓋之下，“寧靜(jing)、可托”已(yi)成為(wei)人(ren)工智能穩健成長的樞紐(niu)抓手，還將慢(man)慢(man)成為(wei)行業(ye)規范(fan)化、手藝商業(ye)化的樞紐(niu)助推(tui)器。

　　中(zhong)科(ke)院院士、清華大學(xue)人工(gong)智(zhi)能研(yan)究(jiu)院名望院長、瑞萊伶俐首席科(ke)學(xue)家張鈸提出“第(di)三代人工(gong)智(zhi)能”，始終不渝增(zeng)強基礎研(yan)究(jiu)，綜合應(ying)用常識、數(shu)據、算法、算力四(si)個要素，正在實(shi)現高水平平安的前(qian)提下，為人工(gong)智(zhi)能高水平進步供應(ying)動力和支持。

　　平安建立(li)“三部曲”消弭人工(gong)智能“信任危機”

　　朱萌先(xian)容，盤繞(rao)“高(gao)水(shui)平寧靜(jing)賦(fu)能(neng)高(gao)質量(liang)進展”方針，瑞萊(lai)伶俐正正在(zai)力(li)(li)圖奏好“三部曲(qu)”，致力(li)(li)于AI寧靜(jing)行業的三方面才能(neng)樹(shu)(shu)立(li)(li)。首(shou)先(xian)是，開掘現(xian)有AI寧靜(jing)風險(xian)、預判(pan)AI潛(qian)正在(zai)風險(xian)；二是針對風險(xian)樹(shu)(shu)立(li)(li)管理(li)體系，包孕樹(shu)(shu)立(li)(li)AI管理(li)理(li)論、構建管理(li)運轉機制、探索技(ji)能(neng)實踐(jian)途徑等；三是正在(zai)管理(li)體系框(kuang)架下(xia)，重點探尋倫理(li)律例的技(ji)能(neng)落地計劃。

　　“人(ren)工智能當前的(de)寧(ning)靜(jing)風險(xian)(xian)首(shou)要(yao)能夠由(you)‘體(ti)系(xi)’取‘人(ren)’兩個視(shi)角(jiao)來分析。”朱萌以(yi)為(wei)，體(ti)系(xi)層面來看，以(yi)深度(du)進修算法為(wei)焦點(dian)的(de)人(ren)工智能體(ti)系(xi)非常軟弱(ruo)，其(qi)結構性破綻(zhan)(zhan)導致“反抗樣(yang)本(ben)攻擊”不可(ke)避(bi)免，而其(qi)數據(ju)依(yi)賴性則使其(qi)存在“數據(ju)投毒”破綻(zhan)(zhan)，發(fa)(fa)生“后門攻擊”。由(you)“人(ren)”的(de)層面來評價AI的(de)可(ke)托(tuo)題目，首(shou)要(yao)風險(xian)(xian)來源于人(ren)的(de)濫用、歹意利用，最為(wei)典(dian)范的(de)便是深度(du)分解技能。它大幅降(jiang)低(di)了信(xin)息生成分解的(de)難度(du)，但(dan)其(qi)負向利用已發(fa)(fa)生本(ben)質傷害，乃(nai)至(zhi)存在“兵器化”風險(xian)(xian)。

　　針(zhen)對這一些(xie)風險，瑞萊聰(cong)明于本年6月成(cheng)立了人(ren)工智(zhi)能管(guan)理(li)研(yan)究院(yuan)，探尋由倫(lun)理(li)法例(li)到手(shou)藝落(luo)地的人(ren)工智(zhi)能管(guan)理(li)實(shi)踐之路(lu)，關鍵(jian)展(zhan)開四個層面(mian)事(shi)情(qing)：介(jie)入倫(lun)理(li)劃(hua)定規矩(ju)樹立、支(zhi)持立法事(shi)情(qing)、展(zhan)開手(shou)藝探索(suo)、樹立由倫(lun)理(li)法例(li)到手(shou)藝實(shi)踐的映照模子(zi)。

　　記者(zhe)得悉，瑞(rui)萊聰明搭建了(le)系(xi)列平(ping)(ping)(ping)安(an)(an)(an)可控新一代(dai)人工智能基(ji)(ji)礎設施，包(bao)孕業內(nei)首個針對AI體系(xi)的防火墻和(he)(he)殺毒軟(ruan)件(jian)，供應模子平(ping)(ping)(ping)安(an)(an)(an)性測(ce)評及平(ping)(ping)(ping)安(an)(an)(an)加固(gu)的端到端解(jie)決方案；基(ji)(ji)于(yu)平(ping)(ping)(ping)安(an)(an)(an)多(duo)方測(ce)算(suan)(suan)、聯邦進修、藏蹤查詢等手藝打(da)造的隱私掩(yan)護(hu)測(ce)算(suan)(suan)平(ping)(ping)(ping)臺，根據(ju)買通數(shu)(shu)據(ju)孤島，將測(ce)算(suan)(suan)環節移動到數(shu)(shu)據(ju)端，實現數(shu)(shu)據(ju)平(ping)(ping)(ping)安(an)(an)(an)和(he)(he)同享(xiang)流(liu)暢；適用于(yu)快速、精準地對多(duo)種花(hua)樣取(qu)質量(liang)的視頻(pin)和(he)(he)圖片開(kai)展真偽鑒其它深(shen)度假造內(nei)容檢驗平(ping)(ping)(ping)臺等。

　　這系列平臺將從根本上加強(qiang)人工智能(neng)的安全性、可靠性及可控(kong)性，今朝(chao)已在政務(wu)、金融(rong)、工業互聯網(wang)等高價值場景(jing)中發揮了龐(pang)大(da)作(zuo)用，成(cheng)為AI縱深賦能(neng)的堅固基座(zuo)。