人臉識(shí)別系統(tǒng)頻曝漏洞，自動(dòng)駕駛汽車(chē)事故頻發(fā)……近年來(lái)，人工智能領(lǐng)域安全事件頻發(fā)，如何保障人工智能安全發(fā)展成為擺在行業(yè)面前的一道必答題。

　　日前，由科技部牽頭部署的“科技創(chuàng)新2030‘新一代人工智能’2019年度定向項(xiàng)目啟動(dòng)會(huì)暨實(shí)施方案論證會(huì)”在360公司舉辦。會(huì)上，國(guó)家科技部及北京市科委的多位領(lǐng)導(dǎo)蒞臨指導(dǎo)，來(lái)自中科院信工所、中國(guó)科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院、清華大學(xué)等機(jī)構(gòu)、院校的專(zhuān)家學(xué)者一致通過(guò)了項(xiàng)目實(shí)施方案。該項(xiàng)目是360牽頭承建的“安全大腦國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)”的重要項(xiàng)目之一，將重點(diǎn)解決人工智能本身存在的安全風(fēng)險(xiǎn)、人工智能創(chuàng)新環(huán)境匱乏及在網(wǎng)絡(luò)安全領(lǐng)域創(chuàng)新成果落地難等問(wèn)題。同時(shí)，該項(xiàng)目還將賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、人工智能產(chǎn)業(yè)，提升國(guó)家人工智能安全整體防御能力，打造人工智能的“安全底座”。

　　據(jù)了解，該項(xiàng)目集結(jié)了包括360 AI安全實(shí)驗(yàn)室、360安全工程院、360安全能力中心、清華大學(xué)人工智能研究院、中國(guó)科學(xué)院自動(dòng)化研究所等國(guó)內(nèi)頂尖AI安全專(zhuān)家團(tuán)隊(duì)，代表著我國(guó)AI安全領(lǐng)域的頂尖水平。此次定向項(xiàng)目的論證通過(guò)，也意味著國(guó)家級(jí)人工智能安全建設(shè)駛?cè)肟燔?chē)道。

　　隨著人工智能被寫(xiě)入“十四五”規(guī)劃，我國(guó)人工智能發(fā)展也將迎來(lái)新浪潮，但人工智能的發(fā)展也面臨諸多“安全瓶頸”。首先，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新和應(yīng)用落地存在較大差距，很多場(chǎng)景研究尚處于學(xué)術(shù)探索研究階段。其次，人工智能自身缺乏系統(tǒng)化安全性評(píng)測(cè)，人工智能軟硬件各環(huán)節(jié)都存在嚴(yán)重的安全風(fēng)險(xiǎn)。此外，人工智能安全研究創(chuàng)新環(huán)境缺失，國(guó)內(nèi)人工智能安全產(chǎn)業(yè)嚴(yán)重落后，缺少場(chǎng)景、數(shù)據(jù)、經(jīng)驗(yàn)，也缺少安全生態(tài)。業(yè)內(nèi)專(zhuān)家一致認(rèn)為，人工智能與安全領(lǐng)域的關(guān)鍵技術(shù)研究與突破是推動(dòng)人工智能行業(yè)產(chǎn)業(yè)進(jìn)一步發(fā)展的關(guān)鍵，保障人工智能技術(shù)應(yīng)用安全性的重要基礎(chǔ)。

　　如何保障人工智能健康發(fā)展，已成為國(guó)家層面的重要議題。2017年，為響應(yīng)國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，科技部、發(fā)改委等在內(nèi)的15個(gè)部委合力成立了新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室，著手重點(diǎn)建設(shè)一批“國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)”。這些平臺(tái)由行業(yè)領(lǐng)軍企業(yè)承建，聚焦人工智能細(xì)分領(lǐng)域的開(kāi)放創(chuàng)新，帶動(dòng)產(chǎn)業(yè)進(jìn)步。360成為唯一入選的網(wǎng)絡(luò)安全公司，扛下“安全大腦國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)”的承建工作。

　　目前，依托該平臺(tái)，在人工智能安全領(lǐng)域，360已斬獲不少成果。作為全球首個(gè)從系統(tǒng)實(shí)現(xiàn)角度對(duì)AI關(guān)鍵基礎(chǔ)設(shè)施進(jìn)行研究的團(tuán)隊(duì)，360 AI安全實(shí)驗(yàn)室發(fā)現(xiàn)主流機(jī)器學(xué)習(xí)框架及依賴(lài)組件漏洞100+個(gè)，影響范圍包括Tensorflow、Caffe、PyTorch、OpenVINO等各大平臺(tái)，漏洞數(shù)在全球各大廠(chǎng)商排名第一。同時(shí)，制定發(fā)布了未來(lái)安全創(chuàng)新計(jì)劃X-Plan，開(kāi)放百億安全大數(shù)據(jù)推動(dòng)解決行業(yè)安全難題。

　　今年政府工作報(bào)告強(qiáng)調(diào)，“基礎(chǔ)研究是科技創(chuàng)新的源頭”。未來(lái)，依托該平臺(tái)，360將推動(dòng)學(xué)術(shù)合作，帶動(dòng)產(chǎn)學(xué)界在“人工智能算法安全對(duì)抗”、“人工智能基礎(chǔ)設(shè)施安全檢測(cè)”、“人工智能在網(wǎng)絡(luò)空間安全的關(guān)鍵場(chǎng)景應(yīng)用”三方面展開(kāi)創(chuàng)新研究。通過(guò)前沿理論基礎(chǔ)研究，為構(gòu)建人工智能開(kāi)源軟硬件基礎(chǔ)平臺(tái)及人工智能安全檢測(cè)平臺(tái)提供技術(shù)儲(chǔ)備，降低人工智能技術(shù)安全技術(shù)風(fēng)險(xiǎn)，確保人工智能健康發(fā)展。同時(shí)，360將依托安全科技創(chuàng)新X-Plan計(jì)劃，向AI安全領(lǐng)域科技創(chuàng)新者開(kāi)放學(xué)術(shù)生態(tài)資金和安全數(shù)據(jù)，共建開(kāi)放協(xié)同的人工智能科技創(chuàng)新體系。