隨著人工智能的飛速發(fā)展，數(shù)據(jù)作為人工智能技術(shù)開發(fā)和應(yīng)用的基礎(chǔ)，愈發(fā)顯示出重要的作用。然而，在人工智能開發(fā)和應(yīng)用過程中，越來越多的數(shù)據(jù)在人們的生產(chǎn)和生活場景中被收集和利用，數(shù)據(jù)安全和隱私保護(hù)面臨嚴(yán)峻的安全挑戰(zhàn)。

今天（8月30日）下午，在由上海賽博研究院承辦的2019世界人工智能安全高端對話上，賽博研究院和上海觀安信息技術(shù)股份有限公司共同發(fā)布了《人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)與治理》報(bào)告（以下簡稱《報(bào)告》）?！秷?bào)告》對當(dāng)前人工智能發(fā)展帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行了全面分析，并分別在政策法規(guī)和技術(shù)層面對目前國內(nèi)外的相關(guān)應(yīng)對舉措進(jìn)行了梳理。在此基礎(chǔ)上，《報(bào)告》提出了人工智能數(shù)據(jù)安全治理的目標(biāo)、框架及治理措施，致力于為有效解決人工智能中的數(shù)據(jù)安全問題提供建議和思路。

數(shù)據(jù)安全風(fēng)險(xiǎn)接踵而至

《報(bào)告》指出，人工智能中的數(shù)據(jù)安全挑戰(zhàn)包括三個(gè)方面，分別為數(shù)據(jù)隱私問題、數(shù)據(jù)質(zhì)量問題和數(shù)據(jù)保護(hù)問題。數(shù)據(jù)隱私問題指在人工智能的開發(fā)、測試、運(yùn)行過程中存在的隱私侵犯問題，這一類問題當(dāng)前是人工智能應(yīng)用需要解決的關(guān)鍵問題之一；數(shù)據(jù)質(zhì)量問題主要指用于人工智能的訓(xùn)練數(shù)據(jù)集以及采集的現(xiàn)場數(shù)據(jù)潛在存在的質(zhì)量問題，以及可能導(dǎo)致的后果，這是人工智能特有的一類數(shù)據(jù)安全問題；數(shù)據(jù)保護(hù)問題主要指人工智能開發(fā)及應(yīng)用企業(yè)對持有數(shù)據(jù)的安全保護(hù)問題，涉及數(shù)據(jù)采集、傳輸、存儲(chǔ)、使用、流轉(zhuǎn)等全生命周期，以及人工智能開發(fā)和應(yīng)用等各個(gè)環(huán)節(jié)。

安全應(yīng)對力不從心

隨著人工智能的快速發(fā)展，相關(guān)數(shù)據(jù)安全事件的不斷曝光雖然已經(jīng)引發(fā)了各方的擔(dān)憂和關(guān)切，也在法規(guī)、標(biāo)準(zhǔn)、技術(shù)層面提出了適用性的解決方案，但距離有效解決數(shù)據(jù)安全問題，仍存在較大差距。

在法規(guī)層面，法律存在盲點(diǎn)，例如針對訓(xùn)練數(shù)據(jù)集的質(zhì)量問題，當(dāng)前國內(nèi)外都缺乏相應(yīng)的法規(guī)予以規(guī)范。此外，我國仍未推出《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等數(shù)據(jù)安全法規(guī)，而既有法規(guī)無法對人工智能中涉及的數(shù)據(jù)隱私問題予以全面、有效規(guī)制。

標(biāo)準(zhǔn)層面，當(dāng)前在全球范圍內(nèi)，無論是人工智能數(shù)據(jù)安全相關(guān)的通用標(biāo)準(zhǔn)，還是細(xì)分領(lǐng)域標(biāo)準(zhǔn)，都比較缺乏。

企業(yè)意識(shí)方面，由于人工智能相關(guān)技術(shù)發(fā)展處于早期階段，且發(fā)展迅速，全球范圍內(nèi)無論是大型科技企業(yè)，還是初創(chuàng)企業(yè)，投入大量資源開展人工智能技術(shù)的開發(fā)和應(yīng)用研究，甚少有企業(yè)關(guān)注其中的數(shù)據(jù)安全問題，除非出現(xiàn)了相關(guān)的數(shù)據(jù)泄露事件或隱私爭議性事件。

技術(shù)層面，當(dāng)前基于隱私的機(jī)器學(xué)習(xí)技術(shù)，以及針對各種惡意攻擊的防御技術(shù)和數(shù)據(jù)保護(hù)技術(shù)都在快速發(fā)展，但仍不能解決全部問題。

數(shù)據(jù)安全治理框架保駕護(hù)航

人工智能中的數(shù)據(jù)安全治理是一個(gè)系統(tǒng)性工程，需要從法規(guī)、標(biāo)準(zhǔn)、技術(shù)等各個(gè)層面尋求應(yīng)對策略，并需要監(jiān)管方、政策制定者，人工智能開發(fā)商、制造商、服務(wù)提供商，以及網(wǎng)絡(luò)安全企業(yè)協(xié)作，共同致力于解決數(shù)據(jù)安全的重大挑戰(zhàn)，在人工智能技術(shù)發(fā)展的當(dāng)前階段，同步建立安全治理體系，護(hù)航人工智能技術(shù)的健康可控發(fā)展。為有效應(yīng)對人工智能帶來的數(shù)據(jù)安全挑戰(zhàn)，《報(bào)告》從多個(gè)角度出發(fā)，提出了人工智能數(shù)據(jù)安全治理的總體框架。該框架依靠政策與法規(guī)為先導(dǎo)，以產(chǎn)業(yè)自律+組織管理制度建設(shè)為基礎(chǔ)，以覆蓋數(shù)據(jù)生命周期的協(xié)同化技術(shù)保障體系為核心，以關(guān)鍵技術(shù)突破為支撐，實(shí)現(xiàn)人工智能數(shù)據(jù)安全治理的四大目標(biāo)，分別為實(shí)現(xiàn)數(shù)據(jù)生命周期安全；實(shí)現(xiàn)數(shù)據(jù)供應(yīng)鏈安全；實(shí)現(xiàn)數(shù)據(jù)質(zhì)量有效治理；不阻礙人工智能技術(shù)創(chuàng)新。

人工智能發(fā)展方興未艾，隨著人工智能技術(shù)的進(jìn)一步發(fā)展，未來將可能產(chǎn)生更多的數(shù)據(jù)安全風(fēng)險(xiǎn)及隱患，兼顧技術(shù)發(fā)展和數(shù)據(jù)安全是監(jiān)管方和科技界面臨的重大挑戰(zhàn)。監(jiān)管方、人工智能企業(yè)、網(wǎng)絡(luò)安全企業(yè)應(yīng)進(jìn)一步協(xié)同合作，共同致力于數(shù)據(jù)和隱私的保護(hù)，保障人工智能技術(shù)和產(chǎn)業(yè)朝著造福人類社會(huì)的正確方向前進(jìn)。

（看看新聞Knews記者：周智敏 呂心泉 實(shí)習(xí)編輯：陸熠）