AI，可信嗎？

今天，國內首本《可信人工智能白皮書》正式發(fā)布，對人工智能的安全提出5大標準，可靠可控、透明可釋、數(shù)據(jù)保護、明確責任和多元包容。

 “我們先關注哪些標準，標準可以細化，比如，數(shù)據(jù)可信和安全，各個行業(yè)是不一樣的，行業(yè)標準也要跟上，這樣的標準才有生命力”，中國科學院院士、工信部新一代人工智能標準與應用重點實驗室主任委員何積豐告訴記者。

那么，如今的人工智能是否真的可信呢？

在展會現(xiàn)場，一項能夠讓人在數(shù)字世界"隱身"的技術，引起了關注。

通過這一技術，當有人面向一臺攝像機鏡頭時，鏡頭背后的人工智能算法，就能迅速監(jiān)測到有人員出現(xiàn)，對應的監(jiān)控屏幕中，人員的四周，會出現(xiàn)藍色小框和英文標記；不過，當同樣一個人，穿上一件印有特殊花案的白色T恤后，藍色小框就消失了，這也意味著，對于人工智能算法而言，人實現(xiàn)了“隱身”。

技術專家告訴記者，人工智能算法的"看"和人眼有很大的不同，通過增加特定的圖案，能夠對人工智能產生誤導，甚至產生看不見的效果，這樣人或者物，對于人工智能就"隱身"了。利用這一原理，技術團隊還曾在實驗中，用一副帶有特殊圖案的眼鏡，解鎖了多部智能手機。

“加上圖案之后，對AI本身的算法，AI的模型產生誤導，讓算法模型，把它認成另外一個物體，或者說直接判斷不出來”，北京瑞萊智慧科技有限公司首席執(zhí)行官田天告訴記者。

數(shù)字世界，"眼見不一定為實"。從技術角度出發(fā)，人工智能除了模型和算法的安全；另一類，則是數(shù)據(jù)安全，這在當前則面臨更大的挑戰(zhàn)。

在國家網(wǎng)絡與信息系統(tǒng)安全產品質檢中心的實驗室里，研究員發(fā)現(xiàn)，一款購物資訊類APP正常下載、安裝之后，APP要求使用用戶手機的相機、相冊、地理位置等權限。當檢測人員拒絕授權之后，APP直接退出。

閃退之后，APP處于無法使用的狀態(tài)，但是，它卻在后臺偷偷采集用戶的個人信息。

“利用大數(shù)據(jù)、人工智能去挖掘用戶‘畫像’，為后續(xù)的廣告推送等提供便利條件” 國家網(wǎng)絡與信息系統(tǒng)安全產品質量監(jiān)督檢驗中心、移動安全實驗室負責人張艷向記者介紹。

面對日益嚴峻的數(shù)字安全問題，隱私計算技術正發(fā)揮重要作用。以金融機構為例，面對公共數(shù)據(jù)開放等大量數(shù)據(jù)流通、使用等需求，通過將數(shù)據(jù)的所有權和使用權進行拆分，提升數(shù)據(jù)安全。

“隱私計算解決的就是跨機構 數(shù)據(jù)傳輸安全的問題。最明顯的效果，就是我可以合法、合規(guī)使用這些數(shù)據(jù)”，交通銀行金融科技創(chuàng)新研究院高級研究員陸文杰說。

再比如，針對網(wǎng)購中無處不在的電信詐騙，全球首個應用于反欺詐的AI交互式風控產品，也正式上線。它能利用人工智能技術，對網(wǎng)購環(huán)境中，屢見不鮮的虛假交易地址，或是給陌生人轉賬等欺詐行為，做出判斷和干預。

“第一個層面就是，我們通過AI的技術，識別到了這筆欺詐。我們通過交互式語音互動的形式給到了用戶，以實時的安全的攔截反饋信息”，螞蟻集團安全科技品牌運營陳倩華介紹。

從1956年至今，人工智能經(jīng)歷了兩代發(fā)展，前兩代人工智能雖解決了部分問題，但不安全、不可靠、不可信和不容易推廣應用，也成為了其明顯的短板。如今，以安全、可控為特征的第三代人工智能，正在將知識、數(shù)據(jù)、算法和算力四個要素相結合，加快到來。

“人工智能不光要能力強，還要靠譜，還要可信。人工智能除了對風險的控制，它更關鍵的是要取得人類的信任”，螞蟻集團首席AI科學家漆遠表示。

（看看新聞Knews記者：金普慶 趙一凡 張英 編輯：夏定偉）