作為第四次工業(yè)革命的重要標志，人工智能極大地解放了社會生產力，也帶來了重大的經濟、文化、政治、倫理、法律、安全等方面的巨大變化；但因人工智能技術的不成熟和管理模式的不完善，人工智能安全事件頻發(fā)。人工智能技術在推動經濟社會創(chuàng)新發(fā)展的同時，也在重塑人類安全的未來。

上海是人工智能產業(yè)的集聚地、技術革新的前沿陣地。當前，上海正致力于打造國家級人工智能發(fā)展高地，不僅擁有巨大的市場規(guī)模，更聚集了全國乃至全世界的優(yōu)秀企業(yè)和人才。上海市人民政府辦公廳印發(fā)的《關于本市推動新一代人工智能發(fā)展的實施意見》指出，要加快建成以人工智能芯片及傳感器、機器人及智能硬件、智能無人系統(tǒng)及軟件等為重點的世界級新興產業(yè)集群，到2020年實現(xiàn)人工智能重點產業(yè)規(guī)模超過1000億元。

9月18日，上海黃浦江畔的國際會議中心迎來2018世界人工智能大會·人工智能安全高端對話。對話以“人工智能：挑戰(zhàn)與機遇”為主題，旨在研判人工智能時代的安全挑戰(zhàn)，探索人工智能安全發(fā)展的創(chuàng)新之道，促進人工智能產業(yè)的健康發(fā)展，確保人工智能發(fā)展造福人類未來。

本次高端對話由世界人工智能大會組委會主辦，上海賽博網絡安全產業(yè)創(chuàng)新研究院、中國信息通信研究院安全研究所聯(lián)合承辦，騰訊公司安全管理部、上海社會科學院互聯(lián)網研究中心、《探索與爭鳴》雜志社共同協(xié)辦。中國互聯(lián)網發(fā)展基金會理事長馬利、上海市經濟和信息化委員會巡視員陳躍華、中國科學院院士何積豐、聯(lián)合國人工智能和機器人中心主任伊萊克利·伯利茲、美國著名智庫歐亞集團科技戰(zhàn)略主任保羅·特里奧洛、中國信息通信研究院副院長王志勤、上海社會科學院副院長王振等嘉賓出席對話。國內外專家學者與產業(yè)精英也作為發(fā)言嘉賓受邀參加本對話。

作為世界人工智能大會的重要分論壇之一，人工智能安全高端對話聚焦“人工智能安全倫理規(guī)范”、“人工智能重塑國家安全”、“人工智能助力網絡安全” 這三大前沿議題，從經濟、政治、社會倫理等多個不同的角度圍繞人工智能技術失控、自動駕駛安全、智能算法歧視、自動化武器、人工智能國家安全與軍事博弈、人工智能打擊網絡犯罪等話題展開精彩討論。

對話在充分吸納國內外人工智能安全共識基礎上發(fā)布了《人工智能安全發(fā)展上海倡議》及《人工智能安全白皮書》、《人工智能時代的國家安全：風險與治理》、《人工智能賦能網絡安全：模式與實踐》等三份重磅報告，積極引導和推動人工智能產業(yè)健康持續(xù)發(fā)展。

聯(lián)合國人工智能和機器人中心主任伊萊克利?伯利茲

人工智能技術的進步不斷沖擊和刷新人類的認知和社會關系，衍生出一系列倫理、法律和安全難題。人工智能是否有失控的風險，未來的機器人是否會形成自主意識，挑戰(zhàn)人類的主體地位？人與機器的從屬關系是否會發(fā)生錯位？“阿爾法狗”戰(zhàn)勝全球頂尖圍棋高手，人工智能在智力上是否真正能超越人類極限？全球第一個機器公民“索菲亞”的誕生，“她”是否享有與人類公民同樣的權力？這些問題若未解決，將持續(xù)困擾人類發(fā)展。與會專家在高端對話中探討了人工智能的安全倫理規(guī)范。

何積豐院士

中國科學院院士何積豐表示，在事件發(fā)生以前發(fā)生中間和發(fā)生后面，都可以用人工智能技術來提高政府的管理水平?！叭思夜ノ覀儯闼菰纯梢灾罃橙嗽谀睦?。或者發(fā)生自然災害了，我們可以知道什么事情我們沒有做到位?！比斯ぶ悄馨踩珎惱硌芯坎粌H可保障人的隱私權、自主權，更能保證人工智能在人類限定的系統(tǒng)范圍內開展工作，設計出符合人類道德規(guī)范的人工智能。

與此同時，人工智能也是維護國家安全的的核心技術之一，在國防、軍事、網絡安全等方面有著廣泛應用，各國紛紛搶占該領域的制高點，發(fā)達國家利用人工智能的技術優(yōu)勢，不斷調整國家安全戰(zhàn)略，改變國家間力量的對比，擴大與其他國家之間的安全力量優(yōu)勢，進而影響全球和平與穩(wěn)定。以美國為代表，美國國防部計劃在5年之內投資20億美元用于人工智能新項目的開發(fā)，目的在于增強國防實力。由此可見，從國家戰(zhàn)略、技術變革、產業(yè)發(fā)展等多角度研判人工智能技術對國家安全博弈的影響，對于探尋人工智能與國家安全的關系將有重要意義。

正如一個硬幣的兩面，人工智能技術具有雙面性。一方面，憑借其強大的運算能力，以人工智能為驅動的網絡攻擊威脅的可能性越來越大，同時它將賦能自動化武器，使其攻擊能力從網絡空間向物理空間擴散；另一方面，機器學習大大縮短了人類分析網絡攻擊事件所需的時間，能夠做到快速響應，同時也為應對網絡安全中存在的信息泄露、隱私安全、預防犯罪等問題提供了方案。如何趨利避害，積極推動人工智能安全技術發(fā)展，防范網絡空間安全風險，是人工智能安全發(fā)展的重點。

（看看新聞Knews記者：王琳琳 編輯：陳佳雯）