【中國傳動網 政策法規】 9月18日，“2018世界人工智能大會·人工智能安全高端對話”在上海國際會議中心召開。值得注意的是，本次對話重磅推出了三份人工智能安全專題報告。牛金行研究員代表中國信息通信研究院安全研究所發布了《人工智能安全白皮書》（以下簡稱《白皮書》）。

白皮書從人工智能的安全內涵出發，首次歸納了人工智能安全體系框架，在系統梳理人工智能安全風險和安全應用情況的基礎上，進一步總結了全球人工智能安全的管理現狀，提出了應對人工智能安全風險應對和未來發展的建議。

中國信息通信研究院安全研究所發布《人工智能安全白皮書》

《白皮書》稱，技術的進步往往是一把“雙刃劍”，人工智能作為一種通用目的技術，為保障國家網絡空間安全、提升人類經濟社會風險防控能力等方面提供了新手段和途徑。但同時，人工智能在技術轉化和應用場景落地過程中，由于技術的不確定性和應用的廣泛性，帶來沖擊網絡安全、社會就業、法律倫理等問題并對國家政治、經濟和社會安全帶來諸多風險和挑戰。

《白皮書》項目組認為，人工智能安全風險包括網絡安全風險、數據安全風險、算法安全風險、信息安全風險、社會安全風險和國家安全風險六方面。

從網絡安全風險看，人工智能學習框架和組件存在安全漏洞風險，可引發系統安全問題。同時，人工智能技術可提升網絡攻擊能力，對現有網絡安全防護體系構成威脅與挑戰。

從數據安全風險看，一方面逆向攻擊可導致算法模型內部的數據泄露，另一方面，人工智能技術可加強數據挖掘分析能力，加大隱私泄露風險。Facebook數據泄露事件即是典型案例。

從算法安全風險看，算法設計或實施有誤可產生與預期不符甚至傷害性結果；算法潛藏偏見和歧視，導致決策結果可能存在不公；算法黑箱導致人工智能決策不可解釋，引發監督審查困境；含有噪聲或偏差的訓練數據可影響算法模型準確性；此外，對抗樣本攻擊可誘使算法識別出現誤判漏判，產生錯誤結果。例如，使用Northpointe公司開發的犯罪風險評估算法COMPAS時，黑人被錯誤地評估為具有高犯罪風險的概率兩倍于白人。

從信息安全風險看，智能推薦算法可加速不良信息的傳播，人工智能技術可制作虛假信息內容，用以實施詐騙等不法活動。2017年，我國浙江、湖北等地發生多起犯罪分子利用語音合成技術假扮受害人親屬實施詐騙的案件，造成惡劣社會影響。

從社會安全風險看，人工智能產業化推進將使部分現有就業崗位減少甚至消失，導致結構性失業；人工智能特別是高度自治系統的安全風險可危及人身安全；人工智能產品和應用會對現有社會倫理道德體系造成沖擊。項目組對此舉例道，企業具有天生的資本逐利性，在利用用戶數據追求自身利益最大化時，往往忽視道德觀念，從而損害用戶群體的權益。例如：攜程、滴滴等基于用戶行為數據分析，實現對客戶的價格歧視；Facebook利用人工智能有針對性地向用戶投放游戲、癮品甚至虛假交友網站的廣告，從中獲取巨大利益。

從國家安全風險看，人工智能可用于影響公眾政治意識形態，間接威脅國家安全；還可用于構建新型軍事打擊力量，直接威脅國家安全。

“當前，人工智能技術發展呈現加速趨勢，由于其自身的學科交叉性和垂直應用性，未來必將與傳統行業進行深度融合。隨著人工智能技術的創新突破和應用場景的日益增多，其安全風險也會動態演進，將越發具有泛在化、場景化、融合化等特點，對人類生產生活、國家政治經濟等方方面面產生深遠安全影響?！表椖拷M寫道。

在《白皮書》中，項目組也提出了八條人工智能安全發展建議。

這些建議包括加強自主創新，突破共性關鍵技術；完善法律法規，制定倫理道德規范；健全監管體系，引導產業健康發展；強化標準引領，構建安全評估體系；促進行業協作，推動技術安全應用；加大人才培養，提升人員就業技能；加強國際交流，應對共有安全風險；加大社會宣傳，科學處理安全問題。

此外在本次對話中，上海國際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網絡安全產業創新研究院和上海社科院互聯網研究中心的聯合課題組，發布了《人工智能時代的國家安全：風險與治理》報告。報告根據人工智能技術和應用的發展趨勢，分析了各國在不同領域所面對的安全風險，提出應從提升風險意識、完善治理體系、加強監管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。

騰訊公司生態安全研究中心高級研究員韓李云博士代表騰訊公司安全管理部和上海賽博網絡安全產業創新研究院發布了《人工智能賦能網絡空間安全：模式與實踐》報告。該報告聚焦網絡安全，分析了網絡空間安全的演進和風險趨勢，結合騰訊AI安全應用全布局和國內外企業的30多個最佳實踐，詳細闡釋人工智能賦能網絡空間安全（AI+安全）的最新進展。最后韓李云指出，人工智能安全將成為人工智能產業發展最大藍海，人工智能技術路線豐富將改善安全困境，網絡空間安全將驅動人工智能國際合作。

Facebook數據泄露事件的主角劍橋分析公司通過關聯分析的方式獲得了海量的美國公民用戶信息，包括膚色、性取向、智力水平、性格特征、宗教信仰、政治觀點以及酒精、煙草和毒品的使用情況，借此實施各種政治宣傳。

ForresterResearch預測統計，人工智能技術將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統取代?！段磥砗喪贰纷髡哂韧郀枴ず绽A言，二三十年內超過50%工作會被人工智能取代。