歐洲科學院王東明院士：AI安全的機遇與挑戰

人工智能威脅論在網絡上長久不衰，AI是否安全可控，一直是人們關心的話題。在此次安全峰會上，歐洲科學院院士王東明帶來的主題思考《AI人工智能：安全的機遇與挑戰》，從人工智能和網絡安全的關系出發，理性的分析人工智能帶來的機遇與挑戰。

人工智能使生活變得安全了嗎？

與20年前相比，我們現在更安全了嗎？我們信息更安全了嗎？我們網絡更安全了嗎？我們存在銀行里面的錢更安全了嗎？好像沒有。我們仍然被網絡病毒、垃圾郵件、虛假廣告、商業欺詐所困擾。

人工智能來了，我們會更安全嗎？還是更威脅？深度機器學習與智能搜索是否會挑戰我們現在的安全機制？欺詐會不會更加智能，攻擊能否穿越萬物互聯的時空？虛擬語音合成、關聯知識推理、超級群體智能可否讓機器博古通今，招搖撞騙？

我們為什么需要人工智能？

在人類文明發展幾千年歷史過程中，我們擁有大量的數據，大量的信息，留到現在最重要的是什么？是知識。是我們把握這個社會資源的能力，所以是智能，沒有智能我們社會就會變得蒼白。

什么是人工智能？

人工智能是數學科學、信息科學與其他應用科學的交叉學科，主要研究設計構造應用可以模仿人類智能的機器，包括硬件設備和軟件系統。

人工智能的發展從上世紀50年代開始，已經有60多年的歷史。機器翻譯、機器博弈、機器定理證明都是人工智能里面最經典的研究課題，因為這些都是需要很高的智能。

1959年美籍華人王浩先生在704計算機用9分鐘時間，證明了著名的《數學原理》中的百余條數理邏輯定理，成為人工智能里程碑。

1976年著名的四定理借助計算機獲得證明，震撼世界。

1978年吳文俊先生提出幾何定理機器證明的高效方法。

1990－2010年兩十年平穩發展，人工智能現在重新興旺就是阿爾法狗誕生在2010年。

2015年對與國家來說人工智能非常不平凡一年，2015年7月人工智能寫入國務院《關于積極推進黃連＋行動的指導意見》。

2016年3月人工智能寫入十三五規劃綱要。

2016年5月國家發改委等四部委發布互聯網＋人工智能三年行動方案。

2018年10月科技部創新2030重大項目設立人工智能專項。

新一代人工智能，基于大數據、云平臺、網絡并行計算、智能芯片等信息技術和基礎設施的建設為人工智能的進一步發展提供了保障。深度學習的理論和方法，信息化的應用需求，國家和企業的高投入為人工智能發展注入了強勁的動力，所以人工智能現在處在歷史性的發展機遇。

人工智能與網絡安全是什么關系？

網絡信息安全，信息網絡的廣泛使用使其安全性，包括兩個方面，Safety／secunity。這也是與人們生活、工作密切相關而又難以解決的問題。對網絡高度依賴使得人們對其穩定性、可靠性、壟斷性，對信息存儲的傳輸和安全性都有極高的要求。從某種意義上講，我們的生活，我們的工作并未隨著技術的進步和網絡普及而得到很大的改善。

但在某種意義上趨于惡化的趨勢。隱私信息泄露、銀行卡盜刷、商業網絡欺詐，遠程病毒攻擊不停在擾亂我們的生活。以前沒有病毒，后來有病毒，以前沒有欺詐，現在有欺詐，所以很多問題值得思考和解決。

通過保障網絡安全，增強網絡系統的物理性能和運行可靠性，需要提高抗攻擊能力，要使用區塊鏈等新技術記錄多方參與的信息活動，使交易信息部得單方面修改，信息價值可以通過技術手段進行轉移。網絡安全教育尤為重要，然后是法制和網絡技術，標準化、規范化有助于改善網絡的安全性。

人工智能與安全的關系是相互作用，相互影響。信息網絡安全是人工智能廣泛應用的基本保障，沒有數據，沒有信息，沒有安全，就沒法來討論人工智能。另一方面，人工智能方法可以用于網絡安全隱患的檢測和網絡安全機制的建立、優化和分析。

人工智能VS網絡安全

挑戰？

人工智能給安全帶來了很多的挑戰，基于機器學習和深度搜索的人工智能方法會提升攻擊網絡和信息安全的能力，對全天候跟蹤網絡行為獲取的大數據進行人工智能分析，有可能自動檢測出運行網絡出現物理異常和安全性低下的時段與內外部環境，從而可以制定更有效的攻擊機制和策略。人工智能方法對網絡安全的挑戰將會增加網絡安全的保障成本。

人工智能＋是給安全的很大威脅。深度搜索向寬度搜索、廣度搜索擴展，威脅基于通用知識的安全保障機制。機器學習從蠻力型、普適型向知識型延伸，這將威脅基于專業知識的安全機制。萬物互聯使全局安全受制于局部安全，巴黎城門失火，可以殃及天府池魚。

5G云端：虛擬現實、穿越時空，數據傳輸、價值轉移、網絡攻擊都有可能在0秒內完成。還有很多的物理手段，比如說衛星定位、雷達跟蹤、聲波探測、視頻監控，我們一言一行盡在數據中。還有非計算智能，超越人類智能的生物感知、動物智能是否可以用來為虎添翼。有很多動物智能很強，比如狗的嗅覺比人強，狗的嗅覺可以智能化放到機器上，那么它們感知能力就會比我們強很多。

機遇？

人工智能對于安全的挑戰，給安全發展帶來機遇。我們要重新審視、分析蠻力型、普適型安全機制的安全性和可靠性，建立基于元智能的高智型安全機制 ，并構建復合型多重安全保障體系，保證安全攸關信息網絡的絕對安全。

網絡的安全威脅將會隨著網絡使用力的加大而加大。對于網絡實施多方位、智能化協同攻擊會變得越來越容易。深度群體智能密碼分析會提出對密碼的攻擊能力。比如說我們的計算可以通過網絡，可以在一億部手機上實現簡單的操作，這項能力，強度會比以前大很多。網絡設施建設將會繼續，網絡安全性將會不斷提高，但是我們需要教育，需要自律、法律加強與完善網絡安全。

道高一尺 魔高一丈

人工智能VS網絡安全中既有挑戰又有機遇。一句話，我們要道德、法規、科技、智能。傳道承德、建規立法、創新科技、智能保安。其中網絡道德安全教育尤為重要。

我們花很多錢很多技術希望變得安全，但是最終沒有達到想要的結果。我們能做到的是本質加密加鎖，小人難盜，善行善舉，君子不竊。君子都來攻擊，那么安全很難保障。我們需要教育，需要改善人們對社會，對現代文化的認識，這是非常重要的。我們花這么多的精力做這么多事情，達到什么效果呢？效果就是促進科技的進步，將造福人類。

人工智能真的那么可怕嗎？

舉一個例子，核能和智能，這二者不可或缺。我們研究核能，造原子彈、氫彈、核武器是為了要保護自己。我們造出來之后我們并沒有使用核武器，但是沒有核武器有可能遭到別人攻擊，有了核武器別人不來攻擊我們，我們也不攻擊別人。反而核武器成為科技進步的表現，從而造福人類。比如說發電、核潛艇。在法國80％電都是靠核能，所以核能發揮著重要的作用。

人工智能存在威脅，但怎么會比核能更可怕呢？人與汽車，誰跑得更快？誰更有智能？這是顯然的問題，汽車只能在公路上跑得快，還需要人來駕駛。而我們人可以走獨木橋，可以穿小胡同，可以獨上高樓，可以另辟蹊徑。

人工引發的智能可以非常強大，但是仍然無法超越人類自身的元智能，因為人創造的能力是無限的。我們制造的東西，我們研究的東西，我們一定要讓它在我們的控制之下。人工智能是機器智能，是算法智能，人智能的科學基礎是數學。