波音空難背后：人類應該在何種程度上信任AI？

　　隨便舉個例子。比如判定一個人是不是禿頂，這個標準其實就很模糊。假如他確實一根頭發都沒有，那么事情就清楚明白了，無論是AI還是普通人，都會認為他就是禿頂。但假如他只有一根頭發呢?在AI看來，哪怕它只有一根頭發，他也已經不是禿頂了，但在普通人的習慣性認知里，他依然是個禿頂。那么，如果要給AI設計一個程序，到底這個量級應該設置在多少呢?一根頭發?兩根頭發?還是一萬根頭發?這是一個界限很模糊的事情，在AI的認知中極難判定，但在人類的認知中這幾乎不是什么難題。

　　AI是有漏洞的，它處理問題過于剛性，有時候會釀出慘禍。因此在西方科學界，很多大咖都提醒人類，對待AI要慎重，這是一把雙刃劍，它的副作用必須引起警示。

　　自動駕駛技術也是這樣。在飛機上，當然應該裝自動駕駛系統，但是在最后決定權的歸屬上，一般默認人類應該有超越AI的權限。

　　為什么在最終抉擇時，人類選擇相信自己呢?這也是一個頗有爭議性的話題。

　　眾所周知的事實是，人類存在一大堆弱點。人類自身的計算能力遠沒有機器精準，軀體遠沒有機械強悍，在保持客觀理性的判斷力上，人類也乏善可陳，很多時候人類都是憑情感來做選擇的。

　　那么，人類憑什么這么自信呢?

　　這也許只是源于人類的盲目自信，甚至是自大，但可能更大的原因在于，人類知道純粹的剛性思維往往會帶來極其嚴重的社會后果，比如算法歧視、規則排他性等等。一旦AI掌握游戲規則的最終裁定權，很可能會產生一個讓人類絕望的AI暴政時代。設想一下，假如AI計算后認為，只有某類人才有生存的價值，那么一場大屠殺就要開始了，那可能比納粹更離譜。

　　AI不會自我修正，但人類可以，反省精神可能是人類優于AI的一個方面。

　　已故科學巨匠霍金一直對AI保持警惕的態度。

　　2016年10月19日，霍金劍橋大學發表演講。他在演講中批評了人工智能的無節制發展，他認為，人工智能技術的確有希望帶來巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來危險，比如強大的自主式武器，或者幫助少數人壓迫多數人。

　　2017年3月，霍金在接受《泰晤士報》采訪時再次發出警告，“人類需要控制以人工智能為代表的新興科技，以防止它們在未來可能對人類生存帶來的毀滅性威脅。”他還說，“自從人類文明開始以來，侵略便一直存在，往往出現在相對具有生存能力優勢的不同群體之間，而未來人工智能進一步發展便可能具備這種‘優勢’。他們本身也是生根于達爾文的進化論之中。因此人類需要利用邏輯和理性去控制未來可能發生的威脅。”

　　在歐美國家，對于人工智能的立場分為截然不同的很多派別。不過即便是最樂觀的派系，也遠不及我們身邊的大多數人對于AI技術的樂觀。

　　目前我所能查到的國內有關民航無人駕駛系統應用的論文，對于AI技術的態度都是持高度肯定和樂觀態度的，甚至很多文章通篇洋溢著浪漫主義的情懷。至于媒體的報道則更是如此，比如前幾年關于波音、空客民航大客機做飛行表演時的報道，很多媒體對于AI控制系統成為飛機的實際控制者的消息歡欣鼓舞。在大多數人看來，AI技術只要做好防范黑客攻擊這一道關，其他方面都不是問題。

　　其他領域也是一樣，比如關于機器換人的新聞，基本上都持高度肯定及贊賞的態度，金融資本圈對于AI技術、大數據技術的追捧同樣是大家有目共睹的。

　　但是，AI技術對于現實生活的反噬其實已經開始顯現。比如，AI技術的基礎建立于大數據之上，而大數據非法采集及信息泄露問題，現在層出不窮。但遺憾的是，盡管這個問題已經泛濫了好幾年，現在卻依然沒有看到局面改變的跡象，甚至愈演愈烈。

　　算法的歧視問題也越來越嚴重。比如去年IG奪冠，王思聰微博抽獎，113名獲獎者中只有1名男性，隨即有人發現，幾乎所有的微博抽獎都是女性獲獎，而有人更是深挖出背后的計算邏輯，即系統并不考慮性別，但如果用戶對化妝品之類的商品敏感度高、購買力強，則不會被標注為“垃圾用戶”。今年更曝出猛料，如果某女性在某電商平臺上買了幾條低于128元的裙子，基本上她已經失去了被人追求的價值。

　　更令人細思極恐的是，在隱私權被無視之后，大數據和AI技術實際上是可以獲得你的一切信息的，包括你的容貌、身份信息、指紋、密碼、生活習慣，你在網絡上留下的任何痕跡都會面臨潛在的非法使用風險。那么如果有一天，AI創造了另外一個你，那么你該如何證明自己才是真實的本主呢?

　　結語

　　當下我們所處的時代還只是一個初級AI時代，不過阿爾法狗已經向人類證明了AI強大的自我學習能力，假以時日，強人工智能時代終將來臨。

　　考慮到硬件的快速發展和軟件的創新是同時發生的，強人工智能時代可能比我們預期的更早降臨，因為指數級增長的開端可能像蝸牛漫步，但是后期會跑的非常快。

　　以當下我們身邊很多人對AI技術的樂觀態度，未來人類會和與人類智能相當的強人工智能電腦平等快樂地生活在一起。或者更理想一點，一群智能遠超人類的機器人甘愿為人類的幸福默默地奉獻一切。我不知道這種設想是否正確，但我希望它是真的，畢竟誰不希望未來會更加美好呢?

　　但這個星球上依然有很多人對于AI心存警惕。比如當獅航空難和埃航空難發生之后，仍然有很多人認為，對于關乎人類性命的事情，最后的裁決權依然應該交給人類，而不能交給冰冷的AI，即便它無比強大。