2018人工智能變人工智障的十大瞬間

　　Synced最近對全年的人工智能十大“失敗案例”進行了首次總結(2018 in Review： 10 AIFailures)。

　　AI人臉識別闖紅燈 董明珠躺槍

　　董明珠在寧波“闖紅燈”被抓?原來是在過馬路時公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識別系統捕捉到，竟然誤以為是真人!董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

　　那輛巴士剛好被投放了印有董明珠頭像的廣告。當這輛巴士行駛在寧波中山東路，經過江夏橋東一帶時，恰好從中間垂直方向穿過了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對準了一側的紅燈，如果是個真人的話，TA的確是在闖紅燈。高大上的AI檢測系統頓時變成“人工智障”，把照片當成了真人，直接把這輛公交車拍了下來，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統還從數據庫里搜索，把董明珠的車身廣告照片和一行「***，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應稱，技術人員已經對該系統進行了全面升級。

　　Uber自動駕駛汽車殺死一名行人

　　在公共道路上第一個已知的與車輛相關的自動駕駛行人死亡事件中，優步的自動駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當場死亡。

　　Uber發現其自動駕駛軟件決定在汽車傳感器檢測到行人后卻沒有采取任何行動。根據美國國家運輸安全委員會關于事故的初步報告，這是因為Uber的自動模式禁用了沃爾沃工廠安裝的自動緊急制動系統。

　　在悲劇發生之后，Uber在北美城市暫停了自駕駕駛測試，而Nvidia和豐田也在美國停止了自駕車道路測試。事故發生8個月后，Uber宣布計劃在匹茲堡恢復自駕車路試，盡管該公司的自駕車未來仍然不明朗。

　　IBM Watson醫療保健出現重大漏洞

　　BM最初是一個問答機器，一直在廣泛的應用程序和流程(包括醫療保健)中探索Watson的AI功能。 2013年，IBM開發了Watson首個針對癌癥治療推薦的商業應用程序，該公司在過去五年中與醫院和研究中心建立了許多重要的合作伙伴關系。但Watson AI Health并沒有給醫生留下深刻印象。一些人抱怨它對癌癥治療提出了錯誤的建議，可能會導致嚴重甚至致命的后果。

　　據報道，在沒有顯著進步的項目上花費數年后，IBM正在縮小Watson Health的規模并裁掉該部門員工的一半以上。

　　亞馬遜AI招聘工具性別歧視

　　據報道，亞馬遜人力資源部門在2014年至2017年期間使用了支持AI的招聘軟件來幫助審核簡歷并提出建議。然而，該軟件對男性申請人更有利，因為其模型是在過去十年中提交給亞馬遜的簡歷上接受培訓的，當時雇用了更多的男性候選人。

　　據報道，該軟件降級了包含“女性”一詞的簡歷，或暗示申請人是女性，例如因為他們曾就讀過女子大學。亞馬遜此后放棄了該軟件。該公司并未否認使用該工具提出建議，但表示從未用于評估候選人。

　　DeepFakes將色情主角錯認成《星戰》Daisy Ridley

　　去年12月，Reddit網上出現了一些國際頂級女星——25歲《星戰》女星黛絲烈尼(Daisy Ridley)的色情視頻，原因竟然是是“DeepFakes”采用生成對抗網絡，將明星的臉與色情視頻中女性的臉進行了交換。

　　雖然面部交換技術已經開發多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現在都可以制作他們自己非常有說服力的假視頻。色請視頻的創作者，就是將《星球大戰》知名演員Daisy Ridley的臉與上面的色情女星交換了。

　　2018年，逼真的名人假視頻依舊充斥著互聯網。雖然這種方法在技術上并非“失敗”，但其潛在的危險是嚴重而深遠的：如果視頻證據不再可信，這可能會進一步鼓勵流傳假新聞。