美國法律扼殺機器人前途 產業發展喜憂參半

　　國防部指導中寫到：“自主和半自主武器應該能夠聽得懂指揮官或操作人員下令開火的合適命令。”規劃中要求武器要做到“足夠機動靈活，盡量避免執行計劃外行動或讓未授權使用者操控機器。”

　　但是指導似乎的的確確放棄人工智能武器，而選用人類精確定位目標：“有人監控自主武器系統可以用于選擇目標并向目標開火，但目標不可為人類，以應對攔截美國國內可能發生的襲擊行動，這些行動經常是時敏目標或密集目標。”

　　英國政府的態度則與美國相反，英國并不打算采用全自主武器。今年初英國外交部部長Alistair Burt向國會做陳述說“英國軍隊的武器控制權始終掌握在人類手中，以此保證武器由人類監督由人類掌管，并由人類負責使用武器。”但是隨后Burt的言辭又讓人尋味：“英國單方面做出承諾目前階段絕不部署致命自助武器系統，但是這不表明英國會簽署暫緩研發和使用自主機器人武器的條約。”

　　ICRAC主席Norl Sharker是英國謝菲爾德大學研究人工智能和機器人的一名教授。這位教授看過了自主武器的軍方計劃書后大為震驚，因為“軍方顯然完全過分預估了這項技術，他們對自主機器人的看法更像是科幻小說的描寫。”

　　ICRAC提議禁止研發和制造自主機器人武器的目的并不是抵抗自主機器人。“我家里用的吸塵器機器人就是自主機器人，我研究自主機器人的開發已經有30個年頭了。”ICRAC真正希望是禁止機器人擁有“殺戮功能”。自主機器人一旦運行，就會自主尋找目標并打擊目標，Sharkey說：“打擊目標的意思是指殺死目標。把機器人設計成自己選擇自己認為合適的目標進行打擊，這就是ICRAC要阻止的。”

　　對Sharkey來說機器人根本不會遵循基本的戰爭法。機器人無法區分戰斗人員和平民，也無法分辨出哪些人是傷兵或者那些建筑是符合戰爭法中規定的可打擊目標。“沒有任何人工智能機器人武器可以做到完全分辨目標，根本不可能。”Sharkey博士指著英國制造的可以區分人和汽車的機器人說“這太機器人可以分辨人和汽車，但卻分不清對面站著的是一只跳舞的狗熊還是一條兩條后腿站立的狗。”

　　機器人武器也不能判斷利弊，他說，機器人無法判斷某次攻擊行為造成的軍事打擊和平民傷亡孰重孰輕。“機器人怎么可能知道?軍事打擊獲得的戰爭優勢都可以讓博士們發表好幾篇論文了，戰場上有太多變數，只有身經百戰的指揮官身臨戰場才能做出判斷。”

　　Sharkey指出最大的問題其實還是負責制度。如果某次軍事行動出錯，機器人無法被問責，這也是與Sharkey交流過的指揮者們真正擔心的問題：如果機器人出錯了，倒霉的可是指揮官們。

　　“這對指揮官不公平，機器人隨時會崩潰當機，機器人有可能被人類誘騙，可能被黑，可能由于編程中的某次出錯讓黑客通過計算機控制開槍，機器人的傳感器可能出現故障，而這一切又應該由誰來負責呢?是制造者?軟件工程師?機器人工程師?還是指揮官?在戰場上一旦出錯必須清楚誰該負責。“

　　Sharkey關心的是一旦技術上的限制被突破，戰爭機器人極有可能逐步推廣到全世界的戰場。“自主機器人技術并非用于戰爭，即便自主機器人武器被部署在戰場，這項技術本身也不適合用于戰爭。”

　　戰場上的科技樹越攀越高，自主機器人投入使用的可能行也越來越大。如果僅靠攔截通訊就可以阻攔敵方無人機，那么可以輕易自主執行任務的無人機就會被開發出來。同樣的道理，遙控無人機駕駛員在遙控裝置上發出一個指令到無人機真正執行之間有1.5秒的延時，人工操控無人機的反應速度會不如自主無人機，這也為自主無人機的推廣給出了理由。