馬克·麥卡錫：機器學習算法中的政治

　　公元前1200年左右，殷商時期的中國就發展出了工廠制，鑄造出成千上萬尊大型青銅器皿供日常生活和典禮儀式使用。在這個關于大規模生產的古代案例中，需要事先制定精細的計劃，對大批工人進行分組協調，確保每組工人按部就班地逐項執行任務，才能鑄造出青銅器。

　　一千年以后，中國迎來了首位皇帝秦始皇，他著名的兵馬俑軍隊也是通過同樣復雜的流程制造出來的。舊金山亞洲藝術博物館的資料顯示，兵馬俑雕像是“通過一套裝配生產體系塑造燒制而成，這一體系為后世的大規模商業生產鋪平了道路。”

　　有學者推測，這些早期的規范性操作技術對塑造中國社會發揮了重要作用，例如使人們更容易接受官僚機構及其背后那套強調等級的社會哲學，接受“只有一種正確的行事方式”的觀念。

　　19世紀，當工業廠房最初出現在歐洲時，即使連恩格斯等資本主義的嚴厲批評者也承認，無論采用資本主義還是社會主義經濟體系，大規模生產都會使中央集權成為必需。在20世紀，蘭登·溫納(Langdon Winner)等理論家將這一思路擴展到其他技術領域。例如，他認為原子彈應被視為一種“具有內生政治屬性的人工制品”，因為其“高度致命性決定了它應該由集權式、嚴格層級化的指揮鏈來控制”。

　　今天，我們可以把這個思路再往前推進一步。機器學習算法(machine-learning algorithms)已成為當今最重要的通用技術，這些算法利用真實世界中的范例來模擬人類認知能力，已經在現實工作場所中廣為應用。然而，為了充分利用這些技術，發揮算法的優勢，各類組織必須將人工任務重新定義為預測任務(prediction task)。

　　機器學習算法的關鍵特征之一是，其性能會隨著數據量增加而提高。因此，應用算法本身就會產生一種技術動力：將人的各類信息視為可記錄、可訪問的數據。就像大規模生產體系一樣，這些數據也“具有內生政治屬性”，因為其核心功能傾向于肯定某些社會實踐，否定另一些行為，尤其與人類個體維護隱私的意愿直接沖突。

　　在美國社會學家阿米塔伊·埃茨昂尼(Amitai Etzioni)等社群主義者的眼里，建立在社群成員信息公開化基礎之上的體系似乎是經得起檢視的。對他們而言，對隱私的種種限制只是執行社會規范的一種手段。但計算機算法與社群主義者不同，它不關心社會規范，只關心如何通過將人類生活轉化為可供開采的數據集，并基于此更準確地做預測。

　　科技勢在必行的力量在不經意間把信奉個人主義的西方人轉變為社群主義者，使他們更仰賴于以算法評估為基礎的賢能主義體制。無論是在工作、學習，還是約會類應用程序中，我們都已經習慣于使用不具人格的工具來評估人們的資格，并為我們在層級結構中分配位置。

　　可以肯定的是，算法評估不是什么新鮮的概念。一代人以前，奧斯卡·甘迪(Oscar H. Gandy)等學者就曾告誡人們：社會正在轉向“得分+排名”模式，我們需要建立責任和補償機制來彌補由技術造成的錯誤。與今天的機器學習算法不同，當時的評估工具比較容易理解，它們是根據相關規范性和經驗性因素來做決策的，例如，拖欠信用卡賬單導致債臺高筑會損害一個人的信用度——這不是什么秘密。

　　與此相對，新的機器學習技術則致力于深度挖掘大型數據集，以期發現人們可預測但無法完全理解的某些相關性。在工作場所，算法能夠監測員工的對話，了解他們在哪吃午飯，在電腦前、電話上和會議中分別花了多少時間，再通過這些數據搭建出復雜的生產效率模型，遠超人類基于常識的直覺。在基于算法的賢能主義體制中，模型得出的結論就是我們追求卓越的新標準。

　　這并不等于技術宿命論。我們要趕在技術塑造人類之前塑造技術。商業領袖和政策制定者可以根據自身機構的需求，有選擇性地開發和部署他們想要的技術。我們有能力在人類生活的敏感領域布置隱私防護網，防止數據被用來制造傷害，并要求算法設計要在預測準確性與公平性、責任制和透明度之間取得平衡。

　　如果我們遵循算法的自然邏輯，文化將無可避免地朝賢能主義和社群主義的方向發展。這種平穩的轉型將對西方的民主制度和政治結構產生深遠的影響。正如研究中國的學者貝淡寧和張維為所指出的那樣，中國不斷發展的社群主義體制為西方自由主義民主傳統提供了主要的替代性政治選擇。

　　中國體制允許公民參與地方選舉，而國家領導人則通過賢能政治程序來選拔。領導人被認為是人民福祉的監護者。自由民主國家不太可能完全采取這樣的政治體制。但如果商業和消費文化按目前的趨勢發展下去，西方可能越來越多地轉向中國式的賢能主義和社群主義傳統，逐漸遠離個人主義和自由民主的歷史傳統。而如果要避免這一轉向，我們必須把政治置于技術之上。