揭秘FPGA：為什么比 GPU 的延遲低這么多？
加入技術交流群
▲Open Compute Server 在機架中。
本文引用地址：http://www.104case.com/article/201806/382354.htm
▲Open Compute Server 內景。紅框是放 FPGA 的位置。
▲插入 FPGA 后的 Open Compute Server。
▲FPGA 與 Open Compute Server 之間的連接與固定。
FPGA 采用 Stratix V D5，有 172K 個 ALM，2014 個 M20K 片上內存，1590 個 DSP。板上有一個 8GB DDR3-1333 內存，一個 PCIe Gen3 x8 接口，兩個 10 Gbps 網絡接口。一個機柜之間的 FPGA 采用專用網絡連接，一組 10G 網口 8 個一組連成環，另一組 10G 網口 6 個一組連成環，不使用交換機。
▲機柜中 FPGA 之間的網絡連接方式。
這樣一個 1632 臺服務器、1632 塊 FPGA 的集群，把 Bing 的搜索結果排序整體性能提高到了 2 倍(換言之，節省了一半的服務器)。
如下圖所示，每 8 塊 FPGA 穿成一條鏈，中間用前面提到的 10 Gbps 專用網線來通信。這 8 塊 FPGA 各司其職，有的負責從文檔中提取特征(黃色)，有的負責計算特征表達式(綠色)，有的負責計算文檔的得分(紅色)。
▲FPGA 加速 Bing 的搜索排序過程。
▲FPGA 不僅降低了 Bing 搜索的延遲，還顯著提高了延遲的穩定性。
評論