這幾天，已經(jīng)退役的AlphaGo又強(qiáng)行刷了一波頭條，不是又跟哪位世界高手對決，而是“新狗”通過無監(jiān)督式學(xué)習(xí)，僅用3天時間就戰(zhàn)勝了李世石版的AlphaGo，然后用了21天時間戰(zhàn)勝了柯潔版本AlphaGo。AlphaGo讓我們真真切切地看到了AI計算的強(qiáng)大。
    目前，在AI計算平臺使用最廣泛的兩種加速部件是GPU和FPGA。GPU可適用于具備計算密集、高并行、SIMD（SingleInstructionMultipleData，單指令多數(shù)據(jù)流）應(yīng)用等特點的深度學(xué)習(xí)訓(xùn)練模型領(lǐng)域，并且GPU創(chuàng)建了包含CNN、DNN、RNN、LSTM以及強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)等算法在內(nèi)的應(yīng)用加速平臺和生態(tài)系統(tǒng)。
    但是，最近FPGA又頻頻被各AI領(lǐng)域的巨頭看好，比如微軟、百度、科大訊飛都對FPGA應(yīng)用前景有所期待。那么如果讓你選擇FPGA作為AI計算系統(tǒng)的主力軍，你會有什么樣的顧慮？
    顧慮一：FPGA有啥優(yōu)勢？什么樣的場景更適合FPGA？
    首先，深度學(xué)習(xí)包含兩個計算環(huán)節(jié)，即訓(xùn)練和推理環(huán)節(jié)。GPU在深度學(xué)習(xí)算法模型訓(xùn)練上非常高效，但在推理時對于小批量數(shù)據(jù)，并行計算的優(yōu)勢不能發(fā)揮出來。而FPGA同時擁有流水線并行和數(shù)據(jù)并行，因此處理任務(wù)時候延遲更低。例如處理一個數(shù)據(jù)包有10個步驟，F(xiàn)PGA可以搭建一個10級流水線，流水線的不同級在處理不同的數(shù)據(jù)包，每個數(shù)據(jù)包流經(jīng)10級之后處理完成。每處理完成一個數(shù)據(jù)包，就能馬上輸出。通常來說，F(xiàn)PGA加速只需要微秒級的PCIe延遲。當(dāng)Intel推出通過QPI快速通道互聯(lián)的Xeon＋FPGA之后，CPU和FPGA之間的延遲甚至可以降到100納秒以下。
    其次，F(xiàn)PGA是可編程芯片，算法燒錄更加靈活。目前來看，深度學(xué)習(xí)算法還未完全成熟，算法還在迭代衍化過程中，若深度學(xué)習(xí)算法發(fā)生大的變化，F(xiàn)PGA是軟件定義硬件，可以靈活切換算法，快速切入市場。
    未來至少95％的機(jī)器學(xué)習(xí)計算都是用于推斷，只有不到5％是用于模型訓(xùn)練，而FPGA正是強(qiáng)在推斷。大幅提升推斷效率的同時，還能最小限度損失精確性，這正是FPGA的強(qiáng)項。