人（rén）工智能在加速器等方面的应用

随着科技的发展（zhǎn），最近几年（nián），人工智能越（yuè）来越火，AI也在逐渐深（shēn）入（rù）到各领域。

人工智能（néng）在云计算（suàn）领域（yù），阿里巴巴继亚马逊（xùn）、谷歌之后，推出了（le）自己的定制加速器。Facebook也参与其（qí）中（zhōng），微软在Graphcore中持有大量股份。英（yīng）特（tè）尔(Intel)和mobilesye在汽车领域（yù）拥（yōng）有强（qiáng）大的边缘（yuán）人工（gōng）智能(AI)，而无（wú）线基础设施开发商正在为5G的小电池和基站增（zēng）加（jiā）AI功能。所有这些应用程序都依赖于大量灵活（huó）性和对未来的检验，以便在快速发展（zhǎn）的（de）环境中（zhōng）获得长期的相关性。

nal Hardware Solutions" style="border:0px;height:auto !important;" />

但是（shì）有（yǒu）许（xǔ）多应用（yòng）程（chéng）序，对于它们（men）来（lái）说，功率、成本或透明（míng）的使用模（mó）型是更重要的度量标准。一个（gè）农业监视器（qì）在一个偏僻的地方，一个微波语音控制器，交通传感（gǎn）器（qì）分（fèn）布在一个大城市。对于这些问题，一个通用的（de）解决方案，甚至一个通用的AI解决方案，都可能是多余的。所以，一（yī）个特定的应用程序的AI功能将会更加引人注目。

在（zài）人工智能时代（dài）之前，你会立刻想到一个硬（yìng）件加（jiā）速器——它可以（yǐ）做任何它必须做的事（shì）情，但比（bǐ）在CPU上运行一个软件要快得多（duō）。这就是人工智能（néng）加速器的作用。它（tā）可（kě）能仍然是以软件驱动的，但与通用CPU方式不同。软件是在大型平台(如TensorFlow或Torch)上用Python开发的（de），然后通过多（duō）个（gè）步骤（zhòu）编译到（dào）目标加速器上。

这（zhè）就（jiù）是神奇之处。只要加速器保持在神经网（wǎng）络架构（gòu）的一般范围（wéi）内（nèi），它（tā）就可以像你希望的那（nà）样狂野。它可以支持多个卷积（jī）引擎，每个（gè）引擎又由SRAM作为一个整体来支持（chí），同（tóng）时还支持（chí）本（běn）地内（nèi）存，以优化对（duì）操作（zuò）的（de）优先（xiān）顺序的访（fǎng）问。

它可能支（zhī）持专业功能池等常用操（cāo）作。为了（le）提高速（sù）度（dù）和性能，它通常（cháng）会在不（bú）同的推（tuī）理阶段支持不同的字宽，并在处（chù）理稀疏数（shù）组（zǔ）时支持专门的优化。这两个领域（yù）都（dōu）是神经网（wǎng）络架构的创新热点，一些架构师甚至（zhì）尝（cháng）试使用单比特权值——如果一个（gè）权值（zhí）只能是1或0，那么你就不需要在卷积和稀疏性增加（jiā）中进行乘法运算了!

所有这些的挑战在于，当你想（xiǎng）要致力于最终架构（gòu）时，你会发现有太多的旋钮，以至（zhì）于很难知（zhī）道从（cóng）哪里开始，或者你是否（fǒu）真正探索（suǒ）了全部的可能性空（kōng）间。更加复（fù）杂的是（shì），你（nǐ）需（xū）要在大范围的大（dà）型测试用（yòng）例（lì）(大图像、语音样本等等)上测试和描（miáo）述。

用C语言而不是RTL来运行大部（bù）分测试（shì）是常识，因为（wéi）它（tā）比（bǐ）RTL运行速度快几个数量级，而且比RTL更容易调优（yōu）。此外，神（shén）经网络算法可以通过高级合成(HLS)很好地映射，因此你的C模型可（kě）以不仅（jǐn）仅是（shì）一个模型，它还可以是生成（chéng）RTL。你可以探（tàn）索你正在考虑的选择的能力、性能和区域含义——多个卷积处理器（qì）、本地内存、字宽、广播更新。所有（yǒu）这些都具（jù）有快速的（de）周转（zhuǎn）时间，允许（xǔ）你更充分（fèn）地探索可能的优化范围（wéi）。