2018
工智芯片
研究报告
AMiner 研究报告第十四期
清华中国工程院知识智联合实验室
2018 年 10 月
清华学计算机系—中国工程科技知识中心
2018 年 10 月
知识智联合研究中心

Z


Contents 目录
·概述篇
11 AI 芯片分类 2
12 AI 芯片发展历程 4
13 国 AI 芯片发展情况 6
21 传统 CPU 局限性 8
22 行加速计算 GPU 9
23 半定制化 FPGA 10
24 全定制化 ASIC 12
25 类脑芯片 13
26 AI 芯片技术特点较 14
二·技术篇
三·产业篇
3 产业篇 16
四·物篇
41 学者分布迁徙 24
42 代表性研究学者 25
五·应趋势篇
5 应领域篇 31
六·趋势篇
6 趋势篇 36

图 1 工智深度学 2
图 2 AI 芯片发展历程 5
图 3 传统 CPU 部结构图（仅 ALU 计算模块） 8
图 4 CPU GPU 结构图（引 NVIDIA CUDA 文档） 9
图 5 GPU 芯片发展阶段 10
图 6 FPGA 工智领域应 11
图 7 Cambricon1A（引官网）16
图 8 集成 NPU 神网络处理器（引官网） 17
图 9 线公布 BPU 发展战略图（引官网） 17
图 10 亚里士德架构（引官网） 18
图 11 CI1006 芯片（引官网） 19
图 12 华麒麟 970 神网络处理器 NPU 19
图 13 工智芯片领域研究学者全球分布 24
图 14 工智芯片领域研究学者全球分布 24
图 15 国逆差 25
图 16 AI 芯片应领域 31
图 17 华 Mate10 成效果图 31
图 18 苹果 Face ID 32
图 19 分解卷积降低消耗 36
图 20 逐层动态定点方法 37
图 21 五级流水线结构 37

表 1 工智专芯片（包括类脑芯片）研发情况览 12
图表目录

摘
2010 年数产业发展数量呈现爆炸性增长态势传统计算架
构法支撑深度学规模行计算需求研究界 AI 芯片进行新轮技术
研发应研究AI 芯片工智时代技术核心决定台基础架构发展
生态报告背景工智芯片发展现状进行简单梳理包括容：
工智芯片概念首先工智芯片相关概念技术路线特点进行介绍
接着国外国 AI 芯片发展历程现状进行梳理
AI 芯片技术特点局限性 AI 芯片技术流派进行介绍
AI 芯片厂商介绍 AI 芯片领域国外代表性厂商进行介绍
AI 芯片领域专家介绍通 AMiner 数台 AMiner 工智芯片库进行
数挖掘统计分析领域学者分布迁徙时介绍目前 AI 芯片领域国外代表
性研究学者
AI 芯片应领域介绍AI 芯片已渗透日常生活方方面面报告智手
机ADASCVVR语音交互设备机器等方应进行介绍
AI 芯片发展趋势介绍工智发展历波折益数供深度
学算法革新硬件技术提升AI 芯片阻挡势态飞速发展AI 芯片算力
提高功耗降低更合理算法实现必然发展趋势

1

concept
概述篇
2
1 概述篇
工智（Artificial IntelligenceAI）芯片定义：广义讲够运行工智
算法芯片作 AI 芯片通常意义 AI 芯片指针工智算法做特
殊加速设计芯片现阶段工智算法般深度学算法包括
机器学算法工智深度学关系图 1 示

图 1 工智深度学
深度学算法通常基接收连续数值通学处理输出连续数值
程实质完全模仿生物脑运作机制基现实研究界提出 SNN
（Spiking Neural Network脉神网络）模型作第三代神网络模型SNN 更贴
生物神网络——神元突触模型更贴生物神元突触外SNN 时域信
息引入计算模型目前基 SNN AI 芯片 IBM TrueNorthIntel Loihi
国清华学天机芯代表
11 AI 芯片分类
（1）AI 芯片技术架构分类
GPU（Graphics Processing Unit图形处理单元）：传统冯·诺曼结构中CPU
执行条指令需存储器中读取数根指令数进行相应操作特点
出CPU 职责数运算需执行存储读取指令分析分支跳
转等命令深度学算法通常需进行海量数处理 CPU 执行算法时CPU 花费
量时间数指令读取分析 CPU频率存带宽等条件限制
提高限制处理器性 GPU 控制相简单部分晶体组成类
专电路条流水线 GPU 计算速度远高 CPU时 GPU 拥更加强
浮点运算力缓解深度学算法训练难题释放工智潜
3
GPU 法单独工作必须 CPU 进行控制调工作功耗较高
半定制化 FPGA：FPGA（Field Programmable GateArray)全称现场编程门阵列
基原理 FPGA芯片集成量基门电路存储器户通更新 FPGA
配置文件定义门电路存储器间连线
GPU FPGA 时拥硬件流水线行数行处理力适硬件流
水线方式处理条数整数运算性更高常深度学算法中推断阶段
FPGA 通硬件配置实现软件算法实现复杂算法方面定难度
FPGA CPU 发现两特点 FPGA 没存控制带存储读取部
分速度更快二 FPGA 没读取指令操作功耗更低劣势价格较高编程
复杂整体运算力高目前国 AI 芯片公司深鉴科技提供基 FPGA 解
决方案
全定制化 ASIC：ASICc（ApplicationSpecific Integrated Circuit）专集成电路专
定制芯片实现特定求定制芯片定制特性助提高 ASIC 性功耗
缺点电路设计需定制相开发周期长功难扩展功耗性集
成度等方面优势尤求高性低功耗移动应端体现明显谷歌 TPU
寒武纪 GPU线 BPU 属 ASIC 芯片谷歌 TPU CPU GPU 方案快 30
80 倍 CPU GPU 相TPU 控制电路进行简化减少芯片面积降
低功耗
神拟态芯片：神拟态计算模拟生物神网络计算机制神拟态计算结构
层面逼脑研究工作进步分两层次神网络层面相应
神拟态架构处理器 IBM TrueNorth 芯片种芯片定制化数字处理核
作神元存作突触逻辑结构传统冯·诺曼结构：存CPU
通信部件完全集成起信息处理进行克服传统计算机存 CPU
间速度瓶颈问题时神元间方便快捷相互沟通接收神元发
脉(动作电位)神元会时做动作二神元神突触层面
相应元器件层面创新 IBM 苏黎世研究中心宣布制造出世界首造纳米尺度
机相变神元实现高速监督学
（2）AI 芯片功分类
根机器学算法步骤分训练（training）推断（inference）两环节：
训练环节通常需通量数输入训练出复杂深度神网络模型训练
程涉海量训练数复杂深度神网络结构运算量巨需庞计算
规模处理器计算力精度扩展性等性求高目前市场通常英
伟达 GPU 集群完成Google TPU2030 支持训练环节深度网络加速
4
推断环节指利训练模型新数推断出种结环节
计算量相训练环节少然会涉量矩阵运算推断环节中
CPU GPU 进行运算外FPGA ASIC 均发挥重作
（3）AI 芯片应场景分类
分服务器端（云端）移动端（终端）两类
服务器端：深度学训练阶段数量运算量巨单处理器
独立完成模型训练程负责 AI 算法芯片采高性计算技术路
线方面支持网络结构保证算法正确率泛化力方面必须支
持浮点数运算够提升性必须支持阵列式结构（块芯片组成
计算阵列加速运算）推断阶段训练出深度神网络模型非常复杂推断
程然属计算密集型存储密集型选择部署服务器端
移动端（手机智家居车等）：移动端 AI 芯片设计思路服务器端 AI 芯
片着质区首先必须保证高计算效次高级辅助驾驶 ADAS 等设
备实时性求高场合推断程必须设备身完成求移动端设备具备足
够推断力某场合会低功耗低延迟低成求导致移动端 AI
芯片种样
12 AI 芯片发展历程
图灵文计算机器智图灵测试初级神元模拟单元——感知
机现达百层深度神网络类工智探索没停止
世纪八十年代层神网络反传播算法出现工智行业点燃新火花反
传播创新信息输出目标输出间误差通层网络前级迭代反
馈终输出收敛某目标范围1989 年贝尔实验室成功利反传播算法
层神网络开发手写邮编识器1998 年 Yann LeCun Yoshua Bengio 发表
手写识神网络反传播优化相关文Gradientbased learning applied to document
recognition开创卷积神网络时代
工智陷入长时间发展沉寂阶段直 1997年 IBM深蓝战胜国际象棋
师 2011 年 IBM 沃森智系统 Jeopardy节目中胜出工智次关
注2016 年 Alpha Go 击败韩国围棋九段职业选手标志着工智波高潮基
础算法底层硬件工具框架实际应场景现阶段工智领域已全面开花
作工智核心底层硬件 AI 芯片样历次起伏波折总体
AI 芯片发展前历四次变化发展历程图 2 示
5

图 2 AI 芯片发展历程
（1）2007 年前AI 芯片产业直没发展成成熟产业时时算法
数量等素阶段 AI 芯片没特强烈市场需求通 CPU 芯片满足
应需
（2）着高清视频VRAR游戏等行业发展GPU产品取快速突破时
发现 GPU 行计算特性恰适应工智算法数行计算需求 GPU
前传统 CPU深度学算法运算提高十倍效率开始尝试 GPU
进行工智计算
（3）进入 2010 年云计算广泛推广工智研究员通云计算助
量 CPU GPU 进行混合运算进步推进 AI 芯片深入应催生类 AI 芯
片研发应
（4）工智计算力求断快速提升进入 2015 年GPU 性功耗
高特点工作适场合受种限制业界开始研发针工智专芯片
期通更硬件芯片架构计算效率耗等性进步提升
13 国 AI 芯片发展情况
目前国工智芯片行业发展尚处起步阶段长期中国 CPUGPU
DSP 处理器设计直处追赶位绝部分芯片设计企业国外 IP 核设计芯片
创新受极限制然工智兴起疑中国处理器领域实现
6
弯道超车提供绝佳机遇工智领域应目前处面行业应阶段生态
尚未形成垄断国产处理器厂商国外竞争手工智全新赛场处起跑
线基新兴技术应市场中国建立工智生态圈方面
国特殊环境市场国 AI 芯片发展目前呈现出百花齐放百家争鸣态
势AI 芯片应领域遍布股票交易金融商品推荐安防早教机器驾
驶等众领域催生量工智芯片创业公司线深鉴科技中科寒武纪
等
国公司未国外公司样形成市场规模反出现政散
裂发展现状新兴创业公司国研究机构北京学清华学中国科学院等
AI 芯片领域深入研究公司百度特陆等2017 年成果发布
预见未谁先工智领域掌握生态系统谁掌握住产业动
权
7

technology
技术篇
8
2 技术篇
概念篇介绍中发现工智芯片目前两种发展路径：种延续传
统计算架构加速硬件计算力 3 种类型芯片代表 GPUFPGAASIC
CPU旧发挥着代作种颠覆典冯·诺曼计算架构采类脑神
结构提升计算力 IBM TrueNorth 芯片代表
21 传统 CPU 局限性
计算机工业 1960 年代早期开始 CPU 术语迄止CPU 形态设计
实现已发生巨变化基工作原理直没改变通常 CPU 控
制器运算器两部件组成传统 CPU 部结构图图 3 示图中
：实质仅单独 ALU 模块（逻辑运算单元）完成数计算模块
存保证指令够条接条序执行种通性结构传统编程计
算模式非常适合时通提升 CPU 频（提升单位时间执行指令条数）提升
计算速度深度学中需太程序指令需海量数运算计算需
求种结构显力心尤功耗限制法通限制提升 CPU
存工作频率加快指令执行速度种情况导致 CPU 系统发展遇逾越瓶颈

图 3 传统 CPU 部结构图（仅 ALU 计算模块）
9
22 行加速计算 GPU
GPU 作早事行加速计算处理器相 CPU 速度快时加速器芯片
编程灵活简单
传统 CPU 适合工智算法执行原计算指令遵循串行执
行方式没发挥出芯片全部潜力GPU 具高行结构处理图
形数复杂算法方面拥 CPU 更高效率 GPU CPU 结构差异CPU
部分面积控制器寄存器 GPU 拥更 ALU(ARITHMETIC LOGIC UNIT逻
辑运算单元)数处理样结构适合密集型数进行行处理CPU GPU
结构图 4 示程序 GPU系统运行速度相较单核 CPU提升十倍
千倍着英伟达AMD 等公司断推进 GPU 规模行架构支持面通
计算 GPU( GPGPUGENERAL PURPOSE GPU通计算图形处理器)已成加速
行应程序重手段

图 4 CPU GPU 结构图（引 NVIDIA CUDA 文档）
GPU 发展历程分 3 阶段发展历程示意图图 5 示：
第代 GPU(1999 年前) 部分功 CPU 分离实现硬件加速
GE(GEOMETRY ENGINE)代表起 3D 图处理加速作具软件编程特
性
第二代 GPU(19992005 年)实现进步硬件加速限编程性1999 年英伟
达发布专执行复杂数学计算GeForce256 图处理芯片更晶体
作执行单元 CPU 样作复杂控制单元缓存 T&L(TRANSFORM
AND LIGHTING)等功 CPU 分离出实现快速变换成 GPU 真正出现标志
年GPU 技术快速发展运算速度迅速超 CPU2001 年英伟达 ATI 分推出
GEFORCE3 RADEON 8500图形硬件流水线定义流处理器出现顶点级编
程性时素级具限编程性 GPU 整体编程性然较限
第三代 GPU(2006 年)GPU实现方便编程环境创建直接编写程序2006
年英伟达ATI分推出CUDA(Compute United Device Architecture计算统设备架构)
编程环境 CTM(CLOSE TO THE METAL)编程环境 GPU 破图形语言局限成
10
真正行数处理超级加速器
2008 年苹果公司提出通行计算编程台 OPENCL（OPEN COMPUTING
LANGUAGE开放运算语言） CUDA 绑定英伟达显卡OPENCL 具体
计算设备关

图 5 GPU 芯片发展阶段
目前GPU 已发展较成熟阶段谷歌FACEBOOK微软TWITTER 百
度等公司 GPU 分析图片视频音频文件改进搜索图标签等应功
外汽车生产商 GPU 芯片发展驾驶仅GPU 应
VRAR 相关产业
GPU定局限性深度学算法分训练推断两部分GPU台算法
训练非常高效推断中单项输入进行处理时候行计算优势完全发
挥出
23 半定制化 FPGA
FPGA PALGALCPLD 等编程器件基础进步发展产物户通
烧入 FPGA 配置文件定义门电路存储器间连线种烧入次性
户 FPGA 配置成微控制器 MCU完毕编辑配置文件
FPGA 配置成音频编解码器解决定制电路灵活性足克服原
11
编程器件门电路数限缺点
FPGA 时进行数行务行计算处理特定应时更加明显效率提
升某特定运算通 CPU 需时钟周期 FPGA 通编程重组电
路直接生成专电路仅消耗少量甚次时钟周期完成运算
外 FPGA 灵活性通处理器 ASIC 难实现底层硬件控制操
作技术利 FPGA 方便实现特性算法功实现优化留出更空
间时 FPGA 次性成(光刻掩模制作成)远低 ASIC芯片需求未成规模深
度学算法暂未稳定需断迭代改进情况利 FPGA 芯片具备重构特性
实现半定制工智芯片佳选择
功耗方面体系结构言FPGA 具天生优势传统冯氏结构中执行单
元（ CPU 核）执行意指令需指令存储器译码器种指令运算器分支
跳转处理逻辑参运行 FPGA 逻辑单元功重编程（烧入）时已确定
需指令需享存极降低单位执行功耗提高整体耗
FPGA 具备灵活快速特点众领域代 ASIC 趋势FPGA
工智领域应图 6 示

图 6 FPGA 工智领域应
12
24 全定制化 ASIC
目前深度学代表工智计算需求采 GPUFPGA 等已适合
行计算通芯片实现加速产业应没规模兴起时类已通芯
片避免专门研发定制芯片（ASIC）高投入高风险类通芯片设计
初衷非专门针深度学天然存性功耗等方面局限性着工智应
规模扩类问题日益突显
GPU 作图处理器设计初衷应图处理中规模行计算
应深度学算法时三方面局限性：第应程中法充分发挥行计算
优势深度学包含训练推断两计算环节GPU 深度学算法训练非常高效
单输入进行推断场合行度优势完全发挥第二法灵活配置硬件结
构GPU 采 SIMT 计算模式硬件结构相固定目前深度学算法未完全稳定
深度学算法发生变化GPU 法 FPGA 样灵活配制硬件结构第三运
行深度学算法效低 FPGA
FPGA 倍受甚新代百度脑基 FPGA 台研发毕竟
专门适深度学算法研发实际应中存诸局限：第基单元计算
力限实现重构特性FPGA 部量极细粒度基单元单元
计算力( LUT 查找表)远远低 CPU GPU 中 ALU 模块第二计算资
源占相较低实现重构特性FPGA 部量资源配置片路连
线 第三速度功耗相专定制芯片(ASIC)然存差距第四FPGA 价格较
昂贵规模放量情况单块 FPGA 成远高专定制芯片
着工智算法应技术日益发展工智专芯片 ASIC产业环
境逐渐成熟全定制化工智ASIC逐步体现出身优势事类芯片研发应
国外较代表性公司表 1 示续产业篇会做相应详细介绍
表 1 工智专芯片（包括类脑芯片）研发情况览
国家 名称 简介
国外
英伟达 Tesla P100 首专深度学加速计算设计图形处理芯片架构
谷歌 TPU 面机器学张量处理加速芯片
IBM TrueNorth 芯片 TrueNorth 分布式行方式存储处理信息支持 SNN
高通 Zeroth 芯片 类神网络传输信息方式设计支持 SNN
英特尔神形态芯片 支持片学 SNN 芯片
Audience 神形态芯片 模拟耳抑制噪音应智手机
国
中星微 中国首嵌入式神网络芯片 NPU
寒武纪 全球首提出深度学处理器芯片指令集
线机器 专注工智化机器学芯片
深鉴科技 利 FPGA 台造工智芯片 DPU
灵汐科技 类脑处理芯片支持 DNNSNN 混合模式
13
ASIC 芯片非常适合工智应场景首先ASIC 性提升非常明显例英
伟达首款专门深度学零开始设计芯片 Tesla P100 数处理速度 2014 年推出
GPU 系列 12 倍谷歌机器学定制芯片 TPU 硬件性提升相前芯片
摩尔定律发展 7 年水正 CPU 改变年庞计算机样工智 ASIC 芯
片幅改变 AI 硬件设备面貌名鼎鼎 AlphaGo 约 170 图形处理
器（GPU） 1200 中央处理器（CPU）设备需占机房配备功率
空调名专家进行系统维护果全部专芯片极需普
通收纳盒空间功耗会幅降低
第二游需求促进工智芯片专化服务器计算机驾驶汽车
机智家居类家电少数十倍智手机体量设备需引入感知交互力
工智计算力出实时性求训练数隐私等考虑应完
全赖云端必须软硬件基础台支撑带海量工智芯片需求
目前工智专芯片发展方包括：基 FPGA 半定制针深度学算
法全定制类脑计算芯片 3 方
芯片需求未形成规模深度学算法暂未稳定AI 芯片身需断迭代改进
情况利具备重构特性 FPGA 芯片实现半定制工智芯片佳选择
类芯片中杰出代表国初创公司深鉴科技该公司设计深度学处理单元
（Deep Processing UnitDPU）芯片希 ASIC 级功耗达优 GPU 性
第批产品基 FPGA 台开发研制出种半定制芯片然托 FPGA
台抽象出指令集编译器快速开发快速迭代专 FPGA 加速器产
品相具非常明显优势
深度学算法稳定AI 芯片采 ASIC 设计方法进行全定制性功耗面
积等指标面深度学算法做优
25 类脑芯片
类脑芯片采典冯·诺曼架构基神形态架构设计 IBM Truenorth
代表IBM 研究员存储单元作突触计算单元作神元传输单元作轴突搭
建神芯片原型目前Truenorth 三星 28nm 功耗工艺技术 54 亿晶体组成
芯片构成片网络 4096 神突触核心实时作业功耗仅 70mW神突触
求权重变记忆功IBM 采 CMOS 工艺兼容相变非挥发存储器（PCM）
技术实验性实现新型突触加快商业化进程
国清华学类脑计算中心 2015 年 11 月成功研制国首款超规模神
形态类脑计算天机芯片该芯片时支持脉神网络工神网络（深度神网络）
14
进行规模神元网络模拟中心开发面类脑芯片工具链降低应开发
难度提升效率第二代 28nm 天机芯片已问世性功耗优 Truenorth
前类脑 AI 芯片设计目仅仅局限加速深度学算法芯片基结
构甚器件层面改变设计希够开发出新类脑计算机体系结构采忆阻器
ReRAM 等新器件提高存储密度类芯片技术尚未完全成熟离规模应
定差距长期类脑芯片会带计算机体系结构革命
26 AI 芯片技术特点较
通分析总结出特点
⚫ CPU 通性强延迟严重散热高效率低
⚫ GPU 通性强速度快效率高特适合深度学训练方面性功耗
较低
⚫ FPGA 具低耗高性编程等特性相 CPU GPU 明显性者
耗优势者求高
⚫ ASIC 更针性进行硬件层次优化获更性功耗
ASIC 芯片设计制造需量资金较长研发周期工程周期深度学
算法快速发展深度学算法发生变化FPGA 快改变架构适应
新变化ASIC 类芯片旦定制难进行修改
前阶段GPU 配合 CPU 然 AI 芯片流着视觉语音深度学
算法 FPGA ASIC 芯片断优化两者逐步占更市场份额
GPU 达成长期存局面长远工智类脑神芯片发展路径方

15


industry
产业篇
3
16
3 产业篇
篇介绍目前工智芯片技术领域国外代表性企业文中排名分先
工智芯片技术领域国代表性企业包括中科寒武纪中星微线机器
深鉴科技灵汐科技启英泰伦百度华等国外包括英伟达AMDGoogle高通
Nervana SystemsMovidiusIBMARMCEVAMITEyeriss苹果三星等
⚫ 中科寒武纪
寒武纪科技成立 2016 年总部北京创始中科院计算陈天石陈云霁兄
弟公司致力造类智云服务器智终端智机器核心处理器芯片阿
里巴巴创投联想创投国科投资中科图灵元禾原点涌铧投资联合投资全球 AI
芯片领域第独角兽初创公司

图 7 Cambricon1A（引官网）
寒武纪全球第成功流片拥成熟产品 AI 芯片公司拥终端 AI 处理器 IP
云端高性 AI 芯片两条产品线2016 年发布寒武纪 1A 处理器（Cambricon1A）世
界首款商深度学专处理器面智手机安防监控机穿戴设备智
驾驶等类终端设备运行流智算法时性功耗全面超越传统处理器图 7
寒武纪 Cambricon1A AI 芯片
⚫ 中星微
1999 年位硅谷博士企业家北京中关村科技园区创建中星微电子限
公司启动承担国家战略项目——星光中国芯工程致力数字媒体芯片开发
设计产业化
2016 年初中星微推出全球首款集成神网络处理器（NPU） SVAC 视频编解
码 SoC智分析结果视频数时编码形成结构化视频码流该技术
广泛应视频监控摄头开启安防监控智化新时代设计嵌入式神网
络处理器（NPU）采数驱动行计算架构专门针深度学算法进行优化
具备高性低功耗高集成度尺寸等特点特适合物联网前端智需求
17
图 8 显示集成 NPU 神网络处理器 VC0616 部结构

图 8 集成 NPU 神网络处理器（引官网）
⚫ 线机器（Horizon Robotics）
线机器成立 2015 年总部北京创始前百度深度学研究院负责余
凯
BPU（BrainProcessing Unit）线机器设计研发高效工智处理器架构
IP支持 ARMGPUFPGAASIC 实现专注动驾驶脸图辨识等专领域2017
年线发布基高斯架构嵌入式工智解决方案智驾驶智生活公
安防三领域进行应第代 BPU芯片盘古目前已进入流片阶段预计 2018年
半年推出支持 1080P 高清图输入秒钟处理 30 帧检测踪数百目标
线第代 BPU 采 TSMC 40nm 工艺相传统 CPUGPU效提升 2~3
数量级（100~1000 倍左右）图 9 线公司公布 BPU 发展战略图
图 9 线公布 BPU 发展战略图（引官网）
18
⚫ 深鉴科技
深鉴科技成立 2016 年总部北京清华学斯坦福学世界顶尖深度学
硬件研究者创立深鉴科技 2018 年 7 月赛灵思收购
深鉴科技开发基 FPGA 神网络处理器称 DPU目前止深鉴公开
发布两款 DPU：亚里士德架构笛卡尔架构中亚里士德架构针卷积神
网络 CNN 设计笛卡尔架构专处理 DNNRNN 网络设计结构压缩稀
疏神网络进行极致高效硬件加速相 Intel XeonCPU Nvidia TitanX GPU应
笛卡尔架构处理器计算速度分提高 189 倍 13 倍具 24000 倍 3000 倍更
高效图 10 深鉴科技亚里士德处理器架构图

图 10 亚里士德架构（引官网）
⚫ 灵汐科技
灵汐科技 2018 年 1 月北京成立联合创始包括清华学世界顶尖类脑计算研
究者公司致力新代神网络处理器（Tianjic）开发特点够高效支撑现
流行机器学算法（包括 CNNMLPLSTM 等网络架构）够支撑更仿脑更
具成长潜力脉神网络算法芯片具高计算力高务行度较低功耗等优
点软件工具链方面支持 CaffeTensorFlow 等算法台直接进行神网络映射编译
开发友善户交互界面Tianjic 云端计算终端应场景助力工智落
推广
19
⚫ 启英泰伦
启英泰伦2015年11月成成立家语音识芯片研发商启英泰伦CI1006
基 ASIC 架构工智语音识芯片图 11 示包含脑神网络处理硬件单
元够完美支持 DNN 运算架构进行高性数行计算极提高工智深
度学语音技术量数处理效率
图 11 CI1006 芯片（引官网）
⚫ 百度
百度 2017 年 8 月 Hot Chips 会发布 XPU款 256 核基 FPGA 云计
算加速芯片合作伙伴赛思灵（Xilinx）XPU 采新代 AI 处理架构拥 GPU 通
性 FPGA 高效率低耗百度深度学台 PaddlePaddle 做高度优化
加速介绍XPU 关注计算密集型基规样化计算务希提高效率性
带类似 CPU 灵活性目前 XPU 欠缺编程力涉 FPGA
时普遍存问题目前止XPU 尚未提供编译器
⚫ 华
麒麟 970 搭载神网络处理器 NPU 采寒武纪 IP图 12 示麒麟 970 采
TSMC 10nm 工艺制程拥 55 亿晶体功耗相代芯片降低 20CPU 架构
方面 4 核 A73+4 核 A53 组成 8 核心耗代芯片 20提升GPU 方面采
12 核 Mali G72 MP12GPU图形处理效两项关键指标方面分提升 20
50NPU采 HiAI 移动计算架构 FP16 提供运算性达 192 TFLOPs相
四 CortexA73 核心处理样 AI 务约具备 50 倍效 25 倍性优势

图 12 华麒麟 970 神网络处理器 NPU
20
⚫ 英伟达（Nvidia）
英伟达创立 1993 年总部位美国加利福尼亚州圣克拉拉市早 1999 年英伟
达发明 GPU重新定义现代计算机图形技术彻底改变行计算
深度学计算速度非常苛刻求英伟达 GPU 芯片量处理器行
运算速度 CPU 快十倍甚十倍成绝部分工智研究者开发者首选
Google Brain 采 16 万 GPU 核训练 DNN 模型语音图识等领域获巨
成功英伟达已成 AI 芯片市场中争议领导者
⚫ AMD
美国 AMD 半导体公司专门计算机通信消费电子行业设计制造种创新微
处理器（CPUGPUAPU板芯片组电视卡芯片等）提供闪存低功率处理器
解决方案公司成立 1969 年AMD 致力技术户——企业政府机构消费
者——提供基标准客户中心解决方案
2017 年 12 月 Intel AMD 宣布联手推出款结合英特尔处理器 AMD 图形单元
笔记电脑芯片目前 AMD 拥针 AI 机器学高性 Radeon Instinc 加速卡开放
式软件台 ROCm 等
⚫ Google
Google 2016 年宣布独立开发种名 TPU 全新处理系统TPU 专门机器
学应设计专芯片通降低芯片计算精度减少实现计算操作需晶体
数量方式芯片秒运行操作数更高样精细调优机器学模型
芯片运行更快进更快户更智结果 2016 年 3 月败李世
石 2017 年 5 月败柯杰阿尔法狗采谷歌 TPU 系列芯片
Google IO2018 开发者会期间正式发布第三代工智学专处理器 TPU 30
TPU30 采 8 位低精度计算节省晶体数量精度影响幅节约功耗加
快速度时脉动阵列设计优化矩阵法卷积运算更片存减
少系统存赖速度加快高 100PFlops（秒 1000 万亿次浮点计算）
⚫ 高通
智手机芯片市场占绝优势高通公司工智芯片方面积极布局
高通提供资料显示工智方面已投资 Clarifai 公司中国专注物联网工
智服务云知声
早 2015 年 CES 高通已推出款搭载骁龙 SoC 飞行机器——
Snapdragon Cargo高通认工业农业监测航拍拍摄视频新需求
21
公司恰发挥计算机视觉领域力外高通骁龙 820 芯片应 VR
头盔中事实高通已研发完成深度学移动端设备芯片
⚫ Nervana Systems
Nervana 创立 2014 年公司推出 The Nervana Engine 深度学专门定制
优化 ASIC 芯片方案实现益项做 High Bandwidth Memory 新型存技
术项技术时拥高容量高速度提供 32GB 片储存 8TB 秒存访问速
度该公司目前提供工智服务in the cloud声称世界快目
前已金融服务机构医疗保健提供者政府机构服务新型芯片会保
证 Nervana 云台未年保持快速度
⚫ Movidius（ Intel 收购）
2016 年 9 月Intel 发表声明收购 MovidiusMovidius 专注研发高性视觉处理芯
片新代 Myriad2 视觉处理器 SPARC 处理器作控制器加专门
DSP 处理器硬件加速电路处理专门视觉图信号款 DSP 架构基础
视觉处理器视觉相关应领域极高耗视觉计算普
嵌入式系统中
该芯片已量应 Google 3D 项目 Tango 手机疆机FLIR 智红外摄
机海康深眸系列摄机华睿智工业相机等产品中
⚫ IBM
IBM 早前发布 watson投入实际应外启动类脑芯
片研发 TrueNorth
TrueNorth IBM 参 DARPA 研究项目 SyNapse 新成果SyNapse 全称
Systems of Neuromorphic Adaptive Plastic Scalable Electronics（适应塑伸缩电子神系
统 SyNapse 正突触意思）终极目标开发出破冯·诺曼体系结构计算
机体系结构
⚫ ARM
ARM 推出全新芯片架构 DynamIQ通项技术AI 芯片性未三五
年提升 50 倍
ARM新CPU架构会通部分配置软件方式处理核心集聚起
中包括专门 AI 算法设计处理器芯片厂商新处理器配置 8 核
心时流 AI 处理器更运行ARM 推出系列软件库

22
⚫ CEVA
CEVA 专注 DSP IP 供应商拥众产品线中图计算机视觉 DSP
产品 CEVAXM4 第支持深度学编程 DSP发布新代型号 CEVAXM6
具更优性更强计算力更低耗
CEVA 指出智手机汽车安全商业应机动化业务开展
目标
⚫ MITEyeriss
Eyeriss 事实 MIT 项目公司长远果进展利
孵化出新公司
Eyeriss 高效深度卷积神网络（CNN）加速器硬件该芯片建 168 核
心专门部署神网路（neural network）效般 GPU 10 倍技术关键
化 GPU 核心记忆体间交换数频率（运作程通常会消耗量时间
量）：般 GPU 核心通常享单记忆体 Eyeriss 核心拥属记忆
体
目前Eyeriss 定位脸识语音识应智手机穿戴式设备机
器动驾驶车物联网应装置
⚫ 苹果
iPhone 8 iPhone X 发布会苹果明确表示中 A11 处理器集成
专机器学硬件——神网络引擎（Neural Engine）秒运算次数高达
6000 亿次块芯片够改进苹果设备处理需工智务时表现面部
识语音识等
⚫ 三星
2017 年华海思推出麒麟 970 芯片知情士透露标华三星已
研发许种类工智芯片三星计划未三年新市智手机中采工
智芯片工智设备建立新组件业务三星投资 Graphcore深
鉴科技等工智芯片企业

23


talent
物篇
4
24
4 物篇
报告 41节通 AMiner 数台 AMiner 工智芯片库进行数挖掘
统计分析出领域学者分布迁徙42 节介绍目前工智芯片领域国外代表性研
究学者文中排名分先
41 学者分布迁徙
通统计分析 AMiner 工智芯片库全球工智芯片领域学者
分布图图 13 示图中工智芯片领域学者分布北美洲
次欧洲中国工智芯片研究紧南美洲非洲洋洲相较匮
乏

图 13 工智芯片领域研究学者全球分布
国家进行统计美国工智芯片领域科技发展核心英国数紧排美
国专家分布中国德国加意利日图 14 示

图 14 工智芯片领域研究学者全球分布
25
AMiner 全球工智芯片领域具影响力 1000 迁徙路径进行统计分析
出图 15 示国逆差图

图 15 国逆差
图中出国流失引进相较均衡中美国流动
国输入输出幅度幅度领先英国中国德国瑞士等国次美国国
间流动相差明显
42 代表性研究学者
● Jeff Dean

美 国 工 程 院 院 士 Jeff Dean 谷 歌 脑
（Google Brain）谷歌机器学开源框架
TensorFlow谷歌广告系统谷歌搜索系统
等技术重创始
Jeff Dean 获华盛顿学计算机科学博士学位三年（1999 年）加入谷歌公
司成该公司早员工谷歌成长程中直该公司头面物—
—设计实现支撑谷歌部分产品许分布式计算基础设施
■ 成
创建谷歌广告系统 Adsense——作谷歌搜索广告互联网广告原型
开发谷歌检索索引搜索系统利著名 Pagerank 搜索算法举成优秀
搜索引擎公司
2011 年初Jeff Dean 吴恩达导创建谷歌脑（Google Brain）奠定谷
歌工智领先位重部门
26
领导开发谷歌机器学标志性软件 TensorFlow支持谷歌运行超规模计算框
架 MapReduce 等重项目2015 年 11 月TensorFlow 正式开源发布目前已深度学
领域占绝统治位框架
● 黄仁勋

美籍华1993 年创办 NVIDIA（全球显
卡芯片厂商）
黄仁勋 1984 年俄勒冈州学取电机工程学位斯坦福学取硕士学位
1993 年创立 NVIDIA
■ 成
1999 年英伟达推出全球第图形处理器（GPU）GPU 成计算机中独
立 CPU（中央处理器）重计算单元
2016 年 4 月 5 日NVIDIA 英伟达宣布推出新 GPU 芯片 TeslaP100芯片置 150
亿晶体深度学黄仁勋宣称 TeslaP100 目前止处理器
2017 年 5 月 11 日 GTC2017 会NVIDIA 发布 Tesla V100Tesla V100 采
台积电 12nm 工艺制程增加深度学高度相关 Tensor 单元 815 方毫米面积
硅片集成 210 亿晶体5210 CUDA 核心单精度浮点运算性达 15
TFLOPs双精度浮点运算性达 75 TFLOPs
● Vivienne Sze

麻省理工学院电子工程计算机科学系副
教授研究兴趣包括便携式媒体应节
算法架构
Vivienne Sze 2010 年麻省理工学院 EECS 博士2017 年 7 月麻省理工学
院担副教授领导节媒体系统团队

27
■ 成
Eyeriss 节加速器研发员Eyeriss 重新配置支持先进深层卷积
神网络（CNN）专注化加速器存储器间加速器计算结构数
传送前移动 GPU 相实现 10 倍效
● 谢源

加州学圣芭芭拉分校教授发表 300 篇研究
文获国际会议佳文奖 NSF
CAREER award中国国家然科学基金会海外港澳
学者合作研究基金等2014 年获 IEEE Fellow 荣
誉
谢源 2002 年获普林斯顿学电机工程系博士学位2003 年加入宾夕法尼亚州立
学计算机系2008 年获终身教职2012 年提升正教授
2012 年 2013 年期间加入 AMD负责组建领导 AMD 北京研发中心研究部门
2014 年加入加州学圣芭芭拉分校电机计算机工程系（ECE）担正教授
■ 研究领域
谢源研究领域包括 VLSI设计电子设计动化计算机架构嵌入式系统设计
目前研究项目包括新型存架构互连架构异构系统架构研究项目侧重技
术驱动应驱动设计架构创新技术驱动研究项目包括新兴存储器技术 3D 集成
电路 EDA架构硬件安全性 CPUGPUFPGA 异构计算应驱动研究项目包括
工智（AI）新型架构深度学神网络计算机架构neuromorphic计算bio
inspired 计算新应硬件加速生物信息学应图形分析机器应
● 陈天石

中国科学院计算技术研究研究员研究方
计算机体系结构计算智寒武纪科
技创始兼 CEO
陈天石 2010 年中国科学技术学计算机学院获工学博士学位2016 年中
国科学院计算技术研究 研究员中科寒武纪科技 CEO研发出国首款工智芯片寒
28
武纪
■ 成
陈天石 IEEEACM TransactionsTheoretical Computer ScienceISCAHPCAIJCAI
AAAISPAADATE 等重期刊会议发表文 40 余篇先获获全国百篇优秀
博士文提名奖中国计算机学会优秀博士文奖中国科学院优秀博士文奖中国科
学院院长奖教育部高等学校科学研究优秀成果奖国家然科学基金委员会优青
Intel 青年学者奖等荣誉2016 年 3 月陈天石陈云霁联合创立寒武纪科技公司该公
司全球第成功流片拥成熟产品智芯片公司拥终端服务器两条产品线
● 施路

清华学教授国家光存储工程研究中心
2012 年入选千计划（A 类）2013 年
3 月入职清华SPIE Fellow
施路 1992 年德国科隆学获科学博士学位
1996 年 8 月2013 年 3 月新加坡科学院数存储研究院资深科学家光学材料系
统实验室非易失性存储器实验室新加坡科学院工认知存储器实验室
■ 成
参创建领导新加坡科学院半导体非易失性存储器光存储工认知存储器
研究领域研究领域包括信息存储集成光电子学材料科学工认知存储器旋电
子学纳米科学技术等工认知存储器开拓者
2012 年入选千计划（A 类）2013 年 3 月入职清华SPIE Fellow
已发表 200 篇学术文（包括 ScienceNature PhotonicsPhys Rev LettAdvance
Mat Laser&Photonics Review Scientific Reports）拥 10 项专利专利申请 2004 年获颁
新加坡国家科技奖

29
● 余凯

前百度研究院副院长深度学实验室
线机器技术创始兼 CEO
余凯慕尼黑学获计算机科学博士学位微软西门子 NEC 工作
2015 年 5 月 22 日余凯百度离职年 7 月创办线机器致力define
the brain of things造万物智时代AI Inside日常生活数设备产
品装脑
■ 成
2009 年 PASCAL VOC 视觉识竞赛中获第名
2008 年 2009 年美国国家技术标准局组织 TRECVID 图事件检测评中两次
获项第名
2010 年带领团队首届 ImageNet 规模视觉识竞赛中获第名（Geoffrey
Hinton 团队 2012 年获第名）
余凯深度学特征学贝叶斯学高斯程推荐系统图识图检
索等领域建树著名学术会议杂志发表十篇高质量文行引达
7000 次获 1999 中国信号处理学会年会优秀文奖第 9 届 PKDD 国际会议佳
文奖银奖第 30 届机器学国际会议（ICML）佳文奖银奖
2013 年 2014 年余凯带领语音技术团队深度学技术团队图技术团
队相继3次获业界著名百万美金百度高奖创造百度公司部技术&业
务团队记录
30

application
应领域篇
5
31
5 应领域篇
着工智芯片持续发展应领域会时间推移断维方发展报
告选目前发展较集中行业做相关介绍图 16 示

图 16 AI 芯片应领域
（1）智手机
2017 年 9 月华德国柏林消费电子展发布麒麟 970 芯片该芯片搭载寒武纪
NPU成全球首款智手机移动端 AI 芯片2017 年 10 月中旬 Mate10 系列新品
（该系列手机处理器麒麟 970）市搭载 NPU 华 Mate10 系列智手机具备
较强深度学端推断力类基深度神网络摄影图处理应够
户提供更加完美体验图 17 显示 Mate10 成效果图
图 17 华 Mate10 成效果图
2017 年 9 月中旬苹果发布 iPhone X 代表手机置 A11 Bionic 芯片
32
A11 Bionic 中研发双核架构 Neural Engine（神网络处理引擎）秒处理相应神
网络计算需求次数达 6000 亿次 Neural Engine 出现 A11 Bionic 成块
真正 AI 芯片A11 Bionic 提升 iPhone X 拍方面体验提供富
创意新法更具革命性 FaceID够传感器数进行实时 3D 建模利
机器学识户容貌改变程中量计算需求需助 A11 Bionic
Neural Engine 满足图 18 示外A11 Bionic 置苹果设计第款
GPU款 GPU 3D 游戏 Metal 2（苹果 WWDC 2017 推出新代图渲染技
术框架）专门设计够机器学技术苹果 iOS 11 推出 Core ML（核心机
器学）框架相配合

图 18 苹果 Face ID
谷歌高通样发布产品中植入 AI 芯片许成业界新趋势
植入 AI 芯片户带真正美体验需等足够基深度学
APP 出现实现
（2）ADAS（高级辅助驾驶系统）
ADAS 吸引众眼球工智应需处理海量激光雷达毫米
波雷达摄头等传感器采集实时数ADAS 中枢脑——ADAS 芯片市场
厂商包括英特尔收购 Mobileye2017 年高通 470 亿美元惊价格收购 NXP
汽车电子领军企业英飞凌着英伟达推出家基 GPU ADAS 解决方案 Drive
PX2英伟达加入战团中
相传统车辆控制方法智控制方法体现控制象模型运综合
33
信息学运包括神网络控制深度学方法等益 AI 芯片飞速发展
算法已逐步车辆控制中应
（3）CV（计算机视觉（Computer Vision））设备
需计算机视觉技术设备智摄头机行车记录仪脸识迎
宾机器智手写板等设备具端推断需果仅联网工作
疑带糟糕体验计算机视觉技术目前会成工智应沃土
计算机视觉芯片拥广阔市场前景
计算机视觉领域全球领先芯片提供商 Movidius目前已英特尔收购疆机
海康威视华股份智监控摄头均 Movidius Myriad 系列芯片
目前国做计算机视觉技术公司初创公司商汤科技阿里系旷视腾讯
优图云图等公司公司中未着身计算机视觉技术
积累渐深部分公司会然然转入 CV 芯片研发中正 Movidius 走计算
机视觉技术芯片研发路径
（4）VR 设备
VR 设备芯片代表 HPU 芯片微软身 VR 设备 Hololens 研发定制颗
台积电代工芯片时处理 5 摄头1 深度传感器运动传感器数
具备计算机视觉矩阵运算 CNN 运算加速功 VR 设备重建高质量
3D 影实时传送方
（5）语音交互设备
语音交互设备芯片方面国启英泰伦云知声两家公司提供芯片方案均
置语音识优化深度神网络加速方案实现设备语音离线识稳定识
力语音技术落提供时语音交互核心环节取重突破
语音识环节突破单点力远场识语音分析语义理解重突破呈现
出种整体交互方案
语音交互正悄悄改变家居生活惯居客厅核心位置智电视越
越消费者惯沙发语音换台语音作智家居入口广阔想象空间
（6）机器
家居机器商服务机器均需专软件+芯片工智解决方案
方面典型公司前百度深度学实验室负责余凯创办线机器然线
机器外提供 ADAS智家居等嵌入式工智解决方案
移动端推断领域呈现缤纷生态 ADAS类 CV
34
VR 等设备领域工智应远未成熟工智技术服务商深耕领域时
逐渐工智软件演进软件+芯片解决方案然然路径形成丰富芯
片产品方案
35

trend
趋势篇
6
36
6 趋势篇
目前流 AI 芯片核心利 MAC（Multiplier and Accumulation加计算）加
速阵列实现 CNN（卷积神网络）中卷积运算加速代 AI 芯片
3 方面问题
（1）深度学计算需数量巨造成存带宽成整系统瓶颈谓
memory wall问题
（2）第问题相关存量访问 MAC 阵列量运算造成 AI 芯片整体功
耗增加
（3）深度学算力求高提升算力方法做硬件加速时深
度学算法发展日新月异新算法已固化硬件加速器法
支持性灵活度间衡问题
预见代 AI 芯片发展趋势
趋势：更高效卷积解构复
标准 SIMD 基础CNN 特殊复机制进步减少总线数
通信复概念超型神网络中显格外重合理分解映射
超卷积效硬件成值研究方图 19 示

图 19 分解卷积降低消耗
趋势二：更低 Inference 计算存储位宽
AI 芯片演进方神网络参数计算位宽迅速减少—— 32 位
37
浮点 16 位浮点定点8 位定点甚 4 位定点理计算领域2 位甚 1 位参数
位宽已逐渐进入实践领域图 20 示

图 20 逐层动态定点方法
趋势三：更样存储器定制设计
计算部件成神网络加速器设计瓶颈时减少存储器访问延时会
成研究方通常离计算越存储器速度越快字节成越高时
容量越受限新型存储结构应运生
趋势四：更稀疏规模量实现
神网络然实际零输入情况时稀疏计算高效
减少效哈佛学团队该问题提出优化五级流水线结构图 21 示
级输出触发信号 Activation 层次计算必性进行预先判断果
发现稀疏节点触发 SKIP 信号避免法运算功耗达减少功耗
图 21 五级流水线结构
38
目
趋势五：计算存储体化
计算存储体化（processinmemory）技术点通新型非易失性存储
（ ReRAM）器件存储阵列里面加神网络计算功省数搬移操作
实现计算存储体化神网络处理功耗性方面获显著提升



参考文献
[1] 施羽暇工智芯片技术研究 电信网技术 201612（12）
[2] Philipp GyselMohammad Motamedi & Soheil GhiasiHARDWAREORIENTED
APPROXIMATION OF CONVOLUTIONAL NEURAL NETWORKS 20 Oct 2016
[3] Martin ThomaAnalysis and Optimization of Convolutional Neural Network Architectures 31
Jul 2017
[4] Bohyung Han Computer Vision Lab Lecture 9 CNN Optimization CSED703R Deep
Learning for Visual Recognition (2017F)
[5] Dongjoo Shin Jinmook Lee Jinsu Lee Juhyoung Lee and HoiJun Yoo DNPU An Energy
Efficient Deep Neural Network Processor with OnChip Stereo Matching Semiconductor
System Laboratory School of EE KAIST
[6] Paul Whatmough S K Lee H Lee S Rama D Brooks GY Wei Harvard University
Cambridge MA A 28nm SoC with a 12GHz 568nJ Prediction Sparse DeepNeuralNetwork
Engine with >01 Timing Error Rate Tolerance for IoT Applications
[7] Paul N Whatmough S K Lee N Mulholland P Hansen S Kodali D Brooks GY Wei
DNN ENGINE A 16nm SubuJ DNN Inference Accelerator for the Embedded Masses
[8] Vivienne Sze YuHsin CHen TienJu Yang Joel S Emer Efficient Processing of Deep Neural
Networks A Tutorial and Survey Proceedings of the IEEE Vol 105 No 12 December 2017
[9] 张蔚敏蒋阿芳纪学毅工智芯片产业现状 电信网技术 2018 年 2 月第 2 期
[10] 张贝贝工智时代芯片产业迎发展产业横20170917
[11] 毅刘成林谭铁牛类脑智研究回顾展计算机学 报第 39 卷 第 1 期2016
年 1 月


版权声明
AMiner 研究报告版权 AMiner 团队独家拥唯著作权AMiner 咨询产品
AMiner 团队研究统计成果性质供户部参考资料
AMiner 研究报告提供订阅户仅限户部未获 AMiner 团队授
权单位方式媒体（包括互联网）公开发布复制
方式研究报告容提供单位引刊发需注明出处
AMinerorg报告进行悖原意删节修改
AMiner 研究报告基 AMiner 团队研究员认研究资料资料源
AMiner台程序数动分析研究报告仅作参考AMiner团队保证
分析准确性完整性承担投资者产品服务产生责

《香当网》用户分享的内容，不代表《香当网》观点或立场，请自行判断内容的真实性和可靠性！
该内容是文档的文本内容，更好的格式请下载文档