大数据 AI时代,国产FPGA弯道超车的机会来了?
自面世起,FPGA因灵活性和高运算能力等特点崭露锋芒,市场规模不断扩大。不过长期以来,FPGA市场被国外寡头垄断。如今,大数据时代的到来及人工智能技术的日趋成熟,在一定程度上,为国产FPGA追赶国外龙头企业带来了新的机遇。
大数据+AI,
数据处理能力迎新挑战
提起大数据与人工智能,人们往往把以它们为代表的全新技术革命,称作继蒸汽机、电力、信息互联网之后的第四次技术革命。大数据和AI时代的到来,绝不仅仅意味着智能机器人的批量生产与应用,而是作为核心驱动力驱动产业结构、城市形态、生活方式和科技格局的颠覆式变革。
最早提出“大数据时代”的是全球著名咨询公司麦肯锡,麦肯锡认为:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”
2014年,马云就曾在公开演讲中表示:世界正从IT(Information Technology)进入DT(Data Technology)时代。大数据时代具有数据量大、数据类型繁多、价值密度低、处理速度快的四大显著特征。
大数据时代万物互联
首先,大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T);其次,其数据类型包括网络日志、音频、视频、图片、地理位置信息等,对数据处理能力提出了更高要求;再次,随着物联网的广泛应用,信息海量但价值密度较低,如何通过强大的机器算法更迅速地完成数据价值“提纯”,是大数据时代亟待解决的难题;最后,数据处理速度快,时效性要求高,是大数据区分于传统数据挖掘最显著的特征。
人工智能与大数据密不可分。大数据是人工智能的基础,人工智能需要有大数据作为“思考”和“决策”的前提,并依赖大数据平台和技术来完成深度学习。而大数据也需要人工智能技术进行数据价值化操作。
目前在互联网企业,大数据与人工智能的结合应用比较常见,电商平台普遍采用的推荐系统就是大数据与人工智能技术的结合应用。
当既有的技术架构无法高效处理海量数据,大数据与AI时代就对人类的数据驾驭能力提出了新的挑战,也为人们获得更深刻、全面的洞察能力提供了前所未有的空间与潜力。
如今,云端智能化加速,云计算为人工智能、大数据、物联网等领域带来算力的支撑。集成电路作为关键核心器件,是人工智能的算力之本。与此同时,大数据与AI时代的到来与发展,也在逐步打破芯片传统格局,在一定程度上,使得赛道上的部分新玩家有机会尝试弯道超车。
FPGA——大数据时代,大有可为
据IDC预测,从2018年至2025年,全球每年被创建、采集或复制的数据将增长5倍以上,预计将从2018年的32ZB增至2025年的175ZB。其中,中国将在2025年以48.6ZB的数据量及27.8%的市场占比,成为全球最大的数据汇集地。
那么,人们对数据进行处理的能力是否有了明显提升呢?英特尔“以数据为中心(Data-Centric)”创新峰会上曾指出,随着摩尔定律延续,从2012年至2017年,处理数据所需的计算和存储成本分别下降了56%和77%;同时,处理数据的性能相较2006年则提升41倍。但即便如此,如今只有不到1%的数据被有效的进行了处理、分析和利用。
面对无止境的数据增长,大幅提升数据中心的利用率和性能,降低运营成本和总成本势在必行。目前在数据中心领域,采用FPGA的加速卡解决方案已经在FaaS云平台、无人驾驶、视频渲染加速、证券分析加速等多个应用场景落地应用。
面对数据处理任务指数级增长,在数据中心融合发展的趋势下,通过硬件重构+软件定义的融合架构,实现敏捷、可重构、高性能功耗比的可定制计算将是未来数据中心创新的重要解决之道。
目前,在海量数据处理方面,主流方法是通过易编程多核“CPU+GPU”来进行数据处理、应用开发。设计开发人员一方面希望GPU易于编程, 另一方面又希望硬件具有低功耗、高吞吐量和最低时延功能。但由于依靠半导体制程升级带来的单位功耗性能在边际递减,“CPU+GPU”架构设计遇到了瓶颈。
此时,异构处理器的概念被提了出来。换言之,就是将CPU不擅长的工作卸载到其它更适合的器件中处理,不同架构的数据处理器件协同工作,以提升效率。那么,到底谁更适合与CPU搭档工作呢?以吞吐率、延迟、功耗和灵活性等为基本评估标准,FPGA闪亮登场!
数据来源:财富证券
“CPU+FPGA”可提供更好的单位功耗性能,且易于修改和编程。瑞士苏黎世联邦理工学院(ETH Zurich)研究发现,基于FPGA的应用加速比CPU+GPU方案,单位功耗性能可提升25倍,时延则缩短了50到75倍,还能实现出色的I/O集成(PCIe、DDR4、SDRAM 接口、高速以太网等)。
其实,FPGA以其高能效和可重编程的优势,在大型互联网企业内部早有应用并逐渐成为常态。AWS(亚马逊网络服务)曾借助云传输模型采用高端 FPGA 器件,以开发者的角度而不是扩展高层次工具,从未帮助潜在的用户学习和体验 FPGA 的加速效果。
公共云服务开始采用 FPGA,平台厂商与FPGA硬件厂商合作,在云端提供统一硬件平台与中间件,可大大降低加速器的开发与部署成本。各种不同的应用都将受益于FPGA加速特性。
如今,数据中心加速市场正在迅速成长。据Research And Markets数据显示,从2018年到2023年,数据中心加速器市场将从28.4亿美元增长到211.9亿美元,年复合增长率为49.47%。其中,FPGA预计将会是年复合增长率最高的细分市场。
全球 FPGA 市场规模现状及预测
数据来源:Gartner
兴业证券经济与金融研究院制图
随着大数据和AI技术的不断发展,FPGA行业需求量的增长将成为一种必然。根据Gartner预测,全球FPGA市场规模2019年达到69亿美元,2025年将达125亿美元,未来市场增长稳中有升。
FPGA——AI加速落地的关键引擎
在今年全国“两会”上,人工智能(AI)连续第三年被写入政府工作报告,并首次将人工智能衍生为“智能+”的概念。作为国家战略的人工智能将加速与产业融合,为经济结构优化升级发挥重要作用。
AI发展的基础是算力,而算力的基础是芯片。不过,受限于摩尔定律,传统芯片算力的进步远跟不上爆炸性增长的数据对算力的需求,加之传统芯片开发周期通常在18-24个月左右,而AI项目经常要在几个月内提出方案抢占市场。
有业内人士曾谈到:“现在,每三个月AI模型就要变一次,工程师想建立一个ASIC或GPU需花要一年半时间设计硅芯片,半导体的设计周期远远大于AI模型更替周期。”
此时,具备可编程特性且灵活多变的FPGA成为不二之选。随着云计算、高性能计算和人工智能等发展,拥有不可替代优势的FPGA有望提升在AI领域的地位。同时,也有更多创新者将把目光聚焦在通过FPGA实现AI功能,把人工智能创新理念落地变成现实。
FPGA加速数据处理
图片来源:网络
以往以“CPU+GPU”架构进行数据处理时,是以大量已知数据集,不断迭代和调整神经网络的参数,一般需要几个小时甚至数天。而在使用FPGA进行数据处理时,是利用已经训练好的神经网络,对新输入的数据进行判断和归类,这样一来,基本可以实现实时处理。
近两年来,越来越多以FPGA切入AI市场的玩家出现。据市场调查公司Semico Research 2019年5月数据显示,2018年用于AI的FPGA市值约10亿美元,预计2019年为18亿美元左右。到2023年,AI用FPGA将增长约3倍,达到52亿美元。
FPGA在AI应用方面的增长预测
图片来源:Semico Research Corp
对此,国产FPGA龙头企业紫光同创市场总监吕喆认为,“在助力人工智能落地方面,FPGA发挥着不可替代的作用。我们认为ASIC专用芯片在AI终端更具功耗和成本优势,FPGA在终端侧存在短期的原型机和算法迭代的应用机会,但在边缘侧和云端的AI,FPGA的应用价值更大,甚至不可或缺。”
市场增量下,
国产FPGA能否弯道超车?
大数据时代的到来、人工智能的不断发展,为全球FPGA带来了一定的市场增量。不过,FPGA市场长期以来被处于寡头垄断的局面。前两大厂商Xilinx、Intel(收购Altera)占有近90%的市场份额,专利超6000余项。
目前,虽然中国是全球FPGA需求最大的市场,占全球约30%以上,但几乎100%被美国厂商垄断,国产率极低。
那么,对于国产FPGA企业来说,究竟能否有机会抓住大数据与AI时代的机遇,实现弯道超车呢?对此,芯师爷专访了国产FPGA企业龙头紫光同创市场总监吕喆,吕喆先生认为:“国产FPGA厂商要在数据中心和AI两个新兴市场实现弯道超车,有三个关键因素,一是器件性能和规模层面的支撑,二是工具链和软件栈的生态,三是针对细分市场的定制或架构创新。”
首先,器件性能和规模层面的支撑指的是FPGA性能和规模指标能够达到数据中心和AI应用场景的要求,这是硬指标。比如当前主流的数据中心FPGA加速卡所采用的均为16nm或7nm工艺的高端FPGA,逻辑规模基本在100万个LUT或以上,用于AI推断的FPGA算力至少需要达到INT8精度下100TOPS才能够具备竞争力。
紫光同创市场总监吕喆说:“当前中国FPGA厂商的发展水平相对落后,对许多应用需求望尘莫及,未来谁能在工艺、逻辑规模、器件性能方面率先突破,谁就能具备弯道超车的基础。”
其次,在工具链和软件生态方面,不管是Xilinx的Vitis还是Intel的OneAPI,实质就是整套工具链和库的大集合,他们在构建和扩展属于FPGA的生态链。通过软件栈的方式,从底层硬件驱动和连接层,往上到Runtime库和硬件映射优化层,再往上对接业界标准应用框架,比如针对AI的TensorFlow框架,针对机器视觉的OpenCV框架,针对金融加速的Fintech库等,最后是面向应用开发层的API接口,这样就打通了不同细分市场对FPGA加速的使用需求,把软件开发者也纳入到FPGA的价值链当中。
这也是FPGA两个巨头与CPU和GPU在生态层面的较量。紫光同创市场总监吕喆认为,对于国产厂商来说,相比于硬件平台方面的挑战,此方面需攻克的难关可以说是有过之而无不及。因为工具链的构建和生态的开发,已经超越了传统FPGA硬件和软件的范畴,是一个系统工程。
再次,针对细分市场的深度定制或架构创新,是指针对特定的应用场景做专用的加速方案,而不再追求跨场景的通用解决方案。在这方面吕喆建议,国产FPGA厂商可以多与垂直行业的专业合作伙伴深入探讨,结合他们端到端的解决方案能力,在FPGA架构和功能层面,对细分场景进行定制,在一定程度上弥补芯片性能和规模的缺失。
总之,吕喆认为,国产FPGA厂商想要在大数据和AI的时代实现弯道超车,需要在以上三个方面均有所布局,任重而道远。国产FPGA龙头企业紫光同创目前在努力建设自身的能力,沉下心来打磨技术平台,优先解决通信和工业市场需求,并开始长远布局数据中心和AI,致力于尽快跨越替代阶段,开启国产FPGA的创新时代!
写在最后
这把大数据与AI之“火”,最终会点燃国产FPGA吗?对国内企业来说,究竟是否有能力积极反应、紧抓机遇,在这场市场热潮中脱颖而出,实现弯道超车,还有待时间与市场的最终检验。