阿里发布首款自研AI芯片含光800:号称全球最强,算力相当于10颗GPU
在今日的云栖大会上,阿里发布旗下首款自研AI芯片含光800,号称是目前全球最强AI芯片,性能和能效比均为第一。据介绍,含光为上古三大神剑之一,含而不露,光而不耀。算力上,阿里称1颗含光800的算力相当于10颗GPU。
性能上,根据阿里公布的数据,在ResNet-50测试中,含光800推理峰值性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。
据介绍,含光800采用阿里自研芯片架构,通过推理加速等技术,有效解决芯片性能瓶颈问题;集成达摩院算法,针对CNN及视觉算法,深度优化计算、存储密度,提升计算效率,可实现大网络模型在一颗NPU上完成计算;兼容自动化开发工具,支持TensorFlow、Caffe等主流开源框架、多模型动态部署。
阿里表示,在杭州城市大脑中实时处理杭州主城区交通视频中,4颗含光800芯片即可完成目前需要40颗传统GPU完成的任务量,并且延时从300ms降低至150ms,单路视频功耗从2.8W降低到1W。
另外,进行拍立淘10亿张图片识别任务时,所需时间从1小时减少到5分钟,效率提升12倍。
其他方面,阿里宣布基于含光800的AI云服务当天正式上线,相比传统GPU算力,性价比提升100%。
赞 (0)