天数智芯AI推理芯片流片成功,AI技术真正落地

电子工程世界

2019-10-21 16:41

日前,天数智芯发布首个正式流片的高性能边缘端AI推理芯片——Iluvatar CoreX I AI芯片。该芯片的发布,标志着天数智芯真正将AI技术转化成产品,也意味着天数智芯从边缘到云端“芯云战略”已进入落地阶段,赋能企业实现数字化转型,助力行业智慧发展。

天数智芯名称由来

天数智芯CEO李云鹏介绍了天数智芯名称的由来,其中天是代表着大,数则代表着数字经济时代。而天数智芯的英文名称Iluvatar是创世女神的意思,代表着创新、演进、价值和引领。

李云鹏指出,天数智芯的目标应用是从轨道交通安全需求点出发,以行业智能解决方案的维度,为铁路安全提供云端及边缘的产品及方案支持,实现及时响应,有效管理等特点。目前全国共有三千组高速动车组列车和两万台机车,每台机车和动车组由十万级别的零配件组成,每个零配件的健康直接影响铁路运输的安全。此外,还有一系列铁路运输所牵扯到的货场安全问题。

李云鹏表示,天数智芯的基础算力产品,不仅仅可以为轨道交通行业服务,还可以和石油、天然气开采和运输行业,风电等新能源行业,以及船舶制造等大型装备制造行业合作,共同推广智能化解决方案,实现智能制造产业互联网。

天数智芯CEO李云鹏

李云鹏认为,IT系统升级、大数据平台和物联网技术三者融合的行业垂直解决方案,必须有一个立足点,有一个软硬件结合的系统和产品,其中软件是算力的支撑,也是灵活优化场景化行业的手段。而硬件也就是芯片,由于其迭代周期较长,因此不仅要支持现有火热的AI数据处理应用,也要符合过去传统的智能应用等大规模需求,以及满足未来对算力发展及通用算力支撑的蓝图。

从软件角度上来说,天数智芯三年多的历程完整的实现了Soft Silicon技术,已经推出了第四代SkyDiscovery,满足大数据、人工智能计算平台软件平台。

而今芯片平台的正式发布,意味着天数智芯愿景的正式落地。

李云鹏表示,天数智芯的GPGPU架构(General Purpose Computing on GPU),即在图形图像显示架构上,支持通用型计算。是最细力度的可编程,可根据云、边、端不同特征进行扩展和配置的产品。这个架构既可以为已有的CUDA生态产品提供了原生兼容性支撑,同时也可以保证透明迁移,也就是说可确保国产技术的顺利替换。

在接受采访时,李云鹏也坦言目前天数智芯面向的对象包括铁路交通、智能垃圾箱分类以及某风力发电客户,对于他们的企业级客户而言,卖芯片或卖板卡的方式并不适合,中国市场需要的是解决方案,需要软硬件一体化提供更多的增值服务。

Iluvatar CoreX I露真容

在发布会现场,天数智芯副总裁梁斌详细介绍了Iluvatar CoreX I的情况。

具有的特点包括:一、高精度,可减少模型量化带来的精度损失;二、高算力,在小于5瓦的功耗情况下,提高高达4.8TFlops的算力,和每秒1000帧的图像处理能力。8卡级联时,可以提供最多38TFLOPS算力。三、提供原生TensorFlow的兼容,让客户应用可以无感迁移。四、工业级解决方案,符合稳定性、安全性等特点。五、针对行业用户提供一站式、端到端的完整解决方案,提供软硬件结合的开发环境。

Iluvatar CoreX I详细指标包括:利用TSMC 16nm工艺,采用全自研数据流架构,内核可以提供32路数据并行处理的能力,提供4路PCIe,可通过芯片级联和板卡级联提升计算力。对于算法方面,芯片针对CNN主流神经网络进行优化,支持物体检测、物体识别、人脸识别、行为识别、姿势识别等不同应用场景,可以广泛应用于不同的边缘计算中,对计算力有需求的场景。

梁斌指出,通过对主流算法的优化,基于数据流的高能效运算,高带宽,高容量的本地内存,Iluvatar CoreX I有效得解决了目前主流竞品计算力不足的核心问题。而从应用角度来说,天数智芯通过与成熟的开发生态系统原生兼容,客户可以无需任何代码改动,实现应用的迁移,平均平台的适配周期1-2个星期。”市面上第三方的AI芯片产品,因为目前市场上大部分芯片产品基于底层软件库和自研开发编译器SDK,客户的应用通过耗时耗力的代码转换,适配周期大多耗时1-3个月甚至更长。”梁斌说道。目前算法支持通用CNN主流网络,如VGG、ResNet、YOLOv2等算法模型,用于各类检测、识别和分类的应用场景。

而在CPU方面,Iluvatar CoreX I同样拥有灵活的适配性,可与X86架构、Arm架构或者是国产CPU架构等适配;而在可扩展方面,支持多芯片,多板卡级联的方案。

“目前市面上主要竞品15瓦功耗,算力为1.5TFLOPS,而Iluvatar CoreX I在低于4.7瓦的功耗下,提供4.8TFLOPS的计算力,相比主流竞品,我们提供超过十倍的能效比。”梁斌说道。“实际测试结果也表明,在物体分类场景下天数智芯性能相比对手高出两倍,能效提升8倍,在物体识别场景中也有类似表现。”

与芯片配套的则是云、边、端三层次的人工智能软件平台——SkyDiscovery。提供数据集成,智能数据存储,模型评估服务部署的一站式服务,可在云、边、端协同工作。由于是自有的软硬件一体化,因此可从软件底层提供针对天数智芯芯片的支持,实现更好的配合。

梁斌介绍道,天数智芯并不直接对外销售芯片,而是提供板卡级的产品,一种形式是系统级板卡,直接赋能智能垃圾分类、智能零售、智能监控等不同的嵌入式边缘端应用。另外一种则是PCIe边缘端加速卡,直接插在服务器上进行加速。

在此次发布会上,天数智芯带来了诸多基于Iluvatar CoreX I的实际场景,通过结合应用,展现出天数智芯赋能AI的具体措施,包括智能轨道交通的传感器数据融合、本地化实时数据处理、实时监控、管理及预警等工作。而在智能医疗方面,包括药房药品识别分析,内部告警等作用。智慧园区则包括了人脸识别、员工身份认证、行为识别等。智能垃圾分类是通过摄像头进行回收物识别和人脸识别等应用。

针对未来芯片规划,梁斌表示公司正在开发7nm工艺的自研GPGPU架构高端云端训练芯片,以及一款中端GPGPU边缘云推理芯片,结合已发布的 Iluvatar CoreX I设备端芯片,打造出云、边、端的全方位覆盖。

李云鹏表示,希望天数智芯在未来的三年中,不仅实现盈亏平衡,而且能够有利润去不断扩充基础投入,确保公司发展20年以上,把产品真正做到国际一流水平。“天数智芯自2015年成立以来,经历了初创期的懵懂、野蛮生长和碰壁,走过了一条完整的初创型闭环。今天我们选择在杭州西子湖畔召开芯战略发布会,标志着天数智芯迎来了新起点,迎来了有机成长期。”李云鹏说道。

5

评论

(共1条评论

我有话要说...

热门评论