【yobo体育官网下载】终端AI芯片硬件相似,软件才是成功的关键?
作者:yobo体育官网下载 发布时间:2021-11-23 00:47
本文摘要:据报,NeuPro反对8位和16位神经网络,MAC单元在运营时的利用率约90%以上,整体处理器的设计大幅度减少了DDR比特率,功耗以求提高。另外,NeuPro还可以与CEVA-XM4或CEVA-XM6视觉平台结合,使图像处理、计算机视觉和神经网络的处置能有灵活性的自由选择。

yobo体育官网

据报,NeuPro反对8位和16位神经网络,MAC单元在运营时的利用率约90%以上,整体处理器的设计大幅度减少了DDR比特率,功耗以求提高。另外,NeuPro还可以与CEVA-XM4或CEVA-XM6视觉平台结合,使图像处理、计算机视觉和神经网络的处置能有灵活性的自由选择。当然,为了符合不必设备对AI性能的市场需求,NeuPro系列处理器可以获取2TOPS到12.5TOPS的性能,明确分成四款AI处理器,包括512个MAC单元的NP500面向物联网、可穿着设备和照相机;包括1024个MAC单元的NP1000面向中档智能手机、ADAS、工业应用于和AR / VR头戴设备;包括2048个MAC单元的NP2000射击高端智能手机、监控、机器人和无人机;包括4096个MAC单元的NP4000用作企业监控和自动驾驶的高性能边缘处置。

(公众号:)了解到,NeuPro包括了CNN、RNN、DNN、XNN等,多网络和模型的反对,处置性能提升的同时,不可避免不会减小处理器的面积,功耗也不会适当的减少。为了降低功耗,CEVA营销副总裁Moshe Sheier回应:“数据的读取和存储在AI处理器中能量的消耗不会占到较为大的比重,因此NeuPro不会把对神经网络的结构展开拆分、传输和处置,同时将32位浮点分析到16位、8位甚至更加较低的位数,增加数据的读取和存储。另外,NeuPro Engine和VPU单元之间的数据交换也可以通过直连地下通道,不必须通过SoC总线做到互相交换,大大减少中间数据的读取。

yobo体育官网下载

”为了维持硬件的灵活性,Moshe Sheier告诉他:“视觉应用于在大大的发展,但无论是新的经常出现的层还是模型,都可以放在我们的Vision DSP(VPU)上处置,既能维持DSP很强的功耗和性能优势,也能让NeuPro大大适应环境新的变化,这也是我们AI方案的特点。”Moshe Sheier同时回应,AI还正处于一个早期的阶段,现在的情况是各家的AI处理器IP在SoC中所占到的面积都极大,而人工智能还在大大演变中,未来算法和设计的改良不会持续带给AI技术的改版。在AI处理器的设计上,虽然每家的产品不会各有特色,但又很相近,因为大家都在填MAC单元,用更好的MAC单元构建更高的硬件指标,但在某种程度的工艺下,面积和功耗都很相似。

这时我们还必须思维,MAC单元的成本、利用率以及最后的功耗和面积。因此,如何缩短产品的周期更佳地适应环境OEM厂商大大变化的市场需求十分关键,这时软件的起到最为显著,需要通过韧融合大大适应环境技术变化和提高效率的AI方案对产品落地十分最重要。

软件才是AI处理器顺利的关键?据介绍,与NeuPro系列处理器因应的是CDNN神经网络软件框架,它的主要起到是把用户用于有所不同框架训练好的神经网络展开分析、传输等处置,然后自动地部署到底层的硬件。Moshe Sheier特别强调,CDNN足以构建的自动化是基于CEVA对应用于和协议的了解理解和分析,再加长年的累积辨别哪些工作合适什么样的硬件,另外,CEVA有所不同的硬件平台软件用于的都是同一套框架。可以看见,CEVA也在不断完善CDNN,最近公布的近期CDNN版本具备开放式神经网络互相交换(ONNX,由Facebook、微软公司和AWS创立的对外开放格式,用作构建AI社群内的互操作性和可移植性,可让开发人员针对项目用于适合的工具人组)反对。CEVA副总裁兼视觉业务部门总经理Ilan Yona 回应:“CEVA为构建对外开放、可互操作的AI生态系统,人工智能应用程序开发人员需要充分利用生态系统中各种有所不同深度自学框架,考虑到其功能和易用性,为所须要特定应用于自由选择合适的深度自学框架。

通过为CDNN编译器技术加到ONNX反对,我们为CEVA-XM和NeuPro的客户及生态系统合作伙伴获取了更加普遍的功能,用作培训和非常丰富其神经网络应用。”Moshe Sheier回应:“如果看语音处置,无论是苏醒还是关键字辨识都早已从传统的算法全面改变到神经网络处置,这种算法的改版和软件的改版反过来不会对硬件明确提出更高改版的拒绝,也就是说算法和平台不会大大的改版。

yobo体育官网

因此在AI处理器演变过程当中,我们应当必要的多用软件平台,无法几乎依赖相同的硬件,从而缩短产品生命周期。”小结终端产品的AI市场需求促成不少公司转入AI领域,而AI芯片公司的市场需求又推展半导体IP公司发售AI处理器IP。可以看见,在算法和模型还过于平稳的时候,获取标准化IP和平台的公司并没生气发售产品,而是等候算法和模型平稳之后自由选择适合的时机和领域转入市场。

异构架构是AI芯片更佳的自由选择,终端AI芯片相近的的地方在于减少MAC单元提高性能,同时为降低功耗也为增加数据的读取和存储用于了专门的技术。更加关键的是,为维持对未来算法和模型的适应性,除了构建具备可编程性能的硬件,软件更高的可配备性沦为AI处理器中维持竞争力,缩短产品周期十分关键的部分。涉及文章:一家AI芯片初创公司取得了微软公司/英特尔等6大科技公司的千万美元投资进占安防市场:比特大陆公布终端AI芯片及多款AI产品增长速度难以置信!AI芯片市场2025年市场规模将约378亿美元原创文章,予以许可禁令刊登。

下文闻刊登须知。


本文关键词:yobo体育官网下载,【,yobo,体育,官网,下载,】,终端,芯片,硬件

本文来源:yobo体育官网下载-www.gxxyyx.com

电话
026-97724416