边缘AI崛起:Imagination的GPU进化之路

边缘AI正当时,Imagination押注GPU的“AI进化”

边缘AI,这个词汇如今正以前所未有的速度闯入我们的视野,它不再是遥远的未来概念,而是真真切切地发生在当下。它意味着智能不再仅仅局限于遥远的云端,而是下沉到离我们更近的地方,甚至直接在我们的设备上运行。试想一下,你的智能手机、智能家居设备、甚至是你驾驶的汽车,都能在本地快速做出智能判断和响应,这无疑将极大提升用户体验,带来更便捷、更高效的生活。

在这个边缘AI风起云涌的时代,各种芯片厂商都在积极布局,试图在这块潜力巨大的市场分一杯羹。而其中一家拥有深厚技术底蕴的公司——Imagination Technologies,正以一种特别的方式迎接挑战:押注GPU的“AI进化”。

边缘AI的浪潮:为何选择此时?

边缘AI的兴起并非偶然,它是多种技术发展和市场需求叠加的必然结果。

首先,数据量的爆炸式增长让云端计算面临巨大压力。随着物联网设备的普及,海量数据在终端产生,如果所有数据都上传到云端进行处理,不仅会消耗巨大的带宽资源,还会产生较高的延迟,无法满足许多实时性应用的需求,比如自动驾驶汽车需要毫秒级的决策能力。边缘AI则可以在数据产生地附近进行处理,显著降低延迟,提高响应速度。

其次,隐私和安全问题日益受到重视。将敏感数据上传到云端存在一定的安全风险,而边缘AI可以在本地处理数据,有效保护用户隐私。

最后,成本也是一个重要考量。持续的数据传输和云端计算需要支付相应的费用,将部分计算任务转移到边缘设备,可以降低对云端资源的依赖,从而降低总体成本。

正是在这样的背景下,边缘AI市场呈现出蓬勃发展的态势。IDC研究总监Phil Solis指出,“边缘AI系统设计者在平衡性能、效率和灵活性方面仍然面临挑战。” 市场研究数据显示,全球边缘计算市场规模正在快速增长,预计未来几年将达到数百亿美元的规模。

Imagination的“AI进化”之路:从NPU到GPU

Imagination Technologies是一家在图形处理领域拥有长期积累的公司,其PowerVR GPU技术被广泛应用于智能手机、平板电脑、汽车等众多设备中。 面对边缘AI的机遇,Imagination也早有布局,此前曾开发独立的神经网络加速器(NPU)。然而,公司最近调整了AI战略,决定停止独立的NPU研发,转而将AI功能深度集成到其GPU产品线中,也就是“押注GPU的AI进化”。

这一战略转变的背后,是Imagination对边缘AI市场和技术发展趋势的深刻理解。Imagination认为,专有软件堆栈的复杂性难以跟上AI客户多样化需求的快速演进,而这些需求往往需要定制化的解决方案。 相比之下,GPU作为通用的并行处理器,在处理AI工作负载方面具有天然的优势。 GPU包含数千个核心,可以并行处理AI模型中的计算任务,提供高效的计算能力。 同时,GPU在能效和数据移动效率方面也积累了丰富的经验。

Imagination的执行官Tim Mamtora表示,AI有两种方法可以实现:一种是NPU,效率高但灵活性有限;另一种是GPU,天生灵活,可以通过增加额外的AI专用计算功能来增强性能。 Imagination选择后者,是因为他们相信基于GPU的方案可以更好地平衡灵活性和性能,尤其适用于本身已经搭载GPU的设备,如智能手机。

为了支持这一转型,Imagination正在将之前为NPU开发的技术(例如图形编译器)重新利用并集成到其GPU堆栈中,充分发挥其优势,提升在AI工作负载方面的竞争力。

E-Series GPU:承载AI进化的新篇章

Imagination最新推出的E-Series GPU IP,正是其GPU“AI进化”战略的最新成果。 这款GPU专为边缘AI设计,将高性能图形处理与AI加速能力深度融合。

E-Series GPU的核心优势体现在两项创新技术上:Neural Cores(神经核)和Burst Processors(爆发式处理器)。

  • Neural Cores: 作为AI加速的核心引擎,Neural Cores通过硬件级优化显著提升了AI算力。其INT8/FP8精度算力可扩展至2到200 TOPS,相比前代D-Series提升了400%的AI性能。 这得益于对多格式AI数值格式的支持,以及更友好的内存架构。每个统一着色器集群(USC)配备双倍于同类边缘GPU的寄存器存储空间,有效减少了数据搬运带来的能耗。
  • Burst Processors: 这项新技术通过缩短计算单元间的数据传输路径,提升片上缓存命中率,实现了平均35%的能效提升。 这种提升完全基于硬件架构创新,可以在AI推理、游戏和用户界面等工作负载下实现更高的能效。

E-Series GPU不仅在AI性能上实现了突破,还延续了PowerVR架构在图形处理方面的强大能力,并支持光线追踪等先进技术。 其算力可以通过主流API调用,并支持16个虚拟机,具备良好的多任务处理能力和QoS支持。

IDC研究总监Phil Solis认为,Imagination凭借其在能效方面的长期经验,成功地将GPU演进为能够灵活支持图形和AI工作负载的方案。 E-Series将GPU的可编程性与增强的AI性能相结合,为边缘AI系统设计者提供了引人注目的解决方案。

未来展望:GPU作为边缘AI的核心驱动力

Imagination押注GPU的“AI进化”,是将GPU置于图形与边缘AI系统核心的战略选择。 这种方案无需额外的处理器,就能降低成本并实现可扩展性。

随着神经渲染、生成式AI等技术的不断成熟,边缘设备需要更强大的本地计算能力来支持这些复杂应用。 将AI功能深度集成到GPU中,可以充分利用GPU的并行处理能力和内存架构优势,为未来的边缘AI应用提供强大的算力支撑。

Imagination的E-Series GPU IP的首款产品预计于2025年秋季上市,并同步开发汽车等不同版本的IP,为边缘人工智能和图形系统设计提供新的选择。 这种将AI与图形处理能力融合的GPU方案,有望在智能手机、自动驾驶汽车、工业视觉等领域发挥重要作用,推动边缘AI的进一步普及和发展。

可以预见,随着技术的不断演进,GPU将在边缘AI领域扮演越来越重要的角色,而Imagination的“AI进化”战略,无疑是抓住这一趋势的关键一步。