首页 >

关于 >

新闻中心 >

公司新闻 >

“存算一体”:大模型时代端边算力瓶颈的破局者?

“存算一体”:大模型时代端边算力瓶颈的破局者?

发布时间

2025-08-18 11:31:16

作者:科技

分享:

【导语】随着信息时代数据量的爆炸性增长和人工智能技术的迅猛发展,传统冯·诺依曼架构在AI领域面临“功耗墙”和“内存墙”等严峻挑战。在此背景下,存算一体技术以其颠覆式的创新理念,试图打破这一僵局。本文将探讨存算一体技术如何突破冯·诺依曼架构的瓶颈,以及后摩智能等企业在该领域的探索与实践,特别是在大模型时代,存算一体技术如何重塑端边智能体验,引领算力革命的新篇章。

  近年来,随着信息时代的数据大爆炸以及人工智能浪潮的到来,尤其是大模型技术的广泛应用,其训练和推理所需处理的数据量呈指数级增长。而基于“存储-计算分离”原理的冯·诺依曼架构虽独具优势,但在AI浪潮中已显疲态,存在着不容忽视的局限。

  在传统冯・诺依曼架构中,数据需要在存储单元与计算单元间频繁搬运,导致大量的资源被浪费在数据搬运这一环节上。根据英特尔的研究表明,当半导体工艺达到7nm时,数据搬运功耗高达35pJ/bit,占总功耗的63.7%。数据传输造成的功耗损失越来越严重,限制了芯片发展的速度和效率,形成了“功耗墙”问题。

  此外,在冯·诺依曼架构中,存储器与处理器是两个完全分离的单元,处理器根据指令从存储器中读取数据、完成运算,并存回存(cún)储(chǔ)器(qì)。但(dàn)随着人工智能、大数据等新兴技术的迅猛发展,计算任务对数据处理的速度和规模提出了前所未有的高要求。而当下的存储器的数据访问速度跟不上计算单元的数据处理速度,二者之间形成了巨大的性能差距,“内存墙”问题日益凸显。

  面对大模型推理对算力需求的持续拉动,如何攻克“功耗墙”“内存墙”等难题已然成为了工业界和学术界的焦点问题,一场旨在突破现有算力瓶颈的(de)革(gé)命(mìng)正(zhèng)蓄(xù)势(shì)待(dài)发(fā)。

  在(zài)此(cǐ)背(bèi)景(jǐng)下(xià),“存(cún)算(suàn)一(yī)体(tǐ)”正(zhèng)试(shì)图(tú)用(yòng)一(yī)场(chǎng)颠(diān)覆(fù)式(shì)创(chuàng)新(xīn)打(dǎ)破(pò)这(zhè)一(yī)僵(jiāng)局(jú)。近(jìn)年(nián)来(lái),在(zài)半(bàn)导(dǎo)体(tǐ)工(gōng)艺(yì)持(chí)续(xù)突(tū)破(pò)与(yǔ)AI算(suàn)力(lì)需(xū)求(qiú)爆(bào)发(fā)的(de)双(shuāng)重(zhòng)推(tuī)动(dòng)下(xià),存(cún)算(suàn)一(yī)体(tǐ)技术迎来了新的发展机遇。

  从原理上来看,存算一体的核心是将存储功能与计算功能融合在同一个芯片上,直接利用存储单元进行数据处理——通过修改“读”电路的存内计算架构,可以在“读”电路中获取运算结果,并将结果直接“写”回存储器的目的地址,不再需要在计算单元和存储单元之间进行频繁的数据转移,消除了数据搬移带来的消耗,极大降低了功耗,大幅提升计算效率。

  正是基于这样的特性,存算一体有力地突破冯·诺依曼架构所面临的瓶颈限制。

  存算一体属于非冯诺伊曼架构,在特定领域可以提供更大算力(1000TOPS以上)和更高能效(超过10-100TOPS/W),明显超越现有ASIC算力芯片。除了用于AI计算外,存算技术也可用于感存算一体芯片和类脑芯片,代表了未来主流的大数据计算芯片架构。

  近年来,大模型的蓬勃发展与广泛应用,其对强(qiáng)大(dà)算(suàn)力(lì)和(hé)高(gāo)存(cún)储(chǔ)带(dài)宽(kuān)提(tí)出(chū)了(le)迫(pò)切(qiè)需(xū)求(qiú)。而(ér)存(cún)算(suàn)一(yī)体(tǐ)技(jì)术(shù)凭(píng)借(jiè)其(qí)解(jiě)决(jué)数(shù)据(jù)搬(bān)运(yùn)难(nán)题(tí)、显(xiǎn)著(zhe)提(tí)升(shēng)计(jì)算(suàn)效(xiào)率(lǜ)的(de)优(yōu)势(shì),与大模型的发展需求完美契合。与此同时,大模型计算的应用场景正从云端逐步向端边侧拓展延伸,这一趋势为存算一体技术带来了更为广阔的发展空间。

  根据量子位智库数据,预计2025年存算一体市场规模将达125亿元,随着技术成熟度提高以及大规模商用落地,至2030年这一市场规模将达1136亿元。

  面对极具潜力且规模不断扩张的市场前景,存算一体芯片成为了科技领域备受瞩目的焦点。越来越多的企业正竞相投身存算一体芯片领域,并不断加快布局进程。国内诸如恒烁股份、亿铸科技等企业,均依托自身优势在不同技术路线上积极开展探索,力求在存算一体芯片市场中占据一席之地。

  而在这股热潮下,后摩智能作为国内存算一体AI芯片的先行者和落地者,具有显著的代表性,其探索历程与实践成果生动展现出了我国存(cún)算(suàn)一(yī)体(tǐ)芯(xīn)片(piàn)技(jì)术(shù)的(de)多(duō)元(yuán)化(huà)发(fā)展(zhǎn)图(tú)景(jǐng)。

  在(zài)大(dà)模(mó)型(xíng)技(jì)术(shù)迅(xùn)猛(měng)发(fā)展(zhǎn)、应(yīng)用(yòng)场(chǎng)景(jǐng)持(chí)续(xù)拓(tà)展(zhǎn)的(de)大(dà)背(bèi)景(jǐng)下,市场对于适配大模型的高性能芯片需求日益迫切。基于这一趋势洞察,后摩智能凭借在存算一体技术领域的前瞻性布局与深厚技术积(jī)累,于2023年年底果断调整研发方向,将重点转向基于大模型的应用需求,全力投入存算一体AI芯片的研发工作。

  经过不懈努力与技术攻关,后摩智能迎来了重要时刻。在WAIC 2025期间,后摩智能的后摩漫界®M50芯片正式对外亮相,并同步推出力擎™系列M.2卡、力谋®系列加速卡及计算盒子等硬件组合,形成覆盖移动终端与边缘场景的完整产品矩阵。

  据了解,后摩漫界M50定位到了端边大模型应用场景。M50芯片采用存算一体计算架构,实现了160TOPS@INT8、100TFLOPS@bFP16的物理算力,搭配最大48GB内存与153.6GB/s的超高带宽,而典型功耗仅10W,相当于手机快充的功率。这一性能指标意味着,PC、智能语音设备、机器人等智能移动终端无需依赖云端,即可高效运行1.5B到70B参数的本地大模型,真正实现了“高算力、低功耗、即插即用”的愿景。

  后摩智能的M50芯片及其产品矩阵的发布,标志着端边智能新时代的正式开启。通过存算一体技术的深度融合,后摩智能成功解决了端边设备在算力、功耗与带宽方面的痛点,为消费终端、智能办公与智能工业等领域提供了高(gāo)效(xiào)、安全、低成本的AI解决方案。

  值得一提的是,8月27日,在深圳国际会展中心(宝安)举办的“IOTE 2025深圳・边缘计算产业生态大会”上,后摩智能产品市场负责人张伟超将发表“大模型时代的算力革命-‘存算一体’重塑端边智能体验”主题演讲,为我们带来更多后摩智能关于存算一体技术在端边算力提升路径、应用场景拓展以及与边缘计算生态深度融合等方面的结合与思考。

f692cc90be2e85801e0454889edf9c26.png

相关新闻

返回顶部