• 投稿

超越顶级GPU带宽41倍!TOM加速器通过三进制技术,让端侧大模型告别延迟

1.4万
22
2026-03-27 14:21:20
267
26
309
52
针对大语言模型在边缘侧面临的“内存之墙”挑战,本研究提出了一种三进制只读存储器(TOM)加速器。该方案针对1.58-bit量化模型的高稀疏度特性,通过将三值权重直接合成为标准单元逻辑,消除了零值占用的物理空间,实现了高达 15.0 MB/mm² 的存储密度。TOM 采用全分布式处理架构,使数据无需跨越长距离总线,在 5.33W 功耗下释放出 200 TB/s 的聚合带宽,推理吞吐量达 3306 TPS。该技术为机器人、智能手机等终端实现低延迟、高能效的离线 AI 推理提供了新的硬件范式,但在模型灵活性上仍依赖于 ROM-SRAM 的混合设计。
只讲真正改变范式的前沿研究:Agent、记忆、具身智能、多模态与生成式AI,脑与认知启发,AI医学/数学/物理/化学,AI硬件
AI硬件设计
(8/27)
4.1万播放
简介
攻克工业级3D建模的效率瓶颈:GenCAD通过扩散先验实现从视觉直觉到B-rep实体的跨越
10:51
跨越射频芯片设计的“物理实现鸿沟”:AI驱动电磁感知,实现从网表到版图的全流程进化
09:57
“能不能做”还是“有多难做”?BenDFM重定义钣金评估维度,让AI精准识别物理碰撞与加工冗余
08:17
哈佛MIT发布DeviceAgent:多模态自主助手重塑柔性电子研发,实现科研全链路自动化
07:28
像人类一样构建几何:ReCAD模拟分层认知规律,破解3D生成中的空间理解瓶颈
09:24
实现AI推理零静态功耗:SKYLIGHT引入非易失相变材料,在物理层面固化大规模权重矩阵
08:56
物理与数学的绝妙平衡:AetherFloat利用四进制波动实现良性正则化,以微小精度损耗换取巨大硅片收益
09:46
超越顶级GPU带宽41倍!TOM加速器通过三进制技术,让端侧大模型告别延迟
09:03
让电子在光子丛林中精准穿行:物理感知引擎消除99%过孔,攻克光电协同瓶颈
09:23
告别低效数据清理:DUCTILE框架通过代理式LLM协作,重塑航空级产品开发的自动化范式
10:57
破解 6G 高频传输悖论:AutoBS 以全自动部署框架与数万倍感知效率,终结传统射线追踪的计算梦魇
09:06
终结冯诺依曼架构下的计算瓶颈:模拟忆阻器实现39倍能效跃升,开启全存内仿生计算新纪元
10:05
怎样让光子AI识图率暴涨至97%?浙大仅用两根光纤环攻克光计算深度难题
11:07
32倍能效刷新纪录!清华联合MIT用阻变存储器芯片实现无损3D重建
11:27
苏黎世联邦理工用AI搞设计,说句话自动3D打印,发布EngiAI
09:31
让芯片摆脱外部电脑自主学习?波尔图大学等用自旋电子硬件打破存算瓶颈
09:57
终结芯片设计Bug:FormalRTL引入形式化验证,让AI生成的工业级代码实现100%等价正确
09:27
HWE-Bench:北大用417个真实漏洞,让AI大模型直面芯片设计大考
12:34
让 AI 轻松吞吐百万字历史记忆:异构计算突破推理容量瓶颈,解决智能体长文档解析慢难题
10:16
驶出隧道不再瞬间致盲,电子科大用自适应传感器破解自动驾驶强光难题
11:58
让边缘AI实现纳秒级光速响应,华科大联手浙大研发光子芯片突破ADC瓶颈
09:10
节省16倍显存带宽:FlatAttention以片上网络协同优化实现4.1倍注意力提速
10:20
让AI生成速度飙升116倍,清华港大等联合研发存算一体芯片加速扩散模型
10:19
仿真速度飙升10万倍:DeepStack挑战千万亿级配置空间,精准定义下一代3D芯片架构
11:14
提速50倍的软硬协同验证:FireBridge通过原生x86执行打破仿真瓶颈,实现秒级调试闭环
08:12
Nature子刊揭示AI映射新范式:MPS超网络通过全局同步探索,驱动混合精度计算效率飞跃
09:10
模拟芯片设计自动化新范式:AnaFlow协同多智能体工作流,利用电路认知实现精准尺寸调优
08:15
客服
顶部
赛事库 课堂 2021拜年纪