会员服务
From Principles to Practice: A Systematic Study of LLM Serving on Multi-core NPUs
Arxiv
0+阅读 · 10月7日
ReGate: Enabling Power Gating in Neural Processing Units
Arxiv
0+阅读 · 10月3日
Scaling LLM Test-Time Compute with Mobile NPU on Smartphones
Arxiv
0+阅读 · 9月27日
Benchmarking Ultra-Low-Power $μ$NPUs
Benchmarking Ultra-Low-Power $μ$NPUs
Arxiv
0+阅读 · 3月28日
NVR: Vector Runahead on NPUs for Sparse Memory Access
Arxiv
0+阅读 · 3月17日
NVR: Vector Runahead on NPUs for Sparse Memory Access
Arxiv
0+阅读 · 2月19日
ActNAS : Generating Efficient YOLO Models using Activation NAS
Arxiv
0+阅读 · 2024年11月15日
IANUS: Integrated Accelerator based on NPU-PIM Unified Memory System
Arxiv
0+阅读 · 2024年10月19日
Neural Architecture Search of Hybrid Models for NPU-CIM Heterogeneous AR/VR Devices
Arxiv
0+阅读 · 2024年10月10日
ActNAS : Generating Efficient YOLO Models using Activation NAS
Arxiv
0+阅读 · 2024年10月11日
Hardware-Assisted Virtualization of Neural Processing Units for Cloud Platforms
Arxiv
0+阅读 · 2024年9月13日
Hardware-Assisted Virtualization of Neural Processing Units for Cloud Platforms
Arxiv
0+阅读 · 2024年8月30日
Cambricon-LLM: A Chiplet-Based Hybrid Architecture for On-Device Inference of 70B LLM
Arxiv
0+阅读 · 2024年9月24日
Deeploy: Enabling Energy-Efficient Deployment of Small Language Models On Heterogeneous Microcontrollers
Arxiv
0+阅读 · 2024年8月8日
Hardware-Assisted Virtualization of Neural Processing Units for Cloud Platforms
Arxiv
0+阅读 · 2024年8月7日
参考链接
微信扫码咨询专知VIP会员
Top