会员服务
NeuPIMs: NPU-PIM Heterogeneous Acceleration for Batched LLM Inferencing
Arxiv
0+阅读 · 3月29日
Characterizing Soft-Error Resiliency in Arm's Ethos-U55 Embedded Machine Learning Accelerator
Arxiv
0+阅读 · 4月14日
Mobile Foundation Model as Firmware
Arxiv
0+阅读 · 3月12日
Rethinking Mobile AI Ecosystem in the LLM Era
Arxiv
0+阅读 · 3月11日
NeuPIMs: NPU-PIM Heterogeneous Acceleration for Batched LLM Inferencing
NeuPIMs: NPU-PIM Heterogeneous Acceleration for Batched LLM Inferencing
Arxiv
0+阅读 · 3月5日
NeuPIMs: A NPU-PIM Heterogeneous Acceleration for Batched Inference of Large Language Model
Arxiv
0+阅读 · 3月1日
Rethinking Mobile AI Ecosystem in the LLM Era
Arxiv
0+阅读 · 2023年8月28日
Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural Networks on Edge NPUs
Arxiv
0+阅读 · 2023年8月4日
Arithmetic Intensity Balancing Convolution for Hardware-aware Efficient Block Design
Arxiv
0+阅读 · 2023年4月8日
Tensor Slicing and Optimization for Multicore NPUs
Arxiv
0+阅读 · 2023年4月6日
VPU-EM: An Event-based Modeling Framework to Evaluate NPU Performance and Power Efficiency at Scale
Arxiv
0+阅读 · 2023年3月17日
UDC: Unified DNAS for Compressible TinyML Models
Arxiv
0+阅读 · 2023年1月5日
NAWQ-SR: A Hybrid-Precision NPU Engine for Efficient On-Device Super-Resolution
Arxiv
0+阅读 · 2022年12月15日
Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural Networks on Edge NPUs
Arxiv
1+阅读 · 2022年9月27日
Efficient Heterogeneous Video Segmentation at the Edge
Efficient Heterogeneous Video Segmentation at the Edge
Arxiv
0+阅读 · 2022年8月24日
参考链接
微信扫码咨询专知VIP会员
Top