会员服务
Modern Hardware Security: A Review of Attacks and Countermeasures
Arxiv
0+阅读 · 1月8日
Revisiting Cache Freshness for Emerging Real-Time Applications
Arxiv
0+阅读 · 2024年12月28日
Adaptive Contextual Caching for Mobile Edge Large Language Model Service
Arxiv
0+阅读 · 1月16日
Multi-matrix Factorization Attention
Arxiv
0+阅读 · 2024年12月26日
Multi-matrix Factorization Attention
Arxiv
0+阅读 · 1月14日
HashEvict: A Pre-Attention KV Cache Eviction Strategy using Locality-Sensitive Hashing
Arxiv
0+阅读 · 2024年12月24日
Mell: Memory-Efficient Large Language Model Serving via Multi-GPU KV Cache Management
Arxiv
0+阅读 · 1月12日
CORD: Co-design of Resource Allocation and Deadline Decomposition with Generative Profiling
Arxiv
0+阅读 · 1月14日
Parallel Key-Value Cache Fusion for Position Invariant RAG
Arxiv
0+阅读 · 1月13日
PATCHEDSERVE: A Patch Management Framework for SLO-Optimized Hybrid Resolution Diffusion Serving
Arxiv
0+阅读 · 1月16日
Efficient LLM Inference with Activation Checkpointing and Hybrid Caching
Arxiv
0+阅读 · 1月3日
ByteFS: System Support for (CXL-based) Memory-Semantic Solid-State Drives
Arxiv
0+阅读 · 1月9日
A Survey on Large Language Model Acceleration based on KV Cache Management
Arxiv
0+阅读 · 2024年12月27日
A Survey on Large Language Model Acceleration based on KV Cache Management
Arxiv
0+阅读 · 1月2日
MPCache: MPC-Friendly KV Cache Eviction for Efficient Private Large Language Model Inference
Arxiv
0+阅读 · 1月12日
参考链接
微信扫码咨询专知VIP会员
Top