vLLM中AMD GPU上的推测解码

vLLM项目通过推测解码技术优化了AMD GPU上的大型语言模型性能,提升了速度和硬件可访问性。