华人团队推出Medusa简单框架 可将LLM推理速度提高2倍

来自普林斯顿、UIUC等机构的华人团队提出一个用于加速大型语言模型（LLM）推理速度的简单框架Med