【冷静文&上海交通大学计算机学院】【2024】迈向Token服务新范式——从评测到调度的全链路优化供给-44页

冷静文&上海交通大学计算机学院 信息技术 2024年 PDF 8.94 MB

评测体系 Token服务质量 大模型推理引擎 智能路由 算力普惠化