vLLM
高性能LLM推理引擎。
📖 工具简介
高性能LLM推理引擎。
vLLM是一个大语言模型领域的AI工具,价格模式为免费/开源。目前已被7739位用户浏览,1360位用户收藏。
✨ 功能标签
# 推理
vLLM支持推理相关功能,帮助用户高效完成推理任务。
# 高性能
vLLM支持高性能相关功能,帮助用户高效完成高性能任务。
# 开源
vLLM支持开源相关功能,帮助用户高效完成开源任务。
🏷 相关标签
💡 如何使用
1. 访问 https://vllm.ai
2. 注册或登录账号(如果需要)
3. 根据需求选择大语言模型相关功能
4. 开始使用vLLM提升你的工作效率