vLLM
빠른 오픈소스 LLM 서빙 엔진.
vLLM이 뭐죠?
vLLM은 my9ai의 오픈 & 로컬 카테고리에 속한 AI 제품입니다. 빠른 오픈소스 LLM 서빙 엔진. 공식 vLLM 페이지에서 더 알아보세요.
| 유형 | 제품 |
|---|---|
| 카테고리 | 오픈 & 로컬 |
| 공식 사이트 | docs.vllm.ai |
| my9ai 카드에 포함 | 0 |
| 비슷한 선택 | Ollama, LM Studio, Open WebUI, SillyTavern |
vLLM을(를) 쓰는 사람은?
아직 vLLM을(를) 카드에 넣은 사람이 없어요. 첫 카드가 통계를 만들 겁니다.
다른 오픈 & 로컬 AI
vLLM을(를) 만들었나요? 배지를 추가해 보세요
몇 명이 vLLM을(를) 아홉 개에 넣었는지 보여줍니다. 사이트나 README에 붙여넣으세요:
<a href="https://my9ai.com/tools/vllm"><img src="https://my9ai.com/badge/vllm.svg" alt="vLLM on my9ai" height="28"></a>