vLLM
高速オープンソース LLM サービングエンジン。
vLLMって何？
vLLMはmy9aiのオープン＆ローカルカテゴリにあるAIプロダクトです。 高速オープンソース LLM サービングエンジン。 公式のvLLMページで詳しく見る。
| タイプ | 製品 |
|---|---|
| カテゴリ | オープン＆ローカル |
| 公式サイト | docs.vllm.ai |
| my9aiカード数 | 0 |
| 似た選択肢 | Ollama, LM Studio, Open WebUI, SillyTavern |
何人がvLLMを使ってる？
まだ誰もvLLMをカードに入れていません。最初のカードが数字を作ります。
他のオープン＆ローカルAI
vLLMを作ってる？バッジを追加しよう
自分の9つにvLLMが何人入ってるかを表示。サイトやREADMEに貼ってね:
<a href="https://my9ai.com/tools/vllm"><img src="https://my9ai.com/badge/vllm.svg" alt="vLLM on my9ai" height="28"></a>