SemiAnalysisが世界をGPU-richとGPU-poorに分けた。Local-model派はそのラベルを誇らしげに身に着けている。
出典 · 2023-08L
llama.cpp
CPU と GPU でプレーン C++ により LLM を実行。
llama.cppって何?
llama.cppはmy9aiのオープン&ローカルカテゴリにあるAIプロダクトです。 CPU と GPU でプレーン C++ により LLM を実行。 公式のllama.cppページで詳しく見る。
| タイプ | 製品 |
|---|---|
| カテゴリ | オープン&ローカル |
| 公式サイト | github.com/ggml-org/llama.cpp |
| my9aiカード数 | 0 |
| 似た選択肢 | Ollama, LM Studio, Open WebUI, SillyTavern |
何人がllama.cppを使ってる?
まだ誰もllama.cppをカードに入れていません。最初のカードが数字を作ります。
llama.cpp に関する内輪ネタ
他のオープン&ローカルAI
llama.cppを作ってる?バッジを追加しよう
自分の9つにllama.cppが何人入ってるかを表示。サイトやREADMEに貼ってね:
<a href="https://my9ai.com/tools/llama-cpp"><img src="https://my9ai.com/badge/llama-cpp.svg" alt="llama.cpp on my9ai" height="28"></a>