L

llama.cpp

CPU と GPU でプレーン C++ により LLM を実行。

llama.cppって何?

llama.cppはmy9aiのオープン&ローカルカテゴリにあるAIプロダクトです。 CPU と GPU でプレーン C++ により LLM を実行。 公式のllama.cppページで詳しく見る。

llama.cppをざっくり見る
タイプ製品
カテゴリオープン&ローカル
公式サイトgithub.com/ggml-org/llama.cpp
my9aiカード数0
似た選択肢Ollama, LM Studio, Open WebUI, SillyTavern

何人がllama.cppを使ってる?

まだ誰もllama.cppをカードに入れていません。最初のカードが数字を作ります。

数字はリアルタイムで更新されます。今週のトレンドAIをチェック!

llama.cpp に関する内輪ネタ

GPU poor

SemiAnalysisが世界をGPU-richとGPU-poorに分けた。Local-model派はそのラベルを誇らしげに身に着けている。

出典 · 2023-08

全AIミーム →

他のオープン&ローカルAI

llama.cppを作ってる?バッジを追加しよう

自分の9つにllama.cppが何人入ってるかを表示。サイトやREADMEに貼ってね:

llama.cpp on my9ai badge
<a href="https://my9ai.com/tools/llama-cpp"><img src="https://my9ai.com/badge/llama-cpp.svg" alt="llama.cpp on my9ai" height="28"></a>