SemiAnalysis dividiu o mundo em GPU-ricos e GPU-pobres. Fãs de modelos locais usam o rótulo com orgulho.
Fonte · 2023-08L
llama.cpp
Executa LLMs em CPUs e GPUs usando C++ puro.
O que é llama.cpp?
llama.cpp é um produto de IA na categoria Aberto e local no my9ai. Executa LLMs em CPUs e GPUs usando C++ puro. Saiba mais na página oficial do llama.cpp.
| Tipo | produto |
|---|---|
| Categoria | Aberto e local |
| Site oficial | github.com/ggml-org/llama.cpp |
| Nos cards do my9ai | 0 |
| Escolhas semelhantes | Ollama, LM Studio, Open WebUI, SillyTavern |
Quantas pessoas usam llama.cpp?
Ninguém ainda colocou llama.cpp num card. O primeiro card com ele define os números aqui.
Números atualizam ao vivo a partir dos cards que a galera publica. Veja as IAs em alta nesta semana.
Piadinhas internas sobre llama.cpp
Outras IAs de Aberto e local
Você cria llama.cpp? Adicione a badge
Mostre quantas pessoas colocaram llama.cpp nos seus nove. Cole isso no seu site ou README:
<a href="https://my9ai.com/tools/llama-cpp"><img src="https://my9ai.com/badge/llama-cpp.svg" alt="llama.cpp on my9ai" height="28"></a>