cpu

16 out 2026 · ia, llama.cpp, cpu · 5 min

Rodar um modelo de linguagem na CPU com llama.cpp

O llama.cpp roda um modelo de linguagem inteiro numa CPU sem GPU: binário de 17 MB, modelo quantizado de 468 MiB e cerca de 50 tokens por segundo de geração. O script baixa, mede e testa.