Ollama
TrendingEjecuta modelos de IA localmente en tu ordenador
¿Qué es Ollama?
Ollama es la forma más sencilla de ejecutar LLMs localmente. Con un solo comando puedes descargar y ejecutar Llama 3, Mistral, DeepSeek, Phi, Gemma y docenas de modelos más. Ofrece una API REST compatible con OpenAI, integración con Open WebUI para interfaz gráfica, y soporte GPU para máxima velocidad.
Características principales
Ventajas
- 100% local, máxima privacidad
- Totalmente gratuito
- Fácil instalación
- Compatible con OpenAI API
- Soporte GPU acelerada
- Cientos de modelos disponibles
Desventajas
- Requiere hardware potente para modelos grandes
- Sin interfaz web nativa (necesita Open WebUI)
- Modelos grandes ocupan mucho disco
Casos de uso
Precios
Completamente gratuito y open-source
Preguntas frecuentes sobre Ollama
¿Qué hardware necesito para Ollama?
Para modelos pequeños (7B) necesitas al menos 8GB RAM. Para modelos 13B, 16GB RAM. Para 70B, 32-64GB RAM o GPU con mucha VRAM. Con GPU Nvidia o AMD obtienes velocidades muy superiores.
¿Cómo instalo Ollama?
Descarga el instalador desde ollama.com, ejecuta y listo. Luego abre terminal y escribe: ollama run llama3 (o el modelo que quieras).
Alternativas a Ollama
Mistral AI
Mistral AI desarrolla modelos de lenguaje de código abierto muy eficientes que compiten con los mejores modelos propietarios, disponibles via API y para despliegue local.
DeepSeek
DeepSeek es un modelo de lenguaje de código abierto desarrollado en China que sorprendió al mundo por su rendimiento comparable a GPT-4o a una fracción del coste de entrenamiento.