Alojamiento VPS Docker para Ollama

Ollama es una herramienta gratuita y de código abierto que descarga y ejecuta modelos de lenguaje grandes abiertos en tu propia máquina o servidor. El proyecto tiene licencia MIT e incluye una interfaz de línea de comandos limpia, descarga automática de modelos, manejo de cuantización, detección de GPU y CPU, y una API REST compatible con OpenAI en el puerto 11434. Admite familias de modelos como Llama, Mistral, Gemma, DeepSeek, Phi y Qwen, junto con modelos de visión y modelos de embeddings para generación aumentada por recuperación. El resumen es gestor de paquetes más servidor de inferencia combinados en una sola herramienta.

No, Ollama funciona solo con CPU, con el rendimiento como compensación. Una CPU moderna de 8 núcleos en un modelo de 7B cuantizado produce aproximadamente entre 5 y 15 tokens por segundo, mientras que una GPU de gama alta en el mismo modelo obtiene entre 40 y 80 tokens por segundo o más. Para modelos pequeños como Llama 3.2 3B o Phi-3.5 3.8B, el rendimiento solo de CPU es cómodo en un VPS y es un valor predeterminado sensato para trabajo enfocado en la privacidad que no necesita velocidad de frontera a escala.

Los archivos de modelos Q4_K_M predeterminados tienen unos pocos gigabytes cada uno. Un modelo de 7B es de unos 4,1 GB en disco, un modelo de 8B de unos 4,6 GB, un modelo de 13B de unos 7,9 GB y un modelo de 70B de unos 40 GB. Descargar varios modelos para diferentes tareas se acumula rápidamente, ya que cada nueva etiqueta descarga un archivo separado. Los modelos de embeddings son más pequeños, en los cientos de megabytes. Para un servidor Ollama personal, entre 64 y 100 GB de almacenamiento SSD da espacio para unos pocos modelos de tamaño mediano y crecimiento.

La biblioteca de Ollama tiene más de 4.500 modelos a mayo de 2026, con tamaños desde 1B parámetros hasta más de 70B. Las principales familias incluyen Llama de Meta, Mistral, Gemma de Google, DeepSeek, Phi de Microsoft, Qwen de Alibaba y gpt-oss, además de entradas más recientes como Kimi, GLM y MiniMax. Los modelos de visión como LLaVA aceptan imágenes junto con texto. Los modelos de embeddings como nomic-embed-text producen vectores de 768 dimensiones para trabajo de generación aumentada por recuperación sobre tus propios archivos.

Ollama es un motor común para trabajo de generación aumentada por recuperación local sobre tus propios archivos. El endpoint /api/embeddings y un modelo de embeddings como nomic-embed-text producen vectores de 768 dimensiones que se combinan con almacenes vectoriales como Chroma, Weaviate o pgvector. Frameworks como LangChain y LlamaIndex tienen adaptadores integrados que apuntan a una URL base de Ollama, para que un chatbot RAG privado sobre tus propios documentos pueda ejecutarse de extremo a extremo en el mismo VPS, sin enviar ningún dato fuera de tu propia infraestructura.

El motor Ollama es gratuito bajo la licencia MIT, y los modelos de código abierto que ejecuta también son gratuitos. No hay cargos por token ni límites de velocidad, por lo que el único coste continuo es el hardware y la electricidad de tu servidor. Ollama Inc. ahora también vende un nivel alojado de pago opcional llamado Ollama Cloud, con planes mensuales para modelos más grandes que necesitan GPUs de datacenter. El plan alojado no es necesario para uso local o autoalojado de ningún tipo en 2026.

Una regla general es aproximadamente 0,6 GB de memoria por mil millones de parámetros a la cuantización Q4_K_M predeterminada, más espacio para la ventana de contexto que el modelo mantiene. En la práctica, 8 GB de RAM ejecuta cómodamente un modelo de 7B, 16 GB ejecuta un modelo de 13B, y 32 GB es el espacio recomendado para cargas de trabajo de 13B y superiores en CPU. Los modelos más grandes, los contextos más largos y las solicitudes concurrentes aumentan el requisito. Un VPS en ese rango de 8 a 32 GB se adapta a la mayoría de los trabajos personales y de equipos pequeños.

Una vez que un modelo ha sido descargado al disco, Ollama no necesita internet para usarlo. El chat, la completación, los embeddings y la generación aumentada por recuperación se ejecutan localmente contra los archivos en tu directorio de Ollama. El motor solo se comunica con internet nuevamente cuando descargas un nuevo modelo o buscas una actualización. Esa es la razón principal por la que los equipos en entornos de finanzas, salud y gobierno eligen Ollama: los prompts y las respuestas permanecen en tu propia infraestructura, incluso en un servidor aislado sin enlace externo.

Ollama tiene dos APIs que comparten el mismo motor. La API REST nativa en el puerto 11434 cubre /api/chat, /api/generate, /api/embeddings, /api/pull, /api/delete y un endpoint /api/ps para inspeccionar modelos en ejecución. La API compatible con OpenAI está en /v1 en el mismo puerto y refleja las rutas de OpenAI para completaciones de chat, completaciones, embeddings y listado de modelos. Las aplicaciones construidas contra el SDK de OpenAI pueden cambiar a un backend local de Ollama con solo un cambio de URL base en la configuración del cliente.

Un VPS es una de las configuraciones más comunes para la herramienta. Un VPS con 4 a 16 GB de RAM, algunos núcleos de CPU y entre 50 y 100 GB de almacenamiento SSD gestiona modelos pequeños y medianos como Llama 3.2 3B, Phi-3.5 3.8B y variantes cuantizadas de 7B cómodamente para la mayoría de usos. Los modelos más grandes y las cargas de producción de alta concurrencia funcionan mejor en hardware acelerado por GPU, pero la mayoría de los casos de uso personales, de equipo y RAG encajan en un VPS solo de CPU sin muchos problemas.