El hardware que hace falta para ejecutar IA en local, con el número delante
Casi todas las guías de IA local terminan en «depende». Depende, sí, pero hay una línea concreta por debajo de la cual un agente deja de servir para trabajo autónomo, y decirla es más útil que una tabla de veinte modelos. Para Mycel esa línea es un modelo de 30B, del orden de 24 GB entre GPU y RAM.
Por qué 30B y no menos
Un modelo pequeño responde bien a una pregunta suelta. En una tarea de varios pasos (abrir la carpeta, leer doce PDF, extraer campos, escribir el Excel, comprobar los totales) pierde el hilo, se olvida de lo que ya hizo y acaba entregando algo que parece un resultado sin serlo. Eso no lo arregla el andamiaje.
Mycel ajusta las instrucciones al modelo que tiene delante: con un modelo local pequeño usa un guion más estrecho, y con un modelo capaz le da el juego completo de herramientas. Pero ningún guion arregla un modelo que no da la talla, y por eso el requisito se dice antes de que te descargues nada.
GPU, RAM y la parte que no es el modelo
Los 24 GB son de memoria donde quepa el modelo: en VRAM de la GPU es donde va rápido, y en RAM funciona pero lento. Si tienes que elegir dónde invertir, la memoria manda sobre casi todo lo demás.
El resto del sistema pide poco: el Nodo es un único ejecutable sin dependencias más allá de su librería de sockets, sin instalador ni Docker, y las herramientas que ejecuta, como abrir ficheros, generar un Excel o llamar a una API, no necesitan nada especial. Lo caro es el modelo, no el agente.
Si tu equipo no llega, dos salidas y ningún drama
La primera es tu clave de API: el modelo corre fuera, los prompts van de tu Nodo directamente al proveedor que elijas sin pasar por nuestros servidores, y en tu máquina se ejecutan solo las herramientas. Funciona en cualquier portátil y los ficheros siguen en tu disco.
La segunda es un Nodo Cloud con GPU: sigue siendo tu Nodo, en un servidor europeo, con el modelo corriendo ahí. Y en los dos casos puedes pasarte a local el día que tengas la máquina: cambiar de modelo es elegir otra opción en el Panel, no migrar de producto.
Cómo funciona, paso a paso
- Miras la memoria de tu GPU y la RAM del equipo, y las sumas mentalmente contra 24 GB.
- Si llegas, instalas Ollama y descargas un modelo de 30B.
- Abres el Nodo, lo emparejas con tu cuenta y el Panel te lista los modelos que ve.
- Le encargas una tarea de varios pasos y juzgas por el resultado, no por la conversación.
Qué necesitas
- Ollama con un modelo de 30B: del orden de 24 GB entre GPU y RAM.
- Windows, macOS o Linux. El Nodo es un ejecutable y no necesita instalación.
- Si no llegas a esa memoria, tu clave de API o un Nodo Cloud con GPU.
Qué te llevas
- Un agente que trabaja sin que nada salga de la máquina, prompts incluidos.
- Los ficheros que produce, escritos directamente en tu disco.
- La misma traza y las mismas 42 herramientas que con un modelo de API.
Más preguntas
¿Vale con mucha RAM aunque la GPU sea justa?
Funciona, pero lento: el modelo cabe y responde despacio. Si el trabajo es por lotes y nocturno puede compensar; si esperas delante de la pantalla, no. La memoria de GPU es lo que marca la diferencia de velocidad.
¿Qué precio tiene ese hardware?
No damos cifras de precio porque cambian cada pocos meses y una desactualizada hace un mal presupuesto. El dato estable, el que necesitas para pedirlo, es la memoria: unos 24 GB para un modelo de 30B.
¿El Nodo necesita instalar muchas cosas?
Un único ejecutable para Windows, macOS o Linux: lo abres, pegas el token y queda emparejado. Lo único que se instala aparte es Ollama, y solo si quieres el modo 100 % local.
Pruébalo con tus propios documentos
Creas la cuenta, abres el Nodo y le encargas la primera tarea. Es gratis e ilimitado: el cómputo lo pone tu equipo, así que no hay nada que racionar.