IA local o IA en la nube: qué ganas y qué pierdes con cada una
La comparación suele plantearse como una guerra de bandos y en realidad son dos compromisos distintos, cada uno razonable en su sitio. Lo útil es saber qué se paga en cada caso: la nube se paga en dato que sale y en factura por uso; lo local se paga en memoria y en calidad del modelo. Con Mycel la decisión no es de plataforma: el mismo Nodo hace las dos cosas.
Lo que gana lo local
Con un modelo local no añades un proveedor de inferencia externo: el modelo procesa el contexto en el Nodo. El encargo y la respuesta siguen transitando por el relevo de Mycel sin persistirse, por lo que cada despliegue debe valorar esa cadena y sus obligaciones.
También gana en coste marginal: una vez tienes la máquina, las tareas no se pagan. Puedes lanzar mil sin mirar un contador, y eso cambia lo que te atreves a automatizar.
Lo que gana la nube
Calidad y arranque. Los modelos de frontera siguen siendo mejores que lo que cabe en 24 GB, y con una clave de API empiezas hoy en el portátil que ya tienes, sin comprar nada. Para tareas largas y enrevesadas se nota.
Y hay que decir el precio real: pagas por uso a la tarifa del proveedor, y tus prompts llegan a él. En Mycel ese envío va del Nodo directamente al proveedor que tú elijas, sin pasar por nuestros servidores, y la clave nunca se guarda en la plataforma. Sigue siendo un envío, y valorarlo es tuyo.
La tercera vía, y por qué no hay que elegir para siempre
Existe el Nodo Cloud: sigue siendo tu Nodo, en un servidor europeo alquilado por ti a tu proveedor, con el modelo corriendo ahí y con GPU. Cubre el caso de quien quiere control sin comprar hardware, y el de los chatbots públicos, que necesitan una máquina siempre encendida.
Y en cualquiera de los tres casos, la parte que no cambia es que las herramientas corren en tu máquina y los ficheros se quedan en tu disco. Cambiar de modelo es cambiar una opción en el Panel, no migrar de producto: se puede empezar con API y pasar a local cuando llegue el hardware.
Cómo funciona, paso a paso
- Miras la memoria de tu equipo: 24 GB entre GPU y RAM es la línea del modo local.
- Si llegas, instalas Ollama, descargas un modelo de 30B y trabajas sin que salga nada.
- Si no llegas, conectas tu clave de API y empiezas hoy con el equipo que tienes.
- Cambias de una a otra desde el Panel cuando quieras, sin migrar nada.
Qué necesitas
- Para local: Ollama con un modelo de 30B (~24 GB). Por debajo, las tareas largas se tuercen.
- Para API: tu clave del proveedor que elijas. Pagas su tarifa, no la nuestra.
- Para Nodo Cloud: un servidor europeo con GPU, alquilado por ti.
Qué te llevas
- El mismo agente y sus más de 40 herramientas, decidas el modelo que decidas.
- Los ficheros en tu disco en los tres casos: local, API o Nodo Cloud.
- La traza exportable de lo que se hizo, también igual en los tres.
Más preguntas
¿Un modelo local es mucho peor?
A partir de 30B es perfectamente utilizable para trabajo de varios pasos. Por debajo se nota mucho: responde bien a preguntas sueltas y pierde el hilo en tareas largas. Los modelos de frontera siguen siendo mejores en ese terreno.
¿Puedo mezclar las dos?
Sí. El Panel lista los modelos que cada Nodo ve y eliges con cuál trabajar. Nada impide tener un Nodo local para lo sensible y otro con API para lo que no lo es.
¿Mis prompts pasan por vuestros servidores si uso API?
No. Van de tu Nodo directamente al proveedor que hayas configurado, con tu clave, y la clave vive en tu equipo: la plataforma nunca la ve. Por nuestro relevo pasan el encargo y los entregables, que es como llegan del navegador a tu Nodo y de vuelta, pero no se guardan: las peticiones viven en memoria mientras están en vuelo y se borran al resolverse.
Pruébalo con tus propios documentos
Creas la cuenta, abres el Nodo y le encargas la primera tarea. Es gratis y sin cuota por tarea: el cómputo lo pone tu equipo, así que no hay contador de tareas.