IA local o IA en la nube: qué ganas y qué pierdes con cada una
La comparación suele plantearse como una guerra de bandos y en realidad son dos compromisos distintos, cada uno razonable en su sitio. Lo útil es saber qué se paga en cada caso: la nube se paga en dato que sale y en factura por uso; lo local se paga en memoria y en calidad del modelo. Con Mycel la decisión no es de plataforma: el mismo Nodo hace las dos cosas.
Lo que gana lo local
Que el dato no sale, y con él se van varias conversaciones incómodas: no hay comunicación a un tercero, no hay transferencia internacional que justificar y no hay una cadena de subencargados que revisar. Con Ollama en local, ni siquiera el prompt sale de la máquina.
También gana en coste marginal: una vez tienes la máquina, las tareas no se pagan. Puedes lanzar mil sin mirar un contador, y eso cambia lo que te atreves a automatizar.
Lo que gana la nube
Calidad y arranque. Los modelos de frontera siguen siendo mejores que lo que cabe en 24 GB, y con una clave de API empiezas hoy en el portátil que ya tienes, sin comprar nada. Para tareas largas y enrevesadas se nota.
Y hay que decir el precio real: pagas por uso a la tarifa del proveedor, y tus prompts llegan a él. En Mycel ese envío va del Nodo directamente al proveedor que tú elijas, sin pasar por nuestros servidores, y la clave nunca se guarda en la plataforma. Sigue siendo un envío, y valorarlo es tuyo.
La tercera vía, y por qué no hay que elegir para siempre
Existe el Nodo Cloud: sigue siendo tu Nodo, en un servidor europeo, con el modelo corriendo ahí y con GPU. Cubre el caso de quien quiere control sin comprar hardware, y el de los chatbots públicos, que necesitan una máquina siempre encendida.
Y en cualquiera de los tres casos, la parte que no cambia es que las herramientas corren en tu máquina y los ficheros se quedan en tu disco. Cambiar de modelo es cambiar una opción en el Panel, no migrar de producto: se puede empezar con API y pasar a local cuando llegue el hardware.
Cómo funciona, paso a paso
- Miras la memoria de tu equipo: 24 GB entre GPU y RAM es la línea del modo local.
- Si llegas, instalas Ollama, descargas un modelo de 30B y trabajas sin que salga nada.
- Si no llegas, conectas tu clave de API y empiezas hoy con el equipo que tienes.
- Cambias de una a otra desde el Panel cuando quieras, sin migrar nada.
Qué necesitas
- Para local: Ollama con un modelo de 30B (~24 GB). Por debajo, las tareas largas se tuercen.
- Para API: tu clave del proveedor que elijas. Pagas su tarifa, no la nuestra.
- Para Nodo Cloud: un servidor europeo con GPU, alquilado por ti.
Qué te llevas
- El mismo agente y las mismas 42 herramientas, decidas el modelo que decidas.
- Los ficheros en tu disco en los tres casos: local, API o Nodo Cloud.
- La traza exportable de lo que se hizo, también igual en los tres.
Más preguntas
¿Un modelo local es mucho peor?
A partir de 30B es perfectamente utilizable para trabajo de varios pasos. Por debajo se nota mucho: responde bien a preguntas sueltas y pierde el hilo en tareas largas. Los modelos de frontera siguen siendo mejores en ese terreno.
¿Puedo mezclar las dos?
Sí. El Panel lista los modelos que cada Nodo ve y eliges con cuál trabajar. Nada impide tener un Nodo local para lo sensible y otro con API para lo que no lo es.
¿Mis prompts pasan por vuestros servidores si uso API?
No. Van de tu Nodo directamente al proveedor que hayas configurado, con tu clave, y la clave vive en tu equipo: la plataforma nunca la ve. Nuestro relevo transporta la orquestación, no el contenido.
Pruébalo con tus propios documentos
Creas la cuenta, abres el Nodo y le encargas la primera tarea. Es gratis e ilimitado: el cómputo lo pone tu equipo, así que no hay nada que racionar.