IA local

Hola, acabo de comprar un ordenador nuevo con la idea de separar el trabajo. No tengo demasiados conocimientos técnicos, pero me han comentado que existen herramientas de IA open source que se pueden ejecutar en local. Mi objetivo principal es crear imágenes y animaciones para vídeo. Me han sugerido varias opciones, pero antes de empezar a instalar sin criterio, prefiero hacerlo bien desde el principio. Hace un tiempo probé LLaMA, pero el rendimiento era muy lento y no fue una buena experiencia.
Me han recomendado esto: Pinokio, Fooocus y ComfyUI.

Mi ordenador nuevo tiene estas características: HP OMEN 16-am0006ns, Intel Core Ultra 7-255H, 32GB, 1TB SSD, Nvidia GeForce RTX 5070 8GB, 16", W1

¿Podrían orientarme sobre qué herramientas realmente merece la pena instalar y cómo enfocarlo correctamente?, gracias de antemano.
Sanchis

Hola. Yo también estoy muy interesado en el tema de la IA local. La verdad es que me sorprende comprobar que no es uno de los temas principales en los foros de IA en general. Desgraciadamente, no puedo darte ningún consejo, ya que soy completamente nuevo en este mundillo y carezco de cinocimientos técnicos y experiencia previa. Saludos!!
Memelari.

Hola, yo estoy muy interesado en este tema, Ya estoy probando Ollama y LMStudio con modelos en local, pero ahora quiero profundizar en ComfyUI por su versatilidad creativa, en cuanto pueda abro un tema al respecto para que podamos recopilar información al respecto que nos sirva. Una saludo.

hola, la computadora que tengo es incapaz ce ejecutar una IA local, pero entiendo que lo importante es la cantidad en GPU que tenga la pc o laptop o en su defecto la memoria unificada, 16gb, como lo es un procesador M5 de apple o la nueva pc con tarjeta NVIDIA GB10 Grace Blackwelll Superchip que cuesta 4mil o más, entonces se puede tener la capacidad de ejecutar casi cualquier IA en forma local con Ollama (CLI), o LMStudio (gráfico).

Hola a todos.
Soy portugues por lo tanto pido disculpas si escribo mal castellano.

Yo tengo probado varias aplicaciones.
LM Studio es lo más sensillo para iniciantes. Sin embargo es un chat basico.
Si tienes la intencion de usar agentes, puedes usar LM Studio, y activar la opcion de servidor.
Instalas el AnythingLM o el Hermes Agent Desktop para conseguir obtener más "inteligencia" ya que con Hermes Agent por exemplo tienes "skills" ya instaladas y puedes criar tus propias skills.
Tambien es posible añadir MCP's para criar conexiones con outras aplicaciones como por exemplo Gmail, Calendario, Notion, Higgsfield,
Podeis mirar por exemplo el MCP de Composio. Es lo que estoy usando. Creo que es gratuito.
Con Composio puedo agendar tareas, organizar reuniones, criar documentos, etc. Tienen un monton de aplicaciones disponibles. Seguro que hay alguna que vosotros estan utilizando.

Teneis aqui un manueal simples en pdf que he hecho hace unos meses que puede ayudaros a instalar Heremes Agent Desktop en vuestro PC. He traducido para castellano y inglés.
Al final teneis enlaces para todas las fuentes usadas para hacer este tutorial.

Como digo, ainda estoy aprendendo, pero poco a poco, sigo cresciendo.
Si tengais alguna duda, podeis contactarme.

Nota : Creo que es posible conectar Hermes Agent a ComfyUI ya que ahora tambien está disponible el MCP de Comfy.UI. Miralo aqui : https://comfy.org/mcp/

rcruzforoia dijo:

hola, la computadora que tengo es incapaz ce ejecutar una IA local, pero entiendo que lo importante es la cantidad en GPU que tenga la pc o laptop o en su defecto la memoria unificada, 16gb, como lo es un procesador M5 de apple o la nueva pc con tarjeta NVIDIA GB10 Grace Blackwelll Superchip que cuesta 4mil o más, entonces se puede tener la capacidad de ejecutar casi cualquier IA en forma local con Ollama (CLI), o LMStudio (gráfico).

Haz clic para expandir...

No es bien asi.
Puedes instalar modelos más pequeños y "limitados" pero que hacen un trabajo bueno para criar cosas basicas.
Mi sugerencia es intalar STUDIO LM. El te ayuda a selecionar los mejores modelos para tu PC.

Yo tengo un PC con 32Gb de memoria RAM e una GPU RX9600 con 16MB de VRAM. Ryzen 5 serie 3000.
Utilizo el GEMMA 4 12B y GEMMA 4 E4B habitualmente pero estoy probando el nuevo Bonsai 27B de PrismML.
Más informaciones : https://prismml.com/
Para que tengas una idea tienes una version con 1.95Gb.

lo mejor que mi laptop: LENOVO Lenovo Flex 7 14IRU8 con procesador 13th Gen Core i7-1355U y GPU Intel(R) Iris(R) Xe Graphics con 2gb de ram solo logré que funcione ollama con gema3:4b o similares

Si os sirve de algo yo estoy haciendo lo mismo, intentando usar un buen modelo en local para el funcionamiento correcto en mi sistema, lo estoy logrando gracias a OpenCode y los modelos que tiene gratuitos de serie, hay un modelo en especial que va muy bien y es totalmente gratuito, se llama Big Pickle y con el estoy trabajando en nuevas ideas para usar modelos "buenos" e interesantes para la capacidad de mi ordenador, me esta configurando correctamente todo lo necesario para que un modelo pueda ir bien con ideas totalmente nuevas y pioneras, ahora mismo estoy intentando hacer correr el modelo local Qwen 3.5 9 - B NeuroForge, es un modelo sin limitaciones, y esta dando muy buenos resultados, pero aun no lo he conseguido al 100%, sigo trabajando en ello.

También uso la versión de ChatGPT de escritorio con la suscripción Plus en su versión Sol 5.6, que es la mas avanzada para que me ayude en el proyecto, solo llevo un par de días con ello, cuando tenga todo listo comento de nuevo.