Con la IA local, el modelo de lenguaje funciona en su portátil o PC en lugar de en la nube de un proveedor. Tras la descarga, gran parte funciona también sin conexión. Aquí verá cuándo tiene sentido y cómo empezar.
¿Qué es la IA local?
Usted instala una aplicación como Ollama, LM Studio o Jan y descarga un modelo abierto, por ejemplo Llama, Gemma o Qwen. La aplicación genera las respuestas con su procesador o su tarjeta gráfica. Sus textos no tienen que enviarse a ningún servidor.
¿Cuándo conviene la IA sin conexión?
La IA local es útil cuando trabaja con textos confidenciales y no quiere subirlos, cuando trabaja a menudo sin una conexión a internet estable, cuando quiere probar la IA sin suscripción ni cuenta o cuando quiere decidir usted mismo qué modelo y qué versión usa.
¿Qué hardware necesita?
Cuanto más grande es el modelo, más memoria RAM o memoria gráfica necesita. Algunos valores orientativos según los proveedores: para Mac, Jan indica 8 GB de RAM para modelos de 3000 millones de parámetros (3B), 16 GB para 7B y 32 GB para 13B. Según OpenAI, gpt-oss-20b funciona con 16 GB de memoria. Según Google, Gemma también existe en tamaños pequeños para portátiles y móviles. Según los proveedores, llama.cpp y whisper.cpp también funcionan solo con el procesador; con una tarjeta gráfica o Apple Silicon van más rápido. Según el proveedor, ComfyUI para imágenes y vídeos funciona a partir de 4 GB de memoria gráfica y 8 GB de RAM.
Privacidad: ventajas y límites
La mayor ventaja: si la aplicación y el modelo funcionan sin conexión, sus textos se quedan en su dispositivo. Pero hay límites: muchas aplicaciones también pueden conectarse a modelos en línea, y entonces sus datos van a ese proveedor. Según los proveedores, algunas aplicaciones envían datos de uso anónimos. Revise los ajustes y desactive ese envío si no lo desea. Su ordenador también tiene que estar bien protegido, por ejemplo con actualizaciones y cifrado del disco. Cada modelo abierto tiene sus propias condiciones de licencia; léalas antes de usarlo en la empresa. Los modelos locales también se equivocan: compruebe las respuestas importantes.
Empiece en 3 pasos
1. Instale una aplicación como LM Studio, Jan u Ollama desde la web del proveedor. 2. Descargue un modelo pequeño que quepa en su memoria; las aplicaciones suelen sugerir modelos adecuados. 3. Haga su primera pregunta, al principio con textos que no sean confidenciales. Después revise los ajustes de datos de uso.
Aplicaciones y modelos abiertos
Todas las entradas de la categoría IA local. Datos según los proveedores.
Entorno de ejecución gratuito de Microsoft para que los desarrolladores integren modelos de IA en sus aplicaciones y se ejecuten en el propio dispositivo.
Acceso gratisPlan gratuito
De pago desdeno publicado
Para Windows, macOS (Apple silicon) y Linux; según el proveedor, sin suscripción a Azure ni costes por token
Según el proveedor, elige automáticamente la NPU, la tarjeta gráfica o la CPU del dispositivo
Herramienta de código abierto para ejecutar modelos de lenguaje en local, complementada por un servicio de pago en la nube para desarrolladores y equipos.
Acceso gratisPlan gratuito
De pago desdeCloud Pro · 20 $Acceso a modelos cloud Pro más grandes y 3 solicitudes simultáneas
Herramienta de código abierto para ejecutar en local modelos de lenguaje como Llama, Gemma, Mistral y Phi
API REST compatible con la API de OpenAI para integrarse fácilmente con aplicaciones existentes
No necesariamente. Según los proveedores, llama.cpp y whisper.cpp también funcionan solo con el procesador. Con una tarjeta gráfica o Apple Silicon van mucho más rápido.
¿La IA local cuesta algo?
Según los proveedores, las aplicaciones y los modelos de esta lista son gratuitos. Solo paga su hardware y la electricidad.
¿La IA local funciona sin internet?
Sí, una vez descargados la aplicación y el modelo. Para actualizaciones y modelos nuevos vuelve a necesitar internet.
¿Los modelos locales son tan buenos como los grandes modelos en línea?
Depende del modelo y de su ordenador. Los modelos pequeños funcionan en portátiles normales, pero suelen rendir menos en tareas difíciles. Pruébelos con sus propias tareas.
¿Puedo usar modelos abiertos en la empresa?
Depende de la licencia de cada modelo. Algunas licencias son muy abiertas; otras tienen condiciones. Mostramos la licencia en la página del modelo, sin que esto sea asesoramiento jurídico.