Antes de la sesión

Instala LM Studio y descarga tu modelo

En esta lección instalas LM Studio, descargas el modelo del taller, le haces una pregunta desde la propia aplicación y enciendes el servidor que va a usar tu código. Al final, si quieres comparar con la nube en la sesión, consigues una llave gratuita de OpenRouter.

Una advertencia honesta: estos pasos son sobre aplicaciones y páginas reales, y cambian. Esta guía es de octubre de 2026. Si un botón se llama distinto, la lógica es la misma.

Primero entiende qué vas a descargar

El modelo es un archivo

Un modelo de lenguaje, visto desde tu disco, es un archivo grande lleno de números. Esos números se llaman parámetros (o pesos): son lo que el modelo "aprendió" al entrenarse con muchísimo texto. Cuando le haces una pregunta, tu computadora hace cuentas con esos números para calcular, palabra por palabra, cómo sigue el texto.

El nombre del modelo te dice cuántos parámetros tiene:

En el nombreCuántos parámetrosEn la analogía
4b4 mil millones (billion, en inglés)Un cocinero con buena experiencia que cabe en una cocina normal
8b / 9b8 o 9 mil millonesMás experiencia, pide una cocina más grande
27b, 31b, 120bDecenas o cientos de miles de millonesLos chefs del restaurante: no caben en tu casa

Por qué un modelo de 4 mil millones de números cabe en 2.5 GB

Cada parámetro es un número con decimales. Guardado con toda su precisión ocuparía 2 bytes, y 4 mil millones de parámetros serían unos 8 GB. Para que quepa en una laptop, el modelo se cuantiza: cada número se guarda con menos precisión (unos 4 a 5 bits en vez de 16). El archivo queda en menos de un tercio del tamaño y el modelo pierde un poco de calidad, mucho menos de lo que uno esperaría.

  Sin cuantizar                        Cuantizado (unos 5 bits por numero)
  4 mil millones x 2 bytes             4 mil millones x ~0.6 bytes
  = unos 8 GB                          = unos 2.5 GB
  +--------------------------------+   +--------+
  |################################|   |########|
  +--------------------------------+   +--------+
  no cabe comodo en 8 GB de RAM        cabe, con espacio para lo demas

En la analogía: es el mismo cocinero con sus recetas escritas en un recetario de bolsillo. Pesa mucho menos y pierde algún detalle fino.

En LM Studio vas a ver dos palabras junto a los modelos: GGUF y MLX. Son dos formatos de archivo para el mismo modelo. MLX es el formato optimizado para Mac con chip Apple; GGUF funciona en todos lados. LM Studio te ofrece los que funcionan en tu computadora y preselecciona uno; para el taller cualquiera de los dos sirve (en una Mac de prueba, lms get bajó la versión GGUF).

El modelo del taller: Qwen3 4B

Todos vamos a usar el mismo modelo, para poder comparar resultados en vivo:

DatoValor
Nombre en LM Studioqwen/qwen3-4b-2507
Parámetros4 mil millones
Descargaunos 2.5 GB
Por qué esteCabe en una laptop de 8 GB, sabe usar herramientas (lo necesitamos en la parte 4) y contesta directo, sin una fase larga de "razonamiento" antes de responder

Ojo con un modelo de nombre casi igual: qwen/qwen3-4b-thinking-2507. Es la versión que "piensa en voz alta" antes de contestar: tarda más y llena la respuesta de texto de razonamiento. Descarga el que no dice thinking.

Paso 1. Instala LM Studio

LM Studio es una aplicación gratuita que hace tres cosas: descarga modelos, los carga en la memoria de tu laptop y los atiende, ya sea en un chat dentro de la app o en un servidor para que otros programas les hablen.

  1. Entra a lmstudio.ai y descarga la versión de tu sistema.
  2. Instálala como cualquier aplicación. En Mac, arrástrala a Aplicaciones. En Windows, abre el instalador y sigue los pasos. En Linux se descarga como AppImage: dale permiso de ejecución y ábrela.
  3. Ábrela. Si te ofrece un recorrido inicial o descargar un modelo sugerido, puedes saltarlo: vamos a descargar uno concreto.

Lo que pide LM Studio, según su documentación:

SistemaQué necesita
MacChip Apple (M1 o más nuevo) y macOS 14 o superior. Las Mac con Intel no son compatibles
WindowsProcesador x64 con soporte AVX2 (casi cualquiera de los últimos años) o ARM (Snapdragon X)
Linuxx64 o ARM64; probado sobre todo en Ubuntu 20.04 y 22.04

Paso 2. Descarga el modelo

  1. En LM Studio, entra a la búsqueda de modelos: la pestaña Discover (el ícono de lupa, en la barra de la izquierda).
  2. Busca qwen3-4b-2507.
  3. Elige Qwen3 4B 2507, el que no dice Thinking, y dale Download.
  4. Espera a que termine. La barra de descargas te muestra el avance; depende de tu internet.

Si prefieres la terminal, LM Studio trae su propio comando, lms, que hace lo mismo:

# Descarga el modelo del taller (te pregunta antes de bajarlo)
lms get qwen/qwen3-4b-2507

Si la terminal dice que lms no existe, abre LM Studio al menos una vez, cierra la terminal y abre una nueva: igual que con Python, la terminal nueva lee el PATH actualizado.

Paso 3. Pruébalo en el chat de LM Studio

Antes de conectar código, comprueba que el modelo contesta:

  1. Entra a la pestaña Chat.
  2. Arriba, en el selector de modelos (Select a model to load), elige Qwen3 4B 2507. LM Studio lo carga: lo copia del disco a la RAM. Tarda un poco la primera vez.
  3. Escríbele algo, por ejemplo: Explícame en dos frases qué es un archivo CSV.

Si contesta, el modelo funciona en tu laptop. Fíjate en dos datos que LM Studio muestra debajo de la respuesta: los tokens por segundo (qué tan rápido escribe) y el tiempo hasta el primer token. Los vamos a medir con código en la sesión.

Desconecta el wifi y vuelve a preguntarle. Va a contestar igual. Esa es la prueba más clara de que el modelo vive en tu computadora: no hay nadie más en la conversación.

Paso 4. Enciende el servidor

El chat de LM Studio es cómodo, pero en el taller le vamos a hablar desde un script de Python. Para eso, LM Studio abre una ventanilla de pedidos: un servidor local.

  1. Entra a la pestaña Developer (en la barra de la izquierda).
  2. Activa el interruptor del servidor (Start server, o el estado pasa de Stopped a Running).
  3. LM Studio te muestra la dirección: http://localhost:1234.

localhost es el nombre que tu computadora usa para referirse a sí misma. Un pedido a localhost no sale a internet: va de un programa a otro dentro de tu laptop. Y 1234 es el puerto, el número de ventanilla: tu computadora puede tener muchos servidores, y cada uno atiende en un número distinto.

  TU LAPTOP
  +-------------------------------------------------------+
  |                                                       |
  |   Tu script de Python                                 |
  |        |                                              |
  |        |  pedido a http://localhost:1234/v1           |
  |        v                                              |
  |   +------------------------+     +-----------------+  |
  |   | LM Studio: servidor    | --> | Qwen3 4B        |  |
  |   | (ventanilla 1234)      | <-- | (en tu RAM)     |  |
  |   +------------------------+     +-----------------+  |
  |                                                       |
  +-------------------------------------------------------+
        nada de esto sale a internet

En la configuración del servidor hay una opción para atender pedidos de otras computadoras de tu red (Serve on Local Network). Déjala apagada: así solo tu laptop puede hablarle a tu modelo.

Si prefieres la terminal:

# Enciende el servidor local de LM Studio
lms server start

# Carga el modelo en la RAM
lms load qwen/qwen3-4b-2507

# Muestra qué modelos están cargados en la RAM ahora mismo
lms ps

Paso 5. Comprueba que el servidor responde

Con el servidor encendido, pídele la lista de modelos desde la terminal. En Mac y Linux:

curl http://localhost:1234/v1/models

En Windows (PowerShell), escribe curl.exe en lugar de curl:

curl.exe http://localhost:1234/v1/models

curl es un programa que hace un pedido a una dirección y muestra lo que regresa. La respuesta viene en JSON, el formato de datos que viste en la lección anterior: llaves para agrupar, corchetes para listas. Debes ver un texto con esta forma, con el nombre de los modelos que tienes descargados en lugar de ...:

{
  "data": [
    {
      "id": "...",
      "object": "model",
      "owned_by": "organization_owner"
    }
  ],
  "object": "list"
}

Anota el id de tu modelo. Debería ser qwen/qwen3-4b-2507. Si LM Studio lo nombró distinto, el código de la sesión tiene que usar exactamente ese texto.

Si curl dice Connection refused (o "No se puede establecer una conexión"), el servidor está apagado: vuelve al paso 4.

Paso 6. Al terminar, libera la memoria

Un modelo cargado sigue ocupando RAM aunque no le hables. Cuando termines de practicar, descárgalo de la memoria y apaga el servidor:

  • En la app: en la barra superior, botón Eject junto al modelo; en Developer, apaga el servidor.
  • En la terminal:
# Saca de la RAM todos los modelos cargados
lms unload --all

# Apaga el servidor local
lms server stop

El modelo sigue en tu disco: la próxima vez lo vuelves a cargar sin descargarlo. Si algún día quieres el espacio de vuelta, bórralo desde la pestaña My Models.

(Opcional) Tu llave de OpenRouter, para comparar con la nube

En la parte 3 de la sesión vamos a mandar los mismos pedidos a tu laptop y a un modelo en la nube, para comparar. Para la nube usamos OpenRouter, un servicio con modelos gratuitos que no pide tarjeta. Si no quieres crear la cuenta, puedes hacer todo el taller solo con tu laptop y mirar la comparación en pantalla.

Si vienes del taller de agentes en la terminal, ya tienes esta llave. Usa la misma.

  1. Entra a openrouter.ai y crea una cuenta (puedes usar Google o GitHub).
  2. En el menú de tu cuenta, entra a Keys y crea una llave nueva (Create Key). Ponle un nombre que reconozcas, por ejemplo local-model-workshop.
  3. Cópiala y guárdala en ese momento: la llave completa solo se muestra una vez. Se ve más o menos así: sk-or-v1-xxxxxxxxxxxx.

La llave es secreta: quien la tenga puede hacer pedidos a tu nombre. No la pegues en el chat de la videollamada ni la escribas dentro de un archivo de código. En la sesión te mostramos cómo dársela al script sin escribirla en ningún archivo.

Sobre los límites: los modelos gratuitos de OpenRouter permiten 20 peticiones por minuto y 50 al día si has comprado menos de 10 créditos (o ninguno). Alcanza de sobra para la sesión.

Verifica que estás listo

  • LM Studio está instalado y abre.
  • qwen/qwen3-4b-2507 está descargado y contestó en el chat de LM Studio.
  • Con el servidor encendido, curl http://localhost:1234/v1/models muestra mi modelo.
  • (Opcional) Tengo mi llave de OpenRouter guardada.
¿Y si el modelo no carga, o la computadora se pone muy lenta?

Casi siempre es memoria. Cierra el navegador (o las pestañas que no uses) y los programas pesados, y vuelve a cargarlo. Si tienes 8 GB y aun así no carga, llega así a la sesión: haces la parte de la nube y miras la demo local en pantalla. Lo que aprendes es lo mismo.

Para comprobar que entendiste

1. ¿Qué es "cuantizar" un modelo y qué se pierde?

Guardar cada uno de sus parámetros con menos precisión (unos 4 a 5 bits en vez de 16). El archivo queda en menos de un tercio del tamaño, y por eso cabe en una laptop; a cambio, el modelo pierde un poco de calidad.

2. Tu script le habla a http://localhost:1234. ¿Tu pedido sale a internet?

No. localhost es tu propia computadora: el pedido va de tu script a LM Studio sin salir de la laptop. 1234 es el puerto, el número de ventanilla donde atiende el servidor.

3. Terminaste de practicar y tu laptop sigue lenta. ¿Qué pasó?

Que el modelo sigue cargado en la RAM, ocupando espacio aunque nadie le hable. Expúlsalo (Eject, o lms unload --all) y apaga el servidor.

Resumen

  • Un modelo es un archivo lleno de parámetros. 4b son 4 mil millones; cuantizados a unos 4 a 5 bits caben en 2.5 GB.
  • Descargaste qwen/qwen3-4b-2507 (el que no dice thinking), lo probaste en el chat de LM Studio y encendiste el servidor en http://localhost:1234.
  • curl .../v1/models te dice el id exacto de tu modelo. Al terminar: expulsa el modelo y apaga el servidor.
  • Opcional: una llave gratuita de OpenRouter para comparar con la nube. Con eso ya estás listo para la sesión.

Recursos