GuíaAvanzado

Guía de Optimización de Costos y Caché

Reduce la factura de un sistema con LLMs con números que puedes defender. Primero entiendes de dónde sale cada dólar (input, output, input cacheado, Batch) y lo mides. Después aplicas las palancas en el orden en que más rinden: prompts más cortos, **prompt caching del proveedor** (Anthropic y OpenAI cobran entre 5% y 10% por el prefijo que se repite), caché de respuestas con Redis, caché semántico con embeddings, elección de modelo por costo y **Batch APIs** con 50% de descuento. Cierras con un sistema que combina todas las capas y un benchmark que demuestra cuánto ahorra cada una. Precios y modelos vigentes a octubre de 2026, siempre fechados y enlazados a la fuente oficial.

64
lecciones
8
módulos
Inglés · Español
disponible en
Sí
certificado
Gratis
acceso
NIEVA

Resultados

Lo que vas a poder hacer

  • Desglosar el costo de un sistema de IA por componente y por tipo de token, incluidos los tokens cacheados
  • Integrar el tracking de costos con dashboards y alertas de presupuesto
  • Optimizar prompts para reducir tokens sin sacrificar calidad
  • Usar el prompt caching del proveedor: `cache_control` en Claude (TTL de 5 minutos y 1 hora) y el caching automático de OpenAI, medido con el `usage` de cada respuesta
  • Diseñar prompts con prefijo estable y detectar los invalidadores silenciosos del caché
  • Implementar caché de respuestas con Redis: cache-aside, normalización de claves, warming, stale-while-revalidate y métricas de hit rate
  • Construir caché semántico con embeddings, similitud coseno y RediSearch
  • Elegir modelo por costo y calidad medida, y usar `effort` como palanca dentro de un mismo modelo
  • Procesar trabajo no interactivo con las Batch APIs de Anthropic y OpenAI
  • Construir un sistema que combine todas las capas y medir su ahorro con un benchmark reproducible

Antes de empezar

Qué necesitas traer

Es para ti si...

  • AI Engineers que ya miden costos y ahora quieren reducirlos
  • Equipos con presupuesto limitado que escalan el uso de LLMs
  • Startups y empresas que necesitan justificar el ROI de la IA con ahorros documentados
  • Tech leads preparando sistemas con LLMs para producción

Requisitos y materiales

  • Python intermedio (clases, type hints, dataclasses)
  • Experiencia con REST APIs
  • Uso básico de la API de algún LLM (la guía `building-with-llms-in-code-guide` cubre lo necesario)
  • Conceptos de métricas y dashboards (la guía `monitoring-observability-guide` los enseña a fondo)
  • Docker básico para correr Redis

Contenido

El temario, módulo por módulo

Abre cualquiera para ver sus lecciones.

Dónde encaja

Esta guía es parte de algo más grande

Se estudia dentro de estos programas, con acompañamiento y fechas.

Dudas frecuentes

Lo que suele preguntarse

Empieza cuando quieras

Reseñas

Lo que dicen los estudiantes

Estas reseñas son de estudiantes inscritos que completaron al menos el 50% del curso. Moderamos las reseñas solo por motivos de contenido (spam, lenguaje ofensivo, datos personales), nunca por ser críticas o negativas.

Aún no hay reseñas aprobadas.

¡Sé el primero en compartir tu experiencia!