GuíaAvanzado

Guía de Seguridad y Sandboxing de Agentes

Aprende a hacer seguro un agente que toma acciones con herramientas (tools) reales sobre un sistema. Esta guía cubre el modelo de amenaza de un agente, la inyección de prompt directa e indirecta, el contrato de herramientas y el mínimo privilegio, el sandboxing de la ejecución de herramientas, los modelos de permiso y el human-in-the-loop, los guardrails de entrada y salida, y el manejo de secretos y el radio de explosión. El caso que acompaña toda la guía es un agente de Reservo (un backend de reservas de salas de coworking) con herramientas como `search_rooms`, `book_room` y `cancel_booking`. Sales sabiendo diseñar un agente que no puede ser manipulado para causar daño ni fugar datos, aunque el modelo o la entrada del usuario sean hostiles. Toda la ingeniería de seguridad —el validador de herramientas, el sandbox, la puerta de permisos, los guardrails, el log de auditoría y la demo de inyección con su defensa— se ejecuta de verdad con Python 3.14 (stdlib); la decisión del LLM se presenta como concepto, con ejemplos realistas.