Tomaste este libro porque le diste a un agente de IA una tarea de 3 horas y lo viste crear un problema de 3 meses en 3 minutos. Leyó el archivo equivocado, envió el correo equivocado o llamó a una API que quemó 500 dólares antes de que atraparas el bucle. O aprobaste un agente de programación que puede editar la base de código y te diste cuenta de que la base de código es el negocio. Sea lo que sea lo que te trajo aquí, compartes la convicción de que la autonomía sin límites no es innovación. Es una responsabilidad legal.
Este libro no es un tutorial de 1 marco que quedará obsoleto en 6 meses ni un catálogo de cada ataque. No es una promesa de seguridad perfecta. Lo que necesitas es una disciplina de diseño que asume que el modelo fallará y será manipulado, y que cada herramienta amplifica los errores. Las páginas siguientes te dan la pila de barandillas de 7 capas a través de los 6 dominios que debes proteger, con patrones que separan el cerebro de las manos y ponen a un humano donde las decisiones importan.
Dentro descubrirás:
• El nuevo modelo de amenazas: por qué los agentes rompen las viejas suposiciones de intención y por qué las herramientas definen el radio de daño
• Identidad, permisos y sandboxing que contienen el daño incluso cuando las credenciales se filtran
• El patrón de bóveda que mantiene los secretos fuera del contexto del modelo y limita cada agente a 1 propósito
• Validación de entradas y la pantalla de modelo dual que bloquea la inyección de prompts en páginas web y correos
• Validación de salidas, el patrón evaluador y umbrales de confianza que tratan la salida como una afirmación
• Monitorización que registra cada acción, detecta anomalías en minutos y permite la repetición
• Supervisión humana, puertas de aprobación para el aprobador, rutas de escalado e interruptores de emergencia
Mapearás tu superficie de API, aplicarás límites de tasa y topes de coste, y exigirás aprobación para cada acción de riesgo.
