Checklist para diseñar agentes de IA

El objetivo del agente está definido en una sola frase clara

Si no puedes explicarlo en una frase, no está claro.

El output esperado tiene formato y estructura definidos

Están claros los criterios de éxito (¿cuándo ha completado bien su tarea?)

Está definido qué casos están FUERA del alcance del agente

El system prompt tiene un rol e identidad claros

Incluye contexto del dominio relevante para la tarea

Define el tono y estilo de comunicación esperado

Lista las herramientas disponibles y para qué sirven cada una

Incluye instrucciones para situaciones difíciles o casos extremos

Define el formato esperado de las respuestas o outputs

Tiene límites explícitos sobre lo que no debe hacer

Cada herramienta tiene un nombre descriptivo (no genérico)

Cada herramienta tiene una descripción clara de cuándo usarla

El modelo usa la descripción para decidir si llamar a la herramienta.

Los parámetros de cada herramienta están bien tipados y documentados

El número de herramientas es el mínimo necesario

Más herramientas = más decisiones = más probabilidad de error.

Las herramientas que ejecutan acciones irreversibles tienen confirmación previa

Está definido qué información necesita recordar el agente entre pasos

El historial de conversación no puede superar la context window en casos típicos

Si usa RAG, la base de conocimiento está actualizada y bien indexada

Los documentos o datos inyectados en el contexto están claramente delimitados

Hay un límite máximo de iteraciones o pasos (evitar bucles infinitos)

Las acciones irreversibles (borrar, enviar, publicar) requieren validación en código

El sistema detecta y maneja errores cuando una herramienta falla

Hay protección básica contra prompt injection en los datos que procesa

Especialmente importante si el agente lee emails, documentos o webs externas.

El agente no puede revelar el contenido del system prompt

Tienes al menos 10 casos de prueba con inputs y outputs esperados

Los casos incluyen situaciones difíciles o inesperadas

Los casos incluyen situaciones donde el agente debe negarse o escalar

Has definido métricas de éxito cuantificables

Tienes un plan de monitorización en producción

El agente ha sido probado con usuarios reales antes del lanzamiento

Hay logging de las acciones del agente para depuración

Hay un mecanismo de fallback si el agente falla

El responsable de mantenimiento está definido

El agente está documentado (objetivo, herramientas, dependencias)