IA y agentes · Herramientas y controles · 5 min
Tool engineering: herramientas que un agente puede usar con seguridad
Las herramientas no son extensiones neutrales: requieren contratos, validación y resultados interpretables.
Una herramienta es una frontera de confianza
Cuando un agente consulta un sistema o ejecuta una operación, atraviesa una frontera entre lenguaje probabilístico y sistemas deterministas. El contrato debe ser explícito: entradas tipadas, permisos, límites temporales y formato de salida.
La validación no debe delegarse al modelo. El servicio receptor verifica esquema, identidad, autorización y reglas de negocio antes de realizar cualquier efecto.
Resultados que permiten decidir
Una respuesta de herramienta necesita estado, evidencia y errores accionables. Un error ambiguo incentiva reintentos inútiles; uno estructurado permite al harness cambiar de estrategia o pedir ayuda.
Las acciones con efectos externos requieren idempotencia, registro de auditoría y confirmación humana cuando el impacto sea material.
Lectura del diagrama
Cómo leer este sistema
- 01La solicitud se interpreta como intención; el agente elige una capacidad con contrato explícito.
- 02Las herramientas de búsqueda, datos y código reciben entradas tipadas, no instrucciones de lenguaje natural sin validar.
- 03Cada resultado devuelve estado, evidencia y error accionable para que el agente pueda detenerse, corregir o escalar.
- 04El manejo de errores retroalimenta el plan, pero no habilita reintentos ilimitados.
Conceptos esenciales
Términos técnicos
- Tool calling
- Invocación estructurada de una capacidad externa.
- Esquema
- Definición formal de campos y tipos admitidos.
- Idempotencia
- Repetir una acción sin duplicar su efecto.
Arquitectura
Implicaciones y controles
La capa de herramientas actúa como adaptador seguro entre el agente y sistemas internos. La autorización y las reglas de negocio se verifican en el receptor, incluso si el agente ya las evaluó.
Riesgos a considerar
- Parámetros malformados.
- Elevación de privilegios.
- Cambios duplicados o errores ambiguos.
Lista de verificación
- Documentar propósito, esquema y efectos.
- Validar reglas de negocio server-side.
- Normalizar errores y límites de tiempo.
- Usar idempotencia en acciones externas.
Conclusión
Una herramienta segura convierte intención en una solicitud válida, autorizada y verificable.