TIMIA propone revisar los accesos, las herramientas, los permisos y los mecanismos de supervisión antes de incorporar sistemas de IA capaces de ejecutar acciones en los procesos de negocio

No es lo mismo consultar información a una inteligencia artificial que permitirle modificar un pedido, actualizar una base de datos o enviar una comunicación a un cliente. Cuando la IA pasa de generar respuestas a ejecutar acciones, las empresas deben definir qué pueden delegar, en qué condiciones y quién interviene si algo falla.

Para TIMIA, compañía especializada en inteligencia artificial, datos y analítica avanzada, desplegar agentes requiere algo más que una herramienta capaz de completar tareas. Es necesario disponer de datos fiables, responsabilidades claras y mecanismos de control.

Un sistema de IA, y en especial los agentes, pueden combinar información, planificar tareas y utilizar herramientas con distintos grados de autonomía, y ese grado, no las herramientas es lo que hay que gobernar, sobre todo cuando estos sistemas acceden a aplicaciones corporativas o interactúan con servicios de terceros.

"Antes de preguntarnos cuántas tareas puede asumir un agente, tenemos que decidir qué estamos preparados para delegarle. Una empresa debe poder explicar qué puede hacer, con qué información y en qué momento necesita la aprobación de una persona", explica Alesander Gómez, Country Manager de TIMIA en España.

Con este objetivo, la compañía propone siete preguntas para evaluar la preparación de una organización antes de desplegar un agente de IA.

1. ¿Qué problema quieren resolver y cómo se medirán los resultados?

La empresa debe identificar una necesidad concreta, conocer cómo se gestiona actualmente y definir indicadores para evaluar la mejora, como el tiempo ahorrado, la calidad del resultado o el coste por operación.

2. ¿Dispone el agente de datos fiables y de acceso solo a la información necesaria?

La información debe estar actualizada, ser coherente y proceder de fuentes identificadas. También es necesario asignar responsables de su mantenimiento y limitar el acceso del agente a los datos imprescindibles que requiere para realizar su función.

3. ¿Qué acciones puede ejecutar, con qué herramientas y bajo qué límites?

La organización debe especificar qué sistemas puede utilizar el agente, qué operaciones tiene autorizadas y cuáles requieren aprobación humana. Los permisos deben ajustarse a su función y al riesgo de cada acción.

4. ¿Quién responde por sus acciones y cuándo debe intervenir una persona?

Cada agente debe tener un responsable y un procedimiento de supervisión que establezca cuándo intervenir, quién recibe las alertas y quién puede corregir o detener una operación. Los equipos implicados deben contar con la formación y los recursos necesarios.

5. ¿Cómo responde ante errores, excepciones o instrucciones maliciosas?

Antes del despliegue, conviene probar el agente con datos incompletos, instrucciones ambiguas y fallos de funcionamiento. También debe comprobarse que reconoce sus límites y no ejecuta acciones no autorizadas ante instrucciones diseñadas para manipularlo.

6. ¿Se pueden reconstruir sus acciones y detenerlo si algo sale mal?

La empresa debe poder consultar qué información ha utilizado el agente y qué operaciones ha realizado. También necesita mecanismos para suspender su actividad, retirar accesos y recuperar el proceso, especialmente cuando las acciones no puedan deshacerse fácilmente.

7. ¿Hay control sobre los proveedores y las integraciones de las que depende?

Es necesario conocer qué modelos, plataformas y herramientas externas utiliza el agente, qué datos comparte y qué condiciones rigen su funcionamiento. También conviene prever alternativas ante interrupciones y definir cómo se gestionarán los cambios o las incidencias.

La autonomía debe ampliarse con evidencias y control
Para TIMIA, estas preguntas permiten identificar qué condiciones deben resolverse antes de ampliar las capacidades de un agente. La evaluación debe continuar después del despliegue, revisando los resultados, los permisos y el funcionamiento del sistema a medida que cambian los procesos y los datos.

"El éxito no consiste en conceder al agente la máxima autonomía desde el primer día, sino en saber qué podemos delegar con garantías y demostrar que funciona. Si el equipo puede medir sus resultados, comprender sus acciones e intervenir cuando hace falta, tendrá una base más sólida para ampliar su uso", concluye Gómez.