Ilustración generada con IA: automatizar un flujo financiero exige decidir dónde incorporar el criterio humano.

Automatizar tareas financieras: dónde termina el flujo y empieza el criterio humano

Un flujo financiero puede recopilar información, aplicar reglas y preparar propuestas. Decidir hasta dónde puede llegar exige valorar el riesgo, la calidad de los datos y la posibilidad de corregir un error. Como criterio de diseño, conviene reservar la intervención humana para las excepciones y las decisiones cuyo contexto o consecuencias requieran juicio.

Qué tareas se prestan a la automatización

Las tareas repetitivas y delimitadas son candidatas cuando sus entradas y reglas se pueden comprobar. Por ejemplo, un flujo podría clasificar facturas según reglas definidas o preparar una conciliación para su revisión. Son aplicaciones hipotéticas que necesitarían controles de calidad adaptados al proceso.

Como referencia de la IA generativa en supervisión financiera, un informe del BIS recoge una encuesta realizada entre enero y marzo de 2025 a 42 autoridades. De ellas, 32 experimentaban, desarrollaban o usaban aplicaciones de IA generativa para supervisión; 12 ya las utilizaban. La mayoría de las aplicaciones en uso correspondían al procesamiento básico de documentos. La cifra de 32 agrupa distintas etapas y no indica cuántas autoridades solo experimentaban. Estos resultados no demuestran qué ocurriría al automatizar facturas o conciliaciones.

Dónde conviene detener el flujo

Una regla puede identificar un caso, pero no necesariamente explicar todas sus circunstancias. La revisión humana cobra especial valor cuando falta información, aparece una excepción, cambian los objetivos o las consecuencias de equivocarse son importantes.

Por ejemplo, una organización podría hacer que el sistema prepare un pago inusual y lo detenga para revisión, o que reúna información para evaluar un cambio de estrategia de inversión. Son decisiones prudenciales de diseño, no obligaciones universales.

Para sistemas de IA, el marco de gestión de riesgos de NIST se presenta como voluntario. Su núcleo relaciona la gestión de riesgos con la tolerancia de la organización y aborda el seguimiento, la retirada segura, la documentación de responsabilidades y la supervisión humana. Que el marco sea voluntario no elimina posibles obligaciones legales independientes.

Cómo hacer útil la supervisión humana

Una aprobación resulta más útil cuando la persona dispone de información suficiente para entender y cuestionar la propuesta. NIST publicó una propuesta inicial de principios para gestionar la identidad y el acceso de agentes. Entre sus ideas figuran limitar privilegios, separar funciones, contener o revocar autoridad ante anomalías y establecer umbrales para la revisión humana con información adecuada.

Una organización podría adaptar esas ideas a un flujo financiero mediante las siguientes medidas de diseño:

• Definir umbrales y excepciones: determinar qué situaciones deben detenerse para revisión según sus posibles consecuencias.
• Presentar contexto suficiente: mostrar a la persona revisora los datos y supuestos necesarios para valorar la propuesta.
• Limitar permisos y separar funciones: ajustar el acceso a las tareas autorizadas y distribuir las responsabilidades cuando corresponda.
• Preparar una respuesta: facilitar que la persona responsable pueda detener o corregir el proceso cuando sea necesario.

Estas son recomendaciones editoriales para procesos financieros, no reglas universales establecidas por la propuesta de NIST. La propuesta también contempla la fatiga de aprobación: demasiadas solicitudes pueden dificultar una revisión atenta.

Ilustración generada con IA: ejemplo de supervisión con contexto y opciones para continuar, corregir o detener el flujo.

Una aprobación no elimina el riesgo

Quien revisa puede confiar demasiado en una propuesta automática. En el apartado Human-AI Configuration, página 13, el perfil de NIST para IA generativa define el sesgo de automatización como “excessive deference to automated systems”, es decir, una deferencia excesiva hacia sistemas automatizados. Señala que ese sesgo puede agravar riesgos como la confabulación, los sesgos o la homogeneización.

Como medida práctica, quien revise puede contrastar los datos y supuestos relevantes antes de aprobar, especialmente cuando el impacto sería difícil de corregir. Esa comprobación no garantiza que desaparezca el riesgo.

Las obligaciones dependen del servicio

En Estados Unidos, la División de Exámenes de la SEC publicó el 9 de noviembre de 2021 una alerta sobre asesores que prestaban o afirmaban prestar servicios de roboasesoramiento. El documento trata áreas como la gestión de carteras, la publicidad y la protección de datos, y recoge observaciones del personal. Su nota inicial aclara que la alerta no es una norma y no crea obligaciones nuevas.

Antes de implantar un flujo, conviene definir el servicio, sus responsables y sus controles, y comprobar las obligaciones aplicables a la organización y la jurisdicción correspondientes. La alerta no determina esas obligaciones para todos los servicios, y la investigación disponible no demuestra que automatizar facturas, conciliaciones u otro proceso reduzca sus costes o errores.