La industria financiera atraviesa un momento en el que la adopción de inteligencia artificial deja de ser una cuestión estratégica para convertirse en un asunto de gobernanza. Así lo refleja un nuevo informe de la Cloud Security Alliance (CSA), elaborado con la participación de profesionales de ciberseguridad, riesgo, cumplimiento y operaciones tecnológicas de entidades financieras de distintos mercados. El estudio muestra que la presencia de agentes de IA en producción es ya una realidad extendida, pero también que la visibilidad sobre su comportamiento y sus riesgos sigue siendo limitada, un factor que condiciona la capacidad de las organizaciones para supervisar incidentes y establecer controles eficaces.
El documento, encargado por Anjuna —empresa centrada en tecnologías de confidential computing y en mecanismos de control para sistemas autónomos—, indica que un 62% de las organizaciones del sector ya utiliza agentes de IA en distintos procesos. La cifra confirma una tendencia que analistas y consultoras vienen observando desde hace dos años: la automatización basada en modelos avanzados se ha integrado en áreas operativas que van desde la atención al cliente hasta la detección de fraude o la gestión de ciberseguridad. La mayoría de estos agentes opera con algún grado de autonomía, lo que obliga a revisar los modelos de autorización y los marcos de responsabilidad asociados a sus decisiones.
El informe señala que una parte relevante de las entidades reconoce haber experimentado incidentes relacionados con IA, aunque un porcentaje similar admite no tener certeza sobre si estos se han producido. Esta falta de claridad se vincula a la dificultad de rastrear interacciones, flujos de datos y comportamientos anómalos en sistemas que aprenden y actúan de forma dinámica. Organismos como el NIST y el Banco de Pagos Internacionales han advertido en los últimos meses que la gobernanza de modelos y la trazabilidad de decisiones se han convertido en requisitos esenciales para mantener la confianza en servicios financieros cada vez más automatizados.
Entre las preocupaciones más citadas destaca la posibilidad de filtración de datos sensibles a través de interacciones con modelos de IA, un riesgo que supera a otros como los ataques dirigidos a modelos o las técnicas adversarias. La sensibilidad de la información financiera y la creciente dependencia de arquitecturas en la nube explican que este punto aparezca como prioritario. El estudio confirma además que el uso de servicios cloud es prácticamente universal en el sector, con un tercio de las organizaciones operando principalmente sobre arquitecturas basadas en la nube. Este escenario coincide con evaluaciones recientes de la Autoridad Bancaria Europea y de la Reserva Federal, que han subrayado la necesidad de reforzar la gestión de terceros y la supervisión de configuraciones para reducir la exposición a errores humanos y dependencias críticas.
El apoyo de los equipos directivos emerge como un factor determinante para avanzar en la adopción de IA y en la consolidación de prácticas de seguridad. La mayoría de los encuestados afirma contar con respaldo ejecutivo, lo que facilita la inversión en controles, auditorías y herramientas de monitorización. Sin embargo, la encuesta también muestra que los riesgos asociados a proveedores externos, las configuraciones incorrectas y los fallos humanos siguen ocupando los primeros puestos entre las preocupaciones de seguridad en la nube, lo que sugiere que la madurez tecnológica no elimina la necesidad de procesos sólidos y de una supervisión continua.
El avance hacia modelos de “finanzas agenticas”, en los que los sistemas autónomos ejecutan pagos o gestionan transacciones en nombre de los usuarios, aparece como una expectativa ampliamente compartida. La mayoría de los participantes considera probable que estos escenarios se materialicen, aunque también anticipa que requerirán nuevos mecanismos de autorización y un marco regulatorio más preciso. Autoridades como la FCA británica y la OCC estadounidense han comenzado a explorar cómo adaptar las normas de supervisión para contemplar decisiones automatizadas y responsabilidades compartidas entre humanos y sistemas.
Fuente: Cloud Security Alliance | Editado por CDOL
