IA con responsabilidad: Kyndryl introduce un modelo de control para flujos automatizados

La iniciativa de policy as code plantea una forma de equilibrar autonomía, cumplimiento y supervisión en procesos críticos.

0
13
Foto Kyndryl

Kyndryl ha comenzado a perfilar una visión particular sobre cómo deberían operar los agentes de inteligencia artificial en entornos empresariales donde la precisión, la trazabilidad y el cumplimiento normativo no son negociables. Su propuesta gira en torno al concepto de policy as code, una forma de convertir políticas corporativas, reglas regulatorias y procedimientos internos en instrucciones que los sistemas automatizados pueden interpretar sin ambigüedades. La compañía plantea que este enfoque permite avanzar hacia flujos de trabajo más autónomos sin perder el control sobre cada decisión que ejecuta un agente.

La iniciativa surge en un momento en el que muchas organizaciones experimentan con automatización avanzada, pero se encuentran con un obstáculo recurrente: la dificultad de garantizar que los agentes actúen dentro de los límites establecidos por la empresa. La naturaleza probabilística de los modelos de IA genera incertidumbre, especialmente en sectores donde cualquier desviación puede tener consecuencias operativas o regulatorias. Frente a ese escenario, Kyndryl propone un marco determinista que introduce reglas explícitas y verificables, capaces de convivir con sistemas heredados y arquitecturas híbridas.

El planteamiento se apoya en la idea de que las políticas, tradicionalmente redactadas en documentos extensos y sujetos a interpretación humana, pueden transformarse en código que define con precisión qué acciones están permitidas, cuáles requieren supervisión y en qué circunstancias debe intervenir una persona. Esta traducción elimina ambigüedades y establece un mecanismo de control que acompaña al agente en cada paso del flujo de trabajo. La compañía sostiene que este modelo no solo reduce riesgos, sino que facilita auditorías posteriores, ya que cada decisión queda registrada y puede rastrearse hasta la regla que la habilitó.

En paralelo, Kyndryl incorpora un componente de supervisión humana que no se limita a la revisión final, sino que forma parte del diseño del sistema. Los agentes pueden operar de manera autónoma dentro de los límites definidos, pero están obligados a escalar excepciones, inconsistencias o situaciones que requieran criterio humano. Esta combinación de automatización y control responde a una preocupación creciente en sectores regulados, donde la adopción de IA depende de demostrar que los sistemas no actúan como cajas negras.

La compañía ilustra su propuesta con ejemplos de industrias donde la conformidad normativa es un requisito permanente. En servicios financieros, por ejemplo, los procesos de verificación de identidad y cumplimiento pueden acelerarse sin perder rigor, siempre que las reglas regulatorias estén codificadas y se apliquen de forma consistente. En administraciones públicas, los agentes pueden coordinar trámites entre distintas entidades, validar requisitos y detectar conflictos antes de que lleguen a un funcionario. En manufactura, la evaluación continua de proveedores frente a normativas cambiantes se vuelve más manejable cuando las reglas están integradas en el flujo de trabajo automatizado.

Este enfoque se alinea con una tendencia más amplia: la necesidad de que la automatización basada en IA avance acompañada de marcos de gobernanza sólidos. Organismos internacionales y consultoras especializadas han señalado que la adopción de agentes autónomos depende de la capacidad de demostrar control operativo, trazabilidad y cumplimiento. La propuesta de Kyndryl se inserta en ese debate, ofreciendo una arquitectura que busca equilibrar eficiencia y responsabilidad, especialmente en organizaciones que operan con sistemas complejos o distribuidos.

En última instancia, la compañía plantea que convertir políticas en código no es solo una cuestión técnica, sino una forma de preparar a las organizaciones para una etapa en la que los agentes de IA participarán en procesos cada vez más críticos. La automatización deja de ser un conjunto de tareas aisladas y se convierte en un sistema que interactúa con múltiples áreas, lo que exige límites claros y mecanismos de verificación permanentes. Con su enfoque de policy as code, Kyndryl intenta ofrecer una vía para avanzar hacia esa nueva fase sin renunciar al control que requieren los entornos regulados.

Fuente: nota de prensa Kyndryl | Editado por CDOL

Custom Text
Artículo anteriorConsejos de LexisNexis para evitar fraudes amorosos: desconfíe incluso si no parece una estafa
Artículo siguienteLa seguridad evoluciona: Cisco introduce controles para la operación de agentes de IA