El desarrollo de la inteligencia artificial evoluciona hacia modelos capaces de ejecutar tareas de manera autónoma sin requerir instrucciones continuas por parte de los usuarios.
En este segmento, denominado inteligencia artificial agentica, la compañía Meta planea el lanzamiento de Hatch, una plataforma orientada a la gestión de agentes digitales, según reportó el medio especializado The Information. La iniciativa forma parte de una estrategia que incluiría la presentación del modelo de lenguaje conocido bajo el nombre en código Watermelon y la posterior integración de asistentes conversacionales de terceros dentro de la aplicación WhatsApp.
La incursión del conglomerado estadounidense en esta área busca competir con soluciones desarrolladas por organizaciones como Anthropic, Google, Microsoft y OpenAI. Estos sistemas operativos permiten a los programas realizar acciones complejas en segundo plano dentro de computadoras y dispositivos móviles. Sin embargo, el despliegue de software con alta autonomía ha generado inquietudes en materia de ciberseguridad, privacidad de datos y atribución de responsabilidad legal.
Plataformas de código abierto o de acceso global, como OpenClaw, han evidenciado los riesgos asociados a la delegación de controles a programas autónomos. Para operar, estas herramientas solicitan permisos extensos de acceso a archivos locales, agendas de correo electrónico e información personal. Informes de la firma de ciberseguridad Akamai destacan que el incremento de agentes digitales eleva la exposición a fraudes informáticos, debido a intentos de terceros por tomar el control de asistentes integrados en plataformas de comercio electrónico y sistemas de pago.
Asimismo, se han registrado incidentes operativos derivados de fallas de configuración o accesos no autorizados en este tipo de software. Entre ellos destacan la alteración imprevista de agendas de reserva en establecimientos comerciales y la eliminación accidental de registros en bases de datos corporativas. Ante estos escenarios, diversas empresas tecnológicas han optado por pausar temporalmente el despliegue de funciones avanzadas para revisar sus protocolos de supervisión humana y prevenir acciones automatizadas sin trazabilidad.
En el ámbito regulatorio, las autoridades europeas aplican marcos normativos específicos para supervisar el impacto de estos avances. Valentina Grazia Sapuppo, especialista en derecho y tecnología, explicó a la agencia ANSA que estas plataformas deben cumplir con los calendarios de aplicación de la legislación de la Unión Europea, incluidos los requisitos de transparencia para sistemas de inteligencia artificial que interactúan con personas o generan contenidos.
La definición de límites a la autonomía de los agentes digitales representa un factor central para las compañías del sector, las cuales enfrentan la exigencia de implementar mecanismos de auditoría que permitan identificar la responsabilidad ante eventuales errores o transacciones no autorizadas ejecutadas por software autónomo.
Fuente: Web. Editado por CDOL.
