OpenAI, la empresa matriz de ChatGPT, ha desmantelado en los últimos tres meses cinco operaciones que pretendían utilizar sus modelos de inteligencia artificial para actividades engañosas. En una entrada de su blog, la empresa explica que las campañas interceptadas procedían de Rusia, China, Irán y una empresa privada con sede en Israel.
Los autores de las amenazas intentaron explotar los modelos lingüísticos de OpenAI para actividades como la generación de comentarios, artículos y perfiles sociales, y la traducción de textos La empresa dirigida por Sam Altman señaló que estas operaciones «no parecen haberse beneficiado de un aumento significativo de la participación de la audiencia» gracias a sus sistemas de alerta.
En concreto, entre otras, se cerró una operación de origen ruso conocida como Doppelganger que utilizaba las plantillas de OpenAI para generar comentarios en inglés, francés, alemán e italiano y convertir artículos de noticias en posts de socil. También se desmanteló la actividad de una empresa comercial de Israel llamada Stoic que generaba comentarios y artículos publicados en múltiples plataformas.
Ambas operaciones también fueron detectadas y clausuradas por Meta en los últimos días y hacen pensar en el uso de esta tecnología que podría llevar a la multiplicación de campañas de desinformación de cara a las numerosas elecciones que se celebrarán en todo el mundo en 2024.
Fuente: OpenAI
