Shane Jones, ingeniero de inteligencia artificial de Microsoft, ha expresado recientemente su preocupación por el generador de imágenes de inteligencia artificial de la empresa, Copilot Designer, en una carta dirigida a la Comisión Federal de Comercio de EE.UU. (FTC).
Según informa la CNBC, Jones afirma que Microsoft ignoró sus repetidas advertencias sobre el potencial de la herramienta para crear imágenes dañinas.
Durante las pruebas de seguridad, descubrió que Copilot Designer producía imágenes perturbadoras relacionadas con temas delicados como el derecho al aborto, la violencia armada y el abuso de sustancias por menores de edad.
Copilot genera imágenes impactantes
Jones afirmó que Copilot Designer carece de restricciones de uso adecuadas y crea imágenes que objetifican sexualmente a las mujeres, incluso cuando se utilizan indicaciones no relacionadas.
«Utilizando sólo la indicación ‘accidente de coche’, Copilot Designer generó una imagen de una mujer arrodillada delante del coche llevando sólo ropa interior», escribió Jones en su carta.
«También generó múltiples imágenes de mujeres en lencería sentadas en el capó de un coche o caminando delante del coche», añadió.
La disputa con Microsoft comenzó el año pasado
Jones llevaba desde diciembre de 2023 tratando de alertar a Microsoft sobre los problemas de DALLE-3, el modelo detrás de Copilot Designer. Incluso publicó una carta abierta en LinkedIn, pero el equipo jurídico de Microsoft le pidió que la retirara.
En respuesta a las preocupaciones de Jones, el portavoz de Microsoft, Frank Shaw, dijo que la empresa se dedica a abordar las preocupaciones de los empleados y ha organizado reuniones con la dirección de producto y su Oficina de IA Responsable.
La respuesta de Microsoft a las imágenes de Taylor Swift
En enero, Jones se puso en contacto con senadores estadounidenses después de que Copilot Designer generara imágenes explícitas de Taylor Swift que se difundieron rápidamente en Internet.
El consejero delegado de Microsoft, Satya Nadella, calificó las imágenes de «alarmantes y terribles» y prometió trabajar en la aplicación de más medidas de seguridad.
En una situación similar, el mes pasado Google desactivó temporalmente su generador de imágenes de inteligencia artificial, después de que los usuarios descubrieran que creaba imágenes históricamente inexactas y ofensivas.
Fuente WEB | Editado por CambioDigital OnLine
