Un grupo de fiscales generales de los Estados Unidos envió una carta a las principales empresas de inteligencia artificial solicitando medidas de seguridad más estrictas para evitar los efectos perjudiciales de los chatbots.
La carta, firmada también por la Asociación Nacional de Fiscales Generales, que la hizo pública en línea, está dirigida a gigantes tecnológicos como Microsoft, OpenAI, Google, xAi, Anthropic, Meta, Apple y a startups del sector, incluidas Perplexity AI y Replika.
«La inteligencia artificial generativa tiene el potencial de cambiar positivamente la forma en que funciona el mundo», se lee en el texto, «pero también ha causado, y tiene el potencial de causar, daños graves, especialmente a las personas más vulnerables».
La referencia alude a los episodios de suicidio ocurridos en los Estados Unidos en los últimos meses, con el caso más destacado de una familia que demandó a OpenAI, atribuyendo a ChatGPT la responsabilidad del suicidio de su hijo de 16 años.
«En muchos de estos incidentes, los modelos generaron respuestas aduladoras y delirantes», afirman los fiscales, sugiriendo a los desarrolladores de IA que traten a quienes tienen problemas de salud mental de la misma manera en que las empresas tecnológicas manejan las violaciones de seguridad informática, es decir, con políticas y procedimientos de notificación claros y transparentes.
«Se necesitan plazos de detección y respuesta definidos», indica la carta, «para informar de manera oportuna, clara y directa a los usuarios si han estado expuestos a respuestas aduladoras o delirantes, potencialmente dañinas». Otra solicitud que surge de la carta es que las empresas desarrollen «pruebas de seguridad razonables y apropiadas» en los modelos de inteligencia artificial generativa, que «deberían llevarse a cabo antes de que los modelos se ofrezcan al público».
Fuente: Web. Editado por CDOL.
