OpenAI forma nuevo comité de seguridad de IA, Altman lo integra

La empresa comenzó a entrenar al próximo modelo GPT-5.

0
4

OpenAI, la empresa que lanzó ChatGPT, anunció la formación de un nuevo comité de seguridad después de que la salida de ejecutivos clave planteara dudas sobre su compromiso para mitigar los peligros de la inteligencia artificial.

El comité incluirá al consejero delegado Sam Altman. Mientras tanto, OpenAI ha comenzado a entrenar el nuevo modelo de IA generativa que se espera se llame GPT-5 y que acercaría la tecnología a la AGI, una inteligencia artificial general capaz de alcanzar un nivel de comprensión y razonamiento similar al humano o incluso superior.

«Damos la bienvenida a un fuerte debate en este momento tan importante», escribió OpenAI en un post oficial. Compuesto por miembros del consejo y ejecutivos, el Comité de Seguridad dispondrá de 90 días para evaluar los procesos y salvaguardias relacionados con el desarrollo de IA avanzada y también consultará a expertos externos. A continuación, elaborará recomendaciones para posibles mejoras y los resultados se presentarán a todo el consejo de OpenAI antes de hacerse públicos.

La formación del nuevo comité de seguridad se produce tras las recientes salidas de ejecutivos que han avivado la preocupación por las prioridades de seguridad de OpenAI. Se ha ido Jan Leike, que fue inmediatamente copiado por su rival Anthropic, pero también Ilya Sutskever, uno de los ejecutivos que cuestionó el papel de Sam Altman el pasado noviembre.

En los días de la marcha de los directivos también estalló la polémica entre Scarlett Johansson y OpenAI: la actriz, convertida en un símbolo de la IA tras la película Her, acusó a la empresa de clonar su voz para la nueva versión de ChatGPT.

Fuente: OpenAI

Custom Text
Artículo anteriorKingston les dice cuál es el mejor SSD para un Centro de Datos
Artículo siguienteESET publica su Informe de actividad de APT, que destaca la guerra cibernética con Rusia, China e Irán