En un movimiento que busca impulsar la transparencia en el desarrollo de la inteligencia artificial, la empresa OpenAI ha anunciado el lanzamiento del «Safety Evaluations Hub», un centro de recursos en línea destinado a compartir públicamente datos y análisis sobre la seguridad de sus modelos de IA. La iniciativa llega en un momento crucial para la compañía, que enfrenta diversos litigios, incluyendo acusaciones por el presunto uso indebido de material protegido por derechos de autor en el entrenamiento de sus sistemas.
El nuevo hub tiene como objetivo ofrecer una visión detallada del rendimiento de los modelos en aspectos críticos como la frecuencia de «alucinaciones» (generación de información incorrecta), la propensión a producir contenido dañino, la precisión en el seguimiento de instrucciones y la resistencia ante intentos de manipulación (conocidos como «jailbreaks»).
OpenAI comunicó que esta plataforma complementará la información ya disponible en las «system cards» de sus modelos, las cuales ofrecen una perspectiva de las medidas de seguridad al momento de su lanzamiento. El «Safety Evaluations Hub», en cambio, se actualizará de forma periódica, reflejando la evolución en la evaluación y mejora de la seguridad de sus sistemas.
«Nuestro objetivo es compartir los avances en el desarrollo de métodos para medir la capacidad y la seguridad de los modelos», señaló la empresa en un comunicado oficial. La compañía expresó su doble intención de facilitar una mejor comprensión del funcionamiento de sus IA y fomentar un esfuerzo colectivo hacia una mayor transparencia en el sector. Asimismo, manifestó su compromiso de mantener una comunicación más proactiva sobre estos temas en todos los niveles.
Dentro del hub, los usuarios podrán acceder a secciones específicas con información relevante para diversos modelos, desde versiones anteriores como Gpt-4.1 hasta las más recientes, incluyendo la 4.5. Esta iniciativa representa un paso significativo de OpenAI hacia una mayor apertura en un campo donde la seguridad y la rendición de cuentas son temas cada vez más relevantes para la sociedad.
Fuente: OpenAI
