Un grupo integrado por más de cien especialistas en inteligencia artificial agrupados en el consorcio AI Evaluator Forum ha emitido una carta abierta dirigida a firmas desarrolladoras como OpenAI y Anthropic, exigiendo la implementación de evaluaciones de seguridad independientes sobre sus sistemas de gran escala.
El documento, difundido en exclusiva por la cadena estadounidense CNBC, sostiene que la supervisión externa es una herramienta indispensable para identificar y mitigar los riesgos asociados a los modelos de frontera.
Entre las figuras que respaldan la iniciativa destacan el investigador Geoffrey Hinton, pionero en el campo del aprendizaje profundo, junto a académicos e investigadores vinculados a la Universidad Johns Hopkins, la Universidad de Stanford y la organización sin fines de lucro METR, dedicada a la medición de capacidades y seguridad en inteligencia artificial. La demanda central de este colectivo se enfoca en que las corporaciones garanticen a los auditores externos condiciones operativas basadas en la objetividad científica, la transparencia, la independencia institucional y protecciones legales sólidas para llevar a cabo sus revisiones.
Conrad Stosz, presidente de AI Evaluator Forum, señaló que la intención del grupo es consolidar un consenso basado en principios fundamentales que demuestren cómo la fiscalización externa permite gestionar riesgos tecnológicos de gran alcance. Esta postura cobra relevancia en el contexto actual, donde los costos de entrenamiento de los modelos más avanzados superan decenas de millones de dólares y su complejidad dificulta la predicción de comportamientos emergentes.
La publicación de la carta coincide con un debate generado tras las recientes declaraciones de Dario Amodei, director ejecutivo de Anthropic, quien sugirió otorgar a ciertos evaluadores calificados un nivel de acceso interno equivalente al de sus propios empleados para auditar los modelos de última generación durante las fases de desarrollo. La propuesta puso en el centro de la discusión pública la falta de estándares estandarizados dentro de la industria para verificar la seguridad del software antes de su lanzamiento comercial.
La iniciativa del consorcio se suma a una creciente división sobre el marco regulatorio del sector en Estados Unidos. Mientras diversos líderes de la industria tecnológica han solicitado al gobierno federal establecer pautas normativas que prevengan escenarios descontrolados, sectores políticos y empresariales asociados a la administración actual en Washington han expresado una abierta oposición a imponer restricciones operativas a las empresas del sector, argumentando que la regulación excesiva podría desacelerar la competitividad técnica frente a otros mercados globales.
Fuente: Web. Editado por CDOL.
