La industria tecnológica da un paso hacia la estandarización con la creación del AI Verification and Evaluation Research Institute (Averi).
Esta iniciativa, liderada por Miles Brundage, quien fuera responsable de políticas en OpenAI durante siete años, busca establecer un marco de verificación externo para las inteligencias artificiales. Según explicó Brundage a Fortune, el objetivo es evitar que las empresas sigan definiendo sus propias normas de seguridad de forma autónoma y sin supervisión independiente.
Averi propone un sistema de garantía de la IA estructurado en cuatro niveles. El primer nivel contempla pruebas generales de funcionamiento, mientras que el nivel cuatro se enfoca en cumplir con los requisitos internacionales más estrictos sobre seguridad de la IA. Actualmente, aunque los grandes laboratorios publican reportes técnicos, los gobiernos y consumidores deben confiar plenamente en la palabra de los desarrolladores, ya que no existe una obligación legal de seguir estándares específicos de evaluación.
El instituto no operará como un auditor directo, sino como un ente coordinador que definirá los estándares para consultoras, aseguradoras y startups de seguridad.
El proyecto ya cuenta con un respaldo financiero de US$ 7,5 millones, provenientes de diversos inversores y ex directivos de Silicon Valley. Con esta estructura, Averi aspira a profesionalizar la auditoría tecnológica y garantizar que los avances en IA sean supervisados bajo criterios objetivos y universales.
Fuente: Web. Editado por CDOL
