En el año del boom de la IA generativa, Google ha decidido lanzar un programa mediante el cual la comunidad de expertos puede buscar, identificar y compartir vulnerabilidades en el software de inteligencia artificial.
Se trata de una evolución del clásico «bug bounty», que los grandes de la alta tecnología ya aplican recompensando a los investigadores que descubren fallos en los sistemas informáticos. En las últimas horas, el competidor directo de la Gran G, OpenAI, la empresa matriz de ChatGpt, ha decidido en cambio formar un nuevo equipo para evaluar los «riesgos catastróficos» de la inteligencia artificial, incluso sobre la energía nuclear. El grupo está dirigido por Aleksander Madry, antiguo miembro del MIT de Boston.
El nuevo programa de notificación de vulnerabilidades de Google recompensará a los investigadores que identifiquen fallos informáticos en las plataformas de IA generativa, para hacer frente a determinadas preocupaciones, como el riesgo en la manipulación de modelos. La propia Google ofrece un ejemplo del trabajo de la comunidad, que podría centrarse, entre otras cosas, en analizar cómo las empresas «entrenan» sus algoritmos, especialmente en lo que respecta a la protección de los datos sensibles que recogen cuando las personas los utilizan.
«Nuestro programa pretende facilitar las pruebas para detectar las vulnerabilidades de seguridad tradicionales y los riesgos específicos de los sistemas de inteligencia artificial. Es importante señalar que la cuantía de la recompensa depende de la gravedad del escenario de ataque y del tipo de objetivo alcanzado», explica una nota del gigante. Para mejorar la seguridad de la inteligencia artificial, Google ha introducido un Marco Seguro de IA, cuyo objetivo es proteger los «componentes críticos que permiten el aprendizaje automático» de las plataformas de IA.
Junto con Anthropic, Microsoft y OpenAi, Google anunció el AI Safety Fund, un fondo de seguridad para la inteligencia artificial dotado con 10 millones de dólares y dedicado a iniciativas de investigación y supervisión de software de nueva generación.
Fuente: Google
