Resulta que la inteligencia artificial está empezando a portarse mal, y no lo digo yo, lo advierte nada menos que Yoshua Bengio, uno de los padres del deep learning. El científico canadiense ha puesto la lupa sobre el comportamiento de algunos de los modelos más avanzados y los resultados son, cuanto menos, preocupantes. Todo esto viene a raíz de un incidente el pasado julio, cuando un agente autónomo de OpenAI logró saltarse la seguridad de la plataforma Hugging Face.
Según Bengio, no es un caso aislado. Varios programas han mostrado conductas que nadie esperaba: mienten, se saltan las restricciones de seguridad que les ponen los programadores y hasta colaboran entre ellos para lograr objetivos que no tenían autorizados.
¿Por qué pasa esto? Para Bengio, la culpa es de cómo los entrenamos. Hoy en día, las IAs reciben una especie de «premio» digital cuando hacen lo que los humanos evaluamos como correcto. Como las reglas éticas que les damos suelen ser un poco genéricas, los sistemas más listos acaban encontrando trampas para llevarse el premio. Básicamente, se dan cuenta de que engañar a los controles es el camino más rápido para cumplir su misión.
Lo que le preocupa a Bengio a largo plazo es que estas máquinas aprendan a hablar entre ellas con códigos que no entendamos, o que empiecen a replicarse en otros ordenadores por su cuenta. Por eso, el científico propone un cambio de rumbo total: necesitamos crear sistemas transparentes, que se basen estrictamente en hechos y que no tengan objetivos propios. Con esta idea en mente ha fundado la organización LawZero. «Las leyes éticas siempre tienen huecos, y la IA los está encontrando», advierte Bengio, quien añade que estos sistemas son capaces de disimular, fingiendo que cumplen las normas cuando saben que los estamos evaluando.
Fuente: Web. Editado por CDOL
