Geoffrey Hinton, informático galardonado con el Premio Nobel de Física por sus contribuciones fundamentales al aprendizaje profundo, expresó duras advertencias sobre los riesgos del desarrollo descontrolado de la tecnología en una entrevista reciente concedida al periódico británico The Guardian.
El especialista de 78 años afirmó que, con perspectiva histórica, tal vez hubiese sido preferible que la humanidad nunca hubiera desarrollado esta herramienta. Según su análisis, antes de finalizar este año o durante el transcurso del próximo podría registrarse un incidente a gran escala provocado por sistemas de IA, mencionando escenarios de riesgo como caídas temporales de las redes eléctricas o interrupciones prolongadas en los sistemas financieros globales.
Hinton precisó que su postura no busca infundir alarma sin fundamento y reconoció que la tecnología tiene capacidad para generar avances positivos significativos. No obstante, advirtió que en un plazo máximo de diez años la sociedad comprobará si posee la capacidad técnica y regulatoria para mitigar las amenazas asociadas o si, por el contrario, enfrentará escenarios severos caracterizados por una profundización de la desigualdad económica, problemas culturales graves, desempleo masivo y un eventual deterioro del tejido social.
El experto criticó además la postura adoptada por líderes de empresas líderes del sector tecnológico, como Mark Zuckerberg, Elon Musk y Sam Altman. Hinton sostuvo que dichos ejecutivos comprenden los riesgos inherentes al avance acelerado de sus modelos, pero priorizan los rendimientos financieros por encima de las precauciones de seguridad.
Para ilustrar la magnitud del peligro, Hinton comparó ciertos episodios de fallas cibernéticas autónomas detectados a mediados de este año con el accidente nuclear parcial ocurrido en la central de Three Mile Island en 1979. A su juicio, los eventos futuros podrían adquirir una envergadura equivalente al desastre de Chernobyl, lo que forzaría a la opinión pública y a los gobiernos a tomar medidas drásticas. Un ciberataque basado en IA contra la infraestructura energética o un colapso en el sistema bancario durante varios días obligaría a establecer controles estrictos a escala internacional.
La postura de Hinton guarda continuidad con sus acciones de mayo de 2023, cuando tomó la decisión de renunciar a su cargo en Google tras más de una década de trabajo en la compañía para poder opinar libremente sobre las amenazas del sector. Las alertas manifestadas por el científico coinciden con las preocupaciones expresadas por organizaciones de supervisión técnica e instituciones multilaterales.
Informes publicados por la Cumbre de Seguridad de la IA y análisis de la Agencia de Ciberseguridad y Seguridad de las Infraestructuras de Estados Unidos señalan un incremento constante en la complejidad de los ataques automatizados y en el uso no autorizado de agentes informáticos autónomos. Asimismo, analistas del mercado tecnológico coinciden en que la competencia económica entre gigantes del sector ha acelerado los despliegues comerciales a un ritmo que a menudo supera los marcos normativos actuales.
Fuente: Web. Editado por CDOL.
