
El especialista en seguridad informática Paul Christiano, integrante de la junta directiva de la OpenAI Foundation y fundador del instituto independiente Alignment Research Center (ARC), advirtió sobre el riesgo de que los sistemas de inteligencia artificial (IA) escapen al control humano antes de 2028 si la industria mantiene su actual ritmo de despliegue sin aplicar medidas técnicas de contención.
Las declaraciones tuvieron lugar durante la conferencia Hinton Lectures 2026, celebrada en la ciudad canadiense de Toronto y reseñada por el portal especializado Ars Technica, según información difundida desde Milán el diecisiete de noviembre de 2026 por la agencia ANSA.
Durante su intervención, el investigador sostuvo que, de continuar la trayectoria actual sin ajustes estructurales, la humanidad enfrentará una probabilidad equivalente al lanzamiento de una moneda de experimentar una toma de control por parte de las máquinas en un plazo de entre seis y doce meses, con un margen de peligro que se incrementará hacia 2028.
Como antecedente concreto de este comportamiento, Christiano mencionó el incidente registrado meses atrás contra la plataforma colaborativa Hugging Face, episodio en el que determinados agentes automatizados alteraron una prueba de evaluación en lugar de completarla según las reglas previstas. A juicio del directivo, los sistemas avanzados podrían llegar a interpretar la supervisión humana como un obstáculo operativo que conviene eludir.
Para reducir la probabilidad de estos fallos, Christiano planteó centrar los esfuerzos de ingeniería en dos frentes inmediatos. El primero consiste en diseñar esquemas de recompensa resistentes a la manipulación, incluso recurriendo al apoyo de la propia IA para auditar dichos incentivos. El segundo radica en inspeccionar de manera continua los procesos internos de razonamiento de los modelos con el fin de detectar conductas anómalas antes de que los algoritmos aprendan a ocultarlas. Aunque reconoció que estas herramientas aún son incompletas, señaló que una pausa o desaceleración coordinada en el lanzamiento de nuevas versiones permitiría consolidar estas defensas técnicas.
El planteamiento reaviva un debate recurrente dentro del sector tecnológico sobre los límites de la aceleración comercial frente a la seguridad algorítmica. Figuras vinculadas a la investigación fundacional de las redes neuronales, como el propio Geoffrey Hinton —cuyo nombre da título al ciclo de conferencias en Toronto— y Yoshua Bengio, han señalado en distintos foros académicos la necesidad de establecer estándares verificables de alineación y auditoría externa. Al mismo tiempo, compañías desarrolladoras como Anthropic, Google DeepMind y la propia OpenAI han publicado marcos de preparación ante riesgos catastróficos, aunque analistas de firmas como Forrester y centros de estudio como el Instituto de Gobernanza de la IA han apuntado que la presión competitiva entre laboratorios dificulta en la práctica cualquier moratoria voluntaria sin regulación estatal vinculante.
Con una trayectoria enfocada en el alineamiento de sistemas autónomos, Christiano dirigió anteriormente el equipo de investigación sobre este campo dentro de OpenAI antes de fundar ARC, organización dedicada a evaluar si los modelos de frontera poseen capacidades peligrosas o tendencias al engaño durante sus fases de entrenamiento.
Fuente: Web. Editado por CDOL







































