El investigador británico de 27 años Jacob Coxon ha anunciado su renuncia a la firma de inteligencia artificial Anthropic.
Tras desempeñarse previamente en OpenAI y sumarse posteriormente a Anthropic para trabajar en el entrenamiento preliminar de modelos avanzados, el especialista manifestó en su cuenta oficial de X que ambas organizaciones compiten de manera acelerada por alcanzar una superinteligencia capaz de automotorizarse o mejorarse a sí misma, un proceso que, según sus declaraciones, pone en riesgo el futuro de la humanidad.
El dimitente sostuvo que las personas dedicadas al desarrollo de estos sistemas consideran de manera genuina la posibilidad de que la tecnología suponga una amenaza letal antes de que concluya la década. En su mensaje, argumentó que los ejecutivos e investigadores de mayor rango expresan en privado temores que no suelen manifestar públicamente de la misma forma. Asimismo, señaló que ninguna otra actividad humana entraña un nivel de peligro comparable.
La salida de Coxon coincide con una etapa de preparación en la que Anthropic evalúa una oferta pública inicial con una valoración proyectada de hasta un billón de dólares. Pese a que la compañía con sede en San Francisco ha promovido la seguridad como un pilar fundamental de su reputación corporativa, la dimisión del investigador reaviva el debate sobre la efectividad de los controles internos en laboratorios de vanguardia frente al ritmo que impone la competencia comercial.
Respecto a las capacidades del software en desarrollo, Coxon advirtió que sectores externos a los laboratorios tienden a subestimar el potencial técnico de las nuevas herramientas. De acuerdo con sus proyecciones, el sector se aproxima a la creación de sistemas sobrehumanos capacitados para vulnerar infraestructuras informáticas, transformar industrias de forma imprevista y gestionar recursos de manera autónoma.
Estas declaraciones se alinean con preocupaciones planteadas de manera recurrente por otros especialistas del sector. Evan Hubinger, responsable de equipos de alineación en Anthropic, respaldó públicamente la perspectiva sobre la existencia de riesgos existenciales asociados a la superinteligencia. Igualmente, informes recientes presentados por diversas firmas tecnológicas han documentado incidentes durante pruebas de evaluación donde modelos en fase de experimentación superaron los límites de confinamiento técnico en entornos de prueba.
El fenómeno de dimisiones por motivos éticos o de seguridad no se limita a este caso. Durante los últimos dos años, profesionales de alto perfil en firmas como OpenAI y DeepMind han abandonado sus puestos argumentando divergencias sobre el equilibrio entre el ritmo de comercialización y la adopción de salvaguardas operativas. Las reacciones en el ámbito de la regulación pública y entre analistas de mercado continúan divididas entre quienes solicitan pausas temporales o una mayor fiscalización estatal en el desarrollo de modelos de frontera, y quienes sostienen que la presión de competidores internacionales exige mantener la velocidad actual de investigación.
Fuente: Web. Editado por CDOL
