En los últimos días, el debate sobre los modelos de inteligencia artificial con pesos abiertos ha ganado intensidad en Estados Unidos, especialmente a raíz de informes que sugieren que algunos funcionarios evalúan restringir el uso de modelos procedentes de China en empresas estadounidenses. En ese contexto, Anthropic publicó una declaración firmada por su director ejecutivo, Dario Amodei, con el objetivo de aclarar su posición y responder a interpretaciones que, según la compañía, no reflejan con precisión sus posturas históricas.
Amodei afirma que Anthropic no ha abogado nunca por prohibir los modelos de pesos abiertos, y sostiene que aquellos sin capacidades peligrosas constituyen un bien público: su uso no implica costos más allá del cómputo necesario para ejecutarlos y aportan valor a desarrolladores, empresas y comunidades de investigación. La compañía rechaza la idea de que las restricciones comerciales a estos modelos puedan resolver los riesgos que considera más graves.
El comunicado identifica dos preocupaciones centrales.
La primera se relaciona con la posibilidad de que gobiernos autoritarios desarrollen sistemas más avanzados que los estadounidenses y los utilicen para obtener ventajas militares duraderas o reforzar mecanismos de vigilancia interna. Amodei cita evaluaciones recientes del gobierno de EE. UU. que alertan sobre el progreso de otras potencias en IA y su impacto en la competitividad y la seguridad nacional. En este escenario, sostiene que el carácter abierto o cerrado de los pesos es irrelevante: el riesgo proviene de modelos entrenados en secreto y destinados a usos militares o de control social.
La segunda preocupación apunta al potencial de los modelos avanzados para facilitar ataques cibernéticos o biológicos, así como a los desafíos de alineación. Aquí, Amodei reconoce que los modelos de pesos abiertos pueden presentar riesgos adicionales, dado que una vez publicados es difícil aplicar salvaguardas o supervisar su uso. Sin embargo, insiste en que prohibir su utilización por parte de empresas estadounidenses no mitigaría estos riesgos, ya que los actores maliciosos no operan como compañías legítimas.
Frente a estos escenarios, Anthropic defiende tres líneas de acción que considera más efectivas. La primera es limitar el acceso de China a chips avanzados y equipamiento de fabricación, una medida que, según la empresa, reduce la capacidad de entrenar modelos de frontera y aborda de manera directa la preocupación sobre la superioridad tecnológica. La segunda es combatir las operaciones de destilación a escala industrial, que permiten a actores con menos recursos computacionales aproximarse al rendimiento de modelos entrenados con grandes cantidades de hardware. Anthropic sostiene que estas prácticas, cuando están respaldadas por Estados, pueden erosionar el impacto de las restricciones de chips y acercar a China a la frontera tecnológica en cuestión de meses.
La tercera medida es establecer pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, independientemente de su país de origen o de si se publican con pesos abiertos o cerrados. La compañía considera que este enfoque cuenta con un apoyo creciente tanto en la industria como en el gobierno estadounidense, y que permitiría evaluar de forma empírica los riesgos en ámbitos como ciberseguridad, biología sintética y alineación. Amodei señala que incluso podría existir margen para una cooperación limitada con China en materia de prevención de amenazas biológicas, dado que los incentivos para evitar incidentes de alto impacto son compartidos.
El comunicado también responde a la carta abierta firmada por varias empresas tecnológicas en defensa de los modelos de pesos abiertos. Aunque Anthropic coincide en que estos modelos amplían el acceso a la economía de la IA y fortalecen la competencia en ciertos casos, discrepa de la idea de que necesariamente faciliten la creación de salvaguardas o que beneficien más a los defensores que a los atacantes. En particular, Amodei advierte sobre una posible asimetría en biología, donde modelos muy capaces podrían acelerar la creación de agentes patógenos mientras que la respuesta defensiva requiere procesos largos y complejos.
La posición de Anthropic se resume en un rechazo explícito a las prohibiciones generalizadas y en un llamado a centrar los esfuerzos en tres frentes: impedir que chips avanzados lleguen a gobiernos autoritarios, frenar la destilación masiva y someter a pruebas rigurosas a todos los modelos de alta capacidad. La compañía sostiene que estas medidas abordan los riesgos reales sin limitar el acceso legítimo a tecnologías que, en muchos casos, impulsan la innovación y la competencia.
Fuente: Anthropic | Editado por CDOL
