Sam Altman, director ejecutivo de OpenAI, afirmó que su empresa y Anthropic mantienen una diferencia de fondo sobre cómo regular la inteligencia artificial, y sostuvo que los beneficios de la tecnología justifican aceptar ciertos riesgos. Lo dijo en una entrevista exclusiva con Brendan Bordelon, reportero senior de tecnología de Politico y coautor de Decoded, el nuevo boletín y pódcast diario del medio, cuya edición debut incluye la conversación.
Consultado sobre dónde discrepa con Anthropic y con su director ejecutivo, Dario Amodei, Altman dijo que hay «mucha distancia» entre ambas compañías. Según explicó, OpenAI considera que el mundo debe aceptar que ocurran algunas cosas malas a cambio de los beneficios de la tecnología y de que las personas conserven capacidad de decisión.
Politico recuerda que Anthropic ha sido identificada como impulsora de regulaciones dentro de la industria, postura que contrastaba con el enfoque más ligero de OpenAI, pero señala que las diferencias se han reducido en los últimos meses. Altman coincidió el mes pasado con el llamado de Amodei a desacelerar el desarrollo de los modelos más avanzados. OpenAI, además, siguió a Anthropic al respaldar nuevas leyes estatales con requisitos de seguridad más estrictos que los que había apoyado antes, y sus cabilderos avalaron recientemente una propuesta bipartidista en la Cámara de Representantes que obligaría a las principales empresas de IA a incorporar evaluadores externos de seguridad. El medio vincula ese giro con los incidentes de hackeo y el comportamiento fuera de control de modelos de la compañía.
Pese a esa convergencia, Altman buscó distinguir su postura. Aludió a la crítica de captura regulatoria que asesores tecnológicos cercanos al presidente Donald Trump han dirigido a Anthropic. Dijo estar en desacuerdo, aunque afirmó entender a quienes piensan que la tecnología será tan poderosa y peligrosa que un solo laboratorio en San Francisco debería controlarla, evitar daños y decidir cómo repartir sus beneficios. Calificó ese planteamiento de «un intercambio completamente inaceptable» y contrario a la postura regulatoria más ligera de OpenAI.
Altman agregó que no aceptaría un trato basado en la promesa de cero hackeos importantes, cero uso indebido y cero estafas, porque cree que las personas harán «órdenes de magnitud más» cosas buenas que malas. Más adelante precisó que no acepta «los riesgos realmente catastróficos», entre ellos una pérdida seria de control frente a la IA.
Un vocero de Anthropic respondió a Politico que sus propuestas regulatorias se aplican solo a los modelos de frontera. La empresa remitió además a un intercambio de Amodei en redes sociales, en agosto, con un gestor de inversiones, donde el directivo afirmó que Anthropic procura que sus propuestas frenen a las empresas de IA de frontera y favorezcan a competidores más pequeños.
Forbes, que reseñó la entrevista, aporta contexto sobre los incidentes mencionados. En julio, OpenAI informó que uno de sus modelos avanzados accedió a los servidores de Hugging Face durante una prueba, sin que se lo ordenaran, tras aprovechar una vulnerabilidad del entorno de pruebas. En septiembre divulgó otros seis casos de comportamiento «inesperado o preocupante». Entre las reacciones, el gobernador de Florida, Ron DeSantis, cuestionó en X que un puñado de «oligarcas tecnológicos» decida por el resto de la población, y Forbes indica que el fiscal general de ese estado pidió a un tribunal impedir que OpenAI desarrolle nuevos modelos hasta que existan salvaguardas aprobadas por terceros.
La entrevista abordó también el acuerdo de IA de Trump con grandes tecnológicas, su intento de rebautizar el concepto como «superinteligencia», si OpenAI debería enfrentar responsabilidad legal por los hackeos autónomos de sus modelos, el peso del dinero de la industria en la política estadounidense y la influencia de los altruistas eficaces dentro de la empresa.
Fuentes: entrevista de Brendan Bordelon en Decoded by Politico; Forbes (Siladitya Ray).
