La orden de EE. UU. que restringe el acceso a los modelos de IA de Anthropic genera críticas

NUEVA YORK: La orden del gobierno de EE. UU. para que Anthropic retire sus modelos de inteligencia artificial más potentes ha desatado una ola de críticas tanto de defensores como de opositores a la regulación de la IA.

El viernes por la noche, la empresa con sede en San Francisco anunció que el Departamento de Comercio de EE. UU. le había ordenado suspender Mythos 5 y Fable 5 por razones de "seguridad nacional", sin proporcionar más detalles.

A diferencia de Mythos 5, que no tenía restricciones y solo estaba disponible para un pequeño número de socios, Fable 5 contaba con una protección exhaustiva para prevenir cualquier uso indebido grave, especialmente para ciberataques o el desarrollo de armas químicas y biológicas.

Sin embargo, Anthropic señaló que una organización —cuya identidad no reveló— informó a la administración Trump que había encontrado una forma de eludir las salvaguardas diseñadas para evitar que Fable 5 fuera utilizado en un ciberataque.

Anthropic describió el vacío legal descubierto por este tercero —identificado por varios medios de comunicación como Amazon— como "estrecho" y afirmó que las vulnerabilidades de software que expuso eran "menores".

La directiva se aplicaba únicamente al acceso por parte de ciudadanos extranjeros, pero Anthropic indicó que no era capaz de distinguir entre usuarios según su nacionalidad y que, por tanto, se vio obligada a desconectar sus modelos.

La prohibición absoluta por parte de un gobierno de un modelo de IA avanzado desarrollado por una empresa nacional no tiene precedentes.

China bloquea el acceso a los modelos de IA occidentales más capaces e impone restricciones a las principales empresas nacionales de IA, pero esas restricciones generalmente se incorporan a los modelos antes de su lanzamiento.

Una decisión "impulsiva"

El empresario Martin Varsavsky afirmó que las implicaciones de la orden son "enormes".

Cualquier startup "que desarrolle modelos de frontera está a merced del gobierno", comentó en X. "Por lo tanto, la orden no solo castiga a Anthropic. Cambia las reglas para toda la industria".

El investigador Gary Marcus dijo que veía a Estados Unidos y China empatados en la carrera de la IA, hasta el anuncio gubernamental del viernes.

"No se me ocurrió que la administración Trump pudiera obstaculizar los esfuerzos de EE. UU. desde atrás", dijo Marcus. "Pero acaba de hacerlo".

Algunos observadores argumentan que Anthropic tiene una responsabilidad considerable en su situación, después de haber advertido durante años sobre los riesgos asociados a los modelos de IA más avanzados.

El miércoles, el CEO de Anthropic, Dario Amodei, volvió a pedir a los responsables políticos que "activen un aparato de políticas lento y desvencijado para hacer frente a los riesgos y oportunidades que se van a multiplicar sorprendentemente rápido a partir de ahora".

Varios seguidores del presidente Trump que, hasta hace solo unas semanas, se oponían firmemente a la regulación de la IA —al igual que la propia administración Trump— han intentado defender la directiva.

Entre ellos se encuentran el influyente inversor Marc Andreessen y el exasesor de IA de la Casa Blanca David Sacks.

Otros, sin embargo, incluido el exasesor de IA de Trump Dean Ball, los acusaron de deshonestidad intelectual, señalando que habían criticado ferozmente los esfuerzos regulatorios bajo el expresidente Joe Biden.

El grupo pro-regulación Americans for Responsible Innovation argumentó que las decisiones de esta magnitud no deben tomarse "impulsivamente" ni estar sujetas a "favoritismo político".

Anthropic se encuentra actualmente en desacuerdo con la administración Trump, que ha rescindido todos sus contratos gubernamentales con la empresa.

Muchos observadores coinciden en que la IA ha entrado en una nueva era que requiere una mayor participación del gobierno, pero se opusieron firmemente a la manera en que se llevó a cabo la acción.

"En una administración que funciona correctamente, nadie habría sido sorprendido por una acción como esta", dijo Ben Murphy del Institute for Progress, un think tank centrado en tecnologías emergentes.

"El gobierno simplemente habría solicitado que Anthropic realizara pruebas adicionales o añadiera más salvaguardas antes del lanzamiento", escribió en X.

La rápida aceleración de la IA y la concentración de influencia en manos de unas pocas empresas han tomado por sorpresa a los gobiernos, afirmó Mona Sloane, profesora de la Universidad de Virginia.

Eso significa que "es posible que veamos" suspensiones de modelos de IA impuestas por los gobiernos de nuevo, dijo.