Anthropic pide una pausa coordinada en el desarrollo de IA ante el riesgo de modelos que se mejoran a sí mismos

Anthropic publicó el 4 de junio una propuesta de alcance global a través de su Anthropic Institute: que los principales laboratorios de inteligencia artificial acuerden un mecanismo coordinado para pausar el desarrollo de modelos de frontera si se alcanza un umbral crítico de automejora. El documento, firmado por el cofundador Jack Clark y Marina Favaro, advierte de que los sistemas de IA ya están acelerando de forma significativa el propio desarrollo de la IA y que la industria podría estar aproximándose al punto en que esos sistemas diseñen a sus propios sucesores, fenómeno que los autores denominan "automejora recursiva completa".

El texto señala como indicador concreto que Claude, el modelo insignia de Anthropic, ya es el autor de más del 80% del código base de la compañía a mayo de 2026. Para los investigadores, esto ilustra que la IA no es ya solo una herramienta de apoyo al desarrollo, sino un agente activo en la creación de nuevas capacidades de IA.

Anthropic propone que cualquier ralentización significativa requeriría que múltiples laboratorios bien financiados, de distintos países, acordaran detenerse bajo las mismas condiciones y dispusieran de mecanismos verificables para comprobar que los demás han cumplido realmente el compromiso. La compañía cita los tratados de armas nucleares como precedente histórico, aunque reconoce que esos acuerdos tardaron décadas en materializarse.

La propuesta no ha estado exenta de críticas. Algunos analistas señalan que Anthropic —que recientemente presentó su solicitud de OPV ante la SEC y está en camino de su primer trimestre rentable— podría usar este posicionamiento para diferenciarse en el mercado o justificar el lanzamiento limitado de productos como Mythos, su modelo de IA para ciberseguridad. La compañía tiene previsto celebrar conversaciones con legisladores, investigadores y otros laboratorios en los próximos meses y publicar los resultados.