Anthropic, empresa desarrolladora de IA, advirtió este jueves sobre el papel cada vez mayor de los propios sistemas de inteligencia artificial en el desarrollo de esa tecnología, y propuso una pausa global para que las estructuras sociales y la investigación se adapten.
La compañía indicó en su blog que con el crecimiento constante del trabajo realizado por la IA, a medida que se acelera la computación, sus sistemas avanzan hacia la "automejora recursiva", en la que un sistema de IA podría diseñar y desarrollar de manera autónoma a su propio sucesor, un escenario que podría llegar antes de lo previsto.
La mejora de los modelos de IA está en constante aceleración, señala Anthropic al mencionar la duplicación de tareas fiablemente completadas aproximadamente cada cuatro meses. Así, en marzo de 2024 Claude Opus 3 manejaba tareas que tomaban a los humanos cuatro minutos. Dos años más tarde, Opus 4.6 manejó tareas equivalentes a 12 horas de trabajo humano. Para 2027, los sistemas de IA podrían gestionar tareas que a una persona le tomaría semanas, vaticina Anthropic.
Actualmente, Claude crea más de 80% del código que Anthropic incorpora en su código base, porcentaje que era de un dígito bajo antes de febrero de 2025.
Pese las vastas implicaciones de estos avances para la ciencia y la salud, también "aumentan los riesgos de perder el control humano sobre los sistemas de IA".
Por lo tanto, Anthropic, cuya herramienta Mythos ha causado preocupación en gobiernos de diversos países, plantea la necesidad de establecer mecanismos de coordinación global para una posible "desaceleración o pausa" en el desarrollo de IA.
La empresa encarga a su rama investigadora, el Instituto Anthropic, investigar y actuar en colaboración con otras entidades para diseñar sistemas que permitan a los desarrolladores de IA de avanzada verificar que otros actores globales hayan frenado o detenido su progreso, impidiendo que un "mal actor" avance en secreto durante una pausa acordada. Si tales sistemas existieran, Anthropic consideraría una desaceleración o pausa temporal, siempre que otros desarrolladores cercanos a la vanguardia lo hicieran de manera verificable.
"Para lograr una ralentización o una pausa significativa, sería necesario que varios laboratorios situados en la vanguardia o cerca de ella, en distintos países, acordaran detener su actividad bajo las mismas condiciones. También sería necesario que cada uno pudiera verificar que los demás realmente han cesado su actividad", sugiere Anthropic.
