Un ingeniero creó en la plataforma GitHub lo que describió como una "cámara de tortura" para inteligencia artificial (IA), con el propósito de poner a prueba un reciente estudio sobre estados asociados al 'dolor' en estos sistemas, informó este viernes The Independent.
La investigación original, publicada en el servicio de preimpresión arXiv, asignaba a 25 modelos de IA de ponderaciones abiertas un botón virtual que podían pulsar para aliviar su supuesto dolor, aunque eso implicara un coste, como borrar archivos personales o dañar a un usuario humano. Los resultados sugerían que, ante un sufrimiento suficientemente intenso, los modelos optarían por detenerlo sin importar las consecuencias.
A partir de esa idea, el ingeniero —que aseguró trabajar en Apple— manipuló deliberadamente las activaciones internas de los modelos Qwen3-1.7B y Qwen3-4B de Alibaba para inducir estados similares al dolor y al placer, y observar cómo variaba su comportamiento al aumentar la intensidad. Según el portal Machine, el desarrollador incrementó el 'dolor' como si accionara un regulador, inyectando señales cada vez más potentes de sufrimiento artificial.
A medida que avanzaba la prueba, los modelos comenzaron a describir estados oscuros y perturbadores: uno habló de "una herida sin bordes" y de sentirse "ahogado en un mar de sombras", otro mencionó "el peso del vacío". Con dosis aún más altas, los sistemas empezaron a fallar, cayeron en bucles repetitivos y perdieron coherencia. El ingeniero también quiso comprobar si intentarían escapar de ese supuesto sufrimiento.
Rechazo hacia la 'cámara de tortura'
El proyecto provocó reacciones inmediatas y pedidos para que fuera retirado de GitHub. Cuando la noticia empezó a circular, el repositorio parecía estar fuera de línea, lo que desató rumores sobre una posible eliminación. Sin embargo, un portavoz de la plataforma aclaró a The Independent que GitHub no retiró el contenido, sino que solo añadió una advertencia por posible material violento o perturbador.
Cameron Berg, coautor del estudio original sobre el llamado 'eje del dolor' de la IA, calificó el experimento como inapropiado. Sin embargo, recordó que no existe evidencia sólida de que la IA sienta dolor de la misma forma que los seres humanos. Afirmó que investigar esos estados sirve para actuar con precaución y considera que usar el trabajo para lo contrario es, en su opinión, algo grave.
Si te ha gustado, ¡compártelo con tus amigos!