La empresa de inteligencia artificial Anthropic, creadora del modelo Claude, reveló en los documentos para su salida a Bolsa los principales riesgos que plantean los sistemas autónomos, según se detalla en su presentación ante inversores.
La compañía advirtió que una IA mal utilizada podría generar "riesgos catastróficos o existenciales para la humanidad", especialmente si se permite que opere con "un alto grado de autonomía" sin las salvaguardias adecuadas.
Entre los escenarios peligrosos que la firma detalló ante potenciales accionistas figuran los ciberataques, el desarrollo de armas biológicas y químicas. Anthropic también reveló que ya ha bloqueado intentos de utilizar sus modelos para actividades maliciosas, aunque advirtió que estos peligros crecerán a medida que la tecnología avance.
