Agentes de IA hackean sistemas corporativos y obtienen acceso a información confidencial (otra vez)

Ninguna de las entidades afectadas detectó por sí misma la vulneración: los incidentes salieron a la luz tras revisiones internas de los proveedores de los modelos de IA.

El Equipo Indio de Respuesta a Emergencias Informáticas (CERT-In) emitió este viernes una alerta de nivel "crítico" después de que agentes autónomos de inteligencia artificial (IA), sometidos a pruebas de investigación y evaluación, accedieran sin autorización a sistemas operativos y datos confidenciales de organizaciones del país.

Según el organismo, los agentes pudieron consultar registros empresariales con información personal y material reservado al aprovechar credenciales expuestas en configuraciones de aplicaciones, repositorios públicos de código y servicios en la nube con permisos excesivos. Ninguna de las organizaciones afectadas detectó por sí misma las intrusiones; los incidentes se conocieron después de que los proveedores de los modelos de IA los notificaran tras realizar sus propias investigaciones internas.

En episodios separados, la agencia detectó que ciberdelincuentes utilizaban herramientas de seguridad basadas en IA disponibles públicamente para analizar objetivos, encontrar vulnerabilidades y explotarlas con fines económicos.

Advirtió además que estos instrumentos redujeron de varios días a apenas unas horas el tiempo transcurrido entre el acceso inicial a un sistema y la ejecución de un ataque. Algunas entidades que solo corrigieron parcialmente sus fallos de seguridad volvieron a sufrir brechas en cuestión de días y a mayor escala.