La IA como multiplicador de amenazas: qué deben cambiar los equipos de seguridad
Anthropic informó que detectó y bloqueó intentos de utilizar su modelo Claude para fines maliciosos: desarrollo de malware, creación de campañas de phishing, apoyo a operaciones de espionaje y extracción masiva de datos. Según el reporte de inteligencia de amenazas de la compañía, parte de esta actividad está vinculada a actores rusos, mientras que otra corresponde a campañas de "model distillation" atribuidas a laboratorios chinos que buscan replicar capacidades de modelos avanzados a partir de sus resultados.
Anthropic aseguró haber suspendido las cuentas involucradas, reforzado sus controles internos y notificado a terceros y autoridades correspondientes. Aunque las conclusiones se basan principalmente en el propio informe de la compañía y en cobertura periodística — por lo que las atribuciones geopolíticas deben tomarse con cautela — el caso confirma una tendencia que ya se venía observando: la inteligencia artificial se está usando como un multiplicador de capacidad en distintas fases de una operación ofensiva, desde el reconocimiento inicial hasta la exfiltración de información.
Para las empresas, esto no es un problema abstracto de los laboratorios de IA. Cualquier organización que use asistentes de IA conectados a sus sistemas, correo o repositorios de código debe empezar a tratar esas integraciones como una superficie de ataque más: qué datos puede leer el asistente, qué acciones puede ejecutar sin supervisión, y qué registros de auditoría quedan de su actividad.
En Axentia recomendamos tres pasos concretos: limitar el acceso de las herramientas de IA a información confidencial mediante permisos granulares, proteger las claves de API igual que se protegería una credencial de administrador, y monitorear patrones de automatización inusuales (volumen de solicitudes, horarios atípicos, accesos a datos fuera del alcance habitual del usuario). Podemos ayudarte a evaluar cómo está usando tu organización estas herramientas hoy y a diseñar los controles necesarios antes de que se conviertan en un punto ciego de seguridad.
