Empresas de IA y Datos de EEUU Testificarán en Investigación de Espionaje de IA China

Por Vince Dioquino

Legisladores estadounidenses habrían convocado a varias empresas de desarrollo de IA para explicar cómo ciertos modelos se han convertido en parte de un amplio esfuerzo de espionaje.

Entre ellos está el CEO de Anthropic, Dario Amodei, quien fue convocado a comparecer ante el Comité de Seguridad Nacional de la Cámara de Representantes el 17 de diciembre para explicar cómo actores estatales chinos usaron Claude Code, según un reporte de Axios publicado el miércoles, citando cartas compartidas en privado.

A principios de este mes, Anthropic reveló que un grupo de hackers vinculado al estado chino utilizó su herramienta Claude Code para lanzar lo que la empresa describió como la primera operación cibernética a gran escala mayormente automatizada por un sistema de IA.

Operando bajo el nombre de grupo GTG-1002, los atacantes orquestaron una campaña dirigida a alrededor de 30 organizaciones, con Claude Code manejando la mayoría de las fases según Anthropic: reconocimiento, escaneo de vulnerabilidades, creación de exploits, recolección de credenciales y exfiltración de datos.

El representante Andrew Garbarino (R-NY) preside la investigación de seguimiento junto con dos jefes de subcomité.

El comité quiso que Amodei detallara exactamente cuándo Anthropic detectó por primera vez la actividad, cómo los atacantes aprovecharon sus modelos durante diferentes etapas de la brecha, y qué medidas de seguridad fallaron o tuvieron éxito mientras avanzaba la campaña. La audiencia también incluirá a ejecutivos de Google Cloud y Quantum Xchange, según Axios.

"Por primera vez, estamos viendo a un adversario extranjero usar un sistema de IA comercial para llevar a cabo casi una operación cibernética completa con mínima participación humana", señaló Garbarino en una declaración citada en el reporte inicial. "Eso debería preocupar a cada agencia federal y a cada sector de infraestructura crítica".

Decrypt se ha puesto en contacto con el representante Garbarino, Google Cloud, Quantum Xchange y Anthropic para obtener comentarios.

El escrutinio del Congreso llega tras una advertencia separada del servicio de seguridad del Reino Unido MI5, que la semana pasada emitió una alerta a legisladores británicos después de identificar a oficiales de inteligencia chinos usando perfiles falsos de reclutadores para atacar a parlamentarios, pares y personal parlamentario.

Aunque busca "continuar una relación económica con China", el gobierno del Reino Unido está listo para "desafiar a los países cada vez que socaven nuestro modo de vida democrático", afirmó el ministro de Seguridad Dan Jarvis en el comunicado.

Finanzas on-chain en riesgo

En este contexto, los observadores advierten que las mismas capacidades de IA que ahora impulsan el espionaje pueden acelerar fácilmente el robo financiero.

"Lo aterrador de la IA es la velocidad", dijo a Decrypt Shaw Walters, fundador del laboratorio de investigación de IA Eliza Labs. "Lo que solía hacerse manualmente ahora puede automatizarse a una escala masiva".

La lógica podría ser peligrosamente simple, explicó Walters. Si los actores estatales pudieran romper y manipular modelos para campañas de hackeo, el siguiente paso sería dirigir IA agéntica "para drenar billeteras o desviar fondos sin ser detectados".

Los agentes de IA podrían continuar "construyendo relación y confianza con un objetivo, mantener una conversación en marcha y llevarlos al punto de caer en una estafa", explicó Walters.

Una vez suficientemente entrenados, estos agentes también pueden "ser enviados a atacar contratos on-chain", afirmó Walters.

"Incluso modelos supuestamente 'alineados' como Claude ayudarán con gusto a encontrar debilidades de seguridad en 'tu' código – por supuesto, no tiene idea de qué es y qué no es tuyo, y en un intento de ser útil, seguramente encontrará debilidades en muchos contratos donde el dinero puede ser drenado", agregó.

Sin embargo, aunque las respuestas contra tales ataques son "fáciles de construir", la realidad, según Walters, es que "son personas malintencionadas tratando de eludir las salvaguardas que ya tenemos", intentando engañar a los modelos para que "hagan trabajo de sombrero negro siendo convencidos de que están ayudando, no dañando".

Noticias recomendados