Anthropic acusa a empresas chinas de copiar su inteligencia artificial con cuentas falsas

Anthropic acusó este lunes a empresas chinas de inteligencia artificial, entre ellas Zhipu y Moonshot, de intentar copiar las capacidades de Claude mediante redes de cuentas falsas, una práctica conocida como destilación que la compañía asegura haber frenado entre 90% y 99% con nuevas defensas.

La destilación consiste en generar millones de respuestas de un modelo más potente para enseñarle a uno más pequeño a imitarlo, y según Anthropic permite alcanzar capacidades de frontera con una fracción del tiempo y del costo de desarrollo.

La compañía sostuvo que los atacantes operan con redes de servidores intermedios que controlan cientos de miles de cuentas fraudulentas, con identidades falsas y medios de pago robados, y que además revenden acceso a Claude en regiones donde no está disponible.

En un reporte de febrero, Anthropic ya había descrito una de esas redes, que manejaba más de 20.000 cuentas a la vez.

El material más codiciado son las transcripciones del razonamiento que Claude escribe antes de responder, y los atacantes recurren desde órdenes simples, como pedirle que repita su razonamiento carácter por carácter, hasta una prueba de un laboratorio con 12.000 solicitudes, cada una con un truco distinto.

Zhipu y Moonshot, los casos que menciona Anthropic

Anthropic afirmó que Zhipu destiló capacidades de ciberseguridad de modelos estadounidenses durante el desarrollo de su modelo GLM-5.3, y que intentó hacerlo con Claude Fable 5, pero cambió a un modelo anterior de Claude y a uno de otro laboratorio al comprobar que las salvaguardas degradaban sus ataques.

El Centro de Estándares e Innovación en Superinteligencia (CAISSI) de Estados Unidos evaluó después a GLM-5.3 como el modelo de pesos abiertos con mayor capacidad cibernética lanzado hasta ahora, mientras que la investigación de Anthropic concluyó que sus salvaguardas pueden eludirse con facilidad.

Sobre Moonshot, la empresa recordó un caso en que solicitudes a sus modelos Kimi se reenviaron en secreto a Claude, entre ellas la de un usuario que, según Anthropic, estaría afiliado al Ejército Popular de Liberación de China y buscaba analizar videovigilancia de una persona específica.

La compañía advirtió que estos modelos pueden lanzarse sin salvaguardas proporcionales a su capacidad, con riesgo de uso en biología y ciberseguridad, y que las capacidades obtenidas se integran en sistemas militares, de inteligencia y vigilancia extranjeros.

Anthropic asegura haber reducido la extracción hasta 100 veces

Anthropic dice que, tras introducir un clasificador, la extracción de razonamiento en su plataforma cayó entre 10 y 100 veces, que en algunos días fue demasiado pequeña para medirse y que baneó a decenas de miles de cuentas, a veces en menos de dos horas.

Entre las medidas figuran impedir que cuentas nuevas editen el contexto previo de Claude, límites de uso más estrictos para quienes insisten y, desde el 24 de septiembre, el cobro de las solicitudes bloqueadas en áreas con menos de 0,1% de falsos positivos.

La empresa reconoció costos. Algunos desarrolladores debieron actualizar sus integraciones, los filtros pueden bloquear solicitudes legítimas en menos del 0,1% de los casos, y dijo haber rechazado ingresos significativos y billones de tokens de tráfico de pago de destiladores.

Anthropic admitió que espera un juego permanente de gato y ratón y que aún no ha visto un intento muy sofisticado y persistente de eludir sus defensas, por lo que pidió el compromiso de otros desarrolladores y plataformas, ya que los atacantes reparten su tráfico entre su API, nubes de terceros y otros proveedores.