Anthropic bloquea cuentas que usaron su IA para investigaciones vinculadas a armas biológicas

(CNN) – Anthropic afirma que bloqueó múltiples cuentas que utilizaron sus modelos de inteligencia artificial de formas que podrían apoyar el desarrollo de armas biológicas. En un informe publicado el jueves, la compañía sostuvo que considera el uso indebido en el ámbito biológico uno de los “riesgos más serios” para los modelos de IA.

El documento detalla cinco casos reales en que usuarios “eludieron controles” que bloquean el acceso desde regiones específicas y realizaron otros esfuerzos para ocultar el propósito de sus investigaciones y evadir las salvaguardas. Los ejemplos incluyen posible investigación de ganancia de función, enfermedades infecciosas como la gripe aviar, y venenos y toxinas novedosos.

Científicos en actividad y casos concretos

Tras revisar 30 días de actividad, la empresa identificó cerca de 35 “esfuerzos de investigación distintos” con actividad potencialmente preocupante, aunque reconoció que no puede determinar si los actores “pretendían causar daño” o trabajaban con fines científicos legítimos. Anthropic señaló que los involucrados eran “científicos en ejercicio”, sin identificar instituciones ni países.

Uno de los casos consistió en una solicitud de ayuda para redactar una postulación de fondos destinada a investigación de ganancia de función sobre transmisibilidad y evasión inmune del virus chikungunya. Otro involucró a un investigador fuera de Estados Unidos que usaba Claude para trabajar en la adaptación de la gripe aviar a mamíferos. El informe también aborda estudios sobre ortopoxvirus —grupo que incluye la variola y el mpox— y toxinas de veneno.

Vigilancia, misiles y advertencias internas

“Los ataques sofisticados ya no requieren atacantes sofisticados”, indica el reporte, que atribuye a la IA el colapso de la brecha entre operaciones estatales y operadores individuales. La compañía añadió que interrumpió intentos de usar sus modelos para vigilancia, estafas y armamento convencional como drones y misiles.

Según el documento, operadores presuntamente vinculados al gobierno chino usaron Claude para vigilar a la minoría uigur en Xinjiang y a comunidades religiosas. Además, consultas dirigidas al modelo Kimi de Moonshot fueron redirigidas a Claude. Moonshot declinó comentar. Anthropic también indicó que actores en el norte de Yemen desarrollaron software de guía para sistemas de misiles.

La compañía afirma que sus modelos recientes, incluido Claude Fable 5, cuentan con “salvaguardas más fuertes”, aunque advierte que se requerirán sistemas de seguridad aún más robustos.