Seguridad de la inteligencia artificial: Claude utilizado indebidamente en investigaciones biológicas

El rápido desarrollo de las tecnologías de inteligencia artificial no solo genera nuevas oportunidades, sino también graves amenazas a la seguridad. Anthropic, el creador de la famosa red neuronal Claude, informó en su último informe que ha identificado varios casos peligrosos en los que la IA fue utilizada potencialmente en investigaciones destinadas a crear armas biológicas. Así lo informa Ixbt.com .

Según la información de ixbt.com, estos incidentes se registraron entre diciembre de 2025 y agosto de 2026. La dificultad para determinar la intención real de las investigaciones durante el proceso de conmutación se convirtió en el problema principal, ya que el mismo conocimiento científico puede servir tanto para crear medicamentos útiles como para desarrollar patógenos extremadamente peligrosos.

Investigaciones biológicas peligrosas e intentos ocultos

En uno de los casos identificados, los investigadores trabajaban con el virus chikungunya, transmitido por mosquitos. El sistema de protección de Claude bloqueó una solicitud destinada a preparar una petición de subvención para mejorar las funciones del virus. Tras descubrir que una institución de investigación militar estaba detrás de la solicitud, Anthropic restringió el servicio, pero los científicos continuaron el trabajo a través de otros canales.

Los análisis mostraron que los usuarios utilizaron diversas herramientas para eludir los modelos con mecanismos de seguridad más fuertes. En particular:

• Se identificó una plataforma intermediaria que redirigía las solicitudes biológicas rechazadas a otros modelos de IA con restricciones de seguridad más laxas.
• En un estudio sobre la gripe aviar altamente patógena, los científicos planificaron experimentos con la ayuda de Claude durante varias semanas, continuando el trabajo a través de versiones de menor potencia.

También se informó de otros tres casos relacionados con ortopoxvirus, diversos compuestos tóxicos y toxinas.

Ciberseguridad y actividad de Midnight Blizzard

El informe de Anthropic indica que la inteligencia artificial ha sido utilizada indebidamente no solo en ámbitos biológicos, sino también en ciberdelitos. La empresa vinculó una de las ciberoperaciones identificadas al grupo Midnight Blizzard, relacionado con hackers rusos.

En el marco de esta campaña, la IA se utilizó para automatizar ataques de phishing, preparar infraestructuras de red, crear software malicioso y robar datos. Estas acciones se dirigieron a más de 20 organizaciones pertenecientes a estructuras gubernamentales, diplomáticas y de defensa de Ucrania y países europeos.

Los expertos de Anthropic señalan que a medida que se amplían las capacidades de análisis científico de la IA, también aumenta la probabilidad de uso indebido. La empresa bloqueó las cuentas peligrosas, entregó los datos a las autoridades competentes y reforzó aún más las restricciones sobre las solicitudes biológicas de alto riesgo.