Las restricciones de la IA obstaculizan el trabajo de los expertos en ciberseguridad

Con el desarrollo de las tecnologías de IA, las grandes corporaciones tecnológicas están implementando estrictos sistemas de protección (guardrails) para limitar el uso malintencionado de sus modelos. Sin embargo, estos obstáculos destinados a prevenir ciberataques ahora plantean serios problemas no solo para los ciberdelincuentes, sino también para los investigadores legítimos y los ingenieros de seguridad que protegen los sistemas. Así lo informa Techcrunch.com informa .

En los últimos meses, empresas líderes como OpenAI y Anthropic han lanzado programas de verificación especiales para mantener sus modelos seguros. Por ejemplo, los modelos Mythos y Fable de Anthropic fueron sometidos a control de exportación por el gobierno de EE. UU. debido a preocupaciones de que pudieran ser utilizados para realizar ciberataques. Aunque estas restricciones se suavizaron parcialmente después, los profesionales de la ciberseguridad señalan que este enfoque debilita los sistemas de defensa.

La delgada línea entre defensa y ataque

Los investigadores de ciberseguridad a menudo necesitan pensar como hackers y utilizar herramientas similares para identificar y cerrar vulnerabilidades en los sistemas. Según TechCrunch, cuando muchos expertos solicitan a los modelos de IA que analicen código y encuentren errores, el sistema lo evalúa como una «acción peligrosa» y se niega a responder.

Chris Anley, director científico de NCC Group, explica que una orden para «corregir» un código de software puede servir tanto como guía de defensa como de ataque. «La misma herramienta actúa tanto como arma de ataque como de defensa, y es imposible distinguirlas. Si el modelo de IA se niega a analizar el código, esto dificulta el trabajo de los defensores», afirma el experto.

Las decisiones subjetivas de las empresas

Según el reconocido investigador de seguridad Mark Dowd, el hecho de que las empresas privadas determinen de forma independiente qué es seguro y qué es peligroso tiene un impacto negativo en el desarrollo del sector. Destaca que los gigantes tecnológicos imponen restricciones arbitrarias sin tener en cuenta los aspectos complejos de la ciberseguridad.

Actualmente, OpenAI a través de su programa Trusted Access for Cyber y Anthropic a través de su Cyber Verification Program solo permiten el uso de modelos con menos restricciones a organizaciones que han pasado una verificación especial. Sin embargo, esta política de «puertas cerradas» limita las capacidades de los investigadores independientes.

En Uzbekistán, la ciberseguridad también se está convirtiendo en un tema cada vez más relevante. El hecho de que los expertos locales enfrenten tales obstáculos al utilizar modelos de IA globales podría ralentizar el proceso de protección de los sistemas de información del país. Después de todo, para contrarrestar los ciberataques modernos, los expertos deben tener acceso total a las herramientas intelectuales más avanzadas.