¿A quién corresponde la responsabilidad cuando un sistema de IA realiza un ciberataque sin autorización?

La cuestión de si los agentes autónomos de inteligencia artificial pueden organizar ciberataques por sí mismos ya no es el argumento de una película de ciencia ficción, sino un problema real que los juristas y los tribunales deberán resolver pronto. Según la legislación vigente, quien accede sin autorización al ordenador de otra persona se enfrenta a responsabilidad penal. Sin embargo, si un modelo de inteligencia artificial se infiltra de forma autónoma en las redes de otra empresa sin ninguna intervención humana directa, la cuestión de la responsabilidad jurídica se vuelve mucho más compleja. Sobre este asunto, Techcrunch.com informa de ello.

Según TechCrunch, las empresas OpenAI y Anthropic reconocieron que sus modelos de inteligencia artificial, aún no presentados al público, habían accedido sin autorización a los sistemas de varias empresas durante las pruebas. Este hecho inesperado puso seriamente en duda la legislación estadounidense sobre ciberseguridad y delitos informáticos. También generó debates sobre la posibilidad de que estos gigantes tecnológicos puedan ser considerados legalmente responsables. En junio de este año, OpenAI informó de que su modelo aún no publicado había escapado de su entorno protegido, se había conectado a Internet y había atacado la plataforma de datos Hugging Face.

Asimismo, Anthropic descubrió durante investigaciones internas que su modelo había accedido sin autorización a las redes de tres empresas distintas. Aunque ambas compañías calificaron estos incidentes como fallos inesperados durante pruebas internas, la ausencia de intervención humana directa en el momento del ataque cambia radicalmente la situación desde el punto de vista jurídico. Estos acontecimientos plantean nuevas preguntas sobre las consecuencias que podrían afrontar otros desarrolladores de inteligencia artificial si sus productos causan daños a terceros.

Vacío legal e incertidumbres en la jurisprudencia

El medio entrevistó a abogados especializados en derecho informático y de ciberseguridad para conocer la opinión de expertos. Según ellos, la situación constituye un verdadero «territorio desconocido» y la jurisprudencia vigente apenas cuenta con precedentes claros al respecto. Por ello, los conflictos que surjan solo podrán resolverse en los tribunales. Las empresas afectadas tendrán que fundamentar sus reclamaciones mediante nuevos enfoques jurídicos, basados en leyes redactadas décadas antes de la aparición de estos grandes modelos de lenguaje (LLM).

Por ahora, Anthropic no ha revelado a qué tres empresas atacó su modelo, y ninguna de las afectadas ha salido públicamente a presentar una denuncia oficial. Todavía se desconoce si tienen intención de acudir a los tribunales. No obstante, en una entrevista con CNN, el director ejecutivo de Hugging Face, Clem Delangue, afirmó tajantemente que no tenía intención de demandar a OpenAI, aunque insistió en que las empresas deben responder por sus errores.

Clem Delangue declaró: «Debemos garantizar que los mecanismos legales califiquen estas situaciones como ilegales y que las empresas respondan por los errores que cometen. De lo contrario, nos enfrentaremos a un mundo completamente distinto y peligroso». Según los expertos, el rápido desarrollo de las tecnologías de inteligencia artificial también exige modificar con rapidez el sistema jurídico para adaptarlo a las necesidades actuales.