El director de operaciones de Google Cloud, Francis de Souza, compartió sus reflexiones en un evento en Los Ángeles sobre los desafíos de seguridad que enfrentan las empresas en la era actual de la IA. Destacó que todos, incluso los gigantes tecnológicos como Google, están actualmente en un proceso de aprendizaje y adaptación a la seguridad de la IA en tiempo real. De Souza enfatizó que la seguridad no debe ser un elemento que se añada al final de un proyecto, sino una parte integral de la estrategia desde el principio. Esto es reportado por Techcrunch.com .
Según el experto, las empresas deben tener cuidado con el riesgo de la "Shadow AI" (IA en la sombra), donde los empleados utilizan diversas herramientas de consumo sin supervisión organizacional. "No existe una estrategia de IA sin una estrategia de datos y una estrategia de seguridad. Siempre deben ir de la mano", afirma de Souza. También señaló que la velocidad de los ciberataques modernos ha aumentado drásticamente, reduciendo el tiempo entre una brecha y la siguiente etapa del ataque de 8 horas a 22 segundos.
Otro riesgo grave identificado son los agentes de IA que se mueven dentro de los sistemas internos de la empresa. Estos agentes pueden encontrar servidores SharePoint y bases de datos olvidados y desactualizados, lo que podría provocar fugas de datos. Para contrarrestar estas amenazas rápidas, de Souza sugiere responder con "velocidad de máquina contra velocidad de máquina", es decir, pasar a sistemas de defensa totalmente autónomos.
Lea Kissner, directora de seguridad de la información de LinkedIn, apoyó estas opiniones y afirmó que los expertos del sector tendrán que enfrentarse a una ola de vulnerabilidades provocadas por la IA, una "bug-pocalypse", en los próximos años. Esto se ha convertido en una cuestión estratégica que debe abordarse no solo por parte de los equipos técnicos, sino también a nivel de la dirección y el consejo de administración de la empresa.
¡Lee “Zamin” en Telegram!
