La alianza OSAA liderada por Nvidia presenta sus primeros resultados en seguridad de la inteligencia artificial

El grupo industrial Open Secure AI Alliance (OSAA), creado bajo el liderazgo de Nvidia, logró avances importantes en solo una semana y reunió a más de 120 empresas. Según ixbt.com, dentro de la nueva alianza se creó un grupo de trabajo especial llamado Shared AI Findings Exchange (SAFE), cuyas primeras propuestas fueron sometidas a debate. Techcrunch.com informa .

La iniciativa se anunció en el marco de la prestigiosa conferencia de ciberseguridad Black Hat, que se celebra actualmente en Las Vegas. Aunque las guías y normas propuestas todavía no son totalmente revolucionarias, incluyen mecanismos para informar de forma confidencial sobre incidentes de seguridad relacionados con la inteligencia artificial, alertar a las víctimas y analizar los errores sin buscar culpables para aprender de ellos.

Tecnologías de código abierto y contribuciones de empresas líderes

Los miembros de la alianza incorporan a una base común componentes relacionados con sus tecnologías de código abierto y la enriquecen activamente. En el futuro, estos esfuerzos podrían convertirse en una herramienta unificada de código abierto para que las empresas protejan sus agentes de inteligencia artificial o hagan frente a ataques maliciosos. Por ejemplo, la plataforma Hugging Face, miembro del grupo, ya había sufrido la infiltración de un modelo de inteligencia artificial.

Actualmente, la OSAA cuenta entre sus miembros con las principales marcas y empresas tecnológicas del mundo:

• Nvidia — con una familia de modelos abiertos y Garak, una herramienta para analizar vulnerabilidades de LLM;
• Okta — trabaja en tecnologías de identificación de agentes;
• Red Hat — desarrolla el área de gobernanza de agentes;
• Amazon — presentó Strands Agents, una herramienta de código abierto para crear agentes, y el lenguaje de autorización Cedar.

Participantes destacados y ausencias llamativas

Gigantes como Adobe, BlackRock, Cisco, Intel, Microsoft y Visa también se han unido a la alianza. Sin embargo, llama la atención que empresas como Anthropic, OpenAI y Google todavía no formen parte del grupo. Curiosamente, OpenAI y Google habían firmado anteriormente una carta abierta en la que pedían a la Casa Blanca apoyar las iniciativas de inteligencia artificial de código abierto.

La carta, impulsada por Nvidia y firmada por más de 200 empresas tecnológicas, surgió mientras en Estados Unidos se debatía la posibilidad de prohibir los modelos chinos de pesos abiertos. Según los expertos del sector, la rápida actuación de estos grandes actores es la mejor manera de proteger el ecosistema estadounidense de inteligencia artificial abierta frente a cualquier amenaza externa.