El CEO de Microsoft, Satya Nadella, advierte sobre los riesgos de la IA

El rápido desarrollo de las tecnologías de inteligencia artificial (AI) no solo trae nuevas oportunidades, sino también riesgos inesperados. En una reciente intervención, el CEO de Microsoft, Satya Nadella, lanzó una advertencia inesperada y abierta al mundo tecnológico. Según él, las empresas que utilizan los servicios de grandes laboratorios como OpenAI y Anthropic están poniendo en riesgo, sin saberlo, el futuro de sus propios negocios. Así lo informa Techcrunch.com informa .

Nadella señala que, hoy en día, los usuarios de modelos de IA pagan en realidad un «doble precio». En primer lugar, pagan directamente por los tokens y servicios de IA y, en segundo lugar, lo más importante, proporcionan sus datos comerciales más confidenciales y valiosos a estos modelos. Estos datos se utilizan para hacer que el modelo sea más inteligente, lo que permite a los grandes laboratorios tecnológicos aprender los secretos internos de sus clientes y convertirse en sus competidores.

El efecto «caballo de Troya» y el robo de datos

Según ixbt.com, muchos inversores y expertos en Silicon Valley comparan estos modelos con un «caballo de Troya». Cuantos más datos cargan las empresas en los modelos de IA para mejorar su eficiencia operativa, más aprenden estos modelos. Satya Nadella llamó a este proceso «fuga de propiedad intelectual». Según él, el modelo aprende de las correcciones, consultas y herramientas utilizadas por los agentes para apropiarse del know-how único de la empresa.

Esta situación es especialmente relevante para startups y grandes empresas en mercados emergentes. Las empresas locales, al utilizar servicios globales de IA, pueden terminar revelando su base de clientes, planes estratégicos y algoritmos internos. Nadella describió este tipo de conocimiento como una «riqueza que un competidor nunca podría comprar, pero que los modelos de IA obtienen gratis».

Destilación y la cuestión del uso justo

El líder de Microsoft planteó otro problema crucial: las empresas que crean modelos de IA utilizan datos abiertos de todo Internet de forma gratuita para entrenar sus modelos, pero no permiten que otros estudien los suyos. Nadella considera esto una injusticia. En su opinión, si los laboratorios utilizan datos abiertos, las empresas también deberían tener derecho a crear sus propios modelos más pequeños y económicos basados en los resultados obtenidos por estos modelos (destilación).

Actualmente, empresas como Anthropic se quejan de que los resultados de sus modelos están siendo absorbidos por otros competidores, en particular por modelos de código abierto chinos. Sin embargo, Nadella calificó las restricciones de los creadores de modelos al respecto como «irónicas». Según él, los gigantes tecnológicos también deben cumplir con los principios de apertura.

En conclusión, esta declaración de Satya Nadella indica que está comenzando una nueva era de regulación en el mercado de la IA. Las empresas ahora deben pensar seriamente no solo en cómo aprovechar las capacidades de la IA, sino también en cómo proteger su activo más valioso: sus datos. De lo contrario, el asistente de hoy podría convertirse fácilmente en el competidor más fuerte de mañana.