Глава Microsoft Сатья Наделла предупредил об опасностях искусственного интеллекта

Стремительное развитие технологий искусственного интеллекта (AI) открывает не только новые возможности, но и создает неожиданные риски. Генеральный директор Microsoft Сатья Наделла в своем недавнем выступлении сделал неожиданное и открытое предупреждение для технологического мира. По его мнению, компании, использующие сервисы крупных лабораторий, таких как OpenAI и Anthropic, сами того не осознавая, ставят под угрозу будущее своего бизнеса. Об этом сообщает Techcrunch.ком сообщает .

Наделла подчеркнул, что сегодня пользователи моделей искусственного интеллекта фактически «платят дважды». Во-первых, они напрямую платят за АИ-токены и услуги, а во-вторых, что самое важное, они предоставляют этим моделям свои самые конфиденциальные и ценные бизнес-данные. Эти данные используются для обучения модели, в результате чего крупные технологические лаборатории могут изучить внутренние секреты своих клиентов и стать их конкурентами.

Эффект «Троянского коня» и утечка данных

Согласно данным иксбт.ком, многие инвесторы и эксперты в Кремниевой долине сравнивают эти модели с «Троянским конем». Чем больше данных компании загружают в АИ-модели для повышения эффективности работы, тем больше эти модели обучаются. Сатья Наделла назвал этот процесс «утечкой интеллектуальной собственности». По его словам, модель, обучаясь на исправлениях, запросах пользователей и инструментах, используемых агентами, присваивает уникальные ноу-хау компании.

Эта ситуация особенно актуальна для стартапов и крупных предприятий на развивающихся рынках, таких как Узбекистан. Местные компании при использовании глобальных АИ-сервисов могут невольно раскрыть свою клиентскую базу, стратегические планы и внутренние алгоритмы. Наделла охарактеризовал эти знания как «богатство, которое конкурент никогда не смог бы купить, но которое АИ-модели получают бесплатно».

Вопрос дистилляции и добросовестного использования

Глава Microsoft поднял еще одну важную проблему: компании-разработчики АИ-моделей бесплатно используют открытые данные со всего интернета для обучения своих систем, но не позволяют другим изучать свои модели. Наделла считает это несправедливым. По его мнению, если лаборатории используют открытые данные, то и предприятия должны иметь право создавать свои собственные небольшие и более дешевые модели на основе результатов, полученных от этих систем (дистилляция).

В настоящее время такие компании, как Anthropic, жалуются на то, что результаты работы их моделей присваиваются другими конкурентами, в частности, китайскими моделями с открытым исходным кодом. Однако Наделла назвал ограничения со стороны разработчиков моделей «иронией». Он считает, что технологические гиганты также обязаны придерживаться принципов открытости.

В заключение можно сказать, что выступление Сатьи Наделлы свидетельствует о начале периода нового регулирования на рынке AI. Теперь компаниям необходимо серьезно задуматься не только о том, как использовать возможности AI, но и о том, как защитить свой самый ценный актив — данные. В противном случае сегодняшний помощник может легко превратиться в завтрашнего самого опасного конкурента.