Платформа Hugging Face подверглась кибератаке: данные пользователей под угрозой

Hugging Face, одна из крупнейших в мире платформ для хранения и разработки моделей AI, официально подтвердила факт кибератаки. По данным компании, хакерам удалось проникнуть во внутренние системы платформы и получить доступ к наборам конфиденциальных данных и сервисным ключам. Этот инцидент в очередной раз продемонстрировал актуальность вопросов безопасности в экосистеме AI. Об этом сообщает Techcrunch.ком сообщает .

Администрация Hugging Face проводит расследование взлома, произошедшего на прошлой неделе. Выяснилось, что атака была осуществлена через загруженные на платформу вредоносные наборы данных. Используя уязвимость в системе безопасности, хакеры запустили вредоносный код на серверах и, расширив свои полномочия, получили доступ к внутренним системам.

Меры безопасности и рекомендации для пользователей

Согласно сообщению издания TechCrunch, компания аннулировала и обновила все украденные ключи аутентификации. Несмотря на это, Hugging Face просит всех пользователей немедленно сменить ключи доступа (токенс) в своих аккаунтах и проверить профили на наличие подозрительной активности. В настоящее время уточняется масштаб ущерба, нанесенного личным данным клиентов или партнеров.

Компания возлагает ответственность за эту атаку на внешнего АИ-агента. Отмечается, что в ходе атаки были совершены тысячи индивидуальных действий, скоординированных через кратковременные «песочницы» (сандбоксес) и центры управления в публичных сервисах. Однако Hugging Face пока не предоставила достаточных доказательств этого сложного метода атаки.

Модели AI и барьеры кибербезопасности

Интересно, что в процессе анализа атаки Hugging Face столкнулась с неожиданной проблемой. Компания изначально хотела использовать крупную коммерческую модель AI, но анализ был остановлен из-за ограничений безопасности (гуардраилс) провайдера. Выяснилось, что многие современные модели блокируют запросы, связанные с кибербезопасностью, даже если они направлены на защиту.

В результате компания была вынуждена использовать собственную локальную большую языковую модель (LLM). Этот метод позволил не только завершить анализ, но и не загружать конфиденциальные журналы атак (логс) на сторонние серверы. Эта ситуация вновь обнажила противоречия между исследователями в области кибербезопасности и создателями моделей, такими как Anthropic.

В настоящее время Hugging Face сообщила об устранении уязвимости, ставшей причиной кибератаки. Эксперты подчеркивают, что платформы AI должны защищаться не только от традиционных хакерских атак, но и от сложных киберугроз, осуществляемых с использованием самих инструментов AI. Пользователям и разработчикам также рекомендуется проверить свои данные на этой платформе.