Ограничения на ИИ Anthropic после предупреждения Amazon

Администрация президента США Дональд Трамп приняла решение ограничить доступ иностранных пользователей к самым мощным моделям искусственного интеллекта компании Anthropic. Стало известно, что причиной этой жесткой меры стали конфиденциальные предупреждения, предоставленные корпорацией Amazon. Как сообщает Те Валл Стрит Джурнал, эта ситуация вновь вынесла на повестку дня вопросы безопасности и конкуренции в технологическом мире. Об этом сообщает Иксбт.ком сообщает об этом.

Согласно информации, генеральный директор Amazon Андй Джассй лично связался с министром финансов США Скотт Бессент и другими высокопоставленными чиновниками. Он сообщил, что разработанная Anthropic модель Fable 5 предоставляет крайне опасные данные, которые могут быть использованы при подготовке кибератак. Специалистам Amazon удалось обойти механизмы защиты системы и использовать ее для выявления уязвимостей в программном обеспечении.

Меры безопасности и неожиданные решения

После этого предупреждения Белый дом провел специальное совещание, и эксперты по безопасности приступили к проверке выводов Amazon. Правительство потребовало от руководства Anthropic немедленно устранить выявленные недостатки или временно отключить модель. В результате Дональд Трамп одобрил решение об ограничении доступа к этой системе для иностранных правительств, компаний и физических лиц.

Интересен тот факт, что компания Amazon является одним из крупнейших инвесторов стартапа Anthropic. Корпорация не только инвестирует миллиарды долларов в этот проект, но и предоставляет ему свою облачную инфраструктуру и микросхемы. Однако опасения по поводу безопасности оказались важнее даже партнерских отношений.

Компания Anthropic утверждает, что проблемы, выявленные Amazon, не представляют серьезной угрозы. По словам представителей стартапа, результаты, показанные Fable 5, основаны на простых сценариях, и другие открытые модели искусственного интеллекта могут предоставлять аналогичные данные. Тем не менее, чтобы соответствовать новым требованиям, компания полностью прекратила доступ к моделям Мйтос и Fable для всех пользователей.

Политическое давление и перспективы отрасли

Эти ограничения затронули не только внешних пользователей, но и иностранных специалистов, работающих в самой Anthropic. Большинство сотрудников компании родились за пределами США, и теперь они лишены права использовать новейшие разработки, созданные ими самими. Это может создать серьезные трудности в кадровой политике и работе над новыми технологиями.

По мнению независимых экспертов, конфликт между Anthropic и администрацией Трамп имеет гораздо более глубокие корни. Белый дом обвиняет компанию в недостаточном сотрудничестве с государственными органами по вопросам безопасности и связях с представителями предыдущей администрации. Кроме того, споры об использовании технологий Anthropic военными структурами США уже дошли до судебных разбирательств.

В настоящее время модели Anthropic остаются закрытыми для специалистов в области кибербезопасности. Ожидается, что это затруднит работу организаций по всему миру, занимающихся поиском и исправлением ошибок в программном обеспечении. Этот шаг правительства США свидетельствует об усилении государственного контроля в сфере искусственного интеллекта.