OpenAI представила новую модель Sol: безопасность искусственного интеллекта под вопросом

Лидер в сфере искусственного интеллекта OpenAI начала публичный выпуск своей новой передовой разработки — модели Sol. Утверждается, что по своим возможностям эта модель сопоставима с системой Fable от компании Anthropic. Примечательно, что в свое время Fable была временно запрещена правительством США из соображений безопасности. Однако то, как модель Sol так быстро получила разрешение, вызывает множество вопросов. Об этом сообщает Techcrunch.ком.

В настоящее время в технологическом мире и политических кругах нет четкой информации о том, кто и на основе каких критериев проверял безопасность этой модели. По данным издания TechCrunch, даже отраслевые эксперты не понимают, как работает правительственный процесс лицензирования. Аналитик Джорджтаунского университета Мина Нараянан подчеркнула, что эти процессы непрозрачны и трудно сказать, являются ли меры безопасности, послужившие основанием для выпуска модели, достаточными.

Неопределенность в механизмах контроля

Хотя администрация президента США опубликовала дорожную карту по регулированию искусственного интеллекта, конкретные требования до сих пор не разработаны. По словам Дина У. Болла, бывшего политического советника, работающего в OpenAI, сегодня никто не знает, какие требования предъявляются для получения лицензии. Это свидетельствует о серьезных пробелах в вопросе безопасности искусственного интеллекта.

Представители правительства заявили, что не будут создавать для искусственного интеллекта строгое ведомство, подобное Управлению по санитарному надзору за качеством пищевых продуктов и медикаментов (ФДА). Пока что ответственность в этой области возложена на Центр стандартов и инноваций в области искусственного интеллекта при Министерстве торговли США. Однако ожидается, что к августу шесть различных министерств определят окончательный процесс контроля.

Политические связи и конфликт интересов

Глава OpenAI Сэм Альтман в интервью телеканалу КНБК подтвердил, что перед выпуском модели он общался с высокопоставленными чиновниками, такими как министр торговли и министр финаннансов. Но какие технические испытания проводились в ходе этих диалогов, остается секретом. В своем отчете по безопасности компания опирается на проверки внешних организаций, таких как УК АИСИ и СекуреБио.

По мнению наблюдателей, тесные связи руководства OpenAI с представителями правительства и пожертвования в политические кампании могли стать причиной более мягкого отношения к модели Sol. В частности, президент компании Грег Брокман был отмечен как один из крупнейших доноров в предвыборных процессах.

Для узбекистанских пользователей такие новости также имеют важное значение. В то время как ChatGPT и другие продукты OpenAI широко используются в нашей стране, уровень безопасности этих моделей и принципы их работы с данными напрямую влияют на глобальную цифровую безопасность. Ожидается, что популяризация модели Sol выведет возможности искусственного интеллекта на новый уровень, однако вопрос установления контроля над ней остается открытым.