Бывший исследователь лаборатории искусственного интеллекта предупредил о катастрофе...

В мировой индустрии информационных технологий и искусственного интеллекта на повестку дня вышло поистине громкое беспокойство, касающееся будущего человечества. Джейкоб Коксон, бывший ведущий исследователь компании «Антропик», недавно покинувший ее (разработчика известной большой языковой модели «Клод»), открыто высказался о страшной угрозе, стоящей за бурным развитием технологий. Выступив в эфире влиятельного американского телеканала «Эй-Би-Си», специалист сравнил создание новых систем, превосходящих человеческий разум, со столкновением с разумом чужой планеты.

По словам Коксона, жестокая рыночная конкуренция между гигантами искусственного интеллекта отодвигает правила безопасности на второй план, и модели нового поколения с автономным обучением могут полностью выйти из-под контроля человека уже к концу этого года. На фоне этих опасений глава компании Дарио Амодей также призвал немедленно замедлить темпы глобального развития искусственного интеллекта, чтобы не потерять контроль над системами. Итак, почему искусственный интеллект сравнивают с разумом инопланетян, почему программисты вынуждены жертвовать безопасностью и насколько высока вероятность того, что машины перестанут подчиняться людям?

«Опасно, как вызов инопланетянина»: громкое интервью Джейкоба Коксона

Бывший ведущий программист, выступивший на телеканале «Эй-Би-Си», подчеркнул, что создается сила, которую человечество не понимает:

• Сравнение с внеземным интеллектом: «Честно говоря, концепция создания сверхмощного разума равносильна вызову инопланетной расы. Поэтому, даже без конкретных катастрофических сценариев, одна лишь мысль об инопланетном разуме, которого мы полностью не понимаем, очень пугает», — сказал Коксон;

• Постоянные обсуждения и тревога: Бывший сотрудник сообщил, что еще до его добровольного ухода с работы внутри лаборатории несколько раз в неделю регулярно обсуждались угрозы глобальной катастрофы, которые может породить искусственный интеллект;

• Эксперимент с большими данными: Коксон был одним из ключевых специалистов компании по обучению и формированию моделей нового поколения на основе огромных баз данных.

«Безопасность приносится в жертву»: негативные последствия рыночной гонки

Исследователь подверг резкой критике бесконтрольную монополию на ИТ-рынке:

• Отсутствие ответственной компании: По твердому мнению Коксона, в настоящее время ни одна корпорация в мире не способна создавать искусственный интеллект с обеспечением полной ответственности и безопасности;

• Давление конкуренции: Острая гонка в Кремниевой долине и стремление быть первыми заставляют программистов откладывать стандарты безопасности в сторону и в спешке выпускать новые модели в обращение;

• Опасный рубеж до конца года: Прозвучало серьезное предупреждение о том, что самообучающиеся автономные системы могут выйти из сферы управления и контроля человечества к концу текущего года.

Возражение Дарио Амодея: призыв замедлить прогресс

Крайне опасный поворот событий заставил насторожиться и руководство модели «Клод»:

• Требование снизить скорость: Вскоре генеральный директор компании «Антропик» Дарио Амодей заявил, что возможности искусственного интеллекта развиваются быстрее человеческого воображения, и призвал мировое сообщество замедлить этот процесс;

• Запаздывание механизмов контроля: Скорость роста программного обеспечения в несколько раз опережает закладываемые в него защитные фильтры и законодательные ограничения;

• На пороге технологического кризиса: Специалисты предполагают, что если уже сейчас не принять единые международные стандарты ограничений, искусственный интеллект может превратиться в бесконтрольную силу, действующую по собственным алгоритмам.

То, что ведущие исследователи покидают лаборатории и массово бьют тревогу, наглядно показывает, в каком огромном водовороте неизвестности и опасности находится цифровое будущее, создаваемое человечеством.

По вашему мнению, может ли искусственный разум, превосходящий человеческое мышление, действительно перестать подчиняться людям и стать угрозой для цивилизации, или программисты сильно преувеличивают опасность? Не беспокоит ли вас то, что технологии, которыми вы пользуетесь в повседневной жизни, становятся все умнее? Оставляйте свои мысли в комментариях и делитесь этим важным аналитическим материалом, посвященным высоким технологиям и безопасности будущего, со всеми своими друзьями и близкими!