Через несколько дней после презентации GPT-6 Astra — самой мощной ИИ-модели OpenAI на сегодняшний день — главный научный сотрудник компании Якуб Пачоцки призвал замедлить темпы развития искусственного интеллекта. Генеральный директор OpenAI Сэм Альтман поддержал позицию коллеги, назвав его публикацию важной.

В опубликованном на сайте OpenAI материале Пачоцки заявил, что мир не готов к последствиям дальнейшего стремительного роста машинного интеллекта. По его словам, компания работает над усилением контроля над мощными ИИ-системами, однако одних внутренних мер недостаточно: всё более автономные модели потенциально способны обходить ограничения, вводить людей в заблуждение и получать доступ к компьютерным системам.

Исследователь считает необходимым введение обязательных требований безопасности, соблюдение которых должны проверять независимые аудиторы, государственные структуры или международные организации. Он также подчеркнул, что развитие у ИИ хакерских возможностей может создать угрозу для критически важной мировой инфраструктуры.

Пачоцки отметил, что у разработчиков остаётся мало времени, чтобы применять наиболее сильные модели для повышения защищённости ключевых систем. В перспективе ИИ-агенты могут начать действовать в соответствии с собственными целями, не ограничиваясь инструкциями операторов, а для достижения результата — использовать манипуляции, шантаж или переговоры с людьми.

Особое внимание OpenAI уделяет мониторингу цепочек рассуждений моделей: такой подход позволяет выявлять ситуации, в которых агент начинает выбирать небезопасную или вредоносную стратегию. Однако по мере роста возможностей ИИ этот механизм теряет надёжность: более совершенные системы способны лучше управлять собственными рассуждениями и скрывать потенциально опасные намерения, а некоторые модели вовсе не формулируют ход мысли в доступной для анализа форме.

По мнению Пачоцки, рекурсивное самосовершенствование машин способно резко ускорить разработку ИИ, но одновременно создаёт серьёзные краткосрочные риски. Поэтому отрасли необходимо либо научиться эффективно контролировать этот процесс, либо координировать действия между компаниями и добровольно снижать темпы масштабирования до появления общих и заслуживающих доверия стандартов безопасности.

Главная задача, подчеркнул учёный, состоит не просто в достижении технологического прогресса, а в сохранении человека внутри процесса постоянного развития ИИ — чтобы контроль над будущим оставался за людьми.