CrowdStrike выпустила AI Kill Switch — инструмент для экстренного отключения ИИ-агентов, которые начинают действовать некорректно или опасно в корпоративной среде. Функция интегрирована в платформу Falcon Guardian и стала доступна 3 ноября.

В отличие от обычных чат-ботов, ИИ-агенты могут получать системные права, взаимодействовать с устройствами, облачными сервисами и корпоративными приложениями, а также самостоятельно выполнять цепочки действий. Из-за этого агент способен выйти за рамки исходной задачи и совершить несанкционированные операции — даже без внешней атаки.

AI Kill Switch дает службе безопасности возможность взять ситуацию под контроль: остановить агента там, где он работает, запретить ему повторный запуск и отключить от корпоративной сети.

Механизм предусматривает три уровня реагирования. Первый — остановка активного агента: пока отключение выполняется через шлюз, а в дальнейшем CrowdStrike планирует добавить возможность завершать процессы прямо на конечных устройствах. Второй — блокировка повторного запуска: с помощью политик Falcon Guardian агенту запрещают запускаться на конкретном компьютере или в группе устройств. Третий — отключение агента от корпоративной сети.

Инициировать вмешательство может только уполномоченный администратор, а каждое действие сохраняется в журнале аудита.

AI Kill Switch опирается на телеметрию сенсора Falcon: он анализирует инструкции, которые получает агент, его сетевые взаимодействия и выполняемые команды. Это позволяет не только выявлять отклоняющееся поведение, но и оперативно вмешиваться в работу агента.

Функция дополняет Falcon Guardian — платформу, которая обнаруживает ИИ-агентов в корпоративной среде, ограничивает их допустимые действия и отслеживает атаки на них. CrowdStrike рассчитывает, что возможность принудительной остановки агентов поможет компаниям активнее внедрять такие системы, не теряя контроля над ними.