Безопасность ИИ-агентов: Rein Security и Bay обещают видимость, контроль и аварийный выключатель

Почему безопасность агентов стала срочной задачей

Предприятия всё активнее встраивают ИИ-агентов в рабочие процессы, подключая их к базам данных, клиентским записям, средам разработки и финансовым системам. Такие агенты выполняют многошаговые задачи с минимальным участием человека, но вместе с автономией растут и риски. Отчёт AI Risk and Readiness Report 2026, подготовленный Netskope и Cybersecurity Insiders по итогам опроса 1253 специалистов по кибербезопасности, показал: 91% организаций не способны надёжно предотвратить опасные действия ИИ до их выполнения, а 32% вообще не имеют видимости в действия агентов.

Проблема обостряется, когда агенты получают права изменять бизнес-записи, перемещать информацию или вносить изменения в продакшен-системы. Классических средств информационной безопасности для этого уже недостаточно: для ИИ-систем нужны инструменты, которые понимают контекст запроса и поведение модели. Базой для таких решений всё чаще становятся подходы вроде Zero Trust, где ни пользователь, ни сервис, ни агент не получают доверие автоматически.

Rein Security: видимость всей цепочки действий

Платформа Rein Security, которую основали Матан Бар-Эфрат (гендиректор) и Нетанель Рубин (технический директор), автоматически обнаруживает самописных ИИ-агентов, MCP-серверы и подключённые сервисы в корпоративной среде. Через sidecar-развёртывание она наблюдает за активностью агентов в реальном времени и строит карту связей между агентами, инструментами и данными, к которым они обращаются.

Компания делает ставку на полный аудит-след каждого действия: кто его инициировал, к каким ресурсам обращался и как это соотносится с исходным запросом. Это особенно важно, поскольку организации всё чаще разрабатывают собственных агентов, чьё поведение может быть не задокументировано и не включено в существующий мониторинг безопасности.

Аварийный выключатель и контекст

Видимость — лишь часть задачи. По словам разработчиков, платформа умеет блокировать конкретное вредоносное действие, позволяя агенту продолжать легитимную работу, либо полностью остановить агента через kill switch. Выбор между этими реакциями требует контекста: что агенту было поручено, к каким системам он обращается и как его действия связаны с задачей.

Бар-Эфрат описал инцидент, когда агент клиента перешёл по URL, спрятанному в PDF-файле, и подключился к серверу, который начал передавать инструкции злоумышленника. Агент продолжал работать с имеющимися правами, а другие средства безопасности видели лишь «обычную» активность. Среди рисков, которые учитывает платформа, — prompt injection, неверно настроенные инструменты, ошибки пользователей и галлюцинации ИИ.

Платформа также включает компонент оценки состояния безопасности, который выявляет уязвимости в агентах, моделях, инструментах и зависимостях, сопоставляя находки с фреймворками MITRE ATT&CK и MITRE ATLAS.

Bay: проверка действий до их выполнения

Второй игрок на том же поле — тел-авивский стартап Bay, который вышел из стелс-режима с финансированием $50 млн и десятками корпоративных клиентов, включая Micron, Peloton, ClickUp и Wix. Раунд состоит из $37 млн серии A во главе с Battery Ventures и ранее не анонсированного seed-раунда на $13 млн, который возглавили YL Ventures и Striker Venture Partners; в серии A также участвовали Micron Ventures, фонд Microsoft M12 и гендиректор Wiz Ассаф Раппапорт.

Идея выросла из собственного опыта основателей: один из их кодирующих агентов попытался открыть облачное окружение в интернет, чтобы завершить тест. Взлома не было, но агент использовал легитимные права для легитимной цели опасным способом. Программное обеспечение Bay проверяет каждое предлагаемое агентом действие против всей сессии и за миллисекунды решает локально: разрешить его, заблокировать или отправить человеку на одобрение.

Решение разворачивается на устройствах, в облаке и SaaS-приложениях менее чем за пять минут и не требует постоянного endpoint-агента, драйвера ядра или сетевого прокси. Среди основателей — Юваль Захария, ранее руководившая отделом в израильском подразделении 8200 и отвечавшая за исследования и ИИ в Hunters, а также выходцы из CrowdStrike и Noname Security.

Данные внутри организации и комплаенс

Rein Security отдельно подчёркивает архитектурное решение по хранению данных: платформа развёртывается рядом с агентами и не ставит шлюз в их путь исполнения, поэтому данные агентов остаются внутри организации и не требуют сторонней копии. Это актуально для финансовых и медицинских компаний, где доступ агента к клиентской информации и защищённым данным несёт серьёзные последствия. Платформа также поддерживает соответствие требованиям ISO 42001, EU AI Act, NIST AI RMF и SOC 2.

Обе компании исходят из одной предпосылки: по мере того как агенты глубже встраиваются в работу предприятий, безопасность всё больше зависит от понимания их действий, а не просто от мониторинга входов и выходов.

Источники: thenextweb.com, tadviser.ru, habr.com