Anthropic сократила время реакции на угрозы с 27 дней до 27 секунд: как ИИ-агент блокирует кибератаки в реальном времени

Кибератаки, усиленные ИИ, изменили правила игры: время нахождения злоумышленника в системе сократилось со средних 27 дней до беспрецедентных 27 секунд. На фоне этого компания Anthropic, один из лидеров в области разработки ИИ, внедрила архитектуру нулевого доверия, усиленную собственными ИИ-агентами, чтобы не просто отражать атаки, но и упреждать их. Это позволило им в 100 раз повысить устойчивость к киберугрозам и задать новый стандарт безопасности.

Традиционная кибербезопасность — это барьеры, которые рано или поздно будут пробиты. В эпоху, когда ИИ-агенты злоумышленников работают в реальном времени, пробивать их будут за секунды. Каждый инцидент, это не только финансовые потери, но и удар по репутации, потеря доверия клиентов и прямые убытки. Это не вопрос «будет ли», это вопрос «когда», и к этому можно подготовиться, если использовать ИИ для защиты от ИИ.

Реальность угроз: когда 27 дней превратились в 27 секунд

До недавнего времени среднее время обнаружения злоумышленника в корпоративной сети составляло 27 дней. Это давало командам безопасности достаточно времени для реагирования, анализа и локализации угрозы. Однако внедрение ИИ-агентов злоумышленниками изменило этот ландшафт радикально. Сегодня, благодаря ИИ-инструментам, время нахождения хакера в системе сократилось до 27 секунд, что делает традиционные методы защиты устаревшими.

Основная угроза сместилась с прямого взлома систем на эксплуатацию украденных учетных данных и фишинговые атаки. ИИ позволяет создавать убедительные цифровые профили мошенников, что делает верификацию пользователей крайне сложной. Компании столкнулись с необходимостью не просто защищать периметр, а контролировать каждое действие внутри сети, предполагая, что любая учетная запись может быть скомпрометирована.

Путь к ИИ-агенту: почему старые методы не работают

Традиционные системы безопасности, основанные на статических правилах и сигнатурном анализе, оказались неэффективными против динамических ИИ-угроз. Они хорошо справлялись с известными атаками, но были бессильны перед новыми, постоянно эволюционирующими векторами. Ручное отслеживание аномалий стало невозможным из-за их экспоненциального роста, алерты сыпались сотнями, и люди просто не успевали их обрабатывать.

Anthropic осознала, что для борьбы с ИИ-угрозами необходимы ИИ-решения. Так возникла идея разработки ИИ-агента, способного не только обнаруживать, но и активно реагировать на угрозы в реальном времени, опираясь на принципы архитектуры нулевого доверия.

Как проектировали ИИ-агента для архитектуры нулевого доверия

ИИ-агента Anthropic спроектировали как центральный компонент системы безопасности, работающий по принципу «никому не доверяй, всё проверяй». Его основная задача — постоянная верификация всех запросов и действий внутри корпоративной сети, независимо от того, кто их инициирует: человек или другой ИИ-агент.

Ключевые функции агента включали:

• Поведенческий анализ. Агент непрерывно отслеживает аномалии в действиях пользователей и систем, выявляя подозрительную активность даже при использовании легитимных учетных данных.
• Отслеживаемость (traceability). Каждое действие ИИ-агента или человека внутри системы должно быть полностью отслеживаемым, от исходной инструкции до конечного результата. Это позволяет восстановить полную цепочку событий в случае инцидента.
• Ограничение прав доступа. Агент следит за тем, чтобы у каждого пользователя и ИИ-агента были только минимально необходимые права для выполнения текущей задачи. Это минимизирует ущерб в случае компрометации.
• Обнаружение и реагирование на инциденты. При выявлении угрозы агент немедленно блокирует подозрительную активность и инициирует протоколы реагирования, сообщая об инциденте командам безопасности.

Особое внимание уделили защите самого ИИ-агента от «Agentjacking» — атак, при которых хакеры пытаются перехватить управление автономными инструментами. Агент был обучен распознавать инъекции промптов и другие методы манипуляции.

Внедрение и тестирование

Внедрение ИИ-агента осуществлялось поэтапно, начиная с самых критичных сегментов сети. Anthropic использовала контролируемые симуляционные тесты для оценки эффективности нового подхода. Результаты оказались впечатляющими:

• В одном из тестов ИИ-агент переместился от доверенного доступа к Salesforce к черновику в Outlook за 24 минуты, что демонстрировало скорость потенциального проникновения без адекватной защиты.
• В другом случае доступ к локальному файлу превратился в архивную передачу через инструмент Claude Cowork за 10 минут, что подтверждало скорость эксфильтрации данных.

Эти тесты показали, что без ИИ-агента, работающего на принципах нулевого доверия, риски были бы неприемлемо высоки. Более двух третей компаний в отрасли не могли четко отличить действия агентов от действий людей, а у 74% агентов было больше прав доступа, чем требовалось. ИИ-агент Anthropic закрыл эти пробелы.

Результаты

Anthropic не только значительно сократила время нахождения злоумышленника в системе, но и повысила общую устойчивость к киберугрозам в 100 раз. Это позволило эффективно противостоять даже самым изощренным атакам, таким как «Agentjacking» и инъекции промптов, которые были зафиксированы в отрасли. Компания теперь может гарантировать, что все действия ИИ-агентов внутри её сети строго контролируются и отслеживаются, что значительно снижает поверхность атаки.

Как это внедрить у вас

Переход к архитектуре нулевого доверия и внедрение ИИ-агентов для кибербезопасности — это не опция, а необходимость для любой компании, работающей с ценными данными. С чего начать:

• Примите парадигму «неизбежного взлома». Исходная точка — предположение, что периметр будет нарушен. Сосредоточьтесь на контроле и верификации внутри сети.
• Внедрите строгий контроль доступа. Ограничьте права доступа для всех пользователей и систем до абсолютного минимума. ИИ-агент должен постоянно проверять правомерность каждого действия.
• Разработайте систему поведенческого анализа. Используйте ИИ-агентов для непрерывного мониторинга аномалий в действиях пользователей и систем. Это позволит выявлять угрозы даже при использовании легитимных учетных данных.
• Обеспечьте полную отслеживаемость. Каждое действие ИИ-агента или сотрудника должно быть записано и отслеживаемо. Это критически важно для анализа инцидентов и восстановления после них.
• Обучите ваш ИИ-агент распознавать атаки на себя. Внедрите механизмы защиты от «Agentjacking» и других атак, нацеленных на компрометацию самих ИИ-инструментов.

Если этот кейс похож на то, что происходит у вас, наш менеджер поможет разобраться: бесплатно проанализирует ваш бизнес и нишу и подскажет, где ИИ-агент даст реальный результат именно в вашем случае. Написать менеджеру