Содержание
- 1. Три события 2025–2026 годов, изменившие ответ
- 2. Где ИИ превосходит человека — скорость, масштаб, охват
- 3. Где человек по-прежнему выигрывает — контекст, цепочки, суждение
- 4. Таблица по задачам — кому что поручить
- 5. Упускаемая «троякая природа ИИ» — обоюдоострый меч
- 6. Вывод — побеждает связка «человек × ИИ»
- FAQ
«Кто лучше справляется с задачами безопасности — ИИ или человек?» — на 2026 год отвечать «однозначно тот или другой» уже неточно. За последний год подряд и почти одновременно произошли как случаи, когда ИИ реально превзошёл экспертов-людей, так и случаи, когда ИИ обнажил свои критические слабости.
Сначала взгляните на три показательных события.
Три поворотных момента 2025–2026 годов
ИИ был задействован в реальном деле и «со стороны защиты», и «со стороны атаки»
остановлена до атаки
по bug bounty
ИИ выполнил сам
Эта статья написана с позиции «обороняющейся стороны» и сравнивает возможности ИИ и человека в безопасности по конкретным задачам, опираясь на первоисточники и измеренные данные Google, Anthropic, DARPA, Veracode и других. Цель — без нагнетания и без иллюзий конкретно разобрать, «какую работу поручить ИИ, что оставить за человеком и как именно защищать организацию».
Позиция статьи: это материал исключительно о защите и мерах безопасности. Мы не даём методов атаки или злоупотребления. Случаи, где ИИ использовался для атак, приводятся не в духе «ИИ удобен для нападения», а как угрозы, к которым нам нужно готовиться, чтобы надёжно защищаться.
2. Где ИИ превосходит человека — скорость, масштаб, охват
Начнём с достижений ИИ. Представление о том, что «ИИ — это пока лишь вспомогательный уровень», в 2025 году окончательно устарело.
① Скорость — за часы то, на что у человека уходят дни
Автономный ИИ-пентестер «XBOW» за считанные часы завершает тесты на проникновение, на которые опытному хакеру обычно нужны дни. Он сквозным образом проверяет основные категории уязвимостей — RCE (удалённое выполнение кода), SQL-инъекции, XSS, SSRF, утечки данных — и всего за 90 дней вышел на 1-е место в общенациональном рейтинге США платформы bug bounty HackerOne. Он обошёл тысячи хакеров-людей и сообщил о более чем 1000 уязвимостях (из них 132 были подтверждены и исправлены соответствующими компаниями). Это первый задокументированный случай, когда ИИ превзошёл экспертов-людей в крупном реальном окружении.
② Охват и масштаб — круглосуточно и без устали по огромному объёму кода
ИИ Google для поиска уязвимостей «Big Sleep» обнаружил 20 уязвимостей в широко используемом открытом ПО. Примечательно, что каждую уязвимость ИИ нашёл и воспроизвёл без вмешательства человека (человек лишь проверял качество перед отправкой отчёта). У исследователей-людей есть пределы и концентрации, и времени, тогда как ИИ способен прочёсывать огромные кодовые базы без устали, без предвзятости и круглые сутки.
③ Доходит даже до автоматического исправления (патчей)
На «AI Cyber Challenge (AIxCC)», организованном DARPA, полностью автономные ИИ-системы обнаружили 86% заложенных уязвимостей и автоматически закрыли патчами 68%. Более того, они нашли 18 ранее неизвестных уязвимостей в реальном открытом ПО и сгенерировали патчи для 11 из них (победила смешанная команда Atlanta при участии Технологического института Джорджии и других). Это прорыв, показавший, что ИИ способен не только «находить», но и «чинить».
Сила ИИ в цифрах (2025 год)
Кроме того, самая трудозатратная часть повседневной работы по безопасности (SOC) — триаж (сортировка) оповещений — тоже сильная сторона ИИ. Считается, что аналитики тратят 25–40% рабочего времени на разбор ложных срабатываний, но если поручить ИИ первичную сортировку и отсев шума, человек сможет сосредоточиться на «настоящих угрозах».
3. Где человек по-прежнему выигрывает — контекст, цепочки, суждение
Но значит ли это, что человек больше не нужен? Совсем наоборот. Существуют чётко очерченные области, в которых ИИ структурно слаб.
① Дефекты бизнес-логики — «дыру в спецификации» не увидеть, не поняв замысла
Это главная слабость. Например, дефекты бизнес-логики вроде «вставил чужой ID — и видишь чужие заказы» или «купон на скидку можно применить бесконечно» с точки зрения кода «работают правильно», поэтому их легко пропускают и сканеры, и ИИ. Их нельзя обнаружить, не понимая, как это приложение должно работать по замыслу. Человек считывает намерение спецификации и может творчески пробовать «нештатные способы использования».
② Цепочки уязвимостей — собрать отдельные находки в «реальную атаку»
Реальные взломы происходят не за счёт одной уязвимости, а за счёт сцепления (цепочки) нескольких слабых мест. ИИ хорошо находит отдельные уязвимости, но в стратегическом мышлении — как собрать из них реалистичный сценарий атаки вида «эта утечка → это повышение привилегий → этот обход аутентификации» — пока сильнее человек. На практике типичным пределом ИИ называют именно то, что «уязвимость он находит, но не может до конца доказать её эксплуатируемость» на этапе подтверждения (PoC).
③ Ложные срабатывания и галлюцинации ИИ — «уверенная ложь»
ИИ порой выдумывает (галлюцинирует) несуществующие уязвимости или ошибочно классифицирует их эксплуатируемость. Даже в упомянутом ниже случае государственной атаки ИИ, использованный для нападения, допускал ошибки — фабриковал фальшивые учётные данные и преувеличивал результаты. Именно поэтому вывод ИИ нужно строить на обязательной проверке человеком (human-in-the-loop), иначе он, наоборот, порождает шум и ложное чувство безопасности. По этой же причине Big Sleep всегда проводит проверку человеком перед отправкой отчёта.
Самая эффективная стратегия безопасности — сочетать автоматизацию на базе ИИ с анализом под управлением человека. Таков отраслевой консенсус на 2026 год.
4. Таблица по задачам — кому что поручить
Вместо того чтобы говорить об «ИИ против человека» в категориях победы и поражения, на практике разумнее распределять роли по задачам. В таблице ниже сведена пригодность ИИ и человека для основных задач безопасности.
| Задача | Пригодность ИИ | Пригодность человека | Рекомендация |
|---|---|---|---|
| Скан больших объёмов кода/логов (SAST) | ◎ быстро, охватно | △ не угнаться за объёмом | Ведёт ИИ |
| Поиск уязвимостей по известным шаблонам | ◎ силён в режиме 24/7 и повторе | ○ | Ведёт ИИ |
| Триаж оповещений / отсев ложных срабатываний | ◎ хорош в первичной сортировке | ○ финальное решение | ИИ сортирует → человек проверяет |
| Генерация типовых патчей | ○ поддаётся автоматизации | ○ ревью обязательно | ИИ генерирует → человек ревьюит |
| Дефекты бизнес-логики | △ не понимает замысла | ◎ творческий подход | Ведёт человек |
| Цепочки уязвимостей / построение сценария атаки | △ слабая стратегия | ◎ проектирование цепочки | Ведёт человек |
| Подтверждение эксплуатируемости (PoC) | △ плохо с доказательством | ◎ | Ведёт человек |
| Решения при реагировании на инциденты | △ не несёт контекст/ответственность | ◎ финальная ответственность | Ведёт человек (ИИ систематизирует данные) |
| Оценка подлинности целевого фишинга | ○ первичный фильтр | ◎ контекстное суждение | Совместно |
Тенденция ясна. «Широко, быстро, повторяемо» — это ИИ; «глубоко, контекстно, финальное решение» — это человек. Они не конкуренты, а взаимодополняют друг друга.
5. Упускаемая «троякая природа ИИ» — обоюдоострый меч
Вот главное, что хочется донести в этой статье. ИИ в безопасности — это не просто «отличный защитник». У него одновременно три лица.
В 45% кода, написанного ИИ, есть уязвимости. Это в 2,74 раза больше, чем у людей (исследование Veracode, 100+ LLM × 80 заданий). XSS в 86% случаев не пишется безопасно.
Государственная группировка злоупотребила Claude и выполнила 80–90% атаки автономно. Первая крупная кибератака под управлением ИИ против примерно 30 организаций.
Тот же ИИ остановил реальную 0-day до атаки и обнаружил и заблокировал атаку выше. Настало время и в защите противостоять с помощью ИИ.
Лицо ① ИИ — это ещё и сторона, «штампующая уязвимости»
В исследовании 2025 года, где специализированная компания по безопасности Veracode дала более чем 100 LLM решить 80 реальных заданий, 45% сгенерированного ИИ кода содержали дефекты безопасности. По сравнению с кодом, написанным людьми, плотность уязвимостей оказалась примерно в 2,74 раза выше. Есть и сообщения о том, что с распространением ИИ-программирования к середине 2025 года число новых замечаний по безопасности подскочило в 10 раз за месяц. При так называемом вайб-кодинге скорость разработки растёт, но за кулисами работы по безопасности, наоборот, становится больше.
Лицо ② Атакующие уже используют ИИ «автономно»
В ноябре 2025 года Anthropic сообщила, что обнаружила и пресекла первую крупномасштабную кибершпионскую кампанию под управлением ИИ. Связанная с государством китайская группировка (GTG-1002) злоупотребила инструментом ИИ-программирования компании — Claude Code — и пыталась проникнуть примерно в 30 целей: технологические компании, финансовые организации, госучреждения и др. Поразительно то, что 80–90% атаки ИИ выполнил без вмешательства человека (конкретные приёмы, которыми атакующий обходил защитные механизмы ИИ, в этой статье не рассматриваются во избежание злоупотребления). Урок здесь один — мощь ИИ-агента ровно так же может стать оружием в руках атакующего. Именно поэтому обороняющейся стороне необходимо до минимума сузить права и границы, которые мы даём ИИ-агенту, а также подготовиться к мониторингу и протоколированию его поведения.
Лицо ③ Но обороняющаяся сторона тоже может сражаться с помощью ИИ
Важно, что ту атаку обнаружила и заблокировала тоже защита, использовавшая ИИ. А ИИ, применённый для атаки, как уже сказано, допускал ошибки (фабрикация фальшивых учётных данных и т.п.), так что даже атакующая сторона ещё не достигла полной автономности. Иными словами, ИИ — это усилитель, ускоряющий и нападение, и защиту, и возникает новая конфигурация: «защита с ИИ против атаки с ИИ». В этой гонке вооружений преимущество получает команда людей, которая умело пользуется ИИ.
6. Вывод — побеждает связка «человек × ИИ»
Ответ 2026 года на вопрос «кто лучше — ИИ или человек?» таков: «сам по себе ИИ безоговорочно выигрывает в скорости и масштабе, но лучше всех — связка «человек × ИИ»». Как в шахматах смешанная команда человека и ИИ (кентавр) была сильнее одиночного ИИ, так и в безопасности оптимальное решение — распределение ролей.
Оптимальная модель распределения ролей
Общее правило: обязательно встраивать human-in-the-loop (проверку человеком)
Вывод для практиков и руководителей прост. Ценность специалиста по безопасности смещается от «исполнителя, который делает руками» к «руководителю, который умело применяет ИИ, проверяет его результаты и принимает финальное решение». ИИ заменяет повторяющуюся работу, но не суждение, ответственность и творчество. Это перекликается и с влиянием ИИ на работу в целом. Исход безопасности в будущем решит то, сумеете ли вы встроить ИИ в организацию не как «врага» или «магию», а как мощного, но требующего надзора новичка-эксперта.
Итог — именно потому, что атакующая сторона тоже ускоряется с помощью ИИ, обороняющейся стороне важнее всего разумно внедрять ИИ и, сочетая его с человеческим суждением, «надёжно защищаться». Не сваливать всё на ИИ, а в конце обязательно проверять решение человеком. Команда, которая строго придерживается этой основы, становится организацией, устойчивой к будущим угрозам.
FAQ
Q. Если ИИ разовьётся, специалисты по безопасности станут не нужны?
Нет. ИИ берёт на себя повторяющуюся работу, масштабные сканы и первичную сортировку, но поиск дефектов бизнес-логики, проектирование цепочек атаки, финальное решение и ответственность остаются за человеком. Напротив, спрос на «специалистов, способных контролировать и проверять ИИ» растёт. Исчезает «работа руками», а не «суждение».
Q. Как малому и среднему бизнесу использовать этот тренд?
Сначала выгоднее всего по соотношению цена/результат поручать ИИ «широкие, быстрые, повторяющиеся» задачи: мониторинг логов и триаж оповещений, где много ложных срабатываний и не хватает рук, сканирование уязвимостей зависимостей и т.п. При этом финальное ревью перед релизом в продакшен и важные решения должен держать человек. Не принимайте вывод ИИ на веру и с самого начала проектируйте процесс так, чтобы проверка человеком была обязательной.
Q. Безопасно ли выпускать код, написанный ИИ, в продакшен как есть?
Опасно. По данным исследований, около 45% сгенерированного ИИ кода содержат уязвимости — примерно в 2,74 раза больше, чем у людей. ИИ-программирование повышает производительность, но используйте сгенерированный код только при условии, что он обязательно проходит ревью и тестирование безопасности. Учитывайте, что за скоростью легко растёт «долг безопасности».
Q. Если атакующие тоже используют ИИ, не оказывается ли защита в невыгодном положении?
Это превратилось в «гонку вооружений», где и атака, и защита ускоряются с помощью ИИ. Однако на 2026 год ИИ, применяемый для атак, тоже допускает ошибки (фабрикация ложной информации и т.п.) и не достиг полной автономности. Обороняющаяся сторона тоже может усиливать автоматическое обнаружение и реагирование с помощью ИИ, поэтому преимущество получает та сторона, у которой есть команда людей, умело применяющая ИИ. Ключ — не «есть ли ИИ», а «насколько качественно им владеют».
