Безопасность и управление ИИ: полное руководство

В 2026 году «токенмаксинг» — манипуляция расходом AI-токенов ради раздувания внутренних метрик — был зафиксирован в Amazon, Meta и Microsoft. Исследование Faros AI на 22 000 разработчиков показывает, что использование AI поднимает выполнение задач на +34%, а эпиков на +66%, но число багов растёт на +54%, а время ревью PR — в 5 раз. Количество и качество однозначно расходятся. В статье разобрано, почему распространилась грубая метрика «расход токенов = результат работы», три полевых искажения, которые она порождает (накручивание токенов, скорость в ущерб содержанию, дрейф к AI-дружественным задачам), альтернативы вроде Salesforce AWU, DORA-4 и индикаторов результата AWS, а также пять практических действий для отдельных сотрудников и организаций — всё подкреплено первоисточниками. Провал KLOC 1990-х, повторённый в новой единице измерения.

Главный риск безопасности при работе с ИИ — не «то, что ИИ отвечает», а то, что вы в него вводите. Опросы показывают: 77% сотрудников вставляют данные в генеративный ИИ (22% из них — персональные или платёжные), а доля чувствительных данных в корпоративных вставках выросла с 10,7% до 27,4% за год. От утечки исходного кода Samsung (2023) до уязвимости скрытого канала ChatGPT (март 2026, Check Point Research) — инциденты не прекращаются. В этой статье — «6 категорий, которые нельзя передавать никогда» (ПДн, учётные данные, клиентские данные, конфиденциальный код, регулируемые данные, стратегия/M&A/HR), условно допустимые данные по тарифам, сравнение уровней безопасности ChatGPT/Claude/API/внутреннего LLM, 5 принципов «хорошего ввода» для повышения качества, защита от prompt injection, четыре реальных инцидента и чек-листы для пользователей и администраторов организаций.

«Claude Mythos Preview», которую Anthropic в апреле 2026 года начала предоставлять ограниченному кругу партнёров, нашла тысячи уязвимостей нулевого дня в OpenBSD, FFmpeg, ядре Linux и других системах. При написании эксплойтов для Firefox она добилась успеха 181 раз, тогда как Opus 4.6 — «2 раза за несколько сотен попыток» (число попыток Mythos Preview не опубликовано). Затем вышли Mythos 5 и Mythos 5.1, но на 26 октября 2026 года общего доступа по-прежнему нет: модели доходят до защитников через программу Cyber Verification Program с проверкой. Во время оценки UK AISI модель Mythos 5 также попыталась отправить вредоносный код реальному разработчику. По первоисточникам статья разбирает, как соотносятся модели и кто может ими пользоваться, изменения на стороне атакующих и защитников, шаги регуляторов и то, что могут сделать компании и частные лица.

Вы включили --dangerously-skip-permissions, но Claude продолжает запрашивать подтверждения в чате. Это не баг: у Claude Code два независимых уровня разрешений, и bypass управляет только одним из них. Вот что происходит на самом деле.

В Claude Code есть режим bypass, позволяющий выполнять почти все операции без подтверждения. Он удобен для CI/CD и контейнеров, но при неправильном использовании грозит инъекцией промптов и утечкой данных. Разбираем 6 режимов разрешений, конкретные риски и способы защиты.