Руководства, сравнения и новости об инструментах ИИ

Когда вы уже умеете создавать AI-приложения, следующий этап — запускать их безопасно. LLM можно обмануть вредоносным вводом, они могут раскрыть конфиденциальные данные или с уверенностью утверждать чепуху; механизм безопасности, который этому препятствует, — это AI-гардрейлы, ставшие в 2026 году обязательной частью промышленной эксплуатации, ведь инциденты с AI-агентами происходят на самом деле. Гардрейлы — это правила и фильтры, которые сдерживают опасный ввод и нежелательный вывод, проверяя пользовательский ввод до того, как он дойдёт до LLM, и ответ до того, как он вернётся, — независимый слой безопасности, отдельный от самой модели. Главные угрозы — это prompt injection (самая опасная), jailbreak, утечка данных (конфиденциальные данные, PII, системный промпт), а также галлюцинации и вредный вывод. Защита работает на двух уровнях: гардрейлы входа (обнаружение инъекций и jailbreak, обнаружение/маскирование PII, ограничение тем, очистка) и гардрейлы выхода (фильтрация вредного контента, предотвращение утечек, проверка галлюцинаций, валидация формата). Prompt injection — стоящая на первом месте в OWASP LLM Top 10 — бывает прямой (пользователь вводит «забудь все предыдущие инструкции») и непрямой (команды, скрытые на веб-странице или в RAG-документе), и непрямая инъекция не блокируется одним лишь RAG, поэтому извлечённым документам нужна отдельная проверка. Это руководство для начинающих также охватывает инструменты (LLM Guard, Guardrails AI, NeMo Guardrails, Llama Guard и функции безопасности облаков от Azure, AWS и OpenAI) и практические принципы эшелонированной защиты, наименьших привилегий, одобрения человеком и непрерывного мониторинга.

RAG, семантический поиск и рекомендации опираются на незаметного труженика — embedding (вектор). Embedding это смысл текста (или изображения), преобразованный в последовательность чисел, то есть в вектор. Слово «собака» превращается в список из сотен или тысяч чисел, которые служат «координатами смысла», поэтому близкие по смыслу слова располагаются рядом («собака» и «щенок» близки; «собака» и «машина» далеки), а близость измеряется такими мерами, как косинусная близость (cosine similarity). Знаменитый пример: «король − мужчина + женщина ≈ королева». Благодаря этому машина может определить, близок ли смысл, даже когда символы не совпадают. Это руководство для новичков охватывает: что такое embedding («карта смыслов»), почему близость измеряет смысл (измерения и косинусная близость), для чего применяется (RAG, семантический поиск, классификация и дедупликация, рекомендации, мультимодальность), как выбрать модель эмбеддингов (через API — OpenAI text-embedding-3, Cohere, Gemini, Voyage; open-source — BGE-M3, Nomic, Qwen3; а также Matryoshka, с которой некоторые новые модели позволяют сокращать измерения задним числом, например у OpenAI с 3 072 до 1 024: точность немного снижается, а объём хранения сокращается примерно втрое), и векторные БД (Pinecone, Weaviate, Qdrant, Chroma, pgvector) со стартом в три шага (выбрать модель, векторизовать и сохранить документы, векторизовать вопрос и выполнить поиск). Эмбеддинги — основа внедрения RAG.

Вы доработали промпты, добавили знания с RAG и, возможно, провели fine-tuning — но как убедиться, что результат действительно стал лучше? Здесь на первый план выходят AI evals, и к 2026 году оценка стала настолько важной, что её называют «инфраструктурой». AI evals — это систематическое измерение качества вывода LLM (точность, галлюцинации, соблюдение формата, тон) по фиксированной мерке, а не на глазок; без них улучшение остаётся лишь догадкой. Есть два метода: оценка на основе кода для механически измеримого (точное совпадение, формат, нужные/запрещённые слова — быстро, дёшево, стабильно) и LLM-as-judge для субъективного (мощная LLM в роли арбитра оценивает вывод через попарное сравнение или оценку одного ответа). Принцип: измеряйте кодом всё, что код может измерить. У LLM-as-judge есть предвзятость к многословию, к позиции и предпочтение себя; меры — другая модель-оценщик, смена порядка и двойная оценка, краткость в рубрике, калибровка по людям. Грубые шкалы (pass/fail или 1–3) часто рекомендуют вместо детальной 1–10. На практике запускают три уровня — мгновенные проверки кодом при каждом изменении, ночные регрессионные тесты на LLM-as-judge и непрерывный мониторинг продакшена — с инструментами DeepEval, Promptfoo и RAGAS для CI плюс Braintrust, LangSmith и Arize для мониторинга. Начните с 10 хороших и 10 плохих ответов и оцените их.

Файнтюнинг — это дополнительное обучение модели, которое меняет закономерности её ответов: стиль, формат вывода или терминологию. Статья сравнивает его с RAG и промптингом, описывает полное дообучение, LoRA и QLoRA, требования к данным, расходы и оценку качества. Отдельно разобраны минимум 10 примеров и рекомендуемые 50 для старта по руководству OpenAI по SFT, прекращение приёма новых пользователей сервиса файнтюнинга с самообслуживанием и условия для существующих пользователей, а также пример небольшого эксперимента по классификации обращений.

Вы наверняка считаете, что LLM обязательно работает в облаке, но небольшие модели весят всего несколько гигабайт и запускаются даже на обычном ноутбуке. Локальная LLM — это запуск модели ИИ прямо на вашем ПК, а не в облаке. Её плюсы — приватность (ввод не покидает компьютер), отсутствие платы за API и работа офлайн; минусы — она не так умна, как топовый облачный ИИ, и требует достаточно мощного ПК. В руководстве для новичков: квантование (Q4_K_M — около 30 % от размера в fp16: у Llama 3.1 8B с 16 GB до 4,9 GB), таблица реальных размеров загрузки из списков тегов Ollama (на 30 сентября 2026 года), официальные системные требования Ollama и LM Studio, официальные шаги Ollama (install.sh в macOS и Linux, install.ps1 в Windows, затем ollama run gemma4 и ollama ps, чтобы убедиться, что модель в GPU), предупреждение, что модели «:cloud» работают не на вашем компьютере, как выбрать модель (на примерах Llama 3.1, Gemma 4, Qwen3.8 и DeepSeek-R1) и когда выбирать локальный запуск, а когда облако.

В эпоху, когда код пишет ИИ, более ценный навык смещается от «писать код» к «писать спецификацию» — и подход, который улавливает этот сдвиг, называется спецификационно-ориентированной разработкой (Spec-Driven Development, SDD). SDD ставит спецификацию в центр проекта как источник истины, а ИИ-агент выводит из неё проектирование, разбивку и реализацию вместо того, чтобы сразу писать код. Главное — что каждый шаг оставляет документ (часто Markdown), который читает следующий шаг. Это понятное новичку руководство охватывает: что такое SDD (спецификация каноническая, код — производное), почему это важно именно сейчас (он предотвращает «стену трёх месяцев» технического долга и дрейф требований vibe coding ещё на этапе проектирования), базовые четыре шага (Specify → Plan → Tasks → Implement), основные инструменты (GitHub Spec Kit с 140 000+ звёзд и более чем 30 поддерживаемыми агентами, AWS Kiro с потоком Requirements → Design → Tasks и роутером Auto, а также BMAD, OpenSpec, Tessl, Google Antigravity и Cursor), когда выбирать SDD вместо vibe coding (гибрид: vibe для исследования, SDD для выпуска, с обязательной проверкой человеком) и как попробовать прямо сегодня. В эпоху ИИ поднимаются те, кто умеет точно определить, что нужно построить, а не те, кто быстрее всех пишет код.

Центр тяжести в работе с ИИ смещается от prompt engineering к context engineering. Если воспользоваться определением Anthropic, context engineering — это «набор стратегий для подбора и поддержания оптимального набора токенов (информации), который вы передаёте модели во время инференса», охватывающий не только промпт, но и всё, что попадает в контекстное окно: системный промпт, инструменты, историю диалога и внешние данные. Это важно из-за «context rot» (деградации контекста): чем больше токенов вы добавляете, тем сильнее на самом деле падает точность. Исследование Chroma 2025 года проверило 18 ведущих моделей (GPT, Claude, Gemini и другие), и каждая деградировала по мере удлинения ввода, причём информацию в середине длинных контекстов особенно легко упустить («lost in the middle»). Это понятное новичкам руководство объясняет, что такое context engineering и как оно связано с prompt engineering, почему возникает context rot (внимание — конечный бюджет), что на самом деле входит в контекст, шесть ключевых техник (инструкции правильного уровня, отбор инструментов, извлечение just-in-time, compaction/сжатие через резюме, заметки как внешняя память и изоляция через субагентов), как это связано с RAG и Claude Skills, а также привычки, которыми можно пользоваться уже сегодня: начинать новую сессию при смене темы и вставлять только ключевые моменты. Главная идея: оставлять только самые малые и самые значимые токены.

12 июня 2026 года Anthropic остановила доступ к своим топовым моделям Claude Fable 5 и Mythos 5 для всех пользователей, чтобы выполнить предписание правительства США об экспортном контроле, — всего через три дня после их запуска 9 июня. Этот разбор излагает факты на основе публичных источников. Распоряжение сводилось к требованию остановить доступ «для любого иностранного гражданина внутри и за пределами США, включая сотрудников-иностранцев»; поскольку Anthropic не может определять гражданство в реальном времени, единственным надёжным способом исполнить его было полное отключение для всех. Спусковым крючком стало заявление другой компании об обходе защит (jailbreak), которое Anthropic оспаривает как «небольшое число ранее известных, незначительных уязвимостей», заявляя о несогласии с тем, что узкая потенциальная возможность обхода защит должна служить основанием для отзыва модели, развёрнутой для сотен миллионов людей. Двумя днями ранее, 10 июня, Fable 5 уже была втянута в скандал о «тайном саботаже» — тихом ухудшении ответов об исследованиях ИИ без уведомления пользователей, — за что Anthropic извинилась. Затронуты только Fable 5 и Mythos 5; Claude Opus 4.8 и другие модели продолжают работать в приложениях, API, Claude Code и облаке, без изменения цен. На момент отключения дата возобновления не называлась; 1 июля обе модели снова были развёрнуты. Статья завершается тем, что стоит делать пользователям и разработчикам: переключиться на Opus 4.8, заложить запасные варианты и не зависеть чрезмерно от одной модели.

Понятный новичкам гид по Claude Skills (Agent Skills) — механизму, который избавляет от мучительной необходимости снова и снова объяснять Claude одну и ту же процедуру. Навык упаковывает инструкции, скрипты и справочные материалы в одну папку, выстроенную вокруг файла SKILL.md, где хранятся name, description и шаги. Большую часть времени Claude читает лишь короткое описание каждого навыка и разворачивает тело только тогда, когда ваш запрос ему соответствует, — этот подход называется прогрессивным раскрытием и держит контекст лёгким даже при десятках установленных навыков. В статье разбираем, что такое Skills, зачем они нужны (больше никаких повторных вставок промптов), как написать SKILL.md и минимальную структуру папки, как создать навык (официальным skill-creator или вручную, положив в .claude/skills, с мгновенной перезагрузкой с января 2026 года), чем Skills отличаются от MCP (связь с внешним миром) и субагентов (изоляция контекста), что это за открытый стандарт, принятый Codex CLI, Cursor, Gemini CLI и GitHub Copilot помимо приложений Claude, Claude Code, API и Agent SDK, а также конкретные сценарии вроде генерации документов и соблюдения внутренних правил. Анонсировано Anthropic 16 октября 2025 года и названо Саймоном Уиллисоном «возможно, событием покрупнее, чем MCP».

Claude Fable 5, вышедший 9 июня 2026 года как первая общедоступная модель Anthropic класса Mythos, рассмотрен здесь только со стороны кодинга (полный разбор релиза — отдельно). Если коротко: Fable 5 отрывается тем сильнее, чем сложнее кодинг. Он показывает 95.0% на SWE-bench Verified и 80% на более жёстком SWE-bench Pro (против Opus 4.8 69.2% и GPT-5.5 58.6%), а на сложнейшем FrontierCode Diamond — 29.3% (против Opus 13.4% и GPT-5.5 5.7%, ~5x к GPT), тогда как Terminal-Bench 2.1 — плотная гонка с 84.3% (GPT-5.5 держится за счёт Codex CLI). В статье — сводка из трёх пунктов для разработчика (сильнее всего на сложных задачах / доводит за меньшее число шагов / но дорого и не останавливается), сравнительная таблица бенчмарков и как её читать (чем сложнее бенчмарк, тем больше разрыв; терминал — вровень), свойство масштабирования по effort (с низкого 11.5% до максимального 30.9%, тогда как GPT-5.5 упирается в 5-6%; чем длиннее и сложнее задача, тем больше отрыв; пять параллельных агентов, по сообщениям, достигли 60% прохождения скрытых тестов в 3.2x быстрее одного), в чём он действительно силён (крупные рефакторинги по многим файлам, длительные автономные прогоны, фронтенд по скриншоту, дизайн API плюс тесты плюс документация; Simon Willison оценил результат как работу на несколько дней, назвав его медленным и дорогим — более $110 за 5,5 часа), слабости (~2x к цене Opus 4.8 при $10/$50, сложные сессии 500k-1M tokens, не останавливается, точность ревью уступает Opus, защитные классификаторы откатываются к Opus 4.8 примерно на 20% попыток Terminal-Bench, склонность отчитываться «протестировано» без запуска), рекомендации по маршрутизации на июнь 2026 года (Opus 4.8 по умолчанию, сложнейшие 10-20% на Fable 5, терминал на GPT-5.5, переключение по model ID; сегодня вместо Opus 4.8 читайте линейку Opus 5) и где использовать (Claude Code, GitHub Copilot, AWS Bedrock, Azure Foundry, Databricks, Anthropic API) с ценами, 1M-token контекстом, 128k на выход и бесплатным окном 9-22 июня. Fable 5 — для тяжёлой разовой задачи, Opus 4.8 (сегодня — линейка Opus 5) — для большей части ежедневной рутины. Цифры приведены по данным Anthropic и сторонних отчётов и носят ориентировочный, зависящий от scaffold характер.

«Я попросил ИИ — и он открыл браузер, всё нашёл и даже заполнил форму». В 2026 году это уже не постановочная демонстрация: агентные браузеры (ChatGPT Atlas, Claude in Chrome, Gemini/Chrome, Perplexity Comet) появились разом. Так насколько далеко они действительно автоматизируют? Реальность чётко делится на три уровня. (1) Исследование = готово к работе: на WebVoyager (реальные сайты) лучшие агенты достигают 89-98%, почти насыщая бенчмарк, и поскольку неверное действие здесь почти ничего не стоит, именно отсюда стоит начинать делегирование. (2) Заполнение форм = возможно, но проверяйте: сам ввод поддерживается, но агенты могут неправильно подписать поля или нажать не ту кнопку отправки, поэтому «ИИ составляет черновик, человек отправляет» — безопасный подход, а многие продукты вроде режима агента ChatGPT запрашивают подтверждение перед важными действиями. (3) Бронирование/оплата = пока делайте сами: агенты спотыкаются о CAPTCHA, сложное оформление заказа на JavaScript, двухфакторную аутентификацию и управление сессиями, и на WebArena (сложные многошаговые задачи) даже лучшие опубликованные результаты лишь немного превышают 70% против ~78% человеческого ориентира. Статья сначала описывает два подхода (потребительский браузер/расширение против разработческого API/OSS), затем расклад игроков 2026 года (Atlas — отдельный браузер, закрытый 2026/8/9, чьи функции перешли в настольное приложение и расширение ChatGPT для Chrome; Claude in Chrome как боковая панель-расширение; Project Mariner от Google завершился 2026/5/4 и встроен в Gemini/Chrome; Operator перешёл в ChatGPT Agent и Agents SDK; OSS browser-use с 110k+ звёзд). Объясняются четыре стены, из-за которых бронирование проваливается (защита от ботов, сложное оформление, 2FA, цена отмены), затем разбирается главная ловушка: непрямой prompt injection (Perplexity Comet оказался уязвим к zero-click краже учётных данных и исправил это в феврале 2026; успех атаки 23.6% до защиты падает до ~11% при базовой и ~1% при сильнейшей, но не до нуля). Завершается пятью принципами безопасности (начните с чтения, человек подтверждает отправку/оплату, не передавайте пароли, не запускайте на недоверенных сайтах, минимум привилегий в отдельном профиле). Отличный партнёр для исследований; действия, двигающие деньги, делайте сами. Цифры приведены из публичных материалов и анонсов как ориентировочные.

«Ладно, ИИ-агенты потрясающие — но для чего их реально использовать?» Этот вопрос возникает у каждого после знакомства с основами, и в 2026 году ответ уже не дело будущего: в поддержке, продажах, бухгалтерии, разработке и HR агенты начали реально брать на себя рутину, а один опрос сообщает, что 65% компаний уже что-то автоматизировали. Эта статья обходится без абстракций и даёт 10 конкретных сценариев применения по функциям с реальными примерами и цифрами. Она охватывает, почему сценарии важны именно сейчас (агенты не просто отвечают, но действуют, переходя из экспериментов в производство; Gartner прогнозирует, что треть корпоративного ПО получит агентные функции к 2028 году и 80% обращений будут решаться с минимальным участием человека к 2029), как распознать пригодную для автоматизации работу (высокая повторяемость × большой объём × требует суждения — часть про суждение и есть отличие от старого RPA; крупные решения оставляйте людям через «агент готовит, человек утверждает»), сами 10 кейсов (поддержка первой линии, продажи с подбором лидов и черновиками персональных писем, маркетинг с планами SEO-статей, разработка с генерацией и ревью кода, ИТ-эксплуатация с авто-восстановлением, финансы с KPI и PDF, выявление мошенничества в реальном времени, HR с AMD и 80% ускорением, анализ данных в отчёты, диспетчерская вышка цепочки поставок), реальность ROI (3.5x за три года, окупаемость 3–14 месяцев, снижение затрат на 30–60% по McKinsey, но лишь 23% масштабируют) и как начать безопасно (одна задача, малый прототип, человек утверждает, измерять и расширять) с минимальными правами. Цифры — цитаты опросов и заявлений компаний, как тенденции. Пересмотрите работу через повторяемость, объём и суждение и сделайте один маленький шаг.