Другие AI-инструменты: обзоры и сравнения

Запустится ли локальная LLM на вашем ПК, на 90% решает VRAM — память GPU. В этой статье собраны быстрая таблица требуемого VRAM по размеру модели (7B, 13B, 32B, 70B) и простая формула расчёта, разобрано влияние квантизации (FP16/Q8/Q4) и ловушка с KV-кэшем, который растёт вместе с длиной контекста. Приведены реалистичные скорости для RTX 3060/4090/5090 и Mac, а также рекомендуемые сборки по трём бюджетным уровням, чтобы новичок сразу понял, что покупать.

Локальная LLM на вашем ПК против облачных Claude, ChatGPT и Gemini — оба «LLM», но различаются по качеству, стоимости, приватности и усилиям. Эта статья ставит их рядом в одном сравнении и честно показывает, насколько по состоянию на 2026 год сократился часто неправильно понимаемый «разрыв в качестве». Затем она подскажет, что выбрать под вашу задачу, разбирая железо для разных размеров моделей и точку безубыточности по стоимости. Для большинства людей ответ — гибрид: повседневная работа локально, самые сложные части в облаке.

Переобучать гигантский ИИ с нуля слишком дорого, но хочется настроить его под себя; LoRA (Low-Rank Adaptation) исполняет это желание, замораживая исходную модель и обучая лишь крошечную навесную деталь (адаптер), сокращая обучаемые параметры до менее чем 1% от исходной модели. LoRA делает файнтюнинг заметно дешевле и быстрее и чрезвычайно популярна в генерации изображений вроде Stable Diffusion как маленький файл, добавляющий персонажа или стиль. Статья объясняет её через аналогию заплатки. LoRA — флагман параметрически эффективного файнтюнинга (PEFT): огромные исходные веса остаются замороженными, в каждый слой вставляется небольшая навесная матрица, и обучается только она (W = W0 + BA, где W0 заморожена, а BA — небольшая добавленная часть). В основе — гипотеза, что адаптация ИИ не требует больших изменений (достаточно низкого ранга), которую подтвердили эксперименты оригинальной статьи (хотя в математике и программировании, по сообщениям, LoRA уступает полному обучению). Преимущества: обучаемых параметров меньше 1% от исходных (в оригинальной статье для GPT-3 175B — примерно в 10 000 раз меньше), меньше памяти GPU при обучении (там же 1,2 ТБ → 350 ГБ), быстрее и дешевле обучение, без задержки при инференсе после слияния адаптера, и модель меньше забывает исходные способности. Главная сила — сменные адаптеры: держите одну общую базу и мгновенно меняйте маленькие файлы LoRA под каждый случай (поддержка, тон компании, конкретный персонаж). Многие впервые встречают LoRA в генерации изображений, где широко распространяются LoRA для Stable Diffusion, обучённые персонажу, стилю или объекту (добавить стиль, обучить персонажу, лёгкие и удобные для обмена). QLoRA сочетается с квантизацией, обучая LoRA поверх базы на 4-bit: по статье, модель 65B, которой при полном обучении в 16 битах нужно более 780 ГБ, дообучается на одном GPU с 48 ГБ, а 33B — на потребительском GPU с 24 ГБ, с результатами на уровне 16-битных методов (сравнима ли 33B и 65B с полным обучением, статья, по её словам, не проверяла). По сравнению с полным файнтюнингом (обучение всех весов) LoRA отличается обучаемыми весами, стоимостью, результатом и областью применения; для большинства задач LoRA достаточно. Базу оставь как есть, приправляй понемногу. Цифры получены в условиях экспериментов оригинальной статьи и других работ, ориентировочно.

Огромная модель 70B, работающая на одном домашнем ПК вместо стойки дата-центровых GPU (то, что не влезает в потребительскую GPU, берут на себя CPU и оперативная память), возможна благодаря квантизации, которая снижает числовую точность весов модели, чтобы резко уменьшить размер и память. Если дистилляция переносит знания в отдельную меньшую модель, то квантизация делает ту же модель легче. Статья объясняет это через аналогию со сжатием фотографии. Квантизация заменяет веса, хранящиеся как дробные FP16/FP32, целыми INT8 (8-бит) или INT4 (4-бит), сокращая байты на вес (FP32=4, INT8=1, INT4=0,5); как сжатие RAW-фото в JPEG, жертвуем малой точностью ради большого выигрыша, и удивляет, как мало вы теряете. По памяти 4-bit использует около четверти от FP16: модель 70B падает с ~140GB до ~35GB, а 8B при 4-bit — ~4.5-5GB, умещаясь в средний GPU с 8GB VRAM для локального запуска (демократизация LLM). По точности INT8 почти без потерь, а INT4, по имеющимся данным, деградирует менее чем на 4% на обычных Q&A и задачах на здравый смысл, но потеря заметнее для математики, генерации кода и сложных рассуждений (проявляется как небольшой рост перплексии), поэтому выбирайте разрядность под задачу. Основные методы: GPTQ (первопроходец точного 4-bit), AWQ (защищает ~1% самых важных весов; превосходит ли он GPTQ, зависит от оценки), GGUF (формат llama.cpp/Ollama, Q2_K-Q8_0, гибрид CPU+GPU, для локального) и QLoRA (4-bit база плюс LoRA для файнтюнинга на потребительском GPU). Это отличается от дистилляции (перенос в отдельную малую модель) и файнтюнинга (добавление знаний задачи), и эти три обычно комбинируют (квантизовать дистиллированную модель; файнтюнить квантизованную базу). Чтобы начать, запустите модель GGUF с Ollama одной командой, выберите Q4/Q8 по VRAM и избегайте INT4 для кода или точной математики. Большинство крупных моделей поставляются уже квантизованными, так что вы просто скачиваете и используете их. Сохраняем ум, убираем только вес. Цифры взяты из публичных материалов, ориентировочны.

Огромный, высокопроизводительный ИИ умён, но тяжёл и дорог; дистилляция моделей (knowledge distillation) решает это, перенося знания крупной модели-учителя в небольшую модель-ученика и сохраняя близкую к учителю производительность при гораздо меньшем размере и большей скорости. Статья объясняет это через аналогию «учитель — ученик». Ключ — soft labels: обычное обучение учит только «ответ — кошка» (hard label), а дистилляция передаёт всё распределение вероятностей учителя, например «90% кошка, 8% собака, 2% лиса», чья степень сомнения несёт богатую информацию; параметр temperature смягчает вероятности, открывая тонкие отношения (реальный пример: функция API OpenAI 2024 года для обучения малых моделей на выходах крупных). Преимущества: быстро и дёшево, намного компактнее при близкой к учителю производительности (TinyBERT: в 7,5 раза меньше, более 96,8%), работа на edge, сила в специализации. Два подхода: white-box (полный доступ к весам и внутренним представлениям, более глубокий перенос; для своих или OSS-моделей) и black-box (видны только выходы/ответы API; чужой API как учитель может нарушать условия). Отличается от квантизации (сжатие точности весов той же модели) и fine-tuning (дообучение существующей модели под задачу) — дистилляция переносит знания в отдельную малую модель, и все три комбинируемы. Правовая сторона стала большой темой 2026 года: технология легитимна, но OpenAI, Anthropic и xAI имеют анти-конкурентные положения о дистилляции, запрещающие использовать выходы для создания конкурирующих моделей, поэтому дистилляция конкурента из ограниченного API может нарушать условия. Спор OpenAI против DeepSeek (OpenAI заявила, что связанные с DeepSeek аккаунты обходили ограничения, чтобы получить выходы для дистилляции, тогда как условия DeepSeek, по сообщениям, разрешают дистиллировать её выходы) показывает, что оценка зависит от того, чьи условия API применяются, а Claude Fable 5/Mythos 5 переключают запросы, помеченные как дистилляция, на менее мощную модель Opus. Советы: используйте свои или лицензированные OSS-модели как учителя, проверяйте анти-дистилляционные положения перед использованием коммерческого API и оценивайте, не является ли использование «разработкой конкурирующей модели». Ум — от большой модели, эксплуатация — от малой, но выбор учителя меняет результат технически и юридически. Цифры приведены по открытым материалам, ориентировочно.

Файнтюнинг — это дополнительное обучение модели, которое меняет закономерности её ответов: стиль, формат вывода или терминологию. Статья сравнивает его с RAG и промптингом, описывает полное дообучение, LoRA и QLoRA, требования к данным, расходы и оценку качества. Отдельно разобраны минимум 10 примеров и рекомендуемые 50 для старта по руководству OpenAI по SFT, прекращение приёма новых пользователей сервиса файнтюнинга с самообслуживанием и условия для существующих пользователей, а также пример небольшого эксперимента по классификации обращений.

Вы наверняка считаете, что LLM обязательно работает в облаке, но небольшие модели весят всего несколько гигабайт и запускаются даже на обычном ноутбуке. Локальная LLM — это запуск модели ИИ прямо на вашем ПК, а не в облаке. Её плюсы — приватность (ввод не покидает компьютер), отсутствие платы за API и работа офлайн; минусы — она не так умна, как топовый облачный ИИ, и требует достаточно мощного ПК. В руководстве для новичков: квантование (Q4_K_M — около 30 % от размера в fp16: у Llama 3.1 8B с 16 GB до 4,9 GB), таблица реальных размеров загрузки из списков тегов Ollama (на 30 сентября 2026 года), официальные системные требования Ollama и LM Studio, официальные шаги Ollama (install.sh в macOS и Linux, install.ps1 в Windows, затем ollama run gemma4 и ollama ps, чтобы убедиться, что модель в GPU), предупреждение, что модели «:cloud» работают не на вашем компьютере, как выбрать модель (на примерах Llama 3.1, Gemma 4, Qwen3.8 и DeepSeek-R1) и когда выбирать локальный запуск, а когда облако.

9 июня 2026 года Anthropic выпустила Claude Fable 5 — впервые в форме, доступной обычным пользователям и разработчикам, раскрыв возможности уровня «Mythos», флагманской модели, которую внутри компании давно считали самой мощной. Anthropic называет её самой мощной моделью из тех, что предлагает широкому кругу, со слоганом «создана для долгой и сложной работы». Этот разбор, написанный так, чтобы понял и новичок, охватывает то, что такое Fable 5 (публичная, безопасная форма возможностей класса Mythos, оптимизированная под завершение марафона, а не под один вопрос и ответ; идентификатор модели claude-fable-5), чем она отличается от своего близнеца Mythos 5 (идентичны внутри, различаются только ограничители; публика использует Fable), бенчмарки (SWE-Bench Pro 80.0% против Opus 4.8 69.2 и GPT-5.5 58.6, впервые в истории 90%+ на Hex, лучший результат на Cognition FrontierCode и Hebbia, новый SOTA в зрении с игрой в Pokémon без помощников), её настоящую силу в долгой автономности (фокус на миллионах токенов, более долгая автономная работа, чем у любой прежней Claude, Stripe завершила миграцию Ruby в 50 миллионов строк за один день вместо двух с лишним месяцев вручную, файловая память дала игровой задаче в 3 раза больше прироста, чем у Opus 4.8, GitHub сообщил о высокоавтономном долгосрочном кодинге), цены и доступность ($10 ввод / $50 вывод за 1M токенов, контекст 1M и вывод 128K, бесплатно в рамках каждого плана 9–22 июня, затем кредиты, API claude-fable-5 и GitHub Copilot), прямое сравнение с Opus 4.8 (стандартная $5/$25 против $10/$50, +10.8 пункта в SWE-Bench Pro, тот же контекст 1M, Opus 4.8 Fast Mode по $10/$50; тяжёлую работу — Fable 5, повседневную — стандартной Opus 4.8), главный новый дизайн безопасности (классификаторы кибер, биохимии и дистилляции, откатывающиеся к Opus 4.8 только при опасности, срабатывающие менее чем в 5% сессий, так что 95%+ работают на полной производительности, с хранением трафика класса Mythos 30 дней), контекст выпуска через несколько дней после предупреждения, что ИИ слишком опасен (третий путь, закрывающий только опасные зоны), и когда её использовать. Цифры приводятся по заявлению Anthropic и сообщениям и могут измениться.

Вводишь текст — и за секунды рождается видео со звуком: то, что ещё недавно было научной фантастикой, в 2026 году стало реальностью, и ситуация меняется с пугающей скоростью. Sora от OpenAI, которая была у всех на устах, закрыла приложение и веб-версию в апреле 2026 года (API отключили позже, 24 сентября 2026 года); её место заняли Google Veo, Kling и Runway. Это актуальное (июнь 2026) и не привязанное к инструменту руководство охватывает, что такое генерация видео на ИИ (создание движущихся кадров из слов или изображения, где синхронизация звука, 1080p–4K и «изображение-в-видео» теперь стандарт), расстановку сил в 2026 году (закрытие Sora — сообщается о давлении на ресурсы и расходы и снижении числа пользователей — и нынешние лидеры Google Veo 3.1, Kling 3.0 и Runway Gen-4.5, при норме посекундной оплаты), как это работает (диффузионные модели, расширенные на измерение времени; текст-в-видео и изображение-в-видео), общий рабочий процесс из 5 шагов (выбрать инструмент, промпт/изображение, задать длину/формат/звук, сгенерировать и выбрать, соединить при монтаже), главные советы по промптам для видео (объект + движение + работа камеры + стиль + длина + звук, где глаголы и камера — ключевое, одна склейка одно действие, используйте «изображение-в-видео», генерируйте с запасом), что она уже умеет, а что пока нет (длинные произведения за один заход и полная консистентность остаются трудными, а посекундная стоимость накапливается), и основы прав, водяных знаков и этики (водяные знаки вроде SynthID становятся стандартом и во многих тарифах не удаляются, распространяется и стандарт происхождения C2PA, чисто ИИ-вывод защищён слабо с различиями по странам, коммерческое использование зависит от условий, а дипфейки реальных людей под запретом). Делайте склейки и соединяйте их при монтаже, а не стремитесь к длинному произведению за один заход. Поскольку область меняется быстро, всегда сверяйтесь с актуальной официальной информацией.

«Я не умею рисовать, значит, это не для меня» — это предубеждение насчёт генерации изображений ИИ перевёрнуто с ног на голову. Достаточно дать указание словами — и через секунды у вас готов визуал профессионального уровня. Это межинструментальное руководство охватывает: что такое генерация изображений ИИ (создание изображений с нуля посредством слов — навык умения формулировать, а не рисовать; версия промпт-инжиниринга для изображений), как это работает (диффузионные модели вырезают картинку из случайного шума, используя ваш промпт как подсказку, каждый раз рисуя с нуля, отчего результаты «дрожат»), общий рабочий процесс из 4 шагов, работающий в любом инструменте (выбрать инструмент, написать промпт, сгенерировать и выбрать, доработать и завершить — итерации это базовая предпосылка), ключевую анатомию промпта из 6 частей (объект, сцена/обстановка, стиль, свет/цвет, композиция/ракурс, технические параметры) плюс негативные промпты и соотношение сторон — хотя исключения, соотношение сторон и текст на изображении в каждом инструменте записываются по-своему (Midjourney использует --no, Google просит утвердительное описание, в API Stability AI есть negative_prompt — по официальной документации), 7 приёмов мастерства (перебирать число вариантов, добавлять понемногу, референсы, inpainting, фиксировать сид, увеличивать, сохранять удачные промпты), с чем ИИ справляется плохо (кисти, текст, согласованность, точность деталей) и обходные приёмы, а также основы прав, коммерческого использования и этики для работы (чисто ИИ-результат защищён слабо по позиции Ведомства США по авторским правам и делу Thaler, решение по которому стало окончательным после отказа Верховного суда в 2026 году, с различиями по странам; коммерческое использование зависит от условий каждого инструмента; дипфейки и несанкционированное копирование стиля недопустимы; распространяются сведения о происхождении, и OpenAI добавляет к своим изображениям и метаданные C2PA, и водяной знак SynthID). Какой инструмент выбрать и приёмы по конкретным инструментам — со ссылками на сравнение, Midjourney и Stable Diffusion. Знайте анатомию, перебирайте число вариантов, добавляйте слова понемногу — и кто угодно сможет приблизиться к задуманному кадру.

Вы задаёте одному и тому же ИИ один и тот же вопрос, и при этом один называет его бесполезным, а другой поражается тому, насколько он способный — и истинная причина этого разрыва часто не в мощности ИИ, а в том, как написан промпт. Это практический сборник того самого навыка, промпт-инжиниринга, выстроенный так, чтобы новичок мог пользоваться им сразу. Он охватывает, что такое промпт-инжиниринг (навык проектировать и улучшать вашу инструкцию для ИИ — не код, а мастерство того, как формулировать), три принципа, которые меняют результат (будьте конкретны, давайте контекст, задавайте формат вывода, плюс «делай X» вместо «не делай Y»), основные 6 частей хорошего промпта (роль, контекст, инструкция, примеры, формат, ограничения — элементы, которые повторяются в опубликованных руководствах вендоров; все шесть нужны не всегда), 7 практических приёмов (дать роль, показать образец/few-shot, рассуждать по шагам, зафиксировать формат вывода, структурировать разделителями, не просить слишком много за раз и итерировать — сильнейший из них итерация), пример до/после, приёмы следующего уровня (цепочка рассуждений, самосогласованность, цепочки промптов, ReAct — хотя рассуждающие модели вроде o-серии и расширенного мышления у Claude делают CoT внутри, поэтому формулировка цели работает лучше), 7 частых ошибок, а также особенности моделей и безопасность ввода. С внутренними ссылками на советы по промптам для разработки приложений и меры предосторожности при вводе. Превращайте расплывчатое в конкретное, сваливание в диалог — улучшаться может любой уже сегодня.

В июне 2025 года Сэм Альтман из OpenAI написал в блоге: «Мы прошли горизонт событий; взлёт начался» («The Gentle Singularity»). Однако другие исследователи напрочь отвергают идею как то, что никогда не наступит. Это руководство для новичков объясняет, что сингулярность (технологическая сингулярность) — это «точка перелома, в которой ИИ превосходит человеческий интеллект и начинает совершенствовать сам себя, так что прогресс становится взрывообразно быстрым и его уже нельзя ни предсказать, ни контролировать» (гипотеза, не реализованная на 2026 год). Разбираем суть — взрыв интеллекта = рекурсивное самосовершенствование, где умный ИИ строит ещё более умный, а улучшающий меняется с человека на ИИ; чем это отличается от AGI и ASI (AGI/ASI — «состояния» интеллекта, сингулярность — «событие» обретения непредсказуемости; AGI → самосовершенствование → внезапный скачок к ASI = сингулярность); историю термина (1965 — «взрыв интеллекта» I. J. Good → 1993 — Виндж делает название популярным → Курцвейл выводит в мейнстрим с «2045»); широкий разброс прогнозов (Курцвейл 2045, Альтман «уже началась», Виндж, а также скептики вроде Gary Marcus и «тормоз сложности» покойного Paul Allen); внезапный жёсткий взлёт против постепенного мягкого; надежды (прорывы в медицине и науке) и риски (потеря контроля, проблема согласования); глубокий скепсис (тормоз сложности, физические пределы, совсем иная вещь); и распространённые мифы вроде «роботы правят», «немедленно, как только появится AGI» и «фиксировано на 2045». Не бойтесь её чрезмерно и не мечтайте слишком сильно — выжимайте максимум из сегодняшнего ИИ, спокойно наблюдая за тем, что может прийти дальше.