Ответы ИИ могут быть фактически неверными, даже если читаются естественно. Умение создать изображение или текст и право это опубликовать — тоже разные вещи. В этой главе с конкретными примерами и пошаговой инструкцией рассказано, что проверить до ввода информации, до использования ответа и до публикации.

Цель главы
Научиться замечать ошибки в ответах ИИ и самостоятельно проверять, надёжны ли источники, права и можно ли делиться материалом. Вы также освоите ориентиры, когда стоит приостановить ввод информации или публикацию.

Пять пунктов проверки при использовании ИИ

Ниже пять пунктов, которые стоит держать в голове при использовании ИИ для написания текстов или поиска информации. Насколько осторожно действовать, зависит от ситуации.

① Точность содержания Совпадают ли числа, даты и источники ② Право на использование произведений Можно ли использовать введённые материалы и созданный результат ③ Обращение с вводимой информацией Условия хранения, обучения и интеграций, и можно ли делиться ④ Предвзятость в суждениях Не добавлены ли атрибуты или предположения, которых нет в материале ⑤ Собеседник и источник информации Не решили ли вы, что человек тот, за кого себя выдаёт, только по голосу или видео

Галлюцинации: проверяйте даже правдоподобные ответы по исходным материалам

Галлюцинация — это когда ИИ выдаёт правдоподобный, но ложный ответ. Он может написать содержание, противоречащее переданным материалам, и даже добавить убедительно выглядящие причину или источник ошибки.[2]

Генерация текста и проверка фактов — разные процессы

Языковые модели, генерирующие текст, предсказывают токены (единицы вроде символов или частей слов), которые продолжают контекст. Часто они выдают верное содержание, но текст, который читается естественно, и текст, который фактически верен, — разные вещи. Даже в сервисах, которые сочетают поиск или вычисления, нужно самостоятельно проверить, верны ли материалы, на которые ссылается ИИ, и условия расчётов.[2]

Исходная заметка

Переговорная для внутреннего учебного семинара только предварительно забронирована. Дата проведения и докладчик ещё не определены.

Пример неверного объявления

«Учебный семинар пройдёт 12 ноября. Докладчик — Танака из отдела продаж, переговорная подтверждена.»

Дата, докладчик и место — всё это информация, которой нет в заметке.

Исправление по заметке

«Мы планируем внутренний учебный семинар. Дата и докладчик пока не определены. Переговорная предварительно забронирована, подробности сообщим, как только всё будет решено.»

При переработке текста в форму объявления то, что ещё не решено, дописывается. Это типичный пример галлюцинации.

Четыре шага проверки ответа

  1. Выделите то, что нужно проверить Выпишите числа, даты, имена, цитаты и обязательства вида «мы сделаем…».
  2. Откройте источник сами Проверьте, что источник существует и что на нужном месте написано то же, что в ответе. Одной ссылки недостаточно как подтверждения.
  3. Сверьте условия Проверьте, совпадают ли с оригиналом адресаты, регион, период и единицы измерения, и пересчитайте вычисления самостоятельно. Также убедитесь, что «запланировано» не превратилось в «решено».
  4. Определите, что можно использовать Отделите проверенные факты от того, что ещё не проверено. Важные решения сверяйте с ответственным сотрудником или специалистом до использования.

Даже если ответы нескольких ИИ совпадают, это лишь отправная точка для проверки.
Все они могут опираться на одну и ту же ложную информацию или источник. Не ограничивайтесь просьбами «укажи источники» или «проверь ещё раз»: вернитесь к исходным материалам и проверьте их. Конкретные способы проверки можно потренировать в главе Как проверить обоснование ответа.

Что касается авторского права, нужно отдельно рассматривать можно ли использовать чужое произведение и защищён ли ваш результат генерации. Даже если в условиях сервиса написано «коммерческое использование разрешено», это не значит, что вы проверили права на чужое произведение.

① Исходные материалы, которые вы вводите

Установите, кто автор произведения, есть ли разрешение или лицензия на использование и применяются ли законные исключения. То, что произведение можно просмотреть в интернете, не значит, что его можно вводить в ИИ или повторно использовать.

② Созданное выражение

Проверьте, не воспроизводит ли результат творческое выражение существующего произведения. Агентство по делам культуры Японии рассматривает нарушение на этапах создания и использования с точки зрения сходства и опоры на исходное произведение.[5]

③ Использование для публикации или продажи

То, что допустимо на этапе пробного варианта, может требовать отдельной проверки для публикации или распространения. Проверьте вместе назначение, носитель, регион и условия договора.[5]

Наличие авторских прав у вас — отдельная проверка

По подходу Агентства по делам культуры Японии оценивается, насколько человек творчески участвовал, в каждом случае отдельно. Одни лишь длинные инструкции или многократная перегенерация не определяют, будет ли защита. В докладе Бюро по авторскому праву США за 2025 год тоже различаются случаи, когда человек определял выражение или творчески редактировал его, и случаи, когда промпт был просто задан.[5] [6]

«Похожий стиль» и «воспроизведение выражения» — разные вещи.
Сходство в манере рисования или идеях не то же самое, что сходство в творческом выражении существующего произведения. Судить об этом по тому, указано ли в промпте имя художника, нельзя, поэтому сравните исходное произведение с результатом. Кроме того, даже если сгенерированный результат не признан объектом авторского права, это не даёт свободы использовать содержащиеся в нём чужие произведения или товарные знаки.[5]

Пример: если вы с помощью ИИ обрабатываете найденную в сети иллюстрацию для рекламы, проверьте условия использования исходной иллюстрации, оригинальное выражение, которое осталось в результате, и условия использования в рекламе. Не думайте, что «раз обработано ИИ, значит, всё в порядке». Сложные случаи обсудите с правообладателем или ответственным сотрудником в организации.

Конфиденциальность — что можно передавать ИИ

Можно ли вводить информацию, зависит от трёх вещей: вида информации, используемого сервиса и тарифа, а также разрешения организации. Важно не решать, опираясь на одно условие, например «платный тариф — значит безопасно» или «я скрыл имя — значит всё в порядке».

Рассматривайте обучение, хранение, удаление и передачу отдельно

① Использование для обучения

Это настройка, определяющая, используются ли данные для улучшения модели. Её выключение не означает, что история исчезнет или перестанет храниться.

② История и хранение

История, отображаемая на экране, хранение на стороне сервиса и проверки безопасности — разные вещи. Даже временные чаты в некоторых случаях могут сохраняться.

③ Удаление данных

Проверьте, что и когда удаляется и есть ли исключения. Даже если что-то пропало с экрана, хранение на стороне сервиса или прошлое использование могут быть удалены не полностью.

④ Передача наружу

Подключённые приложения, общие ссылки и функции отправки имеют свои условия. Их нельзя определить только по настройкам самого ИИ.

Разделяйте ввод для практики и ввод для реальной работы

Не вводите, пока не подтвердите разрешение
  • Конфиденциальная информация компании или неопубликованный исходный код
  • Персональные данные клиентов и деловых партнёров
  • Конфиденциальная информация, доверенная вам другими
  • Неопубликованные финансовые или кадровые данные
  • Подробности или номера, по которым можно определить человека или дело
Сначала тренируйтесь на несуществующих данных
  • Несуществующие компании, люди или обращения
  • Придуманные вами примеры, не связанные с реальными людьми или делами
  • Публичные материалы, допустимость использования которых вы проверили
  • Ваш собственный неопубликованный текст (после подтверждения, что им можно делиться)

Пароли, ключи API и закрытые ключи не нужно вводить ни для написания текстов, ни для тренировки. Кроме того, даже если заменить имя на «А», по адресу, названию дела, дате и времени всё равно может быть понятно, о ком речь. Простое скрытие имени не делает данные анонимными и не означает разрешения делиться ими.

Проверьте условия трёх сервисов в официальных материалах

Ниже описано личное использование чата (сверено с официальными материалами каждой компании на 14 октября 2026 года). Если вы используете тариф, заключённый компанией, условия и административные настройки другие, поэтому проверяйте их отдельно.

ChatGPT

Выключение использования для обучения не удаляет историю. Например, при отправке отзыва об ответе применяются другие условия, а временные чаты тоже могут сохраняться в целях безопасности.

Обучение на данных и история · Temporary Chat

Claude

Выключение использования для обучения не отменяет обучение, которое уже началось. Инкогнито-чаты сохраняются, хотя и не отображаются в истории, а обработка для безопасности подчиняется отдельным условиям.

Настройки улучшения модели и область действия · Incognito chats

Gemini

Если вы отключили Activity и не отправляете отзывы, последующие чаты не будут использоваться для улучшения модели. Однако ответы, обработка для безопасности, хранение и проверка людьми рассматриваются отдельно.

Условия Activity, хранения и проверки

«Не используется для обучения» в корпоративных тарифах не означает, что данные никогда не сохраняются, не связываются с внешними сервисами и никто их не просматривает. Организационное руководство OpenAI также рекомендует проверять, как обрабатываются хранение и администрирование для каждого тарифа, функции и подключения. Убедившись в условиях договора, сверьте их с правилами вашей организации.

Тренировка сокращения ввода при ответе на обращения

Не вставляйте как есть

Обращение с настоящим именем, контактными данными, номером заказа или неопубликованным делом. Даже если скрыть имя, собеседника или сделку всё равно может быть возможно определить по другой информации.

Пример ввода без реальных данных

«От делового партнёра поступил запрос о сроке поставки товара. Дата поставки пока не определена. Составьте вежливый ответ для внешней переписки. Не обещайте срок поставки.»

Порядок действий до ввода: ограничьте информацию тем, что нужно для цели → проверьте, как обрабатывают её используемый сервис, тариф и подключённые получатели → сверьте с правилами организации. Если не уверены, не вводите информацию и попробуйте на несуществующих примерах. Подробнее см. Что учитывать при вводе данных в ИИ.

Если вы уже ввели информацию, сначала проверьте то, что можно удалить, и условия удаления, а если это рабочие данные, обратитесь к ответственному сотруднику организации. Например, официальное объяснение ChatGPT от OpenAI показывает, что архивирование — это не удаление, что после удаления у срока хранения есть исключения и что отдельно сохранённые файлы или исходные данные в подключённых сервисах обрабатываются отдельно. Заметьте: сам по себе ввод информации не означает, что её использовали для обучения или что она утекла к другим.

Противодействие предвзятости и подмене личности

Предвзятость: зависит не только от данных, но и от дизайна и использования

Предвзятость ИИ возникает не только из состава обучающих данных, но и из человеческих суждений и из систем, в которых общества и организации применяют ИИ. Люди с определёнными признаками могут оказаться в невыгодном положении или точность может различаться в зависимости от языка или группы.[7]

Пример документов соискателя

В документах соискателя указан только «шестимесячный перерыв в трудовой деятельности», причина не указана.

Предположение, которое не стоит добавлять

Вывод «был перерыв, значит, мотивация низкая» впускает в оценку догадку, которой нет в документах.

Как проверить

Укажите, что «причину нельзя определить по документам», и затем оцените по тем же критериям, связанным с работой. Одно лишь получение от ИИ другой точки зрения не означает, что предвзятость устранена.

В ситуациях вроде найма или кадровой оценки, которые влияют на то, как обращаются с людьми, определите, кто затронут и какие критерии используются для суждения, и подготовьте процесс, в котором люди могут пересмотреть результаты.

Дипфейки: проверяйте личность, даже если голос или видео похожи на настоящие

Изображения, видео и аудио, созданные или изменённые с помощью ИИ, также используются для подмены личности и мошенничества. ФБР приводит в качестве примеров предостережений мошенничество с имитацией голоса родственника и просьбой срочно перевести деньги, а также видеозвонки с подменой руководителей.[3]

  1. Не действуйте немедленно Не выполняйте по одному лишь голосу или видео срочный перевод денег, просьбу предоставить учётные данные вроде паролей или изменение реквизитов для оплаты.
  2. Перезвоните сами Положите трубку и перезвоните по номеру, который вы уже знаете, или по официальным контактам организации.
  3. Остановитесь, пока не проверите Проверьте, тот ли это человек, в чём суть просьбы и утверждена ли она организацией. Если проверить не удалось, прекратите перевод денег или передачу информации и обратитесь к ответственному сотруднику.

Неестественный вид может быть подсказкой, но отсутствие неестественных признаков не означает, что перед вами подлинник. Перед тем как делиться изображениями и видео, увиденными в соцсетях, проверьте, кто и когда их опубликовал и каков контекст. Меры внутри компаний можно также рассмотреть по нашему руководству по безопасности AI-агентов.

Законы и правила: проверяйте регион, назначение и роль

Помимо законов, специально посвящённых ИИ, проверяйте правила, относящиеся к тому, что вы делаете: авторское право, персональные данные, защита потребителей. Отправная точка — в каком регионе, для какой цели и выступаете ли вы как поставщик ИИ или как его пользователь.

Ниже приведено по официальным материалам стран и регионов на 16 октября 2026 года. Чтобы определить, относится ли это к вашему использованию, проверьте исходный текст по ссылкам или уточните во внутреннем подразделении, отвечающем за этот вопрос.

ЕС: сроки применения различаются в зависимости от использования

Закон ЕС об ИИ (AI Act) в целом применяется с 2 августа 2026 года. Запрещённые практики и некоторые другие начинают действовать раньше. Некоторые высокорискованные сферы применения, например занятость и образование, — с 2 декабря 2027 года, а высокорисковый ИИ, встроенный в регулируемые продукты, — с 2 августа 2028 года, поэтому сроки разнесены.

Существуют также условия и исключения для обязанности маркировать контент, созданный ИИ, в зависимости от сферы действия и роли каждой стороны.[8]

США: существующие правила тоже применяются к ИИ

FTC разъясняет, что обязательства по обеспечению конфиденциальности, данные пользователям, нужно соблюдать и в сервисах ИИ, и что то, что это ИИ, не освобождает от действия существующих законов.

Проверьте, какие законы и договоры относятся к работе, которую вы используете или предоставляете.[9]

Китай: общедоступные сервисы и маркировка

Временные меры управления генеративными сервисами ИИ применяются, например, когда услуги предоставляются широкой публике на территории Китая. Те же положения не обязательно распространяются на исследования, которые не предлагаются публично, и на внутреннее использование.

Меры по маркировке синтетического контента, созданного ИИ, вступили в силу 1 сентября 2025 года. Проверьте условия, касающиеся поставщиков и пользователей, публикующих созданный контент.[10]

Япония: продвижение и управление рисками

Закон о продвижении ИИ полностью вступил в силу 1 сентября 2025 года. Кабинет министров показывает одновременно и продвижение использования ИИ, и меры реагирования на риски. Базовый план в области ИИ был пересмотрен 14 июля 2026 года.

Даже если государство поддерживает использование, это не значит, что конкретное применение одобрено. Также проверьте права, договоры и правила организации.[1]

Чек-лист перед использованием и перед публикацией

Проверьте свою работу

  • Перед вводом информации: ограничьте её необходимым и проверьте, как её обрабатывает сервис и можно ли ею делиться. Для тренировки используйте несуществующие примеры.
  • Перед использованием ответа: сверьте числа, даты, цитаты и обещания с исходными материалами и оставьте непроверенные моменты отмеченными как неподтверждённые.
  • Перед публикацией: проверьте права на материалы и созданный результат, условия маркировки, а также адресатов и объём публикации.
  • Важные решения: не принимайте решений только по ответам ИИ. Проконсультируйтесь с ответственным сотрудником или специалистом.

Определите порядок действий в организации

  • Определите, какие сервисы, тарифы и подключения разрешены и какую информацию можно вводить.
  • Определите, кто подтверждает публикацию или отправку и какие операции требуют одобрения.
  • Подготовьте процесс пересмотра предвзятости и ошибок и исправления решений.
  • Определите контакты для обращения при проблемах и порядок приостановки использования или расследования.

Итоги главы
Перед вводом информации, перед использованием ответа и перед публикацией проверьте, как обрабатываются данные, соответствуют ли они исходным материалам, права, предвзятость в суждениях и то, тот ли собеседник, за кого себя выдаёт. Проверка — важная роль пользователя, но ответственность не всегда лежит только на пользователе. В зависимости от договора и конкретных действий может рассматриваться и ответственность поставщика ИИ или организации.[5] [9]

Список литературы

  1. Кабинет министров Японии: Обзор Закона о продвижении ИИ, Базовый план в области ИИ.
  2. NIST: Профиль управления рисками генеративного ИИ (2024, английский PDF). Ошибочный сгенерированный контент и подходы к его проверке и управлению.
  3. FBI/IC3: Предупреждение о финансовом мошенничестве с использованием генеративного ИИ (3 декабря 2024 года, на английском).
  4. Официальные материалы для раздела о конфиденциальности (проверено 14 октября 2026 года): средства управления данными OpenAI, настройки использования для улучшения модели Anthropic, объяснение конфиденциальности Gemini от Google. Отдельные материалы о хранении, удалении и временных чатах можно найти в соответствующих местах текста.
  5. Агентство по делам культуры Японии: Концепции в отношении ИИ и авторского права (март 2024 года, PDF). Разграничивает разработку и обучение, генерацию и использование, охраноспособность сгенерированного результата.
  6. Бюро по авторскому праву США: Публикация доклада об авторском праве на произведения, созданные ИИ (29 января 2025 года, на английском).
  7. NIST: Предвзятость ИИ может возникать не только из данных (2022, на английском).
  8. Европейская комиссия: Сфера действия и сроки применения Закона ЕС об ИИ (на английском).
  9. FTC: Компании ИИ выполняют обязательства по конфиденциальности (2024, на английском).
  10. Государственное управление интернет-информации Китая: Временные меры управления генеративными сервисами ИИ, Меры по маркировке синтетического контента, созданного ИИ (на китайском).

В следующей главе мы расскажем о последних тенденциях в ИИ. Когда используете черновики в работе, см. также порядок проверки писем.