AIの回答は、文章が自然でも内容が間違っていることがあります。画像や文章を作れたことと、それを公開してよいことも別の話です。この章では、入力する前・回答を使う前・公開する前に確かめることを、具体例と手順で紹介します。
この章のゴール
AIの回答の誤りに気づき、根拠・権利・共有してよいかを自分で確かめられるようになること。迷ったときに、入力や公開をいったん止める目安も身につけます。
AIを使うときの5つの確認点
文章作成や調べものでAIを使うときに、まず押さえたい5つの点です。どこまで慎重になるべきかは、使う場面によって変わります。
ハルシネーション：自然な回答も原資料で確かめる
ハルシネーションは、AIがもっともらしい間違いを答えることです。渡した資料と食い違う内容を書くこともあり、間違いの理由や引用元までもっともらしく添えてくる場合があります。[2]
文章の生成と、事実の確認は別の処理
文章を生成する言語モデルは、文脈に続くトークン（文字や語の一部などの単位）を予測します。正しい内容を出すことも多いものの、文章が自然につながることと、事実として正しいことは別です。検索や計算を組み合わせたサービスでも、AIが参照した資料や計算の条件が合っているかは、自分で確かめる必要があります。[2]
元のメモ
社内勉強会の会議室は仮押さえ。開催日と講師は、まだ決まっていません。
誤った案内文の例
「勉強会は11月12日に開催します。講師は営業部の田中さん、会議室も確定しました。」
日付・講師・会場の確定は、どれもメモにない情報です。
メモに沿った直し方
「社内勉強会を計画しています。開催日と講師は未定です。会議室は仮押さえの段階で、詳細は決まりしだいお知らせします。」
案内文らしい形に整える途中で、決まっていないことが書き足される。これがハルシネーションの身近な例です。
回答を確かめる4つの手順
- 確かめる箇所を拾う数字・日付・人名・引用と、「〜します」と約束している表現を抜き出します。
- 引用元を実際に開く資料が実在するか、その箇所に回答と同じことが書いてあるかを見ます。リンクが付いているだけでは裏付けになりません。
- 条件をそろえて見比べる対象者・地域・期間・単位が原文と合っているかを確かめ、計算は自分でもやり直します。「予定」が「決定」に変わっていないかも見ます。
- 使える範囲を決める確かめられた事実と、まだ確かめていない点を分けます。重要な判断は、担当者や専門家に確認してから使います。
複数のAIの答えがそろっても、それは確認の出発点です。
どれも同じ誤情報や出典を参照している可能性があります。「出典を付けて」「見直して」と頼むだけで終わらせず、元の資料まで戻って確かめましょう。具体的な確かめ方は回答の根拠を確かめる章で練習できます。
著作権：入力・生成・公開の条件を分ける
著作権では、他人の作品を使ってよいかと、自分の生成物が保護されるかを分けて考えます。サービスの規約に「商用利用可」とあっても、それで他人の作品の権利まで確かめたことにはなりません。
① 入力する資料
誰が作った作品か、使ってよい許諾やライセンス、法律上の例外があるかを確かめます。Webで見られる作品だからといって、AIに入力したり再利用したりしてよいとは限りません。
② 生成された表現
既存の作品の創作的な表現を再現していないかを確かめます。文化庁は、生成・利用の段階での侵害を類似性と依拠性の観点から整理しています。[5]
③ 公開・販売する用途
試作の段階では問題がない使い方でも、公開や配布には別の確認が必要になることがあります。用途・媒体・地域・契約条件をあわせて確かめます。[5]
「自分に著作権があるか」は、もう一つの確認
文化庁の考え方では、人がどれだけ創作的に関わったかを個別に検討します。指示文が長い、何度も生成し直した、というだけで保護が決まるわけではありません。米国著作権局の2025年の報告も、人が表現を決めたり創作的に編集したりした場合と、プロンプトを与えただけの場合を区別しています。[5] [6]
「作風が似ている」と「表現を再現している」は別です。
画風やアイデアが似ていることと、既存作品の創作的な表現が似ていることは同じではありません。プロンプトに作家名を入れたかどうかでは判断できないので、元の作品と出力を見比べます。また、生成物に著作権が認められなくても、その中に含まれる他人の作品や商標を自由に使えるわけではありません。[5]
例：ネットで見つけたイラストをAIで加工して広告に使うなら、元のイラストの利用条件、出力に残った元の表現、広告に使うときの規約を確かめます。「AIで加工したから大丈夫」とは考えず、判断が難しいものは権利者や社内の担当者に相談しましょう。
プライバシー ― AIに何を渡していいか
入力してよいかどうかは、情報の種類、使うサービスとプラン、組織の許可の3つで判断します。「有料プランだから安全」「名前を伏せたから大丈夫」のように、一つの条件だけで決めないことが大切です。
学習・保存・削除・送信を分けて考える
モデルの改善に使うかどうかの設定です。オフにしても、履歴が消えたり、保存されなくなったりするわけではありません。
画面に残る履歴、サービス側での保存、安全のための確認は別のものです。一時チャットでも保存される場合があります。
何が・いつまでに消えるか、例外はあるかを確かめます。画面から消えても、サービス側の保存やそれまでの利用がすべてなくなるとは限りません。
連携アプリ・共有リンク・送信機能には、それぞれ別の条件があります。AI本体の設定だけでは判断できません。
練習と実業務の入力を分ける
- 会社の機密情報・未公開のソースコード
- 顧客・取引先の個人情報
- 他人から預かった秘密情報
- 未公開の財務・人事データ
- 個人や案件を特定できる細かい経緯・番号
- 実在しない会社・人物・問い合わせ
- 自分で作った、実在の人や案件と関係のないサンプル
- 使ってよい範囲を確かめた公開資料
- 公開前の自分の文章（共有してよいか確かめてから）
パスワード・APIキー・秘密鍵は、文章づくりにも練習にも入力する必要がありません。また、氏名を「Aさん」に変えても、住所・案件名・日時などから誰のことか分かる場合があります。名前を伏せただけでは、匿名にしたことにも、共有の許可を得たことにもなりません。
3サービスの条件を、公式資料で確かめる
以下は個人向けのチャットの場合です（2026年10月14日に各社の公式資料で確認）。会社で契約したプランは条件や管理設定が別なので、個別に確かめてください。
学習への利用をオフにしても、すでに始まった学習は取り消されません。シークレットチャットは履歴に表示されなくても保存され、安全のための処理にも別の条件があります。
アクティビティをオフにしてフィードバックも送らなければ、以降のチャットはモデルの改善に使われません。ただし、回答や安全のための処理・保存、人による確認は別に扱われます。
企業向けプランの「学習に使わない」も、保存しない・外部と連携しない・誰も見ない、という意味ではありません。OpenAIの組織向け説明でも、プラン・機能・接続先ごとに保存や管理の扱いを確かめるよう案内しています。契約の内容を確かめたうえで、組織のルールと見比べましょう。
問い合わせへの返信で、入力を減らす練習
本物の氏名・連絡先・注文番号や、未公開の案件を含む問い合わせ。名前だけ伏せても、ほかの情報から相手や取引が分かることがあります。
「取引先から、商品の納期について問い合わせがありました。納品できる日はまだ決まっていません。社外向けの丁寧な返信を考えてください。納期は約束しないでください。」
入力前の順番：目的に必要な情報だけに絞る → 使うサービス・プラン・連携先での扱いを確かめる → 組織のルールと見比べる。判断がつかなければ入力をやめ、実在しない例で試します。詳しくはAIへの入力で気をつけることへ。
すでに入力してしまったら、まず削除できる範囲と条件を確かめ、仕事の情報なら組織の担当者に相談します。たとえばChatGPTの公式説明では、アーカイブは削除とは違うこと、削除後の保存期間には例外があること、別に保存したファイルや連携先の元データは別扱いであることが示されています。なお、入力しただけで、学習に使われた・他人に漏れたと決まるわけではありません。
偏りとなりすましへの対処
バイアス：データだけでなく、設計や使い方も関わる
AIの偏りは、学習データの構成だけでなく、人の判断や、AIを使う社会・組織の仕組みからも生まれます。特定の属性の人が不利に扱われたり、言語や集団によって精度に差が出たりすることがあります。[7]
応募書類の例
応募書類に「半年の空白期間」とだけ書かれていて、理由は書かれていません。
足してはいけない推測
「空白期間があるから意欲が低い」と決めつけると、書類にない推測が評価に入り込みます。
確かめ方
「理由は書類からは分からない」としたうえで、職務に関係する同じ基準で評価します。AIに別の視点を出させるだけでは、偏りがなくなったとは言えません。
採用や人事評価のように人の扱いを左右する場面では、誰が影響を受けるか、どんな基準で判断するかを決め、人が結果を見直せる手順を用意します。
ディープフェイク：声や映像が似ていても本人確認をする
AIで作ったり加工したりした画像・動画・音声は、なりすましや詐欺にも使われます。FBIは、家族の声をまねて急な送金を頼む手口や、経営者になりすましたビデオ通話などを注意例に挙げています。[3]
- その場で応じない急な送金、パスワードなどの認証情報の提供、振込先の変更は、声や映像だけを信じて進めないようにします。
- 自分から連絡し直すいったん電話を切り、前から知っている番号や、組織の公式な連絡先に自分からかけ直します。
- 確かめられるまで止める本人かどうか、依頼の中身、組織の承認を確かめます。確かめられなければ送金や情報の提供を止め、担当者に相談します。
見た目が不自然なら手がかりになりますが、不自然さがないからといって本物とは限りません。SNSで見かけた画像や動画も、誰がいつ投稿したか、前後の文脈を確かめてから共有しましょう。企業での対策はAIエージェントのセキュリティ解説も参考にしてください。
法律とルール：地域・用途・立場を確認する
AIのための法律だけでなく、著作権・個人情報・消費者保護など、やろうとしていることに関わるルールも確かめます。出発点は、どの地域で、何のために、AIを提供する側と使う側のどちらとして関わるかです。
以下は2026年10月16日時点の各国・地域の公式資料にもとづきます。自分の使い方に当てはまるかは、リンク先の原文や社内の担当部署で確かめてください。
EU：用途ごとに適用時期が異なる
AI Actは原則として2026年8月2日から適用されます。禁止行為などは先に適用が始まり、雇用・教育など一部の高リスク用途は2027年12月2日、規制対象の製品に組み込まれる高リスクAIは2028年8月2日と、時期が分かれています。
AIが作ったコンテンツの表示義務にも、対象や立場ごとの条件と例外があります。[8]
米国：AIにも既存のルールが関わる
FTCは、AIサービスでも利用者へのプライバシーの約束は守らなければならず、AIだからといって既存の法律の適用を免れるわけではないと説明しています。
自分が使う・提供する業務に、どの法令や契約が当てはまるかを確かめます。[9]
中国：公衆向けサービスと表示
生成AIの暫定弁法は、中国国内の一般の人に向けてサービスを提供する場合などが対象です。一般に提供しない研究や社内での利用に、同じ規定がそのまま当てはまるわけではありません。
AI生成合成コンテンツの表示弁法は2025年9月1日に施行されました。提供者や、生成物を公開する利用者に関わる条件を確かめます。[10]
日本：活用の推進とリスク対応
AI推進法は2025年9月1日に全面施行されました。内閣府は、AIの活用を進めることとリスクへの対応の両方を示しています。人工知能基本計画は2026年7月14日に改定されました。
国が活用を後押ししていても、個別の使い方が認められたことにはなりません。権利・契約・組織のルールもあわせて確かめます。[1]
使う前・公開前のチェックリスト
自分の作業を確認する
- 入力前：必要な情報だけに絞り、使うサービスでの扱いと、共有してよいかを確かめます。練習には実在しない例を使います。
- 回答を使う前：数字・日付・引用・約束を元の資料と見比べ、確かめられない点は未確認として残します。
- 公開前：資料や生成物の権利、表示の条件、送り先と公開範囲を確かめます。
- 重要な判断：AIの回答だけで決めず、担当者や専門家に相談します。
組織で手順を決める
- 使ってよいサービス・プラン・連携先と、入力してよい情報を決めます。
- 公開や送信を確認する担当者と、承認が必要な操作を決めます。
- 偏りや誤りを見直し、判断を修正できる手順を用意します。
- 問題が起きたときの連絡先と、利用停止・調査の手順を決めます。
この章のまとめ
入力する前・回答を使う前・公開する前に、情報の扱い、元の資料との一致、権利、判断の偏り、相手が本人かどうかを確かめます。確認は利用者の大切な役割ですが、責任がいつも利用者だけにあるわけではありません。契約や具体的な行為によっては、AIの提供者や組織の責任も検討されます。[5] [9]
参考文献
- 内閣府：AI推進法の概要、人工知能基本計画。
- NIST：生成AIのリスク管理プロファイル（2024年、英語PDF）。誤った生成内容と、その確認・管理の考え方。
- FBI/IC3：生成AIを悪用した金融詐欺の注意喚起（2024年12月3日、英語）。
- プライバシー節の公式資料（2026年10月14日確認）：OpenAIのデータコントロール、Anthropicの学習利用の設定、GoogleのGeminiプライバシー説明。保存・削除・一時チャットの個別資料は本文の該当箇所から参照できます。
- 文化庁：AIと著作権に関する考え方について（2024年3月、PDF）。開発・学習、生成・利用、生成物の著作物性を区別。
- 米国著作権局：AI生成物の著作権に関する報告の公表（2025年1月29日、英語）。
- NIST：AIの偏りはデータ以外にも由来する（2022年、英語）。
- 欧州委員会：AI Actの対象と適用時期（英語）。
- FTC：AI企業のプライバシーと機密保持の約束（2024年、英語）。
- 中国・国家インターネット情報弁公室：生成AIサービス管理暫定弁法、AI生成合成コンテンツ表示弁法（中国語）。