3行でいうと

  • 各社の公式ヘルプは、AIの答えが間違うことを認めています。OpenAIは「答えを下書きとして扱い、正確さが大事なときは出典を開いて確かめる」、Anthropicは「唯一の正しい情報源として扱わない」という趣旨を書いています。
  • 確認項目は、出典があるかを見る、出典を自分で開く、引用や数字や日付や名前を元と照らす、古さと計算を疑う、聞き直して食い違いを見る、個人情報と権利を見る、の10個にまとめました。公式に根拠があるものと、僕らの見立てのものを、表で分けています。
  • 全部を毎回やる必要はありません。使い道の重さ（人に渡す、お金、健康、法律）で、確認の深さを変えます。この段階分けは僕らの見立てです。

この記事は、公式の文書を読んでまとめたもので、実際に使って確かめた記録ではありません。内容は2026年10月16日に読んだ時点のものです。僕らの考えは「見立てです」と書いた部分に分けました。法律や医療などの専門的な助言ではありません。

先に結論

公式が書いていること

OpenAI（ヘルプ「Does ChatGPT tell the truth?」）。 日付は、「2か月前に更新」とだけ表示されていました。ChatGPTは学習で得たパターンから答えを作るので、間違うことがあり、自信ありげな言い方でも間違うことがあります。間違いの例として、事実や日付の誤り、でっち上げの引用、論文、参考文献、あいまいな質問への言い切りが挙げられています。確認の方法としては、答えを下書きとして扱う、引用、データ、技術的な内容、外部の文書への言及を確かめる、正確さが大事なときは検索やDeep researchを使い、出典のリンクを自分で開く、と書かれています。

また、検索を使っていない答えは、学習した内容だけから出ていること、学習の期限があるので、新しい出来事は検索などを使わないと入らないことも説明されています。計算や表の処理は、コードを実行して分析する機能が助けになる、とあります。

Anthropic（ヘルプ、2026年3月16日付）。 Claudeも間違うことがあり、古い学習データのために、最近の出来事で混乱することがあります。権威があるように聞こえる引用が、事実に基づいていないこともあります。確認の方法としては、唯一の正しい情報源として扱わない、重大な助言は慎重に調べる、ウェブ検索を使った答えは、出典を自分で見る（元のページには、要約が落とした文脈があるため）、と書かれています。

Google（Geminiのヘルプ）。 出典が見られるときは、答えの下か本文の中に「Sources」のボタンが出て、リンクの一覧が開きます。すべての答えに出るわけではなく、ボタンが出ない答えもあります。出典には、公開のウェブサイト、アップロードしたファイル、つないだWorkspaceの文書やメールが含まれることがあります。日付の記載はありませんでした。

開発者向けの文書（Anthropic）。 間違いを減らす方法として、「分からない」と言ってよいと伝える、長い文書では先に原文の引用を抜き出させる、それぞれの主張に根拠の引用や出典をつけさせる、根拠のない主張は取り除かせる、同じ質問を何回か聞いて食い違いを見る、答えを渡して確認を重ねさせる、などが挙がっています。そのうえで、これらは間違いを大きく減らすが、なくすわけではなく、重要な情報は検証が必要、と書かれています。

確認項目10

読んだ公式の説明を、チャットで使う人向けの確認項目に直しました。「根拠」の列に、公式に書かれているか、僕らの見立てかを示しています。

番号 確認すること 見るところ 根拠
1 使い道の重さを決める 人に渡す、お金、健康、法律に関わるか。関わるほど、以降の項目を厚くやる Anthropic：重大な助言は慎重に。段階分けは見立て
2 出典がついているか 検索の表示、出典のボタン、引用リンクの有無。ないなら、学習した内容だけから出た答えかもしれない OpenAI、Google
3 出典のリンクを自分で開く 本文に書かれた内容が、リンク先に実際にあるか。要約が落とした前後の文脈はないか OpenAI、Anthropic
4 引用、数字、日付、名前を照合する かぎかっこの文、統計、日付、固有名、参考文献が、元の資料にあるか。自分の資料を渡した場合は、該当箇所を探す OpenAI：引用とデータと文書への言及を確かめる
5 古さを疑う 最近の出来事、制度、価格、バージョンの話か。学習の期限より新しい話は、検索を使わないと入らない OpenAI、Anthropic
6 計算と集計をやり直す 合計、割合、日数などを、電卓や表計算で自分でも出す OpenAI：分析機能は計算を助ける。自分での再計算は見立て
7 自信ある口調を、根拠にしない 言い切りの強さと、正しさは別。意見が分かれる話を、1つに決めた書き方になっていないか OpenAI：自信は正しさを保証しない
8 「分からない」と、根拠を求めて聞き直す 「分からなければ、そう言って」「各主張に根拠の文を付けて」と頼み、根拠が出ない主張は外す Anthropic開発者向け文書。チャットへの応用は見立て
9 同じことを聞き直して、食い違いを見る 同じ質問を何回か聞いて、数字や結論が食い違わないか。言い換えて聞くのは見立て Anthropic開発者向け文書の手法。チャットでの使い方は見立て
10 個人情報と権利を見る 実在の人についての記述が正しいか。他人の文章や画像に似ていないか。渡す先のルールに合うか 個人情報保護委員会の注意喚起（下記）。権利は文化庁の資料に当たる

見立てです。項目の順番は、「やりやすく、効きやすいもの」を前に置きました。2と3だけでも、でっち上げの引用や、存在しない参考文献を見つけやすくなると思います。

項目7の背景：OpenAIが書く、間違いが減りにくい理由

OpenAIの研究の文章（2025年9月5日）は、AIが自信ありげに間違う理由を、訓練と評価のしくみから説明しています。正解だけを数える採点では、当てずっぽうが得で、「分からない」は点にならない。そこで、間違いを重く、慎重な態度を評価する採点に変えるべきだ、という主張です。比較の例として、あるモデルは52%の問いで答えを控えて誤りが26%、別のモデルは1%しか控えず誤りが75%、という数字が書かれています（SimpleQAという問題集での比較です）。

この文章は、間違いが完全になくなることはない、とも書いています。僕らの読み方では、「自信のある口調」は、確かさの目印にならない、ということです。

個人情報と権利について

項目10の根拠は、日本の公的な資料です。

個人情報保護委員会（令和5年6月2日の公表資料）。 一般の利用者への留意点として、入力した個人情報が機械学習に使われ、他の情報と結びついて出力されるおそれがあること、応答は確率的な関連性から作られるので、個人情報についての不正確な内容が含まれうること、サービスの利用規約とプライバシーポリシーを確かめて、入れる情報に応じて使うかを判断すること、が書かれています。事業者には、個人情報を含む入力が利用目的の範囲内かを確かめること、提供事業者が機械学習に使わないことを確認することが求められています。これは、出力の確認というより、入力の注意ですが、「AIが作った個人についての文章は不正確かもしれない」は、出力の確認にそのまま使えます。

文化庁。 「AIと著作権について」のページに、「AIと著作権に関する考え方について」（令和6年3月15日付のPDF）と、チェックリスト＆ガイダンス（令和6年7月31日）などが紹介されています。ただし、ページ自体には、生成物が他人の著作物に似ている場合の考え方などの中身は書かれておらず、僕らは本文のPDFを読んでいません。権利の判断は、ここでは行いません。

総務省（AI事業者ガイドライン）。 総務省のページによると、第1.2版（令和8年3月31日）が載っていて、別添に、チェックリスト・ワークシート（別添7）があります。ページ自体には、出力の確認についての具体的な記述はなく、僕らも別添の中身は読んでいません。

手順書にするとき（見立てです）

  1. 深さを3段階に分けます。 「軽い」（自分のメモ、アイデア出し）は、項目2と3だけ。「ふつう」（人に見せる文章、調べもの）は、1から7。「重い」（お金、健康、法律、取引先、実在の人の話）は、全部にくわえて、専門の人か公式の窓口で確かめる。
  2. 確認した記録を1行残します。 「何を、何で確かめたか」だけで十分です。あとから、どこまで確かめたかが分かります。
  3. 確かめられなかった部分は、使わないか、「未確認」と書きます。 AIが言ったから、は理由にしません。
  4. 月に1回、手順書を見直します。 サービスの機能が変わると、確認のしかたも変わります。

気をつけること

出典

更新履歴