この記事は、「AIリテラシー基礎講座」第4回です。
今回は、AIの答えをそのまま使うのではなく、一次情報、公式情報、出典、数字をどう確認するかを整理します。
シリーズ全体はこちら：【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
「突然ですが、AIが出した答えを見て、こう思ったことはありませんか？」
- それっぽいけれど、本当に正しいのか？
- 出典はあるのか？
- 数字や日付は合っているのか？
- 最新情報なのか？
- AIが勝手に補っていないか？
- そのまま仕事や記事に使ってよいのか？
AIは、とても便利です。
- 文章を要約する
- 説明を整理する
- アイデアを出す
- 比較表を作る
- メール文を整える
- 調べものの入口を作る
こうした作業を助けてくれます。
一方で、AIは間違えることがあります。
- 存在しない資料名を出すことがある
- 古い情報を混ぜることがある
- 出典が実在しても、内容と説明がずれていることがある
前回見たように、AIの文章は自然に見えても、正しいとは限りません。
Googleは、生成AIが答えを作り出してしまうことをハルシネーションと呼び、生成AIは人間のように考えたり感情を持ったりするものではなく、パターンを見つけるのが得意なものだと説明しています。(Google ヘルプ)
つまり、AI時代に大切なのは、AIを使わないことではありません。
AIを使ったうえで、確認する力を持つことです。
今回は、「AIの答えはどう確認すればよいのか」を見ていきます。
「一次情報とは何か？」
「AIが出した数字や出典は、どこを見ればよいのか？」
「公式情報、論文、報道はどう使い分ければよいのか？」
「医療・法律・金融など、高リスク領域では何に注意すべきなのか？」
こうした問いを、実践的な確認方法として整理していきます。
第1章 AIの答えは、なぜ確認が必要なのか？
AIの答えに確認が必要なのは、AIが間違えるからです。
ですが、それだけではありません。
AIの間違いは、自然に見えることがあるからです。
- 文体が整っている
- 説明の流れがきれい
- 専門用語が入っている
- 数字が出てくる
- 出典らしいものがある
こうした特徴があると、人は「正しそう」と感じやすくなります。
ですが、自然な文章と正しい情報は同じではありません。
自然な文章
↓
正しそうに見える
↓
でも、事実とは限らない
↓
だから確認が必要になる
NISTのAI Risk Management Frameworkは、AIリスクを管理し、信頼性に関わる要素をAIシステムの設計・開発・利用・評価に取り入れるための枠組みです。AIを使う側にも、出力をどの文脈で使うか、どんな影響が出るかを考える姿勢が必要になります。(NIST)
AIの答えは、下書きとしてはとても役に立ちます。
しかし、確認しないまま事実として扱うと、誤情報、信用低下、判断ミスにつながることがあります。
AIを使うなら、確認もセットで考える。
これが、AIリテラシーの基本なのです。
第2章 まず分けるべきは「事実・解釈・提案」
AIの答えを確認するとき、最初にやるべきことは、内容を分けることです。
AIの文章には、いろいろな種類の情報が混ざっています。
- 事実
- 解釈
- 推測
- 一般論
- 提案
- 意見
- 要約
- たとえ話
これらを同じものとして扱うと、確認が難しくなります。
まずは、次のように分けます。
- 事実
- 数字
- 日付
- 固有名詞
- 制度名
- 法律名
- 研究結果
- 公式発表
- 解釈
- 何を意味するのか
- なぜ重要なのか
- どんな影響があるのか
- どの立場から見ているのか
- 提案
- 何をすべきか
- どの選択肢があるか
- どう行動するか
- どこに注意するか
確認の優先順位が高いのは、まず事実です。
特に、次のものは必ず確認します。
- 数字
- 日付
- 人名
- 組織名
- 法律名
- 制度名
- 論文名
- 引用文
- URL
- 統計データ
解釈や提案は、事実の上に乗っています。
土台となる事実が間違っていれば、その上の解釈や提案も崩れます。
だから、AIの答えを確認するときは、まず事実・解釈・提案を分けることが大切なのです。
第3章 一次情報とは何か？
AIの答えを確認するとき、もっとも大切なのが一次情報です。
一次情報とは、情報の発信元に最も近い情報のことです。
たとえば、次のようなものです。
- 法律
- 条文
- 政府機関の説明
- 国会・省庁の資料
- 制度
- 省庁の公式ページ
- 自治体の公式ページ
- 公的機関の案内
- 統計
- 政府統計
- 国際機関のデータ
- 調査機関の原資料
- 研究
- 論文
- 研究機関の発表
- 学会・大学の資料
- 企業情報
- 企業の公式発表
- 決算資料
- プレスリリース
たとえば、AIが「NIST AI RMFでは、AIリスク管理を重視している」と説明した場合。
確認するなら、ブログやまとめ記事だけでなく、NISTの公式ページや資料を見るのが基本です。
NISTはAI RMFについて、AI製品・サービス・システムの設計、開発、利用、評価に信頼性の考慮を取り入れる能力を高めるための任意利用の枠組みと説明しています。(NIST)
つまり、一次情報を見ると、「AIが言っていることが本当に元資料にあるのか」を確認できます。
AIの答えを信じるか疑うかではなく、情報元にあたる。
これが確認の基本です。
第4章 公式情報・論文・報道はどう使い分けるのか？
確認に使う情報源には、それぞれ役割があります。
どれか一つだけを見れば十分、というわけではありません。
目的によって使い分けます。
- 公式情報
- 制度
- 法律
- 仕様
- ガイドライン
- 企業発表
- 正式な見解
- 論文・研究
- 実験結果
- 調査結果
- 科学的根拠
- 専門的な分析
- 方法と限界
- 報道
- 最近の出来事
- 社会的影響
- 関係者の動き
- 複数の視点
- 現場の文脈
公式情報は、制度や仕様の確認に強いです。
ただし、公式情報だけでは、社会的な影響や批判的な視点が見えにくいことがあります。
論文は、研究や科学的根拠を見るのに役立ちます。
ただし、専門的で、一般化できる範囲に注意が必要です。
報道は、出来事の流れや社会への影響を見るのに役立ちます。
ただし、速報段階では情報が変わることがあります。
AIの答えを確認するときは、情報源をこう使い分けるとよいです。
制度を確認する
↓
公式情報を見る
↓
科学的根拠を確認する
↓
論文や研究機関を見る
↓
最近の出来事を確認する
↓
信頼できる報道を見る
↓
影響を考える
↓
複数の情報源を比べる
OECDのAI原則は、信頼できるAIが人権と民主的価値を尊重することを重視しており、2019年に採択され、2024年に更新されています。AIのように社会的影響が大きいテーマでは、技術だけでなく、制度や社会的価値も含めて確認する必要があります。(OECD)
AI時代の確認では、正しい情報源を選ぶこと自体が、重要な力なのです。
第5章 数字・日付・固有名詞は必ず確認する
AIの答えで特に確認したいのは、数字・日付・固有名詞です。
ここは、間違えると大きく印象が変わります。
たとえば、次のようなものです。
- 2024年なのか、2025年なのか
- 10%なのか、100%なのか
- A社なのか、B社なのか
- 法律名が正しいのか
- 研究者名が正しいのか
- 論文名が実在するのか
- 統計の対象期間が正しいのか
AIの文章では、数字や日付が自然に入っていることがあります。
しかし、自然に入っているからといって、正しいとは限りません。
- 数字
- 単位は正しいか
- 対象期間は正しいか
- 調査対象は何か
- 割合か実数か
- 日付
- 発表日か
- 施行日か
- 調査期間か
- 更新日か
- 固有名詞
- 人名は正しいか
- 組織名は正しいか
- 法律名は正しいか
- 資料名は実在するか
たとえば、「2024年に更新された」とAIが言っている場合。
- 何が更新されたのか？
- どの機関が更新したのか？
- 資料名は何か？
- 公式ページで確認できるのか？
ここを見ます。
数字・日付・固有名詞は、AIの文章の中でも特に確認しやすい部分です。
まずここを確認するだけでも、誤情報のリスクをかなり下げられます。
第6章 出典リンクは「あるか」ではなく「合っているか」を見る
AIが出典リンクを出すことがあります。
ですが、出典リンクがあるから安心、とは限りません。
見るべきなのは、リンクの有無だけではありません。
リンク先が実在し、内容がAIの説明と一致しているかです。
確認するときは、次の順番で見ます。
出典リンクを開く
↓
ページが実在するか見る
↓
発信元を見る
↓
更新日を見る
↓
AIの説明と一致しているか見る
↓
数字・日付・引用部分を確認する
↓
必要なら別の情報源でも確認する
出典確認でよくある問題は、次のようなものです。
- リンクが存在しない
- URLが架空
- ページが削除済み
- 別ページに飛ばされる
- リンク先はあるが内容が違う
- AIの説明と一致しない
- 数字が違う
- 日付が違う
- 引用文が存在しない
- 情報源として弱い
- 個人ブログ
- 出典不明のまとめ記事
- 広告目的のページ
- 更新日が古い
Google Cloudは、AIハルシネーションが架空のWebページへのリンク生成にまで及ぶことがあると説明しています。つまり、AIがリンクを出したとしても、そのリンクが本当に存在し、内容が説明と合っているかを見る必要があります。(Google Cloud)
出典リンクは、飾りではありません。
主張の根拠です。
だから、出典は「あるか」ではなく、合っているかを見る必要があるのです。
第7章 リスクの高さで確認レベルを変える
AIの答えを確認するとき、すべてを同じ深さで確認する必要はありません。
大切なのは、リスクの高さで確認レベルを変えることです。
低リスクの用途なら、AIの答えをたたき台として使いやすいです。
一方で、高リスクの用途なら、専門家や公式情報を優先する必要があります。
- 低リスク
- アイデア出し
- 下書き
- 文章の言い換え
- 学習の入口
- 旅行プランのたたき台
- 中リスク
- ブログ記事
- 仕事の資料
- 社外向け文章
- 商品比較
- 制度の概要説明
- 高リスク
- 医療判断
- 法律判断
- 投資判断
- 税金判断
- セキュリティ対応
- 人事評価
- 契約判断
- 災害時の行動判断
たとえば、旅行プランのたたき台なら、多少のズレは後から直せます。
しかし、医療や法律、金融、セキュリティ対応では、間違いが大きな被害につながる可能性があります。
そのため、高リスク領域では、AIの答えを最終判断に使わない方がよいです。
リスクが低い
AIをたたき台として使う
↓
必要な部分だけ軽く確認する
リスクが高い
公式情報・専門家・一次情報を確認する
↓
AIの答えだけで判断しない
NIST AI RMFは、AIリスクを文脈に応じて考える枠組みです。AIの出力をどこで、誰に、どんな影響を与える形で使うのかによって、必要な確認レベルは変わります。(NIST)
大切なのは、「AIだから危険」ではありません。
間違ったときの影響が大きいほど、確認を厚くするということです。
第8章 医療・法律・金融では特に注意する
AIの答えを確認するとき、特に注意したいのが医療・法律・金融です。
これらは、いわゆる高リスク領域です。
間違った情報が、健康、権利、お金、生活に大きな影響を与える可能性があります。
- 医療
- 症状の自己判断
- 薬の飲み方
- 検査結果の解釈
- 治療法の選択
- 受診の必要性
- 法律
- 契約書の判断
- 権利義務の判断
- 訴訟やトラブル対応
- 労働問題
- 相続や税金に関わる判断
- 金融
- 投資判断
- 保険選び
- ローン判断
- 税金
- 資産運用
この分野では、AIを使ってもよい場面と、使い方に注意すべき場面があります。
AIは、用語の説明や質問の整理には役立ちます。
たとえば、
- 医師に相談するための質問を整理する
- 法律相談で聞くべき点を整理する
- 金融商品の用語を理解する
- 制度の概要をつかむ
こうした使い方は、入口として役立つことがあります。
一方で、最終判断はAIに任せない方がよいです。
AIに任せてもよい範囲
用語の整理
↓
質問の整理
↓
比較のたたき台
↓
相談前の準備
AIに任せない範囲
診断
↓
治療判断
↓
法的判断
↓
投資判断
↓
契約判断
高リスク領域では、AIの答えは入口です。
出口ではありません。
- 症状がある場合は医療機関へ
- 法律問題は弁護士などの専門家へ
- 投資や税金は専門家や公的情報へ
AIは、あなたの判断を助ける道具であって、責任を引き受ける存在ではないのです。
第9章 AIの答えを確認する5つの問い
AIの答えを確認するときは、次の5つの問いを持つと整理しやすくなります。
- これは事実なのか、解釈なのか、提案なのか？
- 数字や日付が含まれているか
- AIの推測が混ざっていないか
- 一般論を事実のように言っていないか
- 一次情報や公式情報で確認できるのか？
- 省庁や公的機関で確認できるか
- 企業の公式発表で確認できるか
- 研究なら論文や研究機関で確認できるか
- 出典は実在し、内容と一致しているのか？
- リンクは開けるか
- 更新日は古すぎないか
- AIの説明と出典内容が合っているか
- 間違っていた場合、誰にどんな影響が出るのか？
- 自分だけの問題か
- 読者や顧客に影響するか
- 健康・お金・権利に関わるか
- 最終判断をAIではなく、人間がしているのか？
- 自分で確認したか
- 必要なら専門家に相談したか
- 公開前に責任を持って見直したか
たとえば、AIが「この制度は2025年から変わりました」と答えた場合。
- まず、それが事実なのか、解釈なのかを分ける
- 次に、制度を担当する省庁や自治体のページを確認する
- そのうえで、AIが示した出典が実在するかを見る
- もし間違っていた場合、読者や仕事相手に影響するかを考える
- 最後に、その内容を自分の責任で使えるか判断する
この5つの問いを持つだけで、AIの答えは扱いやすくなります。
大切なのは、AIを信じるか疑うかではありません。
どこを確認すべきかを見抜くことです。
第10章 AIを「確認の相棒」として使う
AIの答えを確認するというと、AIを疑う作業のように聞こえるかもしれません。
ですが、AIは確認にも使えます。
ただし、AIに「正しいですか？」と聞くだけでは不十分です。
AI自身が出した答えを、AI自身に確認させても、同じ前提のまま間違いを繰り返すことがあります。
使うなら、確認の補助として使います。
- AIにできること
- 重要な主張を抜き出す
- 確認すべき数字をリスト化する
- 出典が必要な箇所を洗い出す
- 反対意見や注意点を出す
- 質問を具体化する
- 読者が誤解しそうな点を指摘する
- AIだけに任せないこと
- 出典の実在確認
- 数字の最終確認
- 医療・法律・金融の判断
- 公開前の責任判断
- 人への影響の最終判断
たとえば、AIにこう頼むことは役立ちます。
- 「この文章の中で、出典確認が必要な主張を箇条書きにしてください」
- 「数字、日付、固有名詞だけを抜き出してください」
- 「この説明で読者が誤解しそうな点を教えてください」
- 「事実と解釈を分けてください」
- 「高リスクな表現があれば指摘してください」
このように使うと、AIは確認作業の入口を助けてくれます。
AIに下書きを作らせる
↓
AIに確認ポイントを抜き出させる
↓
人間が一次情報を確認する
↓
必要なら専門家に相談する
↓
人間が判断して使う
AIは、確認の代わりにはなりません。
ですが、確認すべき場所を見つける相棒にはなります。
まとめ AIの答えは、使う前に分けて確認する
AIの答えは便利です。
- 文章を整理する
- 要約する
- 説明する
- 比較する
- アイデアを出す
こうした作業では、大きな助けになります。
ですが、AIの答えは確認が必要です。
なぜなら、AIは自然な文章で間違えることがあるからです。
- 事実と解釈が混ざる
- 数字が間違う
- 日付が古い
- 固有名詞を取り違える
- 出典が実在しない
- 出典内容と説明がずれる
- 質問の前提を勝手に補う
- 高リスク領域で誤った判断につながる
確認するときは、まず分けます。
事実
↓
解釈
↓
提案
↓
リスク
↓
責任
そして、重要な事実は一次情報にあたります。
- 公式情報を見る
- 論文を見る
- 信頼できる報道を見る
- 出典リンクを開いて、内容が合っているか確認する
- 数字、日付、固有名詞を見る
- リスクが高い場合は、専門家や公的情報を優先する
AIを使うときに大切なのは、完璧に疑うことではありません。
確認する場所を知ることです。
AIは、下書きや整理にはとても役立ちます。
ですが、最終判断をするのは人間です。
AI時代の確認力とは、AIを拒絶する力ではありません。
AIを使いながら、事実・出典・影響を確認し、人間が責任を持って判断する力なのです。
次回は、「AIに入れてはいけない情報とは何か」を扱います。
- 「個人情報はどこまで入れてよいのか？」
- 「会社の資料や顧客情報をAIに入れると何が危険なのか？」
- 「パスワードやAPIキーはなぜ絶対に入れてはいけないのか？」
- 「AIを使う前に、どんな情報を消せばよいのか？」
こうした問いを、情報漏洩とプライバシーの視点から整理していきます。
次回の記事はこちらです。
【第5回】AIに入れてはいけない情報とは何か｜個人情報・機密情報・パスワードを守る基本をわかりやすく解説
シリーズ全体はこちらから確認できます。
【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
ここまでお読みいただきありがとうございました。
Veritas Labでは、国際情勢・歴史・科学・心理学・サイバーセキュリティを横断しながら、複雑な世界の構造を読み解いています。
このブログの考え方や、初めての方におすすめの記事は「Veritas Labの歩き方」にまとめています。
もしご興味あればお読みいただけると嬉しいです。
あわせて読みたい本
この記事では、AIの答えを確認する方法を、一次情報、出典、数字、リスクの視点から整理しました。
さらに深く理解したい場合は、情報リテラシー、ファクトチェック、統計の読み方、AI倫理を扱った入門書を読むと、AI時代の確認力が身につきやすくなります。
ただし、AIや制度は変化が速いため、実務的な確認では、NIST、IPA、OECD、各サービスの公式情報を優先するのがおすすめです。
※一部リンクにはアフィリエイトを利用しています。
あなたの負担が増えることはありません。
いただいた収益は、ブログ運営や書籍購入などの学習費に充てています。
- 栗原 聡『AIの倫理 人間との信頼関係を創れるか』
- 小木曽 健『13歳からの「ネットのルール」 誰も傷つけないためのスマホリテラシーを身につける本』
- 情報文化研究所, 米田 紘康, 竹村 祐亮, 石井 慶子, 高橋 昌一郎 『情報を正しく選択するための認知バイアス事典 行動経済学・統計学・情報学 編』
参考情報
- NIST「AI Risk Management Framework」
- AIリスクを管理し、信頼性に関わる考慮をAIシステムの設計・開発・利用・評価に取り入れるための枠組みです。AIの答えをどの文脈で使うか、どんな影響が出るかを考える参考になります。
https://www.nist.gov/itl/ai-risk-management-framework
- AIリスクを管理し、信頼性に関わる考慮をAIシステムの設計・開発・利用・評価に取り入れるための枠組みです。AIの答えをどの文脈で使うか、どんな影響が出るかを考える参考になります。
- Google「Learn about generative AI」
- 生成AIが人間のように考えたり感情を持ったりするものではなく、パターンを見つけるのが得意なものだと説明しています。ハルシネーションの基本理解にも使えます。
https://support.google.com/websearch/answer/13954172
- 生成AIが人間のように考えたり感情を持ったりするものではなく、パターンを見つけるのが得意なものだと説明しています。ハルシネーションの基本理解にも使えます。
- Google Cloud「What are AI hallucinations?」
- AIハルシネーションでは、実在しないWebページへのリンクを生成することもあると説明しています。
- AIが出したリンクや出典を確認する必要性の根拠になります。
https://cloud.google.com/discover/what-are-ai-hallucinations
- OECD「AI Principles」
- 信頼できるAIが人権と民主的価値を尊重することを重視し、2019年に採択、2024年に更新された国際的な原則です。
- AIを社会の中でどう使うかを考える参考になります。
https://www.oecd.org/en/topics/sub-issues/ai-principles.html
