この記事は、「AIリテラシー基礎講座」第9回です。
今回は、AIによって作られる偽画像、偽音声、偽動画、ディープフェイクを、情報確認と社会への影響から整理します。
シリーズ全体はこちら：【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
「突然ですが、SNSやニュースで画像や動画を見たとき、こう思ったことはありませんか？」
- この画像は本物なのか？
- この音声は本人の声なのか？
- この動画は本当にその場面なのか？
- この発言は本当に本人が言ったのか？
- 拡散されている情報は、どこまで確認されているのか？
- AIで作られたものではないのか？
以前なら、「写真や動画があるなら本当だろう」と思いやすかったかもしれません。
ですが、生成AIの登場によって、状況は変わりました。
- 文章を作る
- 画像を作る
- 音声を似せる
- 動画を加工する
- 存在しない人物の顔を作る
- 実在する人物が言っていないことを言ったように見せる
こうしたことが、以前より簡単になっています。
OECDは、生成AIが偽情報、ディープフェイク、操作されたコンテンツの生成・拡散に使われ得ると説明しています。生成AIは便利な一方で、情報環境に大きな影響を与える可能性があります。(OECD)
世界経済フォーラムの「Global Risks Report 2025」でも、誤情報・偽情報は短期的な主要リスクとして高く位置づけられています。WEFは、誤情報・偽情報が社会的結束や統治への信頼を損ない、分断を悪化させるリスクを指摘しています。(World Economic Forum)
つまり、AIと偽情報の問題は、単に「ネットで嘘が増えた」という話ではありません。
何を信じるか、誰を信じるか、社会がどう判断するかに関わる問題です。
今回は、「AIと偽情報・ディープフェイク」を見ていきます。
- 「ディープフェイクとは何か？」
- 「なぜAIで作られた偽情報は見分けにくいのか？」
- 「なぜ人は偽情報を信じたり、拡散したりしてしまうのか？」
- 「個人や企業、社会にはどんな影響があるのか？」
- 「私たちは何を確認すればよいのか？」
こうした問いを、AIリテラシーと情報確認の視点から整理していきます。
第1章 偽情報とは何か？
まず、偽情報とは何でしょうか？
日本語では、「誤情報」「偽情報」「デマ」などの言葉が使われます。
厳密には、意図によって分けて考えることがあります。
- 誤情報
- 間違っている情報
- 本人にだます意図がない場合もある
- 古い情報や勘違いが広がることもある
- 偽情報
- 意図的に作られた虚偽・誤解を招く情報
- だます目的がある
- 政治的、経済的、社会的な目的で使われることがある
- ディープフェイク
- AIなどで作られた偽画像・偽音声・偽動画
- 実在人物が言っていないことを言ったように見せる
- 本物の映像や音声に見える形で加工される
OECDは、ディスインフォメーションを、経済的利益や意図的な欺き、操作、害を与える目的で作成・共有される、検証可能に虚偽または誤解を招く情報と説明しています。
また、フェイクニュース、ディープフェイク、デマはその形態に含まれます。(OECD Going Digital Toolkit)
ここで大切なのは、すべての間違いを同じように扱わないことです。
- 間違って広がった情報
- 意図的に作られた情報。
- AIで作られた偽画像や偽音声
それぞれ、原因も対策も少し違います。
間違いなのか？
↓
意図的な操作なのか？
↓
AIで作られたものなのか？
↓
誰にどんな影響があるのか？
↓
どう確認すればよいのか？
AI時代の情報確認では、「本当か嘘か」だけではなく、なぜ広がっているのかを見ることが大切なのです。
第2章 ディープフェイクとは何か？
ディープフェイクとは、AIなどを使って作られた、偽の画像、音声、動画のことです。
たとえば、次のようなものがあります。
- 偽画像
- 存在しない人物の顔
- 実際には起きていない出来事の写真
- 災害や戦争の偽画像
- 商品や広告に使われる偽の人物画像
- 偽音声
- 本人に似せた声
- 実際には言っていない発言
- 家族や上司を装った音声
- 詐欺に使われる音声
- 偽動画
- 顔の差し替え
- 口の動きの加工
- 実在人物が話しているように見せる動画
- 政治家や有名人の偽発言
- なりすまし
- 本人の顔や声を使った詐欺
- 経営者や上司を装う連絡
- 有名人を使った偽広告
NSA、FBI、CISAは、合成メディアやディープフェイクの脅威について、現代の技術と通信を使うすべての利用者にとって増大する課題であり、国家安全保障システム、国防産業基盤、重要インフラにも関わる問題だと説明しています。(U.S. Department of War)
ディープフェイクが難しいのは、画像や音声、動画という「信じやすい形式」を使う点です。
人は、文章よりも映像や音声を信じやすいことがあります。
特に、次のような場面では注意が必要です。
- 怒りを刺激する映像
- 恐怖を刺激する音声
- 有名人の発言
- 政治家の発言
- 災害や戦争の映像
- お金に関わる広告
- 家族や上司を装う連絡
ディープフェイクは、単なる技術の話ではありません。
人間が何を本物だと感じるかを利用する情報操作なのです。
第3章 なぜAIで偽情報が作りやすくなったのか？
AIによって偽情報が問題になる理由は、偽情報を作るコストが下がったからです。
以前から、嘘やデマはありました。
加工画像もありました。
なりすましもありました。
ですが、生成AIによって、文章、画像、音声、動画を作るハードルが下がっています。
以前
専門的な編集技術が必要
↓
時間がかかる
↓
制作できる人が限られる
↓
大量生産しにくい
現在
生成AIで作りやすくなる
↓
短時間で作れる
↓
大量に作れる
↓
複数の言語や形式に展開できる
NISTの生成AIプロファイルは、生成AIのリスクとして、情報の完全性、偽情報、有害情報、プライバシー、知的財産、セキュリティなどを整理しています。
生成AIは有益な使い方がある一方で、情報環境を混乱させる使い方もあり得ます。(NIST出版物)
AIによって変わるのは、偽情報の存在そのものではありません。
速さ、量、自然さ、個別化です。
- 速さ
- 短時間で作れる
- 速報に便乗できる
- 炎上中に拡散できる
- 量
- 大量の投稿を作れる
- 多言語化できる
- 複数アカウントで流せる
- 自然さ
- 文章が自然
- 画像が本物らしい
- 音声が本人らしい
- 動画が説得力を持つ
- 個別化
- 特定の不安を狙う
- 特定の集団に合わせる
- 詐欺メッセージを自然にする
偽情報は、昔からありました。
ですが、AIによって作りやすく、広げやすく、信じやすい形に整えやすくなったということです。
第4章 なぜ人は偽情報を信じてしまうのか？
偽情報にだまされるのは、判断力が弱いからでしょうか？
必ずしもそうではありません。
人間には、情報を早く判断するための心理の癖があります。
特に、感情が強く動く情報には注意が必要です。
- 怒り
- 「許せない」と感じる
- すぐ共有したくなる
- 相手を責めたくなる
- 恐怖
- 危険を避けたい
- 早く知らせたい
- 確認より行動が先になる
- 不安
- 自分や家族を守りたい
- 最悪の事態を想像する
- 安心できる情報に飛びつく
- 正義感
- 悪いものを広めたい
- 被害者を助けたい
- 告発を支援したくなる
- 仲間意識
- 自分の属する集団を守りたい
- 自分の考えに合う情報を信じやすい
- 反対側の情報を疑いやすい
偽情報は、こうした感情を利用します。
AIによって作られた画像や動画は、感情をさらに強く動かすことがあります。
たとえば、
- 災害時の偽画像
- 戦争中の偽映像
- 政治家の偽発言
- 有名人の偽広告
- 家族を装う偽音声
これらは、単に情報を伝えるのではありません。
感情を動かして、確認する前に反応させるのです。
強い感情が動く
↓
早く反応したくなる
↓
確認が後回しになる
↓
拡散する
↓
誤情報が広がる
AI時代の情報確認では、まず「自分が何を感じているか」に気づくことが大切です。
怒り、不安、恐怖が強い情報ほど、一度止まる必要があります。
第5章 SNSではなぜ偽情報が広がりやすいのか？
偽情報が広がる背景には、SNSの構造もあります。
SNSでは、情報が短時間で広がります。
誰でも投稿できます。
感情を動かす情報が拡散されやすいことがあります。
そして、画像や動画は、文章よりも強い印象を与えます。
- SNSで広がりやすい情報
- 怒りを誘う
- 驚きがある
- 恐怖を刺激する
- 仲間に知らせたくなる
- 短くわかりやすい
- 画像や動画がついている
- 誰かを強く責めている
ここにAIが加わると、偽情報はさらに広げやすくなります。
- AIで文章を作る
- AIで画像を作る
- AIで音声を作る
- AIで翻訳する
- AIで大量の投稿文を作る
このように、情報を作り、広げる工程が効率化されます。
WEFの「Global Risks Report 2025」は、誤情報・偽情報と社会的分極化が引き続き重要なリスクであり、虚偽または誤解を招く情報の拡散が他のリスクを増幅させると説明しています。(世界経済フォーラム)
SNS上で大切なのは、こう考えることです。
拡散されていることと、正しいことは違う。
- 多くの人が共有している
- 有名人が反応している
- コメントが盛り上がっている
- 画像や動画がある
それでも、正しいとは限りません。
拡散されている
↓
多くの人が見ている
↓
正しそうに見える
↓
でも、根拠とは限らない
↓
一次情報や複数情報で確認する
AI時代には、情報を見る力だけでなく、拡散する前に止まる力が必要なのです。
第6章 個人にどんな被害が起きるのか？
AIによる偽情報やディープフェイクは、社会だけでなく個人にも影響します。
特に注意したいのは、なりすまし、詐欺、名誉毀損、信用低下です。
- なりすまし詐欺
- 家族の声に似せた電話
- 上司の声に似せた指示
- 有名人を装った投資広告
- 企業担当者を装う連絡
- 名誉や信用への被害
- 偽画像
- 偽動画
- 偽発言
- 文脈を切り取った投稿
- 実在人物へのなりすまし
- 金銭被害
- 投資詐欺
- 振込指示
- 偽キャンペーン
- 偽ショッピング
- 偽求人
- 心理的被害
- 恐怖
- 不安
- 恥ずかしさ
- 人間関係の悪化
- 社会的孤立
米国FinCENは、ディープフェイクや合成メディアが必ずしも高度で本物らしくなくても、偽情報や詐欺に効果を持ち得ると指摘しています。人が見たものを信じやすい傾向があるためです。(FinCEN.gov)
つまり、ディープフェイクの危険は、技術の完成度だけで決まりません。
状況によっては、少し雑な偽音声や偽画像でも、人は動いてしまいます。
特に、急がされると危険です。
今すぐ振り込んで
↓
誰にも言わないで
↓
本人確認はあとでいい
↓
緊急だから急いで
↓
このリンクから手続きして
こうした言葉が出てきたら、AIかどうか以前に、一度止まる必要があります。
本物に見えるかどうかより、急がせていないか、確認を避けさせていないかを見ることが大切です。
第7章 企業や社会にはどんな影響があるのか？
AIによる偽情報やディープフェイクは、企業や社会にも影響します。
企業では、なりすましによる送金指示、経営者の偽音声、偽の発表、ブランド毀損などが問題になります。
社会では、選挙、災害、戦争、外交、金融市場、公共機関への信頼に影響する可能性があります。
- 企業への影響
- 経営者なりすまし
- 偽の送金指示
- 偽のプレスリリース
- ブランド毀損
- 株価や取引への影響
- 顧客への詐欺
- 社会への影響
- 選挙への干渉
- 災害時の混乱
- 戦争や紛争の情報操作
- 民族・宗教対立の煽動
- 公共機関への不信
- 報道への信頼低下
OECDのAIインシデント情報では、2024年の選挙を前に、生成AIによるディープフェイク音声・動画やチャットボットが、誤った主張の拡散、候補者の信用低下、有権者を誤導する目的で使われた事例が整理されています。(OECD.AI)
ここで重要なのは、偽情報が単独で存在するのではなく、社会の不信や分断と結びつくことです。
- すでに不安や怒りがあるところに、偽情報が入る
- 対立している集団に、都合のよい偽情報が流れる
- 災害や戦争の混乱時に、確認されていない情報が拡散する
すると、被害は大きくなります。
不安や対立がある
↓
感情を刺激する情報が流れる
↓
AIで作られた画像や音声が説得力を持つ
↓
拡散される
↓
不信や分断が強まる
AI時代の偽情報は、個人の問題であると同時に、社会の信頼を守る問題でもあるのです。
第8章 偽画像・偽音声・偽動画をどう確認するか？
AIで作られた画像や動画を完璧に見分けることは簡単ではありません。
そのため、「見た目だけで判断する」のは危険です。
確認するときは、次のように見ます。
- 画像を見るとき
- 出どころはどこか
- 最初に投稿した人は誰か
- いつ投稿されたのか
- 画像検索で過去画像ではないか見る
- 不自然な部分だけで断定しない
- 信頼できる報道や公的機関が確認しているか
- 音声を見るとき
- 本人確認の別ルートがあるか
- 急がせていないか
- 金銭や情報を求めていないか
- 通常と違う連絡手段ではないか
- 折り返し確認できるか
- 動画を見るとき
- 元の投稿元はどこか
- 場所や日時は確認できるか
- 切り抜きではないか
- 他の角度や別ソースはあるか
- 信頼できる機関が確認しているか
大切なのは、映像の細部だけを見て「AIっぽい」と判断しないことです。
最近の生成物は自然なものもあります。
一方で、本物の映像でも画質が低かったり、圧縮で不自然に見えたりすることがあります。
そのため、見た目だけで断定するより、出どころ、日時、文脈、他の情報源を見る方が大切です。
見た目だけで判断しない
↓
投稿元を見る
↓
日時を見る
↓
場所を見る
↓
他の情報源を見る
↓
信頼できる確認情報を見る
AI時代の確認は、画像の粗探しではありません。
情報の流れをたどることなのです。
第9章 AIと偽情報を見る5つの問い
AIと偽情報・ディープフェイクを見るときは、次の5つの問いを持つと整理しやすくなります。
- この情報の出どころはどこか？
- 公式発表
- 信頼できる報道
- 本人の発信
- 匿名アカウント
- 切り抜き投稿
- いつ、どこで、誰が確認した情報なのか？
- 投稿日時
- 撮影日時
- 撮影場所
- 確認した機関
- 元の文脈
- 強い感情を刺激していないか？
- 怒り
- 恐怖
- 不安
- 正義感
- 仲間意識
- 画像・音声・動画だけで判断していないか？
- 元投稿
- 画像検索
- 他の角度
- 複数の情報源
- 公式確認
- 拡散する前に止まれているか？
- すぐ共有しない
- コメント前に確認する
- 家族や職場で別ルート確認する
- 金銭や個人情報を渡さない
- 不明なら保留する
この5つの問いを持つだけで、偽情報に巻き込まれるリスクを下げられます。
特に大切なのは、5つ目です。
拡散する前に止まること。
偽情報は、作る人だけで広がるわけではありません。
信じた人、怒った人、不安になった人、善意で知らせようとした人によって広がることがあります。
だからこそ、確認する力は、自分を守るだけでなく、周りを守る力でもあるのです。
第10章 あなたが今日からできる基本対策
AIと偽情報・ディープフェイクへの対策は、専門家だけのものではありません。
あなたが今日からできることがあります。
- すぐ信じない
- 画像があるから本物とは限らない
- 動画があるから正しいとは限らない
- 音声が似ているから本人とは限らない
- すぐ拡散しない
- 怒ったときほど止まる
- 怖いときほど確認する
- 善意の共有でも影響を考える
- 出どころを見る
- 公式発表
- 本人の発信
- 信頼できる報道
- 公的機関
- 元投稿
- 別ルートで確認する
- 電話をかけ直す
- 公式サイトを見る
- 複数の報道を見る
- 家族や職場に確認する
- 金銭や個人情報を急いで渡さない
- 振込指示
- 認証コード
- パスワード
- 本人確認書類
- クレジットカード情報
家族や職場で決めておくとよいこともあります。
- 家族で決めること
- 緊急時の合言葉
- 振込前の確認方法
- 本人確認の電話番号
- 連絡が取れないときの手順
- 職場で決めること
- 送金指示の確認ルール
- 経営者音声への対応
- 重要変更の承認フロー
- 広報発表の確認手順
- 偽情報発生時の連絡先
ディープフェイク対策で大切なのは、「見抜ける人になること」だけではありません。
見抜けない可能性を前提に、確認の仕組みを作ることです。
まとめ AI時代には、見る力よりも確認する仕組みが大切になる
AIによって、偽情報やディープフェイクは作りやすくなりました。
文章、画像、音声、動画が、以前より簡単に生成・加工できるようになっています。
その結果、私たちは情報を見るときに、これまで以上に慎重さが必要になります。
- 写真がある
- 動画がある
- 音声がある
- 有名人が言っているように見える
- 多くの人が拡散している
- 強い感情を動かされる
これだけでは、正しいとは限りません。
AIと偽情報の問題は、技術だけではありません。
- 人間の心理
- SNSの拡散構造
- 社会の分断
- 災害や戦争の混乱
- 詐欺やなりすまし
こうしたものと結びつきます。
だからこそ、必要なのは「絶対に見抜く力」ではありません。
見抜けない可能性を前提に、確認する力を持つことです。
すぐ信じない
↓
すぐ拡散しない
↓
出どころを見る
↓
日時と文脈を見る
↓
別ルートで確認する
↓
不明なら保留する
AI時代の情報リテラシーとは、疑い深くなることだけではありません。
自分と周りを守るために、確認の一手間を入れることです。
次回は、「AIを安全に使う基本ルール」を扱います。
- 「個人でAIを安全に使うには何を守ればよいのか？」
- 「仕事でAIを使うとき、どんなルールが必要なのか？」
- 「入力、出力、確認、公開のどこに注意すべきなのか？」
- 「AIを便利に使いながら、リスクを下げるにはどうすればよいのか？」
こうした問いを、AIリテラシー講座の実践編として整理していきます。
次回の記事はこちらです。
【第10回】AIを安全に使う基本ルール｜入力・確認・著作権・偽情報対策をわかりやすく解説
シリーズ全体はこちらから確認できます。
【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
ここまでお読みいただきありがとうございました。
Veritas Labでは、国際情勢・歴史・科学・心理学・サイバーセキュリティを横断しながら、複雑な世界の構造を読み解いています。
このブログの考え方や、初めての方におすすめの記事は「Veritas Labの歩き方」にまとめています。
もしご興味あればお読みいただけると嬉しいです。
あわせて読みたい本
この記事では、AIと偽情報・ディープフェイクを、技術、人間の心理、SNSの拡散構造、社会への影響から整理しました。
さらに深く理解したい場合は、情報リテラシー、ファクトチェック、認知バイアス、メディア論、サイバーセキュリティを扱った本を読むと、なぜ人が偽情報を信じ、拡散してしまうのかが見えやすくなります。
ただし、偽情報やディープフェイクの手口は変化が速いため、実務的な確認では、CISA、NIST、OECD、WEF、国内外の公的機関や信頼できる報道機関の最新情報を優先するのがおすすめです。
※一部リンクにはアフィリエイトを利用しています。
あなたの負担が増えることはありません。
いただいた収益は、ブログ運営や書籍購入などの学習費に充てています。
- 栗原 聡『AIの倫理 人間との信頼関係を創れるか』
- 小木曽 健『13歳からの「ネットのルール」 誰も傷つけないためのスマホリテラシーを身につける本』
- 情報文化研究所, 米田 紘康, 竹村 祐亮, 石井 慶子, 高橋 昌一郎 『情報を正しく選択するための認知バイアス事典 行動経済学・統計学・情報学 編』
参考情報
- OECD「Generative AI」
- 生成AIが偽情報、ディープフェイク、操作されたコンテンツの生成・拡散に使われ得ることを確認できます。
https://www.oecd.org/en/topics/sub-issues/generative-ai.html
- 生成AIが偽情報、ディープフェイク、操作されたコンテンツの生成・拡散に使われ得ることを確認できます。
- OECD「Ability of adults to identify online disinformation created by generative AI」
- ディスインフォメーションの定義や、AI生成偽情報を人々がどの程度見分けられるかに関する調査指標を確認できます。
https://goingdigital.oecd.org/en/indicator/81
- ディスインフォメーションの定義や、AI生成偽情報を人々がどの程度見分けられるかに関する調査指標を確認できます。
- NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」
- 生成AIに関するリスクとして、偽情報、情報の完全性、有害情報、プライバシー、セキュリティなどを整理しています。
https://www.nist.gov/itl/ai-risk-management-framework
- 生成AIに関するリスクとして、偽情報、情報の完全性、有害情報、プライバシー、セキュリティなどを整理しています。
- CISA「Contextualizing Deepfake Threats to Organizations」
- NSA、FBI、CISAによるディープフェイクや合成メディアの脅威に関する資料です。
- 組織や重要インフラへの影響を確認できます。
https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats
- World Economic Forum「Global Risks Report 2025」
- 誤情報・偽情報が短期的な主要リスクとして高く位置づけられていることを確認できます。
https://www.weforum.org/publications/global-risks-report-2025/
- 誤情報・偽情報が短期的な主要リスクとして高く位置づけられていることを確認できます。
- FinCEN「Alert on Fraud Schemes Involving Deepfake Media Targeting Financial Institutions」
- ディープフェイクや合成メディアが詐欺や偽情報に使われるリスクについて確認できます。
https://www.fincen.gov/system/files/shared/FinCEN-Alert-DeepFakes-Alert508FINAL.pdf
- ディープフェイクや合成メディアが詐欺や偽情報に使われるリスクについて確認できます。
