この記事は、「AIリテラシー基礎講座」第10回です。
今回は、これまで扱ってきた入力、出力確認、著作権、偽情報、仕事での利用を、AIを安全に使うための基本ルールとして整理します。
シリーズ全体はこちら：【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
「突然ですが、AIを使うとき、こう思ったことはありませんか？」
- 何を入れてよいのか？
- どこまで信じてよいのか？
- 仕事で使ってよいのか？
- AIの文章をそのまま使ってよいのか？
- 画像や音声は本物と見分けられるのか？
- 安全に使うには、何を守ればよいのか？
生成AIは、とても便利です。
- 文章を作る
- 要約する
- 比較表を作る
- アイデアを出す
- メール文を整える
- 会議メモを整理する
- 画像や音声を作る
- コードの下書きを作る
こうした作業を助けてくれます。
一方で、AIには注意点もあります。
- 間違えることがある
- 存在しない出典を出すことがある
- 個人情報や機密情報を入力すると、情報漏洩につながる可能性がある
- AI生成物が既存作品に似ることがある
- AIで作られた偽画像、偽音声、偽動画が、詐欺や偽情報に使われることもある
IPAは「AI利用者のためのセキュリティ豆知識」で、AI利用時に最低限実施すべきセキュリティ対策を整理しています。
また、IPAは「情報セキュリティ10大脅威2026」で、組織向け脅威の3位に「AIの利用をめぐるサイバーリスク」が入ったことにも触れています。(情報処理推進機構)
つまり、AIを安全に使うには、特別な技術だけが必要なのではありません。
- 入力する前に止まる
- 出力を確認する
- 権利と情報を守る
- 最後は人間が判断する
この基本が大切です。
今回は、「AIを安全に使う基本ルール」を見ていきます。
- 「AIに入れてはいけない情報は何か？」
- 「AIの答えはどう確認すればよいのか？」
- 「仕事で使うとき、何に注意すればよいのか？」
- 「AI生成物や偽情報をどう扱えばよいのか？」
こうした問いを、実践ルールとして整理していきます。
この記事では、AIを安全に使うための基本ルールを、入力、出力確認、著作権、偽情報、仕事での利用、人間の判断から整理します。
特定のAIサービスを危険だと決めつけることや、AI利用を否定することが目的ではありません。
目的は、あなたがAIを便利に使いながら、情報漏洩、誤情報、権利侵害、信用低下のリスクを減らせるようにすることです。
- 第1章 AIを安全に使う基本は「入力・出力・公開」で考える
- 第2章 ルール1：個人情報や機密情報を入れない
- 第3章 ルール2：そのまま貼らず、一般化して使う
- 第4章 ルール3：AIの答えをそのまま信じない
- 第5章 ルール4：一次情報・公式情報にあたる
- 第6章 ルール5：著作権と利用規約を確認する
- 第7章 ルール6：医療・法律・金融では最終判断に使わない
- 第8章 ルール7：偽情報・ディープフェイクを疑う
- 第9章 ルール8：仕事で使うときは組織ルールを確認する
- 第10章 AIを安全に使う5つの問い
- 第11章 あなたが今日からできる基本ルール
- まとめ AIを安全に使うとは、人間が確認と判断を手放さないことである
- あわせて読みたい本
- 参考情報
第1章 AIを安全に使う基本は「入力・出力・公開」で考える
AIを安全に使うには、まず場面を分けることが大切です。
AI利用のリスクは、主に3つの段階で起こります。
- 入力
- 何をAIに入れるのか
- 個人情報や機密情報は含まれていないか
- パスワードやAPIキーは入っていないか
- 出力
- AIの答えは正しいのか
- 数字や日付は合っているのか
- 出典は実在するのか
- 差別的表現や不適切表現はないか
- 公開
- そのまま外に出してよいのか
- 著作権や利用規約に問題はないか
- 読者や顧客に誤解を与えないか
- 人間が責任を持てる内容か
AI利用は、質問して終わりではありません。
- 入力する前
- 出力を受け取った後
- 公開や共有をする前
それぞれで確認が必要です。
AIに入れる前に確認する
↓
AIの出力を確認する
↓
使う前に編集する
↓
公開前にリスクを見る
↓
人間が判断して使う
NISTのAI Risk Management Frameworkは、AIリスクを個人、組織、社会に関わるものとして管理するための枠組みです。
AIを安全に使うには、AIの出力だけでなく、どの文脈で使うのか、誰に影響するのかを考える必要があります。(NIST)
AIを安全に使う基本は、難しい専門用語から始まりません。
入力・出力・公開を分けて見ることから始まるのです。
第2章 ルール1：個人情報や機密情報を入れない
AIを使うとき、最初に守るべきルールはこれです。
個人情報や機密情報をそのまま入れない。
特に注意したい情報は、次の通りです。
- 個人情報
- 氏名
- 住所
- 電話番号
- メールアドレス
- 顔写真
- 生年月日
- マイナンバー
- 学籍番号や社員番号
- 顧客情報
- 顧客名
- 問い合わせ内容
- 契約情報
- 購入履歴
- 相談内容
- クレーム内容
- 会社の機密情報
- 未公開資料
- 会議メモ
- 事業計画
- 技術資料
- 契約書
- 社内ルール
- セキュリティ事故情報
- 認証情報
- パスワード
- APIキー
- 認証トークン
- 秘密鍵
- セッション情報
- ワンタイムコード
特に、パスワード、APIキー、秘密鍵、認証トークンは、AIに入れてはいけません。
これは、システムやアカウントに入るための鍵です。
漏れると、不正アクセスや情報漏洩につながる可能性があります。
コードやログを貼る前に確認する
↓
パスワードを探す
↓
APIキーを探す
↓
トークンを探す
↓
秘密鍵を探す
↓
認証情報を削除する
↓
必要な部分だけAIに入力する
AIを安全に使うには、入力前の確認が大切です。
- 迷う場合は、そのまま入れない
- 個人情報を消す
- 機密情報を消す
- 必要な部分だけ一般化する
これが基本です。
第3章 ルール2：そのまま貼らず、一般化して使う
AIは、文章や資料を整理するのが得意です。
そのため、メール、会議メモ、問い合わせ文、契約書、ログ、コードをそのまま貼りたくなることがあります。
ですが、そのまま貼る前に、一度止まります。
そのまま貼らない
↓
個人情報を探す
↓
機密情報を探す
↓
認証情報を削除する
↓
背景を一般化する
↓
必要な部分だけ入力する
たとえば、顧客対応文をAIに相談する場合。
そのまま入力するのではなく、次のように変えます。
危険な入力例
- 山田太郎様から、注文番号12345の商品Aについて、東京都〇〇区の住所宛に届いていないという問い合わせがありました
安全に近づけた入力例
- ある顧客から、購入済みの商品が届いていないという問い合わせがありました。丁寧な返信文の下書きを作ってください
会社の資料でも同じです。
危険な入力例
- 社内会議の議事録を全文貼る
- 顧客名入りの営業資料を貼る
- 未公開の事業計画を貼る
- 契約書をそのまま貼る
安全に近づける方法
- 固有名詞を消す
- 顧客名を消す
- 金額や番号をぼかす
- 背景を一般化する
- 必要な一部分だけ使う
匿名化すれば必ず安全、というわけではありません。
関係者だけがわかる背景や、日時、地域、出来事の組み合わせで特定されることもあります。
そのため、名前を消すだけでなく、特定につながる文脈を減らすことが大切です。
第4章 ルール3：AIの答えをそのまま信じない
AIの答えは便利です。
ですが、そのまま信じるのは危険です。
AIは自然な文章を作れます。
一方で、自然な文章だから正しいとは限りません。
AIの答えが自然に見える
↓
正しそうに感じる
↓
そのまま使いたくなる
↓
数字や出典が間違っていることがある
↓
確認が必要になる
特に確認したいのは、次の情報です。
- 数字
- 割合
- 金額
- 人数
- 年度
- ランキング
- 日付
- 発表日
- 施行日
- 更新日
- 調査期間
- 固有名詞
- 人名
- 組織名
- 法律名
- 制度名
- 論文名
- 出典
- 実在するか
- 内容と一致しているか
- 最新か
- 一次情報か
AIの確認では、まず事実と解釈を分けます。
AIの答えを見る
↓
事実を抜き出す
↓
解釈を分ける
↓
提案を分ける
↓
数字・日付・固有名詞を確認する
↓
一次情報や公式情報を見る
↓
人間が判断する
NISTの生成AIプロファイルは、生成AIに関わるリスクとして、情報の完全性、偽情報、有害情報、プライバシー、知的財産、セキュリティなどを整理しています。
生成AIの出力は便利ですが、利用する側の確認が欠かせません。(情報処理推進機構)
- AIの答えは、下書きとして使う
- 重要な事実は、人間が確認する
この距離感が大切なのです。
第5章 ルール4：一次情報・公式情報にあたる
AIの答えを確認するときは、情報源を見る必要があります。
特に大切なのは、一次情報や公式情報です。
- 制度を確認する
- 省庁
- 自治体
- 公的機関
- 公式ガイドライン
- 法律を確認する
- 条文
- 政府資料
- 専門家の解説
- 公的機関の案内
- 研究を確認する
- 論文
- 大学
- 研究機関
- 学会資料
- 企業情報を確認する
- 公式発表
- 利用規約
- ヘルプページ
- プレスリリース
AIが出典リンクを出した場合も、リンクがあるだけでは安心できません。
開いて確認します。
出典リンクを開く
↓
ページが実在するか見る
↓
発信元を見る
↓
更新日を見る
↓
AIの説明と一致しているか見る
↓
数字・日付・引用部分を確認する
↓
必要なら別の情報源でも確認する
確認するときの基本は、こうです。
AIは入口
↓
公式情報で確認
↓
必要なら複数情報源を見る
↓
古い情報ではないか確認
↓
人間が判断して使う
AIを使うことで、調べものの入口は速くなります。
ただし、正確性が必要なところでは、AIで終わらせず、根拠にあたることが大切です。
第6章 ルール5：著作権と利用規約を確認する
AIで作った文章や画像は、便利です。
ですが、作れたからといって、そのまま使ってよいとは限りません。
確認したいのは、主に3つです。
- 利用規約
- 商用利用できるか
- クレジット表記が必要か
- 禁止用途はないか
- 生成物の扱いはどうなっているか
- 既存作品との類似
- キャラクターに似ていないか
- ロゴに似ていないか
- 特定作家の画風に寄りすぎていないか
- 既存文章の表現に近すぎないか
- 人間の確認
- 出力をそのまま使っていないか
- 事実確認をしたか
- 引用や出典を整理したか
- 公開してよい内容か
AI生成物を使う流れは、次のようにすると安全性が上がります。
AIで下書きや素材を作る
↓
人間が内容を確認する
↓
既存作品との類似を確認する
↓
利用規約を確認する
↓
出典や引用を整理する
↓
人間が責任を持って使う
文化庁は、AIと著作権について、学習段階、生成・利用段階、既存著作物との類似性や依拠性などを整理した資料を公開しています。
AI生成物を使うときは、技術の便利さだけでなく、権利への配慮も必要です。
https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html
AIは、創作の入り口を広げます。
ですが、他人の作品への敬意や、公開する責任を消すものではありません。
第7章 ルール6：医療・法律・金融では最終判断に使わない
AIは、医療、法律、金融の説明にも使えます。
ただし、この分野では特に注意が必要です。
なぜなら、間違いが健康、権利、お金、生活に大きな影響を与えるからです。
- 医療
- 症状の判断
- 薬の飲み方
- 検査結果の解釈
- 治療法の選択
- 受診の必要性
- 法律
- 契約判断
- 権利義務
- 労働問題
- 相続
- トラブル対応
- 金融
- 投資判断
- 保険選び
- ローン判断
- 税金
- 資産運用
AIは、用語の整理や相談前の準備には役立ちます。
AIに使いやすい範囲
- 用語を説明してもらう
- 質問を整理する
- 比較のたたき台を作る
- 相談前の論点を整理する
AIに任せない範囲
- 診断
- 治療判断
- 法的判断
- 投資判断
- 契約判断
高リスク領域では、AIを入口として使い、出口にはしません。
- 症状が強い場合や不安がある場合は、医療機関へ
- 法律問題は、弁護士などの専門家へ
- 金融や税金は、専門家や公的情報へ
AIは、あなたの判断を助ける道具です。
あなたの代わりに責任を取る存在ではないのです。
第8章 ルール7：偽情報・ディープフェイクを疑う
AI時代には、画像、音声、動画も確認が必要です。
以前よりも、偽画像、偽音声、偽動画を作りやすくなっています。
NSA、FBI、CISAは、合成メディアやディープフェイクが、現代の技術や通信を使うすべての利用者にとって増大する課題だと説明しています。
組織や重要インフラにも関わる問題として扱われています。(CISA)
確認するときは、見た目だけで判断しません。
- 画像を見るとき
- 出どころはどこか
- 最初に投稿した人は誰か
- いつ投稿されたのか
- 画像検索で過去画像ではないか見る
- 信頼できる報道や公的機関が確認しているか
- 音声を見るとき
- 本人確認の別ルートがあるか
- 急がせていないか
- 金銭や情報を求めていないか
- 通常と違う連絡手段ではないか
- 折り返し確認できるか
- 動画を見るとき
- 元の投稿元はどこか
- 場所や日時は確認できるか
- 切り抜きではないか
- 他の角度や別ソースはあるか
- 信頼できる機関が確認しているか
偽情報は、感情を刺激します。
- 怒り
- 不安
- 恐怖
- 正義感
- 仲間意識
こうした感情が強く動く情報ほど、一度止まる必要があります。
強い感情が動く
↓
すぐ反応したくなる
↓
確認が後回しになる
↓
拡散する
↓
誤情報が広がる
AI時代には、見抜く力だけでは不十分です。
見抜けない可能性を前提に、確認する仕組みを持つことが大切なのです。
第9章 ルール8：仕事で使うときは組織ルールを確認する
仕事でAIを使う場合、個人利用よりも慎重さが必要です。
なぜなら、入力する情報や出力結果が、会社、顧客、取引先、社会的信用に関わるからです。
仕事で確認する項目は主に下記です。
- 会社のAI利用ルール
- 入力してよい情報
- 入力してはいけない情報
- 利用できるAIサービス
- 顧客情報の扱い
- 社外公開前の確認フロー
- 著作権や利用規約
- 機密情報の取り扱い
仕事でAIを使う基本の流れは、次の通りです。
会社のルールを見る
↓
入力してよい情報を確認する
↓
AIに下書きや整理をさせる
↓
事実・出典・権利を確認する
↓
必要なら上司や専門部署に確認する
↓
人間が責任を持って使う
OECDのAI原則は、人権と民主的価値を尊重する、革新的で信頼できるAIを促進するための国際的な原則です。
2019年に採択され、2024年に更新されています。
AIを仕事や社会で使うときは、便利さだけでなく、信頼性や責任も考える必要があります。(OECD)
仕事でAIを使うとは、自由に便利なツールを使うことだけではありません。
組織の信頼を守りながら、作業を改善することなのです。
第10章 AIを安全に使う5つの問い
AIを使う前、使った後、公開する前には、次の5つの問いを持つと整理しやすくなります。
- 入力してよい情報なのか？
- 個人情報
- 顧客情報
- 機密情報
- パスワード
- APIキー
- AIの答えは確認できるのか？
- 数字
- 日付
- 固有名詞
- 出典
- 最新情報
- そのまま使ってよい内容なのか？
- 事実確認
- 著作権
- 利用規約
- 差別的表現
- 誤解の可能性
- 間違った場合、誰に影響が出るのか？
- 自分
- 家族
- 顧客
- 会社
- 読者
- 社会
- 最終判断を人間がしているのか？
- 自分で確認したか
- 必要なら専門家に相談したか
- 公開前に見直したか
- 責任を持てる形になっているか
この5つは、AIを安全に使うための基本チェックです。
AIに何かを入れる前。
AIの答えを使う前。
AI生成物を公開する前。
この問いを挟むだけで、リスクは下げられます。
第11章 あなたが今日からできる基本ルール
最後に、今日から使える形で整理します。
難しいことを全部覚える必要はありません。
まずは、次の基本から始めます。
- 入力前のルール
- 個人情報を入れない
- 機密情報を入れない
- パスワードを入れない
- APIキーを入れない
- そのまま貼らず一般化する
- 出力後のルール
- 数字を確認する
- 日付を確認する
- 固有名詞を確認する
- 出典を確認する
- 古い情報ではないか見る
- 公開前のルール
- そのまま使わない
- 人間が編集する
- 著作権を確認する
- 利用規約を見る
- 誤解や影響を考える
- 高リスク領域のルール
- 医療判断に使わない
- 法律判断に使わない
- 投資判断に使わない
- 契約判断に使わない
- 専門家や公式情報を優先する
- 偽情報対策のルール
- すぐ信じない
- すぐ拡散しない
- 出どころを見る
- 別ルートで確認する
- 不明なら保留する
AIを使う流れは、こうです。
入力前に止まる
↓
危険な情報を消す
↓
AIに下書きや整理をさせる
↓
出力を確認する
↓
必要な部分だけ使う
↓
人間が編集する
↓
責任を持って公開する
AIを安全に使う力は、一度で身につくものではありません。
- 使うたびに、確認する
- 確認するたびに、少しずつ判断力が育つ
これが、AI時代の基本姿勢なのです。
まとめ AIを安全に使うとは、人間が確認と判断を手放さないことである
AIは便利です。
- 文章を作る
- 要約する
- 比較する
- 整理する
- アイデアを出す
- 画像や音声を作る
- 仕事や学習を助ける
一方で、AIにはリスクもあります。
- 情報漏洩
- 誤情報
- ハルシネーション
- 著作権リスク
- 利用規約違反
- 偽情報
- ディープフェイク
- 高リスク領域での誤判断
そのため、AIを安全に使うには、基本ルールが必要です。
入力する前に止まる
↓
入れてはいけない情報を消す
↓
AIの答えを確認する
↓
著作権や利用規約を見る
↓
偽情報に注意する
↓
高リスク判断は専門家や公式情報を優先する
↓
最後は人間が判断する
AIを使うこと自体が悪いわけではありません。
大切なのは、AIを便利な道具として使いながら、人間が確認と責任を手放さないことです。
AIは、あなたの思考を助けます。
ですが、あなたの代わりに責任を取ることはできません。
AI時代の安全な使い方とは、AIを恐れることではありません。
入力を守り、出力を確認し、公開前に考え、人間が判断することなのです。
次回は、「AIは人間の判断を置き換えるのか」を扱います。
- 「AIに任せてよい判断と、任せてはいけない判断は何か？」
- 「効率化と責任はどう両立すればよいのか？」
- 「AI時代に、人間の役割はどこに残るのか？」
- 「私たちは、どうAIと付き合えばよいのか？」
AIリテラシー基礎講座の最終回として、AIと人間の判断の関係を整理していきます。
次回の記事はこちらです。
【第11回】AIは人間の判断を置き換えるのか｜効率化・責任・人間の役割をわかりやすく解説
シリーズ全体はこちらから確認できます。
【まとめ】AIリテラシーとは何か｜生成AIを安全に使うための基礎講座まとめ
ここまでお読みいただきありがとうございました。
Veritas Labでは、国際情勢・歴史・科学・心理学・サイバーセキュリティを横断しながら、複雑な世界の構造を読み解いています。
このブログの考え方や、初めての方におすすめの記事は「Veritas Labの歩き方」にまとめています。
もしご興味あればお読みいただけると嬉しいです。
あわせて読みたい本
この記事では、AIを安全に使う基本ルールを、入力、出力確認、著作権、偽情報、仕事での利用、人間の判断から整理しました。
さらに深く理解したい場合は、AIリテラシー、情報セキュリティ、ファクトチェック、著作権、情報倫理を扱った入門書を読むと、AIを便利に使いながらリスクを下げる視点が持ちやすくなります。
ただし、AIサービスの仕様、利用規約、制度、セキュリティ上の推奨は変化します。実務的な確認では、IPA、NIST、OECD、文化庁、CISA、各AIサービスの公式情報を優先するのがおすすめです。
※一部リンクにはアフィリエイトを利用しています。
あなたの負担が増えることはありません。
いただいた収益は、ブログ運営や書籍購入などの学習費に充てています。
- 栗原 聡『AIの倫理 人間との信頼関係を創れるか』
- 小木曽 健『13歳からの「ネットのルール」 誰も傷つけないためのスマホリテラシーを身につける本』
- 情報文化研究所, 米田 紘康, 竹村 祐亮, 石井 慶子, 高橋 昌一郎 『情報を正しく選択するための認知バイアス事典 行動経済学・統計学・情報学 編』
参考情報
- IPA「AI利用者のためのセキュリティ豆知識」
- AI利用時に最低限実施すべきセキュリティ対策を整理した資料です。
- AI利用者向けの安全な使い方、入力情報、セキュリティ上の注意点を確認できます。
https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
- IPA「AI利用者のためのセキュリティ豆知識」プレス発表
- AI利用者向けのセキュリティ対策資料の概要や、継続的に更新予定であることを確認できます。
https://www.ipa.go.jp/pressrelease/2026/press20260402.html
- AI利用者向けのセキュリティ対策資料の概要や、継続的に更新予定であることを確認できます。
- NIST「AI Risk Management Framework」
- AIリスクを管理し、信頼できるAIを設計・開発・利用・評価するための枠組みです。
- AIをどの文脈で使うか、どんな影響が出るかを考える参考になります。
https://www.nist.gov/itl/ai-risk-management-framework
- NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」
- 生成AIに関するリスクとして、偽情報、情報の完全性、プライバシー、知的財産、セキュリティなどを整理しています。
https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
- 生成AIに関するリスクとして、偽情報、情報の完全性、プライバシー、知的財産、セキュリティなどを整理しています。
- OECD「AI Principles」
- 人権と民主的価値を尊重する、信頼できるAIのための国際的な原則です。
- 2019年に採択され、2024年に更新されています。
https://www.oecd.org/en/topics/sub-issues/ai-principles.html
- 文化庁「AIと著作権について」
- AIと著作権に関する文化庁の整理ページです。
- AI生成物の利用や著作権リスクを考える際の参考になります。
https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html
- CISA「Contextualizing Deepfake Threats to Organizations」
- NSA、FBI、CISAによるディープフェイクや合成メディアの脅威に関する資料です。
- 組織や重要インフラへの影響を確認できます。
https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats
