1.個人情報：入れた瞬間に自分の手を離れる
対話型AIに入力した内容は、サービス提供者のサーバーに送られて処理されます。サービスや設定によっては、会話の記録が保存されたり、品質の改善のために人が確認したり、学習に使われたりすることもあります。どのように扱われるかはサービスごとに異なり、方針も変わります。ですから、「この情報がほかの人に見られても大丈夫か」を基準に、入力するかどうかを判断するのが安全です。
特に、マイナンバー、パスポート・運転免許証の番号、口座番号・カード番号、パスワードと認証コード、健康に関する情報、正確な住所と連絡先は入れません。自分の情報だけでなく、家族、顧客、同僚の情報も同じです。他人の個人情報を同意なく入れることはその人の権利を侵害するおそれがあり、仕事であれば法的な問題につながることもあります。
- 入れない：マイナンバー、口座番号・カード番号、パスワード、認証コード、健康に関する情報、正確な住所・連絡先
- 置き換えて入れる：名前はA・Bに、会社は「ある製造業の会社」に、数字は必要な分だけ
- 会社の資料は：会社が認めているサービスとルールを先に確認する
- 設定を確認する：会話記録の保存や学習への利用をオフにできるか、サービスの設定と方針を見る
- 誤り: 山田太郎様（090-1234-5678、東京都○○区）から届いた苦情メールへの返信を書いて。正しい: 顧客Aさんから「配送が一週間遅れた」という苦情がありました。おわびをして、来週の火曜日までに再送すると伝える丁寧な返信を書いてください。返信を書くのに、名前や電話番号は必要ありません。作業にどうしても必要な情報だけを残し、残りは消すか置き換えます。
2.著作権：つくれるからといって使ってよいわけではない
AIは、学習した数多くの文章や絵のパターンから新しい成果物をつくります。このとき二つの問いが生まれます。一つは、AIがつくった成果物が他人の作品に似すぎていないか。もう一つは、AIがつくった成果物に誰がどんな権利を持つのか、です。どちらの問いも国によって法律や判断が異なり、今も議論や訴訟が続いている領域です。
そのため、実践できる原則は控えめに設定しておくのがよいでしょう。特定の作品の文章や特定のキャラクターを、そっくり写すように再現してほしいという依頼や、歌詞や本の長い本文をそのまま出力してほしいという依頼は避けます。AIの成果物を商業的に使ったり公開したりするときは、利用しているサービスの規約がその用途を認めているかを確認します。
AIがつくった部分の多い成果物は、人が創作した著作物として保護されない場合があることも知っておく必要があります。多くの国では、著作権は人の創作的な表現を保護するものと考えられています。大切な創作物であれば、自分で企画し手を加えた部分を記録しておき、必要であれば専門家に相談します。
3.偏り：データの偏りが答えの偏りになる
第2講で見たように、学習ベースのAIはデータから学びます。データに社会の固定観念や特定の集団に対する偏りが含まれていれば、AIもそれを学びます。たとえば職業を描写させると、性別や年齢を一方に偏って描いたり、特定の地域や言語について精度の低い答えを出したりすることがあります。
偏りは目につきにくいので、なおさら注意が必要です。採用、融資、評価のように人に影響を与える決定にAIを使うなら、結果が特定の集団に不利に偏っていないかを別に点検しなければなりません。日常でも、「AIがそう言った」ことが公平さの根拠になるわけではありません。
- 結果に、固定観念が反映された偏りがあることに気づきます。
- プロンプトに条件を加えます：「性別・年齢・役職をバランスよく混ぜ、固定観念に頼らないこと」。
- あらためて受け取った結果を、同じ基準でもう一度点検します。
- 最終的な資料は、実際のチーム構成と本人たちの意見を反映して、人が確定させます。
4.責任：世に出す人が責任を負う
AIは道具であり、結果を使うと決めるのは人です。AIが書いた報告書に間違った数字があれば、その報告書を出した人が責任を負います。AIがつくった文章が誰かの名誉を傷つけたり著作権を侵害したりすれば、その文章を掲載した人が責任を問われることがあります。「AIがそう書いた」は言い訳になりません。
ですから、自分の名前で出す成果物については三つを確かめます。事実と数字は正しいか（第7講）、他人の権利を侵害していないか、読む人に害を与えたり誤解を招いたりしないか、です。AIを使ったことを明らかにするかどうかも、状況に応じて判断します。読み手が知らなければ判断できない内容であれば、明らかにすることが信頼を守る道です。
AIの悪用にも警戒が必要です。実在の人の声や顔を真似た偽の映像・音声、もっともらしい詐欺メッセージは、AIのおかげでつくりやすくなりました。突然お金や個人情報を求める連絡は、声や文体がなじみのあるものでも、別の経路で必ず確かめます。
5.AIを使う前と後の点検表
点検表は長く見えますが、習慣になれば数秒で終わります。最初は大事な仕事にだけ当てはめ、慣れてきたら日常へと広げていきましょう。
| いつ | 確かめること |
|---|---|
| 入力の前 | 個人情報・パスワード・機密が含まれていないか。どうしても必要な情報だけを残したか。 |
| 入力の前 | 会社や学校は、このサービスとこの用途を認めているか。 |
| 結果を受け取ったあと | 事実・数字・出典を一次資料で確かめたか。 |
| 結果を受け取ったあと | 特定の集団に対する固定観念や偏りはないか。 |
| 世に出す前 | 他人の作品に似すぎていないか。サービスの規約はこの用途を認めているか。 |
| 世に出す前 | AIの使用を明らかにすべき状況か。最終的な責任を負う準備はできているか。 |
6.点検表を実際の場面に当てはめてみる
点検表は、一度実際に当てはめてみてこそ身につきます。以下は、日常でよくありそうな場面を一つ、入力の前、結果を受け取ったあと、世に出す前の順にたどってみた例です。場面は説明のためにつくったものです。
- 入力の前 ①：生徒の名前と点数は個人情報です。名前を生徒A〜Eに置き換え、メッセージに必要な情報（点数の変化、よくできた点、補うべき点）だけを残します。
- 入力の前 ②：勤め先がこうした用途でのAIの使用を認めているか、認められたサービスが別にあるかを確認します。
- 結果を受け取ったあと：点数と内容が生徒の間で入れ替わっていないかを、元の表と一行ずつ照らし合わせます。特定の生徒をおとしめたり、性別・背景に頼ったりした表現がないかも見ます。
- 世に出す前：A〜Eを実際の名前に戻す作業は、AIの外で人が行います。送るのは講師本人なので、最後にもう一度読んでから送ります。
📌 要点まとめ
- 入力した情報はサーバーに送られる — ほかの人に見られても大丈夫な情報だけを入れる
- 名前・連絡先などは消すかA・Bに置き換え、会社の資料はまず利用ルールを確認する
- 著作権は国によって判断が異なり、議論が続いている — 模倣や大量の複製を避け、規約を確認する
- データの偏りは答えの偏りになる — 人に影響を与える決定ほど、別に点検する
- 結果に対する責任は、それを世に出す人にある
🤖 AIにはこう聞いてみましょう
コピーして [ ] の部分を自分の状況に書き換えて使います。答えはそのまま信じず、本文と比べて確かめましょう。
個人情報を消す基準を練習したいとき
以下は、偽の名前と番号でつくった練習用の文章です。この文章から、個人を特定できる情報（名前、連絡先、住所、番号、日付と結びついた特徴的な情報など）をすべて見つけて一覧で示し、それぞれを[名前1]、[連絡先1]のように置き換えた文章をつくってください。実際の資料を自分で消すときに見落としやすい項目も教えてください。 [偽の情報でつくった練習用の文章]
自分がつくった成果物の偏りを点検したいとき
以下の文章に、性別、年齢、地域、職業、障害などに関する固定観念や、一方に偏った表現がないか探してください。それぞれの表現について、なぜ問題になりうるのかと、より中立的な表現を提案してください。 [文章]
- 韓国の「個人情報保護法」の一般原則（必要最小限の収集・目的外利用の制限）
- 韓国著作権委員会などの公的機関による、生成AIと著作権に関する案内の一般的な内容
学習目標をすべて達成できたら完了を押しましょう。
このブラウザでは保存できないため、この画面でのみ表示されます。