AIとは何か — ルールと学習

1.「人工知能」という言葉が指すもの

人工知能（AI）とは、もともと「人間の知能が必要な仕事を機械にさせるための研究分野」全体を指す名前です。文字を読む、話し言葉を聞き取る、写真の中の物を見分ける、翻訳する、次の一手を指す、といったことはすべてここに含まれます。

ですから、「人工知能」という言葉自体は特定の一つの技術を指してはいません。昔のチェスのプログラムも、今日の文章を書く対話型AIも、どちらも人工知能と呼ばれます。違いはその仕事を「どうやって」こなすかにあり、その方法は大きく二つに分かれます。人がルールを直接書いて与える方式と、機械に例からルールを見つけさせる方式です。

2.一つ目の方式：人がルールを書く

迷惑メールを振り分けるプログラムをつくるとしましょう。最初に思いつくのはルールを書く方法です。件名に「無料」「当選」「今すぐクリック」があれば迷惑メール、送信者がアドレス帳にあれば通常のメール、といった具合です。

この方式の長所ははっきりしています。なぜそう判断したのかはルールを見ればすぐにわかり、ルールが正しい限り結果はいつも同じです。税金の計算や日付の計算のように、正解のルールが明確な仕事には、今でもこの方式がいちばん適しています。

短所もはっきりしています。迷惑メールを送る人は「無料」を「無.料」や「無 料」に書き換えてきます。そのたびに人がルールを一つずつ足さなければならず、ルールが数百個に増えると互いにぶつかり始めます。何より、人が言葉で説明しにくい仕事、たとえば「写真の動物が猫かどうかを見分ける」ことは、ルールとして書くことができません。私たちは猫を簡単に見分けられますが、その基準を漏れなく文章にすることはできないのです。

3.二つ目の方式：機械が例から学ぶ

もう一つの方法は、ルールの代わりに例を与えることです。人が「迷惑メール」と「通常」の印をつけたメールを何万通も集めて機械に見せると、機械はどんな単語や特徴が一緒に現れたときに迷惑メールである可能性が高いかを自分で計算します。このようにデータから規則性を見つける方式を、機械学習（マシンラーニング）といいます。

学習ベースの方式は、人が思いつかなかった手がかりまで一緒に使います。送信時刻、リンクの数、単語の組み合わせといったものです。新しい手口の迷惑メールが現れても、印をつけた例を集め直して学習させれば、ルールをいちいち直さなくても追いつくことができます。

その代わりに代償があります。機械が見つけた規則性は非常に多くの数の組み合わせとして保存されているため、人が読んで「なぜそう判断したのか」をすぐに知るのは困難です。そして機械は、見せた例の分しか学びません。例が一方に偏っていれば、結果も一方に偏ります。

4.人工知能・機械学習・ディープラーニングの関係

この三つの言葉はよく混同されますが、包含関係として理解するとすっきりします。いちばん大きな円が人工知能、その中にデータから学ぶ方式である機械学習、さらにその中に、何層もの人工ニューラルネットワークを使う機械学習であるディープラーニング（深層学習）があります。

今日、写真を見分けたり、話し言葉を文字にしたり、文章を書いたりするAIの多くはディープラーニングでつくられています。対話型AIの土台となる大規模言語モデルもディープラーニングの一種です。ニューラルネットワークは第3講で、言語モデルは第4講で詳しく見ていきます。

5.学習ベースのAIが間違える理由

学習ベースのAIは「たくさん見たものに似たもの」に強く、「見たことのないもの」に弱いという性質があります。昼間に撮った猫の写真だけで学んだモデルは、夜に撮った写真で迷うことがあります。これは故障ではなく、学び方そのものの性質です。

もう一つは、確率的だという点です。AIの答えは「最ももっともらしいもの」であって、「確かめられた事実」ではありません。たいていはもっともらしいものがそのまま正しいのですが、両者がずれた瞬間、AIはとても自信のある口調で間違った答えを出します。第7講で扱うハルシネーションがまさにこれです。

ですから、AIを使う人に必要な姿勢は二つです。第一に、答えの根拠を確かめられる仕事から任せること。第二に、間違えたときの被害が大きい仕事ほど、最後に人が確認することです。

• AIに向いている仕事：下書き、要約、アイデアを広げる、形式を変える、説明をやさしく言い換える
• 人の確認が欠かせない仕事：数字・日付・法律・医療のように、間違えると被害が大きい事実
• AIよりルールのほうがよい仕事：計算のルールが決まっている仕事（税金、利息、日付の差）— 計算機や表のほうが正確です

6.AIについてのよくある誤解三つ

AIという言葉は映画や広告でよく使われるので、実際より大きくも小さくも見えがちです。この講で見た「ルール」と「学習」の観点から、よくある誤解を三つ正してみましょう。

三つとも結論は同じです。AIはデータから学んだ規則性でもっともらしい答えをつくる道具であり、その答えをどこでどう使うかは人が判断します。この観点を持っておけば、これから新しいAIサービスに出会っても、「何を見て学んだのだろう、どこで間違える可能性があるだろう」とまず問いかけることができます。

• 誤り: AIは人間のように意味を理解し、自分で考えている。正しい: AIはデータから見つけた規則性で、最ももっともらしい答えを計算している。人間に似た答えが出てきても、同じやり方で理解していると決めつけることはできない。答えが自然であることと、内容が正しいことは別の問題です。口調が自然でも、事実は別に確かめる必要があります。
• 誤り: AIは使えば使うほど、私との会話から自分で学び続ける。正しい: 多くのAIは学習を終えたあと、その状態のまま使われる。新しく学ばせるには、つくった側がデータを集めて学習し直させる必要がある。さっき直してあげた内容を、翌日AIが覚えていないことはよくあります。記憶しているように見える機能があっても、サービスが別に付け加えた機能かもしれません。
• 誤り: コンピュータが計算した答えだから、人間より正確で公平だ。正しい: AIの答えは、学んだデータと同じ程度にしか正確でも公平でもない。データが間違っていたり偏っていたりすれば、答えもそうなる。計算機は決められたルールに従いますが、学習ベースのAIは確率で答えます。「機械がやったのだから正しい」という考えがいちばん危険です。