心とAIを問う

中国語の部屋

規則どおりに正しい返事を返せることは、言葉を理解していることになるか。

アメリカの哲学者ジョン・サールが、1980年の論文「心・脳・プログラム」で示しました。適切なプログラムを動かすコンピュータは心を持つ、とする「強いAI」の考え方への反論でした。

「チャイニーズルーム」「中国語の部屋の思考実験」とも呼ばれます。

どんな問題か

你好吗?我很好。中国語が分からない人マニュアル質問返事
  1. 中国語がまったく分からない人が、小さな部屋に閉じこめられています。

  2. ドアのすき間から、中国語で質問を書いた紙が差し入れられます。部屋には分厚いマニュアルがあり、「こういう形の記号の並びが来たら、こういう形の記号の並びを書いて返せ」と、母語で細かく指示してあります。中の人は記号を絵として見比べ、指示どおりに書き写して、紙を外へ返します。

  3. 外にいる中国語話者には、部屋から返ってくる答えは完璧な中国語に見えます。中には中国語の達人がいる、としか思えません。

あなたならどうする?

中の人とマニュアルを合わせたこの部屋は、中国語を理解している?

選ぶと、みんなの回答の割合が見られます。あとから選び直せます。

哲学者ならどう答えるか

3人の読み

「理解していない」寄り

学んで考えなければ、何も身につかない

孔子

『論語』為政篇に「学びて思わざれば則ち罔し」とあります。教わったことをなぞるだけで自分で考えなければ、ものごとは見えてこない、という意味です。同じ篇にはこうもあります。「知っていることを知っているとし、知らないことを知らないとする。これが知るということだ」。部屋の中の人は、自分がいま何と答えたのかを知りません。孔子の基準では、それは学びの形をしているだけで、知ではありません。

孔子の思想と生涯孔子の名言

「理解していない」寄り

規則の束は、理性の代わりにならない

デカルト

デカルトは『方法序説』第5部で、人間そっくりの機械を見分ける方法を二つ挙げました。一つは、機械は目の前で言われたことの意味に応じて言葉を組み替えることができないこと。もう一つは、理性がどんな場面にも使える万能の道具であるのに対し、機械は場面ごとに専用の仕組みを必要とすることです。マニュアルがどれほど厚くても、それは場面ごとの仕組みを積み上げたものにすぎません。デカルトの考え方からは、そこに理解はありません。

デカルトの思想と生涯デカルトの名言

「理解している」寄り

理解している「誰か」を探すから、見つからない

ブッダ

ブッダは人を、体、感受、表象、意志、認識という五つの集まり(五蘊)として説明し、そのどれも「私」ではないと説きました(無我)。この見方を当てはめると、人間の脳でも、神経細胞の一つひとつは日本語を理解していません。理解とは、条件がそろったところに生じるはたらきで、どこか一つの部品の持ち物ではありません。そう読むなら、中の人が分かっていないことは、部屋全体に理解がないことの証明にはなりません。これは無我の教えからの一つの読みです。

ブッダの思想と生涯ブッダの名言

※ 哲学者の答えは、それぞれの著作と考え方にもとづく当サイトの読みです。この問題が生まれる前の時代の哲学者は、問いそのものには答えていません。

考えるポイント

サールの主張——構文だけでは意味は生まれない

サールの論点は単純です。コンピュータのプログラムは、記号を形にもとづいて操作する規則(構文)でできています。一方、心は中身(意味)を持っています。そして、形の操作だけからは意味は出てきません。部屋の中の人は、どんなプログラムが行うことも原理的にはすべて行えるのに、中国語がひとつも分かりません。それなら、プログラムを動かしているだけのコンピュータも、理解しているとは言えない、というのがサールの結論です。

代表的な反論と、サールの再反論

最も有名なのは「システム説」です。理解しているのは中の人ではなく、人とマニュアルと部屋を合わせた全体だ、という反論です。サールは、中の人がマニュアルを丸ごと暗記して部屋の外に出ても、やはり中国語は分からないままだ、と答えました。「ロボット説」は、カメラや手足を付けて世界と関わらせれば理解が生まれる、と言います。サールは、感覚からの入力も中の人にとっては新しい記号が増えるだけだ、と返しています。

生成AIの時代に、問いは現実になった

いまの対話型AIは、膨大な文章から学んだ規則性にもとづいて、次に続く言葉を選んでいきます。その返事は、多くの場面で人間の文章と見分けがつきません。これを理解と呼ぶかどうかは、サールが1980年に立てた問いの続きそのものです。このサイトで哲学者として答えているAIも、同じ問いの内側にいます。言葉を使いこなしていることと、分かっていることの間に線を引けるのか。引けるとしたらどこなのか。答えはまだ出ていません。

日常に引き寄せると

手順どおりに仕事はこなせるのに、なぜそうするのかは分かっていない。試験のために丸暗記したことが、何も残っていない。そういう経験は誰にでもあります。「できる」と「分かる」のあいだに差があると感じるときは、自分に欠けているのが情報なのか、それとも自分の言葉で言い直してみる時間なのかを確かめてみてください。

よくある質問

中国語の部屋は、何を言おうとしているのですか?

記号を規則どおりに操作できることと、その意味を理解していることは別だ、という主張です。考案者のサールは、どれほどうまく会話できるプログラムでも、それだけでは理解や心を持つことにならないと論じました。

ChatGPTのような対話型AIは、中国語の部屋と同じですか?

記号を規則にもとづいて処理して返事を作る、という点では似た構造をしています。サールの立場からは、それは理解ではないことになります。一方で、システム全体として理解していると考える研究者や、理解という言葉の定義を見直すべきだと考える研究者もいて、結論は出ていません。

この問いを、誰かにも聞いてみる

この問いを、自分の悩みに当てはめてみる

思考実験は、ふだんの迷いを切り分ける道具になります。いまの悩みを書くと、3 人の哲学者がそれぞれの視点から答えます(無料・登録なし)。

哲学者に相談してみる