夜中に前へ

思考実験、書評、ゲームレビュー、あと雑記

思考実験「中国語の部屋」と「足し算の部屋」についてのあれこれ/機械に知能は宿るか?

スポンサーリンク

こんばんは、夜中たわしです。

最近、人工知能が流行っているためか「中国語の部屋」という言葉をよく耳にします。

これはコンピュータが自我や意識を持つことはあるか? という話題になると必ず出てくる思考実験です。面白いですよね。こういうの。

そんな話が好物なこともあり、気付いたら論文にまで手を出していくつか読んでいました。すると初めて知る内容も多くなかなか興味深かったので、簡単に紹介します。なお簡単といいつつ結構長めです。

中国語の部屋

「中国語の部屋」……英会話教室の中国語版のような印象を受けますが、実のところは以下のような強制労働(?)のことです。

f:id:tawashix:20171206215024j:plain

まず適当な部屋を用意し、中国語を理解していない人を入れます。

部屋には小さな穴が開いており、その穴からは外部の人と手紙によるやり取りができます。

お互い、相手の姿は見えません。

f:id:tawashix:20171206215034p:plain

こんなイメージですかね?

部屋には中国語で書かれた質問が差し込まれます。部屋の中の人はもちろん内容がまったく理解できません。

そこで使うのが「中国語会話完全マニュアル」的なものです。

このマニュアルさえあれば、質問内容に対し回答すべき中国語が分かります。あとはそれを手紙に書き写して外に返すのみ。

中国語による会話が成立しているため、外部の人からすると中には中国人(中国語の分かる人)が入っているのだ、と思えることでしょう。

これがジョン・サールの提唱した「中国語の部屋」です。

チューリングテストの否定

機械が人間のふりをしてチャットをし、人間と区別がつかなければ「知性あり」と判断する「チューリングテスト」というものがあります(なんと2014年に「合格者」が出た)。

f:id:tawashix:20171206215048p:plain
※人工知能とメールをする人のイラスト


いわゆるこんな感じでしょうか?

「中国語の部屋」は、このチューリングテストをリアルに置き換えたようなものです。

この思考実験が言わんとしていることは、

「こんなテストを突破しても、知性があるとは言えない。だって『中国語の部屋』の中の人は、中国語を理解してないじゃん。機械に知性は宿らないんだ!!」

ってとこでしょう。なるほど確かに一理あります。

部屋全体だと知能がある?

f:id:tawashix:20171206215119j:plain

これに対するよくある反論はこうです。

「中の人は中国語を理解してないだろうけど、『部屋全体』としては理解しているのでは?

中国語の部屋は中の人+マニュアルで構成されているので、その一部分だけ取り出して「中国語を分かっていない!」と言うのは乱暴というものです。

人間の頭を開いても「ありました!! この脳細胞は、中国語を理解しています!!」とはならないのと同じでしょう。まさか脳内に小さな中国人が入っているわけじゃあるまいし。

この反論をサールは想定していたようで、

「もし中の人がマニュアルを全暗記したとしても、やはり中国語を理解しているとは言えない」

といった回答をしています。

f:id:tawashix:20171208044539p:plain

うーん、そうなのかなあ……?

足し算の部屋

そんな中「マニュアルを全暗記するなんて、そんな無茶な」という意図で考案されたのが「足し算の部屋」です。(参考論文

「足し算の部屋」は、「中国語の部屋」の小規模版です。名前から想像できる通り、計算のできない人を部屋に閉じ込めて、マニュアルに従って足し算をさせます。

f:id:tawashix:20171208044549j:plain

足し算の内容は、10桁の整数を20個足すというもの。

足し算の部屋(中国語の部屋)の定義上、中の人はマニュアルの意味を理解してはいけないため、「足し算の意味」が使用者に理解できないようマニュアル化を試みます。例として挙げられているのはこんな方法です。

マニュアルは章立てになっています。まず1番目の整数に該当する章に行きます。なお章は10桁までに対応するため、全10000000000章(100億章)あります

次にその章の中で、2番目の整数に対応する節に行きます。例によって、節は全100億節あります

このような入れ子構造を20回たどると……ようやく答えとなる数字が書かれています。

f:id:tawashix:20171208044601j:plain

少々分かりづらかったかもしれませんが、足し算を知らない人でも答えが導ける(しかし足し算の意味は理解できない)ように作られた、とにかくものすごい量のマニュアルです。

重要なのは、マニュアルに含まれる「答え」が10の200乗個あることです。最大の単位「無量大数」でも10の68乗、さらには宇宙に存在する原子の総数ですら10の100乗くらいなので、想像を絶する項目数です。足し算するだけなのに。

こんなマニュアルはこの宇宙において作成不能ですし、もちろん覚えることもできません。


「こんな計算量も何もかも無視した部屋に知性が宿るだの、宿らないだの……思考実験とは言え、机上の空論が過ぎるのでは?」

「もちろんマニュアルを効率化して超圧縮することは可能(1桁ごとに分解するなど)だけど、それは我々が学校で習ったものと似たようなマニュアルになるため、暗記したなら『足し算』を理解しているのと同じでは? なら部屋は知能を持ってるってことでしょう

というのが、「足し算の部屋」の言わんとしていることです。

効率化したアルゴリズムを記憶しても、意味は理解できない?

f:id:tawashix:20171208044621j:plain

これまた別の論文を読んでると、上記「足し算の部屋」に対する反論がありました。

かなり端折って意訳した書き方をすると、

たとえマニュアルがどんなに効率的(1桁ごとに分解して足し合わせる、我々が普段使うアルゴリズムなど)だったとしても、それを使う人は意味を分かっていない!!(と、サールは言うはず)」

とのこと。

中国語の部屋が示しているのは「統語論だけでは意味論を生み出せない」ってことだ、って感じの難しい言葉で説明されることがありますが、それは上記のように「ルールに従って動いても意味は分からないだろう」という趣旨です。

まあ確かに、インプットとアウトプットである中国語や足し算の「意味」というか「その返事なり結果を書く意図・理由」についてはマニュアルには記載されませんからね。書かれている通りに文字を書き写すだけですし。

ここまでのまとめ

混乱する一歩手前なので、整理しておきます。


仮説:
「中国語の部屋」では中の人は中国語を理解していない。たとえマニュアルをすべて記憶したとしてもそれは同様。(≒機械は中国語を『理解』できない)

疑問:
中の人に「意味」が理解できないようなマニュアルを作ると、マニュアルが宇宙サイズを超えてしまう(=中国語の部屋は作成不可)ため、その議論は無駄では?

反論:
超効率化された現実的なサイズのマニュアルを作って、それをすべて記憶したとしても、その使用者が中国語を理解しているとは言わない。 なぜならマニュアル通り動いてるだけで、『意味』が分かっていないから!


なるほどねえ……と思うとともに、このあたりで「『意味が分かる』って、よくよく考えると一体どういう意味だ!!?」と、いった混乱の境地に至った方もおられることでしょう。私もです。助けてください。

機械と人間の違いは何か

f:id:tawashix:20171208044636p:plain

「足し算の部屋」は興味深いものでしたが、結局振り出しに戻った感じです。この思考実験はなぜこんなに厄介(?)なんでしょうか。

「機械+ルールには『意味』は理解できない」「一方で人間は『意味』が理解できる」……「中国語の部屋」ではそんな論調で話が進んでいます。

ということは言い換えれば、こういうことでしょう。

  • 機械には「何か」がないため意味が理解できない
  • 人間には「何か」があるので意味が理解できる

この「何か」の正体が分かればすべて解決です。

ですが中国語の部屋は「何か」について何も教えてくれません。

「『機械+ルール』だと、人間と比べると『何か』が足りなそうだよね~。その『何か』が何なのかは言えないけど」という態度。そんな感じです。

ここが致命的なため、中国語の部屋はずっとフワフワした状態で結論が出ないまま現在に至ります。

この「何か」……知能、自我、意識、といったものが宿るには何が必要なのか? そもそもそれらの正体は何なのか? そんな話題を掘り下げていくと、哲学の中でも難問中の難問に突入してしまう(そしてゾンビやらが出てくる)ため、えー……また別の機会に書きます。

機械の構造によっては知能を持つ?

f:id:tawashix:20171208044645p:plain

ちなみにサールは、「あらゆる機械は絶対に知能を持てない」とまで言うつもりはなく、「人間の脳構造を機械によって人工的に再現したなら、人間と同じように知能を持てる」と言っているようです(さっきの論文参照)。

てっきり徹底的に機械をバカにしている(?)のかと思ってましたが、あくまでも「チューリングテストは不完全だよね」と言いたいだけ? それには私も同意ですが……(現に合格したAI、知能なさそうだし)。

昨今流行りのディープラーニング(深層学習)についてはどう考えるんでしょう。あれは普通のプログラムに比べると知能っぽいですが。

というか「知能」をしっかり定義しないことには、あるともないとも言いようがないんですけど……。

おわりに

「中国語の部屋」は思考実験としては面白くて想像力を掻き立てるものの、核となる根拠が欠落しているため水掛け論になってモヤモヤして終わり、といった感じです(現状は)。残念。

人工知能について考える際は、

  • コンピュータを「あんなのに意識が宿るもんか」と過剰に下に見てしまう

  • 逆に人間をさも崇高な存在として「人間レベルの高等生物以外に意識は宿らない」というように過剰に上に見てしまう

といった先入観に思考が引きずられないように注意した方がよさそうです(逆に機械を崇拝しはじめてもまずいですが)。

そう考えると、人間の脳が「中国語の部屋」と同種の構造でない保証はまったくありませんし、「知能」という概念も幻想かもしれません。


ところで「いずれ自我を持ったAIが人類を滅ぼすのでは」といった論調がたまにありますが、自我があろうがなかろうがAIが無茶苦茶やってきたら人類は滅びますよね。

もちろん「自我」の定義によりますが……ほら、よくない例ですが核兵器に自我はないし(たぶん)。

※※※

f:id:tawashix:20171206222119p:plain

「……っていうイカれた長文が中国語の部屋から出てきたって? しかも日本語で


f:id:tawashix:20171206222112p:plain

「うん、さらに画像沢山使ってあるし、なんかAmazonのリンクもある」


f:id:tawashix:20171206222119p:plain

「一体誰が入ってんの……とっくに核戦争で人類は滅んだっていうのに。怖っ!!」

関連記事

思考実験・パラドックス関連記事まとめ - 夜中に前へ

思考実験「水槽の脳」と最悪の初夢 - 夜中に前へ

思考実験「シミュレーション仮説」について考えてはいけない - 夜中に前へ

スポンサーリンク