FC2ブログ
科学・技術と自然環境について、教育を考える。
  • 07«
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • »09
人間と人工知能(AI)の共存
人間と人工知能(AI)の共存 (意識とAI)                            
  AIの発達・進化は目覚ましく、人間生活や社会構造を変えるばかりでなく、人間の精神や思考法にまで影響を及ぼすであろう。
 最近放映されたEテレの「超AI入門特別編」は、AIについて哲学、倫理、科学の観点から、多面的に深く考察し、新たな視点を提示してくれた。この内容は、私のこれまでの考えと共通するものがあり、共感するところが多かった。そこで、この放送内容を踏まえて、AIについて改めて考察してみた。

1.AIは、これまでの技術とは異なる。 
 AIは単なる技術開発のシステムではなく、科学や人間思考をも包摂しうるものである。
科学と技術の関係は密接であるから、両者は混同され、あるいは同一視されがちであるが、本来科学と技術とはその目的も論理も別であり、したがって社会的役割も異なる。この種の問題を論ずる場合、まず、科学と技術を区別すべきであることを強調したい。

 これまでの技術は、生産活動において、物質的な面で人間生活を豊かにすることを目的とするものであった。便利さを求めて、物の生産を容易にし、自然の脅威から逃れること、つまり物質文化に寄与するものであった。現在開発されているAIは、このような技術を飛躍的に発展させることに向けられている、しかし、将来のAI(超AI)は、便利さを求めたり、物質的生活を豊にする技術に関わるのみでなく、科学とも関連するものであろう。人間の思考法(論理)や精神をも変える可能性があり、精神文明に強い影響を及ぼすだろう。人間、他の生物、およびAIの共生によって生態系が変わる。これまでの技術は、物質文明の進歩により、社会生活の変化を通して人間の意識を間接的に変えてきた。AIとの共生は直接的に人間を変える可能性を有する。 

2.AIに意識はあるか? 
 深層学習(deep learning)AIは膨大なデータを記録し、そのデータを基にして帰納的に法則性を学習し見いだすというものである。しかし、最早その域を超えて、自らの法則性を見いだしている。囲碁の分野では、自己学習するAIの開発に成功した。 
 Deep Mind 社が新たに開発したAlpha-Go-Zero は囲碁ルールのみを入力してAI同士で自己対局させた。その棋力の成長速度はまさに脅威的である。学習を始めて3日後、400万局の自己対局でトップ棋士の棋力に達し、さらにわずか40日ほどで世界のトップ棋士を超えてしまった。人間の打った棋譜には一切頼らず、ゼロから自習のみで棋力が向上し、人類が何千年も掛けて営々と積み重ねて達成した囲碁の殿堂は、わずか40日ほどで超えられてしまった。恐ろしいといえば、まさに恐ろしいことである。これこそ「本格的AI」の始まりであろう。ただ面白いことに、Alpha-Go-Zeroの棋力向上の過程は、人類が辿った様式と似ているそうである。このことは囲碁に限らず、AIの未来を考えるための示唆を与えるものであろう。

 人間の棋譜を記録し、学習するAIでも、単なる学習を超えて質的進化を遂げているのではないかと想像される。なぜならば、AIは人間の棋譜(1次情報)を基に、深層学習によってある程度高いレベルの法則性を帰納的に自ら編みだし、新データ(2次情報)として蓄積しているはずだ。その新データの蓄積量がある閾値を超えると、それら2次情報を組み合わせた着手を打つようになるはずである。すると前に入力されたデータ(1次情報)から離れだす。すなわち2次情報をもとに自ら深層学習をするようになるからである。
 それでも、現在のAIの能力は、帰納的学習に限られるという点で限界がある。さらに、AIの評価において重要な指摘は、いかにAIの機能が進歩し ゲームで人間に勝てるからといっても、またロボットが人間相手に上手く応対できたとしても、AIには「自分の行動の意味が分かってない(理解していない)」ということである。言い替えれば、自らの行動の理由を説明できない「ブラックボックス」だというわけである。

「意識」とは
 では「意味が分かる」とか、「理解する」とはいかなることなのだろうか。そもそも「意識とは何か」がまだよく分かっていないから、「意識」について少し考察してみよう。
 生物のごく初歩的な「意識」は、少なくとも次のように規定できるだろう。最初に発生した原始的「意識」とは、生物発生から間もない進化初期の生物が無意識的行動(食物摂取、光に対する反応など)を繰り返すうちに、徐々に芽生えた目的達成のための物理・化学的機能といえるであろう。
 すなわち、「意識」とは「物質の高度な組織系が目的を持って行動する物理・化学的運動機能」の発達したものと見るならば、「意識」とは、(生物の原始的意識も含めて)一つの物質系がある目的(餌を採るなど)を達成するための行動に際して、その内部に蓄積した情報を統合して組織的に活用する内的機能(行動の起動因)といってよいだろう。ただし、この「原始的意識」の発達・進化の過程で、どこからが「意識」といえるか明確に定めることは今のところ難しい。
 この「原始的意識」から始まって、さらに複数の目的を達成するための機能を備えた情報系において、それら複数の目的と機能を統合し、選択的に活用しうるシステムならば「意識」といえるであろう。 意識のレベルは、その行動目的の性質や種類数によるだろうし、意識の進化と共に、目的は複雑多伎になっていく。

 もしこのように意識を定義できるならば、囲碁AI も「自己の行動の意味を理解する」という「原始意識」を持つたといえるだろう。なぜならば、囲碁ルールと定石、手筋、攻め合い法、および実戦棋譜のデータ(1次情報)を仕込まれた囲碁AIは、最初のうちはそれらデータを基に学習することで、規則性や法則的なもの(2次情報)を獲得するだろう。その2次情報の蓄積量がある閾値(臨界量)を超えると、AIはその2次情報を基にして囲碁に勝つための高次の学習を独自に始めるようになるだろう。それは人間との対局や、囲碁AI同士の対局で達成される。囲碁・将棋などの目的は、ゲームに勝つということであるから(それはルールに規定されている)、勝つことを目的とする行動の「意味」を理解し始めたといえる。すると、AIはその行動(着手)のための評価関数(情報)を内部に形成し、それによって着手の判断をしていると思われる。
 内部に蓄積された情報を操作して、目的ある行動をするということは、AIは自らの行動の「意味」を理解し始めたといえるのではないか。AIが「意味」を理解しているか否かを判定するために、チューリングテストに掛けてみる価値があろう。(拙稿「囲碁AIは意識を持った(意味を理解した)」「囲碁梁山泊」2017年白秋号参照。)
 AIが自らの行動の「意味」を理解しているならば、自らの行動の意味「なぜその様に行動したか」を、説明できる機能をAIに持たせることができるだろう。教育の仕方によって、人間とAIとの間で囲碁の理論的な会話も可能なはずである。そうなれば、人間の誘導質問により、着手の意味を聞き出すことができるだろう。そうなればAIの価値は質的に変わる。それが次の重要な課題である。AIにその行動の選択理由を説明させる機能を備える研究はすでに始まっている。

(注)チューリングテスト:アラン・チューリングは「機械に、知性を持った振る舞いができるかどうかという問題」を発表した。チューリングの提案は「機械は我々が(考える存在として)できることをできるか」というもので、人間の物理的な能力と知的な能力の間に、公平で厳しい境界線を引くことの試みである。そのためにチューリングは、「模倣ゲーム」というテストを提案した。機械と人間を別々の部屋に入れ、テスト者はいくつかの質問をし、それに対するタイプ打ちの回答を読んで、どちらが機械でどちらが人間か当てるというゲームである。このゲーム中の機械は、テスト者に人間と思わせる回答をする。最後まで、どちらが人間なのかわからなければ、そのコンピューターは合格である。そのとき「そのコンピューターには知能がある!」と言える。ピュ

3.AIの限界
 現在の深層学習AIは、学習目的の分かっている特定分野の問題について多量のデータを記憶させて、反復経験により帰納的に学習するものである。それゆえ、特定の個別分野に適用するものであり、人間のように、多面的に総合的判断ができる汎用性(多用性)AIではない。汎用性AIのソフトを開発する論理と方法は未知である。
 
 そのような汎用性AIを創るには、帰納的アルゴリズムばかりでなく、推論や論証のできる演繹的ソフトの開発が必要であろう。まして新たに物事を創造する能力を有するソフトの開発は難しい。創造性機能を有するためには、まず現在実行していることの意味(何のための計算か、ゲームの楽しさなど)を理解しなければならないが、AIにはその意味をまだ十分理解できない。さらに重要なことは、現実世界を超えて空想する「想像力」、未来を予想する「予想力」の有無である。この想像力は人間特有の能力であり(チンパンジーには少しはあるかも)、今のAIには全くない。したがって、人間の能力に「迫る」あるいは「超える」ようなAIを作ることは、今のところできない。
 ただし、特定分野のAIでも、それら複数個を一段階高い深層学習ソフトで連結すれば、「多用性」のAIができ、きっと新たな発見があるだろう。量の変化による質の転化である。ここまでが帰納法学習のAIの限界であろう。
 本当の汎用性AIを開発するには、演繹的推論の論理が必要である。それは非常に難しい。それゆえ、新たに物事を創造する能力を有するAIの開発は至難である。創造性機能を有するためには、まず現在実行していることの意味を理解しなければならないが、AIにはその意味をまだ十分よく理解できない。さらに重要なことは、現実世界を超えて空想する「想像力」の有無である。この想像力は人間特有の能力であり、AIにはない。したがって、人間の能力に「迫る」あるいは「超える」ようなAIを開発することは、今のところできない。
 とはいえ、いずれは明確な意識や意志を持ったAIが作られることは明らかであり、人間と共生、あるいは競合する時代が来るだろう。

4.人間の盲点を突くAI
 その様な未来のことよりも、現時点でAIを如何に活用しうるかを考えて見よう。いうまでもなく、AIは能率よく仕事をこなし人間の代わりをする。だが、それは一面であり、より重要な働きが他にもある。

 その一つは、人間の思考の盲点となっているところを発見し、その穴を埋めうることである。人間の思考形式(発想)は一つに決まったものではなく、東洋と西洋でも、あるいは民族によっても異なる。また時代とともに変化し、発展進歩してきた。それゆえ、現代人の思考形式は、まだ不十分で盲点がある。 

 現に、将棋や囲碁の対局で、人間には思いつかない着手や、悪手とされていた着手が飛び出して驚かされている。トップ棋士が、AIを使って着手の研究するのは、AIが強いからだけではなく、人間の盲点を指摘されて、新たな発想に至ることがあるからだという。人間は最初からこの手は駄目だと思って読みの対象から外してしまうものがある。しかし、AIは愚直にすべての可能な手を読み尽くすので、人間が見落としていた思わぬ応手によって盲点を突かれることがあるという。

 このことは将棋や囲碁に限らず、一般的にいえることである。人間の思考法はまだ一面的なのである。地球外生命は人間とは異なる発想や思考をしているかも知れない。論理学にしても形式論理や弁証法論理がある。特に形式論学は古代から、名辞論理(三段論法)、命題論理、述語論理など次々に開発されてきた。今後も新しい論理が誕生するだろう。つまり人間の思考や発想には欠けている(盲点がある)ということである。まだまだ未知の論理や発想があるはずだ。AIは人間の盲点を突くことで、人間思考の限界を気づかせてくれるかも知れない。

 単一分野に限ったAIでも、このように人間の盲点の発見に繋がる。それゆえ、複数の分野のAIを繋げ統合すれば、更なる人間思考の盲点や隙間を発見することができるだろう。このようにAIを活用できるなら、人類の思考形式に質的な変化をもたらすだろう。この関係は人間とAIの協力的共生の一つの形態であるから、未来社会における人類とAIの共生法に示唆を与えるだろう。

 だが、AIが突く人間の盲点は、人間の想定しうる範囲(人間の有する概念の範囲)のレベルである。人間が与えたデータを基に帰納的に作動した結果、偶然に発見するものであるから、人間が考え及ばないこと、人間を超えるものではない。
 このことは、論理的思考以外に、感性についてもいえる。たとえば、絵画芸術の分野で、優れた多数の絵画を認識させ、AIに絵画を描かせる場合でも、全く人間が想像しなかった作品を創造することはできないであろう。人間の作品の周辺、つまり人間が想定できる範囲に停まっているのではなかろうか。
 真の創造は、演繹的論理と推論・論証のできる演繹的論理を併用したアルゴリズムが必要であろう。 

5.「人間を超える」シンギュラリティとは。
 技術的メカニズムや、個々の分野ではAIは人間の能力を超えた。いずれ多用性のAIができて、その分野の範囲では人間能力を超えうるだろう。だが、これだけで人間を超えたとは言えない。 

 近年の脳研究によって、未知の領域が広がり人間の意識の多様さと奥深さ、複雑さが改めて認識されている。それゆえ、人間の能力を知り尽くす事は不可能である。そもそも、人間が人間を解明するということは、自己言及型の科学(論理)であるから、人間の能力を完全に知り尽くす事は原理的に不可能である(ゲーデルの不完全性定理)。それゆえ、AIが人間を完全に超えたか否かを判定することも不可能であろう。 人間の能力は、帰納的学習以外に、推論・演繹による予想、創造力がある。感情や深層意識など、まだ未知の分野がある。これらの能力を超えてこそ、人間を超えたといえる。したがって、なにを以て「シンギュラリティ」といえるのか、その定義を明確にすべきである。 
 AIの未来について考察は尽きない。
スポンサーサイト



Copyright © 2005 自然と科学. all rights reserved.