科学・技術と自然環境について、教育を考える。
  • 06«
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • »08
人工知能(AI)への過信
人工知能(AI)への過信

深層学習(Deep learning)が開発されてから、AIの進歩は目を見張るばかりである。
最も困難と思われていた囲碁でトップ棋士に完勝してから、一躍世界中の注目を浴びている。今やあらゆる分野にAI技術を利用しようと、鎬を削って開発競争が始まった。いずれ、AIは人間を凌駕する時期(シンギュラーポイント)がくるだろうと予想されている。だが、総合的に人間の能力を超えることはそう簡単ではないはずだ。

 近い将来に、AI技術は社会のあらゆる分野に進出し、人間の仕事の半分はAIに奪われるだろうといわれている。そのこと自体は人口減・人手不足の助けになるだろう。しかし、新たな仕事・職業が次々に生まれるから、仕事がなくなることはないだろう。

 このように、AIに対する行き過ぎた期待と不安が交錯しているが、AIへの過信は危険である。たとえば、社員の採用にAIを導入している会社が増えているそうだ。採用合否の判定基準としていかなるデータがインプットされているか知らないが、多様な人間の能力を正しく判定できることは、まだまだ不可能であろう。AIによって、一度不採用になると、AIを導入している会社や組織から排除されてしまうそうである。その様な事例がすでにあるとのことだ。一旦AIに「ダメ」といわれた者は、挽回の機会を与えられず、社会的排除が続けられかねない」と山本龍彦慶応大教授は指摘しているそうだ(1月7日朝日新聞)。

 このようなシステムが定着したら、とんでも無い過ちを犯すようになる。昔、コンピューターが銀行や公共企業に導入され始めた頃、集金や預貯金などの現場でトラブルがよく起こった。コンピューターを過信して、企業側は「コンピューターの計算だから絶対間違いない」と言い張った。だが、後にプログラムのミスであったことが判明し、企業側が謝罪した。それ以後、「コンピューター神話」はなくなった。どれほど正確な機械でも、それを作り操作するのは人間であるから、製作過程で人為的ミスの入りうることを忘れてはならない。少しでもコンピューターの基礎知識(たとえばプログラミング)のある者なら、「絶対間違いない」とはいわないはずであった。

 これと類似の過ちを再び犯さないようにしなければならない。AIも膨大なデーターを入力して判断し行動するが、そのデータとて人間が選択したものである。その与えられたデーターによってAIは学習(深層学習)するが、限られた範囲で判断する。その判断結果を絶対視してはならない。人間の能力は千差万別、個人差があり、その能力の発揮も環境や条件によって変わる。その微妙な違いを、人間なら臨機応変に判断できるが(人により差があるが)、機械であるAIにはまだできない。

 何事でも、過信による画一的な思い込みは恐ろしい。AIは急速に社会の多方面に浸透するから、トラブルも多くなるだろう。それを利用する者は、AIとは何か、その基本的なところを理解して過ちを繰り返さないように気をつけねばならない。
人工知能(AI)への過信

深層学習(Deep learning)が開発されてから、AIの進歩は目を見張るばかりである。
最も困難と思われていた囲碁でトップ棋士に完勝してから、一躍世界中の注目を浴びている。今やあらゆる分野にAI技術を利用しようと、鎬を削って開発競争が始まった。いずれ、AIは人間を凌駕する時期(シンギュラーポイント)がくるだろうと予想されている。だが、総合的に人間の能力を超えることはそう簡単ではないはずだ。

 近い将来に、AI技術は社会のあらゆる分野に進出し、人間の仕事の半分はAIに奪われるだろうといわれている。そのこと自体は人口減・人手不足の助けになるだろう。しかし、新たな仕事・職業が次々に生まれるから、仕事がなくなることはないだろう。

 このように、AIに対する行き過ぎた期待と不安が交錯しているが、AIへの過信は危険である。たとえば、社員の採用にAIを導入している会社が増えているそうだ。採用合否の判定基準としていかなるデータがインプットされているか知らないが、多様な人間の能力を正しく判定できることは、まだまだ不可能であろう。AIによって、一度不採用になると、AIを導入している会社や組織から排除されてしまうそうである。その様な事例がすでにあるとのことだ。一旦AIに「ダメ」といわれた者は、挽回の機会を与えられず、社会的排除が続けられかねない」と山本龍彦慶応大教授は指摘しているそうだ(1月7日朝日新聞)。

 このようなシステムが定着したら、とんでも無い過ちを犯すようになる。昔、コンピューターが銀行や公共企業に導入され始めた頃、集金や預貯金などの現場でトラブルがよく起こった。コンピューターを過信して、企業側は「コンピューターの計算だから絶対間違いない」と言い張った。だが、後にプログラムのミスであったことが判明し、企業側が謝罪した。それ以後、「コンピューター神話」はなくなった。どれほど正確な機械でも、それを作り操作するのは人間であるから、製作過程で人為的ミスの入りうることを忘れてはならない。少しでもコンピューターの基礎知識(たとえばプログラミング)のある者なら、「絶対間違いない」とはいわないはずであった。

 これと類似の過ちを再び犯さないようにしなければならない。AIも膨大なデーターを入力して判断し行動するが、そのデータとて人間が選択したものである。その与えられたデーターによってAIは学習(深層学習)するが、限られた範囲で判断する。その判断結果を絶対視してはならない。人間の能力は千差万別、個人差があり、その能力の発揮も環境や条件によって変わる。その微妙な違いを、人間なら臨機応変に判断できるが(人により差があるが)、機械であるAIにはまだできない。

 何事でも、過信による画一的な思い込みは恐ろしい。AIは急速に社会の多方面に浸透するから、トラブルも多くなるだろう。それを利用する者は、AIとは何か、その基本的なところを理解して過ちを繰り返さないように気をつけねばならない。
スポンサーサイト
この記事へのコメント

管理者にだけ表示を許可する
 
Copyright © 2005 自然と科学. all rights reserved.