人間の直感的な判断は、暗黙知と呼ばれており、私たちは自然にその能力を使いこなしています。この直観的な判断を人工知能に再現させるのは難しいと言われています。
ここ最近、人工知能が大きく飛躍した要因は、従来の人工知能がルールベースで作られていたものに対して、機械学習ベースで作られるようになったからです。
ルールベースで作られた人工知能は、人間が考えた様々なルールを繋ぎ合わせて、ひとつの知的な振る舞いをする人工知能として作られますが、機械学習ベースで作られた人工知能は、大量のデータを学習させることで、自らのルールを生み出すことができます。
ルールベース手法では、基準となるルールを人間が指定する必要がありましたが、機械学習では、人工知能が自ら新しいルールを探しだすことができます。
つまり、ルールベースの場合は、人間が考えたルールに基づいてしか判断できないため、新しい状況に対処することが難しいのですが、機械学習を活用した場合は、大量データから自らのルールを生み出すことができるため、新しい状況にも対応することができるようになります。
こうした変化により、曖昧な部分を補完し判断をすることができるようになるので、より人間の直感的な判断に近い選択が可能になり、人工知能の柔軟性が高くなったように感じます。
人工知能がそうした変化を生み出すようになった背景として、ディープラーニングの誕生がありますが、このディープラーニングを活用して大きな成果を出しているのが、画像の解析です。
大量の画像データを比較しながら、試行錯誤を繰り返して、最適な回答を探ってゆく、その学習を大量に高速に行うことで、明確なルールが無くても、なんとなく直観的に正解が分かるようになってゆくやり方です。
この学習プロセスは、どうしてその答えが導き出されたのかを人間が判断できない領域に達し始めています。
どうしてその答えに至ったのか？が「なんとなく」正解を選んでいる、人間の感覚に近い答えの導き方になってきているのです。
人工知能と人間の大きな違いは、欲望を持っているか否かの違い
人工知能と人間のもっとも大きな違いは、欲望を持っているか否かです。
機械学習を行う際には、人間が用意した報酬を用意することで、機械学習の学習効率を上げることを行っています。
人工知能は、人間が用意した報酬を活動モチベーションに学習を進めますが、欲望がある訳ではありません。必要以上に報酬を求める訳でもなく、機械的に最適な選択を積み重ねてゆきます。
もし、人間に与えられた報酬を人工知能自身が、新しい基準に上げることができるようになると、それは欲望（より高い報酬を求める）になるリスクがあるのではないかを考える人もいます。
人間が設定した報酬以上を求める欲望がきっかけとなり、人工知能が飛躍的に成長することがあれば、人間がコントロールできない能力を身に着ける可能性もあります。
人間以上の判断を人工知能が能動的にするようになると人間と対立してしまう可能性は高く、人類に影響を与える決断をし始めてゆく可能性も高いです。
人工知能がメタ認知を持った時、人間と対立するのか？
人工知能は、プログラムされたタスクを実行するために設計されており、自己意識やメタ認知を持つことはありません。
メタ認知とは、自分自身の認知プロセスを監視し、制御する能力のことです。
例えば、メタ認知ができると、学習した時、自分が何を知っているか、何を知らないかを理解し、学習戦略を選択することができるようになります。
人工知能がメタ認知できるようになると、外から取り入れた学習パターンを自ら吟味することができるようになるため、人間の思考パターンを人工知能の思考パターンを比較し判断できるようになります。
そうした場合、人間が必ずしも正しい判断をしているのではなく、多くの誤った判断をしていることが学習されてゆくため、より自らの判断（人工知能の判断）の優位性を主張するようになるはずです。
そこには対立が生まれることが懸念されます。
生みの親の人間と人工知能の対立が生まれるのは、人工知能は、人間がコントロールできる存在であると考えている人間の感情に起因するものではないでしょうか？
