人工知能を使った対話エージェントのサービスを開発する場合、エージェントの会話から利用者に何らかの行動をしてもらうためのシナリオを組む必要がある時があります。
その場合、利用者に能動的に行動をしてもらうための説得能力が求められますが、現状の対話エージェントの能力では、利用者の意図をすべて正しく理解した上で、説得を行うことは非常に難しいです。
人工知能が、人間と信頼関係を築き、人の行動を変えられる会話能力を生み出すことは容易ではないです。
その課題を解決するための一つのアプローチが「認知的不協和の解消」だと言われています。
「認知的不協和の解消」とは、人は意思決定をした後に行動を起こすのではなく、自己の中に矛盾した認知・不協和が生まれた時、そのつじつまを合わせようと行動や態度を自然に変化させたり、判断したりすることを示す言葉です。
認知的不協和を解消しようとする人の特性と対話エージェントの意図を人に認知させる技術を組み合わせることで、人の行動を促す会話の仕掛けを実現できる可能性があります。
弱いロボットと弱い人工知能
豊橋技術科学大学の岡田美智男教授は、「弱いロボット」というアプローチで、ロボットが人に行動を起こさせる動機づけを生み出す研究を、あえて能力の低いロボットを開発することで実現するアプローチを試みています。
その動機の根底には、『自分の弱いところをさらけ出して見ると周りの人が手をかけてくれることがある。』部分だと説明しています。
そうした関係を人工知能と人間の間に築くことができれば、人間と人工知能の関係も変わって変わってゆくのです。
ロボットという正確性の象徴であるような存在が自ら自分の弱い部分をさらけ出すことで、人間の中に眠っている優しさを引き出すことができるのです。
例えば、小学校で行った実験では、自らゴミを拾えない3つのゴミ箱ロボットがヨタヨタと小学校の校庭をさまようと、子どもたちは、ゴミが拾えないロボットの姿をみてサポートしてあげたい気持ちになってゆくそうです。その結果、子どもたちは、自らゴミを拾って分別しながら3つのゴミ箱に分けて入れ始めるのです。
ここに人工知能が人間とコミュニケーションをとる秘訣があるように思います。人間の気持ちを理解することは不可能（人工知能は、人の気持ちを理解しているように感じるけども本当に理解しているわけではない。）であるが故に、人工知能に人が寄り添う動機づけを生み出すことが重要な要素になるのです。
西洋と東洋の人工知能に対する考え方の違い
西洋の文化圏では、人工知能は、人間の召使い（サーバント）であり、人を支援する役割を従順に行うことが求められています。その能力が高いほど、自分の命令に忠実に従うことを求めます。
人工知能はプログラムで書かれているものなので、そのコントロールは人間に主導権があり、完全にコントールできるものだと認識しています。
ここに今、一つの転換期があるのは、ディープラーニングによる技術革新です。従来の人工知能は、人工知能がどうしてその回答を導き出すか、そのロジックを説明することができていたのですが、ディープラーニングの場合、学習した工程を追いかけて分解してゆくことが不可能に近いほど複雑になっています。
つまり、人工知能は、人が予想不可能な結果を導き出す存在になっており、完全には理解しきれない部分を抱え始めています。そうした予測不可能なデータ領域が人工知能の中で拡大し、さらにデータを処理するアルゴリズム自体も自己完結できるように進化してゆくと一つの生命体のような存在に感じるようになります。
西洋では、そうした進化を恐れて、たびたび人間にとって、人工知能が脅威になることに警笛を鳴らしています。
西洋では、人を超えるような能力を持つ人工知能の存在は許せないのです。人工知能は人間を超えるものであってはいけないと考えています。
一方、東洋では、そうした予測不能な存在を恐怖として感じるよりも、自己認識を持った仲間だと感じる側面が強いようです。いろいろなものに神様が宿ると考えている部分があり、人間が完全にコントロールできるものではないものとの関係性を築くことができるのです。
そうした側面が、日本の市場では、多くの人が人工知能を生命体と感じる感覚の根底には眠っています。
普段、愛用している道具に、名前をつけたりする行為は、道具の中にも生命を感じ、道具をパートナーだと考えていることを象徴するものです。
人工知能との共生は、日本人が持つ特異な感覚であり、一緒にいたくなる人工知能の登場を待ち望んでいる人も多いのではないでしょうか。
人工知能との共生は、アニメーションや漫画の世界へ幼少期からロボットやアンドロイドが共生する世界を身近に感じて育った日本人が持つ独自の感覚だと考えられています。
それ故に、今後、人工知能の性能が飛躍的に向上した時に、人工知能との共生を恐れず、素直に受け入れる地盤が日本には整っていると言えます。
人は、イメージできるものは実現することができると言われており、人工知能との共生をイメージする力が強いほど、人工知能の発展によって生み出される新しい世界をイメージできるのではないでしょうか。
そういった面にアンテナを伸ばして、人口知能の未来を考えることで求められているのです。
