「人工知能（AI）を活用して世界をより良いものにすること」
その目標に向かって、人工知能は、近未来の生活の中で人々のあらゆるシーンの隅々まで浸透してゆく。
あなたは、インターネットでショッピングをする際に、他人の意見（レビュー）をどの位参考にしているだろうか？
慎重に購買する商品を選ぶ時ほど、レビューを参考にしているはずだ。
人は基本的に考えるのが苦手なので、人工知能の能力が向上し、あらゆるものがAIによってレコメンデ―ションされる様になった時、何も考えず無条件に信じる人が続出することになる。
妄信的に人工知能が薦める情報を信じる人は、そこに大きな危険性があることを理解しているだろうか？
そこに、悪意ある人工知能が引き起こす深刻な問題が存在する。
もし、誰かが悪意を持ってAIの生み出す結果をコントロールしていたり、AIの情報に悪意あるノイズをのせて世の中に提供いたらどうなるだろうか？
ブラックボックス化した人工知能の思考プロセスは、常に最適化された答えを与え続けるが、ごく小さな割合で本来の結果とは違うノイズを埋め込むことも技術的には可能である。
2014年頃から、日本でも人工知能学会が倫理委員会を立ち上げ、技術の現状や今後予想される最悪のシナリオについて議論を続けている。
悪意ある人工知能が引き起こす深刻な問題が存在することを知ることが自らを守るための第一歩になる。
