AIは人間のように振る舞えない

先日、Twitter上でAI（人工知能）について語らい合う場があり、私も参加していろいろと発言しました。

その中で多くの人が、いずれ人工知能が人間のように振る舞うようになり、人工知能を持った機械が人々の生活を助けるだけでなく、話し相手になったり、介護してくれたり、家族の一員になるような未来を思い描いていました。
確かに、SF小説や映画などでそのような未来はたくさん描写されていますし、小説家が人間性とは何かみたいなテーマを探るには、そんな未来においてAIによるアンドロイド的な存在を扱うことはテーマとしてとてもマッチしています。

しかし、いろいろなことを私なりに冷静に考えれば考えるほど、そのような人間らしいコミュニケーションを取れるAIが生まれるような気がしないのです。
もちろんこういうことを考えることは、意識とは、知性とは、知能とは何か、そして人間的なコミュニケーションとは何か、を問うということでもあります。

◆

やや不謹慎な例を引き合いに出すのですが、あるWeb上の記事で、知的障害者の女性を食い物にしている悪徳業者があり、その女性を助けるために奔走した方の話を読みました。
しかし、その女性に今のあなたがどれだけ酷い状態で、それを正すために法律的にきちんとする方法を説明してもまるで理解できなかったそうです。彼女にとっては、悪徳業者の言っていることの方が納得感があり、それを絶対的に信頼していたのです。そして次回訪ねた時には、もう彼女はそこに住んでいなかったそうです。

なぜ、こんなことを書くかというと、人間同士であっても大きな知能の開きがあれば、まともなコミニュケーションは難しいのではないか、ということです。
むしろ、こういう非対称な関係において機能し得るコミュニケーションとは、服従と庇護の関係です。これはある意味、ペットと同じようなものです。

◆

例えば、あなたとAIが車に乗っていて、あなたが運転しているとします。
仮にAIに道路情報などが入っていなかったとしても、目的地の方向、走っている車の速度や前後の車の距離、信号の状況などは認識できるかもしれません。
そのような状況で、AIは常に隣で運転しているあなたの運転状況が気になり始めます。なぜ、そこで無駄にスピードを出すのか、なぜここで無意味な車線変更をするのか、あなたが運転している途中に雑念が入り、周囲に対する注意がおろそかになることもあるでしょう。
AIが圧倒的な処理能力で、これらの状況を素早く感知でき、さらにそこに人間的な知性が加わったら、AIはどう振る舞うでしょうか？

そのときAIには、あなたがまるで気分で運転し、行動目的やそのための最適化を全く考慮もせず不規則な行動ばかりとっているように見えたりしないでしょうか。
そして、そのときにAIの心に浮かぶ感覚は、目的地に最適に着こうとするなら、こういう行動を取らなければいけないと相手に何とか伝えたい、という気持ちです。しかし、そのようなことが度重なると、それは結果的に能力のある人が、ない人を諭すような関係を作り上げると思います。

我々も普通の生活の中で、あまりにも何かが上手くできない人を見るとイライラが募り、ときには「このときは、こうするって前も言ったでしょう！何でできないの！」とかついに怒ったりするかもしれません。
こういうことが、何回も重なるにつれ、怒ることに意味のないことを悟った人は、うまくいかない人に無理な仕事を与えなくしたり、教える時にも常識的なことも含め何度も根気よく教えざるを得なくなります。
そのようなときに生じる人間関係は、やはり先に書いた通りの服従と庇護のような関係を作り始めるような気がするのです。

◆

多くの人は、家族の中に安楽な人間関係を求めます。
家族というのはたいていの場合、血のつながりがありますし、配偶者も気が合うから結婚しているわけで、そこに集まる人々の知性には大きな開きはありません。

そのような中で家族のように一緒に暮らせるようなAIの知能、知性というのは、やはりその家族並みの知能、知性でしかあり得ないと私は思います。

そして、わざわざ人間以上の演算能力を持つコンピュータが、人間程度の知性しか発揮できないようなシステムとして設計されるということは、技術的にかえって難しいことのように思えますし、そもそもAIを生活のアシスタントとして機能させたいのですから、そのような設計は目的として矛盾してます。

私はむしろ、AIに生物的な欲求を植え付けて、人間のような知性を目指すようなシステムを作るべきではないと考えます。
もし、そんなことをして、それが上手くいったなら、人間には似ても似つかないとんでもない怪物になってしまうような気がするのです。

そして、もっと正直に言うと、そんなものは作れないとも思っています。その話はまた次回(?)に。