AIも「セーフな方」に失敗させることが重要

――お二人の話を伺っても、やはり「AIが暴走したら、人類の存続を脅かす存在になるんじゃないか?」という恐怖心は、なかなか消えませんし、少なくとも「人間の知能がAIに追い越されるのは嫌だな」と思ってしまうのですが?

松原:不快感は、なんとなくわかる。将棋でも負けた、囲碁でも負けた......俺も、AIに負けるんじゃないか、取って代わられるんじゃないかって思うのは、やっぱり、不快でしょ? 多くの人は、自分の地位を脅かされるのって、嫌だから。AIに本当にその能力があるかどうかは別として、少なくとも、そんな能力があると思われているから、不安に感じてしまう。それは、わかりますが......ただ、今だって「今日の食事もスマホに決められて、俺の人生はこれでいいのか?」って、思う人は思うわけでしょ?

中島:本来の意味とはちがうシンギュラリティでよく語られる「AIの暴走に対する恐怖」にしても、私は、その暴走の程度問題だと思う。たとえば、以前からオートクルーズがついているクルマや、最近では、自動ブレーキが装備されているクルマがある。オートクルーズや自動ブレーキがまちがうことだって、絶対にないとは言えない。ところが、クルマに乗っていて、オートクルーズを100km/hにセットして走っているときに、「突然、150km/h出たらどうしよう?」なんて、誰も心配しない。

松原:確かに、そうだよね。

中島:「暴走するかもしれない」というのは、今のすべての技術において同じ。だから、技術者は何をするかというと「フェイルセーフ」、つまり「万一、失敗したときには、必ずセーフな側に失敗するように、前もってシステムを組む」という技術で対応している。

――セーフな側に失敗する?

中島:たとえば、クルマのオートクルーズの場合、何か“おかしなこと”が起こったら、そのおかしなことが、速度が下がる方向にしか起こらないように追求する。具体的には、電流が流れていることによって速度を維持しているとすると、たとえ回路がおかしくなっても、電流が来なくなったら速度は下がる方向になる。

松原:そうすることで、暴走ではなく停止する技術。

中島:特にクルマなどの乗り物をつくっている人は、その「フェイルセーフ」を徹底的に考えている。AIの開発に携わっている研究者も、AIの「フェイルセーフ」については常に考えている。

松原:それに、人間も時々、暴走するじゃないですか。なんで人間の暴走は許しておいて、AIの暴走ばかり心配するのかな。はっきりいって、AIが暴走するより、人間が暴走して事件や事故を起こすケースの方がたくさんあるのに。

中島:突然暴走する人間って、いるよね。