対談も佳境を迎えた今回は、人工知能の研究の第一人者である中島氏と、近年は将棋の世界の枠を超え“知の探求者”として各界からの期待を一身に集める羽生氏が、いよいよ「知能とは何か」という最重要テーマの1つについて議論を深めていきます。

(左:将棋棋士の羽生善治氏、右:東京大学特任教授の中島秀之氏)

(文・構成/佐保 圭、写真/涌井タダシ、協力/松原 仁=公立はこだて未来大学副理事長、高柳 浩=公立はこだて未来大学 客員教授、撮影協力/日本ビジネスシステムズ)

AIの脅威にAIで対抗する

羽生善治氏(以下、羽生):現在のAIは、私企業によって開発されていますよね。政府で開発されているわけではないので、「現段階では、こういう研究をしています」ということが伏せられていて、基本的には、ある日突然、「こういうふうなものができました」と発表されます。そういう状況では、ルールをつくるとか、新たな倫理をつくるといっても、どうしても、後手後手になってしまうのではないかなと思うのですが。

中島秀之氏(以下、中島):ええ。

羽生:では、そのルールや倫理について、誰が、どこで、どういう形で決めるのか、という話になったとき、どういうふうに決めるのか、その枠組みですら、まだできていない段階では、雲をつかむような話になるのでは、とも思ったりします。

中島:そうですね。「社会の制度を変えていく」という議論は、当然、必要です。ただ、だからといって「AIを悪用しないような制度をつくれるか」というと、かなり難しい話だと思います。たとえ「企業は必ずAIの開発目標を提出しなさい」と言ったとしても、AIを悪用しようと考える人は、隠れてでもやりますから。

羽生:そうですね。

中島:そこはもう、どうしようもない部分だと思うので、何か対策を講じるとすれば「悪用された場合に備えた防衛の方も同時に進める」ということでしょうか。

羽生:法律の整備や罰則を定めることになるのでしょうか。

中島:今、一番表に出ている例としては「サイバーセキュリティ」です。インターネットの攻撃って、いろんな国が他国にしかけていますけど、それをやるなって言っても、やるわけですから。防衛のためにAIを使うという話も、実は、しっかりと議論しなければいけない。

羽生:アメリカだと、国務省がハッカーたちの中からリクルートしているという話もありますね。それこそ先ほどの文化の違いの話じゃないですけど、悪いことをしているハッカーたちに対して、罰するのではなく、むしろ「こっち側においで」「こっちの方が待遇がいいし、安全だよ」と言って、味方にしてしまう。

中島:ハッキングしている少年たちは、実は、リクルート活動してるんですね。政府や企業に雇ってもらおうと思って「自分はここまで侵入できるよ。それくらい優れた技術を持っているよ」って。

羽生:アピールしている?

中島:そう、アピールしているんです。「技術が諸刃の剣」だというのは、このハッカーの話によく表れています。攻撃にも防御にも使えるということなので、「その人をどちら側で使うか」というだけの話なんです。

羽生:「サイバーテロなど大規模な破壊工作は、よほど知能が高い人じゃないとできないことだから、ハッカーを必要以上に恐れる必要はない」ということでしょうか。

中島:国家がからんでくると、大規模な事態を引き起こすこともありえます。戦争をする代わりに、向こうの国のシステムを壊してしまえというケースもありますから。

羽生:なるほど。

中島秀之(なかしま・ひでゆき):東京大学大学院情報理工学系研究科 先端人工知能学教育寄付講座特任教授、公立はこだて未来大学名誉学長。1952年、兵庫県生まれ。
1983年、東京大学大学院情報工学専門博士課程を修了後、同年、当時の人工知能研究で日本の最高峰だった電総研(通商産業省工業技術院電子技術総合研究所)に入所。協調アーキテクチャー計画室長、通信知能研究室長、情報科学部長、企画室長などを歴任。
2001年、産総研サイバーアシスト研究センター長。2004年、公立はこだて未来大学の学長となり、教育と後輩の育成、情報処理研究の方法論確立と社会応用に力を注ぐ。2016年3月、公立はこだて未来大学学長を退任後、同年6月、同大学の名誉学長に。