トップ > 終わることのない人工知能の話 > AIの弱点と「暴走」への恐怖

終わることのない人工知能の話IT

AIの弱点と「暴走」への恐怖(8/8ページ)

中島秀之(東京大学 特任教授)×松原仁(公立はこだて未来大学 教授) Part.2

2016.08.01

  • このエントリーをはてなブックマークに追加

AIは人間の常識を理解できるか?

――おふたりの「フレーム問題」の実例を伺っていると、このままAIが進化を続けたら、いつか、反乱したAIの機械軍が人類を滅ぼそうとする映画『ターミネーター』(1984年、ジェームズ・キャメロン監督の米英合作SF映画)みたいになっちゃうんじゃないかって、不安になるんですが?

中島:その話を考えるときに、いい本がありますよ。タイトルは『The Two Faces of Tomorrow』。

松原:有名なSF小説ですね。邦題は『未来の二つの顔』。

『未来の二つの顔』 (講談社漫画文庫) 文庫。星野之宣 (著), P・ジェイムス・ホーガン (原著)。2002年発行。1979年にP・ジェイムス・ホーガンが発表した『未来の二つの顔』(原題 The Two Faces of Tomorrow)を原作として、1993年、星野之宣によって漫画化された。

中島:あれはいい小説だと思うし、あとで漫画化された作品もいい出来栄えなので、ぜひ読んでほしい。

松原:『WIRED』という雑誌でAI特集があったとき、「AIのSFを10点選べ」と言われたので、私も「原作もいいが、漫画もいいので、両方読んでほしい」って書きました(笑)。

――どういうストーリーなんですか?

中島:近未来、人類が地球全体を制御するAIのコンピュータ・システムをつくろうと思ったとき、「このAIは、近い将来、人類を滅ぼすんじゃないか」と危惧した科学者たちが、宇宙ステーションという閉鎖空間を地球にみたてて、実験を行う物語です。「宇宙ステーションなら、滅びてもかまわない」ということで、そのAIに対して、実験的にどんどん攻撃を加える。たとえば、コンピュータ・システムの配線を切るとか、サーバーの電源を落とすとか。

――おもしろいですね。

中島:AIとしては、監視カメラに映る“わけのわからない影”すなわち“人間”が、自分に悪さをするから、「あれは排除した方がいい」と考えるようになって、反撃し始める。

――自分を守るために体内の異物を排除しようとするわけですね。

中島:人間を「敵だ」と学習したAIは、生産設備を駆使して攻撃用のドローンをたくさん作って、それこそ『ターミネーター』状態で総攻撃して、やがて、人間は追い詰められて、ほとんどAIの勝利が目前になる。

――怖いですね。やっぱり人間はAIに勝てないんだ。

中島:ところが、そのAIには学習機能があるので、宇宙ステーションにいる人間を殲滅する直前に悟る。「あっち側にいるやつも、俺と同じじゃないか。あいつらも、生きたいと思ってるんじゃないか」って。

――AIが人間を理解してくれたということですか?

中島:そう。そこで、AIは人間に対して協力的な態度に変わる。だから、未来のもう1つの顔は“明るい”っていう話です。

――急に「未来は明るい」って言われても……具体的には、どんなオチなんですか?

中島:それは、自分で読んだ方が楽しめると思いますよ。

松原:しかも、物語の最後のオチは、原作と漫画で、ちがっているんですよね。

中島:原作より、それをアレンジした漫画のラストの方がいいっていう人もいるよね。

松原:原作者自身が「俺のより、こっちの方がいい」って言った、珍しいパターンの作品ですよ。

【次回予告】
 SFの名著『未来の二つの顔』について語った中島氏と松原氏は、次回、AIが人類の能力を超えて進化する技術的特異点、いわゆる「シンギュラリティ」について、その“本当に意味すること”も含めて、AI研究のツー・トップだからこその鋭い対談をくり広げます。

中島 秀之(なかしま・ひでゆき)
中島 秀之(なかしま・ひでゆき)

東京大学大学院情報理工学系研究科 先端人工知能学教育寄付講座特任教授、公立はこだて未来大学名誉学長。1952年、兵庫県生まれ。1983年、東京大学大学院情報工学専門博士課程を修了後、同年、当時の人工知能研究で日本の最高峰だった電総研(通商産業省工業技術院電子技術総合研究所)に入所。協調アーキテクチャ計画室長、通信知能研究室長、情報科学部長、企画室長などを歴任。2001年、産総研サイバーアシスト研究センター長。2004年、公立はこだて未来大学の学長となり、教育と後輩の育成、情報処理研究の方法論確立と社会応用に力を注ぐ。2016年3月、公立はこだて未来大学学長を退任後、同年6月、同大学の名誉学長に。

  • このエントリーをはてなブックマークに追加
  • ログイン
  • マイフォローとは?
nikkei BPnet 会員サービス
トピックを選ぶ!フォローする 自分のメディアを組み立てる! マイフォロー

ランキング一覧を見る

おすすめ情報【PR】

締切間近のセミナー