トップ > 芦田宏直の「ストック情報武装化論」 > 情報武装化論:第7回 人工知能と機能主義の諸問題(3)

芦田宏直の「ストック情報武装化論」ビジネス

情報武装化論:第7回 人工知能と機能主義の諸問題(3)(1/8ページ)

ロボットはなぜ死ねないのか、人はなぜ死ぬことが〈できる〉のか

2010.08.18

  • このエントリーをはてなブックマークに追加

ロボットR1の挫折(副産物をめぐる挫折)

 哲学者ダニエル・デネットが描くロボットR1は、ウィーナー的な、あるいは機能主義的・行動主義的な開放性の限界をよく示している。

 「自活すること以外、特別な仕事のなかった」ロボットR1は、自らのエネルギー源である予備バッテリーをしまってある部屋からそれを取り出そうとしていた。

 重い予備バッテリーは、幸いなことにワゴンの上にあった。

 ロボットR1は、ワゴンを引っ張り出せば、予備バッテリーを取り出せると考えた。

 ところが、そのワゴンの上には時限爆弾がまもなく爆発するようにセットされていた。

 ロボットR1は、その爆弾を取り除くことの意味を知らないままに ― 「爆弾がワゴンの上にあることを知ってはいたが」 ― ワゴンを運び出せば予備バッテリーを取り出すことができると考え、ワゴンを、つまり予備バッテリーと共に爆弾までもを一緒に運び出した。

 しばらくして、爆弾は爆発。

 ロボットR1は、爆死した。

ロボットR1D1の挫折(副産物を配慮する挫折)

 ロボットの設計者たちは、ただちに次の「自活」ロボットR1D1の作成に取りかかった。

 「次のロボットは、自分の行動の帰結として自分の意図したものだけではなく、副産物についての帰結も認識できなければならない」

 ロボットR1が爆死したのは、ワゴンを取り出すという行為のなかに、予備バッテリーを取り出すためという行為の「意図」とは別の「副産物」が含まれていること、つまりワゴンを取り出すと予備バッテリーばかりでなく、時限爆弾も取り出すことになることに気付かなかったためである。

 「ロボットは、周囲の状況の記述を用いて自分の行動を計画するから」、次のロボットR1D1は「そのような記述から副産物についての帰結を演繹させればよい」

 ロボットR1と同じ苦境に立たされた「演繹ロボットR1D1」は、設計された通り、その行動の帰結を考え始めた。

 「彼は、ワゴンを部屋から取り出しても部屋の壁の色は変わらないだろうということを演繹し、次に、ワゴンを引けば車輪が回転するだろうという帰結の証明に取り組み始めた。そのときであった、爆弾が爆発したのは」

 意図した行為の「副産物」は、単に時限爆弾のあるなしにとどまらない。

 ワゴンを取り出すことによる「副産物」は、無数にあるにちがいない。

 それを一つ一つ数え上げ、その帰結を証明しているうちに爆弾は爆発してしまった。

 したがって重要なことは、単に「副産物」を意識することにあるのではない。

 副産物の中でも、自分の意図に 「関係のある帰結と関係のない帰結の区別を教えてやり、関係のないものは無視するようにさせなければならない。 (…) 帰結を目下の目標に関係があるかないかにしたがって分類する方法を開発」しなければならない。

  • このエントリーをはてなブックマークに追加

関連トピックス

    • 会員登録 ログイン
    • マイフォローとは?
    nikkei BPnet 会員サービス
    トピックを選ぶ!フォローする 自分のメディアを組み立てる! マイフォロー

    ランキング一覧を見る

    おすすめ情報【PR】

    締切間近のセミナー