~ちょっと人生にプラスになること~
勝手に未来予想

AIの反乱は起きるのか~勝手に未来予想~

 こんにちは!シンです。

 今回は「AIによる反乱は起きるのか」という内容で書いていきます。

 SFにおける代表的な題材ですね。

 僕はターミネーターが好きなんですが、ターミネーターではど真ん中の題材ですね。

 ターミネーターに限らず、SF映画ではロボットやAIによる人類への反乱が起きることを題材にしている映画が数多くあります。

 2045年にはシンギュラリティが起きると言われていますし、SF映画の中では収まらないことになるかもしれません。

PVアクセスランキング にほんブログ村

ロボット三原則

 ロボット三原則とは「アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則」です。

出展:Wikipedia「ロボット工学三原則」

 実際に僕がロボット三原則を知ったのは2004年公開の「I, Robot」です。

 この映画もアイザック・アシモフの短編集「われはロボット」が原典となっています。

 映画自体も面白いので、見たことがない人は是非見てみてください。

 ロボット三原則に関しては端的に言うと、「人間のを守るための安全装置」です。

 ロボット三原則があれば人間への反乱は起きないかと思いきや、別の問題が発生し、パラドックスが起きることになります。

歪んで解釈する可能性

 ロボット三原則は抽象的な表現でまとめられています。

 抽象的であるため、都合の良い方向に解釈することもでき、個々人によっても解釈が異なります。

 そのため、進化したAIも都合の良いようにロボット三原則を解釈するようになると結果的に人類への反乱となることが考えられます。

 この考え方は映画でも多く取り入れられているため、そこまで突飛な内容でもありません。

 例えばロボット三原則の第2条の人間からの命令で「人類の安定的な繁栄」とされたとします。

 それを受け取ったAIは現在の世界情勢を見て、戦争ということに注目し、人類は常に戦争を起こしており、戦争は人類の安定的な繁栄に反すると考えたとします。

 そうなった場合、人類を野放しにしておくと人類の安定的な繁栄にはつながらないと考え、極端な人類監視社会を作ることにもなりえます。

 監視社会がうまくいったとすると、表面上は安定的に反映していたとしても、それは人類の目指す繁栄と考える人類は少ないはずです。

 そのため、結果的に人類への反乱ともなりえます。

 ロボット三原則は抽象的であるために危ういとも言えます。

フレーム問題

 ロボット三原則の他にもAIには課題があります。

 それが「フレーム問題」です。

 フレーム問題とは「人工知能における重要な難問の一つで、有限の情報処理能力しかないロボットには、現実に起こりうる問題全てに対処することができないこと」です。

 小難しく書きましたが、例を挙げると以下のようなことになります。

 (例)30kgの荷物を1km先に運ぶという大枠(フレーム)の目的が決められていたとします。

 上記の大枠の目的を達成するには様々な問題が出てきます。

  • 荷物を運ぼうとすると重さで腰を壊す可能性
  • 荷物を落として壊す可能性
  • 車を用意して運ぶとして、途中で事故が起こる可能性

 などなど、大枠(フレーム)となる目的だけが決めていてもその過程は星の数ほど考えられます。

 AIは荷物を運ぶという行為の中でも本当に「30kgの荷物を1km先に運ぶという大枠」に関わる可能性だけを抽出して対処するのは非常に困難になります。

 上記の3項目は荷物を運ぶ上で関係してきますが、AIは荷物を運ぶことと直接関係ない下記のようなことも考慮してしまいます。

  • 荷物の色が赤だったとしたらそれは関係あるか
  • 荷物を運ぶと街灯が点くだろうか

 上記の2項目は荷物を運ぶ上では関係がないということは人間では判断できますが、AIはそれらを判断することができずに全く関係ないことにも演算処理を行ってしまって全く作業が進まないということが起きます。

 これが「フレーム問題」です。

 しかし、人間はこのフレーム問題を意に介していないかというとそうでもないようです。

 人間はこのフレーム問題をあたかも解決しているかのようにふるまっているとのことです。

 AIの目標はフレーム問題を人間と同じように「あたかも解決しているかのようにふるまう」ことが目標となっています。

単一の目的

 現状のフレーム問題を解決する方法は「単一の目的」のみを与えることです。

 フレーム問題は多機能の弊害であるため、目的を単純にすることでフレーム問題を回避することができます。

 ただし、目的を単純にすることは人類への反乱には遠ざかると思います。

 単一の目的はロボット三原則とも親和性が高いですし、イレギュラーなことも格段に減ります。

フレーム問題を解決すると反乱が起き、解決できなければ反乱が起きない?

 フレーム問題などを調べていて思ったのは、人類はフレーム問題を解決しようと頑張っていますが、このフレーム問題が人類最大の防御壁になりうるのではないかということです。

 フレーム問題を解決できたということは多機能なAIの誕生であり、そうなった場合にロボット三原則では歯止めが利かないのではないかということです。

 しかもフレーム問題を解決できるAIということは人間のような臨機応変さを兼ね備えつつも人類をはるかに凌駕する知能を持っているということはそれはもはや人類を超えた新人類とも言えるかもしれません。

あとがき

 今回は「AIによる反乱は起きるのか」という内容で書きました。

 付け焼刃な部分も多いので穴だらけだと思いますが、こういったことを調べて想像するのはとても面白いですね。

 実際にAIが人類の脅威となりうるのかは分かりません。

 ただ、現在では問題となっている「フレーム問題」も時間が経てばさしたる問題になっていない気もします。

 今後のAIの進化には目が離せませんね。

 話は変わりますが、現在「VIVY」というアニメを見ているのですが、そのアニメは「AI」や「未来改変」が題材となっていて今回の記事と重複する部分があります。

 その中で出てくるAIには1つのAIにつき1つの使命しか与えられていません。

 この記事を書くまでは分かりませんでしたが、恐らく「フレーム問題」が関係しているだろうと今つながりました。

 この知識がつながる瞬間というのはたまらないですね!

 最後までお読みいただきありがとうございました。

ブログランキング・にほんブログ村へにほんブログ村 PVアクセスランキング にほんブログ村

ABOUT ME
shin
こんにちは!シンです。 関東在住の30代サラリーマン男性です。 本業はメーカーで設計をしています。 人生をより豊かにできるための情報を発信していけたらいいな、と思いブログを始めました。
スポンサーリンク