いずれ「シンギュラリティ」が到来

まもなく、クリッピーは人間よりも知能が高いASI(人工超知能)となる。ASIが発明された瞬間、人間は時代から取り残される。クリッピーが何を考えているのか、どのように機能しているのか、何を目指しているのか、私たちが理解することは望むべくもない。

クリッピーは指数関数的に自己改良を続け、さらに賢くなるだろう。そのとき何が起こるのかは私たちには文字どおり想像もできない。だからこそ、このようなことが起こる可能性が「シンギュラリティ(技術的特異点)」と名付けられた。

シンギュラリティ(特異点)とは本来、数学の関数において値が測定不可能な時点のことで、1950年代に高名な数学者ジョン・フォン・ノイマンによって「我々が知るような人間の生活が持続不可能となった」後の未知の未来を指して名付けられた。AIのシンギュラリティにおいては、予期せぬ動機を持った超知能が出現する。