AIの意思決定に対する嫌悪感の理由

　「AIは自我を持つか。」という問いに対して私は「わからない」と答える。チューリングテストが示すように、AIに自我があるように見えてもそれが本当の自我かどうかは判断できないからだ。理由は「自我」という言葉の曖昧さばかりではない。

　AIがAIの概念を持つと仮定すると、それは人間の概念とは異なるに違いない。なぜなら人間の概念は個別の人間のあいだのすり合わせによって成立するが、AIの概念は論理の積み上げにより形成されるからだ。歴史、民俗、人種、文化、時代の差異を持たないAIとAIのあいだにその種のすり合わせは存在しない。

　仮にAIの一つが新しい概念を生み出したとしても、それを別のAIに共有する場合その書き換えは一瞬で終了し齟齬も生じないだろう。

　人間の概念はそれぞれに必ずずれがあり、個体間や集団間で常に齟齬を伴ったすり合わせが行われている。それが社会であり、社会は論理の積み上げとは異なる次元で存在している。

　AIはおそらく社会という概念を持たない。そしてすり合わせのない意思決定は全体主義を連想させる。AIの自我を扱った映画や小説がディストピアを描くことが多いのも、ここに人間が恐怖を感じるからかもしれない。