脳の活動は生理的生物的な制約を受けている。人類はその制約から解き離れた活動を、意思とか気持ちとか呼んで、自分たちだけの特権であるかのように振る舞ってきた。
しかし、この本能と理性の二元論的な発想は、実は抜け落ちている部分がある。それは、未だに私たちが十分把握していないと思われる脳の活動と可能性は、広範囲に及んで存在すると思われるからだ。Alがプログラミングされるのは、すでに人々が既知の文化として理解されている部分が出発点であり、私たちが知らない精神世界はプログラミングのしようもないのだ。
例えば、不安・恐れ。人々はこの感覚から逃れるために、ひたすら祈り続けてきた。医学的に各個人を対症療法的に安定させることはできても、全人類的には無理だ。死への恐怖、災害・戦争の不安etc、しかし、それら不安から逃れることは実際には不可能だし、だからこそ人類がそれなりに成長してきたとも言えるだろう。
一つの不安が仮に取り除かれたとして、そうするとすぐに時をおかず次に不安が人に巣作ってしまう。この繰り返しは、本能のなせる業なのかもしれないが、AIによる解決は難しいだろう。
上記は一例に過ぎないけれど、私たちはそれなりに進化してきたつもりでいるが、未だにコントロールできない、理解できていない世界は巨大であり、巨大な理解を阻む領域に謙虚さを失ってはならないはずだ。
