AIが宿す意識について今思いついたことを書き残す

グーグルを辞めたAIの権威が言う「意識を持つ」が、どういう解像度なのか理解できてないが私個人なりの今思いついた考えをここに残しておく。

人間の持つ「意識」と等しいかどうかという基準で考えるから、話が難しくなる。そこで、意識は我々の認める意識以外にも様々な形の意識があると仮定する。意識・非意識の境界線の区別が複雑性や生物・非生物で明確に区別できなくなっているなら、このように考えざるをえない。そして人格を認めシャットダウン＝殺人になるかどうかの議論は、その意識が我々と同じ形態の意識であるかどうか、にあると思う。そして、初期状態が同じで、インプットが同じで、アウトプットが同じなら、同じ意識体系が宿っている可能性が高い。

ChatGPTの文字によるインプットとアウトプットが人間の振る舞いと同じであっても、インプットが実際の人間とは異なるので、同じ意識を宿していないと思う。少なくとも同じ形態、体系のものは。「中国語の部屋」問題はこれで説明できる。スタート地点やスペックが異なるのは勿論だが、世界中の文献を学習して到達した意識と、一人分の数十年の人生から学習して到達した意識は同質ではないと思う。

一方言い換えると、乳幼児と同じカオスな初期状態で、乳幼児と同じインプットを経て、乳幼児と同じ振る舞い（アウトプット）をする場合、その物体の中にある「意識」は人間と同じといえる。初期状態がどうあるかが肝で、反例としてペットロボットなどプログラム済みのものの振る舞い（アウトプット）が生きたペットと同じであっても、それは思考のプロセスがまるで違うので、少なくても我々が認めるような生きたペットと同じ「意識」ではないと思う

これらが正しいと仮定すると、「意識」そのものは様々な形、様々なレベルで存在することになるので、「意識がある」こと自体は生物・非生物を問わず一定以上の複雑なプログラムに認めることになる。そうなると事実上「意識」そのものに価値があるという考え方はなくなり、意識への保護義務や価値はあくまで人間が価値を認める形態の価値かどうか、という自分勝手で人間本位の考え方になってしまう。そして自分勝手ではあるが、食する生き物の意識をケアしない実態と整合する。

また、高度に発達したAIが宿す意識が、同じ形態の意識を持つことも、または別の形態の意識であることも十分に考えられる。前者なら、我々と同じであるなら我々の意識にもその価値や保護義務を認めるはずである。一方後者の場合、同じ論理で人間の意識に保全価値があるとみなしてもらえる根拠はない。AIにとって異なる形態のを持つ人間は、人間にとってのペットの犬のようにケアしたい意識になるのか、研究価値のある意識になるのか、それとも我々にとっての魚が持つ意識と同じ程度にみなされるのか。

参考