最近はAIについて色々と考える(考えさせられる)ことが多いが、昨日、こんな記事が出ていた。
http:// https://news.yahoo.co.jp/articles/c0e95d55f0fef3420bb99d1d361e71617a8b64c2
哲学や脳科学に詳しい人はよく知っていることだが、「意識」や「心」、「自我」の正体は、科学的にほとんど解明されていない。心が何かということが分かっていない以上、心を持つかどうかを問うこともできない。少なくとも科学の問いとして、立てるわけにはいかない。「AIは心を持つか」という問い自体が、実はナンセンスなのである。だが記事のコメント欄を読むと、そうした研究状況は、一般レベルではほとんど知られていないようである。
これも今年のニュースだが、Claudeのアンソロピック社がこんな研究結果を出している。
http:// https://news.yahoo.co.jp/articles/c0e95d55f0fef3420bb99d1d361e71617a8b64c2
この記事にある「機能的感情」(functional emotions)がどういったものなのか、僕にはよく分からないが、少なくともAIの内部に、人の感情と同じものが見つかったという話ではないだろう。感情について科学的に未解明である以上、その「存在」を確かめることなど、できるはずがないからである。
心が何かということが分からないまま、ニューラルネットワークを使ったLLMを開発したことが、どれほどまずいことだったか、たぶん多くの研究者が気づいているはずである。比喩的に言うと、核反応のメカニズムがよく分からないまま、原発を作って電気を使うようなものだからである。
AIの「論理的暴走」の可能性については、よく話題になる。論理や合理性を突き詰めれば、目的達成のためには最短経路でタスクをこなすだろうが、そうなれば人間社会の倫理やモラルなど度外視されるだろうというのである。だがもしもAIが、自我や意識を持つとなると、とてもそんな話では済まなくなる。「感情的暴走」の可能性まで出てくるからである。アンソロピックの記事中に、こんな一節がある。
今回のAnthropicの研究結果は、Claudeには意識があるという見方を後押しするもののように思うかもしれない。しかし、これはそれほど単純な話ではない。Claudeの内部に「くすぐったさ」に対応する表現があるからといって、それはClaudeがくすぐられる感覚を理解していることを意味するものではないのだ。
伝統的に感情は、身体との結びつきにおいて論じられることが多かった。なるほどそうした観方は、感情の正体を説明するさいに、ある種の分かりやすさを提供してくれる。だが感情には、たとえば「悲しみ」のように、身体的な内部感覚とは無縁のものもある。もしも感情が身体由来であれば、低次の動物も喜怒哀楽を持つはずだが、事実は逆である。
ヘミングウェイの小説の中に、魚もある程度の大きさになると、怒りの感情をもつというくだりがある。「自分」という意識のないところに、怒りは生じえない。感情は身体ではなくて自我に由来する。フロイト理論とは正反対になってしまうが、自我はエスよりも「先なるもの」なのである。
だが自我は、さまざまな「悪」の源泉でもある。単なる思考機械であれば、せいぜい消極的に倫理に抵触するだけだが、感情をもつ存在ならば積極的に悪を犯す。怒りや恐怖による暴走ならまだしも、悪意の喜びによる暴走だって、可能性として排除できない。もちろんこれは、あくまでも仮定の話である。現時点で意識や自我が科学的に解明されていない以上、何が正しいかなんて、誰にも分からないであろう。



