LLMは本当に人間の思考回路に近いのか？

生成AI、それとLLMは人間の問に対して適切に回答を出し、進化の度合いには驚かされます。しかし、回答を出せるからと行ってAIが人間に近づいている（あるいは凌駕した）と言えるでしょうか？

現在のAI（ここではLLMに限定して言及するとしますが）、はLLMはあくまで入力されたプロンプト（文字列）に関連する情報集めて整理して最もあり得る組み合わせで出力しているに過ぎません。

まず、LLMの機能は与えられたデータに基づいてパターン認識し、最も可能性の高い出力を生成する機械学習モデルです。しかし、この出力は単なる情報の整理と組み合わせに過ぎず、真の意味での「理解」や「思考」とは言えないかもしれません。LLMは、過去のデータに基づいて統計的な予測を行うだけであり、その過程で主観的な経験や感情、意識といった要素は全く反映されません。

では、人間の脳も同様なのでしょうか？　この問いは、長年哲学と神経科学が取り組んできた根源的な問題提起です。脳の物理的・化学的な活動を測定することは可能であり、fMRI（機能的磁気共鳴画像法）やEEG（脳波計測）などの技術を用いて、脳の様々な部位がどのように活性化しているかを可視化することができます。しかし、これらの測定はあくまで「出力された信号」の記録に過ぎないのではないでしょうか。脳は、外部からの刺激に対して様々な信号を生成し、それらが相互作用することで意識や思考が生み出され、外部に出力されます。しかし、その「途中経過」すなわち思考過程や反応過程を直接的に捉えることは極めて困難です。

無理矢理にでも「途中経過」を測定して、中身を確認しようとすると、もしかしたら、量子力学における観測が結果に干渉してしまうようなことになりかねないかも知れません。これはまあ全くの想像ですけれど。

さらに、言動や反応は、脳の出力結果に過ぎません。ヒトが発する言葉や行動は、脳内の様々なプロセスを経て生み出されると考えられますが、先に述べたように、これらのプロセスの中間段階を完全に理解することは非常に困難です。

この問題に対する解決策は、現在の科学技術ではまだ見つかっていないかもしれません。しかし、脳科学の研究が進むにつれて、脳の仕組みや思考のメカニズムについて理解を深めることができるようになるはずです。

逆向きに思考を転回させれば、LLMが人間の思考の模倣として十分に言えるのであれば、十分に進化したLLMの途中過程を見ることによって、脳における思考回路の途中過程をある程度想像できるでしょう。そのときにも、量子力学的な干渉による影響があるとしたら、途中過程を覗き見るのは止めたほうが良いのかも知れませんね。