「相関関係」を見出すのは得意だが「因果関係」を見出すのは苦手、というのはAI研究者の発言として「なるほど」と思わせる。数式計算はべつに「因果関係」ではなく、「推理」ですらないのである。つまり、まさに機械的作業だ。そこが、計算をしながら常に推定し、先を探している人間との違いだろう。まして与えられた（あるいは内蔵する）データ以外の「反実」を仮想することは機械にはできない。なぜなら、「事実」以外のものは無限だからだ。人間はそこに「直観」を働かせて新しい可能性を見出す。

〈以下引用〉


・長期記憶とその想起：ヒトが過去のエピソードや事実に基づく構造化された長期記憶を想起しながら思考するのに対して、現行のLLMにはそのような仕組みはない
・因果推論と反実仮想：AIモデルは膨大なデータセットから相関関係を見出すのは得意だが、因果関係を見出したり反実仮想を立てるのは苦手
・アライメント、解釈可能性、安全性：Transformerを筆頭とする現代のブラックボックスAIは、説明するのが困難な出力を返すことが多く、これがそのまま安全性や信頼性の問題を引き起こしている
(※ https://tjo.hatenablog.com/entry/2025/04/29/192156 から引用)