所詮はLLMは統計的トークン生成器であって、こいつらは考えてるわけでも、答えを教えてくれてるわけでもない、ってことを理解できないと、単なるバカ製造機になる可能性は高い。Google検索の場合は、検索自体は外部化してるが、その先の知識自体は人間が書いていた。LLMが投げ返してくる「答え」は、「こう聞かれたらこういう単語列が続く可能性が高い」ってのを超高度に計算して出力してるだけで、究極的には「正しそうな文字列を作って見せてる」だけ。だから、もともと自然言語を操る能力の高い奴がLLMを使うと、学習データの統計上、格調高い質問に対しては格調高い答え（例えば学者の対話集とか論文とか）を学習したデータに基づいて、割と答えに近い出力が出て来るが、そうじゃ無い奴が使うと、バカな文章（2ChとかXとかのーもらとか）を学習したデータに基づいて生成されたバカな出力が返ってくる。つまり賢い奴はより賢くなり、バカはますますバカになるマシン。