LLM (ChatGPT, etc...) に関する自分の考え方

私の LLM (Large Language Model: 大規模言語モデル) に対して思っていること

LLM は基本的にこれまでの言語による資産（書籍、Web などなど）を学習し「それらしい文章」を生成してくれるもの、だと思っている。

私が考える LLM のメリット

使い所によるが、高い効果をもたらす場面はある。
私は、知らない分野の概要を把握する場合や、何かのアイデアを出させる、英語学習などで有用性を感じている。

私が考える LLM のデメリット

あくまで「それらしい文章」を生成するだけなので、間違った文章をそれらしく生成してしまうところだと考えている。
これは間違った情報を間違いと分からない分野では、非常に危険なことだと思っている。

また長期的観点で、LLM が発達しすぎると、人間が知識を得る手段として LLM が主流になってしまう可能性がある。
そうなると、LLM 以外での情報提供がなくなり、新たな知識が生まれる機会がなくなってしまうのではないかと私は思っている。

実際そう言った研究結果もあるようだし、人類が LLM に頼りすぎると長期的には人間の発展を阻害しているのではないかと思っている。

研究の結果、他のAIモデルの出力を使用してトレーニングしたAIモデルは、大きく偏りが生じ、過度に単純化され、現実との接点を失ってしまうことが明らかになった。その結果、最終的には機能的に役に立たなくなり、モデルが崩壊する可能性を示した。

(中略)

これを回避する唯一の方法は、人間が作成した本物のコンテンツへのアクセスが不可欠であり、それを実現するためには、AIモデルが生成した出力にラベルを付けて除外することだという。

生成AIに“生成AIが作った文章”を学習させ続けるとどうなる？　「役立たずになる」と英国チームが報告：Innovative Tech - ITmedia NEWS

自問1: LLM を開発したいか？

これは「いいえ」という答えになる。
大きく以下の３つの理由による。

LLM は「それらしい文章」をうまく生成させるかであり、自分は興味を感じない。
数学的素養や膨大なコンピューティングリソースが必要になるので、自分の能力では合わない。
デメリットのように、私は長期的に見て LLM が人類にもたらす良い影響は限定的と見ているので、モチベーションが低い。

まぁ、理由は後付けで AI のブーム時（LLM もその一つかもしれないが）にも直感的に合わないと感じていたので、同じようなものかもしれない。

自問2: LLM を使っていきたいか？

これは微妙なところだが「はい」という答えになる。
メリットにも書いたが、有用な場面もあるのでその時は使っていきたい。

ただ、デメリットにも書いたようなこともあるので、あまり使いすぎるのは良くないと思っている。
あくまで LLM もツールの一つとして、使えるところは使うというスタンスでやっていこうと考えている。

まとめ

LLM の発明自体は素晴らしいものだと思う。
「それらしい文章」を生成するだけでも会話として成り立つのは、そもそも人間の思考とは何かと考えさせられるきっかけにもなった。

ただ、まだ LLM を使うことによる悪影響はわからないし、私は使いすぎることで発生するデメリットがあると思っている。
なので、使えるところは使うが、頼りすぎないようにしていきたいと思っている。