大規模言語モデルは何を予測するのか

大規模言語モデル（LLM）は、文脈に応じたトークンの確率を学ぶモデルです。文章の生成、要約、翻訳、コードなどへ応用できますが、学習された規則性、入力で与える情報、外部検索による根拠を区別して使う必要があります。

次のトークンの分布を求める

自己回帰型の言語モデルは、それまでのトークンを条件として次のトークンの確率分布を計算します。系列x₁,…,xₙの確率は、確率の連鎖律によってP(x₁)…P(xₙ|x₁,…,xₙ₋₁)という条件付き確率の積で表せます。仮に三つの選択の条件付き確率が0.2、0.5、0.4なら、その三トークンの接頭部分の確率は0.04です。これは各単語が独立という仮定ではありません。前に何が現れたかに応じて次の分布が変わることが、文脈を利用する中心的な仕組みです。

学習の目的は実際の続きを当てること

典型的な事前学習では、文章の途中までを入力として、実際の次のトークンへ高い確率を与えるよう重みを調整します。負の対数確率を平均した交差エントロピーなどを損失に使い、文法、語の関連、記述の規則性を学びます。正解トークンへ0.5の確率を与えた場合と0.1しか与えなかった場合では、後者の損失が大きくなります。ただしデータには誤りや偏り、架空の物語も含まれ得ます。データ中でありそうな続きを学ぶ目標と、現実について常に正確に述べる目標は完全には一致しません。

単純な目的から幅広い使い方へ

文章には説明、会話、手順、プログラムなどが含まれるため、次のトークンを予測する学習から多様な課題に役立つ表現が得られます。入力に指示や少数の例を入れて、出力形式を示す使い方もできます。例えば「赤→red、青→blue、緑→」と例を与えることは、推論時に文脈を与える操作です。通常、その場で重みを更新して新しいモデルを作ったわけではありません。こうした文脈内での適応と、勾配を使う微調整を区別すると、どの情報が会話後にも保持されるかを考えやすくなります。

文脈・重み・検索結果は別の情報源

学習済みの重みには訓練から得た規則性が反映されていますが、参照元を完全な一覧として取り出せるとは限りません。現在の入力には利用者の文章、会話履歴、検索で得た資料などが含まれ得ます。モデルが扱える文脈量には上限があり、入力と生成分の数え方や制限はモデルや実装によって異なります。長文から情報を使うには、重要な部分が実際に入力へ含まれ、適切に参照される必要があります。検索を組み合わせれば新しい資料を渡せますが、検索の失敗や引用の取り違えまで自動的に解消されるわけではありません。

流暢さと検証可能性を分けて使う

文章が自然でも、存在しない出典や誤った数値をもっともらしく作る場合があります。計算は実際に計算機で検算し、引用は原資料と照合し、コードは目的に即した動作で確認します。モデルの大きさや一つの試験の点数だけで、別分野の正しさを決めないことも大切です。複数候補を比較し、根拠を入力に含め、答えられない場合の扱いを設けると検証しやすくなります。長い説明や思考風の文章が出たこと自体も、結論の証明にはなりません。課題に合わせた基準で、内容と結果を確かめます。

関連項目