D/N比

最適配分戦略

LLM【スケール則:最適配分戦略C-1】

Chinchilla則の発見経緯から、固定計算予算下でモデルサイズとデータ量をどう配分するかまでを整理。GopherとChinchillaの比較を通じて、最適配分の考え方を実務目線で解説。
基礎理論

LLM【スケール則:基礎理論A-4】

DeepMind が発見した Chinchilla 則を解説。パラメータ数とデータ量の最適比率、従来の常識を覆した発見の意味を理解します。