計算資源

基礎理論

LLM【スケール則:基礎理論A-2】

LLM 訓練に必要な計算量を正確に測る方法を解説。FLOPs と FLOPS の違い、C=6ND の公式、PF-days への変換を学びます。
基礎理論

LLM【スケール則:基礎理論A-1】

LLM の性能がどのようにスケールするのかを予測するスケール則の基本概念を解説します。モデル大規模化の秘密に迫ります。