2026-08

事前学習Ⅱ

LLM【事前学習Ⅱ:基礎理論 A-1】

TransformerがなぜLLMの基盤なのか。Embedding・Attention・FFN・Add & Normという構成要素の役割と配置の理由を、全体像から理解します。
現象の理解

LLM【スケール則:現象の理解 D-6】

## セクション D-6: 今後のスケーリング研究と新しい方向性前回の ( では、アーキテクチャによってスケーリングの効き方が変わることを確認しました。Transformer は基準として安定しており、MoE は大規模化で伸びやすく、ViT...