事前学習Ⅱ LLM【事前学習Ⅱ:基礎理論 A-1】 TransformerがなぜLLMの基盤なのか。Embedding・Attention・FFN・Add & Normという構成要素の役割と配置の理由を、全体像から理解します。 2026.08.30 事前学習Ⅱ
現象の理解 LLM【スケール則:現象の理解 D-6】 ## セクション D-6: 今後のスケーリング研究と新しい方向性前回の ( では、アーキテクチャによってスケーリングの効き方が変わることを確認しました。Transformer は基準として安定しており、MoE は大規模化で伸びやすく、ViT... 2026.08.05 現象の理解