Perplexity

実装と検証

LLM【スケール則:実装と検証B-2】

スケール則における評価指標依存性を詳解。Training Loss、Perplexity、Task-Specific Accuracyなど複数の評価指標でPower Law指数がどのように異なるかを実装と共に学びます。