事前学習Ⅱ LLM【事前学習Ⅱ：基礎理論 A-４】 LLMは文章をそのまま読めません。BPEとSentencePiece、語彙サイズ、特殊トークン、多言語の観点から、テキストをモデル入力へ変換する設計を理解します。 2026.09.05 事前学習Ⅱ
実装詳細 LLM【事前学習：実装詳細B-1】 Embedding層と入出力形状の追跡：BPEからベクトル化までブログA（基礎理論）では、Transformerの全体構造を学びました。ここからは、各コンポーネントの実装詳細を深掘りしていきます。まずは、テキストをモデルが処理できる形式に変... 2026.01.28 実装詳細
事前学習Ⅱ 