事前学習Ⅱ LLM【事前学習Ⅱ：基礎理論 A-1】
TransformerがなぜLLMの基盤なのか。Embedding・Attention・FFN・Add & Normという構成要素の役割と配置の理由を、全体像から理解します。
事前学習
事前学習Ⅱ 
事前学習Ⅰ LLM 事前学習：Transformer シリーズ総集編 vol.1
このページでわかることこのページは、大規模言語モデルの「事前学習：Transformer」シリーズ全体の案内ページです。ブログ A 〜 E を 1 ページにまとめ、一目で把握できるように整理しています。何を知りたいときにどのシリーズを見れば...
基礎理論 LLM【Transformer：基礎理論A-6】
基礎用語集と確認問題：Transformerの理解度チェックこれまでの【Transformer:基礎理論 A-1〜A-5】で学んだ内容は、理解したつもりでも、用語が混ざるとすぐに曖昧になりやすいです。そこでこの記事では、重要用語を一覧で整理...
基礎理論 LLM【Transformer：基礎理論A-1】
言語モデルの本質と進化軌跡：N-gramからTransformerへスマートフォンのキーボードで「私は学校へ」と入力した時、次に出現しそうな単語を予測する機能が働きます。この「次に来そうな単語を予測する能力」こそが、言語モデル（Langua...
機械学習 【第10回】時系列データ解析と自然言語処理の基礎（後編）
【今回の主な内容】時系列データから言語理解まで、Transformerの可能性を探る今回のテーマは自然言語処理、時系列データ解析、音声認識における技術進化の流れと、Transformerモデルの登場が果たした革新について解説します。まず、自...
機械学習 【第9回】ディープラーニングの基礎とCNNの仕組み（後編)
【今回の主な内容】畳み込みニューラルネットワーク（CNN）の構築と応用今回のテーマでは、画像認識タスクの土台となる、畳み込みニューラルネットワーク（CNN）の構築とその応用に焦点を当てます。CNNは、画像から特徴を抽出し、分類するために最適...