事前学習

事前学習

LLM 事前学習:Transformer シリーズ総集編 vol.1

このページでわかることこのページは、大規模言語モデルの「事前学習:Transformer」シリーズ全体の案内ページです。ブログ A 〜 E を 1 ページにまとめ、一目で把握できるように整理しています。何を知りたいときにどのシリーズを見れば...
基礎理論

LLM【Transformer:基礎理論A-6】

基礎用語集と確認問題:Transformerの理解度チェックこれまでの【Transformer:基礎理論 A-1〜A-5】で学んだ内容は、理解したつもりでも、用語が混ざるとすぐに曖昧になりやすいです。そこでこの記事では、重要用語を一覧で整理...
基礎理論

LLM【Transformer:基礎理論A-1】

言語モデルの本質と進化軌跡:N-gramからTransformerへスマートフォンのキーボードで「私は学校へ」と入力した時、次に出現しそうな単語を予測する機能が働きます。この「次に来そうな単語を予測する能力」こそが、言語モデル(Langua...
機械学習

【第10回】時系列データ解析と自然言語処理の基礎(後編)

【今回の主な内容】時系列データから言語理解まで、Transformerの可能性を探る今回のテーマは自然言語処理、時系列データ解析、音声認識における技術進化の流れと、Transformerモデルの登場が果たした革新について解説します。まず、自...
機械学習

【第9回】ディープラーニングの基礎とCNNの仕組み(後編)

【今回の主な内容】畳み込みニューラルネットワーク(CNN)の構築と応用今回のテーマでは、画像認識タスクの土台となる、畳み込みニューラルネットワーク(CNN)の構築とその応用に焦点を当てます。CNNは、画像から特徴を抽出し、分類するために最適...