RNN

基礎理論

大規模言語モデル入門【Transformer:基礎理論A-1】

言語モデルの本質と進化軌跡:N-gramからTransformerへスマートフォンのキーボードで「私は学校へ」と入力した時、次に出現しそうな単語を予測する機能が働きます。この「次に来そうな単語を予測する能力」こそが、言語モデル(Langua...
機械学習

【第10回】時系列データ解析と自然言語処理の基礎(前編)

【今回の主な内容】時系列データ解析と生成タスクの基礎今回のテーマは、時系列データと自然言語処理(NLP)の基礎としての生成分野を学び、RNNを中心とした時系列モデルの役割を理解することです。前編では時系列データ解析の基礎と生成分野、後編では...