エントロピー

機械学習

【第3回】情報理論と高度な数学概念による機械学習の最前線

前回の振り返り 前回のブログでは、機械学習を支える数学の基礎として確率統計と最適化手法について詳しく学びました。 今回は、情報理論と高度な数学概念が機械学習にどのように貢献するかを探ります。特に、エントロピーやKLダイバージェンスなどの概念...
機械学習

【第7回】教師あり学習の基礎と代表的なアルゴリズム(中編)

第7回の目標 第7回中編のブログでは、決定木とランダムフォレストを深く理解し、実践的に活用することを目指します。ただ単にアルゴリズムの仕組みを知るだけでなく、それぞれの特性や適用場面を意識しながら学習を進めることが重要です。 決定木では、不...