
予測・回帰分析では、社会現象や物理現象の内部メカニズムを推定して現象の進展を予測・制御するため、観測データに数理モデルをあてはめます。線形と非線形モデルの体系と主な手法について紹介します。
機械学習の分野は統計数理モデルに基づく多変量解析とヒトの脳神経細胞網に基づくニューラルネットワークに大別できます。多変量解析には集約、分類、要約、予測の4つの手法群があり、予測・回帰が今回のテーマとなります。
予測のための数理統計モデルの体系を学びます。線形モデルから単回帰と重回帰、その拡張として数量化Ⅰ類、非線形モデルからポアソン回帰とロジスティック回帰を選定し、数理モデルの構造の違いを理解します。
観測データ間に相関関係が有るかどうかを判定する方法を学びます。相関関係があれば数理モデルは構築できますが、現実的に意味のあるモデルであるためには因果関係が必要であることを理解します。
単回帰分析の原理を学びます。観測データに線形回帰式をあてはめてパラメータを推定する方法として、最小二乗法、最尤推定法、ベイズ推定法の3つを習得します。
単回帰分析の構造を学びます。観測値と予測値と誤差の間の統計学的な特性について理解を深め、モデルの解釈と評価のポイントを把握します。
例題で単回帰分析の適用方法を学んだあと、演習として賃貸住宅の家賃Yを部屋の広さXから予測する問題に取り組みます。分析結果に基づいてモデルを解釈して評価する方法を習得します。
重回帰モデルの原理を学びます。基本的には単回帰ど同様ですが、複数のX間の相関関係の強さを表す多重共線性の診断と、Xの数が異なるモデルの性能を比較する調整済み決定係数について理解します。
賃貸住宅の家賃Yを部屋の広さX1、駅までの距離X2、築年数X3、コンビニまでの距離X4から予測する演習問題を通して、重回帰モデルの適用方法と最適なモデルの評価方法を習得します。
数量化理論の全体像を学びます。数量化にはⅠ類からⅣ類まであり、それぞれの特徴を把握するとともに、今回のテーマである数量化Ⅰ類が重回帰分析に拡張できることを理解します。
数量化Ⅰ類の原理を学びます。質的変数を数値化するダミー変数を使って、重回帰分析に拡張して分析する方法を例題を解きながら理解します。
数量化Ⅰ類モデルの適用方法を学びます。賃貸住宅の家賃を予測する問題で、部屋の広さと駅までの距離を質的変数としたデータを用いて、数量化Ⅰ類モデルの適用方法と最適なモデルの評価方法を習得します。
一般化線形モデルの概要を把握します。線形モデルから一般化線形モデルに至るプロセスを理解し、ポアソン回帰とロジスティック回帰を例にしてモデルの構造とパラメータの推定方法を学習します。
ポアソン回帰分析を学びます。ごくまれにしか起こらない事象が一定期間内に発生する平均回数を予測する手法です。コンビニの1日の平均来客数を地域の人口とイートインスペースの有無から予測する演習問題に取り組み、手法の適用プロセスと評価方法を習得します。
ロジスティック回帰分析を学びます。2値の目的変数を0から1の確率に置き換えて事象の発生確率を予測する手法です。タイタニック号の事故データを用いて乗客の年齢、性別、客室クラスから生存確率を予測する演習問題に取り組み、手法の適用プロセスと評価方法を習得します。
今回の講義では、機械学習の多変量解析の分野から、予測・回帰の手法を学びました。線形回帰、数量化Ⅰ類、一般化線形モデルのパラメータ推定アルゴリズムと最適なモデルの評価方法を振り返って確認します。
機械学習の予測・回帰の手法について原理から応用まで完全マスターしましょう。ポイントは3つです。
1. 予測の目的と手段:多くの変数が互いに影響を及ぼし合う社会現象や自然現象において、観測データの挙動に統計数理モデルを当て嵌める回帰分析の手段を用いることによって現象の進展を予測することを目的としています。
2.数理モデルの体系:正規分布のデータに適用する線形回帰モデル、質的データを扱う数量化Ⅰ類のモデル、非正規分布のデータに適用する一般化線形モデルについて、モデルの構造とデータ挙動に当て嵌めるためのパラメータ推定のアルゴリズムを理解します。
3. 主要な分析手法:単回帰分析、重回帰分析、数量化Ⅰ類、ポアソン回帰、ロジスティック回帰の5つの手法について、賃貸住宅の家賃の予測、コンビニの1日の平均来客数の予測、タイタニック号の乗客の生存確率の予測などの演習問題を通じて、予測手法の適用方法やモデルの解釈と評価方法を習得します。