Pythonでロジスティック回帰をする【機械学習入門18】

グローバルでAI開発者・データサイエンティストを目指す人向け
おすすめUdemy講座一覧

TOEIC300→海外就職の英語勉強法まとめ

こんにちは,米国データサイエンティストのかめ(@usdatascientist)です.

データサイエンス入門の機械学習編第18回です.

前々回の記事前回の記事でロジスティック回帰の理論の話をしましたが,今回の記事では実際にデータに対してPythonでロジスティック回帰を使って分類器を作るやり方を紹介します.

基本的な流れは今までの他の機械学習モデルと同じようにすればOKです.

それではやっていきましょう〜

データ準備

今回のデータは分類タスクのサンプルデータで有名なirisデータセットを使っていきます.今までの記事同様,seabornのload_dataset関数を使います.

irisはアヤメという花の名前で,本データセットはsetosa(ヒオウギアヤメ), versicolor(ブルーフラッグ), virginica(日本語訳不明)という3つの種( species )のそれぞれの以下の4つの特徴量の値を記載しています.

  • sepal_length : がく片の長さ
  • sepal_width : がく片の幅
  • petal_length : 花びらの長さ
  • petal_width : 花びらの幅

この4つの値から,あやめの種をうまく分類する分類器を作ることを考えます,

興味がある人はデータセットについて色々と調べてみてください.今回は詳細は割愛し,sns.pairplotで概要だけ掴みましょう.

species で色分けしてみました.結構綺麗に分かれてそうですね.今回のデータセットに入っている4つの特徴量をみるだけで,これらの種をそこそこの精度で分類することができそうです.

学習データとテストデータ準備

それではまずは今まで通り学習データとテストデータを作ります.今回はhold-outで7:3にデータを分割します.

すると,学習データ105個,テストデータ45個に分割できました.

それではこの学習データに対してロジスティック回帰で分類器モデルを作ってみましょう!

学習

ロジスティック回帰は sklearn.linear_model.LogisticRegression を使います.

うさぎ
ロジスティック回帰って非線形のシグモイド関数を使って最終的に曲線になるのに”linear_model”なの?

ロジスティック回帰は,実際にやっていることは線形回帰をして,最後にシグモイド間数を使って出力を0~1に収めているので,実は線形モデルの仲間なんです.なので LinearRegression クラス同様, sklearn.linear_model の中に入ってます!

LogisticRegression クラスはインスタンス生成時に様々な引数を取ります.全部理解する必要はないのですが,重要な引数を以下に書いておきます.

  • penalty : 正則化項を選択します.以下の4つの文字列から選択します.デフォルトは”l2″が設定されています.
    • 'l1' : L1ノルム正則化項(これはLassoの形の正則化項です.特徴量選択をしたい時に指定してください)
    • 'l2' : L2ノルム正則化項(これはLassoの正則化項の絶対値を二乗にしたバージョンだと思ってください.これはRidgeと呼ばれるアルゴリズムですが,本講座では扱いません.L2ノルムでは特徴量の係数は0にならず,全体的に係数を小さく形になります.)
    • 'elasticnet' : L1ノルムとL2ノルムを混合させたものです.本講座では扱いません.
    • 'none' : 正則化項がないバージョンで,前々回の記事前回の記事で紹介したロジスティック回帰の式です.
  • solver : 最適化アルゴリズムを選択します.以下の5つの文字列から選択します.各アルゴリズムの詳細は本講座では対象外です.デフォルトはバージョン0.0.2以降は "lbfgs" が設定されています.それ以前は "liblinear" が設定されています.以下に簡単にそれぞれの特徴だけ記しておきます.
    • 'newton-cg' : 2次微分を使って最適化をしていきます.2次微分を使うので計算量がかなり高いです.
    • 'lbfgs' : 2次微分を近似するBFGS法のLimited-memory版.限られたメモリで実行できるようにしたもので,よく使われます.小さいデータセットでは比較的いい精度がでます.
    • 'liblinear' : 特徴量が高次の場合に推奨されます.多クラス分類の場合“One-vs-Rest”となります.
    • 'sag' : Stochastic Average Gradientの略です.データ数や特徴量数が大きい場合,他のアルゴリズムより早く収束します.
    • 'saga' : SAGアルゴリズムの仲間で,L1ノルムの正則化項に対応したバージョンです.
  • random_state : solver'sag' , 'saga' , 'liblinear' の場合,データがシャッフルされるので,その際の乱数の種を指定します.
  • multi_class : 多クラス分類の場合, 'ovr' , 'auto' , 'multinomial' から選択します.デフォルトは 'auto' で,この場合solver=’liblinear’の場合だったり2クラス分類の場合は 'ovr' になり,それ以外では 'multinomial' (多項ロジスティック回帰)になります.

少し厄介なのが, solver の値によって,サポートしている penalty と multi_class が異なります.scikit-learn公式ドキュメントにまとめ表があるので貼っておきます.

うさぎ
うへー,色々あってよくわからない...

この辺りを100%理解して最適なパラメータを選択するの難しいです.なので,まずはそれぞれのパラメータの組み合わせでモデルを作って,k-foldCVなどで汎化性能を測定して,最も精度が高いものを選ぶのでいいでしょう.余裕があればこの表を見てから組み合わせを作るといいと思います.)

また,多クラス分類の場合はMultinomial lossを使う場合とOVR(One-vs-Rest)を使う場合の二種類があります.これについては前回の記事で解説した通りです.

色々書きましたが,今回は solver はデフォルトの 'lbfgs' で正則化項は無し( penalty='none' )を指定してやってみましょう!

こんな感じでいつも通り簡単にモデルを学習させることができます♪

補足
今回は特徴量の標準化を行いませんでしたが,特徴量のスケールが違いすぎる場合は標準化をすることで最適化問題の収束が早くなり,学習も安定します.

予測

それでは,学習したモデルを使って,予測してみましょう.

予測をするには回帰モデル同様 .predict() メソッドを呼べばOKです. X_test を引数に渡して予測の結果を見てみましょう.

すると,それぞれのテストデータの4つの特徴量の値に応じて 'virginica' , 'versicolor' , 'setosa' の3種に分類しているのがわかると思います.

実際に分類器を業務等で使う場合は,それぞれのラベル(クラス)の確率を知りたいケースが多いです.

その場合は .predict_proba() メソッドを使います.使い方は同じです.

出力の結果は,それぞれのデータに対して,各クラスの確率(=モデルの自信度)がリストで返ってきます.例えば一つ目のデータの場合,’setosa’の確率が0で’versicolor’の確率が3.17×10^-259とほぼ0で,’virginica’の確率が1です.つまり結果は’virginica’ということですね.

ちなみにクラスの順番は model.classes_ の順です.

今回のデータセットは先ほど見た通り,かなり簡単に分類できるデータなのでどの結果を見てもほぼほぼ確率100%で分類しています.

モデルの係数を確認

それでは学習したモデルがどのような形になっているのか見てみましょう!

今回は 'multi_class'='auto'solver='lbfgs' なので多項ロジスティック回帰になります.

多項ロジスティック回帰の式はソフトマックス関数を使った以下の式です.

$$p_k(x)=\frac{e^{\theta^k_0+\theta_1^kX_1+\theta_2^kX_2+\theta_3^kX_3+\theta_4^kX_4}}{\sum_{i=1}^{3}e^{\theta^k_0+\theta_1^kX_1+\theta_2^kX_2+\theta_3^kX_3+\theta_4^kX_4}}$$

\(\theta^k_0\)(\(k=1, 2, 3\))は model.intercept_ で,\(\theta^k_i\)(\(k=1, 2, 3 i=1, 2, 3, 4\))は model.coef_ でアクセスすることができます.

これも LinearRegressionクラスと同じですね!

\(k\)の順番は先程述べたように model.classes_ です.\(i\)の順番は model.feature_names_in_ の通りです.( .feature_names_in_ はversion 1.0以降で利用可能です.versionが古い人は $pip install --upgrade scikit-learn で更新しましょう.Jupyter noteで実行する場合は ! をつけてください.)

モデルの評価

うさぎ
で,このモデルの精度はどんなもんなの?

分類器の精度の指標については,次回の記事以降で紹介していきます!最終的なラベル付け(予測の結果のクラス)をどうするかというのも,この精度の指標に大きく関わってきます.

例えばAというクラスの確率が40%, Bというクラスという確率が60%という結果だった場合,本当にBという結果に分類していいのでしょうか?

これがもし,病気の陰性/陽性を判定するモデルだったらどうでしょう?陽性の確率40%, 陰性の確率60%だった場合,陰性と結論づけていいのでしょうか?陽性を陰性と間違えて分類することは,陰性を陽性と間違えて分類するよりも問題が大きそうです.(本当は病気なのに病気じゃないって誤診することになるわけなので・・・)

分類器の評価の指標を学習することは,機械学習で分類をする上で必要不可欠です.機械学習の一大分野とも言える内容になってくるので,次の記事でしっかり学んでいきましょう!

まとめ

今回の記事ではPythonでロジスティック回帰のモデルを構築するやり方を紹介しました.他のアルゴリズム同様,scikit-learnを使えば簡単にロジスティック回帰を使うことができます.

  • ロジスティック回帰は sklearn.linear_model.LogisticRegression クラスを使う
  • インスタンス生成時の引数で, penalty と solver はそれぞれ組み合わせがあることに注意する.
  • .predict_proba() で引数のデータの分類の結果を確率で返す. .predict() では最も高い確率のクラスの結果を返す.

次回の記事以降では分類器の評価指標について紹介していきます!モデルを学習して終わりなんてことはなく,必ずモデルの評価が必要になります.

分類器を正しく評価するためにはケースに応じて正しい評価指標を使う必要があります.引き続き学んでいきましょう!!

それでは!