AI

AI

Pandas活用 factorize()関数の意味がわかる:Pandasのカテゴリ型データの取り扱い 

統計学で使うデータは大きく分けると「質的変数」と「量的変数」に分かれます。 質的変数:データがカテゴリで示されるもの 名義尺度:男女、電話番号(単に区別するだけ) 順序尺度:優、良、可...
AI

scikit-learnで教師あり学習

IT工房では機械学習の解説を行っています。 教師あり学習とは、説明変数から目的変数を予測するモデルを作成するために、正解の目的変数から学習する方法です。 そのため、必ず説明変数と同時に正解となるような目的変数を用意する必要があります。 ...
AI

Pandasの使い方まとめ(機械学習の事前準備でよく使う機能)

機械学習を行う前の事前処理として、よく使うPandasの機能をまとめています。 1.とりあえず読み込んでおきたいライブラリ, 2.ファイルの読み込みと保存, 3.CSVファイルの読み込み, 4.CSVファイルの保存, 5.データの確認, 6.変数別の基本統計量の確認, 7.先頭からの表示, 8.後ろからの表示, 9.列に複数の同じ値がある場合、それぞれの値の数を調べる, 10.欠損値処理, 11.欠損値の削除, 12.欠損値を平均値で埋める, 13.欠損値を0にしてそれ以外の文字列を1にする, 14.欠損値に他の列の値を利用, 15.教師データの分離と削除, 16.教師データ分離, 17.教師データ削除(説明変数作成), 18.ダミー変数作成, 19.ダミー変数作成, 20.2値のカテゴリ変数を数値に変換, 21複数のカテゴリ変数をそのまま数値化する これ、結構使える, 22.複数のカテゴリ変数をそのまま数値化する factorize関数を使わない方法, 23.標準化, 24.学習用データとテストデータの分離, 25.ホールドアウト法, 26.列の値の取得, 27.ユニークな値の取得, 28.ある列の値を条件判定しておいて、Trueの行の別の列の値の平均をとる, 29.PandasからNumpyに変換とその逆, 30.Pandas形式のデータをNumpy形式にする方法, 31.Numpy形式のデータをPandas形式にする方法, 32.要素の頻度(出現回数), 33.ビニング処理(ビン分割),
AI

単回帰分析でScikit-learnに説明変数を準備する際の注意点

Scikit-learnの単回帰分析で説明変数の指定する時の注意点です。 初心者はハマりやすいところですから注意しましょう。 次のサンプルは'G1'(1学期の成績)から単回帰分析を行い'G3'(最終学期)の成績を予測するモデルです。...
AI

Pandasの行や列の削除 drop関数とdel文

Pandasで作成した行列で特定の行や列を削除するにはdrop関数を使います。 drop(labels=None, axis=0, index=None, columns=None, level=None, inplace=False...
AI

Numpyのmat関数について

Numpyには行列オブジェクトを作成するためのmat()が用意されています。 一般的にNumpyの大多数の操作がndarray型を返しているためmat()関数は特別な理由が無い限り使用しない方が良いでしょう。 けれども、知っておいて損は...
AI

ニューラルネットワークの重みの計算〜なぜ線形代数(行列の内積)が必要か

ニューラルネットワークを理解するためには、まず重みの計算について知っておかなければなりません。 複数の重みの計算は線形代数の行列の内積を使い、しかもPythonのnumpyを使うと数行でプログラムできるのです。行列の内積を使う理由とその計算方法を高度な数学の知識なしで説明します。
AI

機械学習のためのデータ準備 CSVデータの読み込みとデータの確認と欠損値の確認

機械学習をする場合にまずデータを準備しますが、csv形式でデータが準備される場合も多いと思います。 データの確認や加工が簡単になるpandas形式で読み込むのがスタンダードになります。 必要なライブラリをまず読み込んでおきます。 ...
AI

PandasのDataFrame作成と結合方法

Pandasは機械学習やディープラーニングを行う上で、データの前処理など頻繁に使用します。 まずは徹底して使いなれるようにしましょう。エクセルを扱うよりもPandas を扱う方が楽だと思えるようになるまでいじり倒しましょう。 Data...
AI

混同行列と性能評価指標

学習済みモデルが、どの程度良いか判定するする指標を性能評価指標といいます。 そこで登場するのが混同行列です。 混同行列について 余談ですが、普通に「こんどうぎょうれつ」と入力すると「近藤行列」と変換されてしまい、「混同行列」= 「...
スポンサーリンク
タイトルとURLをコピーしました