DEVELOPER’s BLOG
技術ブログ
最初に学ぶ 単回帰分析の概要
1.単回帰分析とは
回帰とは、統計学においてYが連続値の時にY＝f(x)というモデルをあてはめる事である。
これにより二つの事項に関する相関関係などをを分析することができる。
2.単回帰分析の成り立ち
19世紀にフランシス・ゴルトンによって「回帰」という言葉が誕生した。
ゴルトンは、遺伝子学の研究において分析を行い、その際に身長と遺伝子の関係を回帰モデルを用いた事で後の統計学で使われる回帰モデルが発展した。
3.単回帰分析の例
例えば、都道府県の人口密度と人口100万人あたりのコンビニの数を示したグラフがあるとする。
薬局の数yを目的変数、人口密度xを説明変数とするとき、y=ax+bのa,bは回帰係数である。またy=ax+bのような式は単回帰式と呼ばれる。
4.単回帰分析の特徴
単回帰式は説明変数xが一つのみの状態の式である。
例えば、アパートの賃料を予想する際には、
単回帰分析の場合は、目的変数を賃料とおき,
説明変数を部屋の広さのみで求めるのに対して、重回帰分析ではその説明変数が複数あるものである。
5.y=ax+bの式には誤差が生じるがどう対処する。
データにはy=ax+bの線から離れた点も存在する。
これらの誤差が大きければ大きいほど予測が不正確になる
。
そのため、誤差を小さくしなければ正確な予想ができない。
そこで誤差をuとおきy=ax+bに挿入してu=y-ax-bと表す。
その後、誤差uを最小とするために最適なa、bを最小二乗法で求めれば誤差の小さい単回帰分析ができる。
6.回帰分析を用いるメリット
- 散布図から当てはまる直線を引くことで分かりやすく理解できる。
- データが無いところも推論できる。
7.総評
以上のことから単回帰分析は散布図から求められ、y=ax+bというわかりやすい線によって求めたい数を把握できるためメリットは大きい。しかしながら、使われる場面は重回帰分析の方が多い。
関連記事
線形モデル(linear model)は、実用的に広く用いられており、入力特徴量の線形関数(linear function)を用いて予測を行うものです。まず、説明に入る前に言葉の定義から紹介します。 線形回帰 データがn個あるとした時にデータの傾向をうまく表現することができるy=w_0×x_0+....+w_n×x_n というモデルを探し出すこと 正則化 過学習を防いで汎化性を高めるための技術で、モデルに正則化項というものを加え、モデルの形が複雑になりす
はじめに 昨日まで開催されていたKaggleの2019 Data Science Bowlに参加しました。結果から言いますと、public scoreでは銅メダル圏内に位置していたにも関わらず、大きなshake downを起こし3947チーム中1193位でのフィニッシュとなりました。今回メダルを獲得できればCompetition Expertになれたので悔しい結果となりましたが、このshake downの経験を通して学ぶことは多くあったので反省点も踏まえて
〜普及に向けた課題と解決策〜に続き 私が前回作成した記事である「海洋エネルギー × 機械学習 〜普及に向けた課題と解決策〜」では、海洋エネルギー発電の長所と課題とその解決策について触れた。今回はそこで取り上げた、 課題①「電力需要量とのバランスが取りにくい」、課題③「無駄な待機運転の時間がある」への解決策 ～発電量・電力需要量予測～ ～機械学習を用いた制御～ を実装してみる。 繰り返しにはなるが、この「発電量・電力需要量予測」と「機械学習を用いた制御」
回帰分析とは 先ず回帰分析とは、あるp個の変数が与えられた時、それと相関関係のあるyの値を説明、予測することである。ここで変数xを 説明変数 、変数yを 目的変数と呼ぶ。p=1、つまり説明変数が1つの時を単回帰、またp>=2、つまり説明変数が2つ以上の時を重回帰と呼ぶ。 単回帰分析 今回はp=1と置いた 単回帰分析 について説明する。 このとき、回帰式は y=ax+b(a,bは 回帰係数 と呼ばれる)となり直線の形でyの値を近似(予測)できる。 単回帰分析