Please enable JavaScript.

Coggle requires JavaScript to display documents.

人工知能分野の問題 - Coggle Diagram

- - - - 　ディープラーニング（深層学習）は、「特徴表現学習」を行う機械学習アルゴリズムの 1 つです。ディープラーニングは、与えられたデータの特徴量を階層化し、それらを組み合わせることで問題を解きます。
  - - - 特異点というのは数学や物理学でよく用いられる概念ですが、ある基準が適用できなくなる点のことを指します（たとえば、ブラックホールは一般的な物理法則が適用できなくなる点で、重力特異点と呼ばれます）。
- - - - 回帰問題（連続する値）
        過去の売上から、将来の売上を予測した
        
        線形回帰
        
        正則化項を加えた手法
        
        ラッソ回帰（ lasso regression）
        
        リッジ回帰（ridge regression）
      - 分類問題（連続しない値）
        与えられた動物の画像が、何の動物かを識別したい
        
        ロジスティック回帰
        
        シグモイド関数
        任意の値を 0 から 1 の間に閾値によって分類
        
        ソフトマックス関数
        たくさんの種類の分類
      - ランダムフォレスト（random forest）は
        決定木を用いる手法
        どの特徴量がどんな値になっているかを順々に考えていき、それに基づいて分岐路を作っていけば、最終的に1つのパターン（出力）を予測できる
        
        特徴量をランダムに選び出します
        それぞれの結果を用いて多数決をとること
        
        複数のモデルで学習させることをアンサンブル学習
        全体から一部のデータを用いて複数のモデルを用いて学習する方法をバギング（bagging）
      - ブースティング（boosting）
        バギングと同様、一部のデータを繰り返し抽出し、複数のモデルを学習させるアプローチをとります。
        
        バギングとの違い
        複数のモデルを一気に並列に作成する（バギング）
        逐次的に作成するか（ブースティング）。
        
        ランダムフォレストよりいい精度が得られます。
        その一方、学習にかかる時間は多くなります。
        
        モデル部分では決定木が用いられており、
        勾配ブースティング（ gradient boosting）などが有名
      - サポートベクターマシン（Support Vector Machine）
        SVMとも呼ばれ、ディープラーニングが考えられる以前は機械学習において最も人気のあった手法の1つでした
        
        異なるクラスの各データ点との距離が最大となるような境界線
        を求めることで、パターン分類を行うというものです
        
        この距離を最大化することはマージン最大化.
        
        対処相手
        
        ・扱うデータは高次元
        単純に直線ではなく超平面を考えればよいわけです
        
        ・データが線形分類できない（直線で分類できない
        何をもってマージン最大化となるかを考える必要
        
        データをあえて高次元に写像することで、その写像後の空間で線形分類できるようにするというアプローチ .
        
        カーネル関数
        写像に用いられる関数
        
        カーネルトリック
        計算が複雑にならないように式変形するテクニック
      - ニューラルネットワーク（neural network）
        人間の脳の中の構造を模したアルゴリズムです
        
        人間の脳にはニューロンと呼ばれる神経細胞
        互いに結びつくことで神経回路
        
        入力を受け取る部分を入力層、出力する部分を出力層
        ニューロンと、ニューロンの間のつながりは重みで表され
        どれだけの電気信号（値）を伝えるかを調整
        
        単純パーセプトロン（simple perceptron）
        単純なニューラルネットワークのモデルです
        
        ０～１ならシグモイド関数
        その場合にモデル名称をロジスティック回帰
        
        活性化関数
        層の間をどのように電気信号を伝播させるかを調整する
        
        多層パーセプトロン（ multi-layer perceptron）
        
        入力層と出力層の間に追加された層を隠れ層と言います
        
        誤差逆伝播法（backpropagation）
        層が増えることによって調整すべき重みの数も増えること
        予測値と実際の値との誤差をネットワークに
        フィードバックするアルゴリズム
        
        学習するデータ数が十分に多くない場合、識別・予測性
        能としてはブースティングやSVMのほうが優れ
      - 自己回帰モデル（autoregressive model, ARモデル）
        一般的に回帰問題に適用される手法
        
        モデルが対象とするのは時系列データ
        （time series data）であるということです。
        
        時系列データ分析のことを単純に
        時系列分析（ time series analysis）ともいいます
        
        定式化
        
        xtおよび xt-iが時系列データ、 wiがパラメータ、 cが定数（データ全体の偏りを調整するための項）、 eがデータに含まれるノイズ（モデル化できないもの）となります
        
        要は過去のデータが、予測したい現在のデータに対し、それぞれどれくらいの影響度合いをもっているか
        
        ベクトル自己回帰モデル
        （vector autoregressive mode、VARモデル
        複数種類の場合、はベクトルとなります
    - - ・ECサイトの売上データから、どういった顧客層があるのかを認識したい。
        ・入力データの各項目間にある関係性を把握したい。
      - 階層なしクラスタリング（k-means 法）
        
        データを k 個のグループに分けることを目的としています。すなわち、元のデータからグループ構造を見つけ出し、それぞれをまとめる、ということになります。
        
        グループのことを正確にはクラスタ（ cluster）と言い、 k-means 法を用いた分析のことをクラスタ分析
        
        1.まずは適当に各データをk 個のクラスタに振り分ける。
        
        各クラスタの重心を求める。
        
        求まったk 個の重心と各データとの距離を求め、各データを最も距離が近い重心に対応するクラスタに振り分け直す。
        
        重心の位置が（ほぼ）変化しなくなるまで 2 、 3を繰り返す。
      - 階層ありクラスタリング（ウォード法）
        
        最も距離が近い 2 つのデータ（クラスタ）を選び、それらを 1 つのクラスタにまとめる、という処理を繰り返していくだけです。
        
        この樹形図のことをデンドログラム（ dendrogram）と言います。
      - 主成分分析（Principal Component Analysis、PCA）
        データの特徴量間の関係性、すなわち相関を分析することでデータの構造をつかむ手法になります。特に特徴量の数が多い場合に用いられ、相関をもつ多数の特徴量から、相関のない少数の特徴量へと次元削減することが主たる目的となります。
        ここで得られる少数の特徴量を主成分と言います
        
        主成分分析以外にも、特異値分解（ Singular Value Decomposition、 SVD）や多次元尺度構成法（ Multi-Dimensional Scaling、 MDS）よく用いられます。
        
        可視化によく用いられる次元圧縮の手法としては、 t-SNE（ t-distributed Stochastic Neighbor Embedding）が有名です。
      - 協調フィルタリング（ collaborative filtering）
        レコメンデーション（ recommendation）に用いられる手法のひとつです。
        
        文字通りレコメンドシステム（推薦システム）に用いられ、例えばECサイト等でユーザーの購買履歴をもとに好みを分析し、関心がありそうな商品をおすすめする、などに活用されています。Amazon の商品ページで表示される「この商品を買った人はこんな商品も買っています」の裏側には協調フィルタリングが用いられていたというのは有名な話です。
        
        協調フィルタリングは事前にある程度の参考できるデータがない限り、推薦を行うことができません。これをコールドスタート問題（ cold start problem）と言います。
        
        これに対し、ユーザーではなく商品側に何かしらの特徴量を付与し、特徴が似ている商品を推薦するというコンテンツベースフィルタリング（ content-based filtering）
      - トピックモデル（ topic model）
        k-means 法やウォード法と同様クラスタリングを行うモデルですが
        
        トピックモデルは複数のクラスタにデータを分類するのが大きな特徴です。トピックモデルの代表的な手法に潜在的ディリクレ配分法（ latent Dirichlet allocation、 LDA）
        
        例えばニュース記事を政治・経済・芸能・スポーツに分けようとした際に、どのトピックに分類されるかを、記事内に出てくる単語からそれぞれ確率で求めます
        
        各文書データ間の類似度も求めることができるため、トピックモデルは似た文章を推薦する、すなわちレコメンドシステムに用いることができます。
    - - 理論概要.
        
        時刻における状態を、行動を、報酬をと表す
        
        ここで、式中のは割引率（ discount rate）と呼ばれるハイパーパラメータです
        
        環境が新しい状態に遷移する
        
        エージェントは遷移に応じた報酬を獲得
        
        得られた報酬をもとに、選択した行動の良し悪しを学習する
        
        ステップ 1 へ
        
        エージェントは時刻において環境から状態を受け取る
        
        エージェントは観測した状態から行動を選択して実行する
        
        「累積報酬を最大化するような状態と行動の対応関係を求めること」
      - バンディットアルゴリズム
        
        活用（exploitation ）「現在知っている情報の中から報酬が最大となるような行動を選ぶ」
        探索（exploration）「現在知っている情報以外の情報を獲得するために行動を選ぶ」
        
        活用と探索のバランス：バンディットアルゴリズム（bandit algorithm）
        
        ε-greedy 方策（epsilon-greedy policy）活用をする：報酬が最大となる行動を選択するが、
        UCB 方策（upper-confidence bound policy）：一定確率εで探索をする、すなわちランダムな行動を選択する
        方策（policy）とは、「ある状態からとりうる行動の選択肢、およびその選択肢をどう決定するかの戦略」
      - マルコフ決定過程モデル
        
        マルコフ性（Markovproperty）と呼ばれるもので、「現在の状態から将来の状態に遷移する確率は、現在の状態にのみ依存し、それより過去の状態には一切依存しない」という性質
        
        一般に状態遷移にマルコフ性を仮定したモデルのことをマルコフ決定過程（Markovdecisionprocess）と言います。
      - 最適な方策を直接求める代わりに、状態や行動の「価値」を設定し、その価値が最大となるように学習をするアプローチが考えられました
        
        状態価値関数（state-valuefunction）
        行動価値関数（action-valuefunction）=価値関数
        
        式の文字から価値関数のことをQ値（Q-value）とも呼び、このQ値を最適化できれば、適切な行動が選択できるようになる、というわけです。
        Q値を最適化する手法にはQ学習（Q-learning）やSARSAがあります
      - 方策勾配
        ロボット制御など、特に行動の選択肢が大量にあ
        るような課題で用いられます
        
        方策勾配法（policygradientmethod）と呼ばれるその手法は、方策をあるパラメータで表される関数とし、（累積報酬の期待値が最大となるように）そのパラメータを学習することで、直接方策を学習していくアプローチです。
        
        方策勾配法ベースの具体的な手法のひとつにREINFORCEという
        ものがあり、AlphaGoにも活用されています
        
        価値関数ベースおよび方策勾配ベースの考え方を組み合わせたActor-Criticというアプローチも存在します。
        Actor-Criticは、行動を決めるActor（行動器）と方策を評価するCritic（評価器）から成っているのがその名前の由来です。
        Actor-Criticは応用手法もたくさん考えられており、A3C（AsynchronousAdvantageActor-Critic）などがあります。
  - - - 正解率・適合率・再現率・F値
        
        混同行列（confusionmatrix）
        
        正解率（accuracy）
        全データ中、どれだけ予測が当たったかの割合。
        
        適合率（precision）
        予測が正の中で、実際に正であったものの割合。
        
        再現率（recall）
        実際に正であるものの中で、正だと予測できた割合。
        
        F値（Fmeasure）
        適合率と再現率の調和平均。
        
        目的に沿った
        指標を選択することが重要です
        
        訓練データにのみ通用するモデルは不適切です。このような状態に陥ってしまうことを過学習（overfitting、オーバーフィッティング）
        
        正則化は、学習の際に用いる式に項を追加することによってとりうる重みの値の範囲を制限し、過度に重みが訓練データに対してのみ調整されることを防ぐ役割を果たします。）
        
        一方で、正則化をしすぎてしまうと全体の汎化性能（予測性能）が低下してしまうので注意が必要です。これを過学習に対して未学習（underfitting、アンダーフィッティング
        
        L1正則化…一部のパラメータの値をゼロにすることで、特徴選択を行うことができる。
        
        L2正則化…パラメータの大きさに応じてゼロに近づけることで、汎化された滑らかなモデルを得ることができる。
        
        線形回帰に対してL1正則化を適用した手法をラッソ回帰、L2正則化を適用した手法をリッジ回帰と言います。また、両者を組み合わせた手法をElasticNetと言います。
      - ROC曲線とAUC
        
        ROC曲線（receiveroperatingcharacteristiccurve）
        AUC（areaunderthecurve）
        
        この閾値を0から1に変化させていった場合に、予測の当たり外れがどのように変化していくのかを表したものがROC曲線となります。
        
        （TPR,FPRはそれぞれTruePositiveRate,FalsePositiveRateの略です）。ここで、TPRは再現率（recall）と同じであること
        
        ROC曲線は視覚的にモデル性能を捉えることができる指標となります。また、ROC曲線より下部の面積のことをAUCと呼びます。これにより、AUCが1に近いほどモデル性能が高いことを表すことになり、視覚的だけでなく、数値としてもモデル性能を評価できることになります。
        
        OC曲線は、横軸にFPR、縦軸にTPRを取り、閾値を0から1に変化させていった際の両者の値をプロットしていったものを指し
      - モデルの解釈
        
        モデル全体を説明するのは困難でも、局所的に説明性をもたせていこうというアプローチがあります。例えばLIMEという手法は、元々の複雑なモデルを（特定のデータを対象に）単純な線形モデルに近似することによって、予測の説明性をもたせようとしています。
        他にもSHAPといった手法がありますが、いずれも単純なモデルによる近似を行い、特徴量の寄与度を測ることでモデルの解釈を行っています。
      - モデルの選択と情報量
        
        「ある事柄を説明するためには、必要以上に多くを仮定するべきでない」という指針を表すオッカムの剃刀（Occam'srazor/Ockham'srazor）に従うのが望ましいと言えます。
        
        では解きたいタスクに対して実際にモデルをどれくらい複雑にすれば良いのかは難しい問題ではありますが、この問いに対してのひとつの目安となるのが赤池情報量規準（Akaike'sInformationCriterion,AIC）という指標になります。これはいわば「モデルの複雑さと予測精度のバランス」を考えたもので、参考までに式を書くと、下式のようになります。AIC＝2log＋2ここで、はモrterDEMOWatデルの尤度、はパラメータ数を表します。
    - - モデルの評価も、未知のデータに対しての予測
        能力を見ることが適切です。
        
        手元にあるデータから擬似的に未知のデータを作りだす
        ことになります。手元にある全データを、学習用のデータと、評価用のデータにランダムに分割して評価します
        
        学習用のデータを訓練データ、評価用のデータをテストデータと言います。また、このようにデータを分割して評価をすることを交差検証と言います。
        
        ホールドアウト検証
        k-分割交差検証
        
        訓練データを更に分割する場合もあります。その際に分割されたデータはそれぞれ訓練データ、検証データと呼びます