n元連立1次方程式

ls_cg.eq1.gif

の係数行列Aが正値対称行列であるならば, その解ls_cg.eq2.gifを求めることは, 以下の方程式の最小値探索と同等である.

ls_cg.eq3.gif

ここで,(*,*)はベクトルの内積を表す. ls_cg.eq4.gifを直接解く代わりに, 方程式ls_cg.eq5.gifの最小値探索により解を求める方法を 共役勾配法(conjugate gradient method:CG法)と呼ぶ.

ls_cg.eq5.gifの最小値探索が元のn元連立1次方程式を解くことと同等になることの証明を以下に示す.

まず,ls_cg.eq5.gifを成分で表すと,

ls_cg.eq6.gif

となる.最小値を持つ点では関数の偏微分値(傾き)が0となる. ls_cg.eq7.gifで偏微分すると,右辺第1項はi=kとj=kの要素のみが残るので,

ls_cg.eq8.gif

Aは対称行列であるので,ls_cg.eq9.gifである.よって,

ls_cg.eq10.gif

この式はls_cg.eq4.gifを成分で表示したものである. よって,ls_cg.eq4.gifの解はls_cg.eq5.gifを最小にするls_cg.eq2.gifと同じになる.

共役勾配法の計算手順

共役勾配法の計算手順を以下に示す.

  1. 初期近似解ls_cg.eq11.gifを適当に設定
  2. 初期近似解に対する残差を計算,修正方向ベクトルを70%&ref(ls_cg.eq13.gif,nolink);ls_cg.eq12.gifで初期化
    ls_cg.eq14.gif
  3. 以下の計算を収束するまで繰り返す(k=0,1,2,...)
    1. ls_cg.eq15.gifを計算
    2. 修正係数ls_cg.eq16.gifを計算
      ls_cg.eq17.gif
    3. k+1ステップの近似値を算出
      ls_cg.eq18.gif
    4. k+1の近似値に対する残差を計算
      ls_cg.eq19.gif
    5. ls_cg.eq20.gifならば収束したとして計算を終了
    6. 方向ベクトルls_cg.eq21.gifの修正係数ls_cg.eq22.gifを計算
      ls_cg.eq23.gif
    7. k+1ステップの方向ベクトルls_cg.eq24.gifを計算
      ls_cg.eq25.gif

共役勾配法の実装

共役勾配法のC++による実装例を以下に示す.

  1
  2
  3
  4
  5
  6
  7
  8
  9
 10
 11
 12
 13
 14
 15
 16
 17
 18
 19
 20
 21
 22
 23
 24
 25
 26
 27
 28
 29
 30
 31
 32
 33
 34
 35
 36
 37
 38
 39
 40
 41
 42
 43
 44
 45
 46
 47
 48
 49
 50
 51
 52
 53
 54
 55
 56
 57
 58
 59
 60
 61
 62
 63
 64
 65
 66
 67
 68
 69
 70
 71
 72

int CGSolver(const vector< vector<double> > &A, const vector<double> &b, vector<double> &x, int n, int &max_iter, double &eps)
{
    if(n <= 0) return 0;
 
    vector<double> r(n), p(n), y(n);
    x.assign(n, 0.0);
 
        for(int i = 0; i < n; ++i){
        double ax = 0.0;
        for(int j = 0; j < n; ++j){
            ax += A[i][j]*x[j];
        }
        r[i] = b[i]-ax;
        p[i] = r[i];
    }
 
    double rr0 = dot(r, r, n), rr1;
    double alpha, beta;
 
    double e = 0.0;
    int k;
    for(k = 0; k < max_iter; ++k){
                for(int i = 0; i < n; ++i){
            y[i] = dot(A[i], p, n);
        }
 
                alpha = rr0/dot(p, y, n);
 
                for(int i = 0; i < n; ++i){
            x[i] += alpha*p[i];
            r[i] -= alpha*y[i];
        }
 
                rr1 = dot(r, r, n);
 
                e = sqrt(rr1);
        if(e < eps){
            k++;
            break;
        }
 
                beta = rr1/rr0;
        for(int i = 0; i < n; ++i){
            p[i] = r[i]+beta*p[i];
        }
 
                rr0 = rr1;
    }
 
    max_iter = k+1;
    eps = e;
 
    return 1;
}

ここで,std::vectorの内積を求めるdot関数を定義して用いている.


添付ファイル: filels_cg.eq8.gif 713件 [詳細] filels_cg.eq9.gif 831件 [詳細] filels_cg.eq34.gif 716件 [詳細] filels_cg.eq39.gif 628件 [詳細] filels_cg.eq6.gif 1274件 [詳細] filels_cg.eq38.gif 663件 [詳細] filels_cg.eq5.gif 696件 [詳細] filels_cg.eq32.gif 790件 [詳細] filels_cg.eq27.gif 707件 [詳細] filels_cg.eq26.gif 796件 [詳細] filels_cg.eq30.gif 850件 [詳細] filels_cg.eq40.gif 729件 [詳細] filels_cg.eq7.gif 724件 [詳細] filels_cg.eq23.gif 667件 [詳細] filels_cg.eq36.gif 652件 [詳細] filels_cg.eq25.gif 768件 [詳細] filels_cg.eq29.gif 712件 [詳細] filels_cg.eq31.gif 709件 [詳細] filels_cg.eq4.gif 678件 [詳細] filels_cg.eq35.gif 620件 [詳細] filels_cg.eq41.gif 721件 [詳細] filels_cg.eq3.gif 731件 [詳細] filels_cg.eq37.gif 724件 [詳細] filels_cg.eq24.gif 687件 [詳細] filels_cg.eq28.gif 706件 [詳細] filels_cg.eq33.gif 666件 [詳細] filels_cg.eq19.gif 683件 [詳細] filels_cg.eq17.gif 761件 [詳細] filels_cg.eq16.gif 763件 [詳細] filels_cg.eq2.gif 671件 [詳細] filels_cg.eq21.gif 644件 [詳細] filels_cg.eq22.gif 594件 [詳細] filels_cg.eq10.gif 690件 [詳細] filels_cg.eq18.gif 770件 [詳細] filels_cg.eq11.gif 746件 [詳細] filels_cg.eq12.gif 681件 [詳細] filels_cg.eq20.gif 753件 [詳細] filels_cg.eq1.gif 716件 [詳細] filels_cg.eq15.gif 687件 [詳細] filels_cg.eq13.gif 793件 [詳細] filels_cg.eq14.gif 852件 [詳細]

トップ   編集 凍結 差分 履歴 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2022-11-30 (水) 13:48:12