Table of contents
  1. 統計力学の復習
    1. カノニカル分布
    2. ヘルムホルツの自由エネルギー
    3. 人の手で解析的に計算可能な積分
    4. 多変数への一般化
  2. Ising model
    1. 全結合モデル (Fushimi-Tempely model or Mean-Field model) 
    2. S(m)の計算
  3. Appendix: 多次元のガウス積分
  4. 参考文献

統計力学の復習

カノニカル分布

カノニカル分布の分布関数は以下のように書けるのでした。

(1.1)P(x)=1ZeβE(x) (1.2)Z=xeβE(x)

ここでβ=1/Tは逆温度、E(x)は状態のエネルギーです。

例として、x=±1のような2値しか取らない場合を考えましょう。これを電子や原子のスピンの上向き・下向きだとします。ここに外磁場hを印加させると、系のエネルギーは

(1.3)E(x)=hx

のようになります。これを(1.1), (1.2)式に代入すると

(1.4)P(x)=1Zeβhx (1.5)Z=xeβhx=eβh+eβh=2cosh(βh)

が得られます。統計力学においては分布が重要です。しかし、それをそのまま扱うのは困難なので、その分布から得られる期待値などを計算します。

(1.6)x=xxP(x)=1Z(eβheβh)=2sinh(βh)2cosh(βh)=tanh(βh)

となります。

ヘルムホルツの自由エネルギー

ここで自由エネルギーを導入しましょう。

(1.7)βF=logZ

すると

(1.8)βx=hlogZ

のようになっていることがわかります。もし自由エネルギーを計算できれば、分配関数Zも計算できることになります。統計物理学の研究においては自由エネルギーを計算することが重要になります(これさえ計算できれば論文が書ける?)。
統計物理で何か研究しようと思ったときには、エネルギーをモデル化することも重要です。そのエネルギーをもとに総和をとる or 積分を行うことで分配関数を計算することができますが、多変数においてはそれを計算することは困難を極めます。よって以下ではどのような式の形であれば総和・積分の計算ができるかを考えていきましょう。

人の手で解析的に計算可能な積分

有名なガウス積分

(1.9)dx e12ax2=2πa (1.10)xeax=ea+1 (x=0,1) or 2cosha (x=±1)

ならば計算できるでしょう。指数関数はガウス積分として、分数関数は等比級数になっていれば計算できます。とにかく、出てきた問題をこれらの形に変形するというのが重要なミッションになります。
どう頑張ってもこれらの形にできない問題は存在します。その場合は潔く諦めましょう。そこから新しい研究の種を見つけることが大切です。もしくは数値計算・数値シミュレーションを行うという方法もあります。その意味では「積分ができること」と「統計力学ができること」は等価と言っても良いでしょう。

多変数への一般化

上式を多変数に拡張しましょう。

(1.11)dx e12xTAx=(2π)Ndet(A) (xRN) (1.12)xeax=xi=1Neaixi=i=1N(xieaixi)=i=1N2coshai (x{1,1}N)

Ising model

これは磁性体を表現するためのトイモデルです。変数は2値 x=±1のみを取ります。これはデジタル信号や情報処理への類推が可能です。Nスピン系のこれは以下のような式で表されます。

(1.13)E(x)=Jxixjhixi

ここでJとスピン同士の相互作用を表す係数、hは外磁場を表します。これは系のエネルギーを1次の項と2次の項とにテイラー展開した形と見ることもできます。
この系の振る舞いを以下に図示します。スピンが揃うとき、エネルギーはJとなり、系のエネルギーは下がります。一方でスピンが逆向きのとき、エネルギーはJとなり、系のエネルギーが上がります。

スピンが平行のときと反平行のとき。

エネルギーは低い状態になろうとするので、全てのスピンは揃おうとします。しかしエントロピーSからは、温度を上げると状態の乱雑さが上昇し、向きが不揃いになるはずです。このことから低温から温度を徐々に上昇させると、スピンの向きが揃った状態から不揃いな状態に遷移する特別な温度の存在が示唆されます。

全結合モデル (Fushimi-Tempely model or Mean-Field model) 

(1.14)E(x)=J2Nijxixj

この場合に計算を行っていきましょう。

(1.15)Z=xexp(βJ2Nijxixj)

ここで以下のテクニックを用います。

ijN=3xixj=x1x2+x2x3+x3x1=12{(x1+x2+x3)2(x12+x22+x32)}

です。添字の入れ替えx2x1+x3x2+x1x3の場合も考えて、(1.15)式は

Z=xexp[βJ2N{(ixi)2ixi2}]

となります。ここでixi1Nixiのように平均の形で見ることにしましょう。すると

Z=xexp{NβJ2(1Nixi)2βJ2}

のようになります。途中、xi{1,1}よりixi2=i1=Nを用いました。
次に以下のテクニックを用います。

(1.16)dm f(m)δ(Nmixi)=1Nf(1Nixi)
オンライン動画のTechnique 2の式と形が違うの注意が必要です。

(1.16)式はm=1Nixiを表しています。このmは磁化(Magnetization)を表します。

Z=Nxdm exp(NβJ2m2βJ2)δ(Nmixi)

今、Nの極限を考えると、exp(βJ2)の部分は無視して良いことがわかります。

(1.17)Z=Ndm exp(NβJ2m2)xδ(Nmixi)

エントロピーは状態数を数えたものです。状態数を数えるとは、同じエネルギーの状態を数えることを意味しますが、これは今では同じ磁化の状態を数えることに対応します(エネルギーが磁化にのみ依存していることからこのように考えられます)。するとデルタ関数部分はエントロピーを意味すると考えることができるので、以下のようにエントロピーS(m)を用いて

(1.18)eNS(m)=xδ(Nmixi)

のように定義することができます。そしてその前についているのはエネルギーで

(1.19)eβNe(m)=exp(NβJ2m2)

と考えることができます。これらより

(1.20)Z=Ndm exp[N{βe(m)+S(m)}]

ここから自由エネルギーは

(1.21)βF=logZ=log(Ndm exp[N{βe(m)+S(m)}])

この式に現れる被積分関数はexp(Nf(m))です。

鞍点法の説明。

今はNの場合を考えています。f(m)が最大となる部分でexp(Nf(m))が極端に大きくなり、この場所の値だけが積分に寄与すると考えます。これを鞍点法(Saddle point method)と呼び、m=mのときf(m)が最大であるとすると

βF=log(Nexp[N{βe(m)+S(m)}])log(exp[N{βe(m)+S(m)}])(1.22)=βNe(m)+NS(m)

これは熱力学でのヘルムホルツエネルギーF=UTSを再現していることがわかります。途中、N=elogNは、NにおいてはeNf(m)に比べて無視できるとしました。

S(m)の計算

先ほどの計算からエントロピーS(m)

(1.23)S(m)=1Nlogxδ(Nmixi)

のように書かれました。この計算を進めるために、デルタ関数のフーリエ積分表示を考えましょう。

(1.24)δ(Nmixi)=dm~ exp{m~(Nmixi)}

m~は本来であれば複素数ikと書くべきですが、ここでは鞍点法を用いるためこのように書いても不都合はありません。これらより

S(m)=1Nlog[dm~ xexp{m~(Nmixi)}]=1Nlog[dm~ exp(Nmm~)xi=1Nexp(m~xi)]=1Nlog[dm~exp(Nmm~)(2coshm~)N]=1Nlog(dm~exp[N{mm~+log(2coshm~)}])

これにより、再び鞍点法を用いることができます。鞍点法は最大となるm=mの部分のみ積分に寄与するという考えなので、これを数式で表すと以下のようになります。

(1.25)dm~ eNg(m~)eNg(m~) @ g(m~)=0

今、g(m~)=mm~+log(2coshm~)なので

(1.26)g(m~)=m+tanhm~=0   m=tanhm~

これらより

(1.27)S(m)=1Nlogexp[N{mm~+log(2coshm~)}]=mm~+log(2coshm~)

これらを持ちいて自由エネルギーは

Z=dmexp[N{βJm22mm~+log(2coshm~)}]

となります。先ほどと同様の計算を行って

(1.28)βf(m)=βJm22mm~+log(2coshm~)

これは1スピンあたりの自由エネルギーを表します。鞍点を計算すると

(1.29)βf(m)=βJmm~=0  m~=βJm

(1.26), (1.29)式をまとめると

(1.30)m=tanh(βJm)

となります。これは平均場近似を用いたときに出てきた自己無撞着方程式(Self-consistent equation)です。「平均場近似は所詮、近似手法に過ぎない」と思われたかもしれませんが、全結合においては厳密解を与える強力なツールとなっています。
物理では全結合の問題というのを考えるのは難しいかもしれません。しかし、情報科学においてはあるシグナルが他の様々n要素と関係づくことで機能することがあり得るため、物理的に繋がりを持っている必要はありません。よって全結合である問題をモデル化できるということが十分にあり得ます。
物理ではNはアボガドロ数程度ですが、情報科学においてはNO(100),O(1000)です。これでも十分に統計力学が使えることが実験や数値計算で示されています。
有限のNの場合には、微小系の熱力学を考える必要があります。

(1.30)を図示して、この問題の振る舞いを見てみましょう。

(1.30)式の解の個数の様子。

逆温度βが大きいとき、(1.30)式の解の個数は3つです。しかし、βが小さいときは解の個数が1つになります。よって温度を変化させるとこの系の様子が劇的に変化する、相転移が見られることがわかります。

磁化の温度依存性。

この相転移という現象はNが大きいときに現れるものです。もしN=2の場合、スピンの向きは平行か反平行の2つの状態のみで、相転移は見られません。Nが大きいと協同現象・多体効果によって相転移がもたらされます。これは物理に限った話ではありません。

鞍点の安定性については、そこで取った値が最大(極大)なのか最小(極小)なのかを見極める必要があります。

Appendix: 多次元のガウス積分

N次元の正方正値対称行列Aに対して

dxe12xAx

を求めましょう。Aが正の値しか持たない行列であることから、A1/2が定義できます。よってeの肩を

xAx=(A1/2x)(A1/2x)

のように変形します。y=A1/2xとおくと、ヤコビアンはdet(A1/2)1=(det(A))1/2です。よって

dxe12xAx=(det(A))1/2dye12(y12+y22++yn2)=(2π)ndet(A)

となります。

参考文献

[1] 大関真之 Youtube動画 “Statistical physics and information processing vol. 1 (情報統計物理) 【Tokyo Tech Lecture Live Streaming”
[2] 田崎晴明, “統計力学 I”
[3] 田崎晴明, “統計力学 II”
[4] 久保亮五, “大学演習 熱学・統計力学”
[5] 西森秀稔, “スピングラス理論と情報統計力学”


Copyright © github-nakasho