1

確率モデルによる画像処理

龍谷大学理工学部数理情報学科

T980014 今井健登指導教員飯田晋司

2

卒論でやったこと

インターンシップ参加後の興味を持ち続けた。

参考文献を読んでまとめることで、統計力学に基づく確率モデルによる画像処理の理論を理解しようとした。

3

参考文献[1]　田中和之, 確率モデルによる画像処理技術入門

　　 統計力学的プログラム構成法(基礎編)http://www.statp.is.tohoku.ac.jp/~kazu/SMAPIP/2001/Tutorial/kaz

u/manual01/main.pdf[2]　田中和之, 確率モデルによる画像処理技術入門

ベイズ統計と確率的情報処理

http://www.statp.is.tohoku.ac.jp/~kazu/SMAPIP/2001/Tutorial/kazu/main.pdf

[3]　飯田晋司, 統計熱力学講義ノート[4]　白土栄次, マーケティングの穴　　　　　　　ＭＳも注目する“ベイズ”って何だhttp://www.oricom.co.jp/marketing/0112252.html

4

はじめに

頑健かつ緻密な画像処理システム

半導体・集積回路技術の急速な発展

超高性能ディスプレイの出現

ユピキタスビジュアルプロセッシング時代の到来

頑健性と緻密性をもつ画像処理システムに対する社会的要請

5

統計力学の威力

何にでも使えるようなシステム

　素粒子から宇宙まで、どんな熱平衡状態にでも使える。

熱現象を記述する枠組み

　自然現象の記述に使われる。

統計力学にルーツを持つ確率モデルが、社会的要請に応えるのではないか？

6

あらすじ

１．２値画像データ

２．画像処理の確率モデル

３．ベイズの公式と事後確率分布

４．修復画像の決め方

５．近似計算

7

２値画像データ

,

1{

1x ys+

=−

8

ベイズの公式の導出

( )s

N N s=∑

2 2 1 1ˆ

ˆ ˆ( | ) ( ) ( | ) ( ) ( | ) ( )s

P h s P s P h s P s P h s P s= +∑

11

( )( ) N sP sN

= 11

1

( )( | )( )

N h sP h sN s∩

=

ˆ

( | ) ( )( | )ˆ ˆ( | ) ( )

s

P h s P sP s hP h s P s

=∑

1 1( ) ( )N s N s s= =

( ) ( | )P h P s h = ( | ) ( )P h s P s ( | ) ( )( | )( )

P h s P sP s hP h

⇔ =

= ( )P h

9

1 1 2 22 2 1 1

1 2

( ) ( ) ( ) ( )( | ) ( ) ( | ) ( )( ) ( )

N h s N s N h s N sP h s P s P h s P sN s N N s N∩ ∩

+ = +

1 2( ) ( )N h s N h sN

∩ + ∩=

( ) ( )N h P hN

= =

( ) ( ) ( )( ) ( | )( )

N h N s h N s hP h P s hN N h N

∩ ∩= =

( ) ( ) ( )( | ) ( )( )

N h s N s N h sP h s P sN s N N∩ ∩

= =

10

ベイズの公式の適用例事後確率の推移

0

0.2

0.4

0.6

0.8

1

1.2

1週目

時間（週）

確率 遊び

本気

状態とデータ

0,0,{ }, { }

1,1,x y= =

不可遊び

可本気

付き合い始める際の事前確率分布

( 0) 0.75, ( 1) 0.25P x P x= = = =尤度

( 1| 1) 0.6, ( 1| 0) 0.3P y x P y x= = = = = =

11

画像処理の確率モデル

原画像 劣化画像

通信路

ノイズ

)()()|()|(

劣化画像

原画像原画像劣化画像劣化画像原画像

PPPP =

12

劣化過程劣化過程

(２元対称通信路), ,

1 1

exp( )( | )

(2cosh( ))

M N

x y x yx y

MN

h sP h s

β

β= ==∑ ∑

1 1ln( )2

pp

β −=

( | )P h s

13

, ,exp( )( | )

2cosh( )

M Nx y x y

x y

h sP h s

ββ

⎛ ⎞= ⎜ ⎟

⎝ ⎠∏∏

, ,exp( ) 1 , 1{

, 12cosh( )x y x yh s p hs

p hsβ

β− =

== −

劣化画像は原画像の各画素の状態が

独立に確率Ｐで反転することにより生成される

14

事前確率分布 ( )P s

, 1, , , 11 1

, 1, , , 11 1

exp( ( )( )

exp( ( )

M N

x y x y x y x yx y

M N

x y x y x y x ys x y

s s s sP s

s s s s

α

α

+ += =

+ += =

+=

+

∑ ∑

∑ ∑ ∑

2)(

501 =

=−α

α .

1)(

11 =

=−α

α

)4(

2501 =

=−α

α .

15

ベイズの公式と事後確率

ˆ ˆ

( | ) ( ) exp( ( | ))( | )ˆ ˆ ˆ( | ) ( ) exp( ( | ))

s s

P h s P s E s hP s hP h s P s E s h

−= =

−∑ ∑

, ,1 1

( | )M N

x y x yx y

E s h h sβ= =

= − ∑ ∑

, 1, , , 11 1

( )M N

x y x y x y x yx y

s s s sα + += =

− +∑ ∑

修復画像の候補Ｓの持つエネルギー

1( ) exp( ( ) / )eqP s E s Tz

= −統計力学で現れる に似ている

16

修復画像の決め方

MAP推定（T=0)

MPM推定（T=1)

Ｔ＝１の場合の熱平衡状態を表す確率分布を考える

,

, , , , , ,1

ˆ ( | ), | ( | )x y

x y x y x y x y x y x ys

s sign s h s h P s h s=±

= ⟨ ⟩ ⟨ ⟩ ≡ ∑

( | )( | )

P s h sE s h s⇔

を最大化するを推定

を最小化するを推定

17

まとめ

仮定する確率分布関数の選び方は様々。

ベイズの公式より修復画像の現れる事後確率分布を求める。

事後確率分布より修復画像を推定する２つの方法。

18

モンテカルロ法

確率分布に従う画像データの集合を作る

1 2 3(1, 1) ( 1,1) (1,1) ,....., (1, 1)ns s s s= − → = − → = → → = −

1

2

3

4

PPPP 1 2 3 4

0.02

0.04

0.06

0.08

0.1

0.12

P

S

19

/

1 0( , , ) {now next E T

if EA E E T

e otherwise−∆

∆ <=

メトロポリス法による状態推移の受理判定

指数型アニーリング

1 ( 0 . 8 1 )k kT Tγ γ+ = ≤ <

20

シミュレイティッドアニーリング

モンテカルロ法をやりながら温度を０に下げるとエネルギーが最低の状態が得られる。⇔確率が最高の状態を探索できる。

1 2 3 4

0.02

0.04

0.06

0.08

0.1

0.12

1 2 3 4

0.2

0.4

0.6

0.8

1

いろんな温度での熱平衡状態を表す確率分布を観察する。

T↓0

P

S S

P

21

平均場近似, , 1 , 1 1, 1,\ { , , , }x y x y x y x y x ys s s s s+ − + −=

, , ,x y x y x ys s sδ=< > + , ,\ 0x y x ys sδ ∝

( )( ), , , , , ,\ \ \x y x y x y x y x y x ys s s s s sδ δ= < > + < > +

, , , , , , , ,\ \ \ \x y x y x y x y x y x y x y x ys s s s s s s sδ δ δ=< >< > + < > + < > +

, , , , , ,\ \ \x y x y x y x y x y x ys s s s s sδ δ⇒< >< > + < > + < >

, , , , , ,( | ) ( \ \ \MF x y x y x y x y x y x yx y

E s h s s s s s sα= − − < >< > + < > + < >∑∑

, ,x y x yx y

s hβ− ∑∑

22

平均場近似

( ) ( ), ,1 1

|MF

MF

E M N

MF MF x y x yEx y

s

eP s h P s he

−

−= =

= =∏∏∑各画素ごとに

独立に置換

( ),

, , ,\ ,

, ,

, , ,1 \ ,

exp \

exp \x y

x y x y x yx y

x y x y

x y x y x ys x y

h s sP s h

h s s

β α

β α=±

⎛ ⎞⎛ ⎞+ < >⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠=

⎛ ⎞⎛ ⎞+ < >⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

∑

∑ ∑

, , ,\ ,

tanh( \ )x y x y x yx y

s s hα β< >= < > +∑

23

平均場近似による画像修復

( ), ,ˆ signx y x ys s= < > ( ), ,x y x ys

s s P s h< >=∑

, , ,\ ,

tanh \x y x y x yx y

s h sβ α⎛ ⎞

< >= + < >⎜ ⎟⎝ ⎠

∑