確率モデルによる画像処理技術入門kazu/tutorial...2 August, 2007 PIP-MIRU2007 (Hiroshima） 7 22値画像の事前確率値画像の事前確率(Prior Probability)(Prior

2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima）） 11

確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門

東北大学東北大学大学院情報科学研究科大学院情報科学研究科

田中田中和之和之

[email protected]@smapip.is.tohoku.ac.jp

http://www.smapip.is.tohoku.ac.jp/~kazu/http://www.smapip.is.tohoku.ac.jp/~kazu/

共同研究者D. M. Titterington (University of Glasgow, UK)


ContentsContents

1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ

本本講演講演の参考文献の参考文献

田中和之著田中和之著:: 確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門，，森北森北出版，出版，20062006年年99月月．．

2 August, 2007 PIP-MIRU2007 (Hiroshima） 3

確率的画像処理確率的画像処理

確率的画像処理手法によるノイズ除去

173110218100120219202190202192

Average =⎪⎭

⎪⎬

⎫

⎪⎩

⎪⎨

⎧

192 202 190

202 219 120

100 218 110

192 202 190

202 173 120

100 218 110

信号処理の知見をもとにした画像処理の確率モデル化

マルコフ確率場モデル確率的画像処理

基本単位は画素

画素上の数字はディスプレイの光の強度

アルゴリズム化

最も簡単な既存のフィルター


ContentsContents



画像修復の確率モデル

原画像劣化画像

通信路

雑音

{ } { } { }{ }

43421

48476444 8444 76444 8444 76

周辺尤度

事前確率尤度事後確率

劣化画像

原画像原画像劣化画像劣化画像原画像

PrPr|Pr|Pr =

白色ガウス雑音原画像劣化画像 +=


2値画像の事前確率(Prior Probability)

赤い線が少ないほど確率が高くなるように確率モデルを設計

問題設定画素の周辺の状態が固定されているとき着目画素の状態は？

？

>

== >p p

周りが白ければ着目画素も白くあるべき


2値画像の事前確率(Prior Probability)2値画像の事前確率(Prior Probability)

赤い線が少ないほど確率が高くなるように確率モデルを設計

画素がいくつか集まると周りの画素の状態をよく見ながら自分の状態を決めないといけなくなるもっとたくさん集まったらどうなるか?

問題設定画素の周辺の状態が固定されているとき着目画素の状態は？

？-？== >

p p

> >=


ゆらぎが大きいときに何が実際に起こっているのか? p

0.0

0.2

0.4

0.6

0.8

1.0

0.0 0.2 0.4 0.6 0.8 1.0lnp

無秩序状態秩序状態ゆらぎが大きく点の近くのパターン

p が小さい p が大きい

最近接画素間の共分散

マルコフ連鎖モンテカルロ法によるサンプリング

Markov Network


ゆらぎが大きいときのパターンを画像処理に使えるか?

0.0

0.2

0.4

0.6

0.8

1.0

0.0 0.2 0.4 0.6 0.8 1.0ln p

最近接画素間の共分散

p

似ている

Markov Network大小


強磁性体と確率モデル強磁性体と確率モデル

p p

p p

>

=

=

>

=

=

x

y

画像は各画素ごとの強さの異なる光であらわされる．

0 255

共通点：まわりと同じ状態をとろうとする

Ising モデル

Markov Random Field (MRF) モデル


強磁性体の平均場理論強磁性体の平均場理論

p p

>

=

=

(a) 平均場近似（P. Weiss, 1907）(b) Bethe近似(H. A. Bethe, 1935)(c) クラスター変分法（R. Kikuci, 1951）(d) 厳密解（L. Onsager，C.N.Yang, 1940）

↑と↓の個数の割合

Ising モデルMRFのアルゴ

リズムとして使い回す

1/ln p


Binary Image Restoration by Gaussian Graphical Model

原画像劣化画像修復画像


Image Restoration by Gaussian Graphical Model and Conventional Filters

( )2ˆ||

1MSE ∑Ω∈

−Ω

=i

ii ff

327Statistical Method

445(5x5)

486(3x3)Median Filter

413(5x5)388(3x3)Lowpass

Filter

MSE

(3x3) (3x3) LowpassLowpass (5x5) Median(5x5) MedianStatistical MethodStatistical Method

Original ImageOriginal Image Degraded ImageDegraded Image


Gray-Level Image Restoration(Spike Noise)

Original Image

MSE:135MSE: 217

MSE: 371 MSE: 523

MSE: 244

MSE: 3469

MSE: 2075

Degraded Image

Belief Propagation Lowpass Filter Median Filter

MSE: 395


Digital Images Inpaintingbased on MRF

Inpu

t

Out

put

MarkovNetwork

M. Yasuda, J. Ohkubo and K. Tanaka: Proceedings ofCIMCA&IAWTIC2005.


ContentsContents



扱いやすい確率モデルのグラフ表現

扱いやすい確率モデルの数理構造

⎟⎟⎠

⎞⎜⎜⎝

⎛⎟⎟⎠

⎞⎜⎜⎝

⎛⎟⎟⎠

⎞⎜⎜⎝

⎛= ∑∑∑

∑ ∑ ∑

===

= = =

FT,FT,FT,

FT, FT, FT,

),(),(),(

),(),(),(

CBA

A B C

DChDBgDAf

DChDBgDAf

A

B CD∑ ∑ ∑

= = =FT, FT, FT,A B C

扱いやすくない確率モデルの数理構造

∑ ∑ ∑= = =FT, FT, FT,

),(),(),(A B C

AChCBgBAf

A

B C

∑ ∑ ∑= = =FT, FT, FT,A B C

木構造をもつグラフ表現

閉路を含むグラフ表現

別々に和を計算できる

別々に和を計算することが難しい


確率的画像処理における確率伝搬法(Belief Propagation)

着目画素とその近傍画素だけを残すと木構造になる．

確率伝搬法(Belief Propagation)の統計的近似アルゴ

リズムとしての転用


確率的画像処理における確率伝搬アルゴリズムの基本構造

ひとつの画素ごとに４種類の更新パターン

４近傍の場合は3入力1出力の更新式

画素上での動作の様子の一例


ContentsContents



確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門

ベイズ統計をつかった画像処理ベイズ統計をつかった画像処理画像処理の事前分布画像処理の事前分布磁性体の物理モデルとの類似性磁性体の物理モデルとの類似性確率伝搬法確率伝搬法


脳の物理モデルの記憶容量，パーセプトロンの容量の評価に類似の議論

標本平均による統計的性能

11→gr

Prio

r Pr

obab

ility

1fr

2fr

3fr

21→gr

12→gr

22→gr

13→gr

23→grN

oise

11→mr

12→mr

21→mr

22→mr

31→mr

32→mr

Mar

kov

Net

wor

k

推定画像劣化画像

Mean Square Error の標本平均

原画像

スピングラス理論による解析的評価が可能

Nishimori and Wong (1999): Physical Review ENishimori and Wong (1999): Physical Review E

マルコフ連鎖モンテカルロ法


MRF, Belief Propagation MRF, Belief Propagation and Statistical Performanceand Statistical Performance

GemanGeman and and GemanGeman (1986): IEEE Transactions on PAMI(1986): IEEE Transactions on PAMIImage Processing for Image Processing for Markov Random Fields (MRF)Markov Random Fields (MRF)(Simulated Annealing, Line Fields)(Simulated Annealing, Line Fields)

Nishimori and Wong (1999): Physical Review ENishimori and Wong (1999): Physical Review EStatistical Performance Estimation for MRFStatistical Performance Estimation for MRF(Spin Glass Theory)(Spin Glass Theory)

Tanaka and Morita (1995): Physics Letters ATanaka and Morita (1995): Physics Letters ACluster Variation Method for MRF in Image ProcessingCluster Variation Method for MRF in Image Processing

Cluster Variation Method (CVM)Cluster Variation Method (CVM)= Generalized Belief Propagation (GBP)= Generalized Belief Propagation (GBP)

StatisticalStatistical--Mechanical Informatics for Image ProcessingMechanical Informatics for Image Processing


ReferencesReferencesK. Tanaka: StatisticalK. Tanaka: Statistical--Mechanical Approach to Mechanical Approach to

Image Processing (Topical Review), J. Phys. A, Image Processing (Topical Review), J. Phys. A, 3535 (2002).(2002).

A. S. Willsky: Multiresolution Markov Models for A. S. Willsky: Multiresolution Markov Models for Signal and Image Processing, Proceedings of Signal and Image Processing, Proceedings of IEEE, IEEE, 9090 (2002).(2002).

Documents

確率モデルによる画像処理技術入門kazu/tutorial...2 August, 2007 PIP-MIRU2007 (Hiroshima） 7 22値画像の事前確率値画像の事前確率(Prior Probability)(Prior