อัลกอริธึม ของ ฟิชเชอร์เฟซ

ถ้าให้ X {\displaystyle X} เป็นเวกเตอร์แบบสุ่ม โดยมีตัวอย่างทั้งสิ้น c {\displaystyle c} แบบ


X = X 1 , X 2 , . . . , X c {\displaystyle X={X_{1},X_{2},...,X_{c}}} X i = x 1 , x 2 , . . . , x i {\displaystyle X_{i}={x_{1},x_{2},...,x_{i}}}

เมตริกซ์การกระจาย S B {\displaystyle S_{B}} และ S W {\displaystyle S_{W}} คำนวณได้ดังนี้


S B = ∑ i = 1 c N i ( μ i − μ ) ( μ i − μ ) T {\displaystyle S_{B}=\sum _{i=1}^{c}N_{i}(\mu _{i}-\mu )(\mu _{i}-\mu )^{T}} S W = ∑ i = 1 c ∑ x ȷ ∈ X ı ( X j − μ i ) ( X j − μ i ) T {\displaystyle S_{W}=\sum _{i=1}^{c}\sum _{x_{\jmath }\in X_{\imath }}(X_{j}-\mu _{i})(X_{j}-\mu _{i})^{T}}

ตัวอย่างนี้แสดงให้เห็นการคำนวณ S B {\displaystyle S_{B}} และ S W {\displaystyle S_{W}} แบบมีตัวอย่าง 3 แบบ μ {\displaystyle \mu } แสดงค่ารวม mean ของเซต [ μ 1 , μ 2 , μ 3 ] {\displaystyle [\mu _{1},\mu _{2},\mu _{3}]} ซึ่งค่ารวมของ μ {\displaystyle \mu } มีค่าดังนี้


μ = 1 N ∑ i = 1 N X i {\displaystyle \mu ={\frac {1}{N}}\sum _{i=1}^{N}X_{i}}


และ μ i {\displaystyle \mu _{i}} คือ mean ของตัวแบบ i ∈ 1 , . . . . , c {\displaystyle i\in {1,....,c}} :


μ i = 1 | X | ∑ x ȷ ∈ X ı X j {\displaystyle \mu _{i}={\frac {1}{\left\vert X\right\vert }}\sum _{x_{\jmath }\in X_{\imath }}X_{j}}


ฟิชเชอร์ อัลกอริธึม แสดงให้เห็นในตัวแปร W {\displaystyle W}


W o p t = arg ⁡ max w | W T S B W | | W T S W W | {\displaystyle W_{opt}=\arg {\max }_{w}{\frac {\left\vert W^{T}S_{B}W\right\vert }{\left\vert W^{T}S_{W}W\right\vert }}}



S B v i = λ i S w v i {\displaystyle S_{B}^{v_{i}}=\lambda _{i}S_{w}v_{i}}


S W − 1 S B v i = λ i v i {\displaystyle S_{W}^{-1}S_{B}^{v_{i}}=\lambda _{i}v_{i}}


ซึ่งสามารถเขียนใหม่ได้เป็น


W p c a = arg ⁡ max w | W T S T W | {\displaystyle W_{pca}=\arg {\max }_{w}\left\vert W^{T}S_{T}W\right\vert }


W f l d = arg ⁡ max w | W T W p c a T S B W p c a W | | W T W p c a T S W W p c a W | {\displaystyle W_{fld}=\arg {\max }_{w}{\frac {\left\vert W^{T}W_{pca}^{T}S_{B}W_{pca}W\right\vert }{\left\vert W^{T}W_{pca}^{T}S_{W}W_{pca}W\right\vert }}}


W = W f l d T W p c a T {\displaystyle W=W_{fld}^{T}W_{pca}^{T}}