維納濾波 是美國應用數學家諾伯特·維納 （Norbert Wiener）在二十世紀四十年代提出的一種濾波器 ，並在1949年出版[1]
維納濾波器（Wiener filter）是由數學家維納（Norbert Wiener）提出的一種以最小平方為最優準則的線性濾波器。在一定的約束條件下，其輸出與一給定函數（通常稱為期望輸出）的差的平方達到最小，通過數學運算最終可變為一個托布利茲方程的求解問題。維納濾波器又被稱為最小二乘濾波器或最小平方濾波器，目前是基本的濾波方法之一。維納濾波是利用平穩隨機過程的相關特性和頻譜特性對混有噪聲的信號進行濾波的方法，1942年美國科學家N.維納為解決對空射擊的控制問題所建立，是40年代在線性濾波理論方面所取得的最重要的成果。
從連續的(或離散的)輸入數據中濾除噪聲和干擾以提取有用信息的過程稱為濾波，而相應的裝置稱為濾波器。
根據濾波器的輸出是否為輸入的線性函數，可將它分為線性濾波器和非線性濾波器兩種。
濾波器研究的一個基本課題就是：如何設計和製造最佳的或最優的濾波器。
所謂最佳濾波器是指能夠根據某一最佳準則進行濾波的濾波器。
20世紀40年代，維納奠定了關於最佳濾波器研究的基礎：即假定線性濾波器的輸入為有用信號和噪聲之和，兩者均為廣義平穩過程且知它們的二階統計特性。
維納根據最小均方誤差準則(濾波器的輸出信號與需要信號之差的均方值最小) ，求得了最佳線性濾波器的參數，這種濾波器被稱為維納濾波器。
在維納研究的基礎上，人們還根據最大輸出信噪比準則、統計檢測準則以及其他最佳準則求得的最佳線性濾波器。
實際上，在一定條件下，這些最佳濾波器與維納濾波器是等價的。因而，討論線性濾波器時，一般均以維納濾波器作為參考。
這是信號處理中經常採用的主要方法之一，具有十分重要的應用價值。常用的濾波器是採用電感、電容等分立元件構成，如RC低通濾波器、LC諧振迴路等。但對於混在隨機信號中的噪聲濾波，這些簡單的電路就不是最佳濾波器，這是因為信號與噪聲均可能具有連續的功率譜。不管濾波器具有什麼樣的頻率響應，均不可能做到噪聲完全濾掉，信號波形的不失真。因此，需要尋找一種使誤差最小的最濾波方法，又稱為最佳濾波準則。
從噪聲中提取信號波形的各種估計方法中，維納（Wiener）濾波是一種最基本的方法，適用於需要從噪聲中分離出的有用信號是整個信號（波形），而不只是它的幾個參量。其基本依據就是最小均方誤差準則。
設維納濾波器的輸入為含噪聲的隨機信號。期望輸出與實際輸出之間的差值為誤差，對該誤差求均方，即為均方誤差 。因此均方誤差 越小，噪聲濾除效果就越好。
為使均方誤差最小，關鍵在於求衝激響應。如果能夠滿足維納－霍夫方程，就可使維納濾波器達到最佳。根據維納－霍夫方程，最佳維納濾波器的衝激響應，完全由輸入自相關函數以及輸入與期望輸出的互相關函數 所決定。
與設計一個特定頻率響應 所用的通常濾波器設計理論不同，維納濾波器從另外一個不同的角度實現濾波器。僅僅在頻域 進行濾波的濾波器，仍然會有噪聲通過濾波器。維納設計方法需要額外的關於原始信號所包含頻譜以及噪聲的信息，維納濾波器具有以下一些特點[2]
假設：信號以及附加噪聲都是已知頻譜特性或者自相關 和互相關 的隨機過程
性能標準：最小均方差
能夠用純量的方法找到最優濾波器 維納濾波器的設計目的是就是濾除按照統計 方式干擾信號的噪聲 。
假設維納濾波器的輸入信號是
s
(
t
)
{\displaystyle s(t)}
n
(
t
)
{\displaystyle n(t)}
x
(
t
)
{\displaystyle x(t)}
g
(
t
)
{\displaystyle g(t)}
x
(
t
)
=
g
(
t
)
∗
(
s
(
t
)
+
n
(
t
)
)
{\displaystyle x(t)=g(t)*(s(t)+n(t))}
s
(
t
)
{\displaystyle s(t)}
n
(
t
)
{\displaystyle n(t)}
x
(
t
)
{\displaystyle x(t)}
s
(
t
)
{\displaystyle s(t)}
g
(
t
)
{\displaystyle g(t)}
誤差是
e
(
t
)
=
s
(
t
+
d
)
−
x
(
t
)
{\displaystyle e(t)=s(t+d)-x(t)}
e
2
(
t
)
=
s
2
(
t
+
d
)
−
2
s
(
t
+
d
)
x
(
t
)
+
x
2
(
t
)
{\displaystyle e^{2}(t)=s^{2}(t+d)-2s(t+d)x(t)+x^{2}(t)}
s
(
t
+
d
)
{\displaystyle s(t+d)}
e
(
t
)
{\displaystyle e(t)}
根據d 的不同，問題名稱可以更換為：
如果
d
>
0
{\displaystyle d>0}
預測
如果
d
=
0
{\displaystyle d=0}
濾波
如果
d
<
0
{\displaystyle d<0}
平滑 將
x
(
t
)
{\displaystyle x(t)}
卷積 積分：
x
(
t
)
=
∫
−
∞
∞
g
(
τ
)
[
s
(
t
−
τ
)
+
n
(
t
−
τ
)
]
d
τ
{\displaystyle x(t)=\int _{-\infty }^{\infty }{g(\tau )\left[s(t-\tau )+n(t-\tau )\right]d\tau }}
計算平方誤差的均值 ，可得
E
(
e
2
)
=
R
s
(
0
)
−
2
∫
−
∞
∞
g
(
τ
)
R
x
s
(
τ
+
d
)
d
τ
+
∫
−
∞
∞
∫
−
∞
∞
g
(
τ
)
g
(
θ
)
R
x
(
τ
−
θ
)
d
τ
d
θ
{\displaystyle E(e^{2})=R_{s}(0)-2\int _{-\infty }^{\infty }{g(\tau )R_{x\,s}(\tau +d)d\tau }+\int _{-\infty }^{\infty }{\int _{-\infty }^{\infty }{g(\tau )g(\theta )R_{x}(\tau -\theta )d\tau }d\theta }}
其中
R
s
{\displaystyle \,\!R_{s}}
s
(
t
)
{\displaystyle s(t)}
自相關 函數
R
x
{\displaystyle \,\!R_{x}}
x
(
t
)
{\displaystyle x(t)}
自相關 函數
R
x
s
{\displaystyle R_{x\,s}}
x
(
t
)
{\displaystyle x(t)}
s
(
t
)
{\displaystyle s(t)}
互相關 函數如果信號
s
(
t
)
{\displaystyle s(t)}
n
(
t
)
{\displaystyle n(t)}
R
x
s
=
R
s
{\displaystyle R_{x\,s}=R_{s}}
R
x
=
R
s
+
R
n
{\displaystyle \,\!R_{x}=R_{s}+R_{n}}
這個的目的是求最優的
g
(
t
)
{\displaystyle g(t)}
E
(
e
2
)
{\displaystyle E(e^{2})}
[ 編輯 ] 維納濾波對於因果系統 與非因果系統 有兩種不同解，如下：
[ 編輯 ]
G
(
s
)
=
S
x
,
s
(
s
)
e
α
s
S
x
(
s
)
{\displaystyle G(s)={\frac {S_{x,s}(s)e^{\alpha s}}{S_{x}(s)}}}
其中
S
{\displaystyle S}
g
(
t
)
{\displaystyle g(t)}
E
(
e
2
)
=
R
s
(
0
)
−
∫
−
∞
∞
g
(
τ
)
R
x
,
s
(
τ
+
d
)
d
τ
{\displaystyle E(e^{2})=R_{s}(0)-\int _{-\infty }^{\infty }{g(\tau )R_{x,s}(\tau +d)d\tau }}
那麼方程的解
g
(
t
)
{\displaystyle g(t)}
G
(
s
)
{\displaystyle G(s)}
G
(
s
)
=
H
(
s
)
S
x
+
(
s
)
{\displaystyle G(s)={\frac {H(s)}{S_{x}^{+}(s)}}}
其中
H
(
s
)
{\displaystyle H(s)}
S
x
,
s
(
s
)
e
α
s
S
x
−
(
s
)
{\displaystyle {\frac {S_{x,s}(s)e^{\alpha s}}{S_{x}^{-}(s)}}}
S
x
+
(
s
)
{\displaystyle S_{x}^{+}(s)}
S
x
(
s
)
{\displaystyle S_{x}(s)}
S
x
−
(
s
)
{\displaystyle S_{x}^{-}(s)}
S
x
(
s
)
{\displaystyle S_{x}(s)}
離散序列FIR維納濾波器框圖。輸入信號 w [n ]與維納濾波器 g [n ]進行卷積，輸出結果與參考信號 s [n ]進行比較，得到濾波誤差 e [n ]. 因果的有限衝激響應（FIR）維納濾波器通過使用輸入和輸出信號的統計信息，而不是使用一些給定的數據矩陣X和輸出向量Y，來發現最佳的抽頭權重。它將輸入信號的自相關的估計（T）代入輸入矩陣X，將輸出和輸入信號的互相關估計（V）代入的輸出向量Y。
為了獲得維納濾波係數，考慮將信號w[n]輸入到一個N階維納濾波器，係數
{
a
i
}
{\displaystyle \{a_{i}\}}
i
=
0
,
…
,
N
{\displaystyle i\,=\,0,\,\ldots ,\,N}
x
[
n
]
=
∑
i
=
0
N
a
i
w
[
n
−
i
]
{\displaystyle x[n]=\sum _{i=0}^{N}a_{i}w[n-i]}
剩餘誤差來表示e[n]的，被定義為e [n ] = x [n ] − s [n ]（參見相應的框圖）。維納濾波器被設計成最小化均方誤差（MMSE準則），它可以如下簡而言之：
a
i
=
arg
min
E
{
e
2
[
n
]
}
{\displaystyle a_{i}=\arg \min ~E\{e^{2}[n]\}}
E
{
⋅
}
{\displaystyle E\{\cdot \}}
a
i
{\displaystyle a_{i}}
共軛對稱 Toeplitz矩陣 ，而不是對稱 Toeplitz矩陣 。為簡單起見，下面只考慮所有這些量實數的情況。均方誤差（MSE）可改寫為：
E
{
e
2
[
n
]
}
=
E
{
(
x
[
n
]
−
s
[
n
]
)
2
}
=
E
{
x
2
[
n
]
}
+
E
{
s
2
[
n
]
}
−
2
E
{
x
[
n
]
s
[
n
]
}
=
E
{
(
∑
i
=
0
N
a
i
w
[
n
−
i
]
)
2
}
+
E
{
s
2
[
n
]
}
−
2
E
{
∑
i
=
0
N
a
i
w
[
n
−
i
]
s
[
n
]
}
.
{\displaystyle {\begin{array}{rcl}E\{e^{2}[n]\}&=&E\{(x[n]-s[n])^{2}\}\\&=&E\{x^{2}[n]\}+E\{s^{2}[n]\}-2E\{x[n]s[n]\}\\&=&E\{{\big (}\sum _{i=0}^{N}a_{i}w[n-i]{\big )}^{2}\}+E\{s^{2}[n]\}-2E\{\sum _{i=0}^{N}a_{i}w[n-i]s[n]\}.\end{array}}}
向量
[
a
0
,
…
,
a
N
]
{\displaystyle [a_{0},\,\ldots ,\,a_{N}]}
a
i
{\displaystyle a_{i}}
∂
∂
a
i
E
{
e
2
[
n
]
}
=
2
E
{
(
∑
j
=
0
N
a
j
w
[
n
−
j
]
)
w
[
n
−
i
]
}
−
2
E
{
s
[
n
]
w
[
n
−
i
]
}
i
=
0
,
…
,
N
=
2
∑
j
=
0
N
E
{
w
[
n
−
j
]
w
[
n
−
i
]
}
a
j
−
2
E
{
w
[
n
−
i
]
s
[
n
]
}
.
{\displaystyle {\begin{array}{rcl}{\frac {\partial }{\partial a_{i}}}E\{e^{2}[n]\}&=&2E\{{\big (}\sum _{j=0}^{N}a_{j}w[n-j]{\big )}w[n-i]\}-2E\{s[n]w[n-i]\}\quad i=0,\,\ldots ,\,N\\&=&2\sum _{j=0}^{N}E\{w[n-j]w[n-i]\}a_{j}-2E\{w[n-i]s[n]\}.\end{array}}}
假設，
w
[
n
]
{\displaystyle w[n]}
s
[
n
]
{\displaystyle s[n]}
R
w
[
m
]
{\displaystyle R_{w}[m]}
R
w
s
[
m
]
{\displaystyle R_{ws}[m]}
w
[
n
]
{\displaystyle w[n]}
w
[
n
]
{\displaystyle w[n]}
s
[
n
]
{\displaystyle s[n]}
R
w
[
m
]
=
E
{
w
[
n
]
w
[
n
+
m
]
}
R
w
s
[
m
]
=
E
{
w
[
n
]
s
[
n
+
m
]
}
.
{\displaystyle {\begin{aligned}R_{w}[m]=&E\{w[n]w[n+m]\}\\R_{ws}[m]=&E\{w[n]s[n+m]\}.\end{aligned}}}
因此，注意到
R
w
s
[
−
i
]
=
R
s
w
[
i
]
{\displaystyle R_{ws}[-i]\,=\,R_{sw}[i]}
∂
∂
a
i
E
{
e
2
[
n
]
}
=
2
∑
j
=
0
N
R
w
[
j
−
i
]
a
j
−
2
R
s
w
[
i
]
i
=
0
,
…
,
N
{\displaystyle {\frac {\partial }{\partial a_{i}}}E\{e^{2}[n]\}=2\sum _{j=0}^{N}R_{w}[j-i]a_{j}-2R_{sw}[i]\quad i=0,\,\ldots ,\,N}
令該導數等於零，得到
∑
j
=
0
N
R
w
[
j
−
i
]
a
j
=
R
s
w
[
i
]
i
=
0
,
…
,
N
{\displaystyle \sum _{j=0}^{N}R_{w}[j-i]a_{j}=R_{sw}[i]\quad i=0,\,\ldots ,\,N}
上式可以改寫為矩陣形式
T
a
=
v
⇒
[
R
w
[
0
]
R
w
[
1
]
⋯
R
w
[
N
]
R
w
[
1
]
R
w
[
0
]
⋯
R
w
[
N
−
1
]
⋮
⋮
⋱
⋮
R
w
[
N
]
R
w
[
N
−
1
]
⋯
R
w
[
0
]
]
[
a
0
a
1
⋮
a
N
]
=
[
R
w
s
[
0
]
R
w
s
[
1
]
⋮
R
w
s
[
N
]
]
{\displaystyle {\begin{aligned}&\mathbf {T} \mathbf {a} =\mathbf {v} \\\Rightarrow &{\begin{bmatrix}R_{w}[0]&R_{w}[1]&\cdots &R_{w}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}[N-1]\\\vdots &\vdots &\ddots &\vdots \\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[0]\end{bmatrix}}{\begin{bmatrix}a_{0}\\a_{1}\\\vdots \\a_{N}\end{bmatrix}}={\begin{bmatrix}R_{ws}[0]\\R_{ws}[1]\\\vdots \\R_{ws}[N]\end{bmatrix}}\end{aligned}}}
這些方程被稱作Wiener-Hopf方程。出現在方程中的矩陣T是一個對稱的Toeplitz矩陣。當
R
{\displaystyle R}
a
=
T
−
1
v
{\displaystyle \mathbf {a} \,=\,\mathbf {T} ^{-1}\mathbf {v} }
Levinson-Durbin 算法，因此並不需要對矩陣
T
{\displaystyle \mathbf {T} }
維納濾波器的優點是適應面較廣，無論平穩隨機過程是連續的還是離散的，是純量的還是向量的，都可應用。對某些問題，還可求出濾波器傳遞函數的顯式解，並進而採用由簡單的物理元件組成的網絡構成維納濾波器。維納濾波器的缺點是，要求得到半無限時間區間內的全部觀察數據的條件很難滿足，同時它也不能用於噪聲為非平穩的隨機過程的情況，對於向量情況應用也不方便。因此，維納濾波在實際問題中應用不多。
實現維納濾波的要求是：①輸入過程是廣義平穩的；②輸入過程的統計特性是已知的。根據其他最佳準則的濾波器亦有同樣要求。然而，由於輸入過程取決於外界的信號、干擾環境，這種環境的統計特性常常是未知的、變化的，因而難以滿足上述兩個要求。這就促使人們研究自適應濾波器。
^ Extrapolation, Interpolation, and Smoothing of Stationary Time Series . New York: Wiley. ISBN 0-262-73005-7 ^ Introduction to Random Signals and Applied Kalman Filtering . 3 ed. New York: John Wiley & Sons. ISBN 0-471-12839-2 ^ 
![{\displaystyle x(t)=\int _{-\infty }^{\infty }{g(\tau )\left[s(t-\tau )+n(t-\tau )\right]d\tau }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b083fe4e243e1e6d1906ff186fa8aaaf91bfae9e)
![{\displaystyle x[n]=\sum _{i=0}^{N}a_{i}w[n-i]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0b2f5cddce4bdf6ab2cad0bd57cc95d149b94708)
![{\displaystyle a_{i}=\arg \min ~E\{e^{2}[n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2a927d41b2e72dfbf4330007de38dfccd4eeadae)
![{\displaystyle {\begin{array}{rcl}E\{e^{2}[n]\}&=&E\{(x[n]-s[n])^{2}\}\\&=&E\{x^{2}[n]\}+E\{s^{2}[n]\}-2E\{x[n]s[n]\}\\&=&E\{{\big (}\sum _{i=0}^{N}a_{i}w[n-i]{\big )}^{2}\}+E\{s^{2}[n]\}-2E\{\sum _{i=0}^{N}a_{i}w[n-i]s[n]\}.\end{array}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d6c92859cecfc7933906b59d6c7383e9656a6829)
![{\displaystyle [a_{0},\,\ldots ,\,a_{N}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/23b15c3b4639ed827b254c60c133606cec814d33)
![{\displaystyle {\begin{array}{rcl}{\frac {\partial }{\partial a_{i}}}E\{e^{2}[n]\}&=&2E\{{\big (}\sum _{j=0}^{N}a_{j}w[n-j]{\big )}w[n-i]\}-2E\{s[n]w[n-i]\}\quad i=0,\,\ldots ,\,N\\&=&2\sum _{j=0}^{N}E\{w[n-j]w[n-i]\}a_{j}-2E\{w[n-i]s[n]\}.\end{array}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c049f8ef94a1de015893be949e6b25f362020a65)
![{\displaystyle w[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2a4e3e5afc2a8c6da9020b8c6b21450959101a18)
![{\displaystyle s[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ffe878c033cc70d1aa3ffbd156394791aa8dffde)
![{\displaystyle R_{w}[m]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6fd433a0ac1fe24b6b95d7bad92cea453be5c7f2)
![{\displaystyle R_{ws}[m]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7e7790e74796ce594e25ef54c65a4af6ea895803)
![{\displaystyle {\begin{aligned}R_{w}[m]=&E\{w[n]w[n+m]\}\\R_{ws}[m]=&E\{w[n]s[n+m]\}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b8cfb26024aaa8783a92fe728508710adf7496af)
![{\displaystyle R_{ws}[-i]\,=\,R_{sw}[i]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/29fb90f5d17ceba11cb91e4d4378d5b96c280eea)
![{\displaystyle {\frac {\partial }{\partial a_{i}}}E\{e^{2}[n]\}=2\sum _{j=0}^{N}R_{w}[j-i]a_{j}-2R_{sw}[i]\quad i=0,\,\ldots ,\,N}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3fa993e936efbab3a73f0e2fb25e0873fef01144)
![{\displaystyle \sum _{j=0}^{N}R_{w}[j-i]a_{j}=R_{sw}[i]\quad i=0,\,\ldots ,\,N}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0cbc8f4f8b82e431a3ab67e5be987b32e3fd8e7a)
![{\displaystyle {\begin{aligned}&\mathbf {T} \mathbf {a} =\mathbf {v} \\\Rightarrow &{\begin{bmatrix}R_{w}[0]&R_{w}[1]&\cdots &R_{w}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}[N-1]\\\vdots &\vdots &\ddots &\vdots \\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[0]\end{bmatrix}}{\begin{bmatrix}a_{0}\\a_{1}\\\vdots \\a_{N}\end{bmatrix}}={\begin{bmatrix}R_{ws}[0]\\R_{ws}[1]\\\vdots \\R_{ws}[N]\end{bmatrix}}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6baa68928b85556b809589f5d235d1b362bc0b6c)
