Оптимальные линейные фильтры широко применяются при обнаружении и различении детерминированных сигналов, причем критерием оптимальности характеристик таких фильтров является получение на выходе фильтра максимально возможного отношения пикового значения сигнала к среднеквадратическому значению помехи. Цель обработки при этом состоит не в воспроизведении формы сигнала, которая считается известной, а в наиболее надежной фиксации лишь факта наличия или отсутствия сигнала в принятом колебании.
Найдем выражение для комплексной частотной характеристики оптимального фильтра [5]. Пусть на вход линейного фильтра с комплексной частотной характеристикой K(jw) воздействует сумма полностью известного сигнала s(t) и помехи n(t), представляющей собой стационарный в широком смысле случайный процесс с известной спектральной плотностью Sn(w) [4]:
x(t) = s(t) + n(t) , 0t T .
Обозначим полезный сигнал и помеху на выходе фильтра через sв(t) и nв(t). Известно, что если на вход линейной системы с комплексной частотной характеристикой K(jw) воздействует сигнал s(t), имеющий комплексный амплитудный спектр
,
то комплексный спектр сигнала на выходе системы определяется произведением Ф(jw)K(jw), а сам выходной сигнал – выражением
. (1.1)
Спектральная плотность помехи на выходе фильтра определяется выражением Sn()|K(j)|2, а ее дисперсия
. (1.2)
На основании формул (1.1) и (1.2) получаем выражение для отношения сигнал / помеха по мощности на выходе фильтра в некоторый момент времени t0:
. (1.3)
Необходимо найти такую функцию K(j), при которой выражение (1.3) в некоторый момент времени t0 достигает максимума. Одним из путей решения этой задачи является использование неравенства Шварца-Буняковского. Известно, что для двух произвольных комплексных функций f(x) и g(x) выполняется соотношение
, (1.4)
причем знак равенства имеет место только в случае, когда g(x) = c0f(x), где c0 – постоянная; f*(x) – функция, комплексно-сопряженная f(x).
Запишем выражение (1.4), перейдя к переменной 
, в виде
.
Полагая здесь
(1.5)
получаем
(1.6)
Отсюда следует, что максимально возможное значение отношения сигнал / помеха
(1.7)
Согласно соотношению (1.5), это значение достигается лишь при выполнении условия
,
или
(1.8)
где c – некоторая постоянная; t0 – момент времени, соответствующий наибольшему значению отношения сигнал/помеха на выходе фильтра. Таким образом, комплексная частотная характеристика оптимального линейного фильтра определяется формулой (1.8), а наибольшее отношение сигнал помеха – выражением (1.7). Варьируя спектры сигнала Ф(j) и помехи Sn()в формуле (1.7), можно при некоторых дополнительных условиях (например, постоянство энергии или мощности сигнала и др.), налагаемых на систему, найти наилучшую форму спектра сигнала (при которой максимизируется Q ) и наихудшую спектральную плотность помехи (при которой Q минимизируется).
В некоторых устройствах, например служащих для определения момента появления импульса, применяются фильтры, которые должны обеспечивать получение максимально возможного отношения крутизны сигнала к среднеквадратическому значению помехи. Такие фильтры можно назвать оптимальными по крутизне сигнала. Для определения комплексной частотной характеристики такого фильтра вместо самого сигнала s(t) надо рассматривать его производную по времени 
. При этом комплексная частотная характеристика фильтра, оптимального по крутизне сигнала, определяется выражением
,
где Ф1*(jw) – комплексно-сопряженное значение спектра производной входного сигнала; с1– некоторая постоянная. Максимально возможное отношение крутизны сигнала к среднеквадратическому значению помехи будет
.
Используя известное соотношение для преобразования Фурье производной сигнала:
,
можно записать:
.
Тогда
,
.
Согласованные фильтры
До сих пор на помеху n(t) не налагалось никаких ограничений, кроме стационарности в широком смысле. Рассмотрим теперь помеху в виде гауссовского белого шума. Линейный фильтр, на выходе которого получается максимально возможное пиковое значение отношения сигнал/помеха при приеме полностью известного сигнала на фоне гауссовского белого шума, называется согласованным фильтром. Найдем выражение для комплексной частотной характеристики согласованного фильтра. Для этого положим 
Тогда выражения (1.7) и (1.8) примут соответственно вид:
(1.9)
где k – постоянная, характеризующая коэффициент передачи фильтра; Es– энергия сигнала:
Запишем спектр входного сигнала и комплексную частотную характеристику фильтра в виде
Здесь js(w) – фазовый спектр сигнала, j(w) – фазо-частотная характеристика фильтра.
Тогда выражения для амплитудно-частотной и фазочастотной характеристик согласованного фильтра будут иметь вид
Видно, что амплитудно-частотная характеристика (АЧХ) согласованного фильтра пропорциональна амплитудному спектру входного сигнала (АЧХ фильтра «согласована» со спектром сигнала), а фазочастотная характеристика (ФЧХ) равна сумме фазочастотного спектра сигнала, взятого с обратным знаком, и фазового спектра задержки (– wt0).
Совпадение формы АЧХ фильтра с амплитудным спектром сигнала обеспечивает наилучшее выделение наиболее интенсивных участков спектра сигнала. Фильтр ослабляет участки спектра с относительно низким уровнем спектральных составляющих; в противном случае наряду с ними проходили бы интенсивные шумы. При этом форма сигнала на выходе фильтра искажается. Однако это не имеет существенного значения, так как задача фильтра в данном случае состоит не в точном воспроизведении входного сигнала, а в формировании наибольшего пика выходного сигнала на фоне шума. Существенную роль в этом отношении играет фазочастотная характеристика фильтра j (w).
Подставив в формулу (1.1) выражение (1.9), получим выражение для полезного сигнала на выходе согласованного фильтра:
Отсюда видно, что сигнал на выходе фильтра определяется только амплитудным спектром входного сигнала и не зависит от его фазового спектра. Последнее обусловлено тем, что взаимные фазовые сдвиги спектральных составляющих входного сигнала js(w) компенсируются ФЧХ фильтра. Поэтому все гармонические составляющие одновременно достигают амплитудных значений в момент времени t = t0 и, складываясь, дают пик выходного сигнала:
Если бы ФЧХ фильтра не компенсировала фазовых сдвигов спектральных составляющих входного сигнала, то максимумы гармонических составляющих не совпадали бы по времени, что привело бы к уменьшению или раздроблению пика выходного сигнала.
Следует отметить, что согласованным фильтром (1.9) можно пользоваться и при приеме полностью известного сигнала на фоне стационарной помехи с произвольной спектральной плотностью Sn(w). Для этого формально достаточно пропустить принимаемое колебание x(t) через дополнительный линейный фильтр, который преобразует помеху n(t) в белый шум. ФЧХ фильтра может быть любой, а АЧХ такого дополнительного “обеляющего” фильтра должна иметь вид
(1.10)
где 
– постоянная.
На выходе обеляющего фильтра помеха превратится в белый шум с постоянной спектральной плотностью 
а комплексный спектр сигнала будет
После этого можно воспользоваться полученными ранее формулами. В соответствии с выражением (1.9) комплексная частотная характеристика соответствующего согласованного фильтра
Оптимальный фильтр представляет собой последовательное соединение двух фильтров: обеляющего 
и согласованного 
. Его комплексная частотная характеристика 
естественно совпадает с соотношением (1.8).
Пользуясь допустимой свободой выбора фазовой характеристики обеляющего фильтра, можно попытаться выбрать ее так, чтобы оптимальный фильтр был физически реализуем. Если спектральную плотность помехи Sn(w) можно аппроксимировать рациональной функцией частоты (что на практике не ограничивает общности), то для получения физически реализуемого оптимального линейного фильтра используют разложение Sn(w)на комплексно-сопряженные сомножители. Рассмотрим пример.
Пусть помехой является гауссовский шум, имеющий спектральную плотность Sn(w)= 2aD/(a2+w2), где D – дисперсия шума. Тогда согласно формуле (1.10) имеем
Таким образом, получаем два равноценных варианта обеляющих фильтров:
Найдем импульсную характеристику согласованного фильтра:
Учитывая выражение для входного сигнала
,
получаем
. (1.11)
Рис. 1.1
Следовательно, импульсная характеристика согласованного фильтра целиком определяется формой сигнала («согласована» с сигналом). На рис. 1.1 изображен импульсный сигнал s(t) длительностью и, появившийся в момент времени t = 0 .
Очевидно, что функция s(t0+t) появляется на время t0 раньше, чем сигнал s(t). Функция же s(t0–t) является зеркальным отображением функции s(t0+t) относительно оси ординат. Умножив функцию s(t0–t) на коэффициент k , получаем импульсную характеристику согласованного фильтра.