Как показано в [77], последовательность

г|), (уп) = J [D, (X, у?) - D (х)]2 dx (22.84)

сходится к нулю по вероятности, когда размер обучающей выборки п неограниченно возрастает. При этом оценка вероятности ошибки классификации при использовании классифицирующей статистики Z)n(x, yi) сходится к вероятности ошибки классификации, соответствующей оптимальному правилу при полной априорной информации.

22.4.3. Правило ближайших соседей . Пусть функция W {х) непрерывна в точке х и последовательность областей gi, gn с объемами Vi, Vn удовлетворяет следующим условиям:

а) lim nvji = оо,

б) lim sup х-у11 = 0,

в) число k статистически независимых выборок из распределения с плотностью W{x), попадающих в область gn, таково, что k-oo при п-оо и

W{x)=k/{nvn) W{x) ,

- состоятельная оценка плотности W (х) в точке х.

При соблюдении указанных условий формулируется следующее правило ближайших соседей : если имеется совокупность п обучающих независимых выборок xi, Хп, о каждой из которых известно, к какому из двух распределений принадлежит выборка, и если среди k обучающих выборок, ближайших к наблюдаемой выборке X, ki принадлежит распределению с плотностью i(x), а ко -к распределению с плотностью Wo{x), то принимается решение, что наблюдаемая выборка х относится к классу с плотностью W\{x), если

h-ko, ki+ko = kn, (22.85)

и к Wo{x) в противном случае. Адаптивное правило (22.85) не требует построения оценок плотностей распределений и является в известном смысле непараметрическим (см., например [78]).

22.5. АДАПТИВНЫЕ АСИМПТОТИЧЕСКИ ОПТИМАЛЬНЫЕ АЛГОРИТМЫ ОБНАРУЖЕНИЯ СИГНАЛОВ НА ФОНЕ ПОМЕХ

22.5.1. Принцип построения адаптивных асимптотических оптимальных алгоритмов. Общим критерием качества адаптивного алгоритма, как отмечалось в § 22.1, является его состоятельность- сходимость по вероятности адаптивного алгоритма к оптимальному алгоритму при полной априорной информации, когда неограниченно увеличивается размер обучающей выборки.

Состоятельные адаптивные алгоритмы обнаружения получаются из оптимальных подстановкой вместо неизвестных функций распределения или их параметров соответствующих оценок, вычисленных при помощи обучающих выборок. Однако критерий состоятельности не определяет однозначно адаптивный алгоритм обнаружения сигнала.

Для построения состоятельного адаптивного алгоритма можно использовать приведенные в гл. 18 и 19 асимптотически оптимальные алгоритмы обнаружения сигналов. Хотя эти алгоритмы обладают определенной структурной устойчивостью, для их применения необходима априорная информация о распределении помехи и способе ее взаимодействия с сигналом для того, чтобы определить характеристику нелинейного преобразователя наблюдений и вычислить порог. Если имеется обучающая выборка, то, используя удачно выбранные оценки характеристики нелинейности и порога, можно получить состоятельный адаптивный алгоритм обнаружения. Такие алгоритмы сохраняют все положительные свойства асимптотически оптимальных алгоритмов, приобретая новое свойство - возможность их применения в условиях априорной неопределенности относительно вида помехи.

Вследствие асимптотической эквивалентности вероятностных мер при сближающихся гипотезе и альтернативе (см. гл. 17), оценивание характеристики нелинейного преобразователя по неклассифицированной обучающей выборке столь же эффективно, как при классифицированной, но с меньшей скоростью сходимости адаптивного асимптотически оптимального алгоритма.

22.5.2. Адаптивный асимптотически оптимальный алгоритм обнаружения детерминированного сигнала на фоне -связной марковской помехи. Пусть yi= (Уь г/м) - классифицированная выборка, принадлежащая распределению й-связной марковской помехи (Л1>й). При неизвестном распределении помехи на основе этой выборки можно получить оценки следующих величин в асимптотическом разложении (17.64), зависящих от неизвестного распределения

fj(xi f = gj{4~k.y). (22.86)

hj =-7 2 Si (х/ У^) gj (xj yf). (22.87)

Адаптивный асимптотически оптимальный алгоритм обнаружения детерминированного сигнала на фоне -связной марковской помехи формулируется следующим образом: сигнал присутствует, если

1 :l л , . V

- S (xj.,) s/ , --iv [QI,1 > с, (22.88)

И сигнала нет в противном случае [ср. с (18.47)].

22.5.3. Адаптивные асимптотически оптимальные алгоритмы обнаружения детерминированного сигнала на фоне аддитивной помехи с независимыми значениями. Предположим, что неизвестная плотность вероятности w{x) аддитивной помехи с независимыми значениями принадлежит параметрическому семейству плотностей. Примерами таких семейств являются функции Пирсона (см., например, [6, 16]), а также плотности, аппроксимируемые конечными суммами ортогональных полиномов (см. § 2.5). В этих случаях неизвестную логарифмическую производную f{x) плотности помехи (характеристику нелинейного преобразователя наблюдаемой выборки) можно представить в виде отношения

f{x)=P{x)/Q{x), (22.89)

где Р{х), Q{x)-полиномы конечных степеней, коэффициенты которых выражаются через моменты =1, N, распределения помехи. Заменяя эти априорные моменты выборочными

м

ml= y\,k=\,N, (22.90)

вычисленными по классифицированной независимой выборке помехи, получаем оценку логарифмической производной

/ {х) =Р{х; ml, ... , mM)/Q (х ; ml ... , m). (22.91)

Кроме подстройки характеристик f{x) входного нелинейного безынерционного преобразователя, необходима также подстройка порога, который зависит от неизвестного значения I/ информации по Фишеру [см. (18.5)]. При независимой обучающей выборке помехи у1 в соответствии с законом больших' чисел оценка

1> -i 2 PiUi) (22.92)

Можно доказать, что оценки f{x) и 1/ при М-оо сходятся по вероятности к f{x) и I/ соответственно.

Предположим теперь, что неизвестная плотность вероятности W (х) аддитивной помехи с независимыми значениями принадлежит непараметрическому семейству плотностей. Для построения адаптивного асимптотически оптимального алгоритма обнаружения сигнала в рассматриваемом случае необходима оценка не самой плотности, а ее логарифмической производной. Используя метод потенциальных функций (см. п. 22.4.1), находим оценку характеристики нелинейности f{x) по обучающей выборке yi по-мехи

Mm I М m

/W=-2 S %()iyi) rZ 2 Ч>1г()Щ(Уг). (22 93)

где 9i(a:), ц)т{х) -ортонормированный базис.

Другая оценка получается методом, аналогичным приведенному в п. 22.4.2:

м / W= 2 - ехр

h(M)

м

2 ехр

h(M)

(22.94)

где h{M)-0 при М^оо. При этом оценки (22.93) и (22.94) сходятся при М^оо по вероятности к f{x).

ПРИЛОЖЕНИЕ 1. ДЕЛЬТА-ФУНКЦИЯ

По определению дельта-функция 6(t-to) для любого действитель-його параметра to равна нулю при tto и неограничена при t=to

Интеграл от этой функции

{ I у а < to < Ь,

j б </ - g dt = \/2, to = a или to = b, (2)

I О , to<a, to>b.

Строго говоря, дельта-функция получается как предельная функция одно-параметрического семейства непрерывных функций. Примеров таких семейств очень много. Одним из них, как отмечалось в гл. 2, является семейство нормальных функций распределения при постоянном среднем значении а и при переменном среднеквадратическом а->0. Другим служит семейство функций ф(, >0 =Х/[л(Х2/2+1)], из которого при Х->сх) получаем дельта-функцию 6(0-

Рассмотрим совокупность s[t, т) прямоугольных импульсов единичной площади, длительность которых т, а высота 1/т:

[ 1/- о<<о + -г.

10 , t<t t>t,+ x. Если устремить длительность импульса к нулю, то в результате такого предельного перехода получим дельта-функцию:

(-о)= Ит s(t, т). (За)

Дельта-функция возникает также и при следующем предельном переходе: lim sinX (jcO=6(0. (4)

Свертка дельта-функции с любой ограниченной и непрерывной в точке to функцией /(/) обладает следующим свойством:

/(/о), a<t,<b,

j f{t)b{tt,)dt =

/(У/2, t=a или to = b, (5)

О, 0 <а* 0 > b. Если функция /(О в точке t=to имеет разрыв (первого рода), то ъ

j f[t)b(t-to)dt[f{to+)+f(to-)]l2, a<to<b, (5а)

а

где t(to+) и /(0-) - значения /(/) справа и слева от точки разрыва.

Свойство, выраженное формулой (5), может быть названо фильтрующим. В самом деле, дельта-функция действует как фильтр; умножая произвольную

функцию fOO на 6(t-to) и интегрируя по мы выделяем одно значение этой функции f(to), т. е. значение, которое соответствует нулю аргумента б-функции (t = tQ)\ Доказательство формулы (5) получается, если под знак интеграла вместо 6(t-to) подстав.ить любую аппроксимирующую ее функцию и затем перейти к пределу.

Отметим, что дльта-функция д{х-Хо) имеет размерность Ifx.

Найдем преобразование Фурье дельта-функции. Используя фильтрующее свойство, получаем

j б(/-/о)ехр(-iQO=exp(-i(o/o). (в)

Если 0 = 0, то из i(6) следует, что спектр 6(0 равномерный на всех частотах, с интенсивностью, равной единице. В соответствии с (6) спектр полусуммы двух дельта-функций [6(t+to)+6{t-4o)]l2

\[ехр(Шо) -гехр (-icoo) ]/2==cosШо. (ба)

Совершая теперь обратное преобразование Фурье, находим

J оо 1 *

г- f exp(ico/)d(o= - f cos 0)/ CD = б (О, (7)

2 Joo 0

- j exp (ico/) cos CO /о w = ~~ j cos со / cos со со =

= Y [6(+g + 6(-yi. (7a)

В силу симметрии интеграла Фурье переменные / и со в формулах (6) и (7) могут меняться местами.

Производные от дельта-функции определяются как пределы соответствующих производных от аппроксимирующих функций. Например, если воспользоваться для такой аппроксимации нормальными функциями распределения прл а->0, то для п-й производной от дельта-функции получаем следующее определение:.

б^) (/) = lim

ехр

(У->о [оУ271 dt \ 2 а

( -\

Как и сама дельта-функция, ее производные равны нулю при 0. Поведение производных при =0 сложное. Например, первая производная дельта-функции

t / \

6 (О = - Г7= lima-зехр - - У2л а-о \ 2а2 ;

равна +00 при подходе к началу координат слева (/=0-) и -оо при подходе справа (/=0+). В окрестности t=0 поведение 6(t) сравнимо с поведением функции 1 ft.

Фильтрующее свойство дельта-функции распространяется также и на ее производные. Свертка производной п-то порядка дельта-функции с любой функцией, имеющей непрерывную производную л-го порядка в точке /о

j /(OS( 4<- d<=(-l) f (<o). (9)

- OO

Если производная fHt) терпит разрыв (первого рода), в точке to, то

J / (t) б^ (t - /о) dt - - ( - 1) [/( (/о+) + / (о-)1.

Найдем спектр (преобразование Фурье) производной дельта-функции. Используя (9), получаем

j б< Ч^--о)ехр( -i(o/) =

- 00

= - ехр ( - Ш) I = ( ~ ехр ( ~ Шо) dr

(10)

Если 0 = 0, то из (10) следует, что спектр b{t) равен (-ico).

Так как для корреляционной функции белого шума с единичной интенсивностью B{t у) = {t~y) то из (4.58) следует, что все собственные числа одинаковы Xk = l ив соответствии с (4.57)

где {фа(0} - любая система ортонормированных функций.

Заметим, что не только дельта-функция обладает фильтрующим свойством. Подобное с:-/йство присуще, например, функции (sin л:)/л:. Если \(х) непрерывно в точке х = а, то

j / {X)

dx

sin Tib {х - а) nb (х - d)

dx =

/ (а)

d

-оо dx

sin лЬ{х - а) пЬ{х - а)

ехр ( - \(Dx) dx =

О

, \(o\>nb.

(12)

(I2a)

ПРИЛОЖЕНИЕ 2, ПРЕОБРАЗОВАНИЕ ГИЛЬБЕРТА И АНАЛИТИЧЕСКИЙ СИГНАЛ

Пусть s{t) - действительная функция, принадлежащая к классу

£р(оо, оо), т. е. \s{t)\dt<oo. Тогда при р>1 можно определить функ-

цию а(0, сопряженную s(/), при помощи следующего интегрального преобразования Гильберта

1 7 s (т)

s(0=- j -dx (2)

я Joo т^-

(при t=x берутся главные (в смысле Коши) значения интегралов).

Если Fa (со) - спектр (преобразование Фурье) функции s(t), то спектр сопряженной функции

f(o))= j а(/)ехр( -10)/)/=- j s (т) j exp(--icoO

-оо -оо -оо

Заменой / на х-и переменные интегрирования разделяются. Тогда со) = Fs (со) - j --du= -Fs (со) - j -dtt.

о

Так как

л зш (ом jc

- Jm = - sgn (о,

о 2

где sgn со означает знак переменной со, то

F(co)=-iFs(co)sgnco. (3)

Из (3) следует, что (со) = (о) , а arg(со) =argf Дсо)±я/2. На-пример, при s(/) = 0 со5(соо^+ф) сопряженная функция а(0 = о sin(coo/+9).

Зададим на действительной оси t комплексную функцию Z(t) == s(t)+ю(t), Для того чтобы эта функция была пределом аналитической функции Z{t+iu) при необходимо и достаточно выполнения любого из следующих двух ус-

ловий: функции s(t) и G(t) - сопряженные; преобразование Фурье Fz(co) от Z{t) тождественно равно нулю при со<0. Выполнение одного условия влечет за собой выполнение другого.

Комплексную функцию Z{t) действительного переменного t, удовлетворяющую одному из указанных условий, называют аналитическим сигналом, соответствующим s(t). Обозначим через a{t) и Ф(/) модуль и аргумент аналитического сигнала:

Z(O=a(Oexp(i0(O). (4)

Тогда

s(0 = ReZ(0=a(0cosO(0, (5)

o(t) =:Im Z(t) =a(Osin Ф(0. (6) откуда

a{t) = [sHt)+oHt)y/ il)

0{t)avcig[a(t)ls(t)]. (8)

Функции a{t) и Ф,(0 называют огибающей и фазой s{t). Так как заданной функции s{t) соответствует однозначно аналитический сигнал Z{t) и, следовательно, огибающая a{t) = \Z(t)\ и фаза Ф(0=aгgZ(0, то представление функции s(t) в виде (5) с учетом (6)-(8) однозначно.

список ЛИТЕРАТУРЫ

1. Левин Б. Р. Теоретические основы статистической радиотехники. Кн. 1-я.- М.: Сов. радио, 1974.-552 с.

2. Келли Т, Л. Статистические таблицы.-М.: ВЦ АН СССР, 1966. - 194 с.

3. Гантмахер Ф. Р. Теория матриц. - М.: Наука, 1968.- 576 с.

4. Таблицы распределения Рэлея -Раиса. - М.: ВЦ АН СССР, 1964. 246 с.

5. Левин Б. Р. Теория случайных процессов и ее применение в радиотехнике. - М.: Сов. радио, 1957. -496 с.

6. Крамер Г. Математические методы статистики: Пер. с англ./Под ред. А. Н. Колмогорова. - М.: Мир, 1976.-632 с.

7. Каган А. М., Линник Ю. В., Рао С. Р. Характеризационные задачи математической статистики. - М.: Наука, 1972. - 656 с.

8. Лоев М. Теория вероятностей: Пер. с англ./Под ред. Ю. В. Прохорова.- М.: ИЛ. 1962. - 720 с.

9. Возенкрафт Дж., Джекобе И. Теоретические основы техники связи: Пер. с англ./Под ред. Р. Л. Добрушина. - М.: Мир, 1969. - 640 с.

10. Колмогоров А. Н. Основные понятия теории вероятностей. - М.: Наука, 1974. - 119 с.

11. Винер Н., Пэли Р. Преобразование Фурье в комплексной области: Пер. с англ./Под ред. Ф. В. Широкова. - М.: Наука, 1964.- 267 с.

12. Хинчин А. Я. Теория корреляции стационарных случайных функций Успе-хи математических наук. - 1938. - Вып. 5. - С. 42-51.

13. Ибрагимов И. А., Линник Ю. В. Независимые и стационарно связанные случайные величины. - М.: Наука, 1955. - 524 с.

14. Биллингсли П. Сходимость вероятностных мер: Пер. с англ./Под ред.

A. В. Прохорова. - М.: Наука, Ю77. - 351 с.

15. Боровков А. А. Теория вероятностей. - М.: Наука, 1976. - 352 с.

16. Левин Б. Р., Шварц -В. Вероятностные модели и методы в системах связи и управления. - М.: Радио и связь, 1985. - 312 с.

17. Гельфанд И. М., Виленкин Н. Я. Обобщенные функции. - М.: Физматгиз, 1961. - Вып. 4. - 472 с.

18. Левин Б. Р. Теоретические основы статистической радиотехники. Кн. 3-я.- М.: Сов. радио, 1976. -288 с.

19. Феллер В. Введение в теорию вероятностей и ее приложения. Т. 2: Пер. с англ./Под ред. Ю. В. Прохорова. - М.: Мир. 1984. - 752 с.

20. Линдсей В. Системы синхронизации в связи и управлений: Пер. с англ./ Под ред. Ю. Н. Бакаева и М. В. Капранова. - М.: Сов. радио, 11978.- 600 с.

21. Тихонов В. И., Миронов М. А. Марковские процессы. - М.: Сов. радио, 1977.-488 с.

22. Гихман И. И., Скороход А. В. Введение в теорию случайных процессов.- М.: Наука, 1965. -656 с.

23. Корн Г., Корн т. Справочник по математике для научных работников и инженеров: Пер. с англ./Под ред. И. Г. Арамоновича. - М.: Наука, 1977.- 832 с.

24. Пупков К. А., Копалин В. И., Ющенко А. С. Функциональные ряды в теории нелинейных систем. - М.: Наука, 1976.- 448 с.

25. Рабинер Л., Гоулд Б. Теория и применение цифровой обработки сигналов: Пер. с англ./Под ред. Ю. Н. Александрова. - М.: Мир, 1978. - 848 с.

26. Директор С, Рорер Р. Введение в теорию систем: Пер. с англ./Под ред.

B. Н. Бусленко. - М.: Мир, 1974. - 644 с.

27. Гоулд Б., Рейдер Ч. Цифровая обработка сигналов: Пер. с англ./Под ред. А. М. Трахтмана. - М.: Сов. радио, 1973. - 368 с.

28. Хеннан Э. Многомерные временные ряды: Пер. с англ./Под ред. Ю. А. Розанова. - М.: Мир, 1974. - 576 с.