ограничения все же накладываются на свойства случайных суммируемых величин. Имеегся одна разновидность теоремы, например когда отказываются от предположения об одинаковом распределении случайных величин в пользу условия, накладываемого на третий абсолютный момент случайных величин суммы. Для обсуждения этой и других версий центральной предельной теоремы читатель отсылается к книге Крамера (1946).

2.2. СЛУЧАЙНЫЕ ПРОЦЕССЫ

Множество случайных явлений, которые имеют место в природе, являются функциями времени. Например, метеорологические явления такие как случайные флуктуации температуры воздуха и давления воздуха, являются функциями времени Напряжение теплового шума, создаваемое в резисторах электронных устройств, таких как радиоприёмник, также является функцией времени. Подобным образом сигнал на выходе истоника, который выдает информацию, характеризуется как случайный сигнал, меняющийся во времени Звуковой сигнал который передается в телефонном канале, является примером такого сигнала. Все это примеры стохастических (случайньх) процессов При изучении систем цифровой связи мы используем случайные процессы для характеристики и моделирования сигналов, создаваемых источниками информации, для характеристики каналов связи, используемых для передачи информации, для характеристики шумов, создаваемых в приёмнике, и при синтезе оптимального приёмника для обработки принимаемого случайного сигнала.

В заданный момент времени / величина случайного процесса, будь то величина напряжения шума в резисторе или амплитуда сигнала, создаваемого звуковым источником, является случайной величиной. Таким образом, мы можем рассматривать случайный процесс как случайную величину; индексируемую параметром t Мы будем обозначать такой процесс X(J). Вообще говоря, параметр t непрерывен, в то время как X может быть или непрерывным или дискретным, в зависимости от характеристик источника, который создает случайный процесс.

Шумовое напряжение, создаваемое единственным резистором, или сообщение, выдаваемое источником информации, представляет единственную реализацию случайного процесса. Поэтому их называют выборочной функцией случайного процесса. Ряд всех возможных выборочных функций, например ряд всех шумовых напряжений, создаваемых резисторами, определяют ансамбль выборочных функций или, что эквивалентно, слу ийный процесс Х(1). Вообще говоря, число выборочных функций (реализаций) в ансамбле может быть очень большим; часто оно бесконечно.

Определяя случайный процесс X(t) как ансамбль реализаций, мы можем рассмотреть значения процесса в ряде моментов времени /i, /2, /5, . , t„, где - положительное целое

Ч1СЛ0. В общем, случайные величины X, = /-1,2, ...г; характеризуются

статистически их СФПВ pjx х,, j. Все вероятностные соотношения, определенные в

разд. 2.1 для многомерных случайных величин, распространяются на случайные величины А,, / = 1,2, .. .

Стационарные случайные процессы. Как указано выше, случайные величины / = 1, 2 ..., , полученные из случайного процесса Д/) для ряда моментов времени /,

h /, /„ при некотором , характеризуется статистически СФПВ рх,.х, .....х, j.

Рассмотрим другой ряд случайных величин Xf., = x{t,+ij, / = 1,2,. , , где / -произвольный временной сдвиг, одинаковый для всех /. Эти случайные величины

характеризуются СФПВ

+/>;,+г>---»/+/) • СФПВ случайных величин X, и А,.,,, / = 1,2, ...а;, могут быть одинаковыми или нет. Если они одинаковы, т.е. если

р{х,,х,,..., X,J = р(х, „, х,,,..., X, ) (2.2.1)

для всех tun, случайный процесс называется стащюнарны.и в строгом смысле. Это значит, что статистика стационарного случайного процесса инвариантна к произвольному смещению по оси времени. С другой стороны, если СФПВ различны, случайный процесс называют нестационарным.

2.2.1. Статистические средние

Так же, как мы определили статистические средние для случайных величин, мы можем определить статистические средние для случайного процесса. Такие средние также называют средними по ансамблю. Пусть X(t) определяет случайный процесс и пусть Х - X(t,). Тогда п-п момент случайной величины Х, определяется как

4ФL<P{). (2.2.2)

Вообще говоря, значение «-го момента будет зависеть от времени t,, если ФПВ для Х, зависит от Однако, если процесс стационарен, /?(х,.„) = р(х) для всех /, то ФПВ не зависит от времени и, как следствие п-н момент не зависит от времени.

Далее мы рассмотрим две случайные величины Х - X(t,), i=l,2. Корреляция между

Xi иХа измеряется совместным моментом

Ф,.) = £ £ w(v,)dx,dx,. (2 2.3)

Так как этот совместный момент зависит от выбора 1\ и /2, его обозначают ф(/1,/2) Функцию ф(/1,/2) называют автокорреляционной фуик1{ней случайного процесса Если процесс ДО стационарен, СФПВ пары (Х,,Х,) идентична СФПВ пары {Х,1,Х,.,) для

произвольного t. Это означает, что функция автокорреляции X(i) не зависит от конкретных значений /1 и h, но зависит от их разности /1-/2. Таким образом, для стационарного случайного процесса совместный момент (2.2.3) равен

е{х, XJ = Ф (/,,/,) = Ф (/,-/,) = Ф (т), (2.2.4)

где т= /Н2 или, что эквивалентно, t2= t\-x. Если положить /2= /i+т, то

ф(-х) = е{х,Х,,,) = ф,Г, ,) = ф(т)

Следовательно, ф(т) является чётной функцией. Заметим также, что (0)=е(Х) определяет среднюю мощность процесса X(t).

Существуют нестационарные процессы со свойствами: среднее значение процесса не зависит от времени (константа), а функция автокорреляции удовлетворяет условию

ф(/„/.) = ф(/,-л).

Такие процессы называют стационарными в широком смысле. Следовательно, стационарность в широком смысле - это менее строгое условие, чем стационарность в строгом смысле. Если делается ссылка на стационарный случайный процесс при последующих обсуждениях, в которых участвуют функции корреляции, то везде имеется в виду менее строгое условие (стационарность в широком смысле).

С функцией автокорреляции связана функция автоковарнации случайного процесса,

которая определяется так

= -/«(/К,, -ni{l)]] = <{t„t,)-m(/,)m(t,), (2.2.5)

где w(/i) и №(/2) - средние дпяХп и соответственно. Если процесс стационарен, функция автоковариации упрощается и зависит только от т= ii-iy.

[{ит) = - 2) = М = ФW- w, (2.2.6)

Совместные моменты более высокого порядка для двух или более случайных величин, полученных из случайного процесса, определятся очевидным образом. За исключением гауссовского случайного процесса, для которого моменты более высокого порядка можно выразить через моменты первого и второго порядка, моменты высокого порядка встречаются на практике очень редко

Средние для гауссовских процессов. Предположим, что X(t) является гауссовским случайным процессом. Следовательно, в момент времени t=t,, 2, случайные

величины Х„, /=1,2, ..., , являются совместно гауссовскими со средними значениями ш(/,), /=1, 2, ..., , и с автоковариациями

/,7 = 1,2,..., . (2.2.7)

Если мы обозначим /; х матрицу ковариации с элементами д(/„/,) через М и вектор средних значений через Шл, тогда СФПВ случайных величин X,, / = 1,2, ..,

определяется формулой (2.1.150). Если гауссовский процесс стационарен, то m(t,)m для всех /, и nit.J,)- \{f-tj) Гауссовский случайный процесс полностью определяется средними значениями и функцией автокорреляции. Так как совместное гауссовское ФПВ зависит только от этих двух моментов, то следует, что если гауссовский процесс стационарен в широком смысле, он также стационарен в строгом смысле. Конечно, обратное утверждение верно для любого случайного процесса.

Средние для совместных случайных процессов. Пусть X{f) и Y(J) - два случайных процесса и пусть X,=x{iy /1,2,.., , и Y,=Y{t, / = 1,2,..., , представляют случайные величины в моменты > /, > /3 >...> и /, > /3 > /3 >...> соответственно. Эти два процесса характеризуются статистически их СФПВ

для ряда моментов /,,/2,...,/, t[,t!,...,t и для положительных целых значений и т. 0ynKiim взаимной (кросс-) корреляции X{i) и У(/), обозначаемая {1,1., находится как совместный момент

Ф.. (,2) = e{x,Y,) = \S J,,y.,t{x,, д , (2.2.8)

а функция взаимных ковариации

1л. (и а) = Ф.., (а , а) niXh) "Фг) (2.2.9)

Когда процессы совместно и индивидуально стационарны, имеем

<1.у(..2) = Ф.(А -2) и \ySu,tЛ = \.{u -2)- В этом случае

ф,, (- т) = e[x,Y,,) e[x,. J ф. (т). (2.2.10)

Случайные процессы Х{() и Y{t) называются статистически независимыми, если, и только если

р(х,х,,. .,х,,у,,у,... .,y,;) = p(x,,x,,....x,)p(y,.,y,,,...,y,J