Чтобы в какой-то мере охарактеризовать внутреннюю структуру случайного процесса, т.е. учесть связь между значениями случайного процесса в различные моменты времени или, иными словами, учесть степень изменчивости случайного процесса, вводят понятие о корреляционной (автокорреляционной) функции случайного процесса .

Корреляционной (или автокорреляционной) функцией случайного процесса называют неслучайную функцию двух аргументов, которая для каждой пары произвольно выбранных значений аргументов (моментов времени)иравна математическому ожиданию произведения двух случайных величини соответствующих сечений случайного процесса:

Корреляционную функцию для центрированной случайной составляющей называют центрированной и определяют из соотношения

(1.58)

Часто функцию называют ковариационной, а – автокорреляционной .

Различные случайные процессы в зависимости от того, как изменяются их статистические характеристики с течением времени, делят на стационарные и нестационарные. Различают стационарность в узком смысле и стационарность в широком смысле.

Стационарным в узком смысле называют случайный процесс , если его -мерные функции распределения и плотности вероятности при любомне зависят от положения начала отсчета времени . Это означает, что два процессаиимеют одинаковые статистические свойства для любого, т. е. статистические характеристики стационарного случайного процесса неизменны во времени. Стационарный случайный процесс – это своего рода аналог установившегося процесса в динамических системах.

Стационарным в широком смысле называют случайный процесс ,математическое ожидание которого постоянно:

а корреляционная функция зависит только от одной переменной - разности аргументов :

Понятие случайного процесса, стационарного в широком смысле, вводится тогда, когда в качестве статистических характеристик случайного процесса используются только математическое ожидание и корреляционная функция. Часть теории случайных процессов, которая описывает свойства случайного процесса через его математическое ожидание и корреляционную функцию, называюткорреляционной теорией.

Для случайного процесса с нормальным законом распределения математическое ожидание и корреляционная функция полностью определяют его n -мерную плотность вероятности. Поэтому для нормальных случайных процессов понятия стационарности в широком и узком смысле совпадают.

Теория стационарных процессов разработана наиболее полно и позволяет сравнительно просто производить расчеты для многих практических случаев. Поэтому допущение о стационарности иногда целесообразно делать также и для тех случаев, когда случайный процесс хотя и нестационарен, но на рассматриваемом отрезке времени работы системы статистические характеристики сигналов не успевают сколь-нибудь существенно измениться.

В теории случайных процессов пользуются двумя понятиями средних значений. Первое понятие о среднем значении - это среднее значение по множеству (или математическое ожидание), которое определяется на основе наблюдения над множеством реализаций случайного процесса в один и тот же момент времени. Среднее значение по множеству принято обозначать волнистой чертой над выражением, описывающим случайную функцию:

В общем случае среднее значение по множеству является функцией времени .

Другое понятие о среднем значении – это среднее значение по времени , которое определяется на основе наблюдения за отдельной реализацией случайного процесса на протяжении достаточно длительного времени. Среднее значение по времени обозначаютпрямой чертой над соответствующим выражением случайной функции и определяют по формуле

, (1.62)

если этот предел существует.

Среднее значение по времени в общем случае различно для отдельных реализаций множества, определяющих случайный процесс.

Вообще для одного и того же случайного процесса среднее по множеству и среднее по времени различны, однако для так называемых эргодических стационарных случайных процессов среднее значение по множеству совпадает со средним значением по времени:

В соответствии с эргодической теоремой для стационарного случайного процесса корреляционную функцию можно определить как среднее по времени одной реализации

(1.64)

где - любая реализация случайного процесса.

Центрированная корреляционная функция эргодического стационарного случайного процесса

Из выражения (1.65), можно заметить, что дисперсия стационарного случайного процесса равна начальному значению центрированной корреляционной функции :

Помехи в системах связи описываются методами теории случайных процессов.

Функция называется случайной, если в результате эксперимента она принимает тот или иной вид, заранее неизвестно, какой именно. Случайным процессом называется случайная функция времени. Конкретный вид, который принимает случайный процесс в результате эксперимента, называется реализацией случайного процесса.

На рис. 1.19 показана совокупность нескольких (трех) реализаций случайного процесса , , . Такая совокупность называется ансамблем реализаций. При фиксированном значении момента времени в первом эксперименте получим конкретное значение , во втором – , в третьем – .

Случайный процесс носит двойственный характер. С одной стороны, в каждом конкретном эксперименте он представлен своей реализацией – неслучайной функцией времени. С другой стороны, случайный процесс описывается совокупностью случайных величин.

Действительно, рассмотрим случайный процесс в фиксированный момент времени Тогда в каждом эксперименте принимает одно значение , причем заранее неизвестно, какое именно. Таким образом, случайный процесс, рассматриваемый в фиксированный момент времени является случайной величиной. Если зафиксированы два момента времени и , то в каждом эксперименте будем получать два значения и . При этом совместное рассмотрение этих значений приводит к системе двух случайных величин. При анализе случайных процессов в N моментов времени приходим к совокупности или системе N случайных величин .

Математическое ожидание, дисперсия и корреляционная функция случайного процесса.Поскольку случайный процесс, рассматриваемый в фиксированный момент времени, является случайной величиной, то можно говорить о математическом ожидании и дисперсии случайного процесса:

, .

Так же, как и для случайной величины, дисперсия характеризует разброс значений случайного процесса относительно среднего значения . Чем больше , тем больше вероятность появления очень больших положительных и отрицательных значений процесса. Более удобной характеристикой является среднее квадратичное отклонение (СКО) , имеющее ту же размерность, что и сам случайный процесс.

Если случайный процесс описывает, например, изменение дальности до объекта, то математическое ожидание – средняя дальность в метрах; дисперсия измеряется в квадратных метрах, а Ско – в метрах и характеризует разброс возможных значений дальности относительно средней.

Среднее значение и дисперсия являются очень важными характеристиками, позволяющими судить о поведении случайного процесса в фиксированный момент времени. Однако, если необходимо оценить «скорость» изменения процесса, то наблюдений в один момент времени недостаточно. Для этого используют две случайные величины , рассматриваемые совместно. Так же, как и для случайных величин, вводится характеристика связи или зависимости между и . Для случайного процесса эта характеристика зависит от двух моментов времени и и называетсякорреляционной функцией: .

Стационарные случайные процессы. Многие процессы в системах управления протекают однородно во времени. Их основные характеристики не изменяются. Такие процессы называютсястационарными. Точное определение можно дать следующим образом. Случайный процесс называется стационарным, если любые его вероятностные характеристики не зависят от сдвига начала отсчета времени. Для стационарного случайного процесса математическое ожидание, дисперсия и СКО постоянны: , .

Корреляционная функция стационарного процесса не зависит от начала отсчета t, т.е. зависит только от разности моментов времени:

Корреляционная функция стационарного случайного процесса имеет следующие свойства:

1) ; 2) ; 3) .

Часто корреляционные функции процессов в системах связи имеют вид, показанный на рис. 1.20.

Рис. 1.20. Корреляционные функции процессов

Интервал времени , на котором корреляционная функция, т.е. величина связи между значениями случайного процесса, уменьшается в М раз, называетсяинтервалом или временем корреляции случайного процесса. Обычно или . Можно сказать, что значения случайного процесса, отличающиеся по времени на интервал корреляции, слабо связаны друг с другом.

Таким образом, знание корреляционной функции позволяет судить о скорости изменения случайного процесса.

Другой важной характеристикой является энергетический спектр случайного процесса. Он определяется как преобразование Фурье от корреляционной функции:

.

Очевидно, справедливо и обратное преобразование:

.

Энергетический спектр показывает распределение мощности случайного процесса, например помехи, на оси частот.

При анализе САУ очень важно определить характеристики случайного процесса на выходе линейной системы при известных характеристиках процесса на входе САУ. Предположим, что линейная система задана импульсной переходной характеристикой . Тогда выходной сигнал в момент времени определяется интегралом Дюамеля:

,

где – процесс на входе системы. Для нахождения корреляционной функции запишем и после перемножения найдем математическое ожидание

1. Математическое ожидание неслучайного процесса j(t ) равно самому неслучайному процессу:

Из выражения (1.9) следует, что любая центрированная неслучайная функция равна нулю, поскольку

2. Если случайная величина Y (t ) представляет собой линейную комбинацию функций X i (t ):

, (1.11)

где - неслучайные функции t , то

. (1.12)

Последнее соотношение следует из того, что операция определения математического ожидания линейна.

3. Корреляционная функция неслучайного процесса тождественно равна нулю. Это свойство следует непосредственно из (1.10).

4. Корреляционная функция не изменяется от прибавления к случайной функции любой неслучайной функции . Действительно, если , то

Отсюда следует, что корреляционные функции случайных процессов и

Совпадают. Поэтому при определении корреляционных функций всегда можно считать, что рассматриваемый процесс является центрированным.

5. Если случайный процесс Y (t ) представляет собой линейную комбинацию случайных процессов X i (t ):

,

где - неслучайные функции, то

, (1.14)

где - собственная корреляционная функция процесса X i (t ), - взаимная корреляционная функция процессов и .

Действительно:

, =

.

Если случайные процессы попарно некоррелированы, то

. (1.15)

Полагая в (1.14) , получим выражение для дисперсии линейной комбинации случайных процессов:

В частном случае некоррелированных случайных процессов

. (1.17)

6. Корреляционная функция является неотрицательно определенной функцией:

. (1.18)

Действительно, представим (1.18) в виде:

.

Так как интеграл есть предел интегральной суммы, то последнее выражение можно представить в виде предела суммы математических ожиданий, которая, в свою очередь, равна математическому ожиданию суммы. Поэтому операции интегрирования и математического ожидания можно менять местами. В результате получим:

7. Корреляционная функция симметрична относительно своих аргументов. Взаимная корреляционная функция этим свойством не обладает.

Симметричность корреляционной функции вытекает непосредственно из её определения:

В то же время для взаимной корреляционной функции имеем:

Взаимная корреляционная функция удовлетворяет следующему соотношению:

8. Корреляционная функция и взаимная корреляционная функция удовлетворяют следующим неравенствам:

Часто вместо собственной и взаимной корреляционных функций рассматривают нормированные корреляционные функции :

, (1.23)

. (1.24)

Нас основании (1.21) и (1.22) для нормированных корреляционных функций справедливы неравенства:

. (1.25)

Пример Заданный случайных процесс представляет собой сумму случайного и неслучайного процессов: . Заданы , определить

Используя (1.9) и (1.12), будем иметь:

Согласно (1.15)

и, наконец, в соответствии с (1.17) .

КЛАССИФИКАЦИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

Стационарные процессы

Случайный процесс называется стационарным , если его многомерный закон распределения зависит лишь от взаимного расположения моментов времени t 1 , t 2 , . . .t n , т.е. не меняется при одновременном сдвиге этих моментов времени на одинаковые величины:

Если выражение (2.1) удовлетворяется при любом n , то такой процесс называется стационарным в узком смысле.

При n =1 выражение (2.1) приобретает вид:

И при , 2.2)

т.е. одномерный закон распределения стационарного процесса не зависит от времени. Следовательно, от времени не будут зависеть и характеристики случайного процесса, зависящие от одномерного закона распределения: математическое ожидание и дисперсия случайного процесса:

, . (2.3)

При n =2 выражение (2.1) переписывается следующим образом:

Следовательно корреляционная функция стационарного процесса, определяемая двумерным законом распределения, будет зависеть лишь от интервала времени t

По определению А.Я.Хинчина процесс является стационарным в широком смысле , если условие стационарности (2.1) удовлетворяется лишь при n= 1 и 2.

Следовательно, условия стационарности процесса в широком смысле можно сформулировать в виде:

· математическое ожидание и дисперсия такого процесса не зависят от времени - и D X ;

· корреляционная функция процесса зависит лишь от интервала между сечениями по времени - .

K XX (t) является четной функцией своего аргумента:

Следует помнить, что взаимная корреляционная функция представляет собой нечетную функцию:

, (). (2.7)

Нормальные процессы

Случайный процесс является нормальным , если нормальным является любой многомерный закон:

× ), (2.8)

где (2.9)

Относительные собственные и взаимные корреляционные функции, и двух значениях случайной величины Y – y 1 и y 2 . Из рисунка видно, что математическое ожидание реализации при Y =y 1 равно y 1 , а при Y =y 2 – y 2 .

Рис.2.1. Пример стационарного неэргодического процесса

Таким образом, по единственной реализации стационарного, но неэргодического процесса нельзя судить о характеристиках процесса в целом.

Марковские процессы

Если вероятностные свойства случайного процесса полностью определяются значением его ординаты в заданный момент времени и не зависят от значений ординат процесса в предыдущие моменты времени, то такой случайный процесс называется Марковским. Иногда такие процессы называют процессами без последействия.

При исследовании вопросов зависимости или независимости двух или более сечений случайных процессов знание лишь математического ожидания и дисперсии с.п. не достаточно.

Для определения связи между различными случайными процессами используется понятие корреляционной функции – аналог понятия ковариации случайных величин (см. Т.8)

Корреляционной (ковариационной, автоковариационной, автокорреляционной) функцией случайного процесса
называется неслучайная функция двух аргументов

равна корреляционному моменту соответствующих сечений
и
:

или (с учётом обозначения центрированной случайной функции
) имеем

Приведём основные свойства корреляционной функции
случайного процесса
.

1. Корреляционная функция при одинаковых значениях аргументов равна дисперсии с.п.

Действительно,

Доказанное свойство позволяет вычислить м.о. и корреляционную функцию являющимися основными характеристиками случайного процесса, необходимость в подсчёте дисперсии отпадает.

2. Корреляционная функция не меняется относительно замены аргументов, т.е. является симметрической функцией относительно своих аргументов: .

Это свойство непосредственно выводится из определения корреляционной функции.

3. Если к случайному процессу прибавить неслучайную функцию, то корреляционная функция не меняется, т.е. если
, то. Другими словами

является периодической функцией относительно любой неслучайной функции.

Действительно, из цепочки рассуждений

следует, что . Отсюда получим требуемое свойство 3.

4. Модуль корреляционной функции не превосходит произведения с.к.о., т.е.

Доказательство свойства 4. проводится аналогично как в пункте 12.2. (теорема 12..2), с учётом первого свойства корреляционной функции с.п.
.

5. При умножении с.п.
на неслучайный множитель
её корреляционная функция умножится на произведение
, т.е., если
, то

5.1. Нормированная корреляционная функция

Наряду с корреляционной функцией с.п. рассматривается также нормированная корреляционная функция (или автокорреляционная функция )
определяемая равенством

.

Следствие. На основании свойства 1 имеет место равенство

.

По своему смыслу
аналогичен коэффициенту корреляции для с.в., но не является постоянной величиной, а зависит от аргументови.

Перечислим свойства нормированной корреляционной функции :

1.

2.

3.
.

Пример 4. Пусть с.п. определяется формулой, т.е.
с.в.,

распределена по нормальному закону с

Найти корреляционную и нормированную функции случайного процесса

Решение. По определению имеем

т.е.
Отсюда с учётом определения нормированной корреляционной функции и результатов решения предыдущих примеров получим
=1, т.е.
.

5.2. Взаимная корреляционная функция случайного процесса

Для определения степени зависимости сечений двух случайных процессов используют корреляционную функцию связи или взаимную корреляционную функцию.

Взаимной корреляционной функцией двух случайных процессов
и
называется неслучайная функция
двух независимых аргументови, которая при каждой паре значенийиравна корреляционному моменту двух сечений
и

Два с.п.
и
называютсянекоррелированными, если их взаимная корреляционная функция тождественно равна нулю, т.е. если для любыхиимеет место
Если же для любыхиокажется
, то случайные процессы
и
называютсякоррелированными (илисвязанными ).

Рассмотрим свойства взаимной корреляционной функции, которые непосредственно выводятся из её определения и свойств корреляционного момента (см. 12.2):

1.При одновременной перестановке индексов и аргументов взаимная корреляционная функция не меняется, то есть

2. Модуль взаимной корреляционной функции двух случайных процессов не превышает произведения их средних квадратичных отклонений, то есть

3. Корреляционная функция не изменится, если к случайным процессам
и
прибавить неслучайные функции
и
соответственно, то есть
, где соответственно
и

4. Неслучайные множители
можно вынести за знак корреляции, то есть, если
и, то

5. Если
, то.

6. Если случайные процессы
и
некоррелированные , то корреляционная функция их суммы равна сумме их корреляционных функций, то есть.

Для оценки степени зависимости сечений двух с.п. используют также нормированную взаимную корреляционную функцию
, определяемую равенством:

Функция
обладает теми же свойствами, что и функция
, но свойство 2

заменяется на следующее двойное неравенство
, т.е. модуль нормированной взаимной корреляционной функции не превышает единицы.

Пример 5. Найти взаимную корреляционную функцию двух с.п.
и
, где
случайная величина, при этом

Решение. Так как,.

Корреляционная функция стационарного процесса

Корреляционная функция слу­чайного процесса определяется как математическое ожидание произведения двух центрированных сечений процесса, взятых в мо­менты t 1 и t 2 . При этом математическое ожидание вычисляется с использованием двумерной плотности вероятности . Для стационарного случайного процесса двумерная плотность вероятности и, соответственно, корреляционная функция зависят не от t 1 и t 2 в отдельности, а только от их разности = t 2 - t 1 . В соответствии с этим корреляционная функция стационар­ного процесса определяется выражением

(3.1)

где - математическое ожидание стационарного процесса; х 1 , х 2 - возможные значения случайного процесса соответственно, в моменты времени t 1 , t 2 ; = t 2 – t 1 - интервал времени между сечения­ми; - двумерная плотность вероятности стационарно­го процесса. Второе выражение для получено путём раскрытия квадратных скобок первого выражения и учета свойств математичес­кого ожидания.

В научно-технической литературе используется также такая характеристика случайного процесса, как ковариационная функция K (t ), под которой понимается математическое ожидание произведения двух значений процесса, взятых соответ­ственно в моменты t 1 и t 2:

(3.2)

так что справедливо соотношение

(3.3)

Если , то понятия и совпадают. Если же до­полнительно обладает эргодическим свойством, то корреляцион­ная функция может быть определена по одной длинной реализации:

(3.4)

где Т - интервал наблюдения единственной реализации x (t ) процесса ; - эта же реализация x (t ), задержанная на время .

Формула (3.4) может быть положена в основу построения Структурная схема уст­ройства, измеряющего корреляционную функцию, которое называется коррелометром . Для построения коррелометра требуются перемножитель, устройство задержки с переменным временем задержки и интегратор (рис. 3.1). Это устройство измеряет или в зависимости от того, равно нулю или нет.

Корреляционная функция стационарного случайного про­цесса, как и вообще корреляционная функция случайного процесса, является действительной функцией аргумента . При этом характеризует с двух сторон. Во-первых, определяет среднюю удельную мощность флюктуаций. А во-вторых, позволяет судить о степени линейной связи между двумя сечениями случайного процесса, отстоящими друг от друга на интервал времени . Размерность совпадает с размерностью квадрата случайного процесса. Рассмотрим свойства корреляционной функции.

1. Корреляционная функция при = 0 равна дисперсии процесса

(3.5)

Это свойство вытекает непосредственно из формулы (3.1), если в ней положить = 0.

2. Корреляционная функция стационарного процесса является чётной функцией аргумента :

(3.6)

Это свойство непосредственно вытекает из определения стационарно­го процесса, для которого важны не сами значения моментов и t 2 , а расстояние во времени одного сечения от другого |t 2 -t 1 |.

3. Корреляционная функция при любом t не может превзойти своего значения при = 0:

(3.7)

Это свойство физически означает, что наибольшая степень линейной связи обеспечивается между одним и тем же сечением, то есть при =0. Правда, если является периодическим процессом, то может найтись еще какое-либо , соизмеримое с периодом процесса, для которого выполняется жесткая функциональная связь между и . Поэтому в формуле (3.7) в общем случае может выполняться не только неравенство, но и равенство.

4. Корреляционная функция может быть представлена в виде

(3.8)

где r (t ) нормированная корреляционная функция, имеющая смысл коэффициента корреляции, зависящего от и заключенная в пределах

. (3.9)

Она характеризует только степень линейной связи между сечениями слу­чайного процесса, взятыми через интервал . В свою очередь, дисперсия процесса характеризует только среднюю удельную мощность флюктуаций случайного процесса.