Случайный процесс. Типы случайных процессов

Вероятностные и корреляционные характеристики случайных процессов определяются с помощью одного или нескольких моментов времени (сечений). Однако существует класс случайных процессов, у которых зависимость характеристик от времени отсутствует, и при определенных условиях ряд вероятностных характеристик может быть определен путем усреднения по всему ансамблю реализаций. В других случаях для данных целей может быть осуществлено усреднение по времени с использованием одной к- реализации x k (t) случайного процесса Х(1). Наличие и отсутствие зависимости вероятностных характеристик от времени или от номера реализации определяет такие фундаментальные свойства процесса, как стационарность и эргодичность.

Особое место среди случайных процессов занимает стационарный случайный процесс, с которым часто приходится сталкиваться в теории связи.

Стационарными называют случайные процессы, статистические характеристики которых не изменяются во времени. Примерами стационарных случайных процессов являются внутренние шумы приемников, тепловой шум транзистора, стабилитрона и других полупроводниковых и электронных приборов. В практических приложениях теории случайных процессов условие стационарности обычно ограничивается требованием независимости от времени только одномерной и двумерной плотностей вероятности. Выполнение этого условия позволяет считать, что среднее значение, средний квадрат и дисперсия случайного процесса нс зависят от времени, а корреляционная функция зависит только от интервала между ними т = t 2 -t v т.е. от одного аргумента. Случайные процессы, удовлетворяющие условиям стационарности на ограниченных интервалах, также относят к их числу и называют квазистационарными.

С учетом предложенных ограничений при записи статистических параметров стационарного случайного процесса можно опускать обозначения фиксированных моментов времени. В этом случае математическое ожидание и дисперсия не зависят от времени, т.е. формулы (3.5) и (3.6) примут вид

Нетрудно показать, что функция корреляции случайного стационарного процесса зависит только от разности т = t 2 - t v и поэтому R x (t v t 2) = R v (т).

Из определения стационарности случайного процесса следует, что его функция корреляции является четной относительно т = 0: R v (т) = R x (- т).

Стационарность - не единственное полезное свойство случайных процессов, позволяющее подробно их исследовать. Еще одним свойством такого рода является эргодичность (ergodicity ; от греч. ergon - работа). Условие эргодичности включает в себя и условие стационарности случайного процесса. Эргодичность проявляется в том, что со временем процесс становится однородным.

Стационарный случайный процесс является эргодическим, если усреднение по ансамблю реализаций можно заменить усреднением по времени одной реализации в пределах бесконечного интервала времени Т х. Приведем пример: если у вас есть кубик с числами на гранях от 1 до 6, то при 600 выбрасываниях число 1 выпадет около 100 раз. Можно взять 600 одинаковых кубиков и бросить их все одновременно один раз. При этом около 100 кубиков также покажут грань с числом 1.

Математическое ожидание эргодического процесса вычисляется усреднением по бесконечному интервалу времени значений заданной реализации. Обозначая усреднение по времени угловыми скобками, запишем

Следует помнить, что математическое ожидание эргодического случайного процесса равно постоянной составляющей любой его реализации.

Средний квадрат

является средней мощностью всего случайного эргодического процесса. Дисперсия

определяет мощность флуктуационной составляющей эргодического процесса.

Как правило, при экспериментальном исследовании случайных процессов наблюдают одну реализацию. Если процесс эргодический, то его реализация па большом интервале является типичным представителем всего ансамбля.

На рис. 3.12 приведен пример реального случайного процесса Х(!) в виде одной из реализаций флуктуационной составляющей x(t) там же показано СКО ±а от математического ожидания т х (для упрощения графика выбрано т к = 0).

Рис. 3.12. Флуктуационная составляющая x(t) с СКО ±ст

В электрических цепях широко используют переходные (разделительные) ЯС-цепи, не пропускающие постоянной составляющей. Поэтому для реальных стационарных эргодических процессов математическое ожидание т г = 0.

Функция корреляции в этом случае имеет более простой вид

Выражение (3.18) внешне совпадает с определением (2.56) автокорреляционной функции детерминированного периодического сигнала. Непосредственно из формулы (3.18) вытекает четность функции R t (т) относительно сдвига ср.

Важно заметить, что достаточным условием эргодичности случайного процесса, стационарного в широком смысле, является стремление к нулю его корреляционной функции с ростом временного сдвига т: lim R( т) = 0.

Согласно приведенным формулам по одной реализации можно определить математическое ожидание, дисперсию и корреляционную функцию эргодического случайного процесса. Обычно интегрирование выполняется не в бесконечных пределах, а на конечном интервале, длина которого должна быть тем больше, чем выше требования к точности результатов исследования.

Изучение стационарного случайного процесса будем проводить с учетом его эргодичности, признак которого - равенство среднего значения по множеству реализаций (3.14) среднему значению по времени одной реализации (3.17):

В общем случае результаты усреднения случайных процессов по совокупности и по времени неодинаковы. Предел выборочного среднего по совокупности представляет собой вероятностную характеристику, выражающую зависимость вероятностных свойств процесса от времени. Предел выборочного среднего по времени представляет собой вероятностную характеристику, выражающую зависимость вероятностных свойств процесса от номера реализации.

Пример 3.3

Случайный процесс U(t) состоит из гармонических реализаций и(1) = = U m cos((o 0 t + ф), где амплитуда U m и частота со 0 - постоянные параметры, а начальная фаза реализации ф - случайная величина, которая с одинаковой вероятностыо принимает значение в интервале (-я, я) (рис. 3.13). Найдем числовые характеристики процесса и определим, является ли он стационарным.

Решение

Заданное распределение начальных фаз означает, что плотность вероятности случайной фазы любого колебания р(ф) = 1/(2я). Тогда согласно формуле (3.14) математическое ожидание для амплитуд гармонических напряжений

По формуле (3.16) находим дисперсию

Рис. 3.13-

Тот факт, что реализации случайного процесса являются периодическими функциями, позволяет упростить вычисления, заменив усреднение по бесконечному промежутку времени усреднением но периоду Т= 2я/со 0 . Тогда функцию корреляции получим усреднением по времени произведения двух напряжений:

В правой части этого выражения первое слагаемое в фигурных скобках является детерминированным колебанием, поскольку в нем отсутствует случайная фаза. Второе слагаемое при статистическом усреднении по фазе с помощью одномерной плотности вероятности обращается в нуль. Поэтому функция корреляции

где т = ^ - 1).

Все искомые числовые характеристики не зависят от времени, и заданный случайный процесс является стационарным.

Отметим, что любой случайный процесс, реализации которого являются гармоническими функциями, идентичными по форме и различающимися лишь равномерно распределенной в пределах заданного периода начальной фазой, будет не только стационарным, по и эргодическим.

Пример 3.4

Случайный процесс 17(f) состоит из реализаций u(t) = l/ m cos(co 0 f + U m - случайная величина с произвольным законом распределения и равновероятная в интервале от 0 до U max (рис. 3.14). Определим, является ли этот процесс стационарным.

Рис. 3.14.

Решение

Математическое ожидание й = U m cos(o) 0 t + ф) нс зависит от времени лишь при U m = 0. Поэтому случайный процесс является нестационарным.

В этой главе будут рассмотрены основные определения, связанные с понятиями случайного процесса и его частного случая – временного ряда. Во многом эти определения параллельны тем, которые были даны выше для случайных величин. Это связано с тем, что случайный процесс можно рассматривать как систему (одномерный массив) случайных величин или же как случайную величину, зависящую от параметра.

§1. Определения случайного процесса и временного ряда

Под случайной функцией переменной t понимается соответствие, в силу которого каждому значению переменной t, принадлежащей некоторому заданному множеству U (называемому областью определения рассматриваемой функции) сопоставляется случайная величина X(t). Обычно U - это некоторое числовое множество, так что речь идет о случайной величине, зависящей от некоторого числового параметра t. В приложениях в качестве параметра t обычно фигурирует время и тогда X(t) часто называют случайным процессом. Иногда в качестве параметра t берется и некоторая пространственная координата. Случайный процесс – это случайная величина, взятая в динамике (временной, пространственной и т.п.) ее развития. Например, напряжение в электросети, наблюдаемое в течении некоторого заданного промежутка времени, вовсе не постоянно, как принято считать, а является случайным процессом, колеблясь вокруг своего номинального значения 220v. Реализуемая в некотором конкретном эксперименте функция x(t), состоящая из значений случайной величины X(t), называется реализацией этой случайной величины. Для напряжения реализация – это зависимость напряжения от времени при одном определенном измерении в заданном временном интервале. Еще одним примером случайного процесса является число пятен, наблюдаемое на Солнце работниками некоторой определенной обсерватории. Здесь важно подчеркнуть, что нужно рассматривать именно данные одной обсерватории, так как для разных обсерваторий случайные функции X(t) будут разными (т.е. случайные величины X(t) при каждом t будут немного отличаться в разных обсерваториях). Еще примеры случайных процессов – число отказов оборудования на данном предприятии, курс некоторой валюты (например, доллара) на бирже (например, на московской или лондонской), население города, броуновское движение микрочастиц в жидкости или газе, турбулентность и так далее.

Переменная t не обязательно должна меняеться непрерывно. Может оказаться, что она принимает дискретный набор значений. Например, областью определения случайной функции может быть множество N всех натуральных чисел (или какое-либо другое семейство равноотстоящих значений). В этом случае X(t) называется временным рядом. Временной ряд можно рассматривать как последовательность {X n } случайных величин. Реализация случайного процесса – это определенная последовательность чисел (т.е. числовая функция натурального аргумента). Итак, между случайным процессом и временным рядом нет принципиального различия, они отличаются только характером своей области определения. Поэтому их изучение можно производить параллельно.

Почти все приведенные выше примеры случайных процессов на самом деле более естественно рассматривать как примеры временных рядов. Например, число пятен на Солнце измеряется не непрерывно, а лишь раз в день (или чуть чаще, но даже далеко не каждую минуту) и потому результат является реализацией временного ряда. Отказы оборудования и курс доллара тоже определеяются не непрерывно и потому их тоже стоит рассматривать как примеры временных рядов. А вот напряжение в электросети, регистрируемое каким-либо прибором непрерывно, является типичным примером случайного процесса.

Если зафиксировать значение переменной t=t 0 , то случайная величина X(t 0), соответствующая этому значению, называется сечением случайного процесса. Поэтому случайный процесс – это набор сечений.

Часто случайные процессы можно задавать аналитически. Например, рассмотрим следующие два случайных процесса:

Y(t)=a∙sinΩt,

где A и Ω – случайные величины, a и ω – некоторые постоянные величины. Тогда X(t) можно рассматривать как гармонические колебания с постоянной частотой (равной ω), но со случайной амплитудой (задаваемой случайной величиной A). Например, это могут быть колебания некоторого фиксированного математического маятника, для которых начальное отклонение (определяющее амплитуду) выбирается случайно. Случайный процесс Y(t) можно рассматривать как гармонические колебания, имеющие постоянную амплитуду, но частота которых случайна.

При изучении случайных процессов обычно бывает необходимо решить следующие задачи:

1. Вычислить числовые и функциональные характеристики процесса (описательные методы).

2. Определить, имеется ли некоторая неслучайная, закономерная компонента, описывающая тенденцию (тренд) процесса.

3. Определить, нет ли регулярных, колебательных “сезонных” компонент, которые связаны с периодическими естественными колебаниями параметров случайного процесса.

4. Выделить и описать основные колебания случайного процесса вокруг тренда, в случае необходимости удалить влияние второстепенных факторов.

5. Дать прогноз развития случайной процесса на ближайшее будущее и указать степень уверенности в этом прогнозе.

Анализ случайных процессов находит применение во многих областях - научных и прикладных. Например, его используют в экономике, метеорологии (прогноз температуры, осадков, паводков и др.), морских дисциплинах, геофизике, маркетинге, при анализе производственных процессов (для выделения факторов, изменяющихся во времени и влияющих на эффективность этих процессов), в военном деле и так далее.

Основные характеристики случайных процессов аналогичны тем, которые используются при изучении случайных величин. Только теперь добавляется зависимость этих характеристик от параметра t. Для временных рядов получается последовательность чисел, каждое из которых соответствует данному моменту времени.

Функцией распределения случайного процесса X(t) называется функция F(x,t)=P. При каждом фиксированном t=t 0 мы получаем функцию распределения F(x,t 0) случайной величины X(t 0). Тем самым F(x,t) полностью характеризует каждое сечение случайного процесса X(t). Однако это не дает исчерпывающей характеристики случайного процесса в отличие от случайных величин, для которых знание функции распределения позволяет получить всю необходимую информацию о случайной величине. Для случайного же процесса важна и взаимная связь различных сечений. Совместное распределение двух сечений случайного процесса X(t) описывается двумерной функцией распределения:

F(x 1 ,x 2 ,t 1 ,t 2)=P.

Аналогично можно вести и функции совместных распределений трех и более сечений. Все они будут нести важную информацию об исходном случайном процессе. Однако с увеличением числа рассматриваемых сечений эти функции становятся все более сложными и потому обычно ограничиваются рассмотрением только первых двух функций распределения – одномерной и двумерной.

Плотность распределения (одномерная) случайного процесса получается, как и в случай случайных величин, дифференцированием

функции распределения

Математическое ожидание случайного процесса – это функция, которая при каждом значении параметра t равно математическому ожиданию соответствующего сечения. Если величины X(t) при каждом t являются дискретными случайными величинами, то они задаются законами распределения

x 1 (t) x 2 (t) x 3 (t) ...

p 1 (t) p 2 (t) p 3 (t) ... .

В этом случае математическое ожидание случайного процесса вычисляется по формуле:

M(X(t))=
.

Для временного ряда {X n } математическое ожидание вычисляется по формуле:

MX n =

Если процесс X(t) образован непрерывными случайными величинами, то математическое ожидание через плотность распределения этого случайного процесса выражается следующим естественным образом:

M(X(t))=
.

Свойства математического ожидания для случайного процесса те же, что для математического ожидания отдельной случайной величины. Это не удивительно, так как математическое ожидания для каждого значения параметра t зависит только от сечения в этой точки.

Математическое ожидание случайного процесса является некоторой обычной (неслучайной) функцией переменной t. График этой функции описывает развитие во времени среднего значения величины X(t). При этом может оказаться, что этот график – прямая линия, параллельная оси t. В этом случае случайный процесс можно рассматривать как случайные колебания вокруг некоторого постоянного значения. Такого рода процессы очень часто встречаются на практике.

Если случайный процесс X(t) центрировать, вычтя из него функцию MX(t), то получим центрированный случайный процесс, которые представляет собой случайные колебания вокруг нулевого значения. Иногда случайный процесс еще и нормируют, деля его на среднеквадратичное отклонение σ X (см. ниже), при этом получается процесс с нулевым средним и с единичной дисперсией. Эта нормировка удобна для сравнения между собой случайных процессов разного рода.

Определение дисперсии случайного процесса тоже вполне очевидно. Его можно записать также в виде:

D(X(t))=M(X(t)) 2 -MX(t)) 2 .

Если процесс X(t) образован дискретными величинами, то развернутая формула для вычисления дисперсии имеет вид

D(X(t))=(x i (t)-MX(t)) 2 p i.

Для непрерывного случая имеем формулу

D(X(t))=
.

Ясно, что и свойства дисперсии случайного процесса по сути не отличаются от свойств дисперсии случайной величины. Дисперсия случайного процесса характеризует степень рассеяния различных реализаций случайного процесса вокруг его “средней реализации” (т.е. математического ожидания случайного процесса). Для случайных процессов вводится, конечно, и понятие среднеквадратичного отклонения σ(X(t)) – это корень квадратный из дисперсии.

Два случайных процесса X(t) и Y(s) называются независимыми, если для каждых значений параметров t и s независимы случайные величины X(t)и Y(s). Это означает, что должны быть независимыми события и при любых значений переменных x и y и аргументов t и s. Например, есть все основание предполагать, что курс доллара на московской бирже и температура воздуха в городе Москве независимы.

Однако понятие независимости на практике не является абсолютным и потому может оказаться, что эти два не связанных между собой (на первый взгляд) процесса на самом деле нельзя рассматривать как независивые. Чтобы убедиться в независимости двух процессов, иногда приходится проводить довольно длительные исследования.

Для независимых случайных процессов их математические ожидания и дисперсии, как и в случае отдельных случайных величин, обладают дополнительными свойствами:

M(X(t)Y(t))=M(X(t))M(Y(t)),

D(X(t)+Y(t))=D(X(t))+D(Y(t)).

Рассмотрим некоторые примеры вычисления математического ожидания и дисперсии случайных процессов.

Пусть X(t)=at+B, где a – некоторое постоянное число, а B – случайная величина. Тогда имеем

Графики реализаций этого случайного процесса являются параллельными между собой прямыми, а график функции M(X(t)) – это как бы средняя среди всего этого множества прямых. Далее, имеем

так как слагаемое at не является случайным и потому на значение дисперсии не влияет (см. выше).

2. X(t)=A 1 sinω 1 t + A 2 sinω 2 t,

где A 1 и A 2 – случайные величины, а ω 1 и ω 2 – некоторые постоянные числа. Предположим, что случайные величины A 1 и A 2 независимы, их математические ожидания равны 0, а их дисперсии одинаковы и равны некоторому числу σ 2 . Имеем тогда, используя свойства математического ожидания и дисперсии, такие соотношения:

M(X(t))=M(A 1)sinω 1 t + M(A 2)sinω 2 t=0+0=0,

D(X(t))= D(A 1)sin 2 ω 1 t + D(A 2)sin 2 ω 2 t= σ 2 (sin 2 ω 1 t+sin 2 ω 2 t),

σ(X(t))= σ
.

Несмотря на то, что математическое ожидание и дисперсия случайного процесса являются очень полезными характеристиками, для серьезного изучения случайных процессов этих характеристик оказывается далеко не достаточно. Дело в том, что эти две характеристики ничего не говорят о том, как связаны между собой различные сечения случайного процесса. А без знания такой связи не стоит и пытаться искать методы прогнозирования случайных процессов.

Так как временной ряд – это частный случай понятия случайной фенкции, то все сказанное выше о характеристиках случайных процессов в полной мере относится и к временным рядам. Для них математическое ожидание и дисперсия вычисляются по формулам, аналогичным приведенным выше. Только теперь в результате получаются не функции, а последовательности чисел.

Выше речь шла о скалярных случайных процессах, где случайные величины одномерны. Можно рассматривать и вектор-значные (или, иначе говоря, многомерные) случайные процессы, в которых каждому значению параметра t соответствует некоторый случайный вектор. Например, в таком виде можно задать движение артиллерийского снаряда с течением времени. Вектор-значный случайный процесс можно рассматривать как систему, состоящую из нескольких скалярных случайных процессов. Поэтому многие методы исследования, применяемые в теории скалярных (одномерных) случайных процессов, подходят и для исследования вектор-значных процессов. Однако тут есть и свои специфические проблемы.

Множество случайных явлений, которые имеют место в природе, являются функциями времени. Например, метеорологические явления, такие как случайные флуктуации температуры воздуха и давления воздуха, являются функциями времени. Напряжение теплового шума, создаваемое в резисторах электронных устройств, таких как радиоприёмник, также является функцией времени. Подобным образом, сигнал на выходе источника, который выдает информацию, характеризуется как случайный сигнал, меняющийся во времени. Звуковой сигнал который передается в телефонном канале, является примером такого сигнала. Все это примеры стохастических (случайных) процессов. При изучении систем цифровой связи мы используем случайные процессы для характеристики и моделирования сигналов, создаваемых источниками информации, для характеристики каналов связи, используемых для передачи информации, для характеристики шумов, создаваемых в приёмнике, и при синтезе оптимального приёмника для обработки принимаемого случайного сигнала.

В заданный момент времени величина случайного процесса, будь то величина напряжения шума в резисторе или амплитуда сигнала, создаваемого звуковым источником, является случайной величиной. Таким образом, мы можем рассматривать случайный процесс как случайную величину; индексируемую параметром . Мы будем обозначать такой процесс . Вообще говоря, параметр непрерывен, в то время как может быть или непрерывным или дискретным, в зависимости от характеристик источника, который создает случайный процесс.

Шумовое напряжение, создаваемое единственным резистором, или сообщение, выдаваемое источником информации, представляет единственную реализацию случайного процесса. Поэтому их называют выборочной функцией случайного процесса. Ряд всех возможных выборочных функций, например ряд всех шумовых напряжений, создаваемых резисторами, определяют ансамбль выборочных функций или, что эквивалентно, случайный процесс . Вообще говоря, число выборочных функций (реализаций) в ансамбле может быть очень большим; часто оно бесконечно.

Определяя случайный процесс как ансамбль реализаций, мы можем рассмотреть значения процесса в ряде моментов времени , где - положительное целое число. В общем, случайные величины , характеризуются статистически их СФПВ . Все вероятностные соотношения, определенные в разд. 2.1 для многомерных случайных величин, распространяются на случайные величины , .

Стационарные случайные процессы. Как указано выше, случайные величины , , полученные из случайного процесса для ряда моментов времени при некотором , характеризуется статистически СФПВ . Рассмотрим другой ряд случайных величин , , где - произвольный временной сдвиг, одинаковый для всех . Эти случайные величины характеризуются СФПВ . СФПВ случайных величин и , , могут быть одинаковыми или нет. Если они одинаковы, т е если

для всех и , случайный процесс называется стационарным в строгом смысле . Это значит, что статистика стационарного случайного процесса инвариантна к произвольному смещению по оси времени. С другой стороны, если СФПВ различны, случайный процесса называют нестационарным .

Теория случайных величин изучает вероятностные явления «в статике», рассматривая их как некоторые зафиксированные результаты экспериментов. Для описания сигналов, которые отображают развивающиеся во времени случайные явления, методы классической теории вероятностей оказываются недостаточными. Подобные задачи изучает особая ветвь математики, получившая название теории случайных процессов.

По определению, случайный процесс - это особого вида функция, характеризующаяся тем, что в любой момент времени принимаемые ею значения являются случайными величинами.

Ансамбли реализаций.

Имея дело с детерминированными сигналами, мы отображаем их функциональными зависимостями или осциллограммами. Если же речь идет о случайных процессах, то ситуация оказывается сложнее. Фиксируя на определенном промежутке времени мгновенные значения случайного сигнала, получаем лишь единственную реализацию случайного процесса. Случайный процесс представляет собой бесконечную совокупность таких реализаций, образующих статистический ансамбль. Например, ансамблем является набор сигналов , которые можно одновременно наблюдать на выходах совершенно одинаковых генераторов шумового напряжения.

Совсем необязательно, чтобы реализации случайного процесса представлялись функциями со сложным, нерегулярным во времени поведением. Часто приходится рассматривать случайные процессы, образованные, например, всевозможными гармоническими сигналами , у которых однн из трех параметров - случайная величина, принимающая определенное значение в каждой реализации. Случайный характер такого сигнала заключен в невозможности заранее, до опыта зиать значение этого параметра.

Случайные процессы, образованные реализациями, зависящими от конечного числа параметров, принято называть квазидетерминированными случайными процессами.

Плотности вероятности случайных процессов.

Пусть - случайный процесс, заданный ансамблем реализаций, - некоторый произвольный момент времени. Фиксируя величины получаемые в отдельных реализациях, осуществляем одномерное сечение данного случайного процесса и наблюдаем случайную величину Ее плотность вероятности называют одномерной плотностью вероятности процесса в момент времени

Согласно определению, величина есть вероятность того, что реализации случайного процесса в момент времени примут значения, лежащие в интервале

Информация, которую можно извлечь из одномерной плотности, недостаточна для того, чтобы судить о характере развития реализаций случайного процесса во времени. Гораздо больше сведений можно получить, располагая двумя сечениями случайного процесса в несовпадающие моменты времени Возникающая при таком мысленном эксперименте двумерная случайная величина описывается двумерной плотностью вероятности Эта характеристика случайного процесса позволяет вычислить вероятность события, заключающегося в том, что реализация случайного процесса при проходит в малой окрестности точки а при - в малой окрестности точки

Естественным обобщением является -мерное сечение случайного процесса приводящее к -мерной плотности вероятности

Многомерная плотность вероятности случайного процесса должна удовлетворять обычным условиям, налагаемым на плотность вероятности совокупности случайных величин (см. § 6.2). Помимо этого, величина не должна зависеть от того, в каком порядке располагаются ее аргументы (условие симметрии).

Иногда вместо -мерной плотности вероятности удобно пользоваться -мерной характеристической функцией, которая связана с соответствующей плотностью преобразованием Фурье:

Описание свойств случайных процессов с помощью многомерных плотностей вероятности высокой размерности может быть весьма подробным. Однако на этом пути часто встречаются серьезные математические трудности.

Моментные функция случайных процессов.

Менее детальные, но, как правило, вполне удовлетворительные в практическом смысле характеристики случайных процессов можно получить, вычисляя моменты тех случайных величин, которые наблюдаются в сечениях этих процессов. Поскольку в общем случае эти моменты зависят от временных аргументов, они получили название моментных функций.

Для статистической радиотехники наибольшее значение имеют три моментные функции низших порядков, называемые математическим ожиданием, дисперсией и функцией корреляции.

Математическое ожидание

есть среднее значение процесса X(t) в текущий момент времени ; усреднение проводится по всему ансамблю реализаций процесса.

Дисперсия

позволяет судить о степени разброса мгновенных значений, принимаемых отдельными реализациями в фиксированном сечении t, относительно среднего значения.

Двумерный центральный момент

называется функцией корреляции случайного процесса Эта моментная функция характеризует степень статистической связи тех случайных величин, которые наблюдаются при Сравнивая формулы (6.37), (6.38), заметим, что при совмещении сечений функция корреляции численно равна дисперсии:

Стационарные случайные процессы.

Так принято называть случайные процессы, статистические характеристики которых одинаковы во всех сечениях.

Говорят, что случайный процесс стационарен в узком смысле; если любая его -мерная плотность вероятности инвариантна относительно временного сдвига

Если же ограничить требования тем, чтобы математическое ожидание и дисперсия процесса не зависели от времени, а функция корреляции зависела лишь от разности - , то подобный случайный процесс будет стационарен в широком смысле. Понятно, что из стационарности в узком смысле следует стационарность в широком смысле, но не наоборот.

Как следует из определения, функция корреляции стационарного случайного процесса является четной:

Кроме того, абсолютные значения этой функции при любых не превышают ее значения при :

Метод доказательства таков: из очевидного неравенства

следует, что

откуда непосредственно вытекает неравенство (6.41).

Часто удобно использовать нормированную функцию корреляции

для которой .

Чтобы проиллюстрировать понятие стационарного случайного процесса, рассмотрим два примера.

Пример 6.5. Случайный процесс образован реализациями вида где известны заранее, в то время как фазовый угол - случайная величина, равномерно распределенная на отрезке -

Так как плотность вероятности фазового угла то математическое ожидание процесса

Аналогично можно найти дисперсию:

Наконец, функция корреляции

Итак, данный случайный процесс удовлетворяет всем условиям, которые необходимы для того, чтобы обеспечить стационарность в широком смысле.

Пример 6.6. Случайный процесс имеет реализации вида и причем - заданные числа. - случайная величина с произвольным законом распределения. Математическое ожидание

будет не зависимым от времени лишь при Поэтому в общем случае рассматриваемый случайный процесс будет нестационарным.

Свойство эргодичности.

Стационарный случайный процесс называют эргодическим, если при нахождении его моментных функций усреднение по статистическому ансамблю можно заменить усреднением по времени. Операция усреднения выполняется над единственной реализацией длительность Т которой теоретически может быть сколь угодно велика,

Обозначая усреднение по времени угловыми скобками, запишем математическое ожидание эргодического случайного процесса:

которое равно постоянной составляющей выбранной реализации.

Дисперсия подобного процесса

Поскольку величина представляет собой среднюю мощность реализации, а величина - мощность постоянной составляющей, дисперсия имеет наглядный смысл мощности флуктуационной составляющей эргодического процесса.

Аналогично находят функцию корреляции:

Достаточным условием эргодичности случайного процесса, стационарного в широком смысле, является стремление к нулю функции корреляции при неограниченном росте временного сдвига :

В математике показано, что это требование можно несколько ослабить. Оказывается, что случайный процесс эргодичен, если выполнено условие Слуцкого :

Так, равенство (6.47) справедливо применительно к гармоническому процессу со случайной начальной фазой (см. пример 6.5).

Измерение характеристик случайных процессов.

Если случайный процесс является эргодическим, то его реализация достаточной длины есть «типичный» представитель статистического ансамбля. Изучая эту реализацию экспериментально, можно получить много сведений, характеризующих данный случайный процесс.

Прибор для измерения одномерной плотности вероятности случайного процесса может быть выполнен следующим образом. Одномерная плотность вероятности эргодического случайного процесса есть величина, пропорциональная относительному времени пребывания его реализации на уровне между Предположим, что имеется устройство с двумя входами, на один из которых подается исследуемая реализация х(t), а на другой - опорное постоянное напряжение, уровень которого можно регулировать. На выходе устройства возникают прямоугольные видеоимпульсы постоянной амплитуды, начало и конец которых определяются моментами времени, когда текущие значения случайного сигнала совпадают либо с уровнем либо с уровнем Если теперь измерить, скажем, с помощью обычного стрелочного прибора среднее значение тока, создаваемого последовательностью видеоимпульсов, то показания этого прибора будут пропорциональны плотности вероятности

Любой достаточно инерционный стрелочный прибор может быть использован для измерения математического ожидания случайного процесса [см. формулу (6.43)].

Прибор, измеряющий дисперсию случайного процесса, как это следует из (6.44), должен иметь на входе конденсатор, отделяющий постоянную составляющую. Дальнейшие этапы процесса измерения - возведение в квадрат и усреднение по времени - выполняются инерционным квадратичным вольтметром.

Принцип работы измерителя функции корреляции (коррелометра) вытекает из формулы (6.45). Здесь мгновенные значения случайного сигнала после фильтрации постоянной составляющей, разделяясь на канала, поступают на перемножитель, причем в одном из каналов сигнал задерживается на время . Для получения значения функции корреляции сигнал с выхода перемножителя обрабатывается инерционным звеном, которое осуществляет усреднение.

Независимо от величины

Здесь приняты те же обозначения, что и в формуле (6.26). Элементы корреляционной матрицы этого случайного процесса определяются нормированной функцией корреляции:

В дальнейшем часто будет использоваться двумерная гауссова плотность

Стационарный гауссов процесс занимает исключительное место среди прочих случайных процессов - любая его многомерная плотность вероятности определяется даумя характеристиками: математическим ожиданием и функцией корреляции.

Детерминированные сигналы, которые рассматривались выше, являются лишь частным случаем возможных сигналов связи. Они соответствуют известным переданным сообщениям и, следовательно, не могут нести информация. Сигналы, способные передать получателю какие-либо сведения, заранее не могут быть известными и представляют собой случайный процесс (последовательность импульсов в системе телеграфной связи или некоторую непрерывную функцию при передаче телефонных сообщений).

Случайными сигналами (процессами) называются сигналы, математическим описанием которых являются случайные функции времени. Случайной называется функция, значения которой при каждом значении аргумента являются случайными величинами. Следовательно, в отличие от детерминированных или регулярных процессов, течение которых определено однозначно, случайный процесс представляет собой изменения во времени какой-либо физической величины, которые заранее предсказать невозможно. Наиболее известным примером случайного процесса являются флуктуационные (дробовые и тепловые) шумы в радиотехнических устройствах. При наблюдении теплового напряжения на выходах идентичных устройств обнаруживается, что функции времени, описывающие эти напряжения, различны. Объясняется же это тем, что в любой момент времени ток в цепи обусловлен большим, но случайным числом вылетающих электронов. Аналогично, напряжение на выходе приемника при передаче речи или музыке также является случайной функцией времени, так как зависит от содержания передачи, исполнителя и многих других факторов.

Таким образом, реальные сигналы и помехи представляют собой случайные процессы. Более того, между сигналами и помехами нет принципиальной разницы: сигнал, предназначенный для одного корреспондента, является помехой для другого.

Случайная функция времени , описывающая случайный процесс, в результате опыта может принять ту или иную конкретную форму
, неизвестную заранее (рис. 3.1). Эти возможные формы случайной функции называются реализациями случайного процесса. Совокупность всех возможных реализаций
случайного процесса
называется ансамблем. Отметим, что каждая из реализаций
случайного процесса является уже не случайной, а детерминированной функцией. Однако, предсказать, какова будет реализация процесса в каком-либо единичном опыте, невозможно.

Очевидно, что детерминированный процесс имеет только одну единственную р
еализацию, описываемую заданной функцией времени
.

Напомним, что в фиксированный момент времени
значения случайного процесса
являются случайной величиной с определенным распределением вероятностей (3.1).

Случайные процессы могут быть непрерывными и дискретными. Реализации первых являются непрерывными функциями времени, а реализации последних – ступенчатыми (рис. 3.2).

Особым классом являются квазидетерминированные процессы, которые описываются детерминированными функциями времени, содержащими один или несколько случайных параметров. Примером такого процесса является процесс

где а, ω, φ – в отдельности или вместе являются случайными величинами.

Как уже отмечалось, невозможно заранее предсказать, как будет протекать случайный процесс в единичном опыте. Однако, если рассматривать не каждую реализацию в отдельности, а совокупность их большого числа, то окажется, что некоторые средние результаты обладают статистической устойчивостью, т.е. могут быть оценены количественно. Устойчивость средних результатов носит вероятностный характер. Отысканием вероятностных закономерностей, связывающих различные реализации случайных физических явлений занимается теория случайных процессов. Ниже рассматриваются способы описания случайных процессов.

ФУНКЦИИ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

П
усть имеется случайный процесс
, который задан совокупностьюN реализации
(рис. 3.3). Произведем сечение случайного процесса в некоторый фиксированный момент времениt . Выделим из общего числа N те реализаций, значения которых в момент временименьше некоторого уровня. При достаточно большомN относительная доля
реализации, находящихся в момент времени
ниже уровня, будет обладатьстатистической устойчивостью,

т.е. будет оставаться приблизительно постоянной, колеблясь при изменении N и вокруг некоторого среднего значения. Это среднее значение определяет вероятность пребывания значений случайного процесса ниже уровня. Функция

определяющая вероятность нахождения значений случайного процесса момент времени ниже уровня, называетсяодномерной интегральной функцией распределения вероятностей случайного процесса. Ее производная, если она существует,

(3.1.3)

называется одномерной плотностью вероятности или дифференциальной функцией распределения случайного процесса. Заметим, что приведенные определения для случайных процессов полностью совпадают с определениями, используемыми в теории вероятностей для случайных величин, так как значения процесса в фиксированные моменты времени являются случайными величинами.

Введенные функции
, и
дают представление о процессе лишь для изолированных друг от друга моментов времени. Для более полной характеристики процесса необходимо учитывать статистическую связь между значениями случайного процесса в различные моменты времени, Эту связь для двух моментов времени учитывает двумерная интегральная функция распределения вероятностей

определяющая вероятность того, что значения случайного процесса в момент времени , а в момент времени- ниже уровня. Частная производная второго порядка

(3.1.5)

называется двумерной плотностью вероятностей случайного процесса. Эти функции зависят уже от четырех аргументов.

Аналогично определяются многомерные интегральная и дифференциальная функции распределения случайного процесса

(3.1.6)

которые зависят от 2n -аргументов.

Вероятностные свойства случайного процесса характеризуются тем полнее, чем больше n . Если ограничитьсяn - мерной функцией распределения, то случайный процесс отождествляется фактически с совокупностьюn случайных величин
.

Если значения случайного процесса при любых значениях t зависимы, то многомерная функция распределения равна произведению одномерных

Аналогично тому, как при изучении случайных величин рассматриваются распределения совокупности случайных величин, так и при изучении случайных процессов приходится одновременно рассматривать совокупность нескольких процессов. Ограничимся здесь случаем двух процессов. Важнейшей вероятностной характеристикой в этом случае является двумерная совместная интегральная функция распределения,

равная вероятности того, что значения процесса
при
, будут находиться ниже уровняx , а значения процесса
при
- ниже уровняу . Вторая частная производная

(3.1.9)

называется двумерной совместной плотностью вероятностей случайных процессов
и
. Если случайные процессы
и
независимы, то

Напомним, что интегральные функции распределения случайных процессов с плотностями вероятностей связаны соотношениями:

(3.1.11)

(3.1.12)

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

Функции распределения (интегральная или дифференциальная) достаточно полно характеризуют случайный процесс. Однако часто они оказываются довольно сложными или требуют для своего определения обработки большого числа экспериментальных данных. Кроме того, часто подробного описания процесса не требуется. Потому в этих случаях ограничиваются при описании процессов лишь некоторыми числовыми характеристиками. К ним относятся средние значения, дисперсии и корреляционные функции. Числовые характеристики случайных процессов аналогичны числовым характеристикам случайных величин, которые используются в теории вероятностей, но имеют ту особенность, что представляют собой в общем случае не числа, а функции времени.

Простейшей характеристикой случайного процесса является его среднее значение или математическое ожидание, определяемое следующим образом. Рассмотрим сечение случайного процесса в некоторый момент времени t . В этом сечении имеем обычную случайную величину, для которой можно найти математическое ожидание. Очевидно, в общем случае оно зависит от выбора момента времени:

(3.1.13)

где прямая горизонталь нам черта означает условную запись усреднения по множеству или ансамблю возможных реализации.

Т
аким образом, средним значением случайного процесса
называется неслучайная функцияa (t ) , которая при каждом значении аргумента t равна математическому ожиданию соответствующего сечения случайного процесса (рис. 3.4).

По смыслу среднее значение случайного процесса представляет собой среднюю функцию, около которой различным образом располагаются отдельные реализации процесса.

Аналогичным образом определяется среднее значение квадрата случайного процесса:

(3.1.14)

Дисперсией случайного процесса называется неслучайная функция, значения которой для каждого момента времени t равны дисперсиям соответствующих сечений случайного процесса, т.е. математическому ожиданию квадрата отклонения случайного процесса от его среднего значения:

Следовательно, дисперсия определяет степень разброса значений случайного процесса около среднего значения.

Среднее значение и дисперсия характеризуют поведение случайного процесса в отдельные моменты времени. В качестве характеристики, учитывающей статистическую зависимость между значениями случайного процесса в различные моменты времени, используется корреляционная (иначе - автокорреляционная) функция случайного процесса

определяемая как математическое ожидание от произведения значений процесса в два различных момента времени. Анализируя последнее выражение, замечаем, что величина интеграла будет больше в тех случаях, когда с увеличением (уменьшением) значений процесса в момент времени , будут также увеличиваться (уменьшаться) значения процесса в момент времени. Следовательно, корреляционная функция определяет степень линейной зависимости между значениями случайного процесса в различные моменты времени. На рис. 3.5 и 3.6 показаны соответственно два случайных процесса с сильной и слабой статистической зависимостью их значений в моменты времении.

И
з определения корреляционной функции следует

(3.1.17)

т.е. она является симметричной относительно начала отсчета времени.

Для совокупности двух случайных
и
статистическая зависимость между их значениями в различные моменты времени определяется функцией взаимной корреляции

Если случайные процессы
и
статистически независимы, то согласно (3.1.10)

где
- средние значения случайных процессов
и
соответственно. Если хотя бы для одного из случайных процессов среднее значение равно нулю, то

Процессы, для которых взаимная корреляционная функция равна постоянной величине или нулю, называются некогерентными или некоррелированными. Независимые процессы всегда некоррелированы, однако, обратное утверждение в общем случае неверно.

В некоторых случаях вместо корреляционной функции вводится нормированная корреляционная функция или кратко коэффициент корреляции

Для совокупности двух случайных процессов средние значения каждого из них определяются по формулам

(3.1.20)

(3.1.21)

где внутренние интегралы представляют собой не что иное, как плотности вероятностей
и
соответственно. Аналогичным образом можно определить дисперсию каждого из случайных процессов.

СТАЦИОНАРНЫЕ ПРОЦЕССЫ

Важнейшим классом случайных процессов, встречающихся на практике, является класс стационарных случайных процессов. Случайный процесс называется стационарным в строгом (узком) смысле, если его функция распределения любого порядка не изменяется при сдвиге совокупности точек
на величину
, т.е.

Другими словами, для стационарного процесса функция распределения любого порядка и, следовательно, его характеристики не зависят от положения начала отсчета времени. Стационарность означает статистическую однородность процесса во времени. Физически стационарный случайный процесс представляет собой случайный процесс в установившемся режиме, каковым является, например, шум на выходе усилителя через достаточно большой промежуток времени после его включения.

Если приведенное выше условие не выполняется, то процесс называется нестационарным. Нестационарный процесс будет наблюдаться, например, на выходе какого-либо генератора шумов непосредственно после его включения.

Из определения стационарного процесса следует, что

т.е. одномерная функция распределения вообще не зависит от времени, а двумерная функция распределения зависят только от разностей времен
. Отсюда следует, что для стационарного случайного процесса среднее значение и дисперсия являются постоянными величинами, т.е. не зависит от времени

(3.1.24)

а корреляционная функция такого процесса зависит только от одной переменной
:

В настоящее время существует хорошо разработанная корреляционная теория случайных процессов, изучающая только те свойства процесса, которые определяются средними значениями, дисперсиями и корреляционными функциями. Эта теория не использует многомерных законов распределения. В рамках этой теории случайный процесс называют стационарным в широком смысле, если его среднее значение и дисперсия не зависят от времени, а корреляционная функция зависит только от разности времен
. Стационарность в широком смысле не тождественна строгому определению стационарности. Случайные процессы, стационарные в строгом смысле, всегда стационарны в широком смысле, но не наоборот.

Корреляционная функция характеризует случайный процесс далеко не полностью. Более того, различным процессам могут соответствовать одинаковые корреляционные функции. Равенство корреляционных функций не означает тождественность процессов. Практическая ценность корреляционной теории возрастает в связи с тем, что существует одно полезное исключение. В радиотехнических и других устройствах наиболее распространенными являются нормальные случайные процессы, для которых понятия стационарности в строгом и широком смысле совпадают, а задание корреляционной функции, как будет показано ниже, полностью определяет многомерное распределение процесса. |

Отметим теперь, что во многих случаях на практике допущение стационарности случайного процесса можно считать достаточно точным. Вместе с тем часто приходится сталкиваться с нестационарными процессами. Простейший пример нестационарного процесса - сумма стационарного случайного и детерминированного процессов. Нестационарными являются и модулированные колебания, когда модуляция осуществляется случайным процессом.