Случайные функции. Характеристики случайных функций. Основные характеристики случайных процессов. Комплексной слуюйной функцией называютфункцию

Лекция 13 Случайные процессы Основные понятия. Закон распределения и . Стационарные, эргодичес

Лекция 13
Случайные процессы
Основные понятия. Закон распределения и основные характеристики
случайных процессов. Стационарные, эргодические, элементарные случайные
процессы
(Ахметов С.К.)

Определения

Случайным процессом X(t) называется процесс, значение которого при
любом фиксированном t = ti является СВ X(ti)
Реализацией случайного процесса X(t) называется неслучайная функция
х(t), в которую превращается случайный процесс X(t) в результате опыта
Сечение случайного процесса (случайной функции) – это случайная
величина X(ti) при t = ti.

Случайный процесс X(t) называется процессом с дискретным
временем, если система, в которой он протекает, может менять
свои состояния только в моменты t1, t2, t3….. tn, число которых
конечно или счетно

временем, если переходы системы из состояния в состояние могут
происходить в любой момент времени t наблюдаемого периода
Случайный процесс X(t) называется процессом с непрерывным
состоянием, если его сечение в любой момент t представляет
собой не дискретную, а непрерывную величину
Случайный процесс X(t) называется процессом с дискретным
состоянием, если в любой момент времени t множество его
состояний конечно или счетно, то есть, если его сечение в любой
момент t характеризуется дискретной случайной величиной

Классификация случайных процессов

Таким образом, все СП можно разделить на 4 класса:
Процессы
временем;
Процессы
временем;
Процессы
временем;
Процессы
временем.
с дискретным состоянием и дискретным
с дискретным состоянием и непрерывным
с непрерывным состоянием и дискретным
с непрерывным состоянием и непрерывным
Большинство гидрологических процессов являются
процессами с непрерывным состоянием и непрерывным
временем. Но при вводе шага дискретности по времени они
превращаются из процесса с непрерывным временем в
процесс с дискретным временем. При этом процесс остается
непрерывным по состоянию

Основные характеристики случайных процессов

Сечение случайного процесса х(t) при любом фиксированном значении
аргумента t представляет собой СВ, которая имеет закон распределения
F (t, x) = P{X(t) < x}
Это одномерный закон распределения случайного процесса X(t)
Но, он не является исчерпывающей характеристикой СП, так как
характеризует свойства любого, но отдельно взятого сечения и не дает
представления о совместном распределении двух или более сечений.
Это видно на рисунке, где показаны два СП с разными вероятностными
структурами, но примерное одинаковыми распределениями СВ в каждом
сечении

Основные характеристики случайных процессов

Поэтому более полной характеристикой СП является двумерный закон
распределения
F(t1,t2,x1,x2) = P {X(t1) < x1, X(t2) < x2}
В общем случае исчерпывающей характеристикой СП является n мерный закон распределения
На практике вместо многомерных законов распределения используют
основные характеристики СП, такие как МО, дисперсия, начальные и
центральные моменты, но только для СП эти характеристики будут не
числами, а функциями
Математическое ожидание СП X(t) - неслучайная функция mx(t),
которая при любом значении аргумента t равна математическому
ожиданию соответствующего сечения СП:
где f1(x,t) – одномерная плотность распределения СП X(t)

Основные характеристики случайных процессов

МО СП представляет собой некоторую «среднею» функцию, вокруг
которой происходит разброс СП
Если из СП X(t) вычесть его МО, то получим центрированный СП:
X0(t) = X(t) – mx(t)
Дисперсией СП X(t) называется неслучайная функция СП X(t), которая
при любом значении аргумента t равна дисперсии соот – го сечения СП X(t)
СП X(t) = D = M{2}
Среднеквадратическим отклонением СП X(t) называется неслучайная
функция σx(t), которая равна корню квадратному из дисперсии СП:
σx(t) = σ = √Dx(t)

Основные характеристики случайных процессов

Для полной характеристики СП необходимо учитывать взаимосвязь
между различными сечениями. Поэтому, к комплексу перечисленных
характеристик нужно добавить также корреляционную функцию СП:
Корреляционной (или ковариационной) функцией СП X(t) называется
неслучайная функция Kx(t,t’), которая при каждой паре значений
аргументов t и t’ равна корреляции соответствующих сечений X(t) и X(t’)
Kx(t,t’) = M{ x }
или
Kx(t,t’) = M = M - mx(t) mx(t’)
Свойства корреляционной функции:
- при равенстве t = t’ корреляционная функция равна дисперсии СП, т. е.
Kx(t,t’) = Dx(t)
- корреляционная функция Kx(t,t’) симметрична относительно своих
аргументов, то есть
Kx(t,t’) = Kx(t’,t)

Основные характеристики случайных процессов

Нормированной корреляционной функцией rx(t,t’) СП X(t) называется
функция, полученная делением корреляционной функции на произведение
среднеквадратических отклонений σx(t) σx(t’)
rx(t,t’) = /(σx(t)σx(t’)) = /(√(Dx(t)Dx(t’))
Свойства нормированной корреляционной функции:
- при равенстве аргументов t и t’ нормированная корреляционная функция
равна единице rx(t,t’) = 1
-нормированная корреляционная функция симметрична относительно
своих аргументов, то есть rx(t,t’) = rx(t’,t)
- нормированная корреляционная функция по модулю не превышает
единицу rx(t,t’) ≤ 1

Основные характеристики случайных процессов

Скалярный СП – это когда речь идет об одном СП, как было до сих
пор.
Векторный СП – это когда рассматриваются 2 и более СП.
Допустим заданы расходы воды в нескольких створах во времени
В этом случае для характеристики СП нужно знать для каждого
скалярного процесса:
-МО
-корреляционную функцию
-взаимную корреляционную функцию
Взаимной корреляционной функцией Ri,j(t,t’) двух случайных
процессов X(t) и X(t’) называется неслучайная функция двух
аргументов t и t’, которая при каждой паре значений t и t’ равна
ковариации (линейной связи) двух сечений СП X(t) и X(t’)
Ri,j(t,t’) = M

Стационарные случайные процессы

Стационарные СП – это СП, у которых все вероятностные
характеристики не зависят от времени, то есть:
- mx = const
- Dx = const
Отличие стационарных и нестационарных СП показано на рисунке
а) стационарный СП
б) нестационарный СП по МО
с) нестационарный СП по дисперсии

Свойства корреляционной функции стационарного СП

Четность функции от своего аргумента, то есть kx(τ) = kx(-τ)
τ – сдвиг всех временных аргументов СП на одинаковую величину Θ
k – корреляционная функция СП при Kx(t1,t2) = kx(τ)
Значение корреляционной функции стационарного СП при нулевом
сдвиге τ равно дисперсии СП
Dx = Kx(t1,t2) = kx(t - t) = kx(0)
|kx(τ)| ≤ kx(0)
Помимо корреляционной функции используется нормированная
корреляционная функция стационарного СП, которую называют
автокорреляционной функцией
rx(τ) = kx(τ)/Dx = kx(τ)/kx(0)

Эргодические случайные процессы

Эргодическое свойство СП – это когда по одной достаточно
продолжительной реализации СП можно судить о СП в целом
Достаточным условием эргодичности СП является условие
lim kx(τ) = 0
при τ → ∞, т.е. при увеличении сдвига между сечениями
корреляционная функция затухает
На рисунке показаны а) неэргодический и б) эргодический СП
На практике (чаще всего) мы вынуждены принимать гипотезу о
стационарности и эргодичности гидрологических процессов, чтобы по
имеющемуся раду судить о всей генеральной совокупности

Элементарные случайные процессы

Элементарный СП (э.с.п) – это такая функция аргумента t, для
которой зависимость от t представлена обычной неслучайной функцией,
в которую в качестве аргумента входит одна или несколько обычных СВ
То есть каждая СВ порождает свою реализацию СП
К примеру, если в каком – то створе ветвь спада половодья является
устойчивой и описывается уравнением
Q(t) = Qнe-at
a - районный параметр (a>0)
Qн - расход воды в начальный момент времени t = t0
то процесс спада половодья можно считать э.с.п., где a - неслучайная
величина, Qн -случайная величина

o Случайной функцией называется функция X(t), значение которой при любом значении аргумента t является случайной величиной.

Другими словами, случайной функцией называется функция, которая в результате опыта может принять тот или иной конкретный вид, при этом заранее не известно, какой именно.

o Конкретный вид, принимаемый случайной величиной в результате опыта, называется реализацией случайной функции.

Т.к. на практике аргумент t чаще всего является временным, то случайную функцию иначе называют случайным процессом.

На рисунке изображено несколько реализаций некоторого случайного процесса.

Если зафиксировать значение аргумента t, то случайная функция X(t) превратится в случайную величину, которую называют сечением случайной функции , соответствующим моменту времени t. Будем считать распределение сечения непрерывным. Тогда Х(t) при данном t определяется плотностью распределения p(x; t).

Очевидно, p(x; t) не является исчерпывающей характеристикой случайной функции X(t), поскольку она не выражает зависимости между сечениями X(t) в разные моменты времени t. Более полную характеристику дает функция -совместная плотность распределения системы случайных величин , где t 1 и t 2 -произвольные значения аргумента t случайной функции. Еще более полную характеристику случайной функции X(t) даст совместимая плотность распределения системы трех случайных величин и т.д.

o Говорят, что случайный процесс имеет порядок n , если он полностью определяется плотностью совместимого распределения n произвольных сечений процесса, т.е. системы n случайных величин , где X(t i)-сечение процесса, отвечающее моменту времени t i , но не определяется заданием совместного распределения меньшего, чем n, числа сечений.

o Если плотность совместного распределения произвольных двух сечений процесса вполне его определяет, то такой процесс называется марковским.

Пусть имеется случайная функция X(t). Возникает задача описания ее с помощью одной или нескольких неслучайных характеристик. В качестве первой из них естественно взять функцию -математическое ожидание случайного процесса. В качестве второй берется среднее квадратическое отклонение случайного процесса .

Эти характеристики являются некоторыми функциями от t. Первая из них-это средняя траектория для всех возможных реализаций. Вторая характеризует возможный разброс реализаций случайной функции около средней траектории. Но и этих характеристик недостаточно. Важно знать зависимость величин X(t 1) и X(t 2). Эту зависимость можно характеризовать с помощью корреляционной функции или корреляционного момента.

Пусть имеются два случайных процесса, по нескольку реализаций которых изображено на рисунках.

У этих случайных процессов примерно одинаковые математические ожидания и средние квадратичные отклонения. Тем не менее это различные процессы. Всякая реализация для случайной функции X 1 (t) медленно меняет свои значения с изменением t, чего нельзя сказать о случайной функции X 2 (t). У первого процесса зависимость между сечениями X 1 (t) и будет больше, чем зависимость для сечений X 2 (t) и второго процесса, т.е. убывает медленнее, чем , при увеличении Δt. Во втором случае процесс быстрее «забывает» свое прошлое.

Остановимся на свойствах корреляционной функции, которые вытекают из свойств корреляционного момента пары случайных величин.

Свойство 1. Свойство симметричности .

Свойство 2. Если к случайной функции X(t) прибавить неслучайное слагаемое , то от этого корреляционная функция не изменится, т.е. .

Действительно,

Свойство 3. , где -неслучайная функция.

Лабораторная работа № 4

СЛУЧАЙНЫЕ ПРОЦЕССЫ
И ИХ ХАРАКТЕРИСТИКИ

4.1. ЦЕЛЬ РАБОТЫ

Ознакомление с основными понятиями теории случайных процессов. Выполнение измерений моментных характеристик и оценки ПРВ мгновенных значений случайных процессов. Анализ вида автокорреляционной функции (АКФ) и спектральной плотности мощности (СПМ) случайного процесса. Исследование преобразований случайного процесса линейными стационарными и нелинейными безынерционными цепями.

4.2. ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ

Случайные события и случайные величины

Событие , которое может произойти или не произойти в некотором опыте, называется случайным событием и характеризуется вероятностью осуществления
. Случайная величина (СВ)
может принять в опыте одно значение из некоторого множества
; это значение называется реализацией данной СВ. может быть, например, множеством вещественных чисел или его подмножеством. Если множество конечно или счетно (дискретная СВ), можно говорить о вероятности
осуществления события, которое заключается в принятии случайной величиной значения , т. е. на множестве значений дискретной случайной величины задается распределение вероятностей . Если множество несчетно (например, вся вещественная прямая), то полное описание случайной величины дает функция распределения, определяемая выражением

,

где
. Если функция распределения непрерывна и дифференцируема, то можно определить плотность распределения вероятностей (ПРВ), называемую также для краткости плотностью вероятности
(а иногда просто плотностью):

, при этом
.

Очевидно, функция распределения – неотрицательная неубывающая функция со свойствами
,
. Следовательно,
ПРВ – неотрицательная функция, удовлетворяющая условию нормировки
.

Иногда ограничиваются числовыми характеристиками случайной величины, чаще всего моментами . Начальный момент -го порядка (-й начальный момент)

,

где горизонтальная черта и
– символические обозначения интегрального оператора усреднения по ансамблю . Первый начальный момент
, называется математическим ожиданием или центром распределения.

Центральный момент -го порядка (-й центральный момент)

Наиболее употребительным из центральных моментов является второй центральный момент, или дисперсия

Вместо дисперсии часто оперируют среднеквадратическим отклонением (СКО) случайной величины
.

^ Средний квадрат , или второй начальный момент
, связан с дисперсией и математическим ожиданием:

Для описания формы ПРВ используют коэффициент асимметрии
и коэффициент эксцесса
(иногда эксцесс характеризуют величиной
).

Часто используется нормальное, или гауссовское (гауссово), распределение с ПРВ

,

где и – параметры распределения (математическое ожидание и СКО соответственно). Для гауссовского распределения
,
.

Две случайные величины и характеризуются совместной плотностью распределения
. Числовыми характеристиками совместной плотности служат начальные и центральные смешанные моменты

,
,

где и – произвольные целые положительные числа;
и – математические ожидания СВ x и y .

Наиболее часто используются смешанные моменты второго порядка – начальный (корреляционный момент):

и центральный (ковариационный момент, или ковариация )

.

Для пары гауссовских случайных величин двумерная совместная ПРВ имеет вид

где , – среднеквадратические отклонения;
– математические ожидания; – коэффициент корреляции – нормированный ковариационный момент

.

При нулевом коэффициенте корреляции очевидно,

,

т. е. некоррелированные гауссовские случайные величины независимы.
^

Случайные процессы

Случайный процесс – это последовательность случайных величин, упорядоченная по возрастанию некоторой переменной (чаще всего времени). Перейти от описания случайной величины к описанию случайного процесса можно, рассматривая совместные распределения двух, трех и более значений процесса в некоторые различные моменты времени. В частности, рассматривая процесс в временных сечениях (при
), получаем -мерные совместные функцию распределения и плотность распределения вероятностей случайных величин
…
, определяемые выражением

.

Случайный процесс считается полностью определенным, если для любого можно записать его совместную ПРВ при любом выборе моментов времени
.

Часто при описании случайного процесса можно ограничиться совокупностью его смешанных начальных моментов (если они существуют, т.е. сходятся соответствующие интегралы)

и смешанных центральных моментов

при целых неотрицательных
и целом .

В общем случае моменты совместной ПРВ зависят от расположения сечений на оси времени и называются моментными функциями . Чаще всего используют второй смешанный центральный момент

,

называемый функцией автокорреляции или автокорреляционной функцией (АКФ). Напомним, что здесь и далее явно не указана зависимость от времени, а именно – функциями времени являются
,
и
.

Можно рассматривать совместно два случайных процесса
и
; такое рассмотрение предполагает их описание в виде совместной многомерной ПРВ, а также в виде совокупности всех моментов, в том числе смешанных. Наиболее часто при этом используют второй смешанный центральный момент

,

называемый взаимно корреляционной функцией
.

Среди всех случайных процессов выделяют СП, для которых совместная -мерная ПРВ не изменяется при одновременном изменении (сдвиге) всех временных сечений на одну и ту же величину. Такие процессы называются стационарными в узком смысле или строго стационарными .

Чаще рассматривают более широкий класс случайных процессов с ослабленным свойствам стационарности. СП называется стационарным в широком смысле , если при одновременном сдвиге сечений не изменяются лишь его моменты не выше второго порядка. Практически это означает, что СП стационарен в широком смысле, если он имеет постоянные среднее (математическое ожидание ) и дисперсию
, а АКФ зависит только от разности моментов времени, но не от их положений на временнóй оси:

1)
,

2) ,
.

Заметим, что
, откуда и следует постоянство дисперсии.

Нетрудно убедиться, что процесс, стационарный в узком смысле, стационарен и в широком смысле. Обратное утверждение вообще неверно, хотя существуют процессы, для которых стационарность в широком смысле влечет стационарность в узком смысле.

Совместная -мерная ПРВ отсчетов
гауссовского процесса, взятых во временных сечениях , имеет вид

, (4.1)

где – определитель квадратной матрицы, составленной из попарных коэффициентов корреляции отсчетов;
– алгебраическое дополнение элемента этой матрицы.

Совместная гауссовская ПРВ при любом полностью определяется математическими ожиданиями, дисперсиями и коэффициентами корреляции отсчетов, т. е. моментными функциями не выше второго порядка. Если гауссовский процесс стационарен в широком смысле, то все математические ожидания одинаковы, все дисперсии (а значит, и СКО) равны друг другу, а коэффициенты корреляции определяются только тем, насколько временные сечения отстоят друг от друга. Тогда, очевидно, ПРВ (4.1) не изменится, если все временные сечения сдвинуть влево или вправо на одну и ту же величину. Отсюда следует, что гауссовский процесс, стационарный в широком смысле, стационарен и в узком смысле (строго стационарен).

Среди строго стационарных случайных процессов часто выделяют более узкий класс эргодических случайных процессов. Для эргодических процессов моменты, найденные усреднением по ансамблю, равны соответствующим моментам, найденным усреднением по времени:

,

(здесь – символическое обозначение оператора усреднения по времени).

В частности, для эргодического процесса математическое ожидание, дисперсия и АКФ равны соответственно

,

,

Эргодичность весьма желательна, так как дает возможность практически измерять (оценивать) числовые характеристики случайного процесса. Дело в том, что обычно наблюдателю доступна лишь одна (хотя, возможно, достаточно длинная) реализация случайного процесса. Эргодичность означает, по существу, что эта единственная реализация является полноправным представителем всего ансамбля .

Измерение характеристик эргодического процесса может быть выполнено при помощи простых измерительных устройств; так, если процесс представляет собой напряжение, зависящее от времени, то вольтметр магнитоэлектрической системы измеряет его математическое ожидание (постоянную составляющую), вольтметр электромагнитной или термоэлектрической системы, подключенный через разделительную емкость (для исключения постоянной составляющей), – его среднеквадратическое значение (СКО). Устройство, структурная схема которого показана на рис. 4.1, позволяет измерить значения функции автокорреляции при различных . Фильтр нижних частот играет здесь роль интегратора, конденсатор выполняет центрирование процесса, так как не пропускает постоянную составляющую тока. Это устройство называется коррелометром .

Рис. 4.1

Достаточными условиями эргодичности стационарного случайного процесса служат условие
, а также менее сильное условие Слуцкого
.
^

Дискретные алгоритмы оценивания параметров СП

Приведенные выше выражения для нахождения оценок параметров СП и корреляционной функции справедливы для непрерывного времени. В данной лабораторной работе (как и во многих современных технических системах и приборах) аналоговые сигналы генерируются и обрабатываются цифровыми устройствами, что приводит к необходимости некоторого изменения соответствующих выражений. В частности, для определения оценки математического ожидания используется выражение выборочного среднего

,

где
– последовательность отсчетов процесса (выборка объема
). Оценкой дисперсии служит выборочная дисперсия , определяемая выражением

.

Оценка автокорреляционной функции, иначе называемая коррелограммой , находится как

.

Оценкой плотности распределения вероятностей мгновенного значения ССП служит гистограмма . Для ее нахождения диапазон возможных значений СП разбивается на интервалов равной ширины, затем для каждого -го интервала подсчитывается количество отсчетов выборки, попавших в него. Гистограмма представляет собой набор чисел
, обычно изображаемый в виде решетчатой диаграммы. Количество интервалов при заданном объеме выборки выбирается исходя из компромисса между точностью оценивания и разрешением (степенью подробности) гистограммы.
^

Корреляционно-спектральная теория случайных процессов

Если интересоваться только моментными характеристиками первого и второго порядка, которые определяют свойство стационарности в широком смысле, то описание стационарного СП осуществляется на уровне автокорреляционной функции
и спектральной плотности мощности
, связанных парой преобразований Фурье (теорема Винера–Хинчина ):

,
.

Очевидно, СПМ – неотрицательная функция. Если процесс имеет ненулевое математическое ожидание , то к СПМ добавляется слагаемое
.

Для вещественного процесса АКФ и СПМ – четные вещественные функции.

Иногда можно ограничиться числовыми характеристиками – интервалом корреляции и эффективной шириной спектра. ^ Интервал корреляции определяют по-разному, в частности, известны следующие определе

1. ПОНЯТИЕ СЛУЧАЙНОЙ ФУНКЦИИ

До определенных пор теория вероятностей ограничивалась понятием случайных величин. Их использование позволяет выполнять статические расчеты, учитывающие случайные факторы. Однако механические системы подвергаются также разнообразным динамическим, то есть изменяющимся во времени воздействиям случайного характера. К ним относятся, в частности, вибрационные и ударные воздействия при движении транспортных средств, аэродинамические силы, вызванные атмосферной турбулентностью, сейсмические силы, нагрузки, обусловленные случайными отклонениями от номинальных режимов работы машин.

Случайные динамические явления изучаются при анализе тенденций в экономике (например, изменения курса акций или валюты). Работа в условиях случайных возмущений характерна для систем управления разнообразными динамическими объектами.

Для анализа подобных явлений используется понятие случайной функции . Случайной функцией X (t ) называется такая функция аргумента t , значение которой при любом t является случайной величиной. Если аргумент принимает дискретные значения t 1 , t 2 , …, t k то говорят о случайной последовательности X 1 , X 2 ,…, X k , где X i = X (t i ).

Во многих практических задачах неслучайный аргумент t имеет смысл времени, при этом случайную функцию называют случайным процессом , а случайную последовательность – временным рядом . Вместе с тем, аргумент случайной функции может иметь и иной смысл. Например, речь может идти о рельефе местности Z (x , y ), где аргументами являются координаты местности x и y , а роль случайной функции играет высота над уровнем моря z. В дальнейшем, для определенности, имея в виду приложения случайных функций к исследованию динамических систем, будем говорить о случайных процессах.

Предположим, что при исследовании случайного процесса X (t ) произведено n независимых опытов, и получены реализации

представляющие собой n детерминированных функций. Соответствующее семейство кривых в определенной мере характеризует свойства случайного процесса. Так, на рис.1.1а представлены реализации случайного процесса с постоянными средним уровнем и разбросом значений возле среднего, на рис. 1.1б – реализации случайного процесса с постоянным средним и изменяющимся разбросом, на рис. 1.1в – реализации случайного процесса с изменяющимися во времени средним и разбросом.

Рис.1.1. Типичные реализации случайных процессов

На рис. 1.2 показаны реализации двух случайных процессов, имеющих одинаковый средний уровень и разброс, но различающихся плавностью. Реализации случайного процесса на рис. 1.2а имеют высокочастотный характер, а на рис. 1.2б – низкочастотный.

Рис. 1.2. Высокочастотный и низкочастотный случайные процессы

Таким образом, X (t ) можно рассматривать и как совокупность всевозможных реализаций, которая подчиняется определенным вероятностным закономерностям. Как и для случайных величин, исчерпывающую характеристику этих закономерностей дают функции или плотности распределения. Случайный процесс считается заданным, если заданы все многомерные законы распределения случайных величин X (t i ), X (t 2 ), …, X (t n ) для любых значений t 1 , t 2 , …, t n из области изменения аргумента t . Речь идет, в частности, об одномерной плотности распределения , двумерной плотности распределения и т.д. .

Для упрощения анализа в большинстве случаев ограничиваются моментными характеристиками, причем чаще всего используют моменты первого и второго порядков. Для характеристики среднего уровня случайного процесса служит математическое ожидание

. (1.1)

Для характеристики амплитуды отклонений случайного процесса от среднего уровня служит дисперсия

Для характеристики изменчивости (плавности) случайного процесса служит корреляционная (автокорреляционная) функция

(1.3)

Как следует из (1.3), корреляционная функция представляет собой ковариацию случайных величин X (t 1) и X (t 2). Ковариация же, как известно из курса теории вероятностей, характеризует взаимозависимость между X (t 1) и X (t 2).

В рамках корреляционной теории случайных функций, которая оперирует лишь моментами первого и второго порядков, могут быть решены многие технические задачи. В частности, могут быть определены априорная, а также условная вероятности выхода случайного процесса за пределы заданных границ. Вместе с тем, некоторые важные в практическом плане задачи не решаются средствами корреляционной теории и требуют использования многомерных плотностей распределения. К таким задачам относится, например, расчет среднего времени нахождения случайного процесса выше или ниже заданной границы.

2. ТИПЫ СЛУЧАЙНЫХ ПРОЦЕССОВ

2.1. Квазидетерминированные случайные процессы

До сих пор мы изучали только скалярные или векторные случайные величины, каждая из которых в результате опыта принимает одно определенное значение, скалярное или векторное, соответственно. Однако в приложениях приходится встречаться еще с такими случайными величинами, значения которых в каждом данном опыте изменяются в зависимости от времени или каких-нибудь других аргументов. Каждая такая случайная величина принимает в результате опыта бесчисленное (в общем случае несчетное) множество значений - по одному для каждого значения аргумента или для каждой совокупности значений аргументов. Так, например, в результате измерения непрерывно изменяющейся величины мы получаем функцию, определяющую закон изменения результата измерения со временем в процессе измерения. Эта функция имеет одно вполне определенное значение для каждого момента времени в интервале, в течение которого производится измерение. Повторяя измерение, казалось бы в одинаковых условиях, мы будем получать вследствие неточности измерительных приборов различные функции. Таким образом, результат измерения непрерывно изменяющейся величины является такой случайной величиной, которая в каждом данном опыте представляет собой определенную функцию времени, а в различных опытах, произведенных как будто бы в совершенно одинаковых условиях, представляет собой различные функции времени. Подобные случайные величины представляют собой случайные функции. Результат одновременного измерения нескольких непрерывно изменяющихся величин (например, координат какого-либо движущегося объекта) может служить примером векторной случайной функции, т. е. совокупности нескольких случайных функций.

Случайной функцией называется функция, значение которой при каждом данном значении аргумента (или нескольких аргументов)

является случайной величиной. В результате опыта случайная функция может принимать различные конкретные формы. Всякая функция, которой может оказаться равной случайная функция в результате опыта, называется реализацией случайной функции (или возможным значением случайной функции). В соответствии с принятым в настоящей книге правилом обозначения случайных величин и их возможных значений мы будем обозначать случайные функции большими буквами латинского алфавита, например Реализации случайных функций будем обозначать соответствующими малыми буквами, например х, у и т. д.

Аргумент случайной функции или совокупность всех ее аргументов будем обозначать буквой или буквой 5 и писать, как обычно принято, в скобках за обозначением самой функции, например Если аргумент случайной функции представляет собой совокупность скалярных переменных, то его можно рассматривать как -мерный вектор. Таким образом, аргументами случайных функций в излагаемой дальше теории могут быть произвольные скалярные или векторные величины

Случайную функцию можно также рассматривать как бесконечную (в общем случае несчетную) совокупность случайных величин, зависящую от одного или нескольких непрерывно изменяющихся параметров Каждому данному значению параметра (или параметров) соответствует одна случайная величина Вместе все случайные величины определяют случайную функцию Такая трактовка случайной функции показывает, что случайная функция как объект математического исследования значительно сложнее обычной случайной величины, а именно равноценна бесконечному (в общем случае несчетному) множеству случайных величин.

В физических и технических приложениях часто приходится рассматривать случайные функции времени. Такие случайные функции обычно называются случайными или стохастическими процессами. Соответственно теория случайных функций одной независимой переменной часто называется теорией случайных (стохастических) процессов. Примером случайной функции времени может служить ошибка измерения непрерывно изменяющейся величины. На рис. 18 приведена запись ошибки измерения угловой координаты самолета радиолокатором, заимствованная из .

В физике часто приходится рассматривать случайные функции координат точки пространства. Пространство с заданным в нем распределением значений некоторой величины называется полем данной величины. Случайная функция координат точки пространства приводит

(кликните для просмотра скана)

в соответствие каждой точке пространства некоторую случайную величину. Вследствие этого, изучая случайную функцию координат точки пространства, можно говорить о случайном поле. Поэтому теорию случайных функций координат точки пространства часто называют теорией случайных полей. Примером случайного поля может служить поле вектора скорости ветра в установившейся турбулентной атмосфере. В общем случае неустановившейся атмосферы вектор скорости ветра является случайной функцией координат точки пространства и времени.

Так как при каждом данном значении аргумента значение случайной функции является обычной скалярной случайной величиной, то полной вероятностной характеристикой этого значения является его закон распределения. Этот закон распределения называется одномерным законом распределения случайной функции Одномерный закон распределения случайной функции в общем случае зависит от как от параметра и может быть задан одномерной плотностью вероятности Одномерный закон распределения случайной функции является достаточной характеристикой случайной функции для тех задач, в которых значения случайной функции при различных значениях аргумента рассматриваются изолированно друг от друга. Для решения задач, в которых приходится рассматривать совместно значения случайной функции при двух или большем числе значений аргумента, необходимо ввести совместные законы распределения значений случайной функции при нескольких значениях аргумента.

Двумерным законом распределения случайной функции называется совместный закон распределения ее значений при двух произвольно взятых значениях аргумента Вообще -мерным законом распределения случайной функции называется закон распределения совокупности ее значений при произвольно взятых значениях аргумента Мы будем характеризовать -мерный закон распределения случайной функции ее -мерной плотностью вероятности которая в общем случае зависит от значений аргумента как от параметров.

Зная двумерную плотность вероятности случайной функции, можно определить ее одномерную плотность вероятности по формуле (15.8). В результате получим соотношение

Вообще, зная -мерную плотность вероятности случайной функции, можно определить все ее плотности вероятности чисел измерений, меньших чем пользуясь формулой (15.17). В результате

Таким образом, задавая -мерную плотность вероятности случайной функции, мы тем самым задаем и все ее плотности вероятности меньших чисел измерений. Закон распределения случайной функции большего числа измерений является более полной характеристикой случайной функции, чем любой закон распределения меньшего числа измерений. Однако закон распределения любого конечного числа измерений не может служить в общем случае исчерпывающей характеристикой случайной функции, так как знание -мерного закона распределения в общем случае недостаточно для определения законов распределения больших, чем чисел измерений. Лишь в частных случаях закон распределения конечного числа измерений может служить исчерпывающей характеристикой случайной функции. В общем случае для полной характеристики случайной функции необходимо задать всю последовательность ее законов распределения, т. е. плотности вероятности для всех значений

Если значения случайной функции при любых различных значениях аргумента являются независимыми случайными величинами, то -мерная плотность вероятности случайной функции согласно формуле (16.9) и определению независимости случайных величин (§ 16), при любом выражается через ее одномерную плотность вероятности формулой

Эта формула показывает, что исчерпывающей характеристикой случайной функции с независимыми значениями является ее одномерный закон распределения.

Примером случайных функций, исчерпывающей характеристикой которых являются двумерные законы распределения, могут служить марковские случайные процессы. Марковским случайным процессом, или случайным процессом без последствия, называется случайная функция скалярной переменной значения которой при значениях переменной при любом образуют простую цепь Маркова . Согласно определению простой цепи Маркова,

данному в § 47, условный закон распределения значения случайной функции зависит только от значения случайной величины и не зависит от значений случайных величин Поэтому, применяя последовательно общую формулу (16.17), получим для -мерной плотности вероятности марковского случайного процесса формулу

Но условная плотность вероятности на основании формулы (16.6) равна:

Формулы (48.4) и (48.5) дают:

Формулы (48.1) и (48.6) показывают, что -мерная плотность вероятности марковского случайного процесса при любом может быть определена, если известна его двумерная плотность вероятности. Следовательно, двумерный закон распределения является исчерпывающей характеристикой марковского случайного процесса.

Вторым примером случайных функций, для которых исчерпывающей характеристикой является двумерный закон распределения, могут служить нормально распределенные случайные функции. Мы будем считать, что случайная функция распределена нормально, если совокупность ее значений при любом и при любых из области изменения аргумента образует нормально распределенный случайный вектор. В § 23 мы видели, что -мерный нормальный закон распределения полностью определяется математическими ожиданиями, дисперсиями и корреляционными моментами случайных величин. Но математические ожидания и дисперсии случайных величин вполне определяются одномерным законом распределения случайной функции а их корреляционные моменты - двумерным законом распределения случайной функции Следовательно, двумерный закон распределения нормально распределенной случайной функции вполне определяет ее -мерный закон распределения при любом таким образом, является исчерпывающей ее характеристикой.

Несколько более общей, чем случайная функция с независимыми значениями, является случайная функция с некоррелированными значениями. Однако случайная функция с некоррелированными значениями в общем случае не может быть полностью охарактеризована никаким конечномерным законом распределения. Несмотря на это,

случайные функции с некоррелированными значениями играют большую роль в прикладной теории случайных функций.

Легко понять, что интеграл от случайной функции с некоррелированными (в частном случае независимыми) значениями представляет собой случайную функцию с некоррелированными (соответственно независимыми) приращениями на неперекрывающихся областях изменения аргумента. В § 54 будет показано, что интеграл от случайной функции с некоррелированными значениями имеет конечную дисперсию только в том случае, если дисперсия этой случайной функции бесконечна. Вследствие этого особенно важными для приложений являются случайные функции с некоррелированными значениями и бесконечной дисперсией, называемые обычно белыми шумами. Мы будем называть белым шумом любую случайную функцию с некоррелированными значениями, имеющую бесконечную дисперсию и конечную дисперсию интеграла от нее по любэй конечной области изменения аргумента. В основе этого термина лежат физические представления, связанные с быстро изменяющимися величинами, значения которых, разделенные очень малыми промежутками времени, практически независимы. Мы увидим дальше, что при разложении таких случайных функций на элементарные гармонические колебания гармоники всех частот оказываются одинаковыми по интенсивности. Эта аналогия с белым светом и послужила причиной того, что такие случайные функции называются белыми шумами. Это название удобно распространить на все случайные функции, обладающие перечисленными свойствами, независимо от физической (или математической) природы их аргументов.

Белый шум в чистом виде в природе не существует. Как мы увидим в § 74, для реализации белого шума необходима бесконечная мощность. Поэтому понятие белого шума является математической абстракцией, удобной для построения теории. Практически же можно говорить лишь о большей или меньшей степени приближения к белому шуму, о том, что минимальный промежуток времени, разделяющий значения случайной функции, которые можно считать практически некоррелированными, достаточно мал для того, чтобы его можно было не учитывать.

Очевидно, что вместо того, чтобы характеризовать случайную функцию последовательностью ее законов распределения различных чисел измерений, можно характеризовать ее одномерным законом распределения и последовательностью условных законов распределения, которые можно задать соответствующими условными плотностями вероятности

Совершенно так же, как был определен двумерный закон распределения случайной функции, определяется двумерный закон распределения двух случайных функций Двумерным законом распределения случайных функций называется закон распределения двумерного случайного вектора, составляющими которого

являются значение случайной функции при данном значении аргумента и значение случайной функции при данном значении аргумента Аналогично определяются совместные законы распределения других чисел измерений двух или нескольких случайных функций.

Исчерпывающей характеристикой случайной функции является ее вероятностная мера, определение которой было дано в § 14 для любых случайных объектов, в том числе и для случайных функций. Вероятностную меру случайной функции можно определить, если известны ее законы распределения всех чисел измерений. Выделим сначала из множества всех возможных реализаций случайной функции X множество всех реализаций, значения которых в точках принадлежат данным числовым множествам Согласно определению вероятностной меры значение вероятностной меры случайной функции X, соответствующее множеству ее реализаций, определится формулой

Эта формула определяет вероятностную меру случайной функции X для всех множеств рассмотренного типа при любых и при любом выборе числовых множеств Поставим теперь в соответствие каждому значению аргумента случайной функции X некоторое числовое множество и рассмотрим множество А всех реализаций случайной функции значения которых при всех принадлежат соответствующим множествам Для того чтобы определить значение вероятностной меры случайной функции X для такого множества ее реализаций, поставим в соответствие каждому целому положительному разбиение области изменения аргумента случайной функции X на ячеек таким образом, чтобы размеры всех ячеек стремились к нулю при . В каждой ячейке разбиения выберем произвольную точку так, чтобы множество точек содержало все точки соответствующие предыдущим разбиениям. Обозначим через множество реализаций случайной функции X, значения которых в точках принадлежат соответственно множествам Тогда получим последовательность множеств реализаций случайной функции X, каждое из которых включает все последующие множества. Предположим, что произведение всех множеств (т. е. множество реализаций случайной функции X, принадлежащих всем множествам совпадает с исходным множеством реализаций А, если не считать некоторых исключительных реализаций, имеющих нулевую суммарную вероятность появления, при любом выборе такого множества реализаций А. Это предположение накладывает определенные ограничения на характер возможных реализаций случайной функции . А именно, необходимо, чтобы любое множество ее реализаций можно было определить с любой степенью точности, накладывая на них ограничения в конечном числе достаточно близких друг к другу точек. Полагая в формуле (48.7)

найдем значения вероятностной меры случайной функции для множеств Числа образуют монотонную невозрастающую последовательность неотрицательных чисел. Следовательно, существует предел

который и является значением вероятностной меры случайной функции X для рассматриваемого множества ее реализаций А.

Формулы (48.7) и (48.8) определяют вероятностную меру случайной функции для всех цилиндрических множеств реализаций. Этого достаточно для того, чтобы определить ее для любых множеств реализаций .

Для случайной функции можно также определить функционал распределения, который является естественным обобщением функции распределения случайной величины. В соответствии с определением функции распределения (14.13) функционалом распределения случайной функции X называется вероятность выполнения неравенства при всех значениях аргумента

где произвольно заданная функция. Величина является функционалом, так как она зависит от вида функции Очевидно, что функционал распределения случайной функции представляет собой значение ее вероятностной меры, соответствующее множеству всех реализаций, значения которых при каждом принадлежат соответствующему полубесконечному интервалу Поэтому на основании (48.8) и (48.7) функционал распределения случайной функции X выражается формулой

Вероятностная мера и функционал распределения случайной функции пока не имеют большого практического значения, вследствие того, что методы вычисления интегралов типа (18.12) для произвольно заданной вероятностной меры в настоящее время еще очень мало разработаны .

Совершенно аналогично можно обобщить понятие характеристической функции на случайные функции. Рассматривая случайную функцию как совокупность бесконечного множества случайных величин зависящую от непрерывно изменяющегося параметра и обобщая определение характеристической функции -мерного случайного вектора (28.1), мы должны будем распространить сумму в показателе степени на все возможные значения непрерывно изменяющегося параметра При этом вместо придется взять и заменить сумму интегралом. В результате получим определение характеристического функционала действительной случайной функции

где интеграл распространяется на всю область изменения аргумента Характеристический функционал случайной функции зависит от функции (т. е. от значений этой функции при всех значениях аргумента

Характеристический функционал является исчерпывающей характеристикой случайной функции Действительно, задавая функцию к как линейную комбинацию импульсных -функций:

получим на основании свойств -функции:

Сравнивая это выражение с (28.1), приходим к заключению, что величина представляет собой характеристическую функцию -мерного случайного вектора с составляющими Поэтому, применяя формулу (28.14), можно определить -мерную плотность вероятности случайной функции при любом значении Таким образом, если задан характеристический функционал случайной функции то его значения при частных видах функции определяют все законы распределения случайной функции.

Можно дать более общее определение характеристического функционала. Для этого необходимо предварительно дать определение линейного функционала. Линейным функционалом называется такая величина, которая зависит от функции и удовлетворяет условию

где произвольные постоянные, а произвольные функции. Интеграл в показателе в формуле (48.11), очевидно, является линейным функционалом от случайной функции Сумма в показателе формулы (48.13) также является линейным функционалом от случайной функции Линейный функционал от функции можно сокращенно обозначать опуская скобки и обозначение аргумента функции х.

Обобщая определение (48.11), можно определить характеристический функционал случайной функции формулой

где А - произвольный линейный функционал. Задавая в формуле (48.15), линейный функционал А в виде интеграла или суммы, получим формулы (48.11) и (48.13) как частные случаи формулы (48.15). Формула (48.15) определяет характеристический функционал и в том случае, когда аргумент случайной функции X является вектором, одни составляющие которого представляют собой непрерывно изменяющиеся переменные, а другие составляющие являются дискретными переменными, в то время как формула (48.11) определяет характеристический функционал только в частном случае, когда все составляющие вектора являются непрерывно изменяющимися переменными.

Если характеристический функционал случайной функции X определяется формулой

где - некоторые функции, а индексы у линейных функционалов А указывают, к функциям каких аргументов они применяются, то характеристические функции всех чисел измерений случайной функции А

будут нормальными и, следовательно, случайная функция X распределена нормально. Таким образом, формула (48.16) определяет характеристический функционал нормально распределенной случайной функции. Эта формула является очевидным обобщением формулы (28.18) для характеристической функции нормально распределенного случайного вектора.

Пример 1. Найти плотности вероятности случайной функции скалярной независимой переменной с независимыми приращениями, если при ее значение равно нулю, а ее приращение на любом интервале распределено нормально и имеет математическое ожидание, равное нулю, и дисперсию

В данном случае значение случайной функции X при любом равно сумме ее значения при (равного нулю) и ее приращения на интервале Следовательно, одномерная плотность вероятности случайной функции X определяется формулой

Рассматриваемая случайная функция, очевидно, представляет собой марковский случайный процесс, так как ее приращение на любом интервале не зависит от ее значений вне этого интервала и, следовательно, ее значение в конце интервала связано лишь с ее значением в начале интервала и не имеет непосредственной статистической связи с ее значениями в точках, предшествующих началу интервала. Вследствие этого для определения всех плотностей вероятности случайной функции X в данном случае достаточно найти условную плотность вероятности ее значения в конце любого интервала относительно ее значения в начале интервала. Эта условная плотность вероятности, очевидно, выражается формулой