Глава 6. Основы теории случайных сигналов

В последние десятилетия широкое развитие получила научная область, называемая статистической радиотехникой. Эта дисциплина изучает явления при передаче сообщений в условиях, когда детерминированное описание сигналов принципиально невозможно и на смену ему приходит вероятностное (статистическое) описание.

Как указывалось в гл. 1, отличительная черта случайного сигнала состоит в том, что его мгновенные значения заранее не предсказуемы. Однако, изучая такой сигнал более пристально, можно заметить, что ряд характеристик весьма точно описывается в вероятностном смысле. Например, напряжение на зажимах нагретого резистора представляет собой последовательность малых, быстро изменяющихся во времени случайных отклонений, называемых флуктуациями. Примечательно, что чаще всего наблюдаются относительно небольшие отклонения от среднего уровня; чем больше отклонения по абсолютному значению, тем реже они наблюдаются. Уже в этом проявляется некоторая статистическая закономерность. Располагая сведениями о вероятностях флуктуаций различной величины, удается создать математическую модель случайного колебания, вполне приемлемую как в научном, так и в прикладном смысле.

Вероятные законы возникают всегда, если физическая система, порождающая случайный сигнал, представляет собой объединение очень большого числа более мелких подсистем, совершающих некоторые индивидуальные движения, в большей или меньшей степени не зависимые друг от друга.

В радиотехнике случайные сигналы часто имеют вид шумов. Это хаотически изменяющиеся но времени электромагнитные колебания, наблюдаемые в разнообразных физических системах, где носители заряда, например электроны, совершают беспорядочные движения.

К математической модели случайного сигнала прибегают также в теории информации для вероятностного описания закономерностей, присущих осмысленным сообщениям.

Наконец, статистическую природу имеют сигналы и лазерных линиях связи. Ввиду сравнительно большой энергии кванта электромагнитного поля (фотона) здесь принципиально необходимо учитывать специфический квантовый шум.

6.1. Случайные величины и их характеристики

В настоящем параграфе приведены основные понятия теории вероятностей применительно к задачам статистической радиотехники. Более полное изложение этих вопросов можно найти в [11], [22].

Вероятность.

Современная теория вероятностей представляет собой аксиоматизированную ветвь математики, обобщившую обширный эмпирический материал, накопленный наукой при изучении разнообразных случайных явлений.

В основе теории вероятностей лежит понятие полного множества «элементарных исходов» или случайных событий . Символы означают всевозможные исходы некоторого случайного эксперимента. Каждому событию сопоставлено вещественное число , которое называется вероятностью этого события.

Принимаются следующие аксиомы:

1) вероятность неотрицательна и не превышает единицы:

2) если — несовместимые события, то

3) сумма всех событий, содержащихся в есть достоверное событие:

Измерение вероятностей.

Математическое понятие вероятности случайного события является абстрактной характеристикой, присущей не самим интересующим нас объектам материального мира, а их теоретико-множественным моделям. Требуется некоторое дополнительное соглашение для того, чтобы можно было извлекать сведения о вероятностях из экспериментальных данных.

Общепринято оценивать вероятность события относительной частотой благоприятных исходов. Если проведено N независимых испытаний, причем в и из них наблюдалось событие А, то эмпирическая (выборочная) оценка вероятности которую можно получить из этой серии, такова:

Пример 6.1. Сигнал на выходе некоторого электронного устройства может принимать лишь два значения: («высокий потенциал», событие («низкий потенциал», событие ). Через равные промежутки времени Т случайным образом может происходить смена состояний системы. Эксперимент состоит в многократном измерении мгновенного значения сигнала на выходе. Моменты измерений произвольны, однако интервал времени между ними значительно превосходит Т.

Предположим, что, цроведя 100 независимых опытов, мы 43 раза наблюдали событие А, и 57 раз — событие соответствии с (6.1) эмпирические оценки вероятностей . Из данных опыта не следует, что именно такими должны быть и теоретические вероятности этих событий. Скорее всего, экспериментатор выскажет гипотезу о том, что эти события равновероятны: . Однако если такие же эмпирические оценки получаются в серии из 100000 опытов, то эта гипотеза, по-видимому, должна быть отвергнута.

Функция распределения и плотность вероятности.

Пусть X — случайная величина, т. е. совокупность всевозможных вещественных чисел х, принимающих случайные значения. Исчерпывающее описание статистических свойств X можно получить, располагая неслучайной функцией F(x) вещественного аргумента х, которая равна вероятности того, что случайное число из X примет значение, равное или меньшее конкретного х:

Функция F(x) называется функцией распределения случайной величины X. Если X может принимать любые значения, то F(x) является гладкой неубывающей функцией, значения которой лежат на отрезке Имеют место следующие предельные равенства:

Производная от функции распределения есть плотность распределения вероятности (или, короче, плотность вероятности) данной случайной величины. Очевидно, что

т. е. величина есть вероятность попадания случайной величины X в полуинтервал

Для непрерывной случайной величины X плотность вероятности представляет собой гладкую функцию. Если же X — дискретная случайная величина, принимающая фиксированные значения с вероятностями соответственно, то для нее плотность вероятности выражается как сумма дельта-функций:

В обоих случаях плотность вероятности должна быть неотрицательной: и удовлетворять условию нормировки

Усреднение. Моменты случайной величины.

Результатами экспериментов над случайными величинами, как правило, служат средние значения тех или иных функций от этих величин. Если — известная функция от х (исхода случайного испытания), то, по определению, ее среднее значение

Следует заметить следующее: наибольший вклад в среднее значение дают те участки оси х, где одновременно велики как усредняемая функция так и плотность вероятности

В статистической радиотехнике широко применяются особые числовые характеристики случайных величин, называемые их моментами.

Момент порядка случайной величины X есть среднее значение степени случайной переменной:

Простейшим является момент первого порядка, так называемое математическое ожидание

которое служит теоретической оценкой среднего значения случайной величины, получаемого в достаточно обширных сериях испытаний.

Момент второго порядка

является средним квадратом случайной величины.

Используются также центральные моменты случайных величин, задаваемые следующей общей формулой:

Важнейший центральный момент — так называемая дисперсия

Очевидно, что

Величина т. е. квадратный корень из дисперсии, называется средним квадратическим отклонением, которое служит для количественного описания меры разброса результатов отдельных случайных испытаний относительно математического ожидания.

Равномерное распределение.

Пусть некоторая случайная величина X может принимать значения, принадлежащие лишь отрезку причем вероятности попадания в любые внутренние интервалы одинаковой ширины равны. Тогда плотность вероятности

Функцию распределения находят путем интегрирования:

Математическое ожидание

естественно, совпадает с центром отрезка

Как легко проверить, дисперсия случайной величины, имеющей равтомериое распределение вероятности,

Гауссово (нормальное) распределение.

В теории случайных сигналов фундаментальное значение имеет гауссова плотность вероятности

содержащая два числовых параметра m и . График данной функции представляет собой колоколообраную кривую с единственным максимумом в точке (рис. 6.1).

Непосредственным вычислением можно убедиться, что параметры гауссова распределения имеют смысл соответственно математического ожидания и дисперсии:

Функция распределения гауссовой случайной величины

Замена переменной дает

Здесь Ф — хорошо изученная неэлементарная функция, так называемый интеграл вероятностей [15]:

Рис. 6.1. График гауссовой плотности вероятности при различных значениях параметра

Рис. 6.2. График функции распределения гауссовой случайной величины

График функции F(x) (рис. 6.2) имеет вид монотонной кривой, изменяющейся от нуля до единицы.

Плотность вероятности функции от случайной величины.

Пусть Y — случайная величина, связанная с X однозначной функциональной зависимостью вида f(x). Попадание случайной точки х в интервал шириной dx и попадание случайной точки у в отвечающий ему интервал шириной являются эквивалентными событиями, поэтому вероятности их совпадают: . Отсюда

где — функция, обратная по отношению к .

Если функциональная связь между X и Y неоднозначна, так что имеется несколько обратных функций , то формула (6.11) обобщается следующим образом:

Пример 6.2. Линейное преобразование гауссовой случайной величины.

Пусть причем плотность вероятности

Так как то на основании (6.11)

Итак, гауссов характер случайной величины при линейном преобразовании сохраняется. Величина, полученная в результате такого преобразования, имеет математическое ожидание и дисперсию .

Характеристическая функция.

В теории вероятностей большую роль играет статистическое среднее вида

называемое характеристической функцией случайной величины X. С точностью до коэффициента функции есть преобразование Фурье от плотности вероятности, поэтому

Опуская элементарные выкладки, приведем некоторые результаты:

для случайной величины, равномерно распределенной на отрезке

для гауссовой случайной величины с заданными параметрами

Располагая характеристической функцией, легко иайти моменты случайной величины. Действительно, так как

то, полагая здесь и сравнивая результат с (6.3), находим

С помощью характеристической функции удобно также находить плотность вероятности случайндй величины, подвергнутой функциональному преобразованию. Так, если то Если удастся вычислить преобразование Фурье вида (6.14), то поставленная задача будет решена.

Пример 6.3. Пусть где , в то время как х — значение случайной величины, равномерно распределенной на отрезке — .

Так как

где — функция Бесселя первого рода с нулевым индексом.

Используя табличный интеграл [15], получаем

Вид графика плотйости вероятности связан с тем, что если выполнить большую серию опытов, каждый раз случайным образом выбирая значения х из указанной области, то величина чаще будет принимать значения, близкие к нежели близкие к нулю.