Левин Б. Р., Шварц В. Вероятностные модели и методы в системах связи и управления. — М'.: Радио и связь, 1985. — 312 с., ил.— (Статистическая теория связи. Вып. 24).
Книга написана профессорами Московского электротехнического института связи и Дрезденского технического университета, известными учеными в области статистической теории связи. В сравнительно небольшом объеме и в форме, доступной достаточно широкому кругу специалистов, приведены классификация и способы формирования характеристик основных классов моделей сигналов и систем.
Предложен единый методологический подход к изучению статических и динамических, стохастических систем с дискретным и непрерывным временем, основанный на их прямом и косвенном описаниях. Рассматривается актуальная проблема взаимосвязи прямого и косвенного описаний систем.
На базе вероятностных моделей рассмотрены методы решения задач синтеза и анализа алгоритмов обработки сигналов в системах связи и управления. Общие положения иллюстрированы большим числом примеров.
Для научных работников, а также аспирантов и инженеров соответствующих специальностей.
Табл. 10, ил. 166, библиограф. 196.
Предисловие
«Я думаю, что именно фантазия, «выдумка» создала я воспитала одно из удивительных качеств человека — интуицию, то есть «домысел», который приходит «а помощь исследователю природы в тот момент, когда его мысль, считая, измеряя, останавливается перед измеренным и сосчитанным, не в силах связать сваи наблюдения, сделать из них точный практический вывод. Тогда на помощь исследователю является «домысел»: «Л может быть это так?» И, дополняя разорвавшуюся цепь своих наблюдений звеном условного допущения. ученый создает «гипотезу», которая или оправдывается дальнейшим изучением фактов — и тогда мы получаем строго научную теорию, или же факты, опыты опровергают гипотезу».
М. Горький. О сказках
Эта книга представляет очередной 24-й выпуск серии «Статистическая теория связи». Предыдущие выпуски серии, основанной в 1974 г., отражали современное состояние и тенденции развития различных направлений статистической теории связи и ее приложений, что было главной целью серии, провозглашенной в год ее основания. В этой книге, посвященной математическим моделям сигналов и систем и некоторым методам использования моделей в типовых задачах техники связи и управления, основной акцент перенесен на общую методологию, которая служит и фундаментом, и сводом для любого частного приложения теории.
Книга методологического плана не является ни учебным пособием, ни справочником, хотя в некоторой степени и выполняет функции таких изданий. Ее роль состоит в том, чтобы в сравнительно небольшом объеме и в форме, доступной для широкого круга специалистов и учащихся, охарактеризовать структуру «ложившейся научной дисциплины, указать на логическую последовательность и взаимосвязь отдельных частей этой дисциплины, ознакомить с терминологией и литературой. Большое значение при этом имеют новые трактовки известных результатов, оригинальные точки зрения на предмет и его специфику. Отмеченные особенности книги методологического плана делают ее особенно полезной для тех, кто нуждается в обновлении знаний, повышении квалификации или для тех, кто, не имея возможности посвятить себя длительному изучению основ предмета, может ограничиться краткими сведениями, необходимыми для чтения специальной литературы.
В любой области .науки немало книг методологического плана. Примерами могут служить известные книги академика А. А, Хар-кевича [1], [2]. В предисловии к первой из них он писал: «В книге подобного рода потребность ощущалась уже давно. Однако время
з
Оглавление
Стр.
Предисловие ................ 3
Глава!
Основы методологии........... 6
1.1. Роль моделей в теории познания .......... 6
Принципы марксистской диалектики в теории познания (6). Методология познания. (6).. Модель как продукт абстрагирования (7). Качественное описание модели (8). Математическая модель (9). Пример математической модели, соответствующей двум физическим моделям (10).
1.2. Фундаментальные принципы........... 11
Физический детерминизм (11). Физический индетерминизм (12). Вероятностный подход (13). Концепция нечетких множеств (14). Причинность (14).
1.3. Модели как основа теории информационных систем.....16
Общенаучное понятие информации (16). Модель как формализованная информация (17). Знаковое представление информации (17). Информационная система (18). Системы связи и управления (19). Методология построения теории систем .(20). Общая схема системы (21).
Глава 2
Пространство сигналов........... 23
2.1. Определения и классификация...........23
Виды сигналов (23). Определение пространства сигналов (23). Унитарное (евклидово) пространство дискретных сигналов (24). Базис пространства дискретных ^сигналов (25). рильбертово (функциональное) пространство аналоговых сигналов (26). Пространство аналоговых сигналов с весом (26).
2.2. Дискретные сигналы...............27
Разложение дискретного сигнала по сигналам базиса (27). Ортогонализация базиса, по методу Грама — Шмидта (27). Разложение дискретного сигнала в орто-иормированном базисе (28). Ортогональное проецирование дискретного сигнала <29). Быстрое преобразование Фурье (30). Обобщенный гармонический анализ дискретных сигналов (30).
2.3. Аналоговые сигналы..............32
р
Виды аналоговых сигналов (32). Разложение аналогового сигнала по сигналам ортонормированного базиса (33). Разложение аналогового сигнала в экспоненциальном базисе (34). Непрерывный спектр сигнала конечной энергии (35). Обобщенный гармонический анализ сигналов конечной мощности (35). Обобщенный гармонический анализ периодических сигналов (36). Узкополосные сигналы (37). Разложение аналогового сигнала в базисе Уолша (38). Дискретизация аналогового сигнала (39). Интерполяционные формулы (40). Интерполяционная формула для периодического сигнала (42). Интерполяционная формула для спектра (42). Разложение аналогового сигнала по полиномиальному оазису (42). Разложение аналогового сигнала по полиномиальному базису с весом (43). Разложение аналогового сигнала по полиномам Чебышева (43). Разложение аналогового сигнала по полиномам Лагерра (44). Разложение аналогового сигнала по полиномам Эр-мита (44). Разложение аналогового сигнала по ортогональным функциям Лагерра и Эрмита (44).
Г л ав а 3
Стохастические сигналы.......... 46
3.1. Вероятностные характеристики сигналов........46
Пространство сигналов с вероятностной мерой (46). Полное вероятностное описание стохастического сигнала (46). Характеристический функционал стохастического сигнала (48). Моментные функции стохастического сигнала (48). Классификация стохастических сигналов по их вероятностным характеристикам (49). Стационарность (50). Эргодичность (51). Сильное перемешивание (52). Квазиде-терминированный сигнал (52). Вероятностные характеристики квазидетермини-рованных сигналов (53). Квазидетерминированные сигналы с дискретным спек-
309
Стр.
тром мощности (55). Ортогональное разложение стохастического сигнала (55). Интерполяционные формулы (57). Разложение в ряд Фурье (58). Декорреляция дискретного стохастического сигнала (58). Сигналы с независимыми значениями (58). Стохастические сигналы, полное вероятностное описание которых дается распределениями второго порядка (59). Гауссовский стохастический сигнал (60). Линейное преобразование гауссовского сигнала (61). Центральная предельная теорема (62). Огибающая и фаза узкополосного стохастического сигнала (63).
3.2. Сигналы с независимыми приращениями........63
Характеристическая функция (63). Сигнал со скачками в фиксированные моменты времени (64). Пуассоновский сигнал (65). Гауссовский сигнал с независимыми приращениями (66). Теорема Леви (67). Однородный пуассоновский сигнал (68). Обобщенный однородный пуассоновский сигнал (69). Винеровский процесс (71). Белый шум (72). Ограниченный (по спектру) белый шум (73).
3.3. Марковские сигналы..............74
Вероятностные характеристики (74). Цифровой марковский сигнал (цепи Маркова) (75). Многосвязный марковский сигнал (76). Векторный марковский сигнал (76). Гауссовский марковский сигнал (77). Дискретный Гауссовский марковский сигнал (78). Диффузионные процессы (79). Гауссовский диффузионный процесс (80). Винеровский процесс как диффузионный процесс (81). Векторный диффузионный процесс (81). Скачкообразные марковские процессы (82). Кусочно-непрерывные марковские процессы (83).
3.4. Двойственность описания стохастических сигналов.....83
Прямой и косвенный способы описания (83). Задачи анализа и синтеза (84). Регрессионные сигналы (85). Вмнеровская последовательность (86). Иммитация квазидетерминированных сигналов (87). Сигналы, задаваемые стохастическими дифференциальными или интегральными уравнениями (88). Негауссовский диффузионный процесс (89). Парадокс: «странный аттрактор» (89). Анализ стохастического сигнала. Пример 1. (90). Анализ стохастического сигнала. Пример 2. (91). Синтез фазоманипулированных сигналов с заданными корреляционными характеристиками (93).
Г л а в а 4
Теория систем ..............95
4.1. Детерминированные системы........... 95
Модель системы (95). Два основных вида системы (96). Линейные системы (98J. Нелинейные статические системы (99). Линейные статические системы (100). Модель «вход—выход» динамических систем с дискретным временем (101). Модель «Вход — выход» динамических систем с -непрерывным временем (102). Модель «Вход — выход» линейных динамических систем (102). Модель «вход— выход» типового устройства обработки сигнала (103). Модель состояний динамической системы с дискретным временем (104). Модель состояний динамической системы с непрерывным временем (105). Структурная схема динамической системы (106). Дифференцирующая цепочка (107). Пространство состояний (108). Система с векторными входом и состоянием (109). Система с распределенными параметрами (110). Пример перехода от конечномерного вектора состояний к континуальному множеству состояний (111). Модели «вход — выход» линейных динамических систем (112). Канонические уравнения состояния линейной динамической системы (114). Математические модели линейных динамических систем (резюме) (116). Дуализм сигнал — система (117).
4.2. Статические стохастические системы.........И 8
От детерминированных систем к стохастическим системам (118). Прямое и косвенное описание стохастических систем (119). Прямое описание статических стохастических систем (119). Косвенное описание статических стохастических систем (121). Последовательное и параллельное соединение систем (122). Связь двумерных и многомерных плотностей вероятностей сигналов на выходе и на входе системы (124). Корреляционная функция сигнала на выходе системы (125). Взаимосвязь прямого и косвенного описания статической системы с дискретным временем (126). Взаимосвязь прямого и косвенного описания статической системы с непрерывным временем (128). Прямое описание системы по известному косвенному описанию [модель (4.76а)1 (130). Прямое описание системы по известному косвенному описанию [модель (4.766)] (131). Общая схема взаимосвязи прямого и косвенного описания (133).
43. Динамические стохастические системы с дискретным в:ременем . . '33
Основные модели (133). Прямое описание динамических систем (134). Вероятностные автоматы (136). Косвенное описание динамических стохастических систем с дискретным временем (137). Одномерное распределение состояния системы (138). Пример (140). Геометрическая интерпретация (144). Системы с дискретным временем и континуальным пространством состояний (146). Пример (149). Нулевое начальное состояние системы (150). Корреляционная функция состояния (152). Стохастические цифровые фильтры (153). Вероятностные характеристики
310
сигнала на выходе цифрового фильтра (154). Анализ стохастических цифровых фильтров при помощи z-преобразования (156). Динамические системы и марков-
I' ские сигналы (157). Многосвязные и векторные марковские сигналы (160). Линейные системы с конечной импульсной характеристикой (162). Линейные системы с бесконечной импульсной характеристикой (162). Парадокс: белый шум с зависимыми значениями (!64). Корреляционная функция переходного про-
(. цесса (165).
|4. Динамические стохастические системы с непрерывным временем . 167
Основные положения (167). Аналого-дискретная система, управляемая пуассо-новским потоком событий (168). Аналого-дискретная система с двумя состояниями (прямое описание) (171). Аналого-дискретная система с двумя состояниями (косвенное описание) (172). Аналоговые динамические стохастические системы (прямое описание) (173). Аналоговые динамические стохастические системы (косвенное описание) (174). Связь прямого и косвенного описания динамической системы (175). Пример аналоговой стохастической системы (176). Энергетические характеристики сигнала на выходе линейной системы (177). Корреляционная ф>нкция переходного процесса (180).
:.5. Таблица прямых и косвенных описаний систем ....... 185
Глава 5
Линейные стохастические сигналы и системы . . . . . 186
L1. Класс линейных стохастических сигналов.........186
Определение линейного стохастического сигнала (186). Характеристический функ- • дионал белого шума (187). Преобразование характеристических и кумулянтных функционалов в линейных системах (188). Энергетические характеристики линейного случайного сигнала (189). Плотность вероятности линейного случайного .сигнала (190). Кумулянты случайного сигнала (191). Связь с марковскими сигналами (192).
>.2. Линейные системы под воздействием линейных сигналов . . . 193
Общие положения (193). Замкнутость класса линейных сигналов относительно линенныых преобразований (194). Преобразование характеристик линейных сигналов в линейных системах (195).
>.3. Метод приближенного определения плотности вероятности сигнала на
выходе линейной системы............197
Общая структура алгоритма вычисления плотности вероятности (197). Вычисление кумулянтов входного сигнала (197). Связь между весовой функцией формирующего фильтра и спектральной плотностью мощности линейного сигнала (198). Пример (199). Одномерная плотность вероятности сигнала на выходе линейной системы (201). Ряды Грама — Шарлье и Эджворта (202). Разложение по поли-.номам Лагерра (203). Аппроксимация кривыми Пирсона (204).
Глава 6
Методы статистического синтеза и анализа в системах связи 207
3.1. Структурно-логическая схема решения задач.......207
Формализация задач в терминах теории статистических решений (207). Различение сигналов на фоне помех (208). Оценивание параметров сигналов на фоне помех (208). Фильтрация, интерполяция и экстраполяция сигнала на фоне помех (209). Априорные данные (209). Пространство наблюдений (209). Вероятностная мера (210). Пространство решений и совокупность правил выбора решений (210). Функция потерь <212). Критерий качества (212). Классификация алгоритмов принятия решения (214). Синтез оптимального алгоритма (214). Анализ рабочих характеристик алгоритма (215). Проблема априорной неопределенности (21.6). Краткое содержание последующих разделов главы (216).
6.2. Алгоритмы различения детерминированных сигналов на фоне помех . 217
Априорные данные (217). Синтез байесовского алгоритма различения сигналов (218). Оптимальный алгоритм различения сигналов по критерию максимальной апостериорной вероятности (218). Достаточные_5татистики (220). Дискретно-аналоговый оптимальный (максимальной апостериорной вероятности) алгоритм раз-- личения детерминированных сигналов на фоне аддитивной гауссовской помехи (221). Структурная схема оптимального алгоритма различения сигналов (222). Анализ рабочей характеристики оптимального дискретно-аналогового алгоритма различения сигналов (224). Другой принцип дискретизации (некоррелированные координаты) (226). Дискретно-аналоговый оптимальный алгоритм различения детерминированных сигналов на фоне аддитивной гауссовской помехи (независимые координаты) (228). Сравнение двух способов дискретизации при синтезе дискретно-аналоговых алгоритмов различения сигналов (229). Предельная форма статистики отношения правдоподобия в задачах различения сигналов на фоне
311
Стр.
аддитивной гауссовской помехи (230). Аналоговый оптимальный алгоритм различения детерминированных сигналов на фоне аддитивной гауссовской помехи (232). Частный случай: помеха — белый гауссовский шум (233). Анализ алгоритма различения сигналов на фоне аддитивного белого гауссовского шума (234).
6.3. Алгоритмы различения узкополосных сигналов на фоне аддитивной гауссовской помехи..............236
Априорные данные (236). Дискретно-аналоговый оптимальный алгоритм различения узкополосных сигналов па фоне аддитивной гауссовской помехи (некогерентный прием) (236). Аналоговый оптимальный алгоритм различения узкополосных сигналов на фоне аддитивного гауссовского белого шума (некогерентный прием) (238). Анализ рабочей характеристики алгоритма различения квазидетерминиро-ванных ортогональных сигналов на фоне белого гауссовского шума (240). Аналоговый оптижальный алгоритм различения узкополосных сигналов на фоне аддитивного гауссовского белого шума в условиях общих замираний (некогерентный прием) (241). Последетекторная обработка наблюдаемого узкополосного случайного процесса (243). Использование аналитического сигнала (243). Независимые координаты аналитического сигнала (243). Независимые координаты комплексной огибающей (245). Дискретно-аналоговый амплитудно-фазовый оптимальный алгоритм различения узкополосных сигналов на фоне аддитивной' гауссовской узкополосной помехи (когерентный прием) (245). Дискретно-аналоговый амплитудно-фазовый оптимальный алгоритм различения сигналов на фоне аддитивной гауссовской узкополосной помехи (некогерентный прием) (247).
6.4. Методы преодоления априорной неопределенности.....249
Классификация методов (249). Критерии качества обнаружения сигнала в условиях параметрической априорной неопределенности (249). Экспоненциальный класс параметрической априорной неопределенности (250). Критерий качества в условиях непараметрической априорной неопределенности (251). Непараметрические алгоритмы обнаружения сигналов (251). Модифицированные непараметрические алгоритмы обнаружения сигналов (252). Знаковые алгоритмы (253). Модифицированный знаковый алгоритм обнаружения постоянного сигнала (255). Ранговые алгоритмы (256). Редукция сложности ранговых алгоритмов (257). Ро-бастные алгоритмы обнаружения (257). Адаптивные алгоритмы обнаружения сигналов (258). Адаптивные алгоритмы обнаружения сигналов в условиях параметрической априорной неопределенности (адаптивный байесовский подход) (259). Адаптивные алгоритмы обнаружения сигналов в условиях непараметрической априорной неопределенности (эмпирический байесовский подход) (259). Асимптотически оптимальные алгоритмы обнаружения сигналов (261). Асимптотически оптимальный дискретно-аналоговый алгоритм обнаружения детерминированного сигнала (независимая выборка) (262). Асимптотически оптимальный дискретно-аналоговый алгоритм обнаружения детерминированного сигнала на фоне многосвязной марковской помехи (263). Асимптотически оптимальный непараметрический ранговый алгоритм обнаружения детерминированного сигнала (независимая выборка) (264). Асимптотически оптимальный цифровой алгоритм '• обнаружения детерминированного сигнала (независимая выборка) (265). Асимптотически оптимальные алгоритмы обнаружения детерминированных сигналов, основанные на обработке независимых групп коррелированных выборок (266). Асимптотически оптимальные адаптивные алгоритмы обнаружения сигналов (266). Замечания о требованиях к алгоритмам обнаружения сигналов (277).
Г лав а 7
Стохастическое управление системами.......268
7.1. Основные модели и методы............268
Типовые задачи управления (268). Пример детерминированного управления (270). Оптимальный линейный регулятор (детерминированный подход) (272). Стохастический подход (косвенное описание) (273). Стохастический подход (прямое описание) (275).
7.2. Оптимальная фильтрация............276
Постановка задачи (276). Пример ортогональности и уравнение Винера — Хопфа (278). Фильтр Винера (280). Фильтр Калмана (прямое описание) (283). Фильтр Калмана (косвенное описание) (285). Частный случай: стационарность (288). Таблица общих соотношений (289).
7.3. Оптимальное стохастическое управление........289
Постановка задачи (289). Принцип разделения (290). Принцип двойственности (290).
Приложения.................293
Классификация систем (293). Основные понятия функционального анализа (295). Аналитический сигнал (298). Аксиоматическое построение теории вероятностей (300).
Список литературы...............302