/
Text
в канале с рэлеевскими замираниями он достигает
почти 10 дБ. Здесь разница, конечно, не ,столь ве- |
лика, как при разнесенном приеме, но: псе же эф-
фективность повышения! основания кода в канале с ।
замираниями выше, чем в канале без замираний,
что диаметрально противоположно выводу, сделан-
ному в статье.. V р .и; - _•
. ' !, J '! ’ । ! Г Л !
! - J I I |- U , '
8. ЛУЧШЕ НАИЛУЧШЕГО ! 1 i
, ! [Эдмунд] Ландау заготовил печат-
। | ’ । ные формуляры для'рассылки авто-
| ! | | рам доказательств последней теоре-
, мы Ферма: «На стр....строке...
' ; имеется ошибка> (находить ошибку
; поручалось доценту). 1 ।
• I Дж. । Литлвуд. Математическая
' ' - смесь
: ! । ! 1
8.1. ИЗОБРЕТАТЕЛИ «ВЕЧНОГО ДВИГАТЕЛЯ» 'i- ' ? ,
За последние 25-—30 лет автору приходится ]
'время от времени консультировать изобретателей
1 ! различных, систем связи. < И примерно I каждые I
два-три гоДа среди них появляется очередной изо,-,
' н'бр|етатель г «вечного двигателя» в связи. Под этим ,1
' названием я подразумеваю различные способы пе- ' *
редачи и приема сигналов с, помехоустойчивостью,!
превышающей потенциальную, т. е. ту, которую
i ' можно теоретически получить дри оптимальном
’ приеме и данных условиях. ‘ '
! Среди этих'изобретателей!।встречались разные
люди. ’Они по-разному реагировали на критику.
Некоторые (очень Немногие) сразу понимали ошиб-i
,1 ку и отказывались1 от своих заблуждений. Другие, .
разобравшись в слабых местах своих рассуждений, ''
’все же не хотели отказаться^ от своей идеи и упор-и
. 132 : ’Л’ ’ ’ Г | .,1,1 ' Ч
но пытались «подправить»' и «обосновать» ее.
1 Третьи просто не хотели ничего слушать и объясни- ।
ли все возражения тем, что их оппоненты— рути-
• неры, отставшие от жизни, не понимающие новых.
идей и цепляющиеся за «устаревшие» представле-
ния о1' потенциальной помехоустойчивости. Нередко в
подтверждение своих идей они приводят неизвестно
как и где полученные «экспериментальные резуль-
таты»1.. Впрочем, некоторые авторы «вечного двига-
теля»—очень приятные люди и весьма квалифи-
цированные специалисты, отлично владеющие ме-
тодами теории связи, но упорно допускающие ту
’ - или иную ошибку при анализе своей системы. В ря-
де случаев значительно легче разобраться в сущ-
* ности сделанных ошибок, чем в психологии «изо- !
бретателей». .. । ‘ <
' В; качестве примера можно привести мбю более ' ।
чем двухлетнюю ,переписку с одним инженером, в
, которой речь шла о двоичной системе связи, якобы1
f позволяющей при некогерентном приеме ортого-
. нальных сигналов получить такую вероятность
ошибки, которая теоретически возможна лишь 'при ।
1 когерентном приеме противоположных сигналов. >
, Сущность этой системы и ее многочисленных вари-
* антов (в каждом очередном письме вносились но-: ’ |;щ
, вые, «усовершенствования») излагать не будем.' / I
В ней нет ничего поучительного, и ее опровержение; U
’ сводилось к отысканию тривиальных ошибок в вы- i? J'f
", . кладках. Так, в третьем или четвертом письме i j
предлагалась модификация решающей схемы, в: if ,
которой отношение сигнал-помека оказывалрсь ! ;
ч пропорциональным l/(Af—ДЧ>)2, где Ni и N2 —
интенсивности шумов в двух ветвях решающей схе- Jit । 11
мы. Повторив сделанные в 1 письме (выкладки, я .i j! i
сразу обнаружил, что в этой формуле ошибка fU’ ' !
(вместо Ni—N2 в.[ знаменателе должно! быты ;
- . I " I I' I' 1; ы ; I !| I : ii
; 'ч ; ‘ ; 1 п 1 - - >r !
I I I I и I-
i ’ i ' ; V S '
to 1 < i: 4 ' 1 ' i’ . 1 !
I
-HV2) и никакой сверхъестественной помехоустой-
чивости не получается. Указав в своем ответе на
эту и еще одну ошибку, я закончил его следующей
фразой: «Я оченн боюсь, что, прочтя это письмо и
убедившись в его справедливости, Вы начнете
«подправлять» и «совершенствовать» свой . алго-
ритм, стараясь все-таки превзойти потенциальную
помехоустойчивость. Не уподобляйтесь тем изо-
бретателям вечного двигателя, которые 1 считали,
что у них недоработана только одна небольшая
деталь, а когда она будет улучшена, вечный дви-
гатель заработает». В ответ я получил письмо, ав-
тор которого категорически отрицал свою явную
ошибку. Он писал: '«Расхождения в знаках в фор-
мулах (8) и (9) объясняются тем, что при выклад-
ках Вы не имели возможности учесть ^временную
структуру процессов в ветвях графа: разъяснение
деталей технологии не входило в задачи материа-
ла». Другими словами, главная «шестеренка» веч-
ного двигателя оказалась засекреченной — тут уж
ничего возразить нельзя.
Справедливости ради нужно сказать, что при-
мерно через три года мой корреспондент доклады-
вал о своем алгоритме на одной научной конфе-
ренции и указанные ошибки были им исправлены.
Но, конечно, никакого превышения потенциальной
помехоустойчивости уже не было. При обсуждении
доклада выяснилось, что этот алгоритм ничем не
лучше известных. * ;! -
В чем же причина всех заранее обреченных на
неуспех цоП|Ыток преодолеть законы природы?
В первую очередь, в отсутствии самокритично-
го отношения к своим результатам. К сожалению,
далеко ще все преподаватели вузов' воспитывает
в своих учениках; привычку быть всегда Л самым
строгим критиком; своей работы и соблюдать ще-
134 1 " '! . , - и ,
’ 1 ’ ' .и .Ь S : 'Г
зыблемое правило — после получения какого-либо
результата прежде всего постараться опровергнуть
. его и лишь после того, как он выдержал все испы-
тания, выставлять его на всеобщее обозрение.
Другой причиной является весьма похвальное
" желание сделать великое открытие, принести поль-
зу человечеству, ну и заодно прославиться. Если
\ это желание не сдерживается самокритикой, то
часто приводит к плачевным результатам. Хуже
- всего, когда автор уже свыкся с мыслью, что он
изобрел нечто небывалое, и ему очень трудно с
ней расстаться. Так рождаются «непризнанные ге-
нии», которые принимают всякую критику как
проявление зависти.
И, наконец, в отдельных случаях немалую роль
играют недостаточная техническая грамотность и
непонимание основ статистической теории' связи.
Иногда «изобретатели» даже не догадываются о
том, что их результаты противоречат теории. Ча-
ще они пытаются объяснить эти противоречия
тем, что они глубже и правильнее понимают сущ-
ность помехоустойчивости, чем их оппоненты, и мо-
гут внести «поправки» в существующую теорию.
Приходилось слышать следующие пояснения:
— Котельников в теории потенциальной поме-
хоустойчивости рассматривал только линейные ме-
тоды обработки сигнала, а у меня — нелинейная
схема, и поэтому я могу обеспечить более высокую
помехоустойчивость.
—'Котельников исходил только из представле-
ния сигнала как функции времени или из разло-
жения этой функции в ряд Фурье, если же учесть
. другие свойства сигналов, то можно найти резер-
вы для повышения помехоустойчирости. ;
\ у —^Котельников рассматривал только белый
шум, но. в природе белого шума не бывает, и по-
- ' ' l i ' и’ ' i 135
этому вероятность ошибки может быть сколь угод-
но малой, если придумать хорошую систему.
— Теория потенциальной помехоустойчивости
давно опровергнута ШеннономJ который доказал,
что информацию’ можно передавать со сколь угод-
но малой вероятностью ошибки, если скорость пе-
редачи меньше пропускной способности канала,
и т. п.
Все эти доводы, конечно, несостоятельны. При
построении теории потенциальной помехоустойчи-
вости В. А. Котельников и его последователи не
постулировали линейность методов обработки сиг-
. нала. Линейная система оказывается оптимальной
только для гауссовской помехи при полностью из-
вестном сигнале. В других случаях оптимальная
схема получается нелинейной.
Точно так же теория Котельникова не накла-
дывает никаких ограничений на способ представ-^
ления сигнала. Запись принимаемого сигнала в ви-'
де функции времени содержит всю доступную ин-
формацию о нем, и никакие преобразования этой
। записи не смогут выявить новой информации, а
h следовательно, и не позволят получить результаты,
лучшие, чем в синтезированной По выбранному
. критерию оптимальной схеме1.
Тот факт, что в работе В. А. Котельникова [22]
рассматривается в основном помеха в виде белого-
1 Конечно, используя дополнительную информацию, !
можно снизить вероятности ошибки. Например, если вместо
скалярной функции — напряжения на входе приемника —
задать пространственную картину электромагнитного Ноля, ,
вблизи приемной антенны, возникают новые возможности —' '
использование 1 поляризации поля, осуществление простран-
ственно-разнесенного! приема и т. д. Ничего похожего не
, будет, если, например, помимо сигнала задать его производ-
ную, поскольку она; новой информации не содержит/ । -
' ; • 2 .'Л! 4 >
Шума, вовбе не говорит б возможности получения
сколь угодно малой вероятности 'ошибок при не-
. белом шуме. Нижняя граница11 для вероятности
ошибок при небелом гауссбвском шуме определи- 1
лась во многих работах других авторов (например,
в [49]). |Эта граница становится равной нулю! в
так 'называемых сингулярных случаях' например,
Когда в некоторой частотной области,1 занятой1 сиги,
налом, помеха отсутствует. Однако в реальных си- ।
туациях сингулярности возникнуть не могут,! хотя >
бы 'вследствие всегда присутствующего теплового ,
( шума; а также квантовых закономерностей. Сингу- ’
лярности возникают только «на бумаге», ' когда .
принятая математическая модель канала связи фи-
ц. зически нереализуема и, следовательно, неправиль- i ।
но описывает реальный канал. К тому же изобре- i
- татели 1 «свер^оптимальнбго» приема, ссылающие- ||
ся’на окрашенность дпума, в своих работах рас- ,
! сматривают обычно несингулярную модель, , но С
< получают вероятность ошибки если не сколь угод- ; ;
но малую, то все же меньшую, чем это возможно । ’ !
в оптимальной решающей схеме. , ! '
Совершенно незаконным является противопо- jj;;
ставление теорий Котельникова и Шеннона. В тео- V1
А рии потенциальной помехоустойчивости Котельни-
л кова считается заданным конечный ансамбль сиг-, 1
, ,, . налов и отыскивается вероятность ошибок при1 ;
оптимальном приеме этих сигналов по правилу, !
максимальной апостериорной вероятности, тогда ;J
как в теории информации Шеннона задан только
канал/а сигналы выбираются оптимальным >обра- : 1
!зом в 'процессе кодирования. Уменьшение вероят- 1
1 . ности ошибок имеет место при увеличении длины
(кодируемого сообщения, когда увеличивается 1'и-
.число реализаций сигнала. Впрочем, и в i[22] поЦ ,и|
‘ казано), рто с увеличением Основания ; кода вероятг';; '
I
ность ошибки (пересчитанная на двоичный сим-
вол) уменьшается. ‘
После этих общих соображений перейдем к зна-
комству с некоторыми конкретными способами ни-
спровержения теории связи. Ограничимся только
несколькими типичными примерами.4 ~ -
8.2. ШИРОКОПОЛОСНАЯ ЧАСТОТНАЯ МАНИПУЛЯЦИИ
Эта «идея» в законченном виде была обнару-
жена в рукописи статьи, которая, к счастью, не
> была опубликована. Автором ее была аспирантка
Пивоварова (!все фамилии «изобретателей» в этой
главе изменены), и, как потом выяснилось, в статье
излагалось одно из основных положений подготов-
ленной ею диссертации.’ ' Ч 1
Суть дела в следующем. Известно) что. при не-
когерентном приеме двоичных сигналов с частот-
ной манипуляцией (ЧМ.) на фоне гауссовского шу-
ма с равномерным спектром обычно применяют
два фильтра (Ф), разделяющих две реализации
сигнала, и дифференциальный детектор (Д)
(рис. 8.1). Решение принимают по знаку напря-
жения в моменты . отсчета на выходе детектора.
При достаточно большой разности частот сигналов
: и достаточно широких, но неперекрывающихся по-
лосах пропускания фильтров вероятность ошибки
р=0,5ехр(—<^/2), (8.1)
гдеq~ —* отношение мощности, сигнала "к мощности
* помехи на выходе фильтра.
Если фильтры согласованы с сигналами, а пос-'
ледние взаимно ортогональны, то в (8.1) величина
q2 принимает максимально возможное значение,
равное отношению энергии сигнала на входе'при-
емника к спектральной плотности шума, которое
138 А И ,
принято обозначать h2. В этом случае схема ока-
зывается построенной по правилу максимума прав-
доподобия. Следовательно, 0,5 ехр (—й2/2) пред-
ставляет собой наименьшую вероятность ошибки
при некогерентном приеме двоичных равновероят-
ных и равномощных ЧМ сигналов. К ней можно
Рис. 8.1 Рис. 8.2
приблизиться, используя и другие схемы, например )
прием ! по мгновенной частоте с последетектор-
' ной фильтрацией (рис. 8.2) (см., например, [46,
с. 262—291]). i
Тов. Пивоварова обнаружила,у что в этих рас- .
суждениях имеется неточность. В частотном детек-
торе (ЧД), как известно, отношение мощности
сигнала к мощности помехи возрастает в Зт2/П2,
раз, где т — индекс частотной модуляции; П—
. пик-фактор модулирующего сигнала (см., напри-
мер, [15]). В случае частотной манипуляции гар-
монического сигнала пик-фактор равен 1, а за ин-
декс модуляции в первом приближении можно
.принять k = h,f/F, Af —девиация частоты, рав- =
ная половине разности частот двух реализаций
(«нажатия» и «отжатия»); F — частота манипуля- .
ции, т. е. величина, обратная длительности' двух
элементов сигнала 27’. ।
Правда, этот выигрыш имеет место только при;,
условии, что отношение сигнал-помеха на входе
приемника превышает некоторое пороговое значе-
ние, (которое при ЧМ близко к-3. Но это на прак-
( • ' ! . . ! \ 139 :
»' тике всегда выполняется, если качество срязи хотя
бы приближается к удовлетворительному. ! ! г
Исходя из этого, аспирантка Пивоварова пред-
ложила увеличивать помехоустойчивость, приме-
I няя ЧМ с большой девиацией. Пусть,1 например,
передача идет со' скоростью 100 Бод, т. е. F=
= 50 Гц, а отношение энергии элемента сигнала к
спектральной плотности йомехи на входе приемни-
ка й2=10. Допустим, что применена схема на
• рис. 8.1, а в качестве разделительных использова-
ны согласованные^ сигналом фильтры, у которых
передаточная функция комплексно-сопряжена со
спектром элементарного сигнала. Выбрав! при этом
&f=kf, где ki — любое целое число (это обеспечи-
вает ортогональность сигналов), получим по фор-
муле (8.1), что вероятность ошибок ;р=0,5е~5«
^=3,4-10-3 независимо от значения k. ! . '
Тов. Пивоварова предлагает использовать знаг1
чение й>1 (например, хотя бы 2*) и| вести прием
по схеме на рис. 8.2г После частотного детектирова-
?! । ния и фильтрации получим прямоугольные импульсы
с отношением сигнал-помеха в 3m2/П2=3&2 =
=12 раз больше, чем Л2, т. е. ?2вьк==120. Пола-
гая в первом приближении помеху на выходе
: детектора также гауссовской (что не может суще-
ственно повлиять на результат), будем вычислять
! (вероятность ошибки при приеме двуполяриых им-
, ‘пульсов на фоне гауссовской помехи при <?2= 1201
Она равна-' ’j ! ) N ИВЧ
. ! /Г=0,5’[! ^ф'^у!)]!,.1 'fl. у и - ! - '(812)’
. * Большее значение k в данном примере брать не сле-
дует, так как иначе отношение мощности сигнала к полной
мощности помехи на входе приемника, которое,। очевидно,!
I]. , равно q2=h2lk, окажется даже порогового. ; ~
»г
где Ф (х) == je Vl2dt —. функция Крампа. ।
Воспользовавшись известным ;; неравенством
Ф (х)> 1 — е“**/2. справедливым при л>0, получим
Jp<O,5e~‘’’ = P,5e-I2o< 1СГ52, т. ’ е.1 практически,
прием будет безошибочным! 1 . '
,Из этого делался вывод, что для 1 приема
дискретных ЧМ сигналов нужно пользоваться
только схемой приема по мгновенной частоте, так
как при достаточно больших индексах модуляции
можно получить практически безошибочный прием
.в условиях, когда более распространенная схема с
разделительными фильтрами дает вероятность
ошибок порядка 10~3, превышающую допустимое
значение в системах передачи данных. В статье
делался также вывод, что система с частотной1 ма-
нипуляцией при приеме по мгновенной частоте
значительно более помехоустойчива, чем с фа-
зовой (ФМ) или фазоразностной (ФРМ). Правда,
в статье (насколько помнится) не подчеркивалось,
что полученная помехоустойчивость выше потенци-
альной. . ' ’
На этом месте рекомендуется читателю отло-
жить книгу и попытаться сообразить, где кроется
ошибка в рассуждениях аспирантки Пивоваровой.
. К этому вопросу мы еще вернемся, а пока займем-
ся другим предложением, позволяющим', по словам
его । автора, существенно повысить помехоустойчи-
вость радиотелеграфной связи. . !
। I . jj . ' .
8.3. ИНТЕРВАЛЬНАЯ МАНИПУЛЯЦИЯ I ! р, ' !
Доцент одного вуза (назовем его Дьяковский),
долгое время занимавшийся радиолокацией, обра-
тил! ^внимание на то,!что<достаточно надежное оп-
ределение дальности до цели по времени прихода
отраженного импульса обеспечивается при столь
малых отношениях сигнал-помеха, при| которых
радиотелеграфный прием практически невозможен.
Размышляя об этом, он, пришел к выводу, что
применяемые в настоящее время радиотелеграфные
- . . t
' [ ! Рис. 8.3 ।
•; I
сигналы выбраны неудачно. Основной их порок он
видел в использовании двоичного кода, придуман-
ного, как он говорил, «механиком Бодо, ничего не: ;
понимавшим в вопросах передачи 'информации»..
Взамен двоичного кода Дьяковский предложил;
неравномерный интервальный код, при котором
информация о передаваемой букве заложена । в:
длительности интервала между двумя соседними
импульсами,- аналогично тому, как в. радиолокацищ
дальность до цели определяется длиной интервала
между переданным и принятым отраженным им-
пульсами. Каждая буква (кроме' первой) переда-
ётся одним импульсом; интервал отсчитывается от
импульса предыдущей буквы (рис. 8.3, где для
Примера показана последовательность импульсов
при передаче слова «едва»),
С этим предложением тов. Дьяковский' высту-
пал в течение многих- лёт на различных научных
конференциях и семинарах. Постепенно от сырой
идеи он подошел к построению некоторой теории, 1
Й2 У u ;
В которой сравнивались различные параметры су-
шествующих и предлагаемого способов радиотеле- 1
графин. Эту теорию можно изложить следующим
образом. ' 1 , ' .
В существующих телеграфных системах каждая
буква передается с помощью пяти (в стартстопном
варианте семи) тактовых интервалов. Длительность
тактового интервала обозначим Т. Ширину спектра
л, . сигнала F можно оценить в первом приближении
величиной k/Т, где k — коэффициент, зависящий
от формы сигнала и чаще всего принимающий;
F значение между 1,5 и 5. . ' ;
Пусть в1 системе, предложенной Дьяковским., :
I,. используются импульсы сигнала такой же длитель-
ности и формы и, следовательно, с такой же шири-
, ной спектра. Интервалы между буквами кратны :
>' Т/2. Поскольку время, затрачиваемое на передачу
1, ’ различных букв, неодинаково, оценим среднюю
V/ ' длительность буквы. Если бы 32 буквы передава-
t лись справной вероятностью, то средняя длитель- ;
ность равнялась бы | '
. 7’бСр-7’+7’(1+2+...+32)/(2-32)=9,25Т. (8.3)
< ' i " ‘ В; !'^ , - . ' ' ' ' ‘ 143 1 ;
Однако если при построении кода учесть неравно-
вероятность' использования букв ь осмысленном
тексте и назначить самые короткие интервалы ча-
сто встречающимся! буквам/ а самые: длинные—
। редким, то' 7б?ср! уменьшится примерно'до 6Т, т. е/
будет даже меньше длительности буквы в' современ^
ной стартстопной/системе. > - . , 'j /
Будем считать, что в канале'присутствует адди-
тивный белый гауссовский шум со спектральной
плотностью No. Сигнал вместе с шумом проходит
через согласованный с сигналом фильтр *. Решение
о переданной букве* принимается по измеренному,
!моменту пересечения огибающей сигнала некото-'
рого порогового уровня. В отсутствие I помех этот
। момент точно соответствовал бы моменту передачи
импульсов, так что все интервалы между импуль-
сами измерялись бы без искажений и решение о*
переданной букве принималось бы безошибочно, п
Помеха, । однако, искажает ход огибающей (штри-
ховая линия на рис. 8.4), и момент ее пересечения
с пороговым уровнем'может наступить раньше или
позже,- чем в отсутствие помех (непрерывная).. '
и В (работе Котельникова [22], где 'дангполный
! анализ этой^задачи, показано,' что отклонение Д/
измеренного момента прихода импульса от истин-и
i ного /является' с хорошим! приближением' гауссов--
— - ' г ' //У й У1 ' . /.
1 В некоторых своих выступлениях! трв. Дьяковский
I утверждал,' что одним из преимуществ, его jсистемы являет-,
еж возможность осуществить оптимальную согласованную
фильтрацию, • котррая якобы невозможна в системах с '
двоичным' кодом, 'поскольку ' длительность отклика фильтра
на сигнал равна! 2 Г, а два импульса: сигнала могут присут-!
'ствоваты рядом. 'Читателю, надеемся, рено, что это утверж-
дение не имеет под собой никакой почвы. Согласованный '
। фильтр вовсе не противопоказан и при двоичном' коде, по!- ।
! !'скольку к моменту отсчета отклика ! фильтра на второй',, им-
пульс его реакция| на предыдущий: полностью затухает,: '-! i
' : ", ' : ' - i ’ i ’I
: 144 ! ' . i : i ' ’I ! 1 '
ской случайной величиной с нулевым математиЧе*
д > ским ожиданием. Его дисперсия а2 для идеального
приемника 1 определяется формулой (7.13) упомяну-
той работы, которая в наших обозначениях имеет
вид2: o2=6^o/(2nF‘Q)2=6/(2nft/:’)2, где Q2 —энер-
) гия! импульса; ft?=Q2/y0- J
Ь Ошибочное решение о букве будет принято в том i
' случае, если превысит половину шага шкалы
интервального кода, которую мы выбрали ^равнрй
; 7/4, т. е. вероятность ошибочного решения !
( ’ / ' ~Т,А / ।
। рош=-р<[| Ы I >4j= f '
йг 1 ъ 7° 1. i ' . r
/ ..-г j Je-5 /23dx----. 1 -Ф (4^)== 1 щ I
;j • 'th, ' j"th'' . '> 1 1 ! 1
p = 1 -Ф 1 — Ф(0,64АЛ), ' (8.4)
‘ I \2 V 6 J 1 < ’ 1 1 1. .
, Сравним эту вероятность ошибки с той, которая
> может быть получена при двоичном коде (напри-. । 11
! мер, при наиболее помехоустойчивой фазовой ма-^'Л
нипуляции с когерентным приемом). При той же
' ’ '-----'-----“ f . ’ г? !нц1-
CW
*7
1 Идеальный приемник анализирует весь ход ! огибаю-Ni
- идей. Для реального приемника, отмечающего момент пере- ,
з сечения' фронта огибающей с пороговым уровнем, диспер- '' ;
з сия увеличивается примерно в 1,8 раза, если пороговый
уровень выбран оптимальным. Однако, если в приемнике.
, отмечаются пересечения фронта и спада с пороговым уров-1
( нем и берется их среднее значение, то дисперсия оценки
• практически, {оказывается такой же, как и в идеальном
приемнике. 1 • > 1 ч ! |!
2 В работе '[22] фигурирует дисперсия S2 оценки без-
размерного параметра А., в данном
а через о2 обозначена Na- f
- 110—3413, 1 I • I'n'^
' 11. 1 ! i- 1 1 ! :
•4Д//Г,
случае равного
f ' 145 L г !'
Пиковой мощности сигнала вероятность ошибочного
приема двоичного символа [21]-
/? = 0,5 [1 — Ф (/г ]/2”)].> (8.5)
Легко видеть, что при достаточно большом k веро-
ятность ошибки, определяемая по формуле (8.4),
меньше, чем по формуле (8.5). Например, при h=2
и k—4 формула (8.4) дает Рош«»;10~7, тогда как по
формуле (8.5) р^2,5-10 3. , i
Таким образом, уже !на этом этапе рассуждений
видим заметный, выигрыш, даваемый предложением
Дьяковского по сравнению с двоичной системой.
Однако сравнивать величины РОш из (8.4) и р
из (8.5) не вполне корректно: первая—вероятность
ошибочного приема буквы (из алфавита в 32 бук-
вы), а вторая—двоичного символа. Буква при пе-
редаче двоичным безызбыточным кодом будет при-
нята ошибочно, если хотя бы один из пяти входя-
щих в ее кодовую комбинацию символов окажется
неверным. Вероятность этого для рассматриваемой
модели канала, в которой ошибки происходят не-
зависимо друг от друга,. j ' 1 '
Л,и= 1 - (1. - РГ = 1 - [1 + (8.6).!
। ।
что дает для двоичной системы с ФМ лри h=2
Рош^0,0125. ।
Итак, при одинаковой пиковой мощности сиг-
нала предложенная система позволяет уменьшить
вероятность: ошибок примерно в 104 раз по сравне-
нию с двоичной системой с ФМ. Для того чтобы
получить вероятность ошибочного приема буквы
в двоичной системе с ФМ порядка 10~*7, потребова-
лось бы h, равное не 2, а 4, т. е. увеличить пиковую
мощность сигнала в* 4 раза. Для иллюстрации на
рис. 8.5 показаны- зависимости Дош от'h, вычцслен-
ные по формулам (8,6) и (8.4) при Л =4. > <•'. :
146 ' . J ' Г
Но и это еще не все. Довольно часто приходит-
ся сравнивать системы связи не по пиковой, а по
средней мощности. При этом выигрыш системы
Дьяковского возрастает еще примерно в 6 раз, так
нет, а в предложенной
как в системе с wi пауз
системе в среднем один
импульс длительностью
Т приходится на, ин-
тервал 6Т.
ж 'Наконец, из (8.4)
видно, что, увеличивая
коэффициент k (т. е.
расширяя спектр сиг-
нала и приближая фор-
му его огибающей к
, прямоугольной), можно
еще уменьшать вероят-
ность ошибочного при-
ема, а следовательно, .
увеличивать энергети-
ческий выигрыш систем!
Дьяковского'.
После всего сказанного приходится удивляться,
почему до сих пор' система Дьяковского не реали-
зована, автор ее не стал Нобелевским лауреатом,
а все его выступления перед, квалифицированной
аудиторией встречались весьма иронически. Ответ
на этот вопрос пока отложим и перейдем к рас-
смотрению другого предложения, позволяющего
---------— ।
II
i1 В (8.5) коэффициент k не фигурирует. Известно, что
вероятность ошибки в двоичной системе с противополож-
ными сигналами при оптимальном приеме в канале , с гаус-
совским1 аддитивным [белым шумом не зависит от формы
или спектра [сигнала й определяется только отношением
энергии сигнала к спектральной плотности шума.,
I превысить потенциальную помехоустойчивость при
передаче дискретных сообщений., 1
• П 1 ’
8.4. КАК РАЦИрНАЛ1?НО ’ ВЗВЕШИВАТЬ ! СИГНАЛЫ?
Рассмотрим' решающую схему для системы,
в которой на фоне белого шума равновероятно пе-
редаются М равномощных,ортогональных сигналов.
Обычно пришедший сигнал'подается на М каналов
обоаботки. каждый из которых состоит из согласо-
। .ванного фильтра, -или из коррелятора/или из ка-
кихглибо других устройств, определяющих функцию
правдоподобия для каждой ,из М гипотез, после
’ |Чего эти значения функций сравниваются и из них
выбирается наибольшее. Фактически действительно
переданный сигнал сравнивается с М—1 образцами
шума и правильное решение принимается в том
случае, когда функция правдоподобия для сигнала,
окажется наибольшей из М.
Эта операция очень напоминает известную за-
дачу о выявлении фальшивой монеты среди М мо-
нет, ничем не отличающихся друг от друга, кроме
массы, причем разрешается использовать только
весы без разновесок. Как известно, при Л!>2 это
удается выяснить, затратив меньше взвешиваний,
чем! М—1, а именно наименьшее целое число!, пре-
вышающее logs-М. 7
Изменим несколько формулировку задачи о!мЬ-'
нетах, так чтобы она была' более похожей на при-
нятие 1 решения1 в демодуляторе. Для этого предпо-i
ложном, что среди!М монет имеется одна настоя-
щая (сигнал)’, а остальные фальшивые (шумы)
имеют различную, но в 'среднем 'значительно мень-
шую массу,, чем!; настоящая. Для простоты1 будем
'считать,^~2’1, где: z2^1og2^ -'~пелое число.,В этих
' " ’’ 'т ! V" » 4-
148 ч ' ЯЙ; Ж ’ ’.............. *!' ; -,Й ‘ >!
' I ! I
условиях достаточно произвести n ^-взвешиваний '
что при п>1 меньше, чем М—1. । -1
; Эти « взвешиваний можно организовать по-раз-
-ному. Приведем один из способов. Пронумеруем ;
монеты числами от 0 до М—1 и запишем эти но-
мера в двоичной системе счисления; например, при
ЛГ=8 это будут. ООО, 001, 010, 011, 100, 101, ПО и
111. Затем отберем монеты, номера которых со-
держат единицу в первом разряде, и положим' на
. одну чашку весов, а остальные Л4/2 монет — на дру- ,
гую. Очевидно, что если перевесят монеты, содер- 1
жащи’е единицу, то, скорее всего, единица содер-
жится в первом разряде отыскиваемой наиболее
тяжелой монеты. Проделаем то же самое с моне- ,
тами, номера которых содержат единицу во втором
разряде; по результату сравнения с массой осталь- I
нЫх монет примем решение о цифре во втором раз-
•- ряде номера наиболее тяжелой монеты и т. д. После
п взвешиваний n-значный номер этой монеты с ве-
роятностью, близкой к единице, будет установлен,
что и требовалось по условию задачи. • I , !
Нельзя ли использовать этот метод для упроще-:
< ния демодулятора Af-ичных сигналов? Такой воп- ?
рос поставил тов. Болотин (и в то время успешно
। занимавшийся разработкой модемов)'. Он предло-
жил вместо М корреляторов или согласованных ,,,
фильтров .использовать 1 всего лишь n=logM, но
рассчитанных не на каждый вариант сигнала stffl
(t=0, 1, .. ., М—1), а на суммы сигналов
2, ..., п)',1 сформированных по тому же прин-,
: ципу, по которому отбирались монеты! для упро-, :
.щенного взвешивания. ' ; <
’ ,В данном случае нельзя ограничиться log5M вывеши-’
ванйями, как это имело место в классической задаче о мо-' ' -
летах, когда все монеты,, кроме одной, имеют в точности
одинаковую! массу [60]. ; > ‘L " । 1 । i
h Мп ...Л ! Ji 149
Предложенная Болотиным схема позволила зна- ;
чительно упростить демодулятор, особенно при
больших значениях М. Но не снизит ли она помехо-
устойчивость? «Нет,-—отвечает тов. Болотин.—На-
оборот, помехоустойчивость при этом должна суще-
ственно повыситься». Это утверждение он доказы-!
вает теоретически. Для упрощения приведем сущ-
ность этого доказательства в предположении, что
отношение сигнал-помеха /г2^>1, т. е. вероятность
ошибок невелика.
Пусть вероятность ошибок для двоичной систе-
мы с ортогональными сигналами равна р2- Други-
ми словами, р2—это вероятность того, что измерен-
ная коррелятором или согласованным фильтром
функция правдоподобия для действительно пере-
данного сигнала, скажем, s0 оказалась меньше, чем
вызванная помехой функция правдоподобия для
альтернативного сигнала Si. Перейдем теперь
к приему Af-ичных ортогональных ! сигналов по
обычному’алгоритму, сравнивая попарно значения
функций правдоподобия ф, для М гипотез. Для*
! этого нужно проделать М—1 сравнение — сначала
।сравнить какую-либо пару значений функции прав-
доподобия, скажем кр0 и <рь затем наибольшее из,
них сравнить с ф2, наибольшее из этой пары — с ф3
; и т. д„ после чего максимум окажется локализован-.
ным. Ошибочный результат возникнет в том слу-
чае, если при передаче сигнала sr какое-то значе-
ние <рг (iVr) окажется больше 'фг. При каждом из
проделанных сравнений это может произойти с ве-
роятностью .р2. Поэтому, используя неравенство
Буля или аддитивную границу (см., например, [21,
приложение 1]), можно утверждать, что вероят-
ность рм ошибки при i приеме! Af-ичного сигнала ;
ограничена неравенством'
рм^(М—1)р2. ' ': ' , ! L.... ,!. (8'7)
150 i 1 i r
Сделанное выше предположение о большом от-
ношении сигнал-помеха позволяет заменить это не-
равенство приближенным равенством. Действитель-
но, при этом вероятность того, что два или более
значений ф, (i^r) окажутся больше !фг, настолько !
мала, что ею можно пренебречь, а в этом случае |
/имеется М—1 несовместимых событий с вероятно-
стью р2 каждое, а следовательно, вероятность того, \
‘что произойдет хотя бы одно из них, равна
(Л1-1)р2. !
। Перейдем теперь к новой схеме Болотина. Здесь
сравниваются п суммарных сигналов S^. Нетрудно
убедиться, что каждые два сравниваемых суммар-
ных сигнала взаимно ортогональны. Энерги^ при-
ходящего сигнала и спектральная плотность шума
‘здесь такие же, как hib предыдущем случае. По-
этому вероятность того,; что такое сравнение даст
неправильный результат,11 как и в предыдущем слу-,
чае, равна р2- Вероятность того, что хотя бы в од-'
ном из п сравнений результат будет ошибочным,
т.; е. вероятность общего ошибочного решения, ог-
раничена неравенством
рм</гр2, : • (8.8)
которое также при достаточно малом значении р2
переходит в приближенное равенство.
Сравнивая (8.8) с (8.7), видим, что вероятность >
ошибки в схеме Болотина приблизительно в i
(Л1—1)/п раз меньше, чем в, традиционной схеме.
Выигрыш по вероятности ошибки составляет 7/3
‘при 7И=8, 15/4 при !М= 16, а при5 М=256 даже
255/8=^31,8. Итак, более простая схема оказывается- .
более помехоустойчивой. '
Дее было бы отлично, если бы не то, что этот ! 5
выигрыш получен относительно оптимальной >
_• (в принятых условиях) схемы. Пока читатель заду-
1 • . । ' 151, :
маЛся над этим вопросом, перейдем И рассмотре-
нию четвертого предложения, которое его автор на- '
звал сверхоптимальным приемом. 1 • . । ,
! ! П , .. V'N; '
8.5. «СВЕРХОПТИМАЛЬНЫИ» ПРИЕМ 1.1 !! у
В отличие от многих других изобретателей «веч-
ного двигателями сйязи, тов. Маляров! весьма эру-
дирован, хорошо знает теорию потенциальной по-
мехоустойчивости и владеет математическим аппак
ратом. К тому же он, безусловно, талантливый ин-т
женер! и! очен^! приятный собеседник.' Его'предложе-'
ние состоит д1использовании сигйалов! <? линейной
частотной'модуляцией (ЛЧМ) при специальном
Сигнал ЛЧМ мржно :
виде: 1
«многоканальном» .способе обработки принятого
сигнала.: 1 \ 1 rd , ' 1 !! :
записать в следующем
, ' ' । . . • и -
s (£)=U$ cos (ыо£4-*у£2+ф)»' 0<j£<CТ,
-1' ЛГ Ы|- 4: '!
(8.9)
где y=Af/T; — ширина полосы, в которой изме-
няется мгновенная частота
. a (t)—d (юо/-|-л,'у/2-|-(р)7Л=юо+2лу/. (8.10)
Из (8.10) видно, что мгновенная частота изменяет-
ся по линейному закону (рис. 8.6) . Выберем значе-
ние у настолько большим, что Af=y7’^> 1/Т.
Информационную модуляцию ЛЧМ сигнала
можно осуществлять различными способами, на-
пример изменяя исходную частоту ио, или направ-
ление изменения частоты (знак у), или начальную
фазу. Для упрощения примем, что используется
„амплитудная манипуляция (AM), т. е. сигнал s(t)
либо присутствует, либо отсутствует, так что зада-
ча сводится к обнаружению сигнала s(tj на фоне
гауссовского шума.
‘ Один из возможных" методов приема — исполь-
зование ЛЧМ гетеродина, генерирующего напря-
жение
Mr(/)=17rcos (М+лу/2+ф), (8Д1)
мгновенная частота которого изменяется по тому
же закону, но со сдвигом на А®о=®о—<вг (см.
рис. 8.6), причем частоты выбраны так, что Д«о<^
<®г<Ио. .
Умножив принятый сигнал на напряжение; гете-
„ родина (рис. 8.7), получим в точке а:
s(t)ur(t)=O,5UoUr {cos [Аюо^+ф—ф] +
-|-cos [(юо-|“<вг)7Ц-2лу^2-!-ф+ф]}. ‘ ! ’
Спектр первого члена в фигурных скобках состоит
из одной составляющей на частоте Айо, а основная
.часть спектра второго члена распределена в полосе
частот Г(<о0-г®г) ••• (too4-®r+4nAf). Таким образом,
в точке а сигнал представляет собой отрезок гар-
монического колебания на' частоте А®0, другими
1 '"-Лз. Н <-'4
словами, обычный AM сигнал плюс далеко отстоя-
щий по спектру второй член.
Фильтр согласован с полученным гармоническим
сигналом на частоте Лево, и его эквивалентная по-
лоса пропускания равна 1/Т. Если на входе прием-
ника присутствует аддитивный гауссовский белый
шум со спектральной плотностью JVo, то и в точке
Рис. 8.7
а шум будет гауссовским, так как операция умно-
жения на напряжение гетеродина является линей-
ной. Отношение мощности сигнала !к мощности шу-
ма в момент отсчета в точке b равно отношению
энергии сигнала. Ео. к спектральной плотности шума
No на входе приемника, которое обозначимJi2. Та-
154 i : . = ‘ ; У’1 '
. ким образом, по напряжению на выходе фильтрй .
в момент отсчета можно судить о том, присутствует !
или отсутствует сигнал'. Вероятность ошибки при
этом определяется отношением сигнал-шум /г2.
Рассмотрим теперь, что произойдет, если сигнал
перед подачей на перемножитель задержать на вре-
мя z^l/Af (откуда следует ,г-сТ),как показано
штриховой линией на рис. 8.6. Тогда в схеме на
• рис. 8.8 (где ЛЗ—линия задержки) получим в доч-
- ке а ' : . ,
,s(t—z)ur(t)=U0Ur {cos [colO(^—z)-j-ny(Z—z)2+
т ф] cosr[cor^+%Y/2-nT|?]}—0,5/7o/7rcos [(coo—cor)^—
—2 Tty zt—со.о2-|-луг2-)-ф—ф]-|- X(t), (8.12)
где X(t)—составляющая ««суммарной частоты» co
спектром, расположенным вблизи частоты <ооЧ-сог,
которая не пройдет через фильтр и поэтому не
; представляет интереса. Полезный член — это отре-
зок гармонического колебания на частоте Ди|= . !
, =Д<оо—2ityz. Длительность этого отрезка T~z, так
что отношение сигнал-шум на выходе фильтра бу-
дет /г21=£о(1—z/T)N0^1. При z<^T h>, почти не от-
. личается от h, поэтому вероятность ошибки в схеме; :
на рис. 8.8 практически такая же, как и в схеме на
• рис. 8.72.
1 В этом месте в рассуждениях Малярова имеется не-
' точность: после перемножения в полосе пропускания фильт-
ра будет присутствовать не только та часть шума, которая ф
- возникла от полосы входного шума, лежащей iвокруг часто-
ты «о, но и «зеркальная» полоса, лежащая вокруг частоты :
2<ог—о>о, так' Что в действительности отношение сигнал-шум
в точке Ь будет равно Л2/2. Однако это обстоятельство не
существенно для . последующего, к тому же в принципе зер-
кальную помеху можно подавить фильтром на входе пере- i
-.множителя.:
. । 2 Очевидно, аналогичные соотношения будут иметь
место, если задержать на z не сигнал, а напряжение ЛЧМ
гетеоодина. .1 . . .. J ; [
' - 'м ’ Ф : 'и 155
I
Объединим '-теперь обе схемы (рис. 8.9). Здесь
I сигнал поступает на два перемножителя, причем на
I один из них через, линию задержки.' На выходах
(фильтров Фо и Ф1 'получим два сигнала, одинако-
вых, если не, считать сдвига по частоте на yz^l/Г.
Шумы на выходе этих фильтров лежат в непере-
секающихся полосах частот,! поэтому они некорве-
Рис. 8.9 । Рис. 8.10
лированные. По существу, здесь получились две .
/у ветви । разнесенного приема с коррелированными:
( ^сигналами и некоррелированными шумами. Осуще-
’ ствив некогерентное сложение этих сигналов, полу- |' ।
'чим на выходе сумматора отношение,сигнал-шум, L
i практически равное 2£'о/М)=2й2. Соответственно
। вероятность, ошибки при обнаружении сигнала
•' уменьшится. 1 1 1 , । : ; ।
! Дальнейшее обобщение '.очевидно. Используем г
линию задержки Сотводами через интервалы вре- ,'Hif
мени z. Если при это^ kz<^T, то можно получить /г '
ветвей разнесенного "приема >,с примерно одинако-- с; «
, , вым отношением'сигнал-шум' h2 и с некорррлцро-!
Ь'., ванными шумами’ (рис. 8.10);I,После сложения ре- >
J! I ' I ; -ч • •. ; 1 I: ч, । • • I ' in ! |'. i к )
uOя"! b Т" ХгЗ 1-м ! ! *!
!г » ' " ' ' 1 1 '.1 ’ ! 1
I
зультатов детектирования (Д) получим отношение
сигнал-шум около kh2, При достаточно большом
значении можно обеспечить сколь угодно
большую помехоустойчивость приема 'по схеме на
рис.1 8.10, которую тов. Дкаляров ч'вызвал схемой
сверхоптимального приема. :
На различных обсуждениях предложения Маля-
рова чаще всего можно' было услышать, что шумы
в сформированных ветвях разнесения не будут не-
коррелированными. На первых порах тов. Маляров t
просто усылался на общеизвестный факт, что про- !
цессы, выделенные из белого шума фильтрами i
с<непересекающимися полосами, не коррелированы. i
Когда же его внимание обратили на то, что в рас-
сматриваемой схеме шум не просто разделяется
фильтрами, а проходит сначала через перемножи-
тели и при этом становится нестационарным, он .
Представил расчет функции взаимной корреляции], i ;
шумов. Приведем этот расчет, ограничившись для
простоты случаем двух ветвей! {см, рис. 8.9],.
Пусть шум на входе является белым, его
спектральная плотность Mq. После перемножителей .. I ।
получим напряжения и n[t—Обо- Ц,
значив импульсные характеристики фильтров и ' ,
^^соответственно goVl и получим напряже- ; '
ния шумов на выходах фильтров:
, 1 Т ' I .. ' и ’
b^^&\x\ti(t~x)ut{t-x)dx,
' U ’ J'! ' - Г 1! ; > , I L’.r ;
Взаимная корреляционная ^функция этих процес- i । i 'i
сов 'В совпадающие моменты рзр^емеци равна, по! оп-' J , s
ределению, ' (.Ц
: y^n(t — x)n(t —z — y)dxdyr
____________ t f ,
^„1(0, t) (t) (t) = J C. g. ,(x) g\ (у) x
. aa '• । '
X n (t — x) n. (t — zy) ur (t — x) ur (t — y) dxdy (8.14)
(здесь черта означает математическое ожидание).
Эта функция зависит не только от сдвига z, но и
от t, так как’процесс после перемножения неста-
ционарный. Найдем среднее значение по времени
' ' Т Т Т . ;
^01 (°) = J dt J f № S1 (у) ur (t - X) (t - у) X,
X . о.оо .. .
(8.15)
Так как шум на входе белый и стационарный, то
n(t—x)n(t—z—у) = O,52Vpd(x—у—z). ' (8.16)
Подставляя (8.16) и (8.11) в (8.15) и интегрируя
по t, получаем ;
Т Т Т i,
^0! (°) = I J J A (x)gt (у) 3 (х - г - zjz) X
0 0 0 [
X COS [<1)г (t — X) -j- Try (t\ — x/ + (fj] COS (co,, (/ — z/) -}-
•-p)5“i' ty\d,xdydt= ‘ '• I;
C C Sinn? (x-y)T A . ,
= ~7— ) ) -^-(x^yjT go (x) gi (y) 8 (X - 2l- y) x
о Ъ • ; i ( ' 1
x COS [«>r (X — ’у) — ry (x2\y2) -4424 (x '—\y) TJ dxdy. ,
~ ' i ' ! X
1 При этом учтено, что интеграл от быстро осцилли-
рующей функция с / множителем cos юг(2/-^-у)? практиче-
ски равен нулю. . Д < L ' ‘
158 I, ; ‘ Г J /X; t : . ‘г ’
: Г ' ' Л. , 1 ; : ' 1 ’ . > 1
Далее, используя фильтрующее свойство 6-функции,
произведем интегрирование по у:
(°)= (* - z) cos (адгг -
: > о
— 2^zx — irp2 + 2r:(zT) dx. (8-17)
Для1 согласованных фильтров (i=0, 1)
4Г,И=(СО5Л"'(- °<‘<Т' (8.18)
10, /<о; t>T. 1
л Прдставляя эти значения в (8.17), получаем:
(°) = J cos Д«>л cos До>1 (л - г) X
о
X cos (2n\zx -f- <Pi) dx, (8.19)
где через обозначена не зависящая от х величи-
на: ф1=;сдг2—n,yz2-:r2?iyzT.
Произведя интегрирование и учитывая, что
Асоо—Aa>i=2jtyz, a (Aa>o-+-A«>i) Т^>2л, имеем:
п ,л, N„U‘rT sinnvzZ .. , , ,о оп.
(°) = "V- C0S ~ (8-20)
Пусть теперь отводы в линии задержки сделаны
через интервалы времени 1/АД Тогда для любой
пары отводов z=r[Af,'v^ г — целое число (не рав-
ное нулю). Так как у=А//Т, то уг7’=г, откуда
sin лугТ==8т гл=0, * !
г-» д L/^г SWl fTt . . {->. > d с\ \ \
— cos(Ao)X-<}.,) = 0. (8.21)
; Итак, помехи на выходе фильтров действитель-
-но некоррелированные. Что же касается огибающих
помех, то, используя известное выражение для нор-
мированной корреляционной функции ,р*(т) огиба-
. И ' .159
ющей через нормированную корреляционную функ-
цию процесса р(т) [24] । I '
р*(т)'=0,92рг(т)+О![р*(т)'] (8.22)’
и замечая, что .ip (0)’=0, согласно (8.21)' получим
p*(OJ = O.; ’h д'/ i ' J: ; — 'V
Таким образом, огибающие помех в сформи-
рованных «ветвях, разнесения» некоррелированные
и, увеличивая число ветвей, можно сколь угодно
повышать помехоустойчивость «сверхоптимального»
приема. । ;
8.6. ДАВАЙТЕ разберемся
Надеюсь, читатель понимает, что во всех опи-
санных выше рассуждениях содержатся ошибки.
Это не подлежит сомнению, поскольку строго уста-
новлено, что при аддитивном белом гауссовском
шуме и других ограничениях существует предель-- 1
ная вероятность ошибки, которую при заданном
множестве сигналов нельзя, уменьшить никакими
схемными ухищрениями, н она во всех приведен-
ных примерах выше той, которую берутся обеспе-
чить «изобретатели». Тем не менее было бы непра-
вильным ограничить их критику классической фор-
мулой «Этого не может быть, потому что этого не
может быть никогда», которой в сущности доволь-
но часто пользуются многие выступающие при об-
суждениях подобных предложений. Необходимо
в каждом конкретном случае’указать, в чем именно
заключается ошибка.
Итак, начнем с идеи Пивоваровой. Ее ошибка
в том, что она’ рассматрирает среднюю мощность!
шума на выходе частотного детектора, не обращая
внимания на ее распределение. Как известно, шум
на выходе частотного-«детектора состоит из двух
160 'С.л'
составляющих—нормальной и аномальной. Именно
нормальная составляющая, имеющая в первом при- *
ближении гауссовское распределение, «подавляет-
ся» сигналом, в результате при большом индексе
'модуляции происходит выигрыш в отношении сиг- J
нал-шум.- Это подавление вызвано тем, что мгно-
венная частота суммы сигнала и помехи мало от- ।
личается от* мгновенной частоты сигнала, если оги- *
бающая сигнала больше огибающей помехи. В этих ;
•условиях существует только нормальная составля- ;
ющая шума на-выходе детектора. Поэтому, увели- :
чивая девиацию, можно уменьшить среднюю квад-
ратическую ошибку воспроизведения аналогового
(например, телефонного) сигнала, т. е. повысить
помехоустойчивость. *
И Аномальная составляющая имеет импульсный
характер, импульсы возникают в те моменты, когда
огибающая помехи на входе превышает огибающую
-сигнала. В этом случае мгновенная частота суммы
сигнала и* помехи мало отличается от мгновенной
частоты помехи. При приеме телефонного сигнала* ?,.
с ЧМ аномальные импульсы ощущаются как не- . ;
большие щелчки. Если отношение сигнал-помеха на _
входе детектора превышает некоторый пороговый *
уровень (зависящий от требуемого качества прие-
ма), то этими «щелчками» можно пренебречь, так
как они возникают крайне редко. Ниже порогового
уровня; щелчки происходят часто и мощность ано-
мальной составляющей помехи может значительно
превысить мощность нормальной составляющей. г *
Рассмотрим теперь прием дискретных ЧМ сиг-
налов. Предположим, что для сравнения один и
тот же принятый сигнал подан на две решающие.- .
схемы —с разделительными фильтрами (см. рис. '**
8.1) и с частотным детектором (ЧД на рис. 8.2).
Пусть в течение некоторого, тактового интервала Т V
n-Ж "a .'Jh;5. ' И?
' ' ’ 1,1 ‘ ........ ' г- . ' ' ” “
i ' огибающая сигнала на входе решающих схем пре-
; вышает оги^аюргую помехи. / В i этом < случае ано-
I , мальные, импульсы-не возникают и на выходе ЧД
' будет только «нормальней» шум, причем отнр1пе-
; ние сигнал-шум может быть в десятки, и дая$е, сотни
раз (при большой девиации) больше, чем на входе
! ЧД Конечно^ в этих<условиях схема с! ЧД обеспег
чивает безошибочный прием' Hol при этом и!в схе-
ме с разделительными фильтрами (см. рис. 8.1)
' .ошибка невозможна, так как даже если вся помехаЬ .
попадет, в фильтр, в< котором нет сигнала, то, все; I
эре напряжение, созданное на фильтре с сигналом,; I
f ’ , будет больше напряжения на фильтре с помехой. '
I * " Ошибка в .схеме "йа' рис., Д1 может произойти! i
I с , некоторой вероятностью (меньшей10,5) только в
тех интервалах, когда' вследствие выброса шума
I его огибающая превысит' огибающую| сигнала.! Оче-
видно, что р этом интервале на выходе' ЧД возни-
кнет аномальная помеха, так как'мгновенная час- ,
I тота будет определять?» шумом. При этом знак на- '
Р пряжения на выходе’ДД с почти равной вероятно-
стью; может быть положительным шли ояфицатель-
1 J;' ным, так что,фнцоловице'таких случаев произойдет f
if .ошибка., । f • Г ' .1"I f ' ।
Jif 1 W ?Д*аким’| образом,; ^вццгрыш» рв отношений'фиг.- , |
J нал-шум в’схеме с ЧД йуеет место, только на тех’;
, 'I'интервалах, когда ошибка,,ще! может произойтиt-Mf
‘Л, врсхеме с разделительным^ , фильтрами. В'тех же I
'Л?'случаях, когда ,ошибка, может; произойти. ЧД дает
Л ;не< «выигрыш», а «проигрыш»'и вероятность юшиб-
,f р 'ки в схеме на рис. |8.2 будет !ие меньше, а, вообще
говоря, больше, чем в’с^еме да.!рис. 8-1 (или в луч-
I \ : |Шем ' случае, такая же). Увеличение 1'индекса .моду- .
h i ляции k не влияет на вероятность ошибок в’схеме?
|с разделительными фильтрами, а в схеме с!ЧД не,1 •
I Р уменьшает, а увеличивает рероятносрр ошибок? та$ ;
,4 ? ,| 'I ’• । I ' .< , 1 I f' -f |
I
m в более широкой полосе частот больше мощ-
ность !шума и чаще возникают : аномальные им-
пульсы. । I ’ ;
Итак, Только при передаче аналогового сообще-
ния .можно повысить помехоустойчивость (точность
воспроизведения сообщения), увеличивая девиа-
цию/В дискретных же системах, когда помехоус-
тойчивость характеризуется вероятностью ошибки,
такого эффекта не возникает. ;
! । ' X1: !
Очень похожая, ошибка вкралась*1 и в рассужде-’ *
ния Дьяковского. Он учитывал только искажения,* /
возникающие на выходе приёмника сигналов с ин- : > н!
тервальной импульсной модуляцией и вызываемые NJ ;
сдвигом фронта ® спада импульсов при сложении ( '
сигнала и шуМа. Но, помимо этого, ошибки могут ’
Возникать и в те моменты времени, когда1импульс /
отсутствует, если ^ыброё^шума! достигнет такого 1
уровня, что । его огибающая пересечет порог сраба- /
тыванйя, как показано на рис. 8.11. Кроме того,
могут возникать еще дополнительные ошибки, ког-
да шум оказывается в противофазе с "сигналом и ;
огибающая!импульса уменьшается настолько, , что1
не пёресекает! порога срабатывания.:Однако вероят- । Ц: :: 4
ность пропуска импульса обычно Значительно мень- . ! '
ше вероятности ложного срабатывания, поэтому/
будем учитывать только,, последнюю.,, Заметим, что
1Н /V 1
при ложном "срабатывании в системе Дьяковского
|Не просто искажается передаваемая буква—возни-
кают две ложные буквы вместо одной переданной.
Оценим вероятность ложного срабатывания.
Для гауссовского шума с дисперсией о2 одномер-
ное распределение огибающей является рэлеевским:
w (Л) = (ВД) ехр (—XW).
При амцлитуде импульса сигнала Uc порог сраба-
тывания обычно устанавливается на уровне около.
(7с/2. Вероятность того, что огибающая шума в не-
который момент времени окажется выше этого по-
рога, т.'е. вероятность ложного срабатывания
00 . • I 00 ( I
Рлс= f w(X)dX =
ui2 uj2 'i-. :'
= e*P (~^) = exp ( ' (8-23)!
При написании последнего равенства учитывалось,
что мощность сигнала равна L72c/2, а отношение
сигнал-помеха после согласованного фильтра Л2=
=(72/2о2. । ।
Белый шум, прошедший * через согласованный
фильтр, имеет интервал корреляции, равный Т’.По-
этому, учитывая, что для-гауссовских процессов не- ,
коррелированность означает независимость, иначе- i
ния огибающей, взятые через интервалы, кратные
Г,* независимы. Следовательно, если интервал меж-
ду двумя импульсами сигнала равен аТ, то вероят- ’
ность появления хотя бы одного ложного срабаты-
вания • ‘ s '• >
^с(аП^1-[1техр(-/г74)]1в1,/ ' (8-24)
где [а]—целая часть .а. Здесь знак неравенства
определяется ; двумя ' соображениями. Во-первых, j
^величина а может,быть дробной, тогда [а]<а; во-
164 ’
вторых, если- во всех выбранных точках отсчета
огибающая шума не превышает порога срабатыва-
ния, то все! же она может пересечь этот порог где-
то между точками отсчета. Отсюда вероятность
«аномальной» ошибки при некоторой средней дли- -
тельности интервала !
—[1—exp (—/i2/4)]«, , ' (8.25)
где а — среднее значение а, приблизительно равное
в нашем примере; 6.;' Для рассмотренного примера
h=2, следовательно, Ран>0,936. Из этой формулы
даже при /г2=16 получим Лш>0,1, тогда как для
двоичной системы с ФМ при когерентном приеме
из (8.6) имеем Рош^2-10-7. Комментарии излишни.
Конечно, повышение основания кода при прочих 1
равных условиях позволяет повысить верность при-
ема. Это отмечалось уже в [22]. Но сигналы и ме- ;
тод приема в системе Дьяковского выбраны далеко :
не лучшим образом, поэтому, по сравнению с двоич- s
ной системой она не уменьшает, а увеличивает ве-1
роятность ошибки. Такого рода сигналы с большой
скважностью целесо'образно использовать только
в-таких каналах, в которых в паузе отсутствует
шум. Действительно, в квантовых каналах при от-
сутствии шумового фона и при очень низкой интен-
сивности сигнала их применение целесообразно. .1
В рассуждениях Волютина ошибку отыскать не- ?
трудно. Хотя сравниваемые суммарные сигналы
действительно взаимно ортогональны и отношения- -
энергии приходящего сигнала к спектральной плот- ; ; "
ности шума здесь такие же, как и в обычной схеме,
но, из этого не следует, что вероятность ошибки при .
одном сравнении р2 в обоих случаях;будет едина- ;
кова. Необходимо учесть, .что корреляторы или; со-,
гласованные фильтры в классической оптимальной
решающей схеме согласованы с приходящими эле-
", ; 165 . J "
коэффициента I в
мейт'арйы^и сйгйаЛамй а в схеме Ёолотйна —
। с суммарными и сигналами 5*. Это,, как >легко убе-
диться, приводит, к тому, ?jTO отношение сигнальной
и шумовой составляющих на выходе решающей
। схемы будет в М/2 раз по мощности меньше, чем.
i в классической схеме *. Даже при не очень больших
М (4 или 8)’ такой энергетический проигрыш никак -
не окупается уменьшением коэффициента [ в
(М—1)/п раз, а при Л4>10 схема Болотина цраку,
тически неработоспособна.5 1 '
' । Следует заметить; что, в отличие от горе-изобре-'
тателещ тов. Болотин'весьма,одаренный и здраво-
мыслящий человек, так что,' услышав Iмои возра-
жения, он сразу с ними согласился и 'отказался от
данного предложения. н, 1 / 1 ;
Переходя к «сверхоптимальному»: приему Маля-
рова, заметим прежде всего, что' в его доказатель-
стве некоррелированности шумов на выходах филь-
тров различных отводов содержится «избыточ- „;
ность». Дело в том, что если подставить сразу зна-
। чение z=rjв (8.17), а 'не! в! (8.20), как было сде-
, лано в его выводе,5 и учесть, что интеграл в (8.17)
для любых' импульсных'реакций go(t) и gi(t) фи-! !
। зически реализуемых
jy—---------,1
: 11 Проще всего
I ' флуктуационную
фильтров конечен, то ока-
! 1 - ' 4
можно пояснить так. Разложим
по I ортонормированному базису, <
'-На выходе фильтра (ак-.
согласованного с элементарным: <;
, напряжение в момент ,
это
помеху
. образованному ' сигналами
. Тивного или пассивного),
’ сигналом [скажем, sn(/)], шумовое . .
। отсчета определяется только одной соответствующей состав-:/'
ляющей । шума," поскольку отклик от остальных ’составляю-у;
, щих, ортогональных '5п(0, в1момент отсчета равен нулю.
j' Если же- фильтр согласован с-„суммой М/2 элементарных /
! сигналов Sk(t), то' отклик создадут М/2 составляющих
ма, согласованных с элементарными [сигналами, входящими;: (/'
, f в Sft(Z). Поэтому ^дисперсия шума на выходе фильтра бу- is'
I 'дет в Af/2 раза больше, чем в предыдущем случае. Откли- /:
, , j кн-же от сигналов в'обоих, случаях’одинаковы.т : . i . J, i /- 8ii
; 166 Дг д;
I
I
. жется. что 7?oi (0) —0Это значит/что шумы на вы-
ходах фильтров различных отводов в среднем не
коррелированы, каковы'бы нибЫли передаточные
функции фильтров. Это уже наводит]'.на размышле-
ния. Не зря еще в древности говорили: кто доказы-
вает больше, чем нужно, тот ничего не доказывает.
; Продолжая" размышлять в этом направлении,
рассмотрим два узкополосных стационарных гаус-
совских [процесса с; нулевым математическим ожи-
данием .J \ ' '
£1==4 (0 cos [<о<^4-0(£) cos [ (®o-f-v)
-Мф1, Л i : ' (8.26)
-гдеД'(0 и >6 (0—низкочастотные стационарные слу-i
чайные процессы, так что g^. отличается|от gi толь-
ко сдвигом на частоту у. 1 ’ । '
Взаимная корреляционная функция в совпадаю-
щие моменты временигддц.,^! и g2.no определению,
О ; V ' , '
0,5 A2 (t) cos [(2% -J- v) t -j- 20 (/)]. -}-.0,5LA® (t) cos vt I •1
-1 ! ! J ' ' (8-27)
«<*«? s'! - " 1 ' '
зависит !О|г рремени I, хотя оба процесса стационар-
ны/ Дело1 в !том, что они? нестационарно связаны, i
Если теперь усреднить эту функцию по времени
на бесконечном интервале, то, как легко убедиться/,
^?i,2(0)=0. Тот же!результат получится и прщусред-
нении на конечном/интервале T=2nnlv, если ©о
кратна v, (или приближенно, если ©0>v). И /'
Молщо1'ли, однако, йз этого:сделать вывод,' что; =
и огибающие этих: процессов хотя бЫ 'В^среднем не '
Это 1 следует из конечности ’области интегрирования 'и .
конечности модуля подынтегральной1 функции. , < , ,
IS7
коррелированы? Ни в коем случае. Функция кор-
реляции для огибающих в совпадающие моменты
времени равна Д2(^)=2'о?' где а2.—'дисперсия про-
цессов gi(0, , так что нормированная функция
р*(0)=1. Что же касается формулы- (8.22), то она
верна только для" стационарно связанных гауссов-
ских процессов.- ' ' :
Легко понять, что такой же результат получится
и в том случае, если процесс ^(0 сдвинуть по вре-
мени на величину z, т. е. положить ‘ '
(/) —4 (t~z) cos [ (ио+v) (/—z) 4-0 (4—z) ], (8.28)
стой лишь разницей, что теперь не р*(0) /ар* (z)=l. 1
Заметим, что р*(0) оаень мало отличается от p*(z),'
так как интервал корреляции огибающей порядка'
Т, а по условию Т.
Теперь все становится ясным. Огибающие шу-
мов на выходах фильтров отводов в схеме на
рис. 8.10жестко коррелированы. В этом проще всего
можно убедиться, заменив схему на рис. 8.9 совер-j
шенно эквивалентной по конечному результату схе-
мой на рис. 8.12. Здесь напряжение гетеродина, так
же как и сигнал,: задерживается на интервал време-,
'ни z, так что на выходах перемножителей присут-
ствуют совершенно одинаковые сигцалы и шумы, но
только сдвинутые на время te; Затем с помощью до-'!
полнительного преобразователя частоты (ПрЧ)
сигнал и шум на выходе'второго перемножителя/
' вдвигаются по частоте на !v=2nyz. После прохож-
; дения через фильтры Фо си Фр получатся точно та-
кие же напряжения, как’и в точках на рис.’8.9. ’ :
Но; с-другой .стороны,' если шумы на выходе
гфильтра Фо в схеме на рис. 8.12 обозначить как '
I. ii'(0 в (8.26), то на выходе Ф] они представятся
! формулой (8.28) и, как было показано, их огибаю-
щие жестко коррелированы. Поэтому, сколько от-
Г, : J '• 11
йодов Линии задержки ни делать, все равно полу*
чится лишь много копий одного и того же сигнала
с той же реализацией помехи, только сдвинутых по
частоте и времени. При сложении огибающих как
сигналы, так и помехи будут складываться коге-
рентно и никакого улучшения» отношения сигнал-
помеха. не получится. Не спасает и то, что вследст-
вне сдвига', по времени нормированная корреляци-
онная функция огибающих в совпадающие моменты
времени не- точно равна, единице и, следовательно,
при сложении огибающих двух сигналов значение
шума не в точности удваивается. Это с избытком
компенсируется тем, что и значение сигнала не
удваивается, поскольку используемая энергия сиг-
нала, сдвинутого на время z, уменьшается на z/Т. >
Но, может быть, удастся воспользоваться тем,
что жестко коррелированы только огибающие шу-.
ма, а сами шумы в среднем не. коррелированы? Что
будет, если отказаться от некорерентного сложения
! . : J. » 169
(т. ,е. от амплитудных детекторов)"|и ^акйм-либр
образом осуществить* 1 когерентное сложение? Но й,
здесь ничего'не получится. Непосредственно скла-।
дывать сигналы, отличающиеся сдвигом по частоте, у
бессмысленно,, так как разность фаз будет Henpie-',
рывно изменяться и когерентного сложения не по- ?
лучится. Если же осуществить дополнительное пре-
образование частоты, и свести все сигналы-к оди-
наковой частоте и фазе, то! и помехи। во всех
отводах окажутся совершенно одинаковыми и .коге-
1 рентное сложение н|е даст выигрыша. ।
Итак, природу-обманут^ не удается, Минималь-
ная достижимая вероятность ошибки при двоичной
системе в! ка'нале с аддитивным белым гауссовским'
шумом однозначно определяется отношением энер-
гии сигнала к спектральной/плодности^ шума, и
уменьшить ее нельзя. ' *’ Ч 1 । ;;
Это же верно и для любой /n-ичной системы, '
если т—фиксированноекчисло. Лишь в том случае,
когда т ничем не ограничено, можно в соответст-
вии с теорией Шеннона обеспечить i сколь11 угодно 11
малую вероятность ошибочного приема сорбщения, ь,
если, конечно, скорость передачи меньше пропуск- 'i'
ной способности канала. ‘ ii :
У?. ! !'/ ,г/ИП < ! -У1/.; . И| ( ! . /!
/X . : ' М! г л I । ' I ';
1 'i ' i "' ' i '' 1 1 !! 1 !i!! -! у- ! ' j1' t
9. ПАРАДОКС ИМПУЛЬСНОЙ! ЙОДУЛЯЦИИ] , Г
। Л i i’.:', I i—.Ах, если 6 знать! — заплакал
i : 13 ' '! | f 1 । Морж. — Проблема :так сложна! " ' 1
;1 -1 / : . i Ч - Льюис Кэролл. Алиса, в Зазеркалье
п = ' Ь Ч Я;.
9,1/ПОРОГ,1ПОМ!ЕХС!.УСТРИ11ИВОСТИ ! ':l ib «,
Начнем'о хорошо известных фактов. При пере- и
даче непрерывных! сообщений । нелинейные ^методы, .
модуляций позволяют получить выигрыш) в* отноше-1 .
'Н iUAiiU.bil' ;! 1 ! I'll : ' ! I ; J 'ч । “
нии, сигнал-шум.^ Это значит, что отношение мощ- ;
ности полезного сообщения на выходе демодулято-
ра к спектральной плотности выходного шума (ко-
торым является погрешность оценки переданного
сообщения) может бы'ть больше отношения мощно-
сти сигнала к спектральной плотности помехи на
входе приемника (т. е. на выходе канала). Для,
простоты будем I говорить только о каналу'с адди-!|
тивным гауссовским белым шумом [15]. Так, при
частотной! модуляции, (ЧМ) этот выигрыш равен
g,4M=3/n2/n2 (где т — индекс ЧМ; П—пик-фактор
передаваемого сообщения) или, учитывая, что' при,
больших индексах модуляции ширина спектра сиг- ’
нала в канале FK приблизительно равна 2mFc (где
Fc — ширина спектра сообщения),, , i г 1 ,
1 и- 'г (9.1)
При время-импульсной модуляции (РИМ) ц юп-у
тимадьном выборе формы импудЬса, и,1 , ! И Й
Я'вим^(0,6/1Р) (Flt/Fc)2. , / ' ; (9.2)
В любом учебнике (например, в [39]) можно
найти и другие примеры. Из (них видно, что для
увеличения । выигрыша нужно расширять спектр
сигнала. , 1 . У"
Хорошо'известно также, что обязательным усло-
вием получения этого выигрыша является достаточ-
новысокая мощность сигнала Рс на входе прием-
ника. Существует пороговое значение мощности;:
Диор, тайое', ртоупри1 До>Рпор можно пользоваться,
формулами (9.1), !(9.2) и аналогичными ним. > При
мощности Дс 'ниже пороговой выигрыш' уменьшает-
ся^,’может !даже стать* меньше, единицы^ Да'кДпри
ЧМ получение выигрыщап(9.1) определяется усло-
вием, что огибающая шума на входе частотного^ де-
текторау(ЧД) не должна превышать Огибающую
сигнала. Конечно, если шум гауссовский, то его
огибающая может достигать в принципе любых
значений. Однако, если1вероятность того, что оги-
бающая шума превысит'амплитуду ЧМ сигнала Л,
, меньше, скажем, 0,001, то с достаточным пришли-;
в жением можно пользоваться формулой (9.1). , f
Плотность распределения вероятностей огибаю- 1
щей В гауссовского1 шума с дисперсией Рш, как'Из-
вестно, ।
। w(B)~ (В/Рт) exp (~В*/2Рт), . (9.3)
...И, следовательно, вероятность того, что В>А,
С / Л2 \ / р \
р.(В>А) = ( )i = exp ( —
, J 1 ' ! < А V ш /
! ' ' ' А - 1 1 ' 'U
где Рс=Л2/2— мощность сигма ла.'Положив эту ве-
роятность равной 0,001, получим пороговую мощ-
, ность сигнала из уравнения ехр (—Лир/Лл),==0,001:
Pnop^OjO рщ. . , J I (9.4)
•I Если линейную часть приемника,, до входа ЧД
। можно считать полосовымсфильтром е полосой 'про-
: пускация, равной ширине спектра модулированного
! -сигнала1 FK, то : Рш—NoFx (Мо — спектральная
:!; плотность шума) и । 1’’ , ./ Г
: , Айр^б.Э N$FK. | . , (9.5):
Таким образом, пороговая1 мощность ЧМ сигна-
; ; : ; ла пропорциональна ширине, его’спектра. Если для
' увеличения выигрыша повышать индекс модуляции,
что веДет к расширению^ спектра сигнала,, то грано
г| < < ’ ' : I
1 Здесь; рассматривается i классическая схема приема ЧМ
сигналов. Ц современных . помехоустойчивых системах . ис-
,! пользуются 'следящие фильтры i или следящие гетеродины,
!> позволяющие сократить полосу1 пропускания и тем' самым
снизить Рпор. 1 ' ....... , у..;,,,' , '
172 J ' ' ' : ' '
или поздно мощность сигнала окажется ниже по-
роговой и для дальнейшего улучшения верности
приема придется ее увеличивать. •
Иначе обстоит дело при некоторых импульсных
методах*модуляции, в частности при БИМ. Момент
прихода импульса регистрируется, когда его огиба-
ющая пересекает уровень срабатывания, который
обычно устанавливается примерно на половине ши-
ка импульса. Выигрыш (9.2) имеет место в том
случае, когда-в паузах между импульсами шум не
достигает уровня срабатывания. При этом условии
•шум на выходе демодулятора возникает только :
в результате того, что аддитивная помеха переме-
щает положение фронта импульса («нормальный»
-шум). В противном случае возникает дополнитель- ?
ный «аномальный» шум, имеющий импульсный ха-
рактер и возникающий в результате того, что де-
модулятор воспринимает выброс помехи как им- ,
пульс сигнала. > । ,
Пусть при некоторой ширине спектра сигнала и
некотором уровне срабатывания помеха, прошед-
шая через входной фильтр приемника, имеет такую
мощность РШ==МА, что аномальный шум практиг
чески отсутствует. Предположим, что для увеличе- 1 ;
-ния выигрыша ширина спектра сигнала FK увели-
чена,в п раз. Как видно из (9.2), выигрыш при этом
должен возрасти в п2 раз. Мощность помехи на ,
входе демодулятора в результате расширения по- •
лойы пропускания возрастет в п раз, а ее выбро-
сы— в лЧ2 раз. Может показаться, что теперь воз-
никнет аномальный шум, так как выбросы помехи
окажутся выше уровня срабатывания. Однако не-
обходимо’ учесть, что при расширении спектра сиг-
нала длительность т । импульса становится короче
также ;в 711 раз, возрастает скважносте й при сохра-
нении средней мощности .сигнала можно увеличить
', ! л 'л t 173
I
его пиковые значения ’в пх>^ раз. Вследствие этого
оптимальный уровень срабатывания повысится тдк-
же в п!/2 раз, т. е. пропорционально выбросам по-
мехи. Следовательно, вероятность того, что шум
превысит этот (уровень, будет прежней. ^Другими
i5 словами, если при 'ширине спектра. FK аномальный
' шум практически отсутствовал, то он не возникнет
; и. при ширине спектра nFv. ,1 , i р ; ;
1 Вот что написано об этом,! например, в' [18]:
«.Независимость iPn.Op ют полосы частот—существен-
। ; iHoe преимущество импульсной модуляции по' срав-
, нению с ЧМщли ФМ., Выбирая, например, до.ста-
Ц'! .точно малое значение т (т. е. достаточно широко-
I ' I полосный сигнал),! можно увеличить выигрыш си-
- i, стемы без повышения пороговой мощности сигна-
ла» (курсив мойЛ. Ф.), Такой же вывод можно
найти в1 любом учебнике, Где этот вопрос рассма-
। тривается.! То же самое многократно говорил и ав-1
, । тор в своих лекциях, j! ’ . г ‘ 1 /
I I I f I , Ji,if ' '«Г t, | ; T ! 1 1 ’
I , 9 2. ПРОПУСКНАЯ СПОСОБНОСТЬ^ ............., ...,i
, / I T. ч / H
'i . .Посмотрим1 теперь, какие из этого можно сде-
I I лать выводы,! Предположим, что ВИМ использует-
ся для передачу непрерывных сообщений в канале;
।. I с аддитивным белым гауссовским шумом, причем'!,!;
, на ширину спектра сигнала не наложено никаких
iJ ! ограничений, а мощность сигнала !|Рс на рыходе ка-'’Т
I.; ' нала превышает пороговую чРлор, которая, как мы
видели, не зависит от ширины спектра сигнала. !
i 1 Зададимся сколь-угодно! малой величиной е>0 и !
‘ , потребуем, 'чтобы псреднийуквадрат ошибки оценки;
! сигнала (мощность «шума на! выходе’ приемника»)!!/
’ не превышал е2.нПри! этом, 'как ।обычно, I пиковое \
j.. ( .(илн квазипиковое) -значение сообщения! принято
за единицу. Легко видеть, что -это
1,>,\ И IT ' -! ’!! V1' Т '
йыпоЛненй, если gfBHM>A/o/’c/Po8^ Для этого выбе-
рем столь'малую длительность импульса (или столь i '
широкий' спектр сигнала),''чтобы jb. соответствии
с (9.2) выпрлнялось неравенство^ J ‘ ! '
(0,6/П2) (FK//’c)iWoFc/Pce2 J Г,, (9.6)
> I ! !' I . ! -Д'д: ‘ j If ;i! i 1 ' ‘
или , / b 1 7; md' 77 \ ./ i,'
~ \ 7 / ?4
что в принципе всегда можно'1 сделать. ! J
При этом количество информации, передаваемой
по каналу в единицу времени^ равно е-энтропии со-|
общения ЯвПри среднем квадрате ошибки е2, кото-( , ;
рая с уменьшением -в становится сколь угодно боль-
шой1. Отсюда следует, что канал с'аддитивным га-
. уссовским шумом в отсутствие ограничений на и с- !
пользуемую'полосу частот, если мощность сигнала । !
выше некоторой постоянной, имеет бесконечную
Пропускную Способность! I '
Но ведь это противоречит известной формул?, ।
для'.пропускной способности такого канала ' г
limC = limFKlog(l 4-Pc/KfK) = (Pc/^.)loge> । /д 7) . ?
^к-*00 - Лк"*00 1.1 V i
' .1 1 ill- ' д. u if Щ'| if ’
из которой видное что при конечной МОЩНОСТИ СИГ-:' -Д
нала пропускная способность при любой ширине, д,
спектра остается конечной.: Следовательно, в наших .
рассуждениях есть ошибку i i4 । ’М. "!
’ Ли - ! I i 'ii । ' 7 । h г !
' г । ' !| | Д l :i । ДД
. 1 Есдд, например, сообщение? является гауссовским про- ,! ' i
цессом ^ единичной мощностью и равномерным в полосе F, д' ! ' 1
спектром, то //, «=Fclog(l/8)=—fcloge. , j 1 i i j
" 7?-1,: ’Л 1 7
1 ) .| ' ,1. д 'Л дИди'!.... i’7 , . Д' ' ' 175 ! ;Д,
! '| " ' ’ ) ' \ : 1 b
, h . | • !'• ?.( ' -1 1! I | ! i ! ! 1 ! ! I : I li I : 1 i ' I i Ji J 1
.) ,'i" 1,7 я J
1 9.3.' НЕБОЛЬШИЕ УТОЧНЕНИЯ , < . ' J
- Действительно, при более тщательном рассмОт-
i рении удается обнаружить не одну, а даже две не-
; большие ошибки. Собственно говоря, единственный
’ непреложный вывод из рассуждений о пороге прме-
’хоустойчивости состоит в том, что вероятность воз-
никновения аномального импульса (т. е. пересече-
ния огибающей помехи с уровнем срабатывания)
не зависит от ширины спектра сигнала.’Оценим эту
вероятность. Пусть А—максимальное значение оги-
бающей импульса. Тогда Л/2—уровень срабатыва-
' ния и согласно (9.3) '
• Т 1 : ОО 1 ‘ ‘ !
J ® (#) ^ = exp (9,8)
. 4» ! • .... 1 . 1 v ;
Мощность сигнала
РС=^А^2Т, (9.9).
1 где ki — коэффициент, близкий, к 1, определяемый’
формой импульса и не зависящий от ширины его
спектра; Ч— длительность импульса, отсчитывае-
мая, например, на уровне Л/2; Т—средний период»
следования импульсов сигнала (интервал Котельни-' ’
. кова 1/2Рс). Из (9,8)! и (9.9) имеем .
! J р(Д>Л/2)=ехр (—Р0Т/4^1тРш). ’ , dh
Заменив Рш его значением }NOFV й учитывая, что
' Рк=^2/т (где k2^- также коэффициент, близкий
к 1), получим окончательно: | ; Т
р(В>Л/2)=ехр.(-гРс7’/4^^2М0). . ] ;. (9.10)
. Итак, вероятность появления аномального им-
пульса определяется1 отношением 'энергиц . сигнала,
за интервал Котельникова Т=1/2РС к спектральной ;
. , плотности шума и не изменяется при сокращении
длительности импульса и соответствующем'расщи-'
: рении его спектра. 1 ' / , ’ /
Г. ’
Далее, однако, было сделано, два молчаливый ,
допущения, которые при ближайшем рассмотрении
оказываются неверными: !
мощность аномального шума в системе с ВИМ,
которой можно практически пренебречь, не зависит
от отношения F^FC;
. мощность аномального шума зависит только от
вероятности появления аномального импульса,
.Ошибочность первого допущения сразу стано-
вится очевидной, если сравнить мощности аномаль-
ного ненормального шумов,- Мощность нормального ,
шума» Рн=е и согласно (9.6) может быть сколь
угодно уменьшена при увеличении отношения Fk/Fc.
Если бы при этом мощность аномального шума Рт
оставалась постоянной, то с расширением спектра
сигнала мы рано' или поздно пришли бы к положе-
нию-,, когда Рн<-Ран и дальнейшее расширение спек-
тра уже не могло бы улучшить верность приема
сообщения. Доэтому пороговую мощность- аномаль-
ного шума нельзя устанавливать одинаковой для'
всех, значений Рн. Если, например, при Рц—10-4 и
Ран=10~6 можно аномальным шумом полностью
пренебречь, то при РН=Ю-7 и том же значении
именно аномальный шум является определяющим.
Разумно принять условно за порог помехоустой-
чивости такое отношение сигнал-шум, когда Р^—
~PV, т. е. выигрыш оказывается вдвое меньше рас-
четного,. h 1
Второе допущение также ошибочно. Для опре-
делении мощности аномального шума недостаточно, -
знадь вероятность аномального импульса (9.10).
Для того чтобы- получить об этом хотя бы общее
Представ,ленце, рассмотрим случай, когда модуля- ,
ции нет,, т. е. сигнал представляет собой» равномер-
ную последовательность импульсов» возникающих ;
в моменты-времени пТ (п==0, 1,'2, . ..), длцтельно-
12—3413 ' ; .' V ‘ /. < 177
, j гстыб t<T. Широко применяемый метод ;йрйема
’ сигналов ВИМ заключается в том, что выборочное
; значение оценкирл*(п7’) принятого сообщения по-1
L лагается равным \'t,n—triT,} где' tn — момент первого
! и пересечения импульсом' уровня; срабатывания; 'на
; «I интервале (п—0,5) Т<tf< (n-j-0,5) Т. Именно "для
• I, этого метода приема вычислен выигрыш (9.2). Jler-
! ко видеть, что в отсутствие помех такой метод по-
I зволяет точно восстановить переданное выборочное
значение; сообщения х(пТ). Аномальный шум воз-.
! .।J никает, если до прихода'импудьса сигнала, ^т-е. на
\ Интервале' (п—0,5)Т<К.пТ, огибающая (помехи
пересечет уровень срабатывания. : Hi,',
й । ' Если помеха имеет равномерный спектр в поло;
; се FK,i то каждую секунду'существует/2ЕК независн-
I мых (мгновенных 'значений ' помехи. В интервале'
времени от (п—0,5) Т до пТ существует FKT незави-
симых мгновенных значений (помехи. В первом при^
ближении можно считать, что аномальный импульс
’ 1 возникает в том случае, если хотя "бы1 однЬ из мгно-
венных значений превысит уровень срабатывания^ ।
! ' А/2. Вероятность этого равна Г—?(1—р)р'кт^рГяТ,
(( где р определяется формулой (9.10), а приближен-;
ti ное равенство написано в предположении рРкТ^Щ
что ’всегда выполняется i при допустимом качестве;
приема. Заметим, что ( при этом ' предположе-
। нии можно не считаться с возможностью появления (
1 - । . более одного аномального импульса на одном ин-
f ( /терваде. 1. ’ - । М ' -' М -И ' Р . ( I г
, Очевидно, что аномальный ;импульс может по*
. явиться с равной вероятностью, в любой момент
времени t ;на интервале от (п.—0,5) Т до пТ,\ При
। этом возникнет ошибка (оценки сообщения Дх=
; |==х*—х=((—пТ)/Т. Таким образом, условна^ плот-
f , s( ность вероятности момента прихода аномального
: | !J щмпульса ' МП V
I I rii. i .1 Hi । । ! и;'1 lii. i s- 'i®V и •• । н
I
Средний квадрат этой ощибки (при' условии,! что,,
она произошла) ,' , д ( '
Г . м '
/к <-2\ Г /
пГ\ 1
, Yy--j w(f)dt
1 (л-0,5) T\ Г ' -I ,
s \nT Д
f 2(t-vT)* . Г
, Л U£|— 12-
(и-0.5) Г !> • I ’ ' ' .
С учетом вероятности появления аномального \
импульса, вычисленной выше, средняя мощность
аномального шума на выходе U ' ’ i ।
'i ! / -Ай) 1
Таким образом, мощность аномального шума опре- '•(
деляется не одной вероятностью р, а еще и (множи-
телем, пропорциональным FK. ; н , •|J. 1
Чтобы довести' исследование до конца, оценим
пороговую мощность сигнала.. Согласно условию,
порог помехоустойчивости имеет Meqro при [Рая—ъ2 ‘ s
или, как следует из (9.6) и (9.11)^ при
1 67 ехп (- ЛЦ. : ।
’ • 12 Р ) «ЛАМ •
Полагая ^=^2=1 и обозначая, как
PnopT/'Afa=r=A2n0p, Fx/F<.—a, а также учитывая, что
T=l/2Fe, iсведем это уравнение к виду । :
/г2пор/4—In/г2пор=1п (а3/20П2). • (9.13)
При (больших значениях а (например, более '1000),
Л?пор>1 ' |И! Пв!;! левой части можно пренебречь
ln/йпор по/сравнению с h2aop/4. Тогда,-возвращаясь,;
к пороговой мощности сигнала । РПор~Л2порА(о/Л PQ"
лучим1 асимптотическое .равенство г
Рпор?»8JVofcln (а3/20П2).
I (9-12)
обычно, .
(9.14)
' 1?9
Итак, пороговая мощность сигнала ВИМ с уве-
личением а не остается постоянной, а возрастает.
Для получения сколь угодно большой верности пе-
редачи непрерывного сообщения недостаточно уве-
личивать а, как следовало из (9.6), в пренебреже-
нии аномальным шумом, а необходимо увеличивать
также в соответствии со смыслом формулы
(9.7), и «парадокс» полностью снимается. ’
: ' Можно ли на основании этого утверждать, что
системы с импульсной модуляцией не имеют преи-
муществ перед системами с ФМ или ЧМ? Конечно,
। ,нельзя. Сравнивая (9.14) с (9.15), замечаем,, что
в системе с ЧМ пороговая мощность'сигнала рас-
тет пропорционально т. е. пропорцио-
г нально а, тогда как при ВИМ зависимость порого-
вой мощности от а при а>1 логарифмическая1^
На рис. 9.1 показана зависимость /г2ц05 и gr от а
(П2=10) при ЧМ и ВИМ. Пороговая мощность при
ВИМ, вычисленная путем решения уравнения '
(9.13), возрастает по сравнению с ЧМ настолько^
медленно, что её можно действительно ^считать по- ,
стоянкой. Именно это, позволяет использовать при
ВИМ очень широкий спектр сигнала и получить
выигрыш g' порядка нескольких тысяч. При ЧМ
это практически бессмысленно, так как пороговая
мощность оказывается столь большой, что выгод-
нее применять узкополосные ^методы модуляции, на-
пример однополосную. , । !
.. Таким образом, фраза, набрайная Курсивом на:,
‘ 1 стр. 174, неверна. Мощность сигнала, при которой
; ' аномальный; шум «практически отсутствует», не-
1 Рекомендуем читателю' доказать (пользуясь' понятием
e-энтропии), что из формулы (9.7) ;также следует логариф-
. । мическая зависимость! необходимой' мощности сигнала, от
средней квадратической ошибки в, которая при ' B1IM про-
. порциональна J/la. >- 1 •, i i ? 1 * ,,, I ,
180
сколько возрастает с
расширением спектра.
Тем не менее цитата из
учебника, приведенная
там же, в первом при-
ближении справедлива.
Можно было бы уточ-
нить ее, заменив на-
бранные курсивом сло-
ва: вместо «независи-
мость» написать «очень
слабая зависимость», а
перед «без повышения,»
добавить слово «по-
чти». ।
Практически при расчете системы связи с ВИМ
это незначительное повышение порога помехоустой-
чивости можно не; учитывать.' Но для теории оно
очень важно, так как только его учет согласует вер- ’
ность приема с пределом пропускной способности : !
канала. , ' ' , ,
10. БЕРЕГИСЬ НЕТОЧНЫХ ФОРМУЛИРОВОК!
I i ; „ Бди!
1 - Козьма Прутков
10.1. ЗАНИМАТЕЛЬНЫЕ ПАРАДОКСЫ ' ,
Все мы еще в школе удивлялись различного
рода «доказательствам» того, что 2X2=5 или все
числа равны друг другу и т. п. Конечно, никто э-ти
утверждения всерьез не принимает, и цель таких
доказательств—научить юных математиков отыски-
вать логические или аналитические ошибки и под--
черкнуть необходимость тщательных и Точных фор- .
мулировок. Чаще всего такие арифметические ми-
ниатюры основаны на, неявном делении' на .нуль, на
J ; * 1 ’ р ". “ 1
I
' II
, неучете двузначности операции извлечения квад-
। ратного корня,! на умножении неравенства на отри-
I дательное число без Изменения!знака неравенства,
на некорректном применении полной математиче-
। ской индукции и Т. ГК !! । ,
! Здесь будут изложены несколько такого рода
। «доказательств» нелепых результатов, относящихся
j |К теории связи. В отличие ют ошибок, описанных
I в других? главах, никто никогда э,ти резу^ьтдты не
Цг считал верными, за исключением, может !быть, по-
следнего примера. Однако ошибки в1 рассуждениях
। здесь не 'сразу бросается в глаза, и отыскание их
1 может быть полезным для более глубокого понима-
। ния вероятностных соотношений, в частности неко-
торах свойств1 гауссовских случайных величин, и
процессов. ! j V J .
10.2. ВЕРОЯТНОСТЬ ОШИБКИ ПРИ ПРИЕМЕ ь '
! ОРТОГОНАЛЬНЫХ! СИГНАЛОВ' ' , ' >, ' ‘ 1
, " ‘ 'V J ' i/M • ' к‘
Вернемся к формуле (8.7), дающей верхнюютра-
।1 । ницу вероятности ошибок рм при приеме М-ичных
равномощных и равновероятных ортогональных
’’'цЛ сигналов.. Как1 уже отмечалось, неравенство в этой
Д' ; гформуле нельзя заменитьДавенством,, так как'эле-
>' ментарные события <р;><рг (г—1,"2, Л.-, М- не
являются' несовместимыми.? Здесь? <р» — функция
правдоподобия i-й гипотезы ,Hf; индекс верной,
гипотезы,- 4', / ' МД ' J' Д- — 1' .
, j Нельзя ли’, однако, получить 'достаточно, прос-
М тую, но точную фор мулу дляpMf Попытаемся' та-
i - кую формулу вывести,! Последующие рассуждения,
1, так же, как и формула (8.7),'одинаково применимы
’ как? при'когерентном, так й при' некогерентном,шри-
" Дме. , М :। j \ ' 'MIii,1 ' ! i1
v ш ! '.ей 'дмВН’:'-; puj ।
' I .
ДемоДулйтор, построенный по правилу максиму*
Ма правдоподобия, содержит Af трактов, в каждом ;
из которых вырабатывается величина,! ф, монотонно •
связанная с функцией правдоподобиям i-Й! гипотезы !
(чаще всего пропорциональная логарифму функции ।
правдоподобия), !и, решение принимается по индек-
су той из величин cii, которая! больше всех осталь-
ных. Если в действительности передавался r-й сиг-
нал,, то решение,'будет верным при О’=1, ,
2, ...,.Л4).ч i ' " 1 !
Все величины а» являются случайными, и если
помехой является белый шум и сигналы попарно
ортогональны, то легко показать, что все at взаим- i
но независимы. Мы не будем тратить время и ме- ,Д
сто для этого доказательства, но читатель может,
это легко проверить или в крайнем случае поверить;
на слово, что в этом утверждении никакого подвоха ,
нет. : । * •• 1 ' ’ < i • i 1 1
Итак, Для того чтобы принять верное [решение
о передаче r-го сигнала, необходимо, чтобы для всех|
значений /^/"выполнялось неравенство . , '
at<ar. ' ' *?'. ‘l (10.1) ’I
Вероятность выполнения одного такого неравен-
ства есть не что иное, как вероятность 1—р2 пра-
вильного [приема в двоичной системе равномощных
•ортогональных сигналов при той же энергии сигна-
ла:; и; спектральной плотности помехи.( Вследствие
независимости величин1 а» вероятность выполнения
всех М—1 неравенств (10.1), т. е. вероятность пра-
вильного приема М-ичного сигнала, определяется
по теореме умножения вероятностей как !! !
1—рм=(1—p2)M-1, ( ? (Ю.2)
откуда вероятность ошибки ! . г . ! 1
Рм=7=1—;(1—Р2)м-1« ijl.j ДрЛ, . ' I
( :м ' , ; I' ' .183Л:
i|.’l • ! > _ Г - I. / ; •; • 1 i !U-j
Ё случае оптимального н.ёкогерёнтногб. приёма /?2=
=0,5..ехр (—/г2/2), где,/?2 — отношение энергии сиг-
нала к спектральной плотности белого шума, т. е.
рм=1-[1-0^екр(^Л2/2)'1мЧ • (10.4)
Итак, получилась действительно очень простая
точная формула.' Легко убедиться^ что она верна
при М=2. Далее, если (М—1)р2<С1, то из (10.3)
получается рм^(М—1)р2, каки следовало ожи-
'дать, поскольку при малых р2 неравенство (8.7) пе-
реходит в приближенное равенство.
Но почему же простой формулы (10.3) нет ни
в одном учебнике и ни в одной монографии по тео-
рии связи? Неужели, кроме нас, никто до нее не
додумался? 1 ч,
Чтобы развеять сомнения, испытаем полученную^
формулу в предельных случаях. Когда h2~—*<x>, то
Рг—нО и рм—>0, как и 'должно быть. Когда h2=0,
Рг=0,5, откуда Рм=1—0,5м"1., Кажется, тоже вер-
но. Впрочем', так ли? 1 .! „
, Пусть, например, А2==0, А4=3. Тогда наша, фор-
мула дает рм=2>14:. А что должно быть на самом
деле? Существует три равновероятные гипотезы, из
1 которых одна йерна. Так как Л2=0, то мы никакой
Информации не получаем и должны выбрать' реше-
, ние наугад. Ясно, что в этих условиях1 вероятность
ошибиться равна 2Д а не .3/4, как дала формула
(10.3). -
Для того чтобы убедиться в ошибочности ут-
верждения, достаточно одного опровергающего при-
мера, тогда как и тысячи подтверждающих приме-
ров недостаточно, чтобы считать его доказанным.
Итак, формула (10.3) неверна. Где же ошибка в ее
выводе? >
г В данном случае ошибку найти нетрудноу'Мы
ее, допустили, молчаливо предположив, что(события,
заключающиеся в выполнении «неравенств (10;1)
при различных i, независимы. -Это предположение
неверно, несмотря на то, что все а» взаимно неза- '
висимы, поскольку величина аг в правой части не-
равенств также является случайной величиной.
Если бы величина аг была детерминирована, то 1
наши рассуждения были бы верны щ применение
теоремы “умножения было бы законным. Фактиче-
ски аг—случайная величина, так как она является
результатом обработки суммы сигнала и помехи.
Ее значения мы не знаем, а знаем лишь априорное !
распределение вероятностей, которое, в частности,
позволило вычислить значение
Рассмотрим принятие решения по неравенствам .
(10.1). Первое проверяемое неравенство выполня-
ется с вероятностью 1—р2, как мы и считали. Од-
нако о втором неравенстве'этого уже сказать нель-
зя. , Действительно, положительный исход первого . '
испытания должен учитываться при вычислении ве- >
роятности исхода второго. Точно так же, если один .
^боксёр победил на ринге другого, тр при встрече
победителя с третьим боксером шансы его оцени-
ваются более высоко, чем до первой победы.
• 'Другими словами, при вычислении совместной'
вероятности выполнения неравенств (1Q.1) нужно /
перемножить их условные вероятности, т. е. для *
£-го неравенства вероятность его выполнения при
условии, что все предыдущие неравенства выполне- '
ны. В этих условиях вероятность совместного вы-
полнения всех неравенств (10.1) окажется несколы
ко больше, чем правая часть (10.3), следовательно,
^1-(1^2)^-!, ! /X (10.5)
' Итак, вместо точной формулы мы получили еще
-одну верхнюю границу для рм, правда, несколько Ь 1 *
более точную, чем .(8,7). • ‘ / ‘л < 1
I || 10.3. КОЛИЧЕСТВО ИНФОРМАЦИИ, ПЕРЕДАВАЕМОЙ
! В ГАУССОВСКОМ КАНАЛЕ С НЕОПРЕДЕЛЕННОЙ
Ч, ФАЗОЙ . ? 1 Ч i , , Ч . . ’ 7,i 40 И-
Рассмотрим непрерывный канал связи с неопре-
деленной фазой, пропускающий сигналы в некото-
i рой полрсе'частот F со средней круговой'частотой
©о. При । прохождении сигнала через канал фаза '
। ! всех его составляющих поворачивается1 независимо
от передаваемого сигнала На одинаковый слуЧай-
I ный угод А, равномерно1 распределенный на интер-
- вале1 (—л, л).(Аддитивной! помехи нет (или ею
у можно пренебречь). , . и - - - > > !
Будем подавать на вход канала узкоцрлосный
». i гауссовский сигнал - i, 41. ',1 | ' , । !
i , 1 х (/) = A (7) cos [«>„/ -4- 0 (7)] = а (7) cos ®0 (7) — ' ’ ,4 11
у р|(7) sin®/='Re {[а (7) -НН)] «* "**}* Ц= .!!
' =Re{£(7)e’ Г -Ч . 4ji;
где а (7) =А (t) cos 0 (t), р (7) =А (7) sin 0 (7) —невйвц'-
i симые гауссовские процессы1 с рулевым математи-.
I ' , ческим ожиданием и одинаковой Дисперсией, кото-1'
; рую обозначим a2; g (7) ==а!(7)-+?Р (7) —комплексный
। . । .1 гауссовский процесс (комплексна^ огибающая, про-
Ч'' цесса х(7)). ’ ‘ ' h' ч < h ' 4 , h 1 ;
; 11 Сигнал на выходе канала ( \ '
H7) = A(/)cop[mo7 40(7)4-A] = [a(7)cos4-. у ,J|7
— р (7) sin Д] cos <о07 — |р (7) cos .Д а((7) sin!Д] sin <о07 Uh
'"=Re:{i!^7)e,w’^yr < I f т Uo.7)1
j, ! : где г" Hl ' I'! Vi , ' ( 1 1
। Л (7) —а(7) cosA—р (7) |3inA-Ui [^i(7) cos A-k '
! +o(/)sinAj^)e^M. X/Г’ li, Jh,!. 7 (1'618)
— также комплексный гдуссовский процесс Г ком-'
плексная||О1;ибающая^(/)], , 1 } : , 1 1
’ йЪЖ'. А*' '7 »' ? 7’ ' 7:' \
। 'I' । - * • ,
лх I' 1
Очевидно, что количество информации, содер-
жащейся в некотором отсчете у относительно от-
счета х, 1 (х, у) совладает с количеством1 информа-
ции /(т], £), содержащейся в отсчете ц относитель-
но^, поскольку комплексные огибающие (при, фи-
ксированной частоте (£>0) полностью; определяют со-
ответствующие сигналы. И!
) Найдем корреляционный момент ! ! if । i' <
где черта означает усреднение по ансамблю.1 Так.
как по условию g и А— независимые случайные ве-
личины, то |:,1
ft I ге1д = ]Гр Tip (cosA-|-isinA) = ' '' ,
" 1 ; i ; I ‘
(w - • « " \ I 1 i ,
f cop AdAfsinAdA|=O. ! (10.9)
n - । ,, । ih ". - J. ’
Таким образом,’ £ и некоррелированные, а по-
скольку оци гауссовские, то и независимые случай-
ные величины ’. Так, в книге [24, с. 64] сказано:
«/„для двух нормальных случайных величин! некор- ,
релированность означает также независимость»' р.!
(курсив мой — Л. Ф). ' ।
?! С другой стороны, хорошо; известно (см., напри- . ) ’ '
мер, теорему 2.3.2 в [10]), что для статистически
независимых | и! т) ^(т), lj)==0, а отсюда следует, '
что I (у, х)~0. Итак, мы показали, что в канале
с неопределенной фазой при подаче на его вход
гауссовского сигнала, информация не передается
даже В 'отсутствие аддитивного шума.! Не правда , ,
ли/странный результат? ! = '/i !г1.
— ,"!/ Е *' ' ' ‘
'' ’ Легко убедиться, что и отсчеты ! и т](/2), взятые ( >
в различные моменты времени, также1 некоррелированные, I'
так так! Д* №);»] («2)'р= 5*(<|)Е(М’ е(д = °- , Г« ,f
В самом деле, если продетектировать сигнал
у (it), то можно точно восстановить огибающую
A(t) переданного сигнала x(t) и, следовательно,
получить сколь угодно большую информацию. Рас-
суждая более формально, можно исходить из из-
вестного и очевидного неравенства
I(y, x)>7(h|, |||)=/(Л',Л)==Я(Л)=оо, (10.10)
так как Л принимает значения на континууме, а по-
мехи отсутствуют. В реальных условиях вследствие
неизбежного аддитивного шума эта информация
конечна, но может быть сколь угодно велика при
достаточно слабом шуме и уж во всяком случае не
равна нулю при конечном отношении мощностей
сигнал-шум. ' ; ।
Таким образом, мы получили два противопо-
ложных результата: взаимная информация 1(х, у)
согласно первому выводу равна нулю, согласно
второму — сколь угодно велика. Всякому, кто пере-
давал информацию по радио или другим высоко-
частотным каналам и использовал некогерентный
прием, ясно, что ошибочен первый вывод. Но в чем
же ошибка? ’ . ; !
Многие из, тех, кому, автор, задавал этот вопрос,
начинали сомневаться в том, что отсчет т} является
гауссовской случайной величиной. Однако эти со-
мнения легко рассеять. Обозначим /^acosA—
—psinA, ц=р cos Аф-a sin А, где а, р и А—совмест-
но независимы. Тогда плотность ’вероятностей к ,
К > ,!я \ ф; ?
«>(Я),= £w(l (A)ar(A)dA fa»(l|A)dA,
V J : i , •/ ' ' 4 А
—те, । —те I i^i'.
но со (л| А)—плотность ' вероятностей разности’
a cos А—psinA при некотором фиксированном А;
каждый (ИЗ членов является гауссовской случайной
’ величиной с дисперсиями соответственно о? cos2 А и.
J8S. ’И \ ! !
<i2sin2A и, следовательно, А—также гауссовская ве-
личина с дисперсией о2. Аналогично то же самое
можно показать и относительно р. Кроме того, лег-
ко убедиться, что 1 и ц статистически независимы.
Таким образом, т)=Х-Н[л является комплексной га-
уссовской величиной, так что это возражение отпа-
дает.
'' Суть дела проясняется, если рассмотреть четы-
ре действительные гауссовские величины: а, р, X и
ц. Нетрудно видеть, что они попарно некоррелиро-
ванные и независимые. Более того, любые три из
этих величин имеют совместное нормальное рас-
пределение вероятностей, например
ш (а, р, X)= w (а) w (р) w (Я) =
‘ 1 ! ехо/-- a2 + g2 + xn м0 iк
T^2)3'2 р I 1 2’2 /* ‘
Но как только; мы; попробуем учесть еще и четверо
тую величину, то сразу наталкиваемся на зависи-
мость
а2+р2==Я24-р2==А2.. ; ' (10.12)
Таким образом, значение |ц| полностью опре-
деляется значениями а, р, К. Поэтому совместную
четырехмерную плотность вероятностей для них
следует записать так:
р, == 2(2по2)з/2 ехР | |Х
X15К-/«2+р2~я2)Ч-§(р+ К«2+Г-я2)]. '
у ’ : ’ 11 , . (Ю-13)
«Лишняя» двойкам в знаменателе учитывает рав-
ную вероятность значений и —р.; '
Вспомним* теперь, как доказывается эквива- <
лентность понятий «некоррелированность» ‘и «не-
зависимость» для гауссовских случайных величин.
Ш-"' ' r'ft .1' ,189
Для этого запйёываетсй совместное Нормальное
распределение п величин,' корреляционная матри-
ца полагается диагональной 1 (что означает попар-
ную некоррелированность), и тогда оказывается,
что n-мерная' плотность распадается на 'Произве-
дение « одномерных плотностей (что!означает не-
зависимость). -Поэтому правильная формулировка!
этого свойства: «для совместно нормальных случай-1
ных величин некоррелированность означает также ,
। независимость». Слово, «совместно» часто опускают,''
! ' и в результате возникает неточность. 1 ! ' 'рй
, - В нашем случае | и ц, будучи каждая в от- । i
дельности гауссовской,!совместно гауссовскими'не
являются, так как четырехмерноё распределение
для их составляющих !(10,13) негауссовское. По-
этому, хотя § и и некоррелированные^ они не яв-.
ляются независимыми и взаимная информация' i
между ними не равна нулю. i ' Л
10.41 О РЭЛЕЕВСКИХ ЗАМИРАНИЯХ ! ' ' ' • .
Линейный । канал с рэлеевскими замираниями
' । можно определить следующим 'образом; Если на .
.вход канала подан сигнал 'cosafit, то на выходе 'i
наблюдается сигнал ; i'V ( 'р . р"1’';
i Zl(f)=7=fl*clCOS'01f+flsiSin,lfi>if,'. ' ! 1 ", у (10.14);|У’
где pci(/)'' и psi(/) —стационарные1 и стационарно
i связанные'гауссовские процессы с нулевым мате-
магическим ожиданием и одинаковыми корреляцииj i,
онными функциями, вообще 'говоря, зависящие" от н
Г ® ь Кроме, тог(о, для них, по' определению, имеет
место соотношение (t) Ця (f)\=a—р51 (^) р^ ( Г), ОТт
; куда следует^, также, > что |рсц(/)рл(0=О,'1т. !е.1 в
одинаковые моменты времени!'рс1 и ця взаимно не '
s коррелировании Будем полагать pcti и psi умедлен- ,
1 190 , 'I ’Й! H'iL'
ными»1, процессами. Это значив, что их нормиро- , 1
ванные корреляционные функции pci(0Pci(^+ . ч
4-т)!/н2с1 Практически не отличаются!;от! 1 для зна-1 :
чений т,( >меныпи1х периода частоты входного i сиг- 44
нДДа ДЦ2л/(»1. ’ 'I1 Г 'Ц/
Очевидно, что z\[t) представляет также гаус- ч
совский процесс (узкополосный). Менее очевидно, i1
что процесс z,(f) стационарен в широком! смысле. !
Однако в. этом можно убедиться, вычислив корре- '
ляционцую функцию Z\(t) для двух! моментов вре- !
мен и Ги t'-. i ' : !
Вг (t, Г) = z, (t) zx (L) = [ficl (/) cos <0/4- p5l (t) sin ®/] X
X [f»« О COS ®/H Sip <0^]=” 4 ! i.ri
. cos.®! t cos 4~рг1 (Ops1 (i'j COS a>xf X > '
Xssine/^^fO^jCOs’O^costo.f4-^ J
sinsin®'/',h' i Lf [[L , '; " ' 1! OQ-15) |
Учитывая, что. • ’ Hl I 1 J 1 . " ‘ 1
- (0 (Q=ы (0 (П=W - 0; I ' ! '-!_J
‘4(i)^ (t") = (0(f') = ^(f'~ t)> ( 1 V HI}:,
это выражение можно упростить: . 1 L ;Г; ; L :;ii
Bz(t, t') =8^.(1'— 0cos io,(/'—/) 4- J
/Js'in’®!^—t)f iJ (10.16) J '
’TjaKHM1 v образ,ом, 1 корреляционная ’; функция I4
Bz(i„ t') зависит только от разности t'— t, ’$! такО;Ц;,
как математическое ожидание! гауссовского про- Ч
цесса z(Z) равно нулю, то он является стационар- ! । Ч;
дым В широком смысле. ' . ч 4 /
, Подадим теперь на вход' канала сигнал, со- ' /
стоящий из двух гармонических, составляющих, ; i
S'' L........Sj4%'• 7 ' v S " jw ,
I № ,4 " 7. : I ' ‘ ' ..4 !;A
ч ЧLi-.4 I' i 1 i L J 1 i ! ! Wi и ! "
cos ®i£-|-cos ant, ®1#чо2’ На выходе сигнал пред-
ставляет сумму двух, стационарных ггауссовских
процессов: ,
2(0=21(0+22 (/)—Pci (ОCOS
! +Psl(0sin(0^4-|ic2COS©2^+|Jt;s2Sin®2(0, (10.17)
‘t i с к
которая также является гауссовским процессом.
включим теперь на выходе канала два фильт-
ра с амплитудно-частотными характеристиками
(АЧХ), близкими к' прямоугольным, и неперекры-
, вающимися полосами пропускания так, чтобы один :
• из них пропустил сигнал Zi(0, а другой — сигнал
22(f)' Это всегда можно сделать со сколь угодно
1 большой точностью, даже при очень близких .час-
тотах «и и (02, если все ц(/) изменяются! очень
медленно. Так, если спектр p(t) занимает частоты
ниже 1 Гц (как это часто бывает в декаметровых
радиоканалах), то частоты <i)i и со2 могут разли-
чаться, скажем, на 10 Гц.
! Для стационарных случайных процессов дока?
зано (см., например, [41]), что сигналы, выделен-. ।
ные такими фильтрами с неперекрывающимис'я
полосами пропускания, взаимно ще"коррелированы
при( любых сдвигах времени. Следовательно, мож-
! Ыо утверждать, что гД/) и г2(/) взаимно не кор- s
: (релированы (по крайней мере с той точностью, с. ।
; какой их можно разделитьфильтрами). Но если
1 : не коррелированы совместно гауссовские процессы ,
, йигг, то'дни и независимы,! а следовательно, не-
' зависимыми их огибающие! fy-V, и
• fx!~Kit<!cs_t’P’2s2, представляющие коэффициенты ’
передачи канала для двух близких частот, иi й ©2.
Следовательно, даже при очень малых сдвигах по
1 ц частоте рэлеевские, замирания должны быть прак- #
: J . , тически полностью селективным^!. л ‘ 1 '
И’ (м: . is?, jV;;
I И . ‘ Г'!' ’ V1 ‘ ‘ ; ’
!! ______________________________________________-
Здесь тоже явно что-то.це так. Инженеры, за-
нимающиеся декаметровой радиосвязью, .знают,
для того чтобы замирания на двух частотах были
слабо коррелированными, разность частот должна
достигать по крайней мере 200—300 Гц, а иногда
и более. Почему же мы получили неверный ре-
зультат?- । ' '
Не будем интриговать читателя и раскроем сек-
рет. Дело в том, что, хотя гДО и г2(/)—стацио-
нарные гауссовские процессы, их сумма не явля-
. ется стационарным процессом. В этом легко убе-
диться, вычислив корреляционную функцию для
fzt (/) -j-z2(/) аналогично тому, как это сделано в
'(10.15).' При этом возникнут «перекрестные» про-
.изведения, т. е. члены вида pci(/)pc2(//)cos®ifcos®2/'
и аналогичные, которые никак нельзя представить ।
функциями только разности t'—t. Теорема о не-
коррелированности сигналов на выходах непере-
" крывающихся фильтров к нестационарному про-
цессу z(t) неприменима. '
' К сожалению, ошибочное мнение о стационар-
л ности суммы двух стационарных процессов доволь-
но распространено среди инженеров, и на этой
почве нередко возникают недоразумения.
'•. Поучительным примером является поведение
' (суммы центрированного стационарного процесса
x(t) с процессом xa(t), полученным путем сдвига
спектра исходного процесса на некоторую часто-
туП: ( . . , .
xs(t) =х (t)cosQtsinQt (10.18)
где; x(t) — (как и ранее) преобразование Гильбер-
та от x(t), которое, конечно, также является1 ста-.
.'Ционарн1ым процессом, ' . / . , ,
>3—34l4.il . ‘и .... ' .1 ' . Д I J m
1
1 Суммарный процесс z(t)=x(f)-\-x(t)cos £2f-J-
-(-x(i)sinQ^ нестационарен. Чтобы убедиться в
этом, достаточно вычислить его дисперсию
F(7)=2D(1+cosQ/); (10.19)
где D—x2(t)~x!(t)—дисперсия исходного процес-
са. Из (10.19) видно, что процес z(t) нестацио-
нарен, так как его дисперсия зависит от времени,
изменяясь от нуля до 4Z). Это можно очень эф-
фектно продемонстрировать на осциллографе.
Сумма х(0+^я(б имеет вид шума, модулирован-
ного по_ амплитуде по закону V 1^-j- cos Qt —
= f]/2 cos(Q'/2)](Phc. 10.1).
Рис. 10.1
10.5. ВЕРОЯТНОСТИ ОШИБОК ПРИ
ФАЗОРАЗНОСТНОЙ МОДУЛЯЦИИ
Рассмотрим прием сдвоичных сигналов с фазо-
разностной (или относительной фазовой) модуля-|
цией (ФРМ.) в канале с аддитивным белым шу-
мом. Сигнал, поступающий на вход, приемника на ।
194 '
I!
интервале (n^—1)Т^<<пТ, можно представить в
следующем виде:
«п(О=^4 cos (®о^+т)ял+ф).+ ^(О> (10.20)
где А—। амплитуда сигнала; соо — его круговая час-
тота; f|n — случайная величина, принимающая зна-
чения 0 или 1 и определяемая передаваемым на'
данном интервале двоичным символом уп:
1]л=т]п-14-Тп (mod 2); (10.21)
<р—случайная начальная фаза, которую можно
считать практически постоянной на протяжении не-
скольких тактовых интервалов; £(/)—белый шум.
Если начальная фаза ф при ’приеме известна,
то можно применить когерентный прием
(рис. 10.2). Напомним его сущность. Приходящий
сигнал перемножается с опорным сигналом (ОС)
A cos (®0^+ф) , и произведение интегрируется на
интервале от (п—1)Т до пТ. Результат интегри-
рования
лГ
Л = j [A cos (<oef + v-H)--H(0]X
(л—1) Т
X A cos -ф- <р) dt = O,5АгТ cos v4- 9. (10.22)
Здесь cosr)njx принимает значение 1 при тщ—0
. s ? • «г
или ’—1 при т]л=1, а 9— W)A cos (ciW-j-ф) Л,
-4i . (/2 1)Г
по ; определению белого шума (см., например,
[21]), является гауссовской случайной величиной
с нулевым математическим ожиданием и диспер-
сией, равной О,25А2Л'0, где Л'о— односторонняя
спектральная плотность белого шума.
По знаку In принимается' решение о значении
т]л (0, если /„>0, и 1, если /и<0). Если бы речь
шла об обычной ФМ., то это^было бы окончатель-
ным решением о переданном символе. Но прц
13* > - ! 195
ФРМ необходимо принять решение б I символе уп,
который согласнр (10.21) равен (mod, 2).
Сложение по модулю 2 можно заменить перемно-
жением 1п и 7П_] («сравнение полярностей» по ста-
рой терминологии). Легко видеть, что при 1п1п-\>^ !
должно ! быть принято решение уп=0, а при
ЛЛ-1<0'—- решение ул==1. . >
Рис. 10-2 ' '
. 1 ' . I 'd г
Вероятность ошибочного решения для этого
случая хорошо известна. Ошибка при определении.,
знака (т. е. ошибка при приеме сигналов ФМ) '
возникает, если в (10.22) ||01 >-0,5А2Т, а’ знак 0
противоположен , знаку cos Учитывая нормальг
ное распределение величины 9 и ее дисперсию,
i определим вероятность такой ошибки j
1 (10.23)- >1
’ где/1 = /^; 'W-рЪ ' й
I ' -и . J J
Зависимость РфМ от4 h (10.23) I представлена ^кри; '
вой 1 на рис. 10.3. , ! . '/•) 4
1 Ошибка в определении знака у,, (т. ел .ошибка
. г1;при приеме сргнало^Ц'ФРМ), произойдем тогда, J
। I j I I 1 • I ,i । ' I . ।
когда знак одной из величин или n«—i будет
определен ошибочно, а другой.— верно, откуда
= 2^фм (1 /Ы = 2 [1 - F(h /2)] F{h /2) !
! I . - . I.
(кривая 2 на рис. 10.3).
После этих предварительных напоминаний, пе-
рейдем к сути вопроса, которому посвящен данный .
параграф. Предполо-
жим, ' что начальная
зфаза ф в (10.20) неиз-
' вестна и мы не пытаем-
ся ее оценить. Тогда
.необходимо применить
какую-либо из схем не-
когерентного приема.
'.Предположим, что из
; соображений простоты
реализации выбрана ‘
автокорреляцио иная
схема демодулятора
(рис. 10.4), вообще го-
, воря, не оптимальная
по помехоустойчивости.
В этой схеме пришед-
ший сигнал un(t) пере-
. .множается с тем же си-
гналом, । задержанным ! ।
на время Т, полученное произведение ип (t) и ип_\ (t)
интегрируется на интервале от (п—1)Т до пТ и по]
знаку этого интеграла 1'п принимается решение o' i
переданном символе уп (0, если. 7'п>0, и 1,' если
Л<0). ' ! . - ' Hh
Заметим, что входной фильтр является неотъ-
емлемой] частью схемы на рис. 10.4. Обычно ре-
альные схемы других демодуляторов— например
когерентного (см. рис. 10.2), квадратурного- так- ।
и!: ! Н , ' । ' ]'' 1 • । . 197
, ! '’ ! - • ' I ' 1
же содержат полосовой фильтр на входе, который
предназначен главным образом для защиты от со-
средоточенных помеха и вызываемых ими перегру-
зок. Однако теоретически, если аддитивной поме-
хой является только белый шум, входные фильтры
не нужны, и в лучшем случае при достаточно ши-
рокой полосе пропускания они не создают значи-
Рис. 10.4
тельных межсимвольных помех, нарушающих ра-
боту демодулятора. Схема же автокорреляционно-
го приема без входного фильтра оказывается не-
работоспособной. Если на вход перемножителя
поступает белый шум, то, перемножаясь с задер-
жанным образцом того же шума, он должен тео-
ретически создать случайный процесс с бесконеч-
ной дисперсией даже в ограниченной полосе час-
тот, который полностью подавит сигнал. В реаль-
ных условиях шум, конечно, не ’ является белым и
бесконечная дисперсия не возникает, но помехоус-
тойчивость схемы на рис. 10.4, если из нее удалить
входной фильтр, была бы крайне низкой. В даль-
нейшем, для того чтобы можно было в первом
приближении не учитывать межсимвольных помех,
вызываемых переходными процессами в фильтре,
будем считать, что его полоса пропускания Е до-
статочно , широка по сравнению с \/Т. Как спра-
ведливо отмечено в [28], для практических расче-
тов межс^мвольные помехи можно не учитывать;
если FT>2. -I < |Г|!
198
I
I
Итак, пренебрегая искажениями сигнала в
ф1ильтре, с точностью до постоянного коэффици-
ента можно записать для напряжения на выходе
интегратора
ПТ
I'n~ J [Л cos (®0Z-j-7]„z-(-<?)-{-^(Z)] .[Л cos (®0Z-|-
(п-1) т
-Г -Пп - Л + — Т)] dt =
= 0,5Л2Т cos (7]„ - 7)^)к + + 62 + 93, (10.24)
где |(0—гауссовский шум на выходе входного
/фильтра;
ПГ
61= £ е (/) Л cos (с»0/-}-
(я—1) Т
пТ
62= f l(t -T)Acos(«>J^v±<p)dt,
(п-1) Т
ПТ
б3=_- J t(l-T)t(f)dt. (10.25)
, (П-1) Т
z Учитывая, что т)я и т)«-1 принимают значения 0
и 1 и связаны соотношением (10.21), легко сооб-
разить, что cos (т]п—ци-1)л равен 1, если уп=0,
или —1, если ?«=1. Таким образом, если состав-
ляющие помехи 01, 02 и 0з не вносят ошибок, то
по знаку Гп можно сразу восстановить Значение уп.
Как и при когерентном приеме, ошибка возникнет
тогда, когда абсолютное значение суммы 01+0г+0з
превысит §,ЬА2Т, и будет иметь знак, противопо-
ложный COS (Т)я—Т]я-1)Л.
Таким образом, автокорреляционный прием с
ФРМ отличается от когерентного только тем, что
/ рмрсто «шумовой компоненты» 0 здесь присутству-
.. » Р . .. W
।
! ет 0'=014-024-0з. Посмотрим, что из этого следует.
Случайная величина 01, так. же, как и 0 в
(10.22), является гауссовской с нулевым матема-
тическим ожиданием и дисперсией 0,25A2jVq. То же
самое относится и к 02, причем, если пренебречь
переходными процессами во входном фильтре, то
01 и 02 взаимно независимы, поскольку независи-
мы отрезки £(/) шума; на непересекающихся вре-
менных интервалах. Что же касается величины 03,
то она не является гауссовской и имеет распреде-
ление вероятностей, выражаемое довольно неприят-
ной формулой, в которую входит модифицирован-
ная функция Бесселя второго рода нулевого по-
рядка (/(-распределение). Для вычисления рас-
пределения вероятности 0' нужно произвести сверт-
ку гауссовского и /(-распределения, что представ- .
ляет собой весьма трудоемкую работу. Правда,
некоторые исследователи такую работу проделали :
। . [28]. Но предположим, что мы их результатов не
знаем, а нас интересует только один вопрос: мож-
но ли рекомендовать в.наших условиях использо-
вать схему автокорреляционного приема Иди сле-
дует применить более сложную схему оптимально-
[( го неког'ерентного приема?
Оказывается, этот вопрос можно решить с по-
j мощью следующих «рассуждений». Шумовой член ,
‘ в (10.24) состоит из трех составляющих 01, 02 и 03.!!
, Отбросим последнюю. От этого вероятность ошиб- ।
1 ки может только уменьшиться. Так можно найти.,
нижнюю границу вероятности ошибки при авто-
। корреляционном приеме. Дальше все очень просто. ;
, Дисперсия суммы независимых и одинаково рас-
пределенных величин 0i + 02‘ вдвое больше диспер-
сии каждой из? них, т. е.; вдвое больше, чем дис-
i Персия 0 в (10.22). |Поэтому граница вероятности'
ошибки здесь будет выражаться такой же^форму-
' L - ? , , , - г - . - .’
лой, как и (10.23), ко отношение сигнал-помеха
г уменьшится вдвое, т. е..
Рфрмакп^1—’f(h). (10.26)
Выражение в правой части этого неравенства
представляет собой вероятность ошибок при коге-
рентном приеме двоичных ортогональных сигналов
(например, ЧМ). Эта зависимость показана на
рис. ГО.З (кривая 3). Как мы «доказали», кривые ।
; для автокорреляционного приема должны прохо-
. дить выше кривой 3. Для сравнения на этом же
' рисунке представлена кривая 4 вероятности оши-
бок при оптимальном некогерентном приеме сиг- (
налов с двоичной ФРМ.
। Сравнивая кривые 3 и 4, можно сделать весьма
неутешительные выводы относительно автокорре- ;.
ляционного приема. Действительно, оптимальный
некогерентный прием с ФРМ очень мало отличает-
ся' по помехоустойчивости от когерентного, .(кри-
вая 2). При вероятностях ошибки примерно 10~а и
. ниже оптимальный некогерентный прием проигры-
1 вает когерентному всего лишь около 0,5 дБ. Что
,^же касается автокорреляционного приема, то уже
по оценке, изображаемой кривой 3, он проигрыва- 1
ет 3 дБ когерентному приему с ФМ, или (при I
<10~3) 2,5. дБ когерентному приему с ФРМ, или ,
около 2 дБ и более оптимальному некогерентному ,
приему с ФРМ. Теперь можно ответить на постар-
ленный выше вопрос.
Если проектируемая система передачи инфор-
мации. нуждается в экономии энергии, то, конечно,!’
лучше пойти на некоторое усложнение схемы, что-
бы сократить требуемую мощность на, 2 дБ, т. е.„
' примерно на. 40%'. Заметим, что, по! оценке амери- -
канского ученого Е. Р. Берлекемпа, в системах
.. космической связи 1 дБ стоит! примерно 1 млн. дол.!
Если же система не потребляет большой энергии
(например, в проводной связи), то на первый план
выступают соображения простоты и дешевизны
аппаратуры и здесь схема автокорреляционного
приема предпочтительнее.
Все это так. Но уместно вспомнить, что сущест-
вует точное решение задачи о вероятности ошибок
при автокорреляционном- приеме для целочислен-
ных значений FT. Соответствующая формула, по-
лученная Р. Э. Гутом и М. Я. Лесманом, приведе-
на в книге [28]ГПо этой формуле на рис. 10.3 по-
строены кривые 5, 6 и 7 для значений FT
соответственно 2, 3 и 5. Мы, конечно, ожидали,
что они пройдут выше кривой 3, как это следует
из неравенства (10.26). Но, к сожалению (или,
скорее, к счастью), это не так. При тех вероятно-
стях ошибок, которые соответствуют удовлетвори-,
тельному или хорошему качеству приема, эти три.
кривые проходят ниже кривой 3. В действитель-
ности проигрыш при переходе от оптимального
некогерентного приема ФРМ к автокорреляцией-; ।
ному, составляет не 2 дБ, а значительно меньше,
особенно при малых ip. Так, при р<10~3 и FT—2,i
проигрыш не превышает 0,6 дБ, а при р<10~4 и \
FT=3 0,8 дБ. При FT—5 проигрыш довольно ве-
лик, но все же для р<5-10-5 он.меньше 2 дБ.1
Итак, эти кривые полностью, опровергают нераг
венство (10.26), полученное с помощью таких прос-;.
тых и красивых рассужденйй.'Где же в них ошиб-’
ка?
Найти ошибку нетрудно. Очевидно, отбрасыва-
ние !03 ведет, по крайней мере при малых FT, не ;
к уменьшению, а к увеличению вероятности оши-
бок. Удивительного в этом ничего нет, так как слу-
чайная величина 03 коррелирована с 0! и 02, что
202 ' ’ ' , ( 1 ' ' ' <
при выводе (10.26) не учитывалось1. Попытаемся
наглядно пояснить, почему учет 63 может не уве-
личивать, а уменьшать вероятность ошибки.
'Будем полагать, что величина FT невелика
: (скажем, 2 или 3). В этих условиях шум, прошед-
ший через фильтр, можно рассматривать как ква-
энгармонический случайный процесс со средней
. . частотой ©о:
1 (/) =a(t) cos [сооН-ф (0 ],
(10.27)
‘ где а(0>0 и ф(/) —относительно медленно меня-
’ ющиеся случайные процессы.
Рассмотрим вначале случай, когда передается
символ у„=0. В этом случае и первый
член в (10.24) положителен. Ошибка произойдет,
если 01+92+0з<—0,5Л2Т. Не будем пока учиты-
вать 0g. Очевидно, что условие будет скорее всего
выполняться, если и 01 и 02 отрицательны и до-
статочно велики по абсолютной величине. Из
(10.25) и (10.27) видно, что это может иметь мес-
то, когда на интервале от (п—2) Т до пТ помеха
противоположна по фазе сигналам, т. е. значения
ф(0 остаются близкими к —|(т]гал+ф)- Но при
! этом из (10.25) следует, что 0з>О. Таким обра-
. зом, в условиях, когда имеется опасность возник-
новения ошибки, 0з имеет знак, противоположный
знаку 01 и 02, так'что |01+02+0з| < | 01+021- Сле-
довательно, пренебрегая величиной 03, мы не за-
низили, а завысили вероятность ошибки.
1 Такую ошибку чуть не сделал автор, когда писал
। свою диссертацию, но вовремя одумался и, убедившись в
4 : нестрогости рассуждений, выбросил этот раздел. Затем эта
J же ошибка была обнаружена им и исправлена в одной ру-
; копией. Не так давно такой же «вывод» излагал один пре-
подаватель студентам на лекции.
203
Аналогичный результат получается при переда-
че символа у„=1. В этом случае и пер-
вый член в (10.24)-отрицателен. Ошибка произой- ,
дет, если 91-Н)2+0з>0,5А2Г> очевидно,^что чаще ।,
всего при !0г>О и 02>О.
Пусть для определенности т)п=0, = Тог-
да из (10.25)'и (10,27) видно, что 01>О, если.ф(/)
на интервале от (и—2)Т до (и—1)7 близко к
я4*ф, а 02>0, если ф(/) иа интервале от (п—4)7/
до пТ близко к <р. Отсюда следует, что 0з<О,1 т. е.
'И в этом случае знак 0з противоположен знаку / '
01 и 02.! '
Таким образом, шумова'я составляющая 0з, как
правило, не увеличивает, а уменьшает веррятность ।
ошибок, как бы компенсируя действие 0i~TO2. Ко-^
нечно, при более широкой полосе пропускания
входного фильтра, когда ф(/) довольно быстро из-
меняется на тактовом интервале, такая компенса-
ция не столь выражена. Поэтому при 7?71>1О не-
равенство (10.26) действительно имеет место (28].
В научных исследованиях интуитивные сообра-
жения обычно полезны. Они помогают нащупать
путь к решению задачи, а иногда и предугадать
его. Но иногда они уводят в сторону от истины.
। Поэтому нужно «сохранять бдительность» и на за-.
1 вершающем этапе исследования подкрепить все
рассуждения и выводы строгими доказательствами. ,'
' ! I I1!.
И. СВЯЗЬ С СОБРАТЬЯМИ ПО РАЗУМУ ' i . V
, । ... И звезда с звездою говорит.
11.1. ГОТОВЬТЕСЬ к МЕЖЦЛАНЕТНОИ СВЯЗИ5 j
. Внеземные цивилизации... Что может быть
увлекательнее задачи их поиска? iH, конечно, этот
/поиск, а затем1 и, установление связи-с ними|,|Мыс-'( !
М '' ’к Щ. , ! ! Щг "
А!Г/ г 'г щ щ
7 'i, 'i • i 1 л' 1 1
лится сейчас только с помощью электромагнит-
ных волн. В настоящее время в ряде стран, в том
числе и в Советском Союзе, проводятся система-
тические работы по поиску радиосигналов, которые,
может быть, посылаются с неведомых планет да-
леких галактик. Но обнаружить сигналы — это еще
только начало. Нужно научиться их понимать
и отвечать на них. О трудностях на этом пути хо-
рошо и образно рассказано в [32], и мы не будем
на них останавливаться. Предположим, что они
уже! позади — мы | научились хорошо понимать
друг друга, договорились о коде (на что уйдет не
одна сотня лет) -—и теперь задача состоит в том,
чтобы сообщить разумным существам планеты X
как можно более подробные сведения о человечест-
ве, его истории, современном состоянии и чаяниях.
Сколько на это потребуется времени?
Такой 1 вопрос
И. С. Шкловского
затрагивается в книге
[55, с. 266], где приводятся
следующие рассуждения: «Известно, что за всю
историю человеческой культуры было написано
около 100 млн. книг и рукописей. Будем считать
(условно), что средний объем одной книги — де-
сять авторских листов. Так как в одном авторском
листе содержится по существующим стандартам
40 тыс. печатных знаков, то полное количество тд-
ких знаков в 100 млн. книг будет 4-1013. Если каж-
дый знак кодировать в двоичной системе..., пол-
ное число знаков Iдвоичного кода, которое должно
- быть передано, будет порядка (1—2)-1014. Если
теперь полоса частот передающегося сигнала бу-
дет 1000 МГц,..., то потребуется 105 с, или всего
лишь немногим более суток, чтобы передать со-
держание всего, что когда-либо было написано
V; людьми!» I ' ’ , ' I- !
читателя.
'205
J । Такой результат, конечно,' поражает [
11 ! ! UL I ‘ ! i
। I ”
Подумать только: все то, что человечество нако-
пило за тысячи лет существования цивилизации,
можно передать за какие-то сутки. Хочется прекло-
ниться перед достижениями техники связи.
Однако не будем преждевременно радоваться.
В приведенной цитате вопрос рассмотрен только с
одной стороны— необходимой полосы частот в со-
ответствии с пределом Найквиста (см. гл. 5). Но
есть и много других проблем, в частности пробле-
ма энергетических ресурсов. Попробуем оценить
энергию, необходимую для передачи информации
примерно 1014 бит.
11.2. ПЕРЕДАЧА В ДИАПАЗОНЕ САНТИМЕТРОВЫХ
ВОЛН
I
Предположим, что единственной помехой при
приеме сигналов является тепловой шум. Пусть
приемник находится при температуре жидкого ге-
лия (около 4 К) и коэффициент шума его равен
единице. Средняя частота сигнала f около 1010 Гц,,
что соответствует длине волны Х=3 см. При этом
спектральная плотность теплового шума (Вт/Гц)
6,5 10 ~ 84 с п < Л-23 /1 1 1 \
° ehflkT __ 1e’.’is _ 1 ’’=0,2-Ю , (М-1)
Здесь /i=6,5-Ю-34 Дж-с — постоянная Планка;
k~ 1,38-10"23 Дж/К—’Постоянная Больцмана; Т —
абсолютная температура.
Поскольку в этих условиях hj^kT, то N^kT,
квантовыми эффектами можно полностью пре-
небречь, ai шум считать белым гауссовским. В этих
условиях пропускная способность канала связи на
единицу времени (бит/с) выражается известной
формулой Шеннона: • !
C=Flog(l+PnpM/^)<(PnPM/^)loge, (11.2) г
206 : : ' i н ; i
Где Р— ширина спектра сигнала; Рпрм — мощность
сигнала на входе приемника; Неравенство в (11.2)
следует из оценки Inx^x—1, в которой равенство
имеет место только при х=1.
Пусть на передачу ‘М бит затрачено tM секунд.
Тогда
M^CtM< (P^m/No)log е= (Ем/No).log е,
где Ем — энергия сигнала на входе приемника, не-
обходимая для передачи М бит информации, кото-
рая в соответствии с полученным неравенством
ограничена снизу величиной
';£M>Wo/loge. (11.3)
Подставляя сюда М=10’4 бит и> Nq—5,2Х
ХЮ-23 Вт/Гц, получим, что к приемнику на пла-
нете X необходимо подвести энергию сигнала, не
меньшую 5-10~9 Дж. 1 Если при этом /м=105 с
(около 28 ч), то мощность сигнала, подводимая к
f приемнику, Рпрм>5-10~14 Вт.
Перейдем теперь к передатчику. Мощность сиг-
। нала на входе приемника при распространении в
свободном пространстве
м РпРМ=РизлХ2О1О2/(4яг)2, (11.4)
где Ризл—’излучаемая мощность; г — расстояние
между передатчиком и приемником; Gi, G2 —ко-
эффициенты усиления передающей и приемной :
антенн соответственно.
К тому времени, когда удастся установить кон-
- такт с внеземными цивилизациями, радиотехника
. уйдет далеко вперед. Поэтому примем, что на вол-
не Z=3 см коэффициенты усиления антенн G’i =
’ =G2=106, что превышает сегодняшние возможно-
сти. Угол раствора диаграммы направленности
такой антенны около 20'. • i > ; .
207
Для того чтобы вычислить излучаемую мощ-
ность, недостает еще одного параметра — расстоя-
ния от Земли до планеты. Здесь можно, только
гадать, опираясь на высказывания специалистов.
В [32] приводится сводка* мнений различных уче-
ных, занимавшихся этой проблемой. Среднее рас-
стояние между двумя планетами, на которых^ су-,
ществует разумная и достаточно технически раз-'
। витая жизнь, по их оценкам колеблется от 10 (по
Билсу) до 1000 (по Хорнеру) световых лет. По
оценкам других ученых (Саган, Камерон, Опарин,
Фесенков, Шкловский) это расстояние ближе
.к 100 световым годам. Таким образом, разброс
оценок на два порядка. К тому же существует и
разброс истинных расстояний относительно,сред- •
него1. । 1
Предположим, что н,ам «повезло», и планета’ X '
находится всего лишь на расстоянии около 35 све-. г’
товых лет, т. е. 3-1019 см. Оценим необходимую
мощность излучения, подставив это значение в
. уравнение (11.4):
' _Л.рч(4Я)гг*
нз? “ ' ''
,== 109 МВт. 1 ...
’ ТДкую мощность могли бы дать 100 тысяч Крас- i.
ноярских ГЭС. Конечно, рассчитывать на получе- 1
। 1ние такой мощности радиоизлучения даже.] ’ререз!
- несколько столетий совершенно не, реально2. Д^аг
I । 1 Это писалось в-1 1977 г. В настоящее время оценки ,
стали еще - более пессимистичными. В1 частности, коренным
образом изменил свою точку зрения, чл.-кор. !АН СССР
И. С. Шкловский. । Г '
2 Следует заметить, что здесь1 речь идет о средней, а! ие
пиковой мощности,.- 'подводимой к антенне передатчика. Пи-
ковая мощность в .импульсном режиме, может на много '
порядков превышать среднюю. . 1 I
5-IO-1’-158-Ю3 * *’ п
9-10'.106. ~ Юхв Вт
вайте, однако, помечтаем. Проявим максимум оп-
р) тимизма и будем полагать, что мощности радио;
передатчиков для космической связи к моменту-
.установления контакта с планетой X достигнут
100 МВт, Тогда мощность принимаемого сигнала'
согласно формуле (11.4} будет около 5-10~21 Вт.
Так как для передачи информации в 10й бит нуж-
но довести до приемника 5-10~9 Дж, то на это
уйдет /м~5-10~9/5-10-21=1012 с»30000 лет, т. е.
в <3 раза больше тех ста веков, в течение которых
человечество добывало и создавало эту информа-
,Г. ~ цию! ' ;
11.3. СВЯЗЬ В ОПТИЧЕСКОМ ДИАПАЗОНЕ
Нельзя ли, однако, получить более обнадежи-
вающие результаты, выбирая другие параметры
. системы связи? L !
Конечно, можно уменьшить требуемую мощ-
ность (или требуемое время при данной мощно-
сти), снижая температуру приемника. Если сни-
зить ее от| 4 К, скажем, до 0,4 К, то все получен-!
ные цифры уменьшатся в 10. раз. Но это умень- ।
шение вряд ли можно считать существенным. На-
^деяться на еще большее снижение температуры не
। реально. • । i.
ii - |Глядя'на формулу (11.4), можно подумать, что
| -к желаемым результатам приведет увеличение
i ухлины! волны, но это только кажется. При увели-
I чении длины волны уменьшатся коэффициенты
j . усиления антенн (при тех же размерах и сложно-
му сти) и в результате уменьшится числитель. Но мо-
жет быть лучше не удлинять, а укорачивать волну? .
Действительно, этот путь кажется iперспективным.
.Дело в том, что при этом не только можно увели-
чить направленность излучения, - но, как следует
рГ' 14—3413“ ' ,| ,-J ! 209
г ' - i4'". - .! "
ш
из формулы (11.1), и уменьшить интенсивность
теплового шума.
Уменьшим, скажем, длину волны в 50 000 раз,,
взяв Л=6-10_5 см, что. соответствует видимому
свету1, и применим в качестве передатчика сверх-
мощный лазер, который сейчас еще не существует,
но, несомненно,.будет построен к моменту органи-
зации связи с планетой X. Тогда f=5-1014 Гц, и
даже при комнатной температуре (ТлЗОО К)
hf/kT хЛо3, и из формулы (И.1) получим No~
л;5-10-103 Вт/Гц, т. е. примерно в 108lJ раз мень-
ше, чем в предыдущем примере. Это значит, что
во столько же раз уменьшится требуемая мощ-
ность сигнала? Тогда для передачи «всей» инфор-
мации за сутки вместо 1015 Вт потребуется всего
лишь 10’65 Вт? Зачем же тогда говорить о сверх-
мощном лазере? Ведь самый маломощный из су-
ществующих лазеров обеспечивает несравненно
! большую мощность.
К сожалению, это не так. Действительно, при
Т=300 . к тепловой шум на частоте 5-1014 Гц
практически полностью отсутствует. Но зато необ-
ходимо i учитывать ошибки, возникающие из-за
квантовой структуры излучения. Дело в том, что
для передачи определенного объема информации
необходимо, грубо говоря, послать достаточное ко-
। личество фотонов. i
Разберемся в этом примере подробнее. ! Для
1 идеального квантового канала, в котором не су-
ществует тепловых шумов и поглощения фотонов,
-------------- ' ; ( ;
' ' - И
1 Применять еще i более короткие волны удастся только
в том случае, если передатчик будет вынесен за пределы
земной атмосферы, сильно поглощающей ультрафиолетовое
излучение. ;
210 i г.. -i
- в [25] получено приближенное выражение про- .
пускной способности (бит на степень свободы)
-C«n[l+ln(l/n)]loge«nlog(l/n), (И-5)
где п—'среднее число (по ансамблю сигналов) ре-
гистрируемых фотонов
Для того чтобы найти максимальное количест-
во информации, которое может ,быть передано в
полосе частот F за время tM, поскольку число сте-
пеней свободы с учетом двух квадратурных со-
ставляющих и двух составляющих поляризации
равно 4FtM, нужно умножить С на эту величину.
Пусть полоса F составляет 20% от несущей f, т. е.
/?=Ю14 Гц. Для того чтобы передать 1014 бит ин-
формации, необходимо затратить время Дг и число
фотонов 4FtMn, удовлетворяющие уравнению
4f/Mnlog(l/n)=M=1014. (11.6)
Задаваясь различными значениями tM, решаем
это уравнение (что легко сделать методом итера-
ций с помощью микрокалькулятора) и находим
соответствующее значение й. Мощность принимае-
мого сигнала равна энергии фотонов, приходящих
; в 1 с:
'PnpM=4Fnhf. . (11.7)
1 Выражение (11.5) имеет максимум при й=е-1, но оно
выведено в предположении й<С1. В той области значе-
ний п, для которой оно справедливо, пропускная способ-
ность монотонно возрастает прн увеличении п. Заметим во
избежание недоразумений, что, хотя общее число фотонов
всегда целое, среднее число фотонов на степень свободы
i (например, при одной моде за 1 с в полосе 1 Гц) может
быть дробным и, в частности, много меньше' единицы. • Это
просто означает, что, например, в полосе 1 ГГц фотоны ре-
гистрируются значительно реже чем 109 раз в секунду.
14* . Д 211
Излучаемая мощность связана с принимаемой
мощностью формулой (111.4), которую удобнее щля
оптического диапазона представить в следующем
виде: |'i . •'
Р при — (s\s2/r2k2)^PИЗЛ> • (11 *8)
где Si, S2— площади передающей и приемной «ан-
тенн» соответственно (в данном случае, это, по-ви-
I димому, площади зеркал телескопов); т] —коэффи-
циент, учитывающий поглощение света в оптиче-
i ской системе, атмосфере, приемном устройстве.
Оставаясь на почве, близкой к реальности, бу-
дем считать, что площадь зеркала телескопа Si—
=S2=I06 см2 (т. е. диаметр зеркала немного
больше 11 м). Коэффициент ц обычно не превы-
шает 0,01.
Объединяя-формулы (11.7) и (11.8) и учиты-
вая, что f=c/X (где с—3-1Q10 см/с — скорость
света) и /1=6,5-10~34 Вт • с2,, получаем: /
Pa3n=4Fnhc^r2/(SiS2i]), । (1.1.9)
или при г=3-1019 см, 1=6-10-5 см и SiS|2r]=
=1010 см4, РИзл=4,2-1016гё. ! (
' ТаблццаП.1
п Лзл- Вт . ' Вт*с М
1 Ч ! 3600h ' г 3,86-10“в 1,626-10" 5,85-10"
1 сут 86400 1,26-10-’ 5,31.-10» 4,59-10"
1 мес 2,6,-10*. 3,43-10-» 11,44- 10s 3,74-10"
1 год .3,11-10’ 2,52-110-10 !1,06-10’ 3,30-10"
10 лет 3,11 >10»г 2,27.10-'’ 9,56-Ю5 2,97-10"
100 лет 3,'1.1-10» 2,07-10-'»! 8,72-104 2,71Р 10"
1000 лет )3,11-10»Р । 1,90-10-'»’ 8,00-Ю3 2,49'-10"
212
I
' Полученные результаты сведем 1в табл. 11.1. В
последнем столбце указана полная энергия, необ-
ходимая длян передачи всей информации, которая
в квантовом канале, в отличие от идеального
«классического», не остается постоянной, а возра-
стает с увеличением скорости передачи.
Таким образом, чтобы передать всю накоплен-
ную человечеством информацию даже не за сутки,
а за месяц, потребовалась бы немыслимая средняя
мощность излучения лазера 144 МВт. При средней
мощности излучения 8 кВт передача займет
1000 лет.
Эти результаты лучше, чем для волны 3 см,
однако и они свидетельствуют о невозможности
передать 1014 бит за время, меньшее жизни не-
скольких поколений людей на Земле.
I
11.4. ГДЕ ВЫХОД? ! .
Нельзя ли, однако, выбрать такие параметры
системы связи, чтобы передать 1014 бит информа-
ции если не за сутки, то все же за приемлемый
отрезок времени, используя более; или менее ре-
альную мощность излучения? Чтобы ответить на
этот вопрос, рассмотрим произведение Ем~Риалам,
равное общей излученной энергии. Из (11.5) и
(11.9) можно получить
E.M=Mhr2c7./(SlS2^ logn-1). (НЛО)
Эту энергию можно снизить, увеличив Si, S2 и
и; уменьшив X. Что, касается площадей антенн S,
то трудно надеяться на. возможность их сущест-
венного увеличения. Коэффициент ц по своему
смыслу'!меньше единицы. Так что остается единст-
венный реальный путь — уменьшение
। i ' ( ' 213
Если задаться целью передать 1014 бит хотя бы
за 10 лет (т. е. tM—3-\0a с), излучая при этом
среднюю мощность, не превышающую 10s Вт, то
Pa3JltM—3-1013 Дж. В рассмотренном выше при-
мере при Z=6-10~5 см это произведение было по-
рядка 3-1014 Дж. Следовательно, можно добиться
цели, укоротив длину волны в 10 раз (до
6-10~6 см), т. е. перейдя в область очень корот-
ких ультрафиолетовых волн.
Итак, если мы ухитримся сделать ультрафио-
летовый лазер со средней мощностью излучения
100 кВт да установим его вместе с ультрафиоле-
товым телескопом с S=106 см2 на Луне (чтобы
избежать поглощения в атмосфере), то за 10 лет
мы сможем передать на планету X всю накоплен-
ную человечеством информацию.
Впрочем, есть более простой и разумный вы-
ход. Прежде всего не будем пытаться передать
все, что было когда-либо написано. Ведь немало
писалось и явных глупостей. Ограничимся, скажем,
для первого раза передачей Большой советской
энциклопедии, содержащей «всего лишь» около
109 бит. Затем вспомним, что если планета X на-
ходится на расстоянии 35 световых лет,, то ответ
на любое наше послание мы сможем получить
только через 70 лет. Поэтому нет никакого смысла
стараться уложиться в сутки и даже в 10 лет. А за
70 лет мы сможем передать нашу «сокращенную»
до 109 бит информацию даже на волне 3 см пере-
датчиком мощностью около 50 кВт или на волне
6-10-5 см с помощью лазера, излучающего не-
сколько ватт. К такой передаче мы можем при-
ступить в самое ближайшее время..’., если, конеч-
но, найдем планету X с разумными обитателями и
научимся донимать друг друга. ч
: 1 ’ I . ' ' ' !
214 , j
12. НЕМНОГО ИНФОРМАЦИЙ
С начала 1950-х гг. предприни-
маются попытки использовать поня-
тие информации (не имеющее пока
единого определения^, для объясне-
ния и описания самых разнообраз-
ных явлений и процессов.
БСЭ
12.1. ЧТО ТАКОЕ ИНФОРМАЦИЯ?
В некоторых учебниках дается следующее
определение информации: информация — совокуп-
ность сведений, подлежащих хранению, передаче,
обработке и использованию в человеческой дея-
тельности. Такое определение не' является пол-
ностью бесполезным, так как оно помогает студен-
ту. хотя бы смутно представить, 'о чем пойдет
речь. Но с точки зрения логики, оно бессмысленно.
Определяемое понятие (информация) здесь подме-
няется другим понятием (совокупностью сведе-
ний), которое само нуждается в определении.
Автор долго думал о том, как лучше опреде-
лить информацию, и, не придумав ничего хороше-
го, решил заглянуть в Большую советскую энци-
клопедию. Там он обнаружил фразу, приведенную
в эпиграфе.
1 Что же, не будем пока пытаться дать исчерпы-
вающее определение понятию информации. Будем
полагать, что читатель достаточно хорошо пред-
ставляет себе общий смысл этого слова в том
.виде., как оно понимается в современной науке.
Заметим, что 40—50 лет тому назад термина «ин-
формация» в современном значении вовсе не бы-
. ло, а под этим словом понимались в- основном, га- *
. зетные сообщения и справки.
Сейчас кажется странным и нецонятным, как
можно было в прошлом обходиться без современ- j
! i 215
НОГО понятия информаций. Ни П. Л. Шиллинг
(построивший 150 лет тому назад первый элект-
рический телеграфный аппарат), ни С. ^1орзе, ни
А. С. Попов не думали о том, что они занимаются
передачей ' информации. В наши дни понятие ин-
формации все больше проникает в различные'об-
ласти науки и техники. Мы знаем теперь, что
функция нервной системы человека и животных
заключается в хранении, передаче и обработке ин-
формации, мы говорим о генетической информа-
ции, об эстетической и т. д.
। Уже отмечалось [56], что два основных посту-
лата современной физики имеют информационную
. природу — постулат специальной теории относи-
тельности по существу заключаете^ bi том, что
информация не может передаваться в пррстранст-.
ве со скоростью, большей скорости-света, а соот-
ношение неопределенности, лежащее в основе
квантовой физики, определяет предел возможности
получения совместной информации о координате
частицы ш ее импульсе. К этому же можно доба-
I вить, что и второй принцип термрдинамики можно
трактовать как информационный,; если последова-
. цТельно руководствоваться идеей Л. Бриллюэна
, и [3] об информации как отрицательной энтропии
(негэнтропии). С этих позиций. ,смысл второго
принципа термодинамики -можно свести к. тому,
! г что информация о замкнутой (изолированной си-
стеме не возрастает — она остается постоянней
( при обратимых процессах, и убывает при необра-
тимых. । ' •' 1
Итак, важность понятия, информации не вызы-
( в ает сомнений, Обращаться с ней мы наудились,
в частности, умеем- 'вычислятьi количество, инфбр-
• мации. Что же касается ее определения, (то «пока»
' не будрм пытаться1|фегр сформулировать, . 1 Тем це
1216 ? А. !-Н /л 'ШПГ 'С ' (
менее о сущности информации кое-что можно
' сказать.
На- наш взгляд, правильно считать информа-
цию атрибутом материи [43]. Она отражает взаи-
'мосвязь и взаимозависимость явлений и сущест-
| вующее во Вселенной разнообразие. Исходя из
' этого представления, можно обсудить некоторые
свойства информации, по поводу которых еще не
существует единой установившейся точки зрения.
12.2. ОБЪЕКТИВНОСТЬ ИНФОРМАЦИИ
л Не так давно мне пришлось выдержать боль-
шой спор со своим коллегой и другом С. Ю. Воз-
бинасом. Он определяет информацию как реали-
зованную субъектом возможность отображать,
'реагировать на раздражения, воспринимать, по-
( . . знавать объект. Под субъектом здесь понимается
обязательно живое существо. Вне жизни, полага-
ет Возбинас, информации не существует. Для обо-
снования своей точки зрения он приводит много
- доводов и цитат из классиков. Тем не менее мне
. кажется, что такой подход обедняет понятие ин-
формации и лишает его объективности.
Я полагаю, что информация существует и
, .там, где жизнь отсутствует. Излучение звезды, на
’которой жизни нет, содержит информацию о ее
химическом составе, температуре, характере дви-
жения и т;' д. Если даже это излучение не достиг-
'нет ни одной планеты, на которой существуют ра-
Ф . зумные существа, интересующиеся - астрономией,
• эта информация, хотя никем не используемая,»
; объективно существует. Структура молекулы со-
1 держит информацию о кристаллической решетке,
С,реализуемую тогда, когда данное вещество кр и-
! I -"Ам ' ' -
ф f ’ .- 1 ' 1
? . ' !
сталлизуется, независимо от того, наблюдает ли
это явление живое существо или нет.
Сказанное здесь не противоречит тому обще-
известному факту, что с появлением жизни роль
информационных процессов неизмеримо возросла.
Они определяют поведение и эволюцию живых ор-
ганизмов.
Появление разумных существ определило но-
вый этап развития процессов передачи, хранения
и использования информации. В частности, появи-
лась возможность кодирования информации. Под
кодированием обычно понимают преобразование
сообщения в сигнал (или одного сигнала в дру-
гой), правила которого определяются не каким-
либо сходством, а условным соглашением (явным
или неявным) между передающим и принимаю-
щим информацию. Так, например, преобразование
текста в последовательность импульсов в теле-
графном аппарате является кодированием, а амп-
литудная модуляция кодированием не является.
С этой точки зрения речь представляет собой код,
с помощью которого обмениваются информацией
люди, говорящие на одном языке, тогда как соот-
в'етствие между химическим составом вещества и
его спектром излучения или поглощения не следу-
ет называть кодом, поскольку оно определено
физическими законами, а не условным соглашени-
ем. Впрочем, в общепринятой терминологии i это
различие не всегда соблюдается. Например, мы
говорим о генетическом коде, хотя соответствие
между тетрадами оснований в ДНК и аминокис-
лотами обусловлено не условным соглашением, а
естественными законами природы, может быть, не
полностью выявленными современной наукой.
123. О «ЗАКОНЕ СОХРАНЕНИЯ ИНФОРМАЦИИ»
< Вещество, энергия и информация нередко рас-
сматриваются как «три кита», на которых по-
строена Вселенная. Во всяком случае отрасли со-
временной техники легко могут быть подразделе-
ны на три направления, связанные с переработкой
и транспортированием вещества, энергии и инфор-
мации.
Относительно вещества и энергии давно из-
вестны законы сохранения, которые, впрочем, на
основе общей теории относительности объединя-
ются в единый закон. Относительно информации
такого общепризнанного закона нет. Не удиви-
тельно, что многие авторы пробуют сконструиро-
вать закон сохранения информации по аналогии
с другими законами сохранения.
Здесь необходимо упомянуть замечательную
книгу А. Реньи [33], третья часть которой напи-
сана в форме записок студента по теории инфор-
мации. Это позволило автору высказать идею за-
кона сохранения информации от имени начинаю-
щего студента, не заботясь о подыскании
убедительных доводов и доказательств, и предо-
ставить читателю догадываться, совпадает ли
точки зрения автора книги и его персонажа —
студента.
. Мне тоже не хотелось бы категорически выска-
зывать свое мнение по этому вопросу, хотя я
очень сомневаюсь в возможности и целесообраз-
ности формулировки закона сохранения информа-
ции. Во всяком случае, если такой закон и сущест-
вует, то его формулировка должна быть не очень
простой. В частности, потребуется уточнить, что
понимается под количеством информации.
’ Не так давно мне довелось прочесть афоризм
(автора его, к сожалению, , не помню) |«Если у
219
I
Меня есть яблоко, а у вас — другое яблоко й мы
обменяемся ими, то у каждого из нас по-прежне-
му будет по одному яблоку. Если у меня есть
^новость, а у вас —другая новость и мы .обменя-
емся ими, то у каждого из нас будет по '(две но-
вости». Отсюда видно, что с. сохранением инфор-
мации дело обстоит не так просто, как с сохране-
нием вещества или энергии.
По-видимому, для того цтобы । подогнать факты
под какую-то форму закона сохранения информа-
I ции, необходимо., положить, । что распространение
I информации (например, при издании книги боль-
шим тиражом)' не изменяет ее количества.' Для
; преодоления возникающих трудностей Л. Бриллю-
эн [3] вынужден был ввести понятия «живой» и
«мертвой» информации. .
Если говорить о конкретном «содержании ин-
' формации, выражаемой в виде взаимной инфор-
мации ЦХ, У) (информация< содержащаяся в X
относительно У), то можно привести много приме-
ров, противоречащих идее сохранения ' и показы-
вающих, что информация может исчезать и за-
рождаться.
Древнегреческий математик Аполлоний Перг-
ский (около 260—170 до н. э.) написал свой йна-
! менитый трактат о конических сечениях в восьми
книгах. Из них сохранилось семь, причем| три —
' только в арабском переводе. С)дра книга, по-види-
мому, безвозвратно утеряна. 'Следовательно,। ин-
формация о тексте этой книги утрачена. (
С другой ’ стороны, взаимная информация рож-
дается всегда, когда имеет место какое-то взаимо-
действие. Поток рентгеновских । лучей, пройдя через
легкие больного, приобретает информацию об их
г состоянии, которая затем частично выявляется на
флюоресцирующем экране. Согласно теории,’точ-
220 ; \ 'j । ’ ! ' ' ’ !!|' '!|
' У ! ‘ 1 . I li I ....-
но такое! же Количество информации об этом Пото- I
ке содержится в легких. Таким образом, факты
исчезновения и зарождения информации очевидны.
Впрочем, не все очевидное верно. Ведь «очевид-i
но», что количество5 воды в открытом стакане по-
степенно убывает, а летящая стрела в конце кон-
то в падает, однако 'законы сохранения вещества и
энергии неоспоримы.
Значительные трудности возникают и при по-
пытке сформулировать закон сохранения не для
взаимной информации, а для «собственной» ин- §
формации, или энтропии. В сущности энтропия
(в; теории информации) представляет собой потен-
циальную возможность данного случайного объек-
та (события, величины, процесса) содержать
информацию. Большой интерес до сих пор сохра-
няет подход, предложенный еще в 1956 г. Л. Брил-
люэном, основанный на взаимосвязи информаци-
онной и термодинамической энтропий. Этот подход
не привел- к формулировке нового закона сохране- ;
ния, однако позволил высказать соображения об
1 обобщении принципа Карно (второго закона тер-
модинамики) с учетом вносимой в систему инфор- •
мации. К сожалению, эти идеи, кажется, не полу-
чили дальнейшего достойного развития. ,
- '!
12.4. О ПОСТУЛАТАХ ТЕОРИИ ИНФОРМАЦИИ
Теория информации зародилась как математи-
, ческая теория связи.!- Именно так называлась
статья Шеннона [54, с. 243—332], в которой впер-
' вые сформулированы основные понятия и теоремы.
Конечно, понятие «связь» можноJ трактовать в
очень широком смысле, что и1, было1 сделано ! мно-
гими исследователями в различных областях на-
уки, например лингвистике, теоретической физике,
'экономике.'В ряде случаев дело сводится к меха- ,
I ' К - ] •-! ’’ ! i? IJK J 221’
ничёскому переносу Терминов теории информации,
иногда без ясного понимания их смысла. Возникла
опасность дискредитации основных идей теории
информации.
Первым, забившим тревогу по этому поводу,
был сам Шеннон [54, с. 667]. После его выступле-
ния поток публикации, в которых понятия теории
информации трактуются весьма расширительно, не-
сколько поредел. Однако до сих пор время от вре-
мени появляются работы, в которых идеи теории
1 информации применяются к самым различным
проблемам точных, естественных и гуманитарных
, наук. Следует признать, что многие содержат
весьма полезные и достаточно обоснованные ре-
зультаты. Наряду с этим появилось немало работ,
в которых подвергаются критике некоторые уже
ставшие классическими приложения теории инфор-
мации, в том числе и теории связи.
Оставим в стороне содержание этих работ, по-
пытаемся четко сформулировать условия (посту-
латы), при которых в теории информации иссле-
дуются системы связи. Некоторые,из этих1 условий
обычно подразумеваются, но далеко не всегда,
указываются в явном виде.
1. Источник сообщения осуществляет 'выбор ;
сообщения из некоторого множества с определен- j
ными вероятностями. ' ; ' i ; ;
2. Сообщения могут передаваться по каналу
связи в закодированном виде.. Кодированные со-
обицения образуют множество, являющееся взаим-
но однозначным отображением множества сооб-
щений 1. Правило декодирования известно, деко- ’
деру (записано в его программе). ( ;
1 Вообще говоря, кодирование может производиться и
неоднозначно. Важно, чтобы однозначно происходило1 деко-
дирование (в отсутствие шума). I I
222 ' ' ' р : ' ' ' ' !
3. Сообщения следуют друг за другом, причем
число сообщений, от которых зависит кодовый
символ (длина кодовых ограничений), может
быть скбль угодно большим.
4. Сообщение считается принятым верно, если
в результате декодирования оно может быть в точ-
ности восстановлено. При этом не учитывается,
сколько времени прошло с момента передачи со-
общения до момента окончания декодирования и
какова сложность операций кодирования и деко-
дирования.
5. Количество информации не зависит от смыс-
лового содержания сообщения, от его эмоциональ-
ного воздействия, полезности и даже от его отно-
шения к реальной действительности.
Из этих условий только первое сформулирова-
но четко в работе Шеннона, а также в большинст-
ве монографий по теории информации. Однако
легко убедиться, что нарушение любого из них
либо не позволяет определить количество инфор-
мации, либо существенно влияет на смысл теорем
кодирования Шеннона. Рассмотрим их по по-
рядку.
12.5. ПЕРВЫЕ ТРИ УСЛОВИЯ
На возможность Нарушения первого условия и
на затруднения в определении при этом количест-
ва информации, по-видимому, впервые указал
академик А. Н. Колмогоров [19]. В частности, он
писал: «...Практически можно считать, например,
вопрос об «энтропии» потока поздравительных те-
леграмм... корректно поставленным в его вероят-
ностной трактовке и при обычной замене вероят-
ностей , эмпирическими частотами... Но какой
реальный смысл имеет, например, говорить о «ко-
22?
личестве информации», содержащейся в тексте
«Войны и мира»? Можно ли включить разумным
образом этот роман в совокупность «возможных
романов», да еще постулировать существование в
этой совокупности некоторого распределения ве-
роятностей?...»
Существуют . и другие ситуации, . в которых
трудно говорить о каких-либо вероятностях. В ра-.
боте [56], содержащей немало глубоких мыслей,
отмечается, что нельзя задать вероятность появле-
ния самолета над данным районом. Поэтому нель-
зя определить и энтропию сообщения, выдаваемо-
го радиолокационной _ станцией обнаружения.
Вряд ли с этим утверждением можно безогово-
рочно согласиться (см. ниже).
В упомянутой работе А. Н. Колмогорова наме-
чаются некоторые пути определения количества
информации без использования понятия вероят;
ности. К сожалению, эти идеи не получили даль-
нейшего развития.
. Второе условие обычно выполняется в систе-
мах связи. Однако существуют ' ситуации, когда
правило декодирования получателю неизвестно.
Одна из них возникает при приеме шифрованного
сообщения, если принцип шифрования или хотя
бы использованный ключ неизвестны (этому воп-
''росу, между прочим, посвящена работа Шенно-
на [54, с. 333—402])'. Другой пример относится
к связи с инопланетными цивилизациями. Сможем ..
ли мы обмениваться с ними .информацией, не дого-_
ворившись заранее о коде? ! ' ’
В 1967 г. в обсерватории Кембриджского уни- ‘
верситетаЬпри изучении космических радиоизлу-
чений на частотах порядка 100 МГц обнаружили
периодическую’ последовательность, коротких ра-
диоимпульсов, приходящих из одной точди Галак-
тики. Эти импульсы имели чрезвычайно стабиль-
ный период следования — немного; больше 1 с. Они
настолько отличались от обычных излучений кос-
мических объектов, имеющих характер гауссов-
ского шума с неравномерным спектром, и так по-
ходили на сигналы земных радиомаяков, что в
первый момент обнаруживший , их проф. Хьюиш
не сомневался в том, что принял сигналы, посылае-
мые разумными существами. Именно поэтому он
не торопился с публикацией и продолжал изучать
эти импульсы. Оказалось, что таких источников
радиоимпульсов (пульсаров) существует довольно
много, и вскоре появилось несколько гипотез об
их природе, объясняющих периодичность и другие
особенности импульсов без предположения об уча-
.стии в этом инопланетных цивилизаций. В настоя-
щее время считается, что пульсары — это быстро
вращающиеся нейтронные звезды.
= Но давайте пофантазируем. Предположим, что
обнаружено космическое излучение, представляю-
щее последовательность импульсов (единиц) и
пауз (нулей), например, такого характера:
000100100011010001010110011110001001 ит. д.
На первый взгляд это довольно, хаотическая
последовательность. Однако, разбив эти символы
на группы по четыре, легко обнаружить, что они
представляют двоичную четырехразрядную запись
последовательности натуральных чисел 1, 2, 3, 4,
5, 6, 7, 8, 9,
Можно ли утверждать, что это излучение по- i
сылается разумными существами?
Оценить вероятность такой гипотезы невозмож-
но хотя бы потому, что об априорных вероятностях
существования цивилизации в некотором участке ।
Галактики нам, в сущности, ничего неизвестно.
Можно, однако, говорить . о правдоподобии этой
15-3413= 'I ' • ’ ~'~i , 225
’ Г । ‘ ' i ' < 1 ’ ! ! , "
' I .i ’ ! ‘ ।
гипотезы, которое довольно? велико, так как если
^предположить существование инопланетных! ipa-
зумных существ, которые хотят установить кон-
I, такт с «собратьями по разуму», то с’большой ве-
! fl1 роятностью ряц ’ пошлют именно такого рода. сиг-
' налы. ТJП ;Пг J; Г“ ' + !и '< .. .
(Вполне возможно, что будет высказана и про-
тивоположная гипотеза о «неразумном» происхож-
•, ! дении этого излучения, но'если не будет найдено
никакого правдоподобного объяснения возникнет
вения такой последовательности импульсов в ре-
зультате физических процессов,1 то можно будет
утверждать, что мы извлекли из I кодированного
сигнала информацию; oi существовании внеземной
цивилизации, не договорившись заранее о коде.
В [32 и 55] ’ рассказывается об эксперименте,
проведенном на радиоастрономической конферен-
ции в Грин Бэнк (США), где участникам фаздалй
ленты с последовательностью нулей и единиц ^и
предложили расшифровать эту «запись сигнала из
космоса». Большинство участников' успешно спра-
вилось с этой задачей, догадавшись, что они име-
ют дело с1 разверткой изображения ! на. плоскости.
Восстановив это изображение и проявив еще мно-
। го догадливости, они могли судить об облике
существ, пославших сигнал, об их (планетной си-
с етеме' и о' многом другом.> Это (тоже подтверждает,!
: (что, не' договариваясь о Коде, ;мод<но извлекать ин-
1 формацию из сигнала. it’ 7 ? Ц J ,!Г|
( Еще!;Пример. Исследуя спектр излучения ввез-,
^Д 'ды, мы ’извлекаем' информацию о iee химическом !
! 'составе, температуре, скорости (движения относи-
тельно Солнечной системы, магнитном поле и т. ‘ ’
И все это тоже без договоренности о коде.’ !f f'i!
у Можно।привести еще ряд примеров «раскрытия,
! цйкрда»,. ^ачиная^! or!известного; рассказа! Эд^аг|а|.'Ш
i 'i И''*7 4 (';! V ''J'’ ’ 'К.'Л H Ci .
«Золотой жук»: и Кончая раскрытием генетическо-
го кода, которое считается одним из крупнейших i ’
достижений современной науки. Все они, однако,
не позволяют утверждать, что кодированное сооб-
щение всегда, может быть декодировано без пред-
варительного знания кода. Во всяком случае в тео- ,
ремах кодирования теории* информации предпола-
гается, что при декодировании код известен, и без
.этого предположения они теряют смысл. 1
'/ Третье условие также совершенно необходимо 1
..для применения; теорем кодирования, поскольку'
они имеют асимптотический смысл. К автору не-
однократно обращались за советами такого харак-
тера: как закодировать сообщение, содержащее
всего лишь 10 бит, чтобы оно было принято верно .
с вероятностью 1—1*10-ё, если вероятность ошиб-
ки в канале без памяти р/равна ,10“?, а передать
.можно це более 20 двоичных символов. В ответ
автор только разводил/руками и признавался ,в
своем бессилии. /’ I । и
— Как же так? — возмущался спрашиваю-, .
щнй.— Ведь пропускная способность двоичного,
- симметричного канала равна 14-plogp-J- (1— д
—p)lpg(l—р), что составляет при р=10~2 более; !
’0,9 бит на символ. Следовательно, по теореме ко- ।
дировання достаточно иметь хоть немного более
10%: избыточных символов, чтобы декодировать; ;
со сколь угодно малой вероятностью ошибки. , ’
- А я допускаю даже 5Р% —10 избыточных симво-: J
лов из 20. Вероятно, вы просто не знаете хоро-
ших'кодов.1! ’ / ; ; ‘ / Л /
, ! । Что можно на это возразить? Конечно,^ если бы
длина кодового блока: была 200 при 100 инфбрма-
*! 'цйонных сигналах, то задача: решалась бы дегко. и i
, Можно: было бы, I иапример|, применить линейный /
!/код (200, Ю0)(, полученный удррочецием БЧХ।(255, !
15* ’ Л _!' Ш/ Д ;г' " '! 227 1 ,
tbo) и позволяющий исправить до 13 ошибок в
блоке. Тогда при вероятность ошибочного
1 ^декодирования была бы около 1,52 •10~7. В данном
! же случае, если даже ! выторговать у 'заказчика
еще один проверочный символ, лучшее, что можно
применить,— это укороченный код Голея (21, 10),
который в заданных условиях позволяет получить
। вероятность ошибочного декодирования около
*6,32-10~5, т, е. в 63 раза больше допустимой.! Еще
хуже будет в канале с памятью, хотя его про-
пускная способность и выше: асимптотика прояв-
ляется лишь при длине! кода, превышающей интер-
вал сильной корреляции между ошибками.
12.6. ИНФОРМАЦИЯ И ВРЕД1Я ; ।
В четвертом условии самым важным является
возможность задерживать сообщения ' на сколь,
i угодно большое время.. Строго говоря, это условие
на; практике никогда не' выполняется. Даже позд-
' .равительная телеграмма, пришедшая через неделю
'.после, дня рождения, не доставит радости получа-
телю (правда,। такие । задержки вызываются обыч-
но'не процессами кодирования и декодирования,
а другими причинами). Однако нередки случаи,
когда и малые задержки недопустимы, что накла-
дывает ограничения на длину кода и не позволяет
в полной мере применить теоремы кодирования.
Это имеет место, например, при передаче инфор-
' мации в автоматизированных системах управле-
ния различными технологическими1 процессами.
В этих случаях обычно говррят о передаче в ре-
. альном масштабе времени Йо в понятия теории
' ! информации этот 'термин никак не вписывается,
! ( Следует особо отметить один вид сообщений, к
1 ^которому теория .информации, по-видимому, не
- 228; ’ ’ _ ! . ' 1 \
Применима из-за нарушения четвертого условия.
Это — сообщения, относящиеся к. самому времени.
Представьте, что с сигналами точного времени, пе-
редаваемыми сетью радиовещания, поступили так
же, как обычно поступают с различного рода
радиорепортажами, музыкальными передачами
и т.1 п.— сначала записали на пленку, а потом в
произвольный момент' времени воспроизвели. Ко-
нечно, такие сигналы никакой информации о вре-
мени уже не содержат. Поэтому кодирование
сигналов времени имеет свою специфику и не мо-
жет решаться теми же методами, что и кодирова-
ние обычной информации.
То же самое (хотя* и с некоторыми оговорками,
относящимися к периодичности) можно сказать о
передаче информации, необходимой для синхрони-
зации каких-либо процессов, в частности самого
процесса обработки и декодирования ! сигналов.
И 'хотя нетрудно вычислить количество информа-
ции, необходимое для синхронизма с заданной
. точностью, передавать ее необходимо с учетом
ее специфики. Это, конечно, не относится к «ци-
.кловой синхронизации», задачей которой являет-
ся не привязка к определенному моменту времени,
а указание на первый символ в блоке.
Интересно- с этой точки зрения рассмотреть
условия кодирования информации об обнаруже-
нии самолета радиолокационной ' станцией. Автор
работы [56] полагает, что невозможность задать
вероятность появления самолета над данным райо-
ном в данный отрезок времени препятствует при-
менению теории информации. , Однако всегда
можно приблизительно оценить эту'вероятность
снизу. Пусть, например, самолет, появляется в сред-
. нем один раз в 3 часа,1 а фиксировать момент появ-
ления-нужно с точностью до 1 с. Тогда вероятность
229
I , - 1 '
Появления самолета в данном секундном интервале
1Р<С,10^4 и энтропия источника не превышает Н—
, plogp—(1—p).log(l—pj/tel',5-Юг3 бит. Таково
, \ минимальное количество информации, которую тре-
( ’ буется .в «среднем передать! за! каждую, секунду.
! В сутках содержится '86 400 |(с. Пронумеруем их
! и будем в; конце каждых суток передавать номера
I секунд,’ в которые отмечалось появление' самолета.
, Для । передачи каждого .номера потребуется
' log 864ОО<17 бит. В среднем за сутки самолеты
< появляются 8 раз. Будем поларать, что число/по-
' явлений самолета распределено по Пуассону. Тог-
!, да с вероятностью 0,999 оно не превысит 18. Сле-
г довательно, можно’ передать информацию обо
всех • появлениях самолета за истекшие ||сутки ко-
довой последовательностью, (Содержащей 306 дво-
ичных символов. В пересчете на секунду это около
' i 0,0035 бит, что всего jлишь в ,2,3' раза превышает
! энтропию. ' । । i ' ।
I, , Можно, еще лучше сжать информацию и при-
близиться к предельному^ значению i скорости । пе-
редачи, если, посылать сообщения сразу за !10 сут.
Деда лишЬ|| Д том, что эта задержанная цнформа-
’ 1ция никакой ценности не представляет:’ о шоявле-
। нии ! самолета/ необходимо ./сообщить не,медленн|о.
; Итар,Т невозможность сжать информацию,’ лереда-
I ваемую, от радиолокационной станции, обусловли-
вается нарушением не цервогр, ''а четвертого; ус-
ловия’. " Й'. 1р ' '1, ||.. , р-
. !П Интересно было бы решить такую задачу. По
' каналу с шумом передаются,’измеренные значения
, некоторой функции времени.1' Получатель дружен
/’ знать, как^е,'значения принимает функция । ® каж-
/ !дый момент без Задержки. Если передавать сигна-
|' лы| без ’ помехоустойчивого , кодирования, то за-
I
I
I
I ! I 1 h
держка будет очень мала, н, экстраполируя и
принятый сигнал, получатель смог бы 'хорошо оце-
нивать нужные ему значения функции, если бы не. Ц
помехи, вносящие заметрые ошибки. Для защиты : ,
от э^их ошибок можно ввести помехоустойчивое '
кодирование. Но^тогда 'задержка сигнала значи- ! 1
дельно увеличится, ^экстраполировать придется на h
больший интервал времени и появятся одшбки
экстраполяции. Требуется найти оптимальный ме-
тод кодирования, минимизирующий суммарную
ошибку от помех и экстраполяции. Решение, ко- ।
нечно, должно зависеть от характеристик канала i j;
и корреляционной функции передаваемого сооб- :
щения. Оно представило бы серьезный вклад в !
построение раздела теории связи, посвященного
передаче стареющей (информации. ,
! • f ' I ' ' ' ' , ! 1
12.7. СЕМАНТИЧЕСКАЯ ’ ИНФОРМАЦИЯ I
' - - ''I , '• ? ;
. Пятое условие относится не к применимости
теорем кодирования, а к самому определению ко-
личества информации. Оно является совершенно
естественным для систем связи. В самом деле, ,
инженеру, проектирующему, строящему или экс- ';
плуатирующему, например, телегр-афную систему, I
необходимо обеспечить передачу всех । возможных 5
. телеграмм независим^ от того, радостные они или
печальные, относятся' ли к .важнейшим политиче- (
ским событиям, крупным научным открытием или I
сообщают! о приезде' тети Маши. В задачу- инже-
«ера-связиста вовсе ‘1не, входит проверять, соответ-
ствует ли действительности телеграмма о том, что
тов. Иванов заболел и не может рерцуться в срок
из отпуска. Его интересует чисто1 количественный
.аспект информации,' определяющий в конечном
и полосу частот, необходимые для ее передачи.
, Когда же понятие ««информация^ пытаются
применить к области гуманитарных наук, в част-
ности к языкознанию,1 то неизбежно всплывают
вопросы о семантическом (смысловом) содержа-
нии. К счастью, в классической .теории информа-
ции имеются понятия, хорошо приспособленные
для установления количественных соотношений! с
учетом смыслового содержания сообщений. К та-
ким понятиям в первую очередь относятся взаим-
ная информация, Цх, у) и условная; взаимная
информация I(x, у] z). i
. Пусть У — множество событий у, связанных
между собой некоторым смысловым содержани-
ем, а х—сообщение. Тогда /(х, у) представляет
собой количество информации, содержащейся в
х относительно события у. Если известны вероят<
ности р(х), р(у), р(х, у}, то 1(х, у\-=
= log{p(x? у)/[р(х)р(у)]}. Математическое ожи-
дание этой величины по совместному ансамблю
XY называется средней взаимной информацией и.
обозначается 1(Х, У). В отличие от энтропии
Н(Х), которую можно рассматривать как сред-
нюю информацию 7{Х, X), «содержащуюся в сооб-
щении х относительно самого себя, и которая ни-
как не связана со смысловым содержанием х,
а только с распределениями вероятностей на мно-
жестве сообщений, величина, 7(х, у) зависит от
« смысла у. Так, одно и то же газетное сообщение
/может содержать очень много информации о ходе
чемпионата по футболу, очень ! мало информации
о погоде и никакой информации о политических
событиях в мире. :
: Величина 1 f(x, «t/|z)==log{p(x, y|z)/[p(x|z)X
Xp(p|z)]} может иметь различную интерпретацию;
' в. частности, ее «можно трактовать как' информа-
«’?3? ' , ; ? . г/ J , 'и ! !
цйю, содержащуюся в сообщении х относительно
событий у, при условии, что получателю доступна
/информация, . содержащаяся в z. Математическое !
ожидание этой величины по совместному ансамб-
лю XYZ ‘называется средней взаимной условной
информацией ЦХ, Y\Z). Важно отметить, что зна-
чение ЦХ, Y\Z) .может быть как больше, так и
меньше ЦХ, У). Это легко показать на простых
примерах, « , 1 '
Пусть, например, x=y=z. Тогда, очевидно,
ЦХ, Y)=1(X, X)=H(X), тогда как ЦХ, Y\Z) =
— 0<ЦХ, У). Другой пример —пусть X—
— {О, 1}, У={0, 1}, Z— {0, 1}, причем у—х+
4-z(mod2). Если X и Z принимают значения 0 и ,
• 1 с равными вероятностями и Z не зависит от X, 1 ,
то легко убедиться, что и У не зависит от Д' и с
равными вероятностями принимает значения 0, 1.
Тогда, если Z неизвестно, X и' У независимы. По-
этому ЦХ, У) =0. Если же значение Z задано, то
У определяется по X однозначно и ЦХ, YIZ) —
=ff(X) = l, т. е. ЦХ, Y\Z)>I(X, У).
Таким образом, некоторые предварительные
щнания могут в одних случаях увеличивать, а в дру-
гих — уменьшать получаемую информацию. В этом
отношении условная взаимная информация отли-
вается от условной энтропии Н (X\Z), которая ни-
когда не может быть больше безусловной:
Н (X]Z)^H|(X), причем равенство имеет место
только при независимых X и Z. ;
К сожалению, понятия энтропии и взаимной ин-
формации- иногда путают. На этой почве возника- !
“Ют досадные недоразумения. Так, например, в
[56] доказывается, что понятия «классической» тео-
рии информации не применимы к «семантической» ,
теории информации, изучающей вопросы извлече-
ния смысла из сообщения.. Автор исходит из оче-
. 1 I Г 233
I
I видных положений: «... Человек, Изучавший неко-
) торую отрасль науки, извлечет (из специального
р (((текста по этой отрасли, вообще говоря, больше,
i ! чем до обучения*.,. Возьмем в качестве. примера
сообщения текст учебника по теории! вероятности
1 и и дадимт двум лицам — приемникам' ' информации:
д ! (школьнику третьего;(класса '.(.(. и, скажем,, студён-
* тугматематику, (который .знает анализ, осцовы ма-:
' I тематики, но нё изучал теории вероятностей. Кто
5 • ..из них! извлечет из эуого учебника больше ,инфор-
i , 'мации? Ответ ясен — получит больше'информации
'р (студент Л.' Конечно, встречается и обратная кар-
। ! тина,. когда количество Принимаемой информации
. ( уменьшается е увеличением априорного знания».
। ' Все это совершенно верно и может быть легко
описано в терминах теории информации. Пусть х—
текст учебника', у — сумма всех современных зна-
ний человечества о теории вероятностей,zi— все
сведения, хранящиеся в памяти' школьника, гатг
студента и'z3 — ученого, специалиста1 по теории ве-
* роятностей. Тогда, очевидно, I(x, . y\zi)<I(x,
\y\zz)>I(x, y[z3),;Т. е. с увеличением'объема зна-
। ний количество получаемой информации сначала
ji' l' возрастает, а затем убывает. И ничего, противоре-
чащего классической теории информации здесь нет.
i Однако в [56] говорится следующее: ^Заметим,
। , что эта । особенность (модели семантической инфор-
\1 мации существенно отличает ее от классической
.., теории информации ... В последней( увеличение
априорной информации (всегда уменьшает количе-
'<( Jctbo информации, извлекаемой (из данного сообще-
, ния». Последнее утверждение, как мы (видели, явно
" ; неверно'?'Объяснитьs его можно( только (тем, что '
' автор [56] спутал взаимную' информацию (инфор-
мацию. цз Вл ека ему ю из данного сообщения) с
энтропией (мерой; неопределенности, (или макси-
*> ( • ' ' ' '-J ;>. ' '( ( ( ' .* '
234 ; I Ji* Л" - ' L (-V ' i ii i. ч( ' . <(( ;.('- '
Г Г .,( I, ; I <|’( ' Ц’ I'
' I I ' ( . *' - ! I ( !' Д
I; 1 । i' V ♦ , I 1 ,!' -
! '! 1 I . , , ' ” С Д - ' (
I 1 ' I Г '
мальной информацией, которую можно из- (
влечь из сообщения). '
. (Следует отметить, что в работе [56] содержат- I s
ся |,и другие доводы об ограниченности .кЛассиче-^
ской теории информации. Некоторые из.. них спра- '
ведлнвы и заслуживают внимания.! Однако один ,
довод (так же, как й рассмотренный выше)осно- । ; ।
ван на недоразумении. Приведем еще одну цитату у
из той же работы: «Существует целый ряд ситуа-
ций, когда1яс!но, что для описания информации нуж- j
ны: характеристики ее содержания, а не статисти-
ческие свойства, связанные с частотой передачи тех ’ :
или иных сигналов. Это можно видеть уже, из сле-
дующего факта. статистической теории информа-. >-’•
ции чем. реже источник передает данный символ, J
тем. большее количество информации связано с 1
этим символом ^курсив мой —Л. Ф). Однако: хо- !
рошо известно, что в процессе^ понимания смысла
текста на, естественном языке редко встречающие-
', ся 'элементы несут'сравнительно малую долю ин- ,
/ формации?! Так, хорошо известно, что содержание
текста вполне понятно человеку, владеющему лишь и
: частью словаря данного языка, состоящей из’’ са-
мых 1 частых Слов, которые составляют меньшую
часть, языка». 1
Ошибочность утверждения, отмеченного курси- . *
I вомч ясна всякому, знакомому с теорией информа- '/
ции.'Действительно, пусть вероятность z-ro слова '
• ,в словаре равна pi. Средняя собственная информй- /
цид, или энтропия, на одно слово (если не учиты-
' вать связей между словами)’ равна —Spjogp,-, где ; I '
। суммирование производится по всем словам языка. ! ,
у ВклаЪ. i-ro слова в эту сумму определяется вели-
' чиной i—pj logpi, которая имеет максимум при р,= ,! /
д =е-1, а с уменьшением значения ’!' рг ^монотонно
убывает/Так' как; в дробом Естественном языке
- i /?' 1 X'j ' S ’ I4 Г J • '235 - ’И'
все рг<се-1, то отсюда следует, что наибольшая
часть информации связана с наиболее частыми сло-
вами, в полном соответствии с практикой. I
Мы далеки от мысли, что теория информации
Шеннона может без всякого переосмысливания и
дальнейшего.развития применяться ко всем вопро-
сам языкознания. Однако критика ее, содержащая-
ся в [56], в большей своей части необоснованна и
может только ввести в заблуждение. Читателей.
13. РАЗНОЕ
। j Нельзя объять необъятное.
। 1 ’Ji Козьму Прутков
13.1. ПРИМЕНЯЕТСЯ ЛИ НА ПРАКТИКЕ , i
ЧАСТОТНАЯ МОДУЛЯЦИЯ? 1 > t
Прежде всего, что такое частотная модуляция?
Просматривая, разные старые работы, с удивлени-
ем замечаешь, что подход к рассмотрению любой
модуляции претерпел за последние 20—30 лет глу-
бокие изменения. В настоящее время, говоря о том
или! ином виде модуляции, мы прежде всего рас-
I! а сматриваем требуемый конечный результат!.1 Так,
! например, при фазовой модуляции1 (ФМ) несуще-
го колебания Л cos ©of первичным сигналом х(?)
; требуется синтезировать сигнал
.$ (/)—Л cos [®о/-|-цх(/) ].
(13.1)
-При' частотной модуляции (ЧМ) синтезируется
сигнал ; s ; /' i ' . и . . /’
, .<;(/)—Леев [®0?-Н’4 (01 > i! (13.2)
где dty/dl==x(t\, И T. п. I ; ; ' : ; , !
Ь l! '’i ! . i-i. ' ' 'i ! ' ;'
! 236 . . п , ч- "Г : . л .
После того как сформулирована цель, можно
д ставить вопрос о схеме, позволяющей реализовать
такой синтез на практике.
Не так давно подход был другим. Все начина-,
: лось со схемы. В частности, ЧМ определялась как
операция воздействия сигнала x(t) на конденса-
тор । или катушку контура автогенератора, в ре-
' зультате емкость или индуктивность изменялась
по закону С(Л=СоЧ-АСх(Л, а затем доказыва-
лось, что получаемое колебание при определенных
условиях принимает в первом приближении фор-
1 му (13.2). При таком подходе модуляция путем
- изменения резонансной частоты контура автогене-
ратора всегда остается частотной независимо от
гу "' закона изменения резонансной частоты1.
Будем придерживаться современного определе-
’ ния ЧМ и других видов угловой модуляции, в со-
ответствии с которым сигнал A cos Ф (#) считается
модулированным по частоте сигналом х(?) только
' в том случае, если и несколько
i уточним поставленный в заголовке вопрос: находит
ли в настоящее время широкое применение ча-
стотная модуляция для передачи речи и музыки?
j Правильный ответ звучит неожиданно: в иа-
: । стоящее время частотная модуляция для передачи
: звуковых сообщений, в частности для радиовеща-
ния, почти никогда не применяется.
, Как же так?! — воскликнет читатель.!— У меня
есть приемник 1-го класса с УКВ диапазоном, спе-
циально предназначенным для приема высокока-
чественных ЧМ радиовещательных; программ.
; В моем телевизоре прием звукового сопровождения
’Ь ведется с помощью частотного детектора, значит*
’ Этот принцип классификации рекомендован. чяпр’г-
мер, в [35J. ' (" .
! Н - - ; ; ’ ' : •
I 4 • Д« -
передается оно путем частотной модуляции. Да. и
, в описании телевизора об этом говорится.. , ,
Р । Все это .верно, если частотной модуляцией назы-
вать! всякий вид модуляции, в котором мгновенная
частота изменяется и несет информацию! о пере-
даваемом сообщении.! Но*сейчас для' этого приме-
няется термин! «угловая модуляция», частотной же .
!, называется только та ее разновидность, при кото-
рой отклонения 'мгновенной частоты пропорцио-
нальны' первичному (низкочастотному), сигналу
x(t). Этому;соответствует' уравнение (13!.2). тогда!
1 как (13.1) определяет фазовую модуляцию. . ( !
В современных передатчиках с угловой моду- !
ляцией первичный сигнал воздействует на контур
задающего генератора, изменяя генерируемую ча-
стоту. Однако, первичный модулирующий сигнал , j
подается на управляющий элемент не непосредст- 4
венно, а через корректирующую цепь, выполняю-
! щую так называемую операцию предыскажения. .
Сущность ее, как обычно пишут, заключается в. ,
повышении усиления на верхних частотах спектра
, первичного сигнала. Принятый сигнал подвергает-,
' ся частотному детектированию,, после- чего !посту-1 *'
i пает на восстанавливающую цепь, которая снижа-
ет усиление на. верхних частотах, компенсируя тем \
' । самым предыскажения в передатчике. При прясне-. :
нии' 1этой'| последовательности1 обработки сигнала'
•| обычно говорят следующее. ! !( j ,
! На выходе частотного детектора !(ЧД) шум, как *
известно; I! имеет ! параболическую спектральную
! плотность мощности, так что. верхние частоты спек- * '
тра модулирующего сигнала сильнее поражены шу- н,
/ мом, чем нижние. С другой стороны, верхние ча-' д'
стоты речевого спектра менее мощны, но более
информативны, чем нижнее. Поэтому их важно пе- : * *
' редать какможно[вернее Для этого осуществляют ! j
‘ ’ ,11’, , U'. ; |Г"{ ,
> . - . ( .1 I ........... ,'j . Ч ‘
! Ц ! К !1 : Vi u 11 ' f 1 :
' ; ! Д 'HI - J 4 - ? 1 ,‘j! '! .1
предыскажения, поднимая1 * * мощность верхних ча-
, стот и повышая тем самы^! отношение спектраль- ; ।
ных'плотностей сигнал-шум на верхних'частотах, !
/конечно, за счет соответствующего! снижения отцо-.
шения ща низких(частотах. В восстанавливающей г;
цепи полученное отношение сохраняется, < а I исходу пр
ная форма спектра восстанавливается. '? ' . ' I
г ' Все как будто бы ясно. Впрочем, интересно, 1
сохраняется ли при этих операциях общее отноше- !
'ние мощностей сигнала и. помехи на выходе прием-
ника. Ведь на верхних частотах в результате'(пре-
дыскажения оно повысилось, а : на нижних — пони-
i вилось. Сохраняется ли общий баланс? И тут-то !
, указывается, что в системе с предыскажением и
и выравниванием суммарное! отношение мощностей
сигцал-помеха втрое хуже (!), че;м при отсутствии; р
предыскажений1. Почему же это выгодно?
. ! Все становится-значительно проще и яснее, если
подойти к этому вопросу с другой стороны. Ведь
’ обычное предыскажение (с повышением уровня на
6 дБ на октаву) есть не что иное, как дифференци-
, рование сигнала. Оказывается, что! да частотный
' 'модулятор, (ЧМ) подается не сигнал x(t), а на-
-ф пряжение, пропориональное его производной dxldt. 1
'.Поэтому мгновенная частота модулированного вто-1 j
ричного сигнала пропорциональна dx/dt, а значит, '
мгновенная начальная фаза пропорциональна x(t). I
1 (Следовательно, это модуляция фазовая, соответст-
вующая (13.1). И детектируется принятый сигнал’
в конечном счете по фазе — сначала 1ЧД>выделяет
напряжение, пропорциональное мгновенной часто- ?
тс, т. е. dxldt, а затем оно интегрируется в восста*; 5
1 См. сравнение/ выигрышей, систем ЧМ и
мер, в [15,। 18]. , г. । ' ; ' ,i,
I ’ ’ \ \ ‘ 1 • i , . ! .. * J . . г
ФМ, напри*
I ,
! 239
i
-навливающей цепи и в результате получается на-
• . пряжение, пропорциональное мгновенной фазе.
! г В более общем случае первичный сигнал х(/)
поступает на1 предыскажающий-фильтр, имеющий
некоторую , /заданную передаточную ! функцию
1 /C(ico), не обязательно равную или близкую к пе-
редаточной функции идеального дифференциатора
iaa>sgn (o. Видоизмененный этим фильтром первич-
ный сигнал y{t) модулирует вторичный сигнал по
/ частоте. При этом ни мгновенная фаза, ни мгно-
' венная частота не пропорциональны ^(^. следова-
тельно, получившаяся 'угловая модуляция не явля-
, *ется ни фазовой, ни частотной. .
В большинстве случаев в радиовещании и мно-
гоканальной' радиорелейной и спутниковой связи
с «частотной» модуляцией1 используют предыска-
жение, близкое к дифференцированию, так что по-
лучаемая угловая модуляция близка ' к: фазовой.
Причина этого в многоканальных системах ясна —
только при фазовой модуляции спектр гауссовского
шума на выходе детектора равномерен в полосе
частот модулирующего группового сигнала, и по-
этому во всех ТЧ каналах обеспечивается одина-
ковая помехоустойчивость. В случае радиовеща-
тельного сигнала важно: то обстоятельство, что для
обеспечения высокого качества верхние частоты ре-
чевого или музыкального сигнала должны превы-
' шат-ь уровень шума не !в меньшей степени, чем ।
нижние. ч
Итак, на вопрос, поставленный в заголовке раз-
одела, можно ответить отрицательно — в чистом ви-
1 де -частотная, модуляция практически не применя-
. 1 Имеется в виду частотная модуляция несущей груп-
повым сигналом, который может быть получен сложением
любым способом промодулированных /поднесущих (кана-
олов.тч). . ,, i' .. L.
’ 240' ' ! ; н: f V ' 1 ' . ! "
ется, а применяемая угловая модуляция в боль-
( шинстве случаев значительно ближе к фазовой, чем
к частотной. I ji 1
13.2. НЕМНОГО О БЕЛОМ ШУМЕ 7 .
Понятие «белый шум» математическое, а не фи-
зическое, так же как и дельта-функция Дирака.
Белый шум, по определению, имеет бесконечную
' дисперсию или, > другими словами, мощность. Су-
ществов.ацие источника белого шума даже со сколь1
. . угодно малой, но конечной спектральной плотно-
стью противоречит закону сохранения энергии.
К сожалению, об этом часто забывают. Таким
процессом с бесконечной дисперсией должно быть
с точки зрения классической (доквантовой) физи-
- ки излучение абсолютно черного тела. Именно это
обстоятельство побудило Макса Планка пересмот-,
реть представления классической электродинамики
и выдвинуть квантовую теорию, постулирующую
дискретность излучаемой энергии. С учетом кван-
товых явлений спектральная плотность мощности
j теплового шума зависит от частоты и на высоких
- частотах убывает.
Стационарный белый шум обычно определяют
как стационарный процесс с корреляционной функ- 1
цией Д(т) == (А^о/2)б(т), где No — односторонняя
спектральная плотность мощности, не зависящая от
-частоты. । ! •
Каковы распределения вероятностей белого шу-
ма? Этот вопрос, строго говоря, не имеет смысла.
Как отмечено в [24], «распределение вероятностей j
белого шума в обычном смысле не существует». V
Почему же тогда часто говорят о гауссовском• \!
белом шуме? i -г , '
Этот вопрос хорошо пояснен в [10]. Белый
шум £(/) ярляется обобщенным, процессом, кото.-
16—3413 ; J ' 241
( рый, как и обобщенная |функцияг получает реаль-
1! ный смысл только в подынтегральных выражениях
. ,!функционалов, причем ,!для ^всякой функции <g(t)
i1 и- i ii л м' 1 ' г '7-
I 1 i H3i' if'» интеграл; £ двля^тся,- 1 нр 1 о^р^де-
{{ 'лению, гауссовской величиной ,с ’нулевым , матема-
тическим и ожиданием ,, и дисперсией, равной
о» ! '' 1 J г н . и’?- с {
। , । O,5JVo £ g2(t)dt. Ютсюда< следует, что i
1 a ; !fL -I i 1 L । !•:'= Vi ; < Л-
I, -q(f) !C S(T)g(r—, li I1' И L-, ’ , : ПЗ.З)
1 1 - (—во, ‘ 1 । i ’ 1 '
является обычным стационарным гауссовским Шу-
! мом с конечной дисперсией и корреляционной, функ-
цией -I . ‘ ... ;
__________ ' °? " Н Ч ’ -
[gWgit + ^dt. 1 (1Д.4)
Таким образом, стационарный белый шум, прой-
1 дя через любую линейную цепь с достоянными па-
' раметрами, превращается в стационарный тауссов-
ский процесс. ‘ - । г г • i
। ! Обобщенный процесс ««нестационарный белый
шум» проще всего! определяется как произведение
стационарного белого шума на детерминированную
i : функцию. I . г • > . т I '/
|! Можно определить! ш другие обобщенные про-
1 цессы, имеющие {бесконечную дисперсию и дельто-
образную корреляционную .функцию и отличающие-
. ^;Нся от белого шума своим поредением в подынте-
' ;; ! тральных выражениях. Но, в современной !теории
связи успешно используется! только определенный
! ! । выше белый шум. ! и и ’ ' и 5 । l .i-' П
1<!, 'В’математических^ моделях с мелым шумом нуж-
, , j но,- обр ащаться; остррож но. Его цельзя, возводить
1 '{Г "и-. 'Л
’!! .1. .1 •'! . ! ’ 1 > 1 '• s ' 1 ‘ 1 I I -|
I г Ч if г ' I Г'1 II ' ! I I . 1 '"S ... ' 1 I Ч
.вквадрат, нельзя перемножать два белых шума от
одного аргумента и т. д. Такие операции лишены .
смысла так же,, кдк возведение в квадрат дельта-
функции. , ’ 1 Т
: II ' ' i ' ' ! . 1 !
f ' V . I I
13.3. СООБЩЕНИЯ И СИГНАЛЫ : 1 ' i - i-
. i- ' . 1 и jii li- ' 1, । ‘ ‘ 1! i ' । ,|'
Системы'связи I предназначены для передачи со-
общений, а фактически; передаются сигналы, содер- и
жащир информацию о сообщениях. Нередко-возни- । h i
кают споры о том,-что считать сигналом, а что— 1 ,
сообщением. Так, например, при радиотелефонной ’ 1
связи все согласны в том,! что модулированные;
электромагнитные колебания являются сигналом, ।
до о сообщении высказываются самые разные '
мнения. Одни считают сообщением низкочастотный i
-ток в цейи микрофона, другие—'звуковые колеба-
ния, воздействующие на микрофон, третьи—текст
речи,! четвертые — мысли, преобразуемое ' вначале
в речь, котовая рассматривается как первичный
сигнал, преобразуемый затем во вторичный сиг- ,
нал — микрофонный ток, затем в модулированное
напряжение, затем в электромагнитное поле,' с тем
чтобы в дальнейшем пройти всю эту цепь преоб-
разований в обратном порядке. ' ।
' । Для, теории эти споры не существенны, так как .
процессы передачи и; обработки информации мож- ; т,
но изучать,'не заботясь о том, что является сооб- .,
щеиием, а что сигналом. Однако для техники (Связи < ।
полезно уметь точно определить, что является со- ц и
общением, так как это помогает установить, пра-; /
вильные критерии для оценки качества и его улуч-,. !!
, шейия. I-! 1 11 ; ! -I । и
! В । этом отношении полезен следующий подход.' i
В любой системе связи существуют, источник и по- ' -
лучатель сообщения, которые, нетрудно определить. |
16* , " i , h 1 ’ , Г 243 ' h
I. ' ’ I .. I . --<77-7 11 I 1.'| _ г 1
II ! 1 ! '. ! -li ' ' I ' ' Н ' ' ' I
Тогда сообщением следует назвать то, что должно
быть с максимальной возможной точностью пере-
I । дано получателю. Сигналы же получателя совер-
шенно не интересуют, лишь бы они хорошо выпол-
нялр свою функцию — переносили ирформацию о
сообщении.: ! 1
В зависимости от назначения системы связи
сообщения ‘ могут иметь различный характер. При
телеграфной-связи в большинстве случаев!сообще-
нием, несомненно, является.тедст, т. е. последова-
тельность букв алфавита, нанесенных на бланк, но
отнюдь не сам бланк и не форма букв (почерк.
! । шрифт) и даже не размещение слов по строчкам
: j (если текст не стихотворный). При факсимильной
связи (даже если передаются не рисунки, а пись-
менные сообщения) получатель окажется неудов-
'летворенным, если ему сообщат только текст фо-
тотелеграммы. Он имеет право на большее — ви-
деть достаточно точную копию оригинала с сохра-
нением Формы букв и всех индивидуальных осо-
бенностей почерка ^отправителя. Поэтому сообще-
нием здесь является расположение белых и черных
элементов на бланке. При почтовой !связи получа-
телю должен быть вручен именно тот, листок бу-
маги, на котором написано письмо, и его следует
считать сообщением. В системе телефонной Связи,
! исцользуемой для передачи телефонограммы, сооб-
1 . щением является текст. При обычном телефонном
разговоре, сообщением следует считать звучание
П . речи со всеми теми деталями, которые позволяют
:. распознать голос1 говорящего',' эмоциональную
! окраску речи и т. д. г 1
! и При таком подходе почти всегда удается одно-
' , значно определить, что Следует считать сорбщени-
: ем в данной системе связи. ' , J
; ' U'j 'Sc1: Г; J
1 :V. : ,
13.4. ПОЧЕМУ СИГНАЛЫ СЛУЧАЙНЫ? ,
Сигналы, передаваемые по каналам связи, пред-
ставляют собой множество функций времени (не-
прерывного или дискретного) с вероятностной ме- .
рой, заданной на этом множестве^ Это совпадает
с определением случайного процесса. В вырожден-
ном случае, когда множество состоит из одной
функции и ее вероятность поэтому равна единице,
: энтропия процесса равна нулю и он ие может
быть переносчиком информации. ' '
Автор просит прощения у читателя за пересказг
давно известной истины. Он не стал бы этого де-
лать, если бы в отдельных книгах, в том числе
учебниках, не встречались бы высказывания вроде
такого: «Сущность связи состоит в том, чтобы
передать получателю неизвестные ему сведения.
Сигналы, несущие такие сведения, на приемном
конце заранее также будут неизвестными.* Сигналы
и тем более помехи для получателя являются слу-
чайными (недетерминированными). Необходимо
подчеркнуть относительность понятия недетермини-
рованности. Сигнал для отправителя на передаю-
щем конце детерминирован, так как при заданном
' способе передачи он определяется известным сооб-
щением. Для получателя тот же сигнал недетерми-
: нирован, так как передаваемое сообщение на при-
емном конце неизвестно».
Здесь случайность трактуется субъективно. По,
существу, в приведенном отрывке математическое 11
понятие «случайность» подменяется бытовым, по
мнению авторов более доходчивым, смыслом этого
1 слова: для меня случайно то, чего я сейчас не
знаю.| Если стать на эту точку зрения, то можно
; объявить 'любую физическую константу (нацример,
заряд электрона) случайной величиной, поскольку
я ее значения не помню. Когда’ же я загляну в
Г i , ’Г Г , 245
। справочник, она перестанет быть для,меня случай-
ной. !' - I H.I ! [ j* Л ;
Вряд ли такое субъективное толкование случай-
t нрсти полезно даже для пояснения студентам. Ве-
i роятность, как и Информацию,, следует рассматри-
вать объективно'Сигнал' случаен не'потому, что
кто-то его заранее не знает, гаи только потому, что
, он выбирается с определенно^ вероятностной ме-
' рой из некоторого множества. !Всякая же 'реализа-
, ция сигнала является . детерминированной функ-
цией.. ! If 'Md. > ! I .
. 13.5. ОЦЕНКА ЭНТРОПИИ ТЕКСТА МЕТОДОМ
ОТГАДЫВАНИЯ ; Л ’ ';
I Г ' 1 । [ 1 1
Работа Шеннона 1 [54, с. 669—686] посвящена
вычислению энтропии английского текста. По опре-
делению, энтропия и расчете на одну букву равна
d Н=-^~р, . j " ( 1 ' (13.5)
। где р — вероятность1! буквы в данном контексте, а
! черта означает усреднение-по’ всем буквам текста.
Эта вероятность является случайной величиной,
' зависящей как'от самого значения буквр:, так и от
. всего предыдущего тежста. Л.Д
1 Если'бы мы располагали таблицами (вёроятно-
I стей длинных последовательностей букв в множест-
ве теистов, для данного языка, то [можно было бы
вычислить энтропию по формуле, вытекающей из
*13-5,f " ' ’ '! " и, !“ - Л ,!' '
.( 1 Д|. ,Л,;, J'l.’i’ IJI, (13.6)
где рп — вероятность Последовательности из п букв,
, ;а!П[—столь большое* число, что* вероятностные свя-
зи между буквами'дальше /пне,! распространяются.
' '24в !-Г[ . - *' !( 1< \ I / < 7 L -
!-. Л’ | 1 Л
; К сожалению, такие таблицы для различных !
языков существуют1 только'при и^З—4, тогда как ,
вероятностные связи простираются значительно
Дальше. И вот шдея Шеннона заключалась в том, ч
что эти таблицы может заменить человек, хорошо ;
владеющий; данным языком, который в ряде слу- А,
чаёв можетбезошибочно1 определить букву, еле- !
дующую за; данным; отрывком текста. Конечно, это .
не значит, что он мог бы составить таблицу веро- । !
ятностей различных последовательностей букв или । ;;
тем- более указать алгоритм, с помощью которого \
он угадывает 'следующую букву. Многое из того,А1,
что происходит в нашем сознании, трудно или даже
невозможно описать алгоритмом. Например, мы .
все еще не знаем, как опознаются различные слу- i!
;ховые или । зрительные образы. Тем не менее такие' . I
алгоритмы, нам неизвестные, существуют, и мы ими'
повседневно пользуемся. 'L р
Рабочая гипотеза, выдвинутая 'Шенноном, за- ;
ключается в том, что свободно владеющий языком ।
человек может быть «идеальным предсказателем»'.; ।
.Это значит, что, отгадывая следующую ' букву, он
всегда называет ту, которая является наиболее ве-1 \
фоятной в данном контексте. Если он ।ее не отга- ьр
дал и ему сообщили об этом, то в следующей по- j
пытк;е! он назовет вторую по вероятности букву
и т. д. Если теперь записать последовательность 'г
чисел, определяющих число попыток при отгады-
вании каждой буквы, то эта последовательность бу-
дет содержать полную информацию ^ тексте. Дей- ।
ствительно, другой «идеальный предсказатель» при
аналогичном испытании должен называть'буквы в
том.' же порядке, а так как (полученная числовая
последовательность указывает, на какой букве сле-
дует каждый раз остановиться, то'весь текст будет
восстановлен водностью, /и -
А ч ? ; А ! Аг ,1.! . АН, .1 . ! !
Таким образом, энтропия текста равна энтропии
' полученной последовательности чисел,! а послед-
нюю оценить значительно проще хотя бы потому,
' что в ней значительно меньше'проявляются, веро-
ятностные связи между символами' (числами).
.Интересующихся подробностями этой оценки от-
сылаем к упомянутой статье [54, с. 669—686]. ;
Не следует думать, что использование человека
в этом эксперименте означает подмену^ объектив-
• . кого понятия вероятности субъективным,’ аналогич-
ным тому пониманию случайности, которое крити-
ковалось в предыдущем параграфе. Нет, здесь име-
‘ ется в )виду вероятность в строго научном, объек-
тивном смысле. Но в соответствии с гипотезой
Шеннона человек, владеющий языком, умеет если
1 не определить точно>вероятности различных букв,
следующих за данным отрывком, то хотя бы раз-
местить их в порядке убывающих вероятностей.
Никто никогда не утверждал, что эта гипотеза, аб-
солютно верна, но она, по-видимому, не далека от
< истины, и поэтому предложенная процедура го-
дится для приближенного экспериментального из-
мерения энтропии текста. , ।
Многие лингвисты использовали предложенный
метод для определения энтропии текстов на раз-'
личных языках. К сожалению, процедура отгады-
вания, описанная Шенноном, в применении к до-
’ статочно длинному тексту (а это необходимо для
того, чтобы учесть все дальние вероятностные свя-
зи) довольно длительна и утомительна. И вот не-
которые экспериментаторы, решили ее улучшить."
Вместо одного отгадывающего они использовали',
бригаду, например 50 человек. Каждый из участ- J
ников называет предполагаемую следующую бук-
ву. Относительное число голосов,, поданных за дан-
ную букву, принимается за ее вероятность р. Это
' г: 248 ' 1 " ! : : . / ' . ’ : ! ’й : \ I
позволяет сразу’ определить значение logр~1 и,
усреднив его по всем буквам в тексте, найти ста-
тистическое значение энтропии по формуле (13.5),
заменив математическое ожидание статистическим
среднем. Не правда ли, прекрасная рационализа-
ция?
Так может показаться только с первого взгляда.
। В действительности «рационализированная» проце-
дура ничем не обоснована. Если предположить, что
все участники бригады являются идеальными пред-
сказателями, т. е. удовлетворяют гипотезе Шенно-
на' то все они всегда должны называть одну и ту
же букву, наиболее вероятную, даже если ее ве-
- ': роятность значительно меньше половины. А в co-
z' ответствии с выбранной процедурой ее вероятность
будет принята за единицу. Если же в бригаде
имеются разногласия, то это свидетельствует лишь
о том, что участники бригады не идеальные пред-
сказатели. Но можно ли по числу их голосов су-
дить о вероятности названных ими букв? Это было
бы так, если бы можно было утверждать, что та- '
и кой «не идеальный» предсказатель называет ожи-
даемую букву случайно, причем вероятности
выбираемых им букв совпадают с вероятностями
।; р появления букв в тексте. Эта гипотеза представ-
' 'ляется малоправдоподобной. Ведь каждый из участ- .
ников бригады будет называть ту букву, которая
представляется ему наиболее вероятной, и в тех-
' j случаях, когда вероятность какой-то буквы замет- >
но превышает вероятности каждой из остальных,
' скорее всего назовет именно ее. . >
Конечно, использование бригады в принципе
, может улучшить процедуру Шеннона, однако не
при такой трактовке результатов. Правильнее бы-
! ло бы рассматривать решение большинства как
близкое к решению «идеального: предсказателя». 8
: ' ' - i?'; и. ' Ж '
! f J Поэтому нужно не подсчитывать' голоса, доданные
М за другие буквы, а отбрасывать их. Если же,на- \
званная большинством буква угадана неверно, то
* нужно сообщить об этом и предложить всей брига-
i де назвать другую букву,! так же как это делал
, Шеннон е одним предсказателем:, Эт|О не Облегчит
. 1 и не ускорит процедуру,’ но сделает результат бог
! лее надежным,, если бригада в целом1 ближе к
; «идеальному» предсказателю,; чрм' любой] u из ее
' ЧДенОВ. , • ~ ' и ' '' : | Ч
13.6. ПОТЕРИ ИНФОРМАЦИИ 'ПРИ ПЕРЕВОДЕ , , , J ?
I V 1 '-1'1 Л h Ч
Пусрь X— текст, а К—перевод этого текста на
другой язык, Я(Х) — энтропия , исходного текста
(в расчете на букву), Н(Х|У) —условная энтро-
пия исходного текста, когда известен перевод. Оче-
видно, чтоД(Х|У). представляет потерю информа-:
ции при переводе. Действительно, информация,, со-ф'
держащаяся в переводе относительно оригинала,
7(Х, У)==Я(Х)-Я(Х|У), |1 ' (13.7)
И: если Я(Х| У) =0, то ЦХ, ;У) = Н(Х), т. е. пере- '
вод содержит всю .возможную информации} относи-
' ^тельно1 оригинала.1 Такой перевод можно назвать J
идеальным. По нему можно однозначноiврсстано-f
дить исходный текст.. . , ' Y Д
" 11 Оговоримся, что все, о чем 'идет речь в ' этом
параграфе, не относится к художественному пере-: fl
воду, а тем более!к стихотворному, поскольку иде-
альный'перевод в'смысле нашего определения, мо- ’
: жет быть никуда не годным 1с точки зрения1 эстета-'т
ческой ценности. Однако для' научно-технического'(ч
перевода, перевода деловых ’документов и т. п. по-, ,,
!теря информации (или, еще лучше, величина
, 1—77(Х|У)/7/(Х))^является’:хорошей, мерой каче- I.
>' ства перевода,- . W? । |h / I ’! р,Ф M
-ЧЧ- ЧЧфГ;ф/у V74-]' 4 Ч'' <
Разумеется, идеальный перевод без потери, ин* ।
। формации возможен только'в исключительных слу-
• чаях, в частности! для строго' формализованных
языков 1(например, при переводе программы с.
11 Алгола на Фортран) или" для очень близких по.
' грамматическому । строю языков^ (например, при,!
• переводе с русского1 языка на'украинский); !(
' I Возникает вопрос: Jкак измерить или, по край- i
ней* мере, приблизительно ‘оценить потерю инфор- '
мации Я(Х( У) I, в конкретном переводе? Мы хотим
! предложить | здесь сравнительно простой1 метод,
। являющийся развитием метода Шеннона определе-;
ния энтропии текста, о котором говорилось в пре- : >
дыдущем параграфе. При этом'также производит-' I
ся угадывание текста X и подсчет, числа попыток
при отгадывании. Различие заключается в следую-
। щем. Человек,' рассматриваемый какI «идеальный» '
I,Iпредсказатель, располагает переводом 'Y', т. е. мо-
‘жет извлечь всю Iинформацию об' X, имеющуюся
в нем1 Разумеется, отгадчик должен хорошо вла-
деть обоими языками—оригинала и перевода. Же-'
лательно, чтобы язык оригинала (на котором про--
( Изводится отгадывание) был его родным'языком. ;
В проводимых нами экспериментах исследовались
переводы с русского, языка на английский, отгадчи-.
'(ком был квалифицированный -преподаватель ан- ‘
। глийского языка, для которого русский язык был •
родным. Как показал опыт,' в этом случае удобнее "
вести предсказание не побуквенно,- а словами.
Определяемую таким образом условную; энтропию
; на: слово можно затем легко пересчитать на букву,
езная среднее число букв в слове,1 У.'." У > ‘
- Предложенный здесь.способРненастолькопрост. ,
Однако 'надеемся, что он сможет; принести пользу, (
например, для. научных> исследований 1в области
ЛИНГВИСТИКИ., и ;и'!
СПИСОК ЛИТЕРАТУРЫ
I.1 Агеев Д. В. Активная полоса частотного спектра функ-
ции времени. — Труды ГПИ, 1955, т. 11, № 1,' с. 5—10.
т 12.1 Brennan D. О. On the maximum signal-to-noise ratio reali-
zable fiom several noisy signals. — Proc. IRE, 1955, y. 43,
№ 10, p, 1530. : '
3. Бриллюен Л. Наука к теория информации: Пер. с англ.
А. А. Харкевкча. — М.: Физматгиз, 1960.
4. Бунимович В. И. флуктуационные процессы в радиопри- .
емных устройствах. — М.: Сов. радио, 1951.
5. Вакман Д. Е. Об определении понятий амплитуды, фазы I
и мгновенной частоты сигнала.—Радиотехника и элект-
роника, 1972, т. 17, № 5, с. 972—978. . ,
6. Вайнштейн Л. А., Вакман Д. Е. Разделение частот в тео-
' рии колебаний н волн. — М.: Наука, 1983. । i
7. Введенский Б. А., Ареиберг А. Г. Радиоволноводы. — М.:
1 Гостехиздат, 1946. 1 1 !
"8. Вннер И., Пэли Р. Преобразование Фурье в комплекс-
ной области: Пер. с англ. — М.: Наука, 1964. ч
9. Виницкий А. С. Модулированные фильтры и следящий
прием ЧМ сигналов. — М.: Сов. радио, 1969.
10. Галлагер Р. i Теория информации и надежная связь: Пер.
с англ.— М.: Сов. радио, 1974. 1
11. Гоиоровский И. С. Радиотехнические ценне й сигналы.;
Ч. 1, —М.: Сов. радио, 1966.: i ’
12-| Горелик Г. С. Колебания и волны. — М., Л'.: Гостехиз-
дат, 1950. , -
13. । Гуревич В.! Э.,' Лопушнян Ю. Г., Рабинович Г. В. Им-
! пульсно-кодовая модуляция в многоканальной телефон-,
ной связи. — М.: Связь, 1973.
,14. Железнов Н. А. О принципиальных вопросах теории сиг-'
налов и задачах ее дальнейшего развития на основе сто-
if i хастической модели. — Радиотехника, 1957, т. 12, № 11,
‘ ' С. 3—12. ".i''' • ' > '
. 15., Зюко А. Г. Помехоустойчивость и эффективность систем,
связи. — М.: Связь, 1972. :
16. Carson J. R. Frequency modulation. — Proc. IRE, 1922, v. 10,:
!, №57, p. 243. i 1
: 17. Кловский Д. Д. Потенциальная помехоустойчивость при
; разнесенном приеме дискретной информации. — Радиотех- ;
, ника, 1961, т. 16, № 3, с.’22—30. ; ! 1 :
' 18.’ Кловский Д. Д. Теория, передачи сигналов. —- М.: Связь,
Т973.( , ! Y j . Y ; ! , ’ . ;
J252 , - Т 1" : : t : ' Y ’ ' " ' ; (
' ’19. Колмогоров А. Н. Три подхода к определению понятия
‘ «количество информации». — Проблемы.'передачи инфор-
мации, 1965, г. 1, вып. 1, с. 3—11.
20. Коржик В. И. Огибающая сигнала и некоторые ее свой-
1 ства. — Радиотехника,. 1968, т. 23, № 4, с. 1—6.
21. Коржик В. И., Финк Л. М., Щелкунов К. Н. Расчет по-
мехоустойчивости систем передачи ! дискретных сообще-
ний; Справочник. — М.: Радио и свизь, 1981.
22. Котельников В. А. Теория потенциальной помехоустойчи-
вости.— М., Л.; Госэнергоиздат, 1956.
23, Кушнир В. Ф., Ферсмаи Б. А. Теория нелинейных элект-
рических. цепей.— М.: Связь, 1974. '
24, Левин Б. Р. Теоретические основы статистической радио-
техники. В 3-х кн.—М.: Сов. радио, 1974— 1976.
; 25, Левитии Л. Б. Перенос информации в идеальном фотон-
ном канале. — Проблемы передачи информации, 1965,
т. 1, вып. 3, с. 71—80.
26. Миддлтон Д. Введение в статистическую теорию связи;
Пер с. англ. Ч. 1. —М.; Сов. радио, 1961.
27. Nyquist Н. Certain topics in telegraph transmission theory.—
Trans. Am. 1EE, 4928, v. 47, № 2, p. 617—644.
' 28. Окунев Ю. Б. Теория фазоразностной модуляции. — М.:
Связь, 1979. !
; 29. Osborn W. Р., Luntz А. В. Coherent and noncoherent detec-
: tion of CPFSK. — IEEE Trans., 1977, v. COM-22, № 8..'
v 30, Петров В. В., Усков А. С. Информационная теория син-
А теза оптимальных систем контроля и управления. — М.;
Энергии, 1975. ,
31, Петрович Н. Т. Передача дискретной информации в ка-
налах с фазовой манипуляцией. — М.: Сов. радио, 1965.
32. Петрович Н. Т. Кто , Вы? —М.: Молодая гвардия, 1970.
33. Реньи А. Трилогия о математике: Пер. с венг./ Под ред.
Б. В. Гнеденко. — М.; Мир, 1980..
34J Репин В. Г., Тартаковский Г. П. Статистический синтез
при априорной неопределенности и адаптация информа-
1 ционных систем.—М.: Сов. радио, 1977.
35. Рытов С. М. Модулированные колебания и -волны.—
Труды ФИАН, 1940, т. 11, вып. 1, с. 41—133.'
36. Рытов С. М. О некоторых «парадоксах», связанных i со
спектральным разложением. — УФН, 1946, г. 29, вып. 1/2.
37. Смирнов В. А. Основы [радиосвязи на ультракоротких 1
волнах. — М.: Связьиздат, 1957. [
38. Стейн С., Джонс Дж. Принципы современной теории
связи и их применение к передаче дискретных сообщений;
’ Пер. с англ./ Под ред. Л. М.Финка. — At.: Связь, 11971. -
Ь ( / _ ,! , Г 253
. 39. Теория передачи сигналов/ А. Г.! Зюко! н др;— М.; Связь,
I' П 1980. ' 1 '' ’ И'! ' ’ ' 1 '
' 40. Тихонов В. И. Один способ определения огибающей ква-
1 । энгармонических функций. — Радиотехника и эдектрони-
' ' । ' ка, 1957, т. 2, № 4, <4562—568.1! Is' * 11 Iff
| 41. Тихонов В. (И. Статистическая радиотехника, —М.: Ра-
• дно и связь, 1982. ' " . ’ । ’ ’ ‘
42. Тихонов В. i И., । Кульман Н. К.: Нелинейная фильтрация и
; квазнкогерентный прием сигналов. Сов. радио,
- -1975, | - Иг i
i i |43. Урсул А. Д. Проблемы информации в современной „нау*
। ке; Философские очерки. — М.: Наука, 1975. ; >'
' 44. Феллер, В. Введение в теорию вероятностей и i ее прилов
жения: Пер. с англ. — Т. 1. — М.: Мир,’1967. ' 1
! 45. Финк Л. М. Соотношения между; спектром! и мгновенной
; частотой । сигнала. — Проблемы 1передачн информации,
1966, т. 2, -вып.1 4, с. 26—38, Ml । • ч ,
ff I 46. Фиик Л. М. Теория передачи дискретных сообщений.—
М.: Сов. радио,' 1970. ,! . ! ' !
147. Fleming A., Fortescue С. L. and oth. Notes оц modulation.—
Nature, 1930, v. 125, p. 92, 198,271,306. i. ' t ' *
48. Харкевич А. А; Спектры и анализ, —M., Л.: ГостСхиздат,
1952. , 1
49. Хелстром К. Статистическая теория обнаружения снгна-
лов; Пер. с англ./ Под ред. Ю.' В. Кобзарева. — М.: ИЛ,
! Чь . 1963. ! i ” I- । • r ! г I - I' W -
; ‘ 50. Хворостенко Н. П. Статистическая теория | демодуляции
1 , ^дискретных: сигналов. — М.: Связь, 1968. 4
i ,5^ !Хургин Я. И., Яковлев IB. И. Финитные функции в фцзи* <
ff'I.J 1 ке и технике.—М.: Наука, 1971. ’ ' ff ! .
|'Ч ! ' 52. Shekel G. Instantaneous frequency.—Proc. IRE; 1953, V. 41,
Ю №4, p.,548. I Г/’ П I; ' -- ,, ' I.ff Ч' 41
И 53.1 Shekel1'1 G. On the term Instantaneous' frequency. Proc.
i"ff j IRE, 1964, v. 42, № 6, p. 1024. dy' 'Iff -i'
ff..:54.. Работы по. теории' jинформации 'и кибернетике: Пер.
| i । с англ./ Под !ред. Р. Л. Добрушина и О. Б. Лупанова. —
Ч М.: ИЛ, 1963. I 'I 1 -ff ’ >’ ff ' in Г
i ili 55.1 Шкловский ' И. С. Вселенная, жизн^, разум. — М.: Наука,
; ji 1976. । .
, ff 56. Шрейдер Ю.1 А. О семантических аспектах теории инфор-
i Hj'i ||мации. — В кн.г.Информация и ' кибернетика/1 Подгред,.
А. И. Берга. — М.: Сов.'радио. 1967, с. 15—47.' । !
' I i Й, Яглом А. ЧМ, Яглом tyi., M; Вероятность и информация, ~
Л > ' М.: Наука, 1973. i Т’ iff-'1 ' i ff' '<' 1' d ' ' Ч"
Г '! ।,гь !л । 'пл? < г! . И Ч
' --< 254 '/ ! h' V ffjff 1 ? И ff .
r5
5
7
10
16
15!
20
23
28
32
34
36
39
39
СОДЕРЖАНИЕ ! • I , -I
/Предисловие . . . . . . I . . . . • • .
‘ 1. ОБ ОШИБКАХ, ПАРАДОКСАХ И ЗАДАЧАХ ЭТОЙ,ДНИ-
ГИ (ВМЕСТО ВВЕДЕНИЯ) . . ... ‘ '! • . . ।•
!•.. , 1.1. Об этой книге ..................... . I . •
1' । . 1.2. Ошибки . . . . .
!j 1.3. Парадоксы . . . ' . . •'' »
2. СПЕКТР И МГНОВЕННАЯ ЧАСТОТА J . . . . ;
' '2.1. Спор о спектре амплнтудно-модулированного. сигнала.
। 2.2. Опор об узкополосной частотной модуляции , . .
J 2.3. В чем корень ошибки? I, , . . , . .
/11 2.4. Обжегшись на молоке ' . . . ; . . • ' •
7 ' •! 2.5. Попробуем быть последовательными ....
. । 2.6. К теории ЧМ альтиметра........................I
। 2.7. Существуют ли реально спектральные составляющие?
. । 3. О КОМПЛЕКСНОМ ПРЕДСТАВЛЕНИИ СИГНАЛА
3.1. Обобщение символического метода.................' '
, I 3.2. Однозначно лн определены огибающая и мгновен-
; 1 . . иая частота?.............., . • . j . . .
3.3. Другие определения сопряженного сигнала .
4. КАК НЕ СЛЕДУЕТ ПОЯСНЯТЬ ТЕОРЕМУ КОТЕЛЬ-
, НИКОВА , ; . . . . .1 . . .
; 4.1. Сущность теоремы1 . '. .. .'
'я1! 4.2. Попытки наглядного пояснения теоремы .. - . ..
„у ) .. 4.3. Ослабленная ( теорема (Агеева . . s ,j ' j .
, t 4.4. Доказательство теоремы Агеева . | . . ' .
•ь I I 4.5. Можно ли передать | мегабит за секунду1 в полосе 1 Гц?'
' - 5. ПРЕДЕЛ ИЛИ БАРЬЕР НАИКБИСТА
6. НА ОДНОЙ БОКОВОЙ , . . J . .1
7 1 | 6.1. Рекорды однополосной модуляции . i'.. .
I 6.2. Как записать однополосный 'сигнал? ,( . • I I
’ ,«. 6.3. Как выглядит однополосный сигнал?’ , ; ' .. . .
i L1 6.4. «Формула Костаса»...................' . ,1 , .
V,. | 6.5. Как детектировать однополосный сигнал? ., > .
' if I, , 6.6.0 требуемой точности восстановления несущей частоты ;
' ‘ l’- Vn,,Tf4,„TI пплпипл ncmruilo InrnriUTU,, ' 1 1 I 103 '
fi . '103
105
3 i
*41 । ' !
45 Ш
50
50 1
53 1 !
55
56
58.
61
75
75
78
79 I
83 '
91
97. 1
I I 7JКРИТЕРИИ, ПРАВИЛА РЕШЕНИЯ, АЛГОРИТМЫ
’ i, 1 7.1. Критерии . . ; . .
7.2. Правило решения . .....
(.4, правили рсшсппп . . .... , j. .
7.3. Неопубликованный Конан Дойлем отрывок' из! (вое-•
!r,i поминаний доктора. Ватсона .| . .|1ц.1 ,. I - i .
; 7.4. Лучше ли? . . ’. . . i ,
I 7.5. Какому критерию соответствует правило МП? .
I .7.6. Алгоритмы . . . _.............. . ‘ | .
7 7.7. Потенциальная помехоустойчивость . L ( ., .1
7.8. Об оптимальном фильтре' нижних частот I,-,. I- . .
: 7.9. Критерий верности декодирования . .1.! .
7.10. Эквивалентная вероятность 1 ошибки (>.
7.11. Где применять разнесенный прием? , . .
. ЛУЧШЕ НАИЛУЧШЕГО . . . 4 . . . . .
8.1. Изобретатели «вечного 1 двигателя»' .
I ' 8.2. Широкополосная частотная .манипуляция ., . .
Г1 8.3, Интервальная манипуляция' , । J
§.4. КаК| рациондльйо ВЗрёш11Вйт^ ।сигналы? I |, ' .
106
108
' 8.
113
115
117
120.
1221
.128
132'
132
.138
!ni
! И8
,
8.5. «Сверхоптимальный» прием . . > » ... !А 152
8.6. Давайте разберемся . . . . .\ . . ' . ; 160
9. ПАРАДОКС ИМПУЛЬСНОЙ МОДУЛЯЦИИ . j . . .170
9.1. Порог помехоустойчивости : .. . . . . . 170
9.2. Пропускная способность j. । ..........., 174
9.3. Небольшие уточнения . ...... .1 I. 176
10. БЕРЕГИСЬ НЕТОЧНЫХ ФОРМУЛИРОВОК! . . . . 181
10.1. Занимательные парадоксы....................... 181
10.2. Вероятность ошибки при приеме ортогональных ;
сигналов . ................... ..... 182
10.3. Количество информации, передаваемой в гауссов-
ском канале 1 с неопределенной фазой ..... 186
10.4. О рэлеевских замираниях.........................190
10.5. Вероятности ошибок при фазоразностиой модуляции 194
11. СВЯЗЬ С СОБРАТЬЯМИ ПО РАЗУМУ . . , . . 204
11.1. Готовьтесь к межпланетной связи.................204
11.2. Передача; в диапазоне сантиметровых волн . . 206
11.3. Связь в оптическом диапазоне . । . . . . 209
11.4. Где выход? . . . : . . . .' . i . . . 213
12. НЕМНОГО ИНФОРМАЦИИ . .' . . , . . 215
12.1. Что такое информация? . . . . 215
12.2. Объективность информации . . . j . i . 217
12.3. О «законе сохранения информации»............ . 219
12:4. О постулатах теории информации . ;. 1 . . 221
12.5. Первые три условия . . . . .- . i . . . . 223
12.6. Информация и время . .......................228
12.7. Семантическая информация ..................." , .231
13. РАЗНОЕ . . J.................................. 1236
13.1. Применяется ли на практике частотная модуляция? 236
13.2. Немного о, белом шуме . ...................241
13.3. Сообщения' и сигналы.................. . ... 243
13.4. Почему сигналы случайны? . . . ' . . . 245
' 13.5. Оценка энтропии текста методом отгадывания . . 246
13.6. Потери информации при .переводе . . .. . ; 250
Список литературы ,. , . ... 1.........................252
I ।'
ЛЕВ МАТВЕЕВИЧ ФИНК . '
СИГНАЛЫ. ПОМЕХИ, ОШИБКИ... 1 1
Редактор Т. М. Толмачева. Переплет художника Н. И. Милеевой.
I Художественный редактор Л. Н. Сальянов. Технический . редактор
И. Л. Ткаченко. Корректор .Т. Т. Захарова
ИБ № 629 । • ।1 1 ,
Сдано в набор 23.02.84. Подписано в печать 21.04.84. Т-10207
Формат 70X100/s2 ' Вумага тип. №3 Гарнитура литературная
; Печать высокая Усл. печ. л. 10,4 Усл. кр.-отт. 10,644’Уч.-изд. л. 10,34
Тираж 15 000 жз. «ж» ' Изд. № 20357 I Зак. № 3413 ' Цена 65 К.
Издательство «Радио и связь». 101000 Москва, Почтамт, а/я 693
. Ордена Октябрьской, Революции и ордена Трудового Красного Зна-
мени Первая Образцовая типография имени А. А. Жданова Союзпо-
лиграфпрома при Государственном комитете СССР по делам изда-
тельств. полиграфии-и’книжной торговли. 113Q54, Москва,. М-54, Ва-
ловая, 26 Г! ' . . • * , I! !'!