DISCRETE CHANNEL CAPABILITY POTENTIALITIES RECOGNIZING STOCHASTIC NATURE OF CONTINUOUS CHANNEL INCLUDED IN DISCRETE CHANNEL

详细

Capability potentiality analytic form of discrete channel composing continuous channel, modulator and demodulator. Continuous channel nature describes likelihood function, opera-tions of modulation and demodulation identify by output demodulator signal stochastic prop-erties.

全文:

«Инфокоммуникационные технологии» Том 12, № 2, 2014 16 Батенков К. А. Введение Известно, что выбор того или иного критерия качества любой системы, в том числе и связи, является чисто субъективным, поскольку определяется наличием определенных требований со стороны разработчика, потребителя или любого другого субъекта. Однако для систем связи Шенноном введено понятие взаимной информации как меры определенности о сигналах на входе канала связи исходя из наблюдений о сигналах на выходе канала [1-2]. Причем данная мера имеет фундаментальный смысл, поскольку однозначно определяется лишь вероятностными характеристиками допустимых для передачи сигналов и канала связи, что является следствием несущественности дальнейшей интерпретации и использования переданных сообщений [3]. Кроме того, взаимная информация и производная от нее пропускная способность позволяют указать условия безошибочной передачи данных при наличии дополнительной последовательной обработки в виде кодирования и декодирования [4-5]. В общем же технический эффект систем передачи информации определяется количеством и качеством переданной информации [6-7]. При этом количество информации возможно рассматривать как произведение технической скорости передачи на время передачи. Поскольку канал связи по своей природе является стохастическим, то неизбежны ошибки в воспроизведении передаваемых сообщений. Доля подобных ошибок, а с позиции вероятностных мер - вероятность неточности воспроизведения, служит качественной характеристикой переданных сигналов. Совершенно естественно одновременная оптимизация систем связи по обоим показателям оказывается трудноразрешимой задачей не только вследствие их взаимообратной зависимости, но и просто из-за необходимости исследования векторного показателя качества. В результате существует объективная необходимость в использовании показателя, который одновременно учитывает ко -личественную и качественную характеристики процесса передачи информации, имеет достаточно ясный физический смысл. Подобными свойствами и обладает введенное Шенноном понятие скорости передачи информации как взаимной информации, приходящейся на единицу времени передачи сообщения [8]. Однако и для данного случая существуют определенные трудности, связанные с невозможностью увеличения взаимной информации посредством дополнительной последовательной обработки передаваемых сигналов, что являет ся следствием теоремы о переработки информации [2-3]. Например, использование любого корректирующего кода способно лишь снизить (в лучшем случае сохранить) скорость передачи информации по каналу связи [9]. В то же время их применение продиктовано требованиями к определенному уровню достоверности передаваемых сообщений, увеличение которого и достигается за счет снижения скорости передачи информации. Если же возникает необходимость в дальнейшей последовательной обработке получаемых данных, то «вернуть» потерянную взаимную информацию не представляется возможным без изменения свойств корректирующего кода. В этой связи следует отметить, что практически все существующие системы связи построены и проектируются по принципу универсальной модульности, что предполагает дальнейшую последовательную обработку информации как, впрочем, и предварительную. Например, корректирующие коды разрабатываются применительно к определенному дискретному каналу связи, которые, в свою очередь, являются дискретными отображениями непрерывных каналов связи. Верхняя граница В целом же взаимная информация учитывает конкретный вид распределения вероятности сигнала на входе модулятора, а следовательно, как показатель качества системы передачи информации характеризует не только канал связи как таковой, но и вероятностные параметры передаваемого по нему входного сигнала. С одной стороны это является существенным достоинством подобного показателя, поскольку позволяет синтезировать дискретные отображения, учитывающие дополнительную априорную информацию об источнике помимо информации о свойствах непрерывного канала связи. С другой стороны возможность с помощью кодера источника и кодера канала варьирования статистических характеристик сигнала на входе модулятора может потребовать синтеза оптимальных отображений для всех возможных вариаций этих дополнительных априорных сведений. К тому же зависимость величины взаимной информации от характеристик источника может быть столь значительной, что в ряде случаев способна практически полностью нивелировать достоинства оптимальных отображений по отношению к неоптимальным. Следовательно, существует объективная необходимость в анализе дискретных отображений с позиции некоторой потенциальной характеристи «Инфокоммуникационные технологии» Том 12, № 2, 2014 Батенков К. А. 17 ки, рассчитанной на произвольные статистические свойства источника. Подобным показателем, имеющим важный теоретико-информационным смысл, является пропускная способность [2-3; 10-12], определяемая как максимальное значение взаимной информации по всем возможным распределениям вероятности сигнала на входе модулятора: Поэтому граница пропускной способности принимает форму: ^х,х' - тах/хх', (1) где /х х' - взаимная информация дискретного Сх,х' ^ !°gJ(2те)^ Мх, 2 - mintfxyx. (2) V ’ сох Условная энтропия представляется в следующем виде [3]: х = = jcox(x)f(ox./x(x',x)log--^dx'dx. (3) х х- ; ®x-xlx'>xJ ;(х) распределения сигнала на сохух(х',х) - функция правдоподобия дискретного канала связи. Очевидно, что условная энтропия линейно зависит от плотности вероятности сигнала на входе модулятора. Следовательно, ее минимум по этой плотности достигается в случае детерминированности данного сигнала x, причем его значения с вероятностью единица соответствуют минимальным значениям интеграла по области определения сигнала на выходе демодулятора х' в (3), то есть при следующем условии: min//x. х = min |юх' x(x',x)log-\-^dx'. х х' ®х'х(х’>х) Таким образом, в соответствии с (2) верхняя граница пропускной способности определяется выражением: канал связи; со, входе модулятора; а индексы и /х х> указывают на границы канала (дискретный), поскольку пропускной способностью и взаимной информацией так же могут характеризоваться и непрерывный, и дискретно-непрерывный, и другие каналы связи. Вычисление же пропускной способности оказывается еще более трудоемкой процедурой, чем расчет взаимной информации, поскольку помимо многократного интегрирования согласно (1) следует проводить еще и оптимизацию по множеству распределений сигнала на выходе модулятора. Таким образом, и в данном случае следует указать границы, определяемые как свойствами исходного непрерывного канала связи, так и параметрами модулятора и демодулятора. Причем данные границы оказываются потенциальными, поскольку характеризуют предельно достижимые величины взаимной информации для заданного дискретного отображения. Учет неравенства треугольника для метрики в форме максимумов max(a + Ь) < таха + тахб, а также равенства max(- b) = - mmb позволяет ограничить пропускную способность неравенством [2]: Сх,х' < maxi/xt - mini/xyx, где Нv (В* ю* * - энтропия сигнала на выходе демодулятора х'; i/xyx - условная энтропия сигнала на выходе демодулятора x’ при известном сигнале на входе модулятора х. Так как верхняя граница энтропии сигнала на выходе демодулятора имеет вид [3]: Мх',2 -mm X СХ)Х.< log]/(2ne)N'l J ®x'x(x’>x)log-Г7"^х'х- ®x'xlx>x) Нижняя граница Нижняя граница пропускной способности вычисляется на основе неравенства согласно (1): Сх,х’ - ^х,х' ■ (4) ffxl<logJ(2nef М х',2 где -/V - размерность сигнала на выходе демодулятора х'; MX'j2 - ковариационная матрица сигнала на выходе демодулятора х'; |А| - определитель (детерминант) матрицы A, то очевидно, что max//x' <logJ(2ne)]V со» V М х',2 При этом естественно, что взаимная информация в данном неравенстве может быть рассчитана для произвольного распределения вероятностей сигнала на входе модулятора С0Х, в том числе и для гауссовского, но с некоторой произвольной ковариационной матрицей Мх Умножение и деление выражения под логарифмом взаимной информации, взятой с противоположным знаком, на плотности вероятности некоторых многомерных гауссовских случайных величин z и y с плотностями вероятности coz и соу и ковариационными «Инфокоммуникационные технологии» Том 12, № 2, 2014 18 Батенков К. А. матрицами, определяемыми соответствующими выражениями: MZ;2 = Мж,)2 - 2МХ,)1)Х)1 + Мх 2, (5) му,2 = Mz,2 + мх,2» (Ф где М . j j - матрица совместных моментов второго порядка сигналов на входе модулятора и выходе демодулятора, определяемая в форме J Г ^х'х(х’>хК(х)1°ё /, .dx'dx = = \og{lK) 2 |м‘ 22| + +^и[м;(м1,л -2мй1111 +м ,J. Таким образом, на основе (5) и свойства произведения обратной матрицы на саму матрицу второе вычитаемое (9) имеет форму: (7) Jf^fx’.xKWlog-Лт!*'*" coz[X X) где оэх')Х(х',х) - совместная плотность вероятности сигналов на входе модулятора х и выходе демодулятора х'; хг = хх...хх - /-кратное прямое i (декартово) произведение некоторых векторов X (символ «х», если не указано дополнительно, в дальнейшем обозначает прямое - декартово произведение). Форма исходного выражения при этом не изменяется: /х-,х = -J I<0Х'/х(х'>хК(х)х mx,(x^y(x')coz(x'-x) (8) Х °S сох. х (х', х)соу (x')coz (х'-х) ' Применение свойства логарифма произведения и условия нормировки плотностей преобразуют (8) к виду: /Х')Х = - J |юх'/х(Х >Х)®х(Х) Х , rax.^'W(x'-x) X log -х v, ' dx' dx - Юх'/х (Х' 5 xjcOy (х1 j - J03x'(x')logC0y(х')й?х-x' - J J®X' x(x',x)“x(x)log-T,-S.dx'dx. XX- »z(x'-x) Второе вычитаемое принимает форму: J 1®х'/х(х'.х)®х(х)1оё-А-^dx'dx = хх' ®z(x-x) N' (9) = lo&n)T \M~f\ + ^ X x J j’a>xyx(x',x)cox(x)(x'-x)(x'-x)7' dx'dx (10) XX где trA - след матрицы A; T - оператор транспонирования. Раскрытие скобок в подынтегральном выражении позволяет представить (10) в виде: log, Мх',2 2Мх',1,х,1+Мх,2 (11) Первое же вычитаемое согласно (6) задается следующим выражением: J сох' (х') lo g юу (х') й?х'= = -log (2пе) Mz,2+MX)2 (12) Уменьшаемое (9) на основе неравенства - log* > (l - Jc)loge после сокращения числителя и знаменателя дроби на одну и ту же функцию, а также учета условия нормировки для плотностей вероятности преобразуется к виду > loge ®*/*(х',хН(х') Юх'(Х')|Юх(ХК(Х'-ХУХ 1 - J-----dx' соу{х') Поскольку для выполнения неравенства (4) распределение вероятностей сигнала на входе модулятора юх может быть выбрано произвольно, то в случае гауссовского распределения на основе (6) и правила композиции двух законов распределения гауссовских случайных величин [13]: Юу (х') = | юх (х) ft)z (х'-х)^х. (13) Сокращение числителя и знаменателя на одну и ту же функцию и учет свойства нормировки плотностей приводит на основе (13) к следующему неравенству: -Я®х'х(х',хК(х)х х1о8^^Ц^Л'Л>0. (14) ®х'/ х Vх' ’ хЛ°у Vх / «Инфокоммуникационные технологии» Том 12, № 2, 2014 Батенков К. А. 19 Таким образом, подстановка (11) и (12) в (9), а также учет неравенств (4) и (14) и равенств (5) и (6) делает справедливым следующее неравенство: Сх',х ^ tog -log Мх',2 2Мх',1,х,1 + 2Мх,2 Мх',2 2Мх',1,х,1+Мх,2 На основе свойств суммы логарифмов, а также равенства определителя произведения матриц произведению их определителей [14] нижняя граница пропускной способности принимает форму: Сх',х - >log e2+mXi 2 2Мх’,1,х,1+Мх,2 Л где порядок единичной матрицы Ег равен порядку ковариационных матриц Мх>2, МХ'Д;Х>1 и М^д. Таким образом, доказана нижеследующая теорема, задающая границы пропускной способности для произвольных непрерывных каналов связи и сигналов, передаваемых по ним. Теорема о потенциальных границах пропускной способности Пропускная способность дискретного канала связи, получаемого путем дискретного отображения произвольного непрерывного многопараметрического канала, ограничена следующим интервалом: Мх',2 logy(27te)iV 1 - min f юхух (х', x)log-т-г dx' > х , 1 а>хух(х',х) ^Сх',х^ >log Е2+Мх, ,2 (Мх’,2 2Мх',1,х,1 + Мх,2 п Следует отметить, что данная теорема является некоторым обобщением границ, полученных в [2], на случай многомерного дискретного канала связи, образованного на основе операторов модуляции и демодуляции с ограниченной степенью нелинейности. Выводы Таким образом, сформулированная и доказанная в работе теорема устанавливает определенные ориентиры, по которым возможно оценивать достоинства и недостатки конкретных операторов модуляции и демодуляции. При этом очевидно, что существование явного оптимального вида дискретного отображения приводит к наличию еще одного ориентира для пропускной способности формируемого дискретного канала связи. Однако соответствующая этому оптимальному решению пропускная способность не всегда будет оказываться более точной верхней границей по сравнению с полученной, поскольку в данном случае оптимизация проводится путем варьирования только операторов модуляции и демодуляции без изменения распределения вероятностей сигнала на входе модулятора.