Теория информационных систем задачи

ВАРИАНТ 11


1. Вероятность ухода частоты принимаемых колебаний за пределы полосы пропускания приемника из-за нестабильности частоты колебаний передатчика равна 0,1, а из-за нестабильности частоты колебаний гетеродина приемника – 0,2. Частота принимаемых колебаний не вышла за пределы полосы пропускания приемника. Какое количество информации содержится в этом сообщении

Решение:

Поскольку события А (уход принимаемых колебаний за пределы полосы пропускания приемника из-за нестабильности частоты колебаний передатчика) и В (уход принимаемых колебаний за пределы полосы пропускания приемника из-за нестабильности частоты колебаний гетеродина приемника – 0,2. Частота принимаемых колебаний не вышла за пределы полосы пропускания) независимы, (т. е. возникновение одного события не влияет на возможность появления другого), то вероятность того, что оба события произойдут, равна произведению вероятности каждого
Вероятность того, что частота принимаемых колебаний вышла за пределы полосы пропускания: P(AB) = P(A)*P(B)=0.1*0.2=0.02
Вероятность того, что частота принимаемых колебаний не вышла за пределы полосы пропускания Р=Р- P(AB)=0,98
Количество информации, содержащейся в сообщении
I(x j )=log(1/ p(x j )= – log а p(x j )=-log20,98=0.029 бит .

2. В кошельке лежат 4 монеты достоинством в 50 копеек и 6 монет в 10 копеек. Наудачу берется одна монета, затем вторая достоинством 50 копеек. Найти количество информации в сообщении «первая извлеченная монета имеет достоинство в 10 копеек».

Решение:

Вероятность извлечь монету достоинством 50 коп равна 4/10
Вероятность извлечь монету достоинством 10 коп равна 6/10
Вероятность того, что первая извлечь первой монету достоинством 10 коп равна 6/10.
Количество информации, содержащейся в сообщении
I(x j )=log(1/ p(x j )= – log а p(x j )=log26/10=0.221 дит =0.736 бит


3. Распределение вероятностей случайной величины Х имеет вид: р(х1)=0,15, р(х2)=0,38, р(х3)=0,17, р(х4)=0,2, р(х5)=0,1. Определить энтропию источника и его избыточность.

Решение:

H(x)=-(0,15*log(0,15)+0,38*log(0,38)+0,17*log(0,17)+0,2*log(0,2)+0,1*log(0,1))=2.172 бит

Избыточность за счет неоптимальности (неравновероятности) распределения
сообщений в источнике R=1-H/Hmax=1-2.172/log5=0.064

4. Определить максимальную энтропию телевизионного изображения, содержащего 500 строк по 650 элементов в строке, при условии, что яркость каждого элемента передается восемью квантованными уровнями, если уровни не коррелированны.

Решение:

Максимальная энтропия одного элемента изображения, при условии, что уровни не коррелированны, составляет (энтропия максимальна в случае, если уровни являются равновероятными):

.
Так как, у нас элементов 500х650, то возможное количество состояний изображения , а максимальная энтропия телевизионного изображения равна:
.