Пред.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике ДЛЯ СТУДЕНТОВ И ШКОЛЬНИКОВ ЕСТЬ
ZADANIA.TO
5. Примеры проблем, выходящих за рамки данной теорииСуществующая теория полностью игнорирует ценность передаваемой и обрабатываемой информации. Это обстоятельство настойчиво подчеркивалось на протяжении всей книги. Многие другие авторы недооценивали, по-видимому, важность этого ограничения, что повело ко многим недоразумениям по поводу возможностей существующей теории. Только игнорируя человеческую ценность информации мы смогли построить научную теорию информации, основанную на статистике, и была показана полезность этой теории. Существует, однако, много проблем, которые нельзя разрешить методами этой теории. Цель этого раздела состоит в том, чтобы вкратце поставить некоторые из этих вопросов и показать, что все они сводятся к одной и той же общей проблеме: как ввести в теорию элемент ценности информации. Надобность в этом новом элементе возникает всякий раз, когда информация рассматривается как основание для предсказания и для практического применения. Сперва подытожим кратко существующее положение: положим, например, что посылаемая телеграмма закодирована двоичным кодом (0 или 1) и содержит n двоичных цифр. Если кодирование не имеет избыточности, то телеграмма содержит всего n двоичных единиц информации. Вопрос о том, имеет телеграмма значение для получателя или нет, не рассматривается. На научной конференции в Милане в апреле 1954 г. д-р Куфиньяль (Париж) поставил следующий вопрос: после того как телеграмма послана, автор добавляет одну двоичную цифру со следующим значением: 0: все неверно; не обращайте на телеграмму внимания, 1: телеграмма правильная; можете ею воспользоваться. С точки зрения информации это означает добавление одной двоичной единицы, так что всего получается 0 («нет») — разрушает всю ценность содержащейся в телеграмме информации, 1 («да») — попросту добавляет избыточность. Мы можем, следовательно, сказать, что «нет» (0) несет отрицательную информацию, равную по абсолютной величине полной информации в телеграмме. С точки зрения существующей теории информация всегда положительна и никогда не является отрицательной. Здесь ясно обнаруживается различие между статистической мерой информации и практической ценностью этой информации для получателя. Коды с самопроверкой и самоисправлением, рассмотренные в главе 6, соответствуют практическим задачам, очень сходным с рассмотренной выше. К телеграмме, содержащей n двоичных знаков, мы добавляем 0 или 1 так, чтобы число единиц было всегда четно. Приемник проверяет общее число единиц. Если оно нечетно, то может быть 1, 3, 5, ... ошибок. Если оно четно, то либо ошибок нет, либо имеется 2, 4, 6, ... ошибок. Первый случай, очевидно, соответствует сигналу «нет» в задаче Куфиньяля. Дополнительные сигналы для проверки или исправления не добавляют никакой информации. По существующей теории эти сигналы просто добавляют избыточность. Здесь речь идет, однако, о практической ценности информации. Вместо того чтобы разделять утверждения на истинные и ложные («да» или «нет», см. выше), мы можем условиться указывать вероятность р того, что сообщение является истинным. Выберем шкалу с Вопрос о надежности физического наблюдения обсуждался в главе 14. Всякое физическое измерение содержит возможность ошибок. Надежность Вычислительные машины рассматривались в главе 19, и было показано, что вычисление очень сходно с переводом, кодированием и декодированием. В лучшем случае вычисление сохраняет всю информацию, содержащуюся во входных (исходных) данных, но обычно некоторое количество информации теряется за счет приближений, вводимых вычислительной процедурой. С информационной точки зрения вычисление не добавляет никакой новой информации, а лишь повторяет уже имеющуюся информацию на другом языке и, возможно, с некоторыми потерями. Но вычисление, как и декодирование, и перевод, конечно, увеличивают практическую ценность информации и ее значение для получателя. Вопрос об информации, содержащейся в программе вычисления, является другим аспектом проблемы, до сих пор не исследованным, хотя он и был поставлен на миланской конференции. Весьма важным для практического применения является вопрос о циркуляции информации в каналах с обратной связью, или без нее. Положительная обратная связь обладает свойствами, существенно отличными от отрицательной. По нашему определению информация есть положительная величина, которая никогда не может стать отрицательной. Следовательно, в каналах с обратной связью мы снова имеем дело не с самой информацией, а с ее ценностью. Вопрос о том, как определить ценность в такого рода задачах, остается открытым. По-видимому, единственное заключение, которое мы пока что можем сделать (и которое не имеет большого практического значения), состоит в следующем: рассмотрим рис. 20.1, на котором входной канал С, дает в среднем возвращается обратно по цепи обратной связи. Канал
так что его пропускная способность есть
и выходной канал имеет пропускную способность
Это, однако, не затрагивает хорошо известных проблем цепей с обратной связью. К задаче такого рода могли бы быть применены методы Линвилла и Зальцера, рассмотренные в главе 19.
Рис. 20.1. Схематическое представление пропускных способностей в цепи с обратной связью. Большое число задач показывает важность обсуждения практической ценности информации для получателя. В то время как мера информации, как она определена в настоящее время, является абсолютной, ценность информации, конечно, относительна для некоторого получателя. Предполагается, что эти вопросы можно обсуждать с эмпирической точки зрения, пытаясь в каждом случае найти разумное определение ценности, а затем сравнивая различные задачи, с целью обнаружить общие свойства различных определений и выяснить, может ли быть развита теория, применимая к различным частным случаям. Такое обсуждение, вероятно, сделало бы теорию информации значительно более ценной для практических применений и могло бы открыть новые важные направления исследований. Во всяком случае, одно непосредственно очевидно: любой критерий ценности ведет к оценке получаемой информации. Это равносильно отбору информации, имеющей определенную меру качества. Некоторая часть информации может быть признана важной и сохранена со всей ее ценностью, тогда как другая часть может считаться не имеющей ценности и быть отброшена. Эта задача очень сходна с процессом фильтрации. Фильтр является хорошо известным в обшей теории элементом и обладает двумя важными свойствами: он необратим и он уменьшает общее количество информации. Мы можем установить следующее положение: относительная ценность информации для некоторого данного получателя меньше или равна абсолютной информации. Это уже является отправной точкой, действительной в общем случае, и задача состоит в установлении общего определения различных методов фильтрации, применяемых для оценки. относительной ценности информации.
|
1 |
Оглавление
|