Ну почему же. 1/131072 бита - это информация, содержащаяся в сообщении о результатах события с двумя возможными исходами, если априорная вероятность одного исхода больше вероятности другого примерно в 3 миллиона раз.
Кстати, вот интересное применение. Вспомним классические строки:
"Я пришел к тебе с приветом Рассказать, что солнце встало".
Будем считать, что "солнце встало" означает, что планета повернулась так, что солнце находится над горизонтом (независимо от его видимости). "Солнце встает" уже 6 миллиардов лет. Логично прикинуть, что катастрофы, которые могут привести к смещению орбиты или к тому, что Солнце погаснет, случаются в сроки, соизмеримые с возрастом Земли. Скажем, раз в миллиард лет. То есть вероятность того, что конкретно сегодня солнце не встанет, будет примерно x=1/(1,000,000,000*365), а у события "солце встало" вероятность будет (1-х). Легко подсчитать, что информация, передаваемая сообщением о таком вероятном событии, будет примерно равна 10**(-10) бит, или 0.1 нанобита, или 100 пикобит.
Это же надо было умудриться прийти с таким малоинформативным сообщением! :)
Comments 3
1/131072 бита - это информация, содержащаяся в сообщении о результатах события с двумя возможными исходами, если априорная вероятность одного исхода больше вероятности другого примерно в 3 миллиона раз.
См. http://en.wikipedia.org/wiki/Binary_entropy_function
Reply
Reply
Кстати, вот интересное применение. Вспомним классические строки:
"Я пришел к тебе с приветом
Рассказать, что солнце встало".
Будем считать, что "солнце встало" означает, что планета повернулась так, что солнце находится над горизонтом (независимо от его видимости). "Солнце встает" уже 6 миллиардов лет. Логично прикинуть, что катастрофы, которые могут привести к смещению орбиты или к тому, что Солнце погаснет, случаются в сроки, соизмеримые с возрастом Земли. Скажем, раз в миллиард лет. То есть вероятность того, что конкретно сегодня солнце не встанет, будет примерно x=1/(1,000,000,000*365), а у события "солце встало" вероятность будет (1-х). Легко подсчитать, что информация, передаваемая сообщением о таком вероятном событии, будет примерно равна 10**(-10) бит, или 0.1 нанобита, или 100 пикобит.
Это же надо было умудриться прийти с таким малоинформативным сообщением! :)
Reply
Leave a comment