Теорема магического Котельникова

Feb 11, 2024 18:39

Знание сейчас выглядит где-то так: человек выучивает какой-то красивый термин и ту область, к которой он примерно относится. А потом любые свои суждения об этой области как бы обосновывает просто путём произнесения этого термина. Главное, чтобы звучало по-научному ( Read more... )

альтернативно одарённые, философия

Leave a comment

lex_kravetski February 11 2024, 17:01:13 UTC
> Грубо говоря, теорема Котельникова говорит о том, что по растровому изображению (дискретному звуку) не получится восстановить информацию об изменениях, происходящих между пикселями/отсчетами звукового сигнала.

Ещё одна отличная версия теоремы Котельникова - лишь самую малость хуже чем та, про которую писал я. Из неё всего лишь следует, что интерполяция и аппроксимация невозможна в принципе. Но, так и быть, графики функций всё-таки строить разрешается - если, конечно, у нас есть записанная где-то формула этого графика.

> К векторным и другим параметризованным сигналам и изображениям эта теорема никаким боком не относится.

Хм. Странно. Неужели она не универсальна?

А вдруг она даже ещё менее универсальна, чем в вашем пересказе? А то, вон, звуковые волны отлично записываются в файлы, то есть в однозначно дискретные наборы чисел. И по ним каким-то чудесным образом получается восстановить сигнал в точности таким, каким он был - в том числе, «между отсчётами».

Может быть, в оной теореме не случайно указали ещё какие-то условия для её применимости?

Reply

antroparium February 11 2024, 17:12:34 UTC

Теорема Котельникова имеет вполне конкретную область применимости.

Пример: почему wav и mp3 файлы записывают звуковой сигнал чаще всего с частотой 44100 или 48000 Гц?

Потому что звук, воспринимаемый человеком, ограничен вдвое меньшей частотой - 20000 Гц. Всё.

Если во время записи звучал ультразвук, то он не будет записан. Возможно, он даже внесет искажения в звуковой сигнал, если не будет предварительно отфильтрован - это может произойти, если инженер не знает теорему Котельникова.

Хотя, мне больше кажется, что ваша цель - поиздеваться.

Reply

lex_kravetski February 11 2024, 17:21:50 UTC
> Потому что звук, воспринимаемый человеком, ограничен вдвое меньшей частотой - 20000 Гц.

Хм. Так значит в некоторых сигналах оказывается возможным восстановить и то, что «между отсчётами»? Странно. А вы только что говорили, будто теорема Котельникова - о том, что нельзя.

Reply

antroparium February 11 2024, 17:26:23 UTC

Нет, я такого не писал. В своем первом сообщении я прямо так и написал, что теорема описывает возможность интерполяции сигнала между отсчетами. Хотя, правильнее было бы это назвать аппроксимацией (рядом Котельникова). Если точнее говорить, то речь идет о том, каковы пределы такой интерполяции.

Reply

lex_kravetski February 11 2024, 17:29:45 UTC
> Нет, я такого не писал.

Позвольте процитировать:

«Грубо говоря, теорема Котельникова говорит о том, что по растровому изображению (дискретному звуку) не получится восстановить информацию об изменениях, происходящих между пикселями/отсчетами звукового сигнала».

Reply

antroparium February 11 2024, 17:31:42 UTC

Хорошо, каюсь, что неточно выразил мысль. Надо читать "информацию о существенных изменениях".

Reply

lex_kravetski February 11 2024, 17:49:21 UTC
Информацию даже о бесконечно большом количестве очень существенных изменений вполне возможно передать конечным и весьма небольшим количеством информации.

Например, многие сабжевые звуки синтезатора можно записать и передать вообще очень небольшим набором чисел - описывающих распределение гармоник этого сигнала и несколько параметров огибающей громкости. Даже если этот звук потом собираются исполнять три недели непрерывно.

Ну или вот ещё один интересный вопрос: каким образом возможно прогнозирование показаний некоторого прибора в будущем, если в будущем для его показаний нет вообще никаких точек? Ведь из теоремы Котельникова следует, что в этом случае мы можем построить сигнал только с нулевой частой?

Теорема Котельникова конкретно о том, что при конкретном способе интерполяции в произвольном общем случае можно гарантированно восстановить только те условно «гармоники» сигнала, частота которых вдвое меньше частоты отсчётов по времени.

Собственно, она не запрещает даже восстановить сигнал - например, изображение - прямо вот этим вот способом интерполяции «между пикселями» - если в том, что изображено на картинке, не было каких-то заметных гармоник с частотой вдвое больше линейного разрешения этой картинки и выше, то всё получится даже этим, описываемым теоремой, способом.

А уж с дополнительными сведениями некоторые вещи можно восстановить даже с потенциально бесконечной точностью (например, графическое изображение букв, написанных шрифтом, известным тому, кто смотрит на картинку) - за вычетом случайных шумов матрицы и т.п., которые на фотках и картинках обычно полагаются багами, а не фичами.

Поэтому заявление, будто бы теорема Котельникова «запрещает» восстанавливать и передавать какую-то информацию неким другим способом или даже этим же, но в с теми параметрами, которые указываются в теореме, основаны на том эффекте, который я описал в статье: надо выучить красивое словосочетание и обосновывать им абсолютно всё.

Reply

antroparium February 11 2024, 17:58:37 UTC

Ну или вот ещё один интересный вопрос: каким образом возможно прогнозирование показаний некоторого прибора в будущем, если в будущем для его показаний нет вообще никаких точек? Ведь из теоремы Котельникова следует, что в этом случае мы можем построить сигнал только с нулевой частой?

Прогнозирование будущего поведения сигнала выходит за рамки использования этой теоремы.

А по остальному - у меня нет возражений.

Reply

coralsteel February 12 2024, 00:06:26 UTC

Автор говорит, что считанное число байт может передать гигабайты информации. Например, ссылка на архив 10 Гиг в датацентре содержит 300 байт.

Reply

antroparium February 12 2024, 02:36:25 UTC

Например, ссылка на архив 10 Гиг в датацентре содержит 300 байт.

Вы издеваетесь?

Есть такое понятие: контекст.

Когда используют теорему Котельникова, те кто понимает контекст, автоматически перестают думать про ссылку на архив, и обсуждают только содержимое этого архива, в котором записан звук в дискретизированном виде, изображение в растровом виде или любой другой сигнал, представленный последовательностью значений в дискретном пространстве/времени.

Reply

coralsteel February 12 2024, 04:03:19 UTC
Хихи Вы понимаете слово "сарказм"?
Я утрировано выразил мысль ТС.
Например, буква А (4 байта) в фонте ttf ссылается на длиннейший алгоритм представления\вывода этой буквы.
"вывести с разрешением 10000*10000" это да 4 байта

Reply

le_chat February 12 2024, 11:17:17 UTC
На собеседовании всегда спрашиваем кандидата, знает ли он теорему Котельникова.
Если отвечает, что знает, просим рассказать. Если рассказывает правильно, даём ему пример с дискретизацией одномерного сигнала, в котором требования теоремы соблюдаются, и просим показать, как это работает. И тут все заваливаются, потому что на месте "конкретного способа интерполяции" у всех слепое пятно. Это не повод человека не брать, конечно, поэтому начинаем наводить кандидата на мысль про этот способ.
Смешно получается, когда хорошо соображающие товарищи, разобравшись с нашими наводящими вопросами, говорят "так и одного отсчёта может хватить для передачи всего сигнала", - и мы отвечаем "а это так и есть для сигналов с бесконечно узкой шириной полосы частот".

Reply

lex_kravetski February 12 2024, 11:36:15 UTC
Чтобы описать одну синусоиду на бесконечном отрезке времени, достаточно указать её амплитуду, частоту и фазу. Это - три числа. Плюс надо передать знание о том, что это - синусоида. То есть выражение вида…

5 * sin(3 * x + 7)

…таки с абсолютной точностью передаёт бесконечное количество точек такого сигнала, хотя занимает что-то вроде десяти байт. Причём почти что независимо от того, насколько велика частота - количество дополнительных байт будет расти очень медленно по мере роста частоты.

Однако, видимо, после высшего образования у большинства людей этот факт школьного уровня существует совершенно независимо от теоремы Котельникова.

Впрочем, с другими фактами дело обстоит примерно так же.

Reply

le_chat February 12 2024, 14:40:15 UTC
Это очень похоже на пример, который мы рассматриваем с кандидатами на собеседовании, когда дело доходит до вопроса, откуда на приёмной стороне "появляются" амплитуда, частота, фаза и информация о синусоидальной форме, и почему не надо много отсчётов для этого передавать.
Те, кто проходит до конца, выясняют:
- что частота (3) и именно гармоническая форма - и никакая другая - будет восстановлена в данном примере благодаря тому, что каноническая процедура передачи сигнала по каналам с дискретизацией требует использования на приёмной стороне восстанавливающего фильтра, ЧХ которого согласована с полосой частот дискретизируемого сигнала, что в данном случае означает использование полосового фильтра с бесконечной добротностью Q и частотой резонанса равной 3, а на выходе такого фильтра ничего, кроме гармонического сигнала с частотой 3 появиться не может;
- что фаза (7) будет восстановлена точно, если мы знаем задержки в канале связи и учтём их;
- что фильтр с бесконечной добротностью не поглощает энергию, а, значит, приход на такой фильтр одиночного дельта-импульса, несущего конечную энергию - информацию об амлитуде (5), запустит в этом фильтре незатухающие гармонические колебания, - а, значит, одного импульса будет достаточно, чтобы запустить бесконечную синусоиду, и больше передавать отсчёты будет не нужно,
- что теория дискретизации не только не запрещает "передавать" на приёмную сторону что-то, кроме самих дискретных отсчётов, а прямо предполагает наличие на приёмной стороне восстанавливающего фильтра с согласованной ЧХ, который ЗАРАНЕЕ и ДОФИГА знает про сигнал, который ему придётся восстанавливать.

Теорема Котельникова, вынимаемая из магических скрижалей для поучения ближнего и доминирования над ним, но без обязательного заклинания в виде соглашения о восстанавливающем фильтре, мгновенно раздруживается со здравым смыслом и, как нун-чаки в руках новичка, бьёт его по затылку.

Reply

vlkamov February 12 2024, 03:21:22 UTC
:-)

Reply


Leave a comment

Up