И это в самом деле ошибка в схеме. Сейчас сделано так:
обрабатываемый сигнал проходит через трансформатор 1:2, средний вывод вторички подключён к источнику напряжения смещения ключей, Vocm. Благодаря тому, что трансформатор повышает импеданс с 50 до 200 ом, ослабляются требования к сопротивлению ключей (они будут вносить вчетверо меньшую погрешность, чем если бы это была 50-омная схема).
Получившийся противофазный и сдвинутый на Vocm сигнал подаётся на два счетверённых ключа, управляемых так, что первая пара ключей в момент 0° коммутирует трансформатор на (+I,-I), следующая - в момент 90° подключает его к (+Q,-Q), затем 180° в обратном порядке (-I,+I) и 270° (-Q,+Q). Таким образом получается два сдвинутых на 90° дифференциальных сигнала, I и Q. Они проходят через дифференциальный же ФНЧ, чтобы отрубить весь ВЧ-мусор, и подаются на инструменальные усилители, которые усиливают дифференциальную составляющую сигнала, не обращая внимания на постоянную, которая по-прежнему Vocm...
...так думал я до самого последнего момента, пока до меня не допёрло, что фильтр в канале I "повисает в воздухе" в моменты коммутации 90° и 270°, такая же беда с фильтром в канале Q в моменты 0° и 180° соответвссвтвенно. Полез посмотреть - и точно, когда ключик отключается, на входе фильтра появляется мерзкий звон. Т.к. фильтр не идеален (а их ещё и два!), этот звон получается слегка разный (хотя и очень-очень похожий) -- вот, видимо, где-то из-за этого и набегает дифференциальная ошибка.
Кроме того, в самый-пресамый момент комутации откуда-то вылезает весьма острый пик (полагаю, это как раз и есть ёмкостная наводка от управляющей цепи в сигнальную прямо внутри микросхемы ключа). В положительном и отрицательном каналах эти пики могут быть немного разными, так же они как-то связаны с положеним момента коммутации относительно фазы входного сигнала. А ведь этот пик тоже проходит через фильтр -- хоть и сглаживаясь, но всё-таки добавляя свою долю в сигнал... Избавиться от ёмкостной связи вряд ли возможно - если я ещё сильнее загрублю фронты управляющих сигналов, это снизит быстродействие схемы и увеличит временной разброс моментов коммутации.
Сейчас я налепил два дополнительных чипа поверх имеющихся и навесным монтажом подключил их к схеме так, что входы фильтра I в моменты 90° и 270° теперь подключаются к Vocm через резисторы 100 ом, что как бы имитирует импеданс источника (для дифференциального фильтра это 100 и 100 ом на каждый вход); аналогично сделал с каналом Q.
Не могу сказать, что произошло чудо, но всё же некое улучшение работы схемы я в самом деле наблюдаю. Форма сигналов на выходе ключей теперь в самом деле похожа на то, что должно быть - кусочек синусоиды, тишина (никаких колебаний, как раньше), затем опять кусочек синусоиды, снова тишина; каждый сегмент длиной в четверь периода, как и должно быть. Замерить длину сегментов чем-то более точным, чем осциллограф, я не могу, а им я вижу, что там всё вроде как хорошо.
Паразитные импульсы от коммутации никуда не делись, но благодаря тому, что вход фильтра "зануляется", они стали гораздо ниже. Думаю, если вместо навесного монтажа проволочками там будет нормальный печатный монтаж с хорошим блокировочным конденсатором, то про этот пик и паразитный звон можно будет забыть вообще.
Зато теперь вылез вообще непонятный эффект - усилитель осциллирует на частоте около 980 кГц. Т.е. он продолжает усиливать, но выходной сигнал стал "бородатый", с колебаниями которых не должно быть. Надо будет попробовать поставить терминирующий резистор не на выходе фильтра, а прямо на входе усилителя.
В общем, грядёт очередная ревизия платы смеситилей, но теперь я поступлю иначе: не буду переразводить всю её целиком, а сначала сделаю маленькую "заплатку" для имеющейся схемы. Даже не одну, а три варианта сразу - на четырёх FST3125 (как сейчас), на куче 74LVC1G66 (нужно аж 16 ключиков; их количество можно было бы сократить до 12, но на высокой частоте это будет заведомо хреново работать из-за дополнительных задержек на логике), на паре FST3253. К последним у меня ещё больше вопросов, чем к FST3125, ибо это мультиплексор, а не раздельные ключи, т.е. там внутри какой-то дешифратор. Насколько он хорош и быстр на частотах ближе к 120 МГц - неизвестно, но заценить стоит хотя бы из-за потенциально возможного упрощения схемы.
Из приятного: идея безотражательного многокаскадного ФНЧ вполне рабочая. На его трёх высокочастотных ответвлениях я вижу именно что высокочастотный мусор, последовательно отрезаемый от сигнала - сначала самые трескучие компоненты, затем среднечастотные и под конец уже самые высокочастотные из низкочастотных, на границе нужного мне диапазона. Т.е. фильтр работает так, как я того и хотел -- без лишних резонансов (которые неизбежно вылезли бы, собери я его по однокаскадной схеме) поглощая мусорные компоненты сигнала, а не отражая их обратно в смеситель.