Куда проще сделать классический ключевой смеситель (у него-то с динамикой и чувствительностью, и устойчивостью всё в порядке будет), а самую ближнюю третью гармонику гетеродина, раз это так для Вас актуально, задавить, выставив отсечку у управляющих импульсов 60 градусов. Ну, а с пятой гармоникой, надеюсь, у Вас проблем уже не будет.
Кстати, выставив указанную отсечку гетеродинных импульсов, Вы ни только третью гармонику прибьёте, но и коэффициент преобразования на основной частоте более чем на 0.5 дБ поднимите (-3.411 дБ при 60 град. в идеале, против -3.922 дБ при меандре), как раз, из-за того, что на третьей гармонике не будет преобразования.
Одни плюсы, короче говоря.