А при чём здесь фильтр? Соберите другой, и проверьте. Получите те же самые всплески пролаза на гармониках гетеродина. И это свойство не фильтра, а самого метода измерения АЧХ с применением...