Есть погрешность в определении характеристик кварца (Lm, Cm, Cp). Проверяйте АЧХ будущего фильтра в модели, легче определить ошибку. И еще, при снятии АЧХ фильтра, откалибруйте NWT вместе с резисторами. Тогда затухание в полосе пропускания будет реальное.
В Dishal просто так не получится, это не QER-фильтр.