Если хотите реально что то настроить,и самостоятельно установить режимы,нужно контролировать не ВЧ сигнал на выходе,а НЧ форму огибающей ДТГ на выходе передатчика.
Вот как выглядит качественный сигнал моего усилителя,после настройки.
Сами увидите все возбуды и нелинейности.
Последовательно подключая детектор к разным каскадам(узлам),увид ите где и что у вас происходит.