Для синтеза фильтров, диплексеров, и т.п. - я на домашнем ноуте пользуюсь программами c http://www.tonnesoftware.com/ или qucs
Для прогонки разных вещей во временной и частотной областях - LTSpice...