1. Проверьте, срабатывает ли реально реле (замыкаются ли контакты). И заодно - защитный диод параллельно обмотке есть ? А то ЭДС самоиндукции вполне способна и ключик вынести, и вывести схему в сброс.
2. Проверьте частоту генерации (если на F628, то на втором выводе корпуса, выход компаратора). В режиме измерения емкости должно быть несколько сотен kHz, в режиме индуктивности без подключения индуктора - единицы-доли Hz.