Зачем вам TXD-RXD?
Тлг манипуляция идет с ноги DTR, это кажется 4й пин в 9-пиновом.
Выберите в предложенной тестовой программе ручной тест и там есть кнопка DTR - это что надо. Еще и за одно RTS можно проверить, вдруг дтр сгорел, то можно почти во всех программах манипуляцию на ртс пересадить...
При активации дтр или ртс пинов на выходе порта относительно GND-пина должно быть положительное напряжение от 5-8В или более.
И в принципе реле даже лишнее звено у вас, любому трансиверу для тлг ключевания хватит и простой современной светодиодно-транзисторной оптопары как pc814 или любой 4Nxx. Последовательно с диодом еще резистор ограничения тока нужен около 1кОм.