Вы обычную V2 пытаетесь до 6.3ГГц запустить? Не будет это работать, что за частоты выше 4,4ГГц будут установлены я не знаю.
В приборе нельзя рисовать линии за пределами дисплея (обрезать их краем дисплея), поэтому точки вне обрезаются. Можно обрезать их у края дисплея.Почему кривая выходит за границы графика? На самом приборе кривая ограничена правой стороной дисплея
Загогулина в начале диапазона, до 10-30МГц (в зависимости от прибора), V2 не очень хорошо работает на низких частотах, и именно поэтому калибровать желательно в двух диапазонах. 1-100МГц, и 30МГц - МАХ, так как вначале будет мало точек калибровки и вытянуть эту кривулину интерполяцией невозможно. На частотах ниже 1МГц желательна отдельная калибровка, там все очень плохо, постоянная составляющая сигнала большая.
У NanoVNA-App довольно специфичный код, который очень сложно читать и править. Автор заложил ограничение 6ГГц для LibreVNA, при этом она не хочет даже запрашивать чтото пока не установишь меньшую частоту, несмотря на то что подключено другое устройство (она его даже не видит). Сменив частоту на допустимую, и подключившись можно уже выставить большее значение.