En fait, il faut bien garder à l'esprit qu'on est en analogique.
Pour notre usage, la limite est la bande passante de la liaison, mais de part et d'autre, on utilise des source (caméra) et affichage (écran/lunette) qui marchent en digital : CCD/CMOS et "LCD" au sens large.
Du coup, à chaque 'transformation', il y a une sorte de 'flou' qui s'ajoute. Mais malgré ça, plus la source est détaillée, et plus l'image est 'franche' car le passage vers l'analogique va prendre la valeur moyenne du pixel, mais un peu des pixels d'a coté aussi.
Après, en effet, la limite, c'est qu'à un moment, on gagne plus rien, mais le temps de traitement peut augmenter (plus particulièrement sur la camera).
Une source en 800 lignes n'a rien de délirant, même si à la sortie tu en affiche 600, et qu'entre les deux, selon la qualité de la transmission, ça en représente en fait que 500.. l’excédent de ligne sera pas 'hors cadre', mais viendra 'lisser' l'information manquante.
Après, d'autres facteurs entre en jeu de toute façon.. il y a un peu de ressenti, et puis les réglages de la caméra peuvent vraiment changer la donne ! (et ça, je trouve que c'est le plus délicat à ajuster... pour les PID, on trouve des guides de partout, mais pour la camera, c'est un peu chacun sa sauce et de l'empirisme

)