Si la tarjeta tiene salida DVI usa DVI. Tiene más calidad porqué es una salida digital y no pierde señal mientras viaja por el cable, mientras que con el VGA la calidad de imagen puede empeorar dependiendo de la calidad del cable (además se notan mucho más las interferencias).
No exactamente. Si no hay un repetidor, siempre se pierde calidad de señal. Por eso, los estándares de fabricación de los cables marcan unas dimensiones máximas.
En cuanto a mejor o peor calidad, DVI es ligeramente mejor siempre y cuando utilizemos monitores TFT/LCD, ya que el procesamiento de la señal también es digital.