Para extender la explicación, voy a poner un ejemplo práctico:
Tenemos una imagen tomada de una cámara en formato nef (Los RAW de Nikon). Necesita revelado digital para poder visualizarse.
La revelamos ajustando altas luces y brillo/contraste, y la guardamos en jpg.
Especificamos el porcentaje de la compresión, y creemos que con un 95% para una imagen de grandes dimensiones no existirá diferencias. Perfecto. Guardamos un archivo jpg que ocupa la décima parte del nef, y posee un 95% de la información de ésta (el resto se hacen fundidos de colores para ocupar toda la imagen).
A partir de aquí, cualquier apertura del archivo jpg no degradará la imagen si no efectuamos un nuevo guardado. Si tenemos que retocar la foto y partimos del jpg, al volver a guardar la imagen ya retocada con la misma compresión que antes, obtendremos un 95% del anterior 95%, es decir, un 90% de la calidad de la imagen original... y así podríamos seguir hasta que en la décima modificación de la imagen te quede el 60% de la calidad original.
Jpg es un contenedor de imagen, como puede ser avi para un vídeo. Cambiarle de nombre o abrirlo no degrada su calidad, ya que no tocas la parte de la imagen, solamente los atributos del contenedor, pero guardar modificaciones (como volver a recodificar) sí que afecta, lógicamente.
Png es otro tipo de contenedor. Es un bmp pero comprimido sin pérdidas, de manera que fotos con poca variación de colores ocuparán poco, y otras con una variedad enorme se acercarán en tamaño a una imagen sin compresión, pero cualquier modificación afectará solamente a lo que hayas cambiado, el resto de la imagen permanecerá con la misma calidad que la original, cosa que con el jpg con pérdidas no es posible, ya que al guardar alteras de nuevo a toda la imagen.
En cuanto a visores de imágenes ágiles con unos cuantos cientos de miles de fotos,
http://www.irfanview.com/ sigue siendo un referente. ACDSee en sus versiones antiguas (la 2.43 o la 3.1) también son muy rápidas, pero están algo desactualizadas con respecto a nuevos formatos.