Hay dos métodos de compresión hablando en general
Con perdida, y sin perdida.
Con perdida se usan algoritmos que sustituyen colores muy similares (generalidades ojo) disminuyendo la calidad de la imagen, aunque generalmente de forma inapreciable. Con audio se hace algo similar con el Mp3
El 7zip, el zip, arj y otros son formatos de compresión SIN perdida, dado que se usan muy a menudo para comprimir datos. Imagina la broma de comprimir una base de datos y que pierda partes de la misma
Por otro lado, recordarte que muchas camaras de fotos disponen de dos modos. Uno "raw" como el TIFF o similar sin ningún tipo de compresión, donde cada imagen ocupa una burrada, y otra en Jpeg donde ocupan menos, pero con una mínima disminución de calidad.
En cuestión de imagenes, se usa a menudo el .zip o similares para ahorrar espacio, incluso aunque las imagenes originales estén en jpg. ¿Como?... pues unificando cientos de imagenes en un solo archivo, y viendolas posteriormente con algún programa capaz de leerlas incluso dentro del archivo zip (como el Comic Rack por ejemplo). Esto aparentemente no tiene lógica, ya que físicamente las imagenes comprimidas, no disminuyen de tamaño al comprimirse de nuevo, pero si que lo es cuando piensas en terminos de almacenamiento REAL en disco de cada imagen, ya que una cosa es lo que ocupa el fichero a nivel lógico, y cuanto espacio ocupa físicamente en el disco.
Pero esto ya es mas tecnico, si tienes curiosidad puedo extenderme