Ve a la pestaña Detalles, haz click derecho sobre el titulo de alguna columna (donde pone Nombre, Pid, estado, cpu, memoria, etc) y selecciona la opción "Seleccionar Columnas". De la lista que te aparecerá elige "Espacio máximo de trabajo (memoria)". En esa columna, si los ordenas de más a menos podrás ver que aplicación se está reservando tamaña cantidad de memoria.