Antes de gastar dinero en una u otra opción mírate algún tutorial básico de fotografía como sugiere el compañero y practica con la D5000. Aunque haya mil opciones, no hace falta que toques mil cosas para hacer una foto y salga decente. De hecho al final solo tocas una, velocidad o apertura, el resto ya lo calcula la cámara automáticamente.
Si el problema de raíz es que el tema de la fotografía no te "emociona" demasiado y no quieres estar jugando con parámetros para obtener la foto que tienes en la cabeza, o no tienes en mente comprar objetivos más allá del que viene de serie, igual lo que necesitas es una compacta avanzada como la Sony RX100, que se puede encontrar por 350 euros en algunas webs y cabe en un bolsillo. Seguro que la D5000 no la has usado mucho por no ir cargando con ella, y para eso mejor tener algo que uses en vez de una máquina cogiendo polvo.
Irse a una cámara sin espejo de objetivos intercambiables (lo que llamas "reflex compacta") también te va a solucionar que ocupa y pesa menos, aunque ya no es de bolsillo. Por lo demás, la funcionalidad es similar a una reflex exceptuando que no tiene visor óptico y que gasta más batería por eso mismo. La NEX 3 de todas formas es la gama más baja, si acaso me plantearía la NEX 5... pero aun así no creo que te solucione nada ahora mismo.
pero si algo mas sencillo. 
