Hombre, la verdad es que si la tienes conectada por RGB ya estás usando la mejor conexión posible. Que se te vean los colores un poco chillones como dices es normal, el RGB da unos colores bastante vivos, así que si no consigues ajustar la imagen a tu gusto con el brillo y el contraste poco más se puede hacer.
Personalmente no creo que te sirviera de mucho conectarla a un monitor, ya que por lo bajo de la resolución que solía usar la megadrive, no aprovechas la del monitor.
En el monitor, más nítida lo dudo, mejor refresco de imagen si, y si no te gustan las scanlines de la tele pues eso también te lo ahorras, pero personalmente siempre prefiero una consola por RGB en la tele mientras la resolución que usa la consola no supere la de la TV y necesite un monitor o proyector para mostrar la imagen con toda la calidad posible (caso de 640x480 para arriba)
Si tanto la megadrive como el cable RGB y la tele funcionan correctamente, ya deberías obtener una imagen muy buena.
Saludos!