Jelou, te cuento mi experiencia:
Lo tengo a tope de RAM, 32 GB, compre compatible hace un tiempo cuando estaba barata.
4 discos duros, 2 SSD para High Sierra y Windows 10, 2 mecanicos para datos. High Sierra se tiene que instalar "de aquella manera" por no estar soportado. La primera vez no lo instale como APFS y la verdad que petardeaba bastante. Luego lo volvi a instalar con APFS y vuela. Windows 10 tambien va como un tiro.
Sobre la grafica, ahora tengo una GTX680 de Apple y en camino una GTX1050TI. Lo unico que va a pasar cuando instalas una grafica no flasheada es que no ves el menu de arranque, el resto funciona sin problemas.
Tambien instale una tarjeta PCIe con 4 USB 3.0 porque desespera la velocidad de los USB.
Espero haberte ayudado, si tienes mas dudas, aqui estamos