Mi anterior placa era esa precisamente, por lo que comentas, me da que lo que tienes inestable es la RAM.
Prueba primero haciendo OC al procesador y cuando veas que es estable, entonces prueba a aplicar los perfiles XMP a la RAM, si ves que no es posible y que te hace esos reinicios, prueba con la opción Memory Try It!
A mi al menos así me funcionaba, incluso pude hacerle OC a la RAM a más de lo que admitía en teoría (de 2666 a 3066MHz), aunque en mi caso aplicando los perfiles XMP (hasta 2666MHz) me iba sin problemas, pero los Ryzen de 1ª generación eran más quisquillosos con la RAM a partir de 2933MHz, de hecho, con mi actual placa le puedo hacer OC al procesador pero no a la RAM a más de 2933MHz, aunque la placa sea mejor y con mejor chipset, pero tiene otras ventajas como mejores VRM, chip de audio, más puertos SATA, etc... (ASUS Prime X370-Pro)
Saludos.