Si tienes muchos problemas con Windows puedes probar con Linux, lo mismo el driver libre de linux se apañe bastante bien, y si tu único interés es rular un mame lo hay para linux, si acaso que tengas que ponerle algún menú tipo QMC2 (para tener algo parecido al MAME32 con su listado y opciones).
Te lo digo como opción quizá usable por si sigues teniendo problemas para usar esa gráfica. Está claro que si no consigues rular la grafica no te va a cumplir con el cometido que quieres.