Yo lo tengo en un Proliant con un G1610 y me vale para 1080p, aunque bastante justito. Hace poco cambiaron todo el toolchain de compilación y algún flag han debido de tocar, porque con las últimas versiones ya se me corta cuando hace falta transcoding. Y hablo de un stream. De momento sigo con una versión anterior, pero yo que tú miraría mínimo 4 cores. Una caja ITX con un Zen de primera generación estilo 1600 no debe salir muy caro a estas alturas y va a ir fresco y sobrado para lo que quieres.
PD: Sin pagar, que yo sepa, Plex sólo soporta 1 usuario. O compartís el mismo o no sé si habrá otra alternativa.