Después de investigar un poco..
Aunque tu placa es top, y tiene última tecnología (WIFI 6 y BT 5.2), dependerá de la distancia y BT del mando. En el caso de Sony, por ejemplo el Dualshock 4 v2 usa (BT 2.1 +EDR) y el Dualsense (BT 5.1), con lo cual estaría limitado por el mando, pero en tu caso, el mando de Xbox según lo que he leído tiene su propia conexión propietaria de Microsoft, Xbox Wireless, que mejora los estándares de Wireless y BT.
Por tanto, llegados a este punto, usar un adaptador oficial de Microsoft quizás SI podría mejorar la latencia, yo pillaría uno en Amazon y si no mejoras pues lo devuelves.