Los dientes de sierra vienen de la consola, no los mete el cable. Que se vean más o menos depende del juego (si tiene antialiasing para suavizar los bordes o no), de la resolución que uses y del monitor (que tenga buenos filtros de imagen, tenga los valores de contraste y nitidez bien configurados, etc.).
Irónicamente, gracias a que HDMI es digital, el mejor de los cables sólo te servirá para ver los dientes de sierra tal cual fueron concebidos por sus creadores sin pérdida de calidad xDD
Lo de que se ve distinto con componentes, VGA o HDMI suele depender de que las teles aplican configuraciones distintas por defecto para cada entrada, en cuanto tocas los parámetros puedes llegar a verlos igual.