Es que depende mucho de lo que quiera. Si lo que quiere es programar un jueguecillo para ver como va por dentro, con una librería como allegro le basta y le sobra, que además es a nivel más alto que SDL con un montón de funciones de dibujado, sonido, teclado y ratón.
Si lo que quiere es conocer la estructura de un videojuego desde abajo lo suyo es pillarse los tutoriales de opengl y hacerlos todos. Así conocerá como funciona el juego desde lo más básico que es dibujar un triángulo hasta los shaders.
Si lo que quiere es crear un juego pero no tener que lidiar con un motor y centrarse exclusivamente en el diseño, lo mejor es unity, ya que es sencillo, completo, y portable. Y para tener que perder el tiempo aprendiendo a manejar otras herramientas, aprende a usar una herramienta profesional.