MKVEXTRAQCT_GUI es meramente un programa FrontEND, es decir, la ventana y botones comunes de windows, el MKVEXTRACT del MKVToolNix es un programa por linea de comandos, por ello es que requiere el FrontEND para hacer mas sencillo su uso.
Debes ir a la carpeta donde estan los archivos del MKV ToolNix -mmg.exe. mkvextract.exe, etc.- y ahi colocas el archivo "MKVextractGUI.exe". Ahora cuando lances el MKVExtract_GUI ya no aparecera el mensaje de error.
Por cierto, no confundas los accesos directos con los archivos que representan.