Unas aclaraciones:
MKVToolNix es un pquete de aplicaciones, MKVExtract y MKVMERGE serian el software que extrae los streams de un archivo MKV y MKVMerge/MKVMerge_GUI es el software que crea -multiplexa- archivos MKV.
Para no tener problemas debes bajar el MKVToolNix mas el MKVextract_Gui_v2.2 [v2.2.2.9], descomprimes el MKVToolNix esn una carpeta y el MKVExtract_GUI_V2 en la misma tarjeta, de tal manera que el archivo "ExtractGUI2.exe" y el "mkvextract.exe" esten en el mismo lugar. Ahora si deberias poder extraer solo el archivo de subtitulo.
Si el archivo es un archivo SubRip [*.srt] puedes abrirlo con el bloc de notas, vas al menu File>Guardar como.., en la opcion codificacion eliges ANSI o UTF-8 y guardas.