Dimitri, lo que se podrá hacer es jugar giras con cada instrumento en el caso de que los tengas todos y quieras jugar tú solo; vamos, como si fuera la gira del Guitar Hero normal, solo que podrás elegir hacerla con la guitarra, con el bajo, con la batería o con el micro en las distintas dificultades. Si por defecto, viene un colega y se pone con otro instrumento, cada uno podreis elegir uno y hacer giras en coop u online con esos dos o en el caso de tenerlos todos, ir alternando con los que querais, mientras que el resto que no useis, sonaran solos.
Es obvio que será necesario tener cada instrumento si deseas jugar con él, salvo excepciónes como la guitarra o el bajo, ya que servirá con tener dos guitarras X-Plorer para usarlas según convenga. En el caso de las guitarras de la PS2 en PS3, no te podría decir, ya que al no tenerlas no he podido probar su compatibilidad, pero casi seguro que la del GH 3 sí que valdrá en Rock Band.