Cuando hayas usado el método de Gauss debes fijarte en la última fila que te queda, si no estoy mal es:
0 0 1 | (5a+2b-3c)/11
Ahora, para que el sistema tenga infinitas soluciones lo que debe pasar con esta fila es que todos sus elementos deben ser cero, pero si te das cuenta, es imposible que todos sus elementos sean cero ya que sin importar que valores tomen a,b y c el tercer elemento siempre será uno.
Para que el sistema no tenga solución lo que debe pasar es que el tercer elemento tome el valor de cero cuando el cuarto elemento tome cualquier otro valor que no sea cero, ya que esto equivaldría a decir
0 = 5 por ejemplo si se escogen a, b y c de forma que de como respuesta 5
lo cual no es cierto, por lo tanto el sistema no tendría solución. Pero de igual forma que para las infinitas soluciones, sin importar que valores tomen a, b y c el tercer elemento siempre va a ser 1.
Para que el sistema tenga única solución tanto el tercer como cuarto elemento pueden tomar valores cualquiera, siempre que no pasen los dos casos anteriores.
Entonces el sistema tiene única solución para cualquier valor que tomen a, b y c.
Entonces podemos concluir que el sistema tiene única solución para cualquier valor de a, b y c. No existen valores para a, b y c para los cuales el sistema tenga infinitas soluciones o no tenga solución.
No se si me haya dado a entender bien, si te quedo alguna duda me puedes consultar de nuevo.