@johvannylm
Creio seja possivel fazer no QGIS, inclusive considerando remanso, que pode ser significativo.
Uma ideia seria:
1- gerar um DTM da cota maxima, ou curva de inundacao, com mesmo tamanho de pixel do DTM de fundo.
2- gerar o diferenca em relacao ao DTM de fundo.
3- calcular a area de cada celula e multiplicar pela diferenca de altura dos DTMs.
existem diversos plugins no QGIS para modelamento hidraulico. Pode ver se algum ja faz isso.
[]s