仮訳: 「このフォーマットはバンドごとのNodata定義はサポートしていません。最初に見つかったNodata値'255'をデータセット全体のNodata値として使用します。もしこれが望ましくないならば、バンドごとに分解し、それぞれにNodata値を設定して複数のデータセットを作成するか、または、Nodata値の定義を削除することを検討してください。」
ImageRasterizer で定義されたNodataセルのRGB値は 1,1,1 (255, 255, 255)で、そのAlphaバンドは0です。つまり、バンドによってNodata値が異なります。
GeoTIFFはバンドごとに異なる Nodata値の定義をサポートしないので、最初に見つけたNodata値(255)を全体のNodata値として採用するよ、という警告ですね。
おっしゃるように、「Fill Background with Nodata」をNoにして、Nodata定義をしない方が良いかも知れません。
あるいは、もし、データとして黒色 (0,0,0) がないならば、Background Color を (0,0,0) すれば、全てのバンドのNodata値が 0 に統一されるので、「Fill Background with Nodata」をYesにしても、警告なしにNodata定義がGeoTIFFに反映されると思います。
(参考)基盤地図情報DEM --> 標高階層区分別に色分け(Nodata は透明) --> KML
