Shapefileは、1個または複数の頂点座標で表される点、線、面によって地物をモデル化する「ベクターデータ」用のフォーマットです。
一方、GeoTIFFは、一定の矩形領域について、縦横に等間隔で分割した小さな区画(セル)に値を与えることによって、領域の各部分の地形や色などを表現する「ラスターデータ」用のフォーマットです。
GeoTIFFフォーマットのファイルにはラスター形式のジオメトリデータしか書き込めませんが、そこに、Shapefileファイルから読み込んだベクターデータを書き込もうとしたため、そのエラーが生じたのだと思われます。
FMEは、ベクター同士またはラスター同士の単純なファイルフォーマット変換であれば、リーダー -> ライターだけで十分なことが多いのですが、ベクター->ラスター、ラスター->ベクターのように、データ構造が全く異なるフォーマットの間の変換を行うには、リーダーとライターの間にデータ構造を変換するためのトランスフォーマーを挿入したワークスペースを作成する必要があります。
どのトランスフォーマーを使うべきかは、データの内容と目的に応じて異なります。
例えば、ベクターを画像として表現する場合には、次のどちらかが使えます。
・FeatureColorSetter で色を定義した後、ImageRasterrizer
・MapnikRasterizer
3Dポイントの集合をDEMラスターにするならば、RasterDEMGenerator または NumericRasterizer が使えます。
その他、これも参考になるかも知れません。
<Safe Software パートナーとして>
差し支えない範囲でShapefileサンプルデータと、それをどのようなラスターデータに変換したいのかの説明を送っていただければ、ワークスペース例を作成いたします。