こんにちは
エラーはアンファミさんがおっしゃるとおり、ファイル名かパスに日本語が入っているので発生したのだと思います。
動作確認をしてみました
試しに画面からキャプチャした画像を白黒2値にしてから、仮の座標をあててQGISに取り込み。

これにr.to.vectを使用。

使ってみた感想としては、ご要望のことを実現するのは結構ハードルが高いことだと思いました。
まず、ノイズを少なくするために事前にPhotoshopで画像処理をしました。もしかするとr.thinもかける必要があるかもしれません。
そして私の出力はラインで行ったもので、ポリゴンとして出力・整形するのにはさらに試行錯誤が必要です。
このツールに精通した方は少ないと思いますので、問題発生時には自己解決していくという強い覚悟が必要だと感じました。
このままだと諦めてくださいというのと同じなので、代替案が無いかも考えてみました。
このような図面を取り扱うのであれば、ご自身あるいは周りでCADはお使いになられますでしょうか?
CADでもラスタからベクタに変換するツールがあると思います。
変換・整形してからCADからDXFで出力して、Dxf2ShpコンバータでQGISに取り込むという手段もあると思います。