Tanto executar createdb quando primeiro logar no banco de dados pelo psql e depois executar create database são comandos válidos.
A dúvida inicial do nosso amigo, diz respeito ao padrão de caracteres que o console do postgres está tentando utilizar, é diferente do padrão de caracteres do windows (windows-1252) que aparece na mensagem.
Para logar no console do banco. psql use o comando psql -U postgres postgres.
Ou para criar diretamente
createdb -U postgres nome_banco descricao
Para tirar suas dúvidas de quais parametros utilizar na hora de conectar ou de criar um banco de dados. Utilize createdb --help ou psql --help.
--
Fábio J. Walter
Analista e desenvolvedor
Cascavel - Paraná