Bom... o texstudio, ou qualquer outra interface que utilize, tenta executar um comando quando pedimos a ele pra compilar.
No caso do TexMaker, que eu uso, quando peço pra compilar por pdflatex, ele vai chamar via comando a sintaxe 'pdflatex -shell-escape -synctex=1 --enable-write18 -interaction=nonstopmode %.tex', onde no "%.tex" ele usará o arquivo tex que pediu pra compilar. Tal sintaxe você vê nas opções da interface que está utilizando (assim como outras e mais comandos, atalhos, etc).
Vejo algumas possibilidades, mas antes procure nas opções algo como "restaurar configurações padrões/de fábrica". Execute ela e depois tente compilar. ('TexStudio -> Options -> Restore default settings' se estiver em inglês)
Se não funcionar, algo abaixo pode lhe ajudar.
Possibilidades que eu vejo:
-- Não há nenhuma sintaxe identificada no compilador em questão (pdflatex, xelatex, etc). Daí iria nas opções e colocaria a sintaxe correta.
--Ou não há os programas pedidos instalados (no caso, o pdflatex, o xelatex, ou outro que se chame)
--Ou o programa chamado pra compilar não está listado no PATH do windows, utilizado pra encontrá-lo quando o chama via prompt de comando, que é o que a interface faz.
Eu indicaria desinstalar tanto o texstudio quanto o miktex. Após, instalar primeiro o MikTex (e vendo se existe alguma opção como "adicionar no PATH do sistema" durante a instalação - mas acho que ele faz isso naturalmente. Após isso, instalar o texstudio.