javascript + AJAX...
passando o nome da função ou controller por parametro , e ele retorna o resultado ou sobre escreve o html...
tem XAJAX , mas usei muito pouco, pode ser com jQuery que te facilitaria a vida...
mas fora isso acho que não fica "Viavel", abrir pop-ups ao click em botão não é lá muito amigável...
imagina um sistema inteiro feito assim, pega um usuario comum que ão sabe desabilitar o bloquiador de pop-ups, e já era, sistema não funciona...
pense nisso, e estude um pouco de AJAX+PHP é facinho.