A escolha da tecnologia depende de você olhar primeiro o que você quer fazer e quanto recurso possui (tempo, dinheiro, etc).
Se você quer criar um jogo em 3D ou em 2D com mil efeitos gráficos, não será possivel com andengine. Mas se quer criar algo estilo plataforma, angry birds ou como a maioria dos jogos casuais pra mobile ela é mais do que suficiente.
AndEngine é uma engine, então tem muita coisa já pronta, é mais rápido e seguro de desenvolver. Libgdx é um framework, ou seja, você vai ter que construir muita coisa de baixo pra cima. Se você tem necessidade disso para o seu projeto, vá em frente, mas se não tiver você só estará reinventando a roda.
Abs,
Rodrigo Dias.