GLは描画支援ライブラリなので、演算速度そのものは高速化しません。
ゲーム用の描画フレームワークの提供が本来の目的なので、高速化はアルゴリズムの最適化に頼られます。
また、GL自体がなでしこベースなので、演算や処理能力はなでしこと各CPUに依存します。
なでしこの演算速度は正確ではありませんが、10万回の演算程度なら1秒未満で片付くと思います。
勿論、環境によるためこれは最高値に近いので問題は残りますが、描画を凝らなければ演算に多く時間を回せますし、
今回に限って言えば一回のループを16msecに抑える必要もないので時間だけを見ればかなり余裕なのではないでしょうか。
また、AIフェーズのみ計算させるのではなく、ユーザーが考えている間や、ターン変更のエフェクト等の再生中もAIに思考させることはできます。
こうして分割することで長い演算もスタック無しで処理することができます。
兎にも角にも、実際に一度作ってみて、駄目であればLUAに移植する という方針では駄目なのでしょうか?
また、最初から圧倒的に時間が足りないと感じるのであれば、素直になでしこを諦めるというのも手ではあります。
あるいは別言語にも移植できるようにLUAで書き、インターフェースのみなでしこから提供する という手段もあります。
これの場合は、なでしこで無理だった場合にLUAスクリプトを別言語に載せれば容易に移植ができます。
手軽な文法で演算速度に優れている言語では、Ruby+SDLや、Java+OpenGL,HSP+WinAPI等、様々です。
御存知の通り、演算速度の優れないなでしこを、あえて使う意義 というものをしっかりさせてからゲームを作ってみるのが良いかと思います。