非標準関数である showModalDialog と showModelessDialog は完全にサポートされません。これらの関数のブラウザ駆動の実装は、Internet Explorer の実装と完全互換ではありません。特にこのようなダイアログで重い JavaScript ページがロードされると関数が正しく機能しない可能性があります。
このような場合には、GUI レベル テストを使用してみてください。