まずは、ＳＰＹ＋＋や、互換機能の、プログラムで、そのウィンドを調べてみてください。
そこで、ウィンドハンドルや、ウィンド名が取得できれば、判別が可能です。
ウィンド上のオブジェクトも、コントロール名が取得できれば、
外部から操作が、可能な場合もあります。
それらで、取得できるという事は、何らかの方法があるという事ですよね？
’
面倒だったり、工夫が必要な部分は、ＯＳや、．ＮＥＴが管理していますので、
ＯＳや、．ＮＥＴについて勉強してください。
場合によっては、Windows-APIでの方が、簡単な場合もあります。
’
>タスクに表示されないウィンドウですが
曖昧な表現です。
タスクバーに表示されないだけなのか？
＝タスクマネージャの、アプリケーションタブに表示されないだけなのか？
それとも、
プロセスタブに表示されないのか？→ステルスウィルスや、過去ＳＯＮＹのＣＤで使われましたねぇ。
’
>他のアプリ内の新しいウィンドウが開かれた時に
>そのウィンドウ名を取得するような事は可能でしょうか？
その瞬間に判別したいのか、それとも、？
瞬間であれば、Windowsの管理を横取りする事になります。→ＶＢだと難しいかも。
　　興味があるのであれば、Windows　フック、Windows　フック　書換　で、調べてください。
　　ウィルスチェッカが、何故Windowsのファイルシステムより前に、ファイルをチェック出来るのかの
　　答えの一部です。
瞬間でなく大まかでよければ、プログラムで定期的に、
ウィンドハンドルから調べて行く方法が取れます。