> （１）windowsのテキストファイルやメディアプレイヤーなどにプラグインのように機能を追加することは
> 　　　基本的にVBではできないのですよね。

テキストエディタ（メモ帳）じゃなく？
受け入れ側が対応してなければ他の言語でも無理じゃね？
メディアプレイヤーならプラグイン作成可能では。

> 　　　でもwindowsのソースコードがわかればそれは可能なのでしょうか？

ソースコードかどうかじゃないと思う。

> （２）windows　APIは公開されてますが、windouwsのソースコードは非公開だと思いますが
> 　　　その理由は？

マイクロソフトに聞くほうが早いかと。
ぶっちゃけ、ソースをそのままコンパイルされて使われたら稼げないと思いますが。