第一印象は 「サーバ上のソースファイルを編集」というところで、何かありそうだなと思いました。
次に思ったのは、.NET Fameworkのバージョンが違うのかなということです。

「サーバ上のソースファイル」というのがどういう状況で格納されているのかわかりませんが、ソースファイル(繰り返しますが「ソースファイル」です。)一式があるのであれば、ローカルのフォルダーにコピーしてから、Visual Studio 2019で対象の vbproj (または csproj?) からプロジェクトを開いていみると改善される可能性があるなと思いました。(もしWebアプリケーションではなく、Webサイトだとしたら、このあたりどういう扱いだったか自信がないです)
ASP.NETは実行されるまでに多段階のコンパイルが行われるので、おっしゃっているソースファイルというのは、実際のところ編集可能なソースファイルではない可能性ももあるなと思っています。

.NET Frameworkのバージョンの方は Visual Studio 2019を使用されているということなので問題なさそうにも見えますが、正常なパソコンとエラーになるパソコンでVisual Studioも含めてバージョンを比較してみるというのは１つの基本的な確認事項だと思います。