第一印象で高DPIの問題かなと思いました。
試しているフォントサイズは10とか12ポイントなどではなく、かなり大きいフォントサイズでしょうか？

フォントサイズ400ポイントでPictureBoxで試してみましたが、確かに同じ400ポイントの「あ」をWordで表示したときに比べてぎざぎざが目立ちます。

Private Sub PictureBox1_Paint(sender As Object, e As PaintEventArgs) Handles PictureBox1.Paint

    Dim f As New Font("ＭＳ 明朝", 400, FontStyle.Regular)

    e.Graphics.DrawString("あ", f, Brushes.Red, 10, 10)

End Sub

.NET Frameworkの終盤のアップデートではWindowsフォームの高DPI対応が一つのテーマになっており、かなり機能強化されたようですが、WPFなどと比べると万全ではないようです。
高DPI対応のアプリケーション作成については私は詳しくなく、下記の記事を参照してみてください。

Windows フォームでの高 DPI サポート
https://docs.microsoft.com/ja-jp/dotnet/framework/winforms/high-dpi-support-in-windows-forms

High DPI Desktop Application Development on Windows
https://docs.microsoft.com/ja-jp/windows/win32/hidpi/high-dpi-desktop-application-development-on-windows

.NET Framework の新機能
https://docs.microsoft.com/ja-jp/dotnet/framework/whats-new/

高DPIの問題ではない可能性もあります。たとえば、使用されているフォントに収録されていないサイズを使って印刷しようとしているかもしれません。この場合ソフトウェアの機能で、フォントを拡大縮小して印刷することになると思いますが、Wordに搭載されている拡大縮小ロジックが優れていて、対応していないサイズを滑らかに見せているのかもしれません。

同じことはサイズではなく、太字や斜体にも言えます。太字や斜体が収録されていないフォントで太字や斜体で印字しようとするとソフトウェアによる変換が行われます。
(※ただ、この変換はWindowsでやっているかもしれません。Wordはワープロであり、文字のきれいさは売りの１つだと思うので独自の処理をやっている可能性はあるのではなかと推測します。)

フォントに収録されているサイズや書体はWindowsフォルダーのFontフォルダーでFontファイルをダブルクリックするとわかります。

MS 明朝 標準を見ていると私の環境では収録されている最大サイズは 72 です。
ダブルクリックするとフォントビューワーでサンプル文字が表示されますが、このサンプルよりWordの方が滑らかで、VBはフォントビューワーと同じぎざぎざ具合でした。

なかなか難しい問題かもしれません。