もう本当に暇つぶしで行くのなら、
新宿湘南ラインで倉賀野まで行って、八高線で南下。
運賃は一緒ですし、高崎線内はグリーン車利用も良いですね。

時間がある場合、八王子経由で八高線ですね。

自分でしたら、埼京線～川越線（川越乗り換え）で高麗川に行くと思います。
指扇～南古谷間にある川越車両センターを横目に見られますので。

ちょっと遠回りになりますが、新宿から中央特快で八王子に出て、八高線で向かうのはいかかでしょう？
八高線は4両編成ですが、始発ですので着席機会もあるかと思います。

新宿に19時台にいるのなら、平日は19時40分発の通勤快速武蔵五日市・高麗川行き、土休日は19時32分発の快速武蔵五日市・高麗川行きに乗れば1本で行けますね。ちなみに、前寄りの4両が高麗川行きとなります。

自分が乗ったことのない車両を使うルートです。JR最短距離乗車。

新宿から新宿３丁目までメトロ丸ノ内線(メトロ2000系)
新宿３丁目から飯能までメトロ副都心線・西武有楽町線・西武池袋線(西武S-TRAIN40000系)
飯能から東飯能まで西武池袋線(西武30000系)
東飯能から高麗川までJR八高線(209系3100番台元りんかい線70-000形)

ただS-TRAINは土休の運行で本数もないので、それ以外ならＦライナー利用になりますね。

JRのみのルートだと、新宿－八王子(中央線あずさE353系)、八王子－高麗川(八高線)で乗り換え１回のコースになります。E353系もまだ乗ったことないので。