ryuuri 曰く、

http://java.sun.com/j2se/をみると、Java 1.4 が available になっているようです。
http://java.sun.com/j2se/1.4/ja/download.html から、ダウンロードできるます。（ただし、今は http ダウンロードすると index.htmlを取ってきてしまうようです）
Java Web Start がバンドルされている等、面白いそうな機能が加わって嬉しくもあるのですが、こう、たびたびバージョンが上がるのは、品質面で不安なものがありますね。