インストーラの嫌な挙動

更新したJDKのうち、Windows XPに入れたJDK7u2のインストーラが気持ちの悪いことを。
%USERPROFILE%ディレクトリ直下に自分勝手なディレクトリを作成して70MBファイルを放り込んでいる。
作るなら直下ではなくApplication DataなりLocal Settings\Application Dataなりにしてほしいと思う。
いきなりディレクトリが増加していて混乱したし、何より操作中の目の邪魔になる。
たかだか70MB程度なので容量の問題ではなく、作られた場所自体が問題であり、
できれば移動するなり削除したいのだが、実際にやってしまうと後から文句を言われそうで実行に移せない。