Guck dir dazu auch mal javax.swing.ImageIcon an. http://java.sun.com/j2se/1.5.0/docs/api/javax/swing/ImageIcon.html
Das ist quasi das Icon, welches dem JButton zugeordnet wird. Brauchst eventuell nur noch den Text des JButtons verschieben, wenn du bspw. eine Grafik ohne Text auf dem JButton bringst.
Wenn dir das nicht gefällt geht auch ein JLabel.