So spontan würde ich ganz klassisch ein BoderLayout wählen. Das teilt das Pane in fünf Zonen auf. NORTH, SOUTH, dazwischen noch WEST, CENTER und EAST. Einfach mal googeln.
Wenn das JScrollPane ins CENTER gestellt wird, kämen die Buttons nach WEST. Damit die Buttons schön gleichmäßig übereinander stehen, kann WEST ein GridLayout hinzugefügt werden, welches mit nur einer Spalte definiert wird.
So würde ich es zumindest machen, bin aber auch nicht der Frontend-Profi. (Eigentlich bin ich gar kein Profi im IT-Sektor😆)
Prinzipel ist es aber nicht unüblich, verschiedene Layouts zu kombinieren.