Чтобы изменить UI дизайн, нужно использовать UIManager.setLookAndFeel пример:

Код:
import javax.swing.*;
import java.awt.*;

public class LookFeel extends JFrame {
  public LookFeel() {
    setTitle("Look & Feel"); // Заголовок окна "Look & Feel"
    setSize(640, 480); // Размер окна 640x480
    setLayout(new GridLayout(3, 1)); // Лейаут сетка 
    JButton btn = new JButton("Test"); // Кнопка с надписью Test
    JButton btn2 = new JButton("Test2"); // Кнопка с надписью Test2
    JTextField fld = new JTextField(); // Поле
    add(btn); // Добавляем кнопку1
    add(fld); // Добавляем поле
    add(btn2); // Добавляем кнопку2
    try {
      UIManager.setLookAndFeel("com.sun.java.swing.plaf.motif.MotifLookAndFeel"); // UI дизайн
    } 
    catch(Exception e) { }
    setDefaultCloseOperation(JFrame.EXIT_ON_CLOSE); // При нажатие на "x" выходим
    setVisible(true); // Отображаем окно
  }

  public static void main(String[] args) {
   new LookFeel(); // Запуск
  }
}