Thiết kế sân vừon Nhật Bản dựa trên ba nguyên tắc sau: tỉ lệ thu nhỏ, chủ nghĩa tượng trưng và quang cảnh vay mượn. Sân vườn được thu lại theo một tỉ lệ nhỏ đại diện cho quang cảnh và những địa điểm nổi tiếng trong một không gian nhỏ và đẹp. Cảnh đồi núi và sông được thu nhỏ lại bằng cách dùng đá, cát và sỏi. Chủ nghĩa tượng trưng được sử dụng hầu hết trong mỗi sân vườn Nhật Bản. Cát hay sỏi được cào tạo ra dáng những con sông, một khối đá và đá cuội có thể biểu tượng cho những hòn đảo nhỏ. Vay mượn cảnh quan nghĩa là sử dụng thu nhỏ một cảnh quan và cây trồng đã tồn tại để bổ sung cho sân vườn. Thiết kế sân vườn làm theo cách này cũng có nghĩa là một phong cảnh hiện hữu sẽ là phần của thiết kế chung.

Có vài kiểu mẫu khác nhau trong thiết kế sân vườn Nhật Bản