Japon bahçelerinde genellikle şu ağaçlar bulunur: 1. Akçaağaç: Renk ve formuyla dikkat çeker, havuz kenarlarında kullanılır. 2. Japon kiraz ağacı (Sakura): Baharın müjdecisi olarak bilinir, kutsal kabul edilir. 3. Karaçam: Her daim yeşil kalan ağaçlardan biridir. 4. Hosta: Gölgeli alanlarda yetişen bir bitkidir. 5. Alev ağacı: Dekoratif amaçlı kullanılır. Ayrıca, bambu ve yosunlar da Japon bahçelerinin önemli bitkilerindendir.