I primi giardini giapponesi furono quelli creati per il piacere degli imperatori e dei nobili. Sono citati in diversi brevi passaggi di Nihon Shoki, la prima cronaca della storia giapponese, pubblicata nel 720 d.C..
Nella primavera dell'anno 74 d.C. la cronaca recitava: "L'imperatore Keiko ha fatto mettere alcune carpe in uno stagno, felice di vederle al mattino e alla sera".
L'anno successivo c'era scritto: "L'imperatore ha fatto mettere una barca a doppio scafo nello stagno di Ijishi a Ihare, è andato a bordo con la sua concubina imperiale ed hanno banchettato insieme sontuosamente".
Mentre nella cronca del 486: "L'imperatore Kenzo andò in giardino e banchettò a bordo di una barca in un ruscello".
Il giardino cinese ha avuto un'influenza molto forte sui primi giardini giapponesi. Nel 552 d.C. circa il buddismo è stato portato ufficialmente dalla Cina attraverso la Corea, in Giappone.
Tra il 600 e il 612 l'imperatore giapponese ha inviato quattro delegazioni alla corte della dinastia cinese Sui.
Tra il 630 e il 838, la corte cinese ha inviato quindici altre delegazioni alla corte della dinastia Tang.
Queste delegazioni, con più di cinquecento membri tra cui: diplomatici, studiosi, studenti, monaci buddisti e traduttori, hanno importato in Giappone la scrittura cinese, molti oggetti d'arte e descrizioni dettagliate di come erano fatti i giardini cinesi.
Nel 612, l'imperatrice Suiko aveva un giardino costituito da una montagna artificiale che rappresentava il Shumi-Sen, o Monte Sumeru, ritenuto dagli indù ed i buddhisti il centro del mondo.
Durante il regno di Suiko, uno dei suoi ministri ministri, Soga No Umako, aveva costruito nel suo palazzo un giardino con un lago e numerose piccole isole, che rappresentano le isole dei famosi Otto Immortali delle leggende cinesi e della filosofia taoista.
Il palazzo, quando divenne di proprietà degli imperatori giapponesi, venne chiamato Il Palazzo delle Isole, ed fù menzionato più volte nella Man'yōshū, (Collezione di Foglie Innumerevoli), la più antica collezione di poesie giapponesi.
Che per gli storici rappresenta un punto fondamentale tra le poche testimonianze letterarie ed archeologiche di questo periodo.