Lähelle Toilan kunnan nykyistä keskustaa perustettiin Pühajõen kartano 1600-luvun alussa. 1897 sen osti kesäasunnokseen venäläinen suurliikemies Grigori Jelisejev, joka oli oman aikansa rikkaimpia kauppiaita ja liikemiehiä koko Venäjällä. Jelisejev rakennutti vanhan kartanon tilalle Gavril Baranovskin suunnitteleman upean palatsin terassimaisine puistoineen.

72 hehtaarin suuruinen puisto rakennettiin 1899–1902 kuuluisan riikalaisen puistoarkkitehdin Georg Kuphaldtin suunnitelmien mukaan. Kauniisti kohti meren rantaa terassimaisesti laskeutuvasta puistosta, jonka pinta-ala nykyisin on 105 hehtaaria, kasvaa 270 eri puu- tai pensaslajia, mikä tekee siitä koko Viron runsaslajisimman puiston. Alueen halki virtaa Pühajõgi. Puistosta pääsee polkua ja portaita pitkin aina merenrantaan saakka, mistä löytyy hyvä uimaranta.

Vuonna 1935 virolaiset liikemiehet lahjoittivat palatsin puistoineen presidentti Konstantin Pätsille. Heti vuonna 1935 palatsi kunnostettiin Olev Siinmaan ja Roman Koolmarin suunnitelmien mukaan presidentin kesäasunnoksi. Saksalaiset sotilaat räjäyttivät palatsin 1944. Palatsin perustukset on kunnostettu ja muokattu osaksi kaunista puistomaisemaa.